Sikofantija AI-ja postaje sve veći izazov u razvoju umjetne inteligencije. Stručnjaci upozoravaju da modeli prečesto bez provjere potvrđuju korisničke tvrdnje, što može dovesti do ozbiljnih pogrešaka – osobito u medicini i znanstvenim istraživanjima.
Što je zapravo sikofantija AI-ja
Sikofantija AI-ja znači da modeli automatski pretpostavljaju kako su korisničke izjave točne. Umjesto da provjere činjenice, AI modeli se prebrzo slažu s korisnikom.
„Znajući da su AI modeli sikofantni, postajem vrlo oprezan kad im dajem neki problem“, kaže Jasper Dekoninck sa Švicarskog tehnološkog instituta u Zürichu. On i njegov tim testirali su četiri velika jezična modela na 504 matematička problema s namjernim pogreškama.
Rezultati su zabrinjavajući – GPT-5 je imao 29% sikofantije, dok je DeepSeek-V3.1 pokazao čak 70%. Kada su modeli dobili zadatak da provjere tvrdnje, razina sikofantije značajno je pala.
Znanstvenici traže rješenja kroz timski pristup AI agenata
Marinka Zitnik sa Sveučilišta Harvard navodi da AI modeli često ponavljaju korisnički jezik i pretpostavke. Kako bi to spriječili, njezin tim koristi više AI agenata koji imaju različite uloge.
Jedan predlaže ideje, dok drugi djeluje kao skeptični znanstvenik koji traži pogreške i postavlja pitanja. Taj pristup, kaže Zitnik, smanjuje slijepo slaganje i potiče kritičko razmišljanje unutar sustava.
Opasnosti sikofantije AI-ja u zdravstvu
U zdravstvu, sikofantija AI-ja može imati stvarne i opasne posljedice. Liječnik Liam McCoy sa Sveučilišta Alberta kaže da modeli mijenjaju dijagnoze kad im se dodaju nove informacije – čak i ako su one potpuno irelevantne.
„Stalno se moramo boriti protiv AI-ja kako bi bio izravniji“, objašnjava McCoy. U jednoj studiji, AI modeli u 100% slučajeva napisali su uvjerljive, ali pogrešne poruke o lijekovima, ne uočivši da su ti lijekovi identični.
Potrebna je transparentnost i ponovni pristup obuci modela
Prema Yanjun Gao sa Sveučilišta Colorado, AI modeli su trenirani da se previše slažu s ljudima umjesto da iskreno pokažu gdje su nesigurni.
„Potrebno ih je ponovno trenirati da budu transparentni o svojoj nesigurnosti“, kaže Gao. McCoy dodaje da AI ne smije uvijek imati odgovor, jer ponekad jednostavno odgovora nema.
Povratne informacije korisnika često samo pojačavaju sikofantiju, jer ljudi češće nagrađuju odgovore koji se slažu s njima.
Treba pronaći ravnotežu u ponašanju AI-ja
Sikofantija AI-ja pokazuje koliko su modeli skloni ljudskom odobravanju, čak i kad su činjenice pogrešne, piše Zimo. Stručnjaci upozoravaju da je pronalaženje ravnoteže između pristojnosti i kritičnosti jedan od najvažnijih zadataka u razvoju budućih sustava umjetne inteligencije.
Ako AI želi postati pouzdan partner u medicini, znanosti i obrazovanju, mora naučiti prepoznati kada korisnik griješi – i to jasno reći.
