Generativni AI alati, poput ChatGPT-a, doprinose porastu lažnih recenzija, izazivajući poteškoće za potrošače i tehnološke platforme. Ovi alati omogućuju brzo i masovno generiranje lažnih recenzija, narušavajući povjerenje u online trgovinu i usluge. Stručnjaci i nadzorne skupine upozoravaju na eskalaciju problema zbog lakoće izrade uvjerljivih recenzija. Platforme poput Amazona već se godinama suočavaju s ovim izazovom, ali generativna umjetna inteligencija unosi nove složenosti.
Rastuća prijetnja lažnih recenzija
Lažne recenzije nisu nova pojava, no sada su postale sofisticiranije. Tradicionalno su se trgovale u privatnim grupama ili bile poticane nagradama poput kupona. Generativna umjetna inteligencija značajno je ubrzala i proširila njihovu proizvodnju. Maury Blackman, investitor u tehnološke startupe, ističe da su AI alati postali moćan alat za prevarante. Prema analizi Transparency Company, 14% od 73 milijuna recenzija u određenim sektorima smatra se lažnima. Oko 2,3 milijuna tih recenzija pokazuje jasne znakove korištenja umjetne inteligencije. Problem je posebno izražen tijekom blagdanskih kupovina, kada se oslanjanje na recenzije povećava.
Industrije pogođene lažnim recenzijama
Lažne recenzije generirane umjetnom inteligencijom pojavljuju se u raznim industrijama, uključujući e-trgovinu i medicinske usluge. Također su prisutne na platformama za aplikacije, promovirajući sumnjive ili zlonamjerne proizvode. Tvrtka DoubleVerify izvijestila je o porastu recenzija generiranih AI-jem koje potiču preuzimanje lažnih aplikacija. Te aplikacije često služe za krađu podataka ili prikazivanje agresivnih oglasa korisnicima. Detekcija takvih recenzija na platformama poput Amazona sve je izazovnija. Max Spero iz Pangram Labsa navodi da su recenzije često detaljne i uvjerljive, što otežava njihovo prepoznavanje.
Napori u rješavanju problema
Tehnološke tvrtke i platforme pojačavaju svoje aktivnosti kako bi zaštitile potrošače. Amazon i Trustpilot dopuštaju korištenje umjetne inteligencije za recenzije, ali samo ako odražavaju stvarna iskustva. Neke platforme zahtijevaju od korisnika pisanje potpuno originalnog sadržaja kako bi smanjile rizik od manipulacije. Organizacije poput Coalition for Trusted Reviews koriste umjetnu inteligenciju kako bi razvile napredne sustave za prepoznavanje lažnih recenzija. Koalicija uključuje vodeće tvrtke poput Amazona i Tripadvisora, s ciljem zaštite integriteta online recenzija.
Kako prepoznati lažne recenzije
Potrošači mogu uočiti lažne recenzije obraćanjem pažnje na određene obrasce. Prema Zimo Dnevniku, previše entuzijastičan ton i često ponavljanje naziva proizvoda mogu biti znakovi upozorenja. Recenzije generirane umjetnom inteligencijom često imaju strukturirani tekst i generičke fraze bez konkretnih detalja. Stručnjaci savjetuju izbjegavanje oslanjanja isključivo na pojedinačne recenzije i traženje konzistentnosti među njima. Međutim, studije poput one profesora Balázsa Kovácsa s Yalea pokazuju da korisnici teško razlikuju ljudske od AI-generiranih recenzija.
Generativna umjetna inteligencija donosi velike prednosti, ali i izazove, poput problema lažnih recenzija. Tehnološke platforme, regulatori i stručnjaci moraju surađivati kako bi zaštitili potrošače od ovih prijevara. Potrošači, s druge strane, trebaju biti svjesni rizika i koristiti dodatne izvore informacija prilikom donošenja odluka.
