Nalazimo se na pragu “unosnog, ali problematičnog novog tržišta digitalnih signala namjere”. Od kupnje ulaznica za koncerte ili kino do glasovanja za političke kandidate, tvrde etičari s Cambridgea.
U bliskoj budućnosti možemo očekivati AI pomoćnike koji predviđaju i utječu na naše donošenje odluka u ranoj fazi. Te “namjere” u stvarnom vremenu prodaju kompanijama koje mogu zadovoljiti naše potrebe i prije nego što mi donesemo ikakvu odluku, tvrde etičari umjetne inteligencije sa Sveučilišta u Cambridgeu, prenosi Bug. Nalazimo se, kažu oni, na pragu “unosnog, ali problematičnog novog tržišta digitalnih signala namjere”.
Sve to dobilo je i ime: Što je Intention Economy, odnosno ”ekonomija namjere”.
Još neviđene sposobnosti
Yaqub Chaudhary i Jonnie Penn tvrde da eksplozija generativne umjetne inteligencije i naša sve veća povezanost s chatbotovima otvaraju nove mogućnosti raznim “tehnologijama uvjeravanja”. Razni “antropomorfni” AI agenti, od chatbot pomoćnika do digitalnih učitelja i djevojaka, imat će pristup golemim količinama intimnih psiholoških podataka i podataka o ponašanju, često prikupljenih putem neformalnog razgovora. Ova umjetna inteligencija, kažu, kombinirat će znanje o našim online navikama s neobičnom sposobnošću da nam se prilagodi oponašanjem osobnosti i predviđanjem željenih odgovora. Sve ovo kako bi se izgradile razine povjerenja i razumijevanja koje omogućuju društvenu manipulaciju na industrijskoj razini.
“Ono što ljudi govore tijekom razgovora, kako to govore i vrsta zaključaka koji se kao rezultat toga mogu izvesti u stvarnom vremenu daleko su intimniji od pukih zapisa online interakcija”, tvrde istraživači koji upozoravaju da se AI alati razvijaju za “izvođenje, zaključivanje, prikupljanje, bilježenje, razumijevanje, predviđanje i konačno manipuliranje i komodificiranje ljudskih planova i svrha”.
Motivi kao nova valuta
“Ako se ne regulira na vrijeme, ekonomija namjera tretirat će vaše motive kao novu valutu. Bit će to zlatna groznica za one koji ciljaju, upravljaju i prodaju ljudske namjere”, kažu istraživači u radu koji objavljuje Harvard Data Science Review. “Trebali bismo razmotriti utjecaj koje bi takvo tržište imalo na ljudske težnje. Uključujući slobodne i poštene izbore, slobodni tisak i pošteno tržišno natjecanje, prije nego što postanemo žrtve neželjenih posljedica.”
U ekonomiji namjera, veliki jezični modeli ili LLM mogu se koristiti za ciljanje politike, rječnika, dobi, spola, online povijesti. Čak i za preferencija za dodvoravanje korisnicima, pišu istraživači. Najavljuju pojavu posredničkih mreža ua prikupljanje informacija uz čiju će se pomoć lakše doći do zadanog cilja, poput prodaje karata za koncert ili kino. “Spomenuli ste da ste prezaposleni. Mogu li vam rezervirati onu ulaznicu o kojoj smo razgovarali? ” Sve to moglo bi uključiti i usmjeravanje razgovora u službi određenih platformi, oglašivača, kompanija pa čak i političkih organizacija, tvrde istraživači.
Kako se velike kompanije pripremaju na promjene
Ekonomija namjere trenutno je tek “težnja” tehnološke industrije, no istraživači jasno uočavaju prve nagovještaje velikih tehnoloških igrača. OpenAI otvoreno poziva na prikupljanje “podataka koji izražavaju ljudsku namjeru… U bilo kojem jeziku, temi i formatu”, Shopify chatbotove vidi kao sredstvo otkrivanja namjera korisnika. Nvidia govori o korištenju LLM-a za utvrđivanje namjera i želja. Meta još 2021. objavila Intentonomy, skup podataka za razumijevanje ljudskih namjera. Appleov App Intents za povezivanje aplikacija sa Sirijem uključuje protokole za predviđanje radnji koje bi netko mogao poduzeti u budućnosti. Žele sugerirati namjere aplikacije nekome u budućnosti koristeći predviđanja koja daju programeri.
Uostalom, podsjećaju istraživači, AI agenti kao što je Metin CICERO dosegli su ljudsku kvalitetu igranja u igri “Diplomacy”. Ona ovisi o zaključivanju i predviđanju namjere i korištenju uvjerljivog dijaloga za unapređenje vlastitog stava.
“Ove kompanije već prodaju našu pozornost. Logičan sljedeći korak je korištenje tehnologije za predviđanje naših namjera i prodaju naših želja prije nego što uopće u potpunosti shvatimo što one jesu”. Najavljuju istraživači koji upozoravaju na destruktivan potencijal takvog razvoja događaja. “Javna svijest o onome što dolazi ključ je da ne krenemo krivim putem.”
