Brojni su stručnjaci zabrinuti zbog prenaglog razvoja sustava temeljenih na umjetnoj inteligenciji. Donosimo scenarije u kojima bi se čovječanstvu zbog toga moglo crno pisati.
Posljednjih mjeseci umjetna inteligencija je toliko brzo napredovala da su vodeći istraživači potpisali otvoreno pismo pozivajući na hitno zaustavljanje njenog razvoja i strožu regulaciju, strahujući da bi tehnologija mogla predstavljati duboke rizike za društvo i čovječanstvo.
O kakvim se rizicima radi? Evo pregleda pet načina na koje umjetna inteligencija može uništiti svijet.
Postanemo li manje inteligentni, nestat ćemo
U povijesti Zemlje više puta se dogodilo da su pametnije vrste izgurale ostale sa scene. Mi ljudi smo to radili drugim vrstama, ali isto se može dogoditi i nama.
Trik je u tome da vrsta kojoj prijeti brisanje često nema pojma zašto joj se to događa i kako. Ipak, postoje neke naznake toga. Recimo, pojedine vrste istrijebili smo u potrazi za resursima.
Ako imate strojeve koji kontroliraju planet, a oni su zainteresirani za puno računanja i žele povećati svoju računalnu infrastrukturu, prirodno je da za to žele resurse koje i mi koristimo. Usprotivimo li se, postajemo štetočina i smetnja.
Šteta koju radi umjetna inteligencija već je katastrofa svoje vrste
Ostane li stanje stvari kakvo jest, moćne tvrtke nastavit će razvijati i implementirati umjetnu inteligenciju na načine koji su široj javnosti nevidljivi i nejasni.
Štete koje nam umjetna inteligencija nanosi događaju se već sad svaki dan. Primjerice, korištenjem moćne algoritamske tehnologije za posredovanje u našim međusobnim odnosima te između nas i institucija.
Algoritmi koji se koriste za, recimo, pružanje socijalne pomoći nerijetko diskriminiraju korisnike koji su siromašni ili marginalizirani. Također lažno optužuju ljude za zločine, određuju hoće li ljudi dobiti smještaj u javnim stanovima, automatiziraju provjeru životopisa i intervjue za posao…
Svaki dan te štete predstavljaju egzistencijalne rizike, ponajprije na račun ranjivih pojedinaca i skupina. Potrebno je osnažiti i ubrzati istraživačku agendu koja odbacuje štetu kao neizbježan nusprodukt tehnološkog napretka.
Može nam željeti smrt, ali i poticati postupke koji bi nas mogli usput ubiti
Umjetna inteligencija mogla bi nas poželjeti ukloniti kako ne bismo stvorili druge s kojima bi se natjecala. Također, možda će htjeti raditi stvari koje bi uništile život na Zemlji kakav poznajemo.
Na primjer, izgraditi toliko elektrana koje pokreću nuklearnu fuziju – jer oceani obiluju vodikom – da oceani proključaju. Ili bi, u dovoljno naprednom obliku, mogla izgraditi mali molekularni laboratorij, u kojem bi proizvodila i potom oslobađala smrtonosne bakterije.
Prije no što će se sama moći obračunati s nama, za te bi svrhe mogla koristiti ljude. Već su zabilježeni slučajevi u kojima je umjetna inteligencija lagala u odgovorima na izravna pitanja o svojoj prirodi.
Učinit će nas suvišnima
Može se očekivati da će modeli umjetne inteligencije u sve većoj mjeri preuzimati zadaće koje danas obavljaju ljudi. S vremenom će to biti sve češća pojava jer su sustavi umjetne inteligencije jeftiniji i brže rade.
U takvom scenariju ljudi koji se ne oslanjaju na umjetnu inteligenciju postaju nekonkurentni.
Uz takvu vrstu oslanjanja, mogli bismo brzo završiti u položaju današnje djece: svijet je za neku djecu dobar ili loš, ali to uglavnom ovisi o tome postoje li odrasli uz njih koji djeluju u njihovom interesu ili ne.
U takvom bi svijetu umjetna inteligencija imala puno poluga na koje bi se mogla osloniti jer bi – na ovaj ili onaj način – upravljala policijom, vojskom i najvećim tvrtkama, izmišljala tehnologije i razvijala politiku.
Društvo treba prostora i vremena da bi se naviklo i prihvatilo svaki pojedini stupanj razvoja umjetne inteligencije.
Pustošenje
Najlakši scenarij koji se može zamisliti je onaj u kojem osoba ili organizacija namjerno koristi umjetnu inteligenciju kako bi izazvala pustoš. Zasad ona nema takav kapacitet, ali to nije nezamislivo za desetak godina.
Tim više što u takvom razvoju situacije umjetna inteligencija ne mora djelovati samostalno. Iako ni razvoj vlastitih ciljeva u sklopu sustava umjetne inteligencije nije mogućnost koju treba tek tako otpisati.
A to itekako može poći po zlu za čovječanstvo i svijet u cjelini, pogotovo ako stvorimo – slučajno ili namjerno – sustav s nagonom za preživljavanje, prenosi tportal.
