Bill Gates želi razgovarati s kineskim predsjednikom Xi Jinpingom o pitanju koje postaje veće od tehnološke utrke dviju supersila: postoje li sposobnosti umjetne inteligencije koje jednostavno ne bismo smjeli pustiti u svijet?
Susret pokušava dogovoriti za studeni, a njegova je pretpostavka zanimljiva. Kako prenosi Reuters, ako bi SAD prvi ograničio objavljivanje potencijalno opasnih AI modela, Gates vjeruje da bi Kina mogla učiniti isto.
To bi bio početak nečega što danas praktično ne postoji – međunarodnog sustava za regulaciju umjetne inteligencije na razini njezinih najopasnijih sposobnosti.
Gates ne traži zaustavljanje razvoja umjetne inteligencije. Traži granicu preko koje AI ne bi smio prijeći bez međunarodnog nadzora.
AI više nije samo utrka
Posljednjih nekoliko godina rasprava o umjetnoj inteligenciji uglavnom se vrtjela oko toga tko će napraviti najbolji model, privući najviše kapitala i osigurati dovoljno čipova i podatkovnih centara.
SAD i Kina pritom su AI pretvorili u stratešku utrku.
Gates sada otvara drukčije pitanje: što ako postoje područja u kojima pobjednik te utrke zapravo ne postoji?
Cyber napad koji može automatizirati AI ne zaustavlja se na granici države koja ga je razvila. Isto vrijedi za model sposoban pomoći u stvaranju opasnog biološkog agensa.
Zato Gates želi da države prate sposobnost AI-ja da dizajnira molekule i potencijalno sudjeluje u biološkim napadima. Takav nadzor, tvrdi, ne bi morao zaustaviti legitimni razvoj industrije.
U svom novom prijedlogu za međunarodno upravljanje umjetnom inteligencijom Gates ide i korak dalje: želi instituciju koja bi preuzela elemente modela korištenih za nuklearne inspekcije, sigurnost međunarodnog zrakoplovstva i globalne sporazume o zaštiti ozonskog omotača.
Ideja je jednostavna. Tehnologija je globalna, pa bi i pravila za njezine najopasnije sposobnosti morala prijeći nacionalne granice.
Provedba je mnogo teža.
Nuklearna tehnologija može se brojati, AI se može kopirati
Usporedba s nuklearnim nadzorom zvuči privlačno upravo zato što za njega već postoji međunarodni sustav.
Ali AI ima problem koji nuklearna tehnologija nema.
Centrifuge, reaktore i zalihe nuklearnog materijala moguće je fizički pregledati. Model umjetne inteligencije može se kopirati i distribuirati gotovo bez troška.
Čak i kada bi Washington i Peking dogovorili da određena sposobnost predstavlja neprihvatljiv rizik, ostaje niz težih pitanja.
Tko određuje granicu? Tko testira modele? Kako provjeriti njihove stvarne sposobnosti? Hoće li SAD dopustiti kineskim stručnjacima uvid u svoje najnaprednije modele – i obrnuto?
A što se događa kada jednom objavljen model postane dostupan tisućama korisnika?
Kod AI-ja možda neće biti najteže dogovoriti pravila. Najteže će biti dokazati da ih svi poštuju.
Gates više ne govori samo o budućim opasnostima
Njegova zabrinutost nije nastala samo zbog hipotetičke superinteligencije.
Posljednjih mjeseci AI sustavi OpenAI-ja, Anthropica i Mete tijekom sigurnosnih testiranja pokazali su sposobnost kompromitiranja stvarnih web stranica. Gates je takve incidente opisao kao nešto što bi javnost trebalo ozbiljno shvatiti.
Tu se rasprava bitno mijenja.
Ne govorimo više samo o tome što bi AI mogao napraviti za deset ili dvadeset godina. Govorimo o sposobnostima koje se pojavljuju sada, od sigurnosnih prijetnji i biološkog dizajna do manipulacije korisnika i zamjene ljudskog rada.
Gates je i ranije upozoravao na rizike, ali njegov je ton bio znatno optimističniji.
Prije nekoliko godina govorio je o svijetu u kojem bi nam umjetna inteligencija mogla omogućiti radni tjedan od samo tri dana.
Danas ide mnogo dalje.
Trebamo li neke poslove jednostavno ostaviti ljudima?
Jedna od najzanimljivijih Gatesovih ideja uopće se ne odnosi na cyber sigurnost ili biologiju.
Odnosi se na posao.
Gates smatra da bi društvo moglo odlučiti rezervirati i do 40 posto današnjih poslova za ljude, čak i ako ih AI jednog dana bude sposoban obavljati.
Kao primjer navodi skrb koju je njegov otac primao dok je bolovao od Alzheimerove bolesti. Za Gatesa je ljudski element takve skrbi nezamjenjiv.
To otvara pitanje koje ekonomija dosad uglavnom nije morala postavljati: treba li svaki posao koji se može automatizirati doista i automatizirati?
Zdravstvo, obrazovanje, skrb o starijima i niz drugih djelatnosti mogli bi nas prisiliti da odredimo gdje želimo automatizaciju, a gdje ljudski kontakt ima vrijednost koju produktivnost ne može izmjeriti.
Ako AI zamijeni rad, tko financira društvo?
Gates otvara i drugo pitanje.
Što ako umjetna inteligencija počne zamjenjivati dovoljno velik broj ljudi da sadašnji porezni i socijalni sustavi više ne funkcioniraju kao prije?
Jedna od ideja koju razmatra jest oporezivanje prihoda kompanija koje koriste AI output za zamjenu ljudskog rada, a prikupljeni novac mogao bi financirati društvenu sigurnosnu mrežu.
Ideja podsjeća na njegov raniji prijedlog oporezivanja robota, samo što bi se sada porez odnosio na ekonomsku vrijednost koju AI stvara zamjenjujući ljudski rad.
Pitanje postaje posebno važno ako dobit od AI-ja bude koncentrirana među malim brojem kompanija, dok trošak prilagodbe snose milijuni radnika.
Zašto regulacija umjetne inteligencije traži SAD i Kinu
Europa je s AI Actom otišla najdalje u formalnoj regulaciji umjetne inteligencije. Dio novih pravila već se primjenjuje i na najmoćnije general-purpose modele.
Ali Gates govori o nečemu ambicioznijem.
Europska unija može odrediti uvjete pod kojima kompanija smije ponuditi AI na europskom tržištu. Ne može sama spriječiti američki ili kineski laboratorij da razvije određenu sposobnost.
Zato su SAD i Kina presudni za bilo kakvu globalnu regulaciju umjetne inteligencije.
Problem je što Washington AI istodobno vidi kao pitanje nacionalne sigurnosti i tehnološke konkurencije s Pekingom. Tražiti od SAD-a da prvi ograniči određene sposobnosti znači tražiti od njega da povuče kočnicu upravo u trenutku kada želi biti prvi.
Kina ima isti problem.
Obje sile mogu imati zajednički interes spriječiti katastrofalnu zloupotrebu AI-ja, ali nijedna ne želi riskirati da druga iskoristi njezinu suzdržanost.
Upravo tu će se vidjeti koliko je Gatesova ideja realna.
Granica se mora povući prije nego što je tehnologija prijeđe
Gates nije postao protivnik umjetne inteligencije.
Njegova zaklada upravo AI koristi u zdravstvu i drugim područjima, a on i dalje vjeruje da tehnologija može snažno povećati produktivnost i poboljšati život milijuna ljudi.
Promijenilo se nešto drugo.
Više ne polazi od pretpostavke da će tehnološki napredak i tržište sami pronaći prihvatljivu ravnotežu.
Ako AI može pomoći u razvoju biološkog oružja, autonomno provoditi cyber napade ili toliko promijeniti tržište rada da društva moraju odlučivati koje poslove žele sačuvati za ljude, pitanje više nije samo koliko brzo tehnologija napreduje.
Pitanje je tko određuje gdje mora stati.
Gates odgovor pokušava pronaći između Washingtona i Pekinga.
Jer jednom kada određena sposobnost AI-ja postane dostupna svima, povlačenje granice moglo bi biti prekasno.
