AI regulacija ulazi u novu fazu. Jensen Huang, izvršni direktor Nvidije, pozvao je države G20 da ne donose pravila zbog teorijskih šteta koje se možda nikada neće dogoditi. Problem je što dio rizika umjetne inteligencije više nije teorijski.
Huangova poruka zvuči jednostavno: regulirajte konkretan problem kada se pojavi, umjesto da unaprijed ograničavate tehnologiju zbog onoga što bi jednog dana mogla napraviti.
Američka administracija kroz Carolina Principles zagovara sličan pristup. Postojeće zakone treba koristiti gdje mogu riješiti problem, a posebna pravila za AI uvoditi ondje gdje tehnologija stvara doista nove rizike.
Europa je krenula drugim putem. AI Act pokušava dio granica postaviti prije nego što nastane šteta.
Razlika je u trenutku kada pravilo treba početi djelovati.
AI regulacija više nije samo europsko pitanje
Huang je svoju poruku iznio na tehnološkom sastanku G20 u SAD-u, uz američkog ministra trgovine Howarda Lutnicka i predstavnike najvećih AI kompanija.
To je važnije od još jedne izjave tehnološkog milijardera. Washington pokušava svoj pogled na AI regulaciju pretvoriti u širi međunarodni princip: ne stvarati novi regulatorni sustav samo zato što je tehnologija nova.
Europa polazi od drukčije pretpostavke.
Njezina regulacija temelji se na riziku. Što AI sustav može imati ozbiljniji utjecaj na ljude i poslovanje, zahtjevi postaju veći.
Zato ovo nije jednostavan izbor između američke slobode i europske regulacije.
Pitanje je koliko dugo treba čekati dokaz problema ako posljedice pogreške mogu biti velike.
Čekati problem ima ekonomsku logiku
Huangov argument nije teško razumjeti.
Regulator koji pokušava predvidjeti svaku buduću opasnost može ograničiti tehnologiju prije nego što uopće zna koliko je problem stvaran.
Kompanija tada mora zadovoljiti pravila za rizik koji se možda nikada neće pojaviti. Trošak usklađivanja raste, razvoj usporava, a manje kompanije teže podnose dodatne troškove od velikih konkurenata.
Postoji i dublji problem.
Regulator danas donosi pravila za tehnologiju koja će sutra izgledati drukčije.
Upravo zato istraživanje Joshue Gansa o regulaciji umjetne inteligencije pokazuje da odgovornost nakon nastanka štete u određenim okolnostima može biti učinkovitija od zabrana unaprijed, posebno kada regulator još nema dovoljno informacija o stvarnom odnosu koristi i rizika nove tehnologije.
Ali zaključak nije da AI treba ostaviti nereguliranim. Optimalan pristup ovisi o koristi tehnologije, vjerojatnosti problema i veličini moguće štete.
Tu Huangova teza postaje složenija.
Kada teorijska šteta prestaje biti teorijska?
OECD već sustavno prati AI incidente, od diskriminacije i narušavanja privatnosti do sigurnosnih problema i prijevara. Razvio je i zajednički okvir za njihovo klasificiranje.
To mijenja raspravu.
Što imamo više podataka o stvarnim incidentima, teže je svaki budući rizik odbaciti kao teorijski.
No postojanje incidenta samo po sebi ne znači da svaki novi AI alat treba preventivno opteretiti istim pravilima.
Upravo tu počinje najteži dio regulacije: razlikovati problem koji tržište i postojeći zakoni mogu riješiti od rizika kod kojeg bi čekanje moglo biti preskupo.
Europa pokušava reagirati prije incidenta
Europski AI Act određene sustave ne promatra samo prema šteti koju su već napravili nego i prema potencijalnim posljedicama njihove uporabe.
Zato sustav koji preporučuje glazbu nije regulatorno isti problem kao AI koji može utjecati na zapošljavanje, kreditiranje ili pristup važnim uslugama.
Logika je jasna: kod malog rizika tržište može imati više prostora za eksperimentiranje. Kod mogućnosti velike štete cijena čekanja raste.
Tvornica ne čeka ozbiljnu nesreću da bi postavila sigurnosne procedure. Ali ni svaki poslovni proces ne tretira kao potencijalnu katastrofu.
Ista logika sve više ulazi u AI.
Ni tehnološka industrija nema jedan odgovor
Ni vodeći ljudi AI industrije ne slažu se potpuno oko mjesta na kojem treba povući granicu.
Huang upozorava na reguliranje teorijskih šteta, dok Demis Hassabis iz Google DeepMinda zagovara sigurnosna testiranja naprednih sustava.
Granica zato više nije jednostavno između tehnološke industrije i regulatora. Postoji i unutar same industrije.
Razlog je jednostavan. Nisu svi modeli, primjene i moguće posljedice isti.
A upravo ta razlika postaje važna kompanijama koje AI uvode u svakodnevno poslovanje.
Isto pitanje već postoji unutar kompanija
Velika regulatorna rasprava G20 može djelovati daleko od svakodnevnog poslovanja, ali kompanije već donose istu odluku u manjem opsegu.
Povezivanje AI-ja s internim podacima, automatiziranje odluka ili prepuštanje dijela procesa AI agentima traži različitu razinu kontrole ovisno o mogućoj posljedici pogreške.
AI koji pomaže oblikovati prezentaciju nema isti profil rizika kao sustav koji obrađuje osobne podatke, procjenjuje kandidata za posao ili donosi financijsku odluku.
Zato je važnije što AI može napraviti ako pogriješi nego sama činjenica da kompanija koristi AI. To postaje posebno važno kod najnaprednijih modela, gdje europski nadzor sve dublje ulazi u pitanje kako se AI modeli razvijaju, testiraju i kontroliraju, pa upravljanje modelom više nije samo tehnološko nego i regulatorno pitanje.
Najskuplje pravilo može doći prerano. Ili prekasno.
Ako regulatori pokušaju ukloniti svaki zamišljeni rizik prije nego što tehnologija sazrije, mogu usporiti inovaciju, povećati troškove i zaštititi upravo najveće kompanije koje najlakše mogu platiti usklađivanje.
Ali ako se pravilo može napisati tek nakon ozbiljne štete, prvi incident postaje cijena koju društvo plaća da bi regulator dobio dokaz.
Budućnost AI regulacije zato se vjerojatno neće odlučiti između dva ekstrema: regulirati sve unaprijed ili čekati da svaki problem prvo postane stvaran.
Pravo pitanje nije koliko AI-ja treba regulirati. Pravo pitanje je koliko velika mora biti moguća šteta da čekanje prestane biti razumna strategija.
