Samo nekoliko dana nakon predstavljanja svojih najnaprednijih AI modela, Anthropic se našao u središtu poteza koji je šokirao tehnološku industriju.
Američko Ministarstvo trgovine naložilo je kompaniji da obustavi korištenje modela Fable i Mythos za strane korisnike, pozivajući se na nacionalnu sigurnost i potencijalne kibernetičke rizike. Prema informacijama koje prenosi Financial Times, kompanija je dobila svega 90 minuta za usklađivanje s naredbom.
Ovo nije samo priča o jednoj AI kompaniji. Ovo je prvi ozbiljan test koliko daleko američka vlada može i želi ići u kontroli najmoćnijih modela umjetne inteligencije.
Još važnije, slučaj otvara pitanje koje zabrinjava investitore, tehnološke tvrtke i vlade diljem svijeta: tko zapravo odlučuje kada je umjetna inteligencija previše moćna za javnu upotrebu?
Sigurnosni problem ili politička poruka?
Formalni razlog za intervenciju bio je potencijalni “jailbreak” identificiran tijekom testiranja modela Fable.
Riječ je o tehnici kojom se mogu zaobići zaštitni mehanizmi modela i dobiti informacije koje sustav ne bi trebao otkrivati. Problem su navodno prvi identificirali istraživači Amazona, koji su svoja saznanja podijelili s Anthropicom.
No, stručnjaci upozoravaju da takvi problemi nisu specifični za jednu kompaniju.
Gotovo svi vodeći AI modeli danas imaju određeni stupanj ranjivosti na različite oblike jailbreak tehnika.
Zbog toga mnogi u industriji postavljaju pitanje zašto je upravo Anthropic postao meta regulatorne intervencije.
Posebno zato što se slične mogućnosti mogu demonstrirati i na modelima konkurentskih kompanija, uključujući OpenAI i Google.
Helen Toner, bivša članica uprave OpenAI-ja i stručnjakinja za sigurnost umjetne inteligencije, upozorila je da je gotovo nemoguće potpuno eliminirati jailbreak ranjivosti.
To znači da bi se isti kriterij potencijalno mogao primijeniti na gotovo svaki napredni AI sustav koji danas postoji.
Sukob koji traje mnogo duže od jednog modela
U pozadini cijelog slučaja nalazi se mnogo dublji sukob.
Anthropic se posljednjih godina profilirao kao jedna od kompanija koja najglasnije upozorava na sigurnosne rizike umjetne inteligencije.
Njegov izvršni direktor Dario Amodei među najistaknutijim je zagovornicima strožeg nadzora nad razvojem sve moćnijih modela.
Istovremeno, kompanija je ušla u niz nesuglasica s američkim sigurnosnim strukturama oko pitanja vojne uporabe umjetne inteligencije, autonomnih sustava i državnog nadzora.
Prema navodima Financial Timesa, Pentagon je čak označio Anthropic kao potencijalni rizik za nacionalni sigurnosni opskrbni lanac, što je kompanija osporila.
Takva pozadina dodatno pojačava sumnje dijela industrije da aktualna odluka možda nije isključivo tehničke prirode.
Posebno nakon što je američki ministar obrane Pete Hegseth javno komentirao slučaj, podsjećajući da je Pentagon ranije prekinuo suradnju s Anthropicom.
Novi regulatorni presedan za cijelu industriju
Daleko najvažnija posljedica ove odluke nije privremena obustava jednog modela.
Pravi problem je regulatorni presedan.
Do sada su američke vlasti uglavnom zagovarale tržišno orijentiran pristup razvoju umjetne inteligencije.
Administracija je više puta isticala važnost inovacija i globalne konkurentnosti u utrci protiv Kine, dok su regulatorne intervencije bile ograničene.
Ovaj slučaj pokazuje nešto novo.
Washington je prvi put demonstrirao spremnost da praktično zaustavi distribuciju naprednog AI sustava nakon njegova javnog lansiranja.
Takav potez mogao bi značajno promijeniti ponašanje investitora i tehnoloških kompanija.
Ako tvrtke ne mogu predvidjeti regulatorne odluke, povećava se rizik razvoja najnaprednijih modela.
A veći rizik gotovo uvijek znači i skuplji kapital.
Problem za investitore koji ulažu milijarde
Odluka dolazi u trenutku kada se utrka za razvoj umjetne inteligencije pretvara u jednu od najvećih investicijskih priča desetljeća.
Amazon je u Anthropic uložio oko 13 milijardi dolara.
Microsoft je investirao desetke milijardi dolara u OpenAI.
Google razvija vlastite modele kroz DeepMind i Gemini platformu.
Meta ulaže rekordne iznose u razvoj vlastite AI infrastrukture.
U takvom okruženju regulatorna neizvjesnost postaje ozbiljan poslovni problem.
Investitori mogu prihvatiti tehnološki rizik.
Mogu prihvatiti tržišni rizik.
Ali mnogo teže procjenjuju politički rizik koji može preko noći zaustaviti proizvod u koji su uložene milijarde dolara.
Upravo zato ovaj slučaj pažljivo prate fondovi rizičnog kapitala, institucionalni investitori i najveće tehnološke kompanije na svijetu.
Europska unija upozorava na diskriminatorni pristup
Zanimljivo je da je zabrinutost stigla i iz Bruxellesa.
Europska komisija priznala je da napredni modeli poput Fablea i Mythosa mogu predstavljati sigurnosni izazov, ali je istodobno upozorila da eventualne zaštitne mjere ne bi smjele diskriminirati međunarodne partnere.
To je važna poruka.
Europa posljednjih godina razvija vlastiti regulatorni okvir za umjetnu inteligenciju kroz AI Act, nastojeći pronaći ravnotežu između inovacija i sigurnosti.
Američki pristup temeljen na izvoznim kontrolama mogao bi otvoriti dodatne napetosti između saveznika upravo u trenutku kada Zapad pokušava zadržati tehnološku prednost nad Kinom.
Pitanje koje će odrediti budućnost AI industrije
Anthropic će vjerojatno pronaći tehničko rješenje za trenutačni problem.
Jailbreak ranjivosti mogu se ublažiti, iako ih je gotovo nemoguće potpuno eliminirati.
No ono što ostaje jest mnogo važnije pitanje.
Tko će u budućnosti odlučivati kada je umjetna inteligencija dovoljno sigurna za javnu upotrebu?
Ako odluku budu donosile isključivo tehnološke kompanije, kritičari upozoravaju na nedostatak nadzora.
Ako odluku preuzmu vlade, postoji opasnost od političkog utjecaja na razvoj tehnologije.
Slučaj Anthropica pokazuje da se svijet približava trenutku u kojem umjetna inteligencija više neće biti samo tehnološko ili poslovno pitanje.
Postaje pitanje nacionalne sigurnosti, geopolitike i globalne raspodjele moći.
A upravo zbog toga odluka Washingtona protiv Anthropica mogla bi ostati upamćena kao jedan od prvih velikih regulatornih sukoba u eri napredne umjetne inteligencije.
