Google, Microsoft i xAI pristali su dijeliti neobjavljene verzije svojih AI modela s američkom vladom kako bi se procijenili potencijalni sigurnosni rizici prije njihovog lansiranja.
AI modeli i kibernetička sigurnost tako postaju jedno od najvažnijih pitanja tehnološke industrije i nacionalne sigurnosti.
Novi sporazum dolazi u trenutku kada vlade sve ozbiljnije upozoravaju da napredni AI sustavi mogu promijeniti način na koji se provode cyber napadi, digitalna špijunaža i zaštita kritične infrastrukture.
Američka vlada želi raniji nadzor AI sustava
Partnerstvo uključuje Centar za standarde i inovacije u području umjetne inteligencije unutar američkog Ministarstva trgovine.
Njegov zadatak bit će procjena novih AI modela prije njihove javne objave.
Centar će analizirati potencijalni utjecaj tehnologije na nacionalnu sigurnost, javnu sigurnost i kibernetičku otpornost države.
Prema pisanju CNNa, institucija će provoditi i dodatna istraživanja nakon što modeli budu pušteni u javnu upotrebu.
Do sada je već završeno više od 40 evaluacija različitih AI modela.
Direktor centra Chris Fall izjavio je da su neovisna i rigorozna znanstvena mjerenja ključna za razumijevanje napredne umjetne inteligencije i njezina utjecaja na nacionalnu sigurnost.
Dodao je da proširena suradnja s tehnološkim kompanijama dolazi u ključnom trenutku za javni interes.
Anthropicov model otvorio novo pitanje sigurnosti
Dodatni pritisak na američku administraciju pojavio se nakon predstavljanja AI modela Mythos kompanije Anthropic.
Tvrtka tvrdi da je riječ o modelu koji je znatno napredniji od konkurencije kada je riječ o kibernetičkoj sigurnosti.
Upravo je to izazvalo zabrinutost među državnim institucijama, bankama i komunalnim kompanijama.
Prema informacijama iz industrije, Mythos je posljednjih tjedana potaknuo rasprave unutar Bijele kuće o mogućem uvođenju formalnog sustava revizije za najnaprednije AI modele.
Anthropic zasad odbija javno objaviti model i pristup omogućuje samo ograničenom broju odobrenih organizacija.
Kompanija je također predstavila mogućnosti sustava visokim dužnosnicima američke vlade.
AI više nije samo tehnološko pitanje
U posljednjih godinu dana umjetna inteligencija postala je pitanje nacionalne infrastrukture i sigurnosti.
Napredni modeli danas mogu analizirati ranjivosti sustava, automatizirati cyber napade ili ubrzati obranu digitalne infrastrukture.
Zbog toga vlade pokušavaju dobiti raniji pristup tehnologijama koje bi mogle imati velik sigurnosni utjecaj.
OpenAI je prošlog tjedna također objavio da će svoje najnaprednije AI modele staviti na raspolaganje provjerenim razinama vlasti radi bržeg odgovora na prijetnje povezane s umjetnom inteligencijom.
Sigurnosni rizici mijenjaju odnos država i tehnoloških kompanija
AI modeli i kibernetička sigurnost sada postaju područje u kojem se briše granica između privatnog tehnološkog sektora i državnih institucija.
Kompanije koje razvijaju najnaprednije AI sustave više nisu samo tehnološke firme. One postaju dio sigurnosne infrastrukture država.
To otvara i novo pitanje.
Koliko će vlade u budućnosti imati utjecaja na razvoj umjetne inteligencije prije nego što takvi modeli postanu javno dostupni?
