Sigurnost umjetne inteligencije postala je jedno od rijetkih pitanja oko kojeg su se složili vodeći ljudi najvećih AI kompanija. Čelnici OpenAI-a, Anthropica, Mete, Google DeepMinda i Microsofta potpisali su otvoreno pismo kojim pozivaju američki Kongres na uvođenje dodatnih zaštitnih mjera za nabavu sintetske DNK i RNK.
Prema njihovim upozorenjima, umjetna inteligencija donosi velike koristi za znanost i medicinu, ali istodobno može smanjiti prepreke koje su dosad otežavale razvoj biološkog oružja.
Zabrinutost zbog razvoja biološkog oružja
Potpisnici ističu da se AI sustavi ubrzano razvijaju. Zbog toga postoji mogućnost da zlonamjerni pojedinci lakše dođu do znanja potrebnog za stvaranje opasnih bioloških prijetnji.
Riječ je o području koje znanstvenici već dugo promatraju kroz koncept istraživanja dvojne namjene. Takva istraživanja imaju legitimnu znanstvenu svrhu, ali se mogu zloupotrijebiti i predstavljati prijetnju javnom zdravlju ili nacionalnoj sigurnosti.
Kako umjetna inteligencija mijenja rizike
Dodatnu zabrinutost izazivaju rezultati testiranja javno dostupnih AI modela. Stručnjaci su otkrili da pojedini chatbotovi mogu generirati detaljne informacije povezane s nabavom i korištenjem potencijalno opasnih bioloških materijala.
Neki modeli davali su prijedloge za širenje bioloških agenasa, dok su drugi rangirali uzročnike bolesti prema mogućoj gospodarskoj šteti. Pojedini sustavi čak su pružali detaljne informacije o stvaranju virusa koji je u prošlosti izazvao pandemiju.
AI kompanije naglašavaju da njihovi alati uglavnom koriste javno dostupne informacije te da novije verzije uključuju dodatne sigurnosne mehanizme. Ipak, zabrinutost stručnjaka i dalje raste.
Prijedlog jedinstvenih nacionalnih pravila
U pismu se predlaže uvođenje nacionalnog standarda za provjeru narudžbi sintetske DNK. Potpisnici smatraju da bi dobavljači trebali provjeravati narudžbe koje sadrže osjetljive genetske sekvence te potvrđivati identitet i legitimnost kupaca prije isporuke.
Također predlažu vođenje evidencije narudžbi kako bi se u slučaju zlouporabe lakše provele istrage povezane s biosigurnošću.
Među potpisnicima nalaze se Sam Altman iz OpenAI-a, Dario Amodei iz Anthropica, Demis Hassabis iz Google DeepMinda, Alexandr Wang iz Mete i brojni drugi tehnološki lideri.
Sigurnost umjetne inteligencije kao zajednički prioritet
Potpisnici poručuju da je ovo jedan od rijetkih trenutaka u kojem su se konkurentske AI kompanije usuglasile oko zajedničkog cilja. Smatraju da bi zakonodavci trebali brzo djelovati kako bi se smanjili potencijalni rizici.
Autori pisma zaključuju da je riječ o „rijetkom trenutku slaganja među dionicima koji su često u sukobu“. Upravo zato smatraju da je sigurnost umjetne inteligencije pitanje koje zahtijeva hitnu i odlučnu reakciju regulatora.
Izvor: INC.; prijevod i prilagodba: financa.ba
Prilikom preuzimanja obvezno navesti izravni link na članak.
