Mark Zuckerberg smatra da za sigurnost AI-ja kompanijama ne treba zajednički dogovor o usporavanju razvoja. Konkurencija i pravna odgovornost, tvrdi, daju svakom laboratoriju dovoljno razloga da sam uspori kada procijeni da je to potrebno.
Time se direktor Mete razišao s Darijem Amodeijem iz Anthropica, koji je nekoliko dana ranije pozvao AI kompanije da uspore tempo kojim povećavaju sposobnosti najnaprednijih modela. Njegov poziv javno su podržali Sam Altman iz OpenAI-ja i Elon Musk iz xAI-ja.
Sporno je može li svaka kompanija sama odlučiti kada je vrijeme za usporavanje dok konkurenti nastavljaju razvijati sposobnije modele.
Zuckerberg računa na cijenu pogreške
Modeli i AI agenti kojima korisnici ne vjeruju teže će konkurirati pouzdanijim proizvodima, dok kompanija čiji sustav prouzroči štetu može snositi znatnu pravnu odgovornost.
Zuckerberg kao primjer navodi Metin AI agent Muse. Kompanija je ranije ove godine odgodila njegovo izdavanje kako bi dodatno ojačala sigurnost.
Meta Superintelligence Labs već koristi neovisne evaluatore u nekoliko područja, a Zuckerberg takvu provjeru smatra praksom koju i drugi laboratoriji mogu uvesti samostalno.
Zuckerberg očekuje i da će povjerenje i usklađenost postajati sposobnosti po kojima će se modeli i agenti razlikovati. Ako korisnici počnu birati AI i prema tome koliko mu mogu vjerovati, sigurnost AI-ja postaje dio tržišnog natjecanja.
Amodei vidi problem upravo u konkurenciji
Komercijalna utrka, prema Amodeijevu argumentu, može otežati samostalno usporavanje jer laboratorij koji povuče kočnicu ostavlja konkurentima prostor da nastave.
Njegov prijedlog nije opća obustava razvoja AI-ja. Amodei želi usporiti tempo kojim rastu sposobnosti najmoćnijih modela, posebno sada kada AI sve više sudjeluje u razvoju sljedeće generacije AI-ja. Sporiji tempo, smatra, dao bi sigurnosnim istraživanjima, testiranju i metodama usklađivanja više vremena da prate rast sposobnosti modela.
Važna je nijansa da ni Amodei ne odbacuje konkurenciju kao mogući poticaj sigurnosti. Anthropic je, piše, pokušavao pokazati da kompanija može istodobno poslovno uspjeti i sigurnost pretvoriti u područje u kojem se AI laboratoriji natječu. Sada smatra da to više nije dovoljno za tempo kojim napreduju najmoćniji modeli.
Njegov prvi korak ide dalje od uobičajene vanjske provjere. Amodei predlaže evaluatore s kontinuiranim pristupom alatima, procesima treniranja i informacijama sličnim onima koje imaju zaposlenici. Anthropic se već obvezao primijeniti takav model u vlastitom radu.
Drugi korak predviđa da vodeći laboratoriji u demokratskim državama dogovore zajedničke sigurnosne standarde i ograničenja tempa nekontroliranog napretka AI-ja.
Koliko se konkurenti smiju dogovarati?
Tu sigurnost AI-ja ulazi u područje antimonopolskih pravila.
Amodei smatra da bi za dio takve koordinacije američka vlada trebala posredovati ili omogućiti razgovore, uključujući usko antitrust izuzeće za određene sigurnosne teme.
Predsjednik američkog FTC-a Andrew Ferguson prema takvim je zahtjevima skeptičan. Upozorio je da regulatori trebaju pažljivo gledati kompanije koje istodobno traže nova pravila za AI i zaštitu od antitrust odgovornosti. Ferguson upozorava da bi regulacija mogla stvoriti prepreke koje štite postojeće velike igrače od konkurencije.
Istodobno, određena suradnja već je moguća bez takvog izuzeća.
OpenAI, Anthropic i Google DeepMind već nekoliko tjedana razgovaraju o suradnji na sigurnosti AI-ja bez posebnog antitrust izuzeća, objavio je Bloomberg pozivajući se na OpenAI-jeva Chrisa Lehanea. Reuters taj izvještaj nije neovisno potvrdio.
Spor zato nije oko toga smiju li konkurenti surađivati, nego dokle ta suradnja može ići. Razmjena sigurnosnih praksi nije isto što i dogovor najvećih laboratorija o tempu razvoja njihovih najmoćnijih modela.
Gdje Meta troši većinu računalnih resursa
Zuckerberg kaže da Meta „značajnu većinu“ računalnih resursa usmjerava prema proizvodima za neposredne potrebe korisnika, a ne prema sustavima za rekurzivno samopoboljšavanje AI-ja.
To je relevantno jer Amodei upravo u ubrzavanju razvoja AI-ja pomoću AI-ja vidi jedan od razloga zbog kojih postojeći sigurnosni postupci mogu početi zaostajati za sposobnostima modela.
Muse pokazuje da Meta može samostalno odgoditi proizvod zbog sigurnosti. Otvoreno ostaje teže pitanje: bi li laboratorij usporio razvoj svojeg najmoćnijeg modela ako zna da konkurent neće?
Autor: financa.ba
Prilikom preuzimanja obvezno navesti izravni link na članak.
