Pet bilijuna podatkovnih točaka u jednom upitu.
Toliko je, prema tvrdnjama njegovih tvoraca, uspio obraditi novi model američke kompanije Accelerated Understanding. To je oko pet milijuna puta više od konteksta koji tipično mogu obraditi vodeći modeli Googlea i Anthropica.
Ali brojka nije najzanimljiviji dio priče. Ovaj AI nije napravljen da bolje razgovara. Napravljen je da predviđa što će se dogoditi u fizičkom svijetu.
Ako takav pristup uspije, sljedeća velika AI utrka možda se neće voditi oko toga koji model bolje govori. Vodit će se oko toga koji bolje razumije kako se ponašaju materijali, temperatura, tlak, vrijeme, strojevi i energija.
Pet bilijuna podataka, ali to nije najvažnije
Accelerated Understanding osnovali su Anima Anandkumar i Benedikt Jenik, dvoje istraživača kojima su ranije ponuđene vodeće uloge u AI projektu Prometheus Jeffa Bezosa.
Umjesto toga osnovali su vlastitu kompaniju.
Njihov model tijekom testiranja radio je s kontekstom većim od pet bilijuna podatkovnih točaka u jednom prolazu. Reuters tu količinu slikovito uspoređuje s istodobnim čitanjem približno pet milijuna primjeraka Tolstojeva Rata i mira.
U usporedbi s današnjim velikim jezičnim modelima razlika izgleda golema.
Ali to ne znači da je model Accelerated Understandinga pet milijuna puta „pametniji“ od Claudea ili Geminija. Jezični modeli obrađuju tokene, dok ovaj sustav obrađuje goleme skupove prostorno-vremenskih podataka.
Važna je druga stvar: arhitektura omogućuje modelu da istodobno prati vrlo velik broj promjena kroz prostor i vrijeme.
U fizičkom svijetu upravo je to presudno.
ChatGPT predviđa riječ. Ovaj AI pokušava predvidjeti svijet
Veliki jezični modeli poput ChatGPT-a uglavnom su izgrađeni na transformer arhitekturi. Uče obrasce u golemim količinama podataka i, pojednostavljeno, procjenjuju što bi trebalo doći sljedeće.
Accelerated Understanding krenuo je drugim putem.
Njegova tehnologija temelji se na neuronskim operatorima, području strojnog učenja na kojem Anandkumar i njezini suradnici rade godinama.
Umjesto da uči samo odnose između pojedinačnih podataka, neural operator pokušava naučiti kako se cijeli sustav mijenja.
Zamislimo širenje topline kroz novi materijal. Nije dovoljno znati temperaturu na jednoj točki. Model treba razumjeti kako će se toplina širiti, kako će se ponašanje mijenjati tijekom vremena i što će se dogoditi promijenimo li temperaturu, oblik ili svojstva materijala.
Isto načelo može se primijeniti na strujanje zraka oko krila aviona, kretanje oluje, tlak u turbini ili ponašanje materijala u računalnom čipu.
Najveća vrijednost mogla bi biti cijena pogreške
Tu priča postaje poslovno zanimljiva.
AI već može vrlo brzo generirati nove ideje, nacrte i dizajne. Fizički svijet ostaje spor.
Možemo generirati tisuću mogućih dizajna čipa. Netko ih ipak mora simulirati, testirati, proizvesti prototip i provjeriti što se događa pri različitim temperaturama i opterećenjima.
Accelerated Understanding želi skratiti upravo taj dio procesa.
Jedna od mogućih primjena njihove tehnologije je razvoj računalnih čipova. Umjesto velikog broja pokušaja i pogrešaka, model bi mogao predvidjeti kako će promjena materijala, temperature ili drugih parametara utjecati na performanse.
Proces bi tada izgledao drukčije:
ideja → AI simulacija → promjena dizajna → nova simulacija → najbolji kandidat → fizičko testiranje.
Ako AI može odbaciti stotine loših rješenja prije nego što stignu u laboratorij, njegova najveća vrijednost možda neće biti u tome što nešto stvara, nego u tome što smanjuje cijenu pogreške.
Tehnologija nije nastala preko noći
Accelerated Understanding jest nova kompanija. Neuronski operatori nisu nova ideja.
Anandkumar, profesorica na Caltechu i bivša vodeća AI istraživačica u Nvidiji, godinama radi na njihovoj primjeni u znanosti i inženjerstvu.
Jedan od poznatijih primjera je FourCastNet, model za vremensku prognozu razvijen u suradnji s Nvidijom. Pokazao je da se ovaj pristup može koristiti za vrlo brzo stvaranje globalnih vremenskih prognoza.
Anandkumar i njezini suradnici nastavljaju razvijati tehnologiju, a Caltech neuronske operatore istražuje za rješavanje složenih fizičkih problema, uključujući dinamiku fluida. Caltech navodi da je njihov pristup u jednom takvom zadatku postigao i do tisuću puta brže rješavanje od tradicionalnih metoda.
Accelerated Understanding sada pokušava tu znanstvenu ideju pretvoriti u poslovnu platformu.
Čipovi su samo jedan mogući početak. Kompanija vidi primjene u robotici, predviđanju ekstremnih vremenskih prilika i analizi geoloških podataka za energetske kompanije.
Zato zasad ne cilja milijune potrošača. Cilja kompanije kojima jedna bolja simulacija može vrijediti milijune dolara.
Bezos je želio isti tim
Koliko industrija ozbiljno shvaća ovaj smjer pokazuje i ono što je prethodilo osnivanju kompanije.
Prema Reutersu, Anandkumar i Jeniku ponuđene su vodeće uloge u Project Prometheusu, AI projektu iza kojeg stoje Jeff Bezos i Vik Bajaj.
Odbili su ponudu i pokrenuli vlastitu kompaniju.
Prometheus je u međuvremenu prikupio milijarde dolara i također razvija AI za projektiranje i proizvodnju složenih fizičkih sustava.
To više ne izgleda kao usamljeni eksperiment.
Sljedeća granica AI-ja je fizički svijet
Industrija koristi različite nazive i pristupe: physical AI, world models, AI for science. Nisu sinonimi i ne pokušavaju riješiti potpuno isti problem.
Accelerated Understanding razvija specifičan pristup: AI modele koji izravno rade s fizičkim podacima kako bi naučili simulirati i predviđati ponašanje složenih sustava.
Zajednički smjer ipak je jasan. AI više ne bi trebao samo prepoznavati obrasce u tekstu, slici ili videu. Trebao bi predviđati što će se dogoditi kada se nešto promijeni u stvarnom svijetu.
Taj pomak već je vidljiv u robotici i autonomnim sustavima. Autonomna vozila dobar su primjer koliko se zadatak mijenja kada AI više ne obrađuje samo informacije, nego mora donositi odluke u prostoru među ljudima, vozilima i drugim preprekama.
Kod industrijskih AI modela zahtjevi mogu biti još veći.
Nije dovoljno nacrtati aerodinamičnu turbinu. Model mora predvidjeti što će se s njom dogoditi pri temperaturi, tlaku i vibracijama koje postoje u stvarnom stroju.
Ako takvi AI modeli postanu dovoljno pouzdani, mogli bi za projektiranje, istraživanje i proizvodnju postati ono što su veliki jezični modeli postali za rad s informacijama.
Pet bilijuna još nije dokaz
Između impresivnog testa i industrijske revolucije ipak postoji velika udaljenost.
Tvrdnju o obradi pet bilijuna podatkovnih točaka zasad iznosi sama kompanija. Accelerated Understanding navodi i da jedan rezultat inferencije pri toj veličini može sadržavati oko 22 terabajta podataka.
Ali veliki kontekst ne znači automatski preciznije predviđanje.
Za proizvođača čipova, energetsku kompaniju ili konstruktora aviona pravo pitanje neće biti koliko podataka model može obraditi.
Bit će jednostavnije:
Koliko mu možemo vjerovati?
Fizički svijet pogreške kažnjava drukčije od chatbota. Netočan odgovor može biti neugodan kada tražimo preporuku restorana. Pogrešna procjena ponašanja materijala u motoru može imati potpuno drukčije posljedice.
Zato će pravi test Accelerated Understandinga početi kada industrijski korisnici njegove prognoze usporede sa stvarnim eksperimentima, postojećim simulatorima i fizičkim proizvodima.
Ako model uspije znatno skratiti razvoj, smanjiti broj eksperimenata i pritom zadržati potrebnu preciznost, poslovna vrijednost mogla bi biti golema.
AI je već pokazao da može generirati tekst, sliku, kod i dizajn.
Sljedeći korak je mnogo teži.
LLM može predložiti bolji motor. AI koji razumije fizički svijet mora znati hoće li taj motor stvarno izdržati temperaturu, tlak i vibracije.
