Google je u srijedu objavio pojedinosti o jednom od svojih superračunala s umjetnom inteligencijom. Rekli su da je brže i učinkovitije od konkurentskih Nvidia sustava. Modeli strojnog učenja i dalje najzanimljiviji dio tehnološke industrije.
Dok Nvidia s više od 90% dominira tržištem za obuku i implementaciju AI modela, Google od 2016. dizajnira i implementira AI čipove pod nazivom Tensor Processing Units ili TPU.
Google je važan dio u području umjetne inteligencije, a njegovi zaposlenici razvili su neke od najvažnijih napredaka u tom području tijekom posljednjeg desetljeća. No, neki vjeruju da je poprilično zaostao u smislu komercijalizacije svojih izuma. Interno, tvrtka se utrkivala u puštanju proizvoda i dokazivanju da nije potratila svoje vrijeme, što zapravo pokazuje lošu situaciju unutar tvrtke, piše CNBC.
AI modeli i proizvodi kao što su Googleov Bard ili OpenAI-jev ChatGPT — koje pokreću Nvidijini A100 čipovi — zahtijevaju mnogo računala i stotine ili tisuće čipova da rade zajedno na treniranju modela. Te zahtjevaju da računala rade non-stop tjednima ili mjesecima.
Google je u utorak rekao da je izgradio sustav s više od 4000 TPU-ova. Spojenih s prilagođenim komponentama dizajniranim za pokretanje i treniranje AI modela. Pokreće se od 2020. Tijekom 50 dana korišten je za obuku Googleovog PaLM modela, koji se natječe s OpenAI GPT modelom.
Googleovo superračunalo temeljeno na TPU-u, nazvano TPU v4, je 1,2x-1,7x brže i koristi 1,3x-1,9x manje energije od Nvidia A100. Performanse, skalabilnost i dostupnost čine TPU v4 superračunala dostupnim za veliki broj jezičnih modela.
Bez usporedbe
Međutim, Googleovi rezultati TPU-a nisu uspoređeni s najnovijim Nvidijinim AI čipom, H100. Zato što je noviji i napravljen s naprednijom proizvodnom tehnologijom, rekli su Googleovi istraživači.
Rezultati i ljestvice iz testa AI čipova u cijeloj industriji pod nazivom MLperf objavljeni su u srijedu. A izvršni direktor Nvidije Jensen Huang rekao je da su rezultati za najnoviji Nvidijin čip, H100, znatno brži od prethodne generacije.
Današnji MLPerf 3.0 pruža 4x više performansi od A100. Sljedeća razina generativne umjetne inteligencije zahtijeva novu infrastrukturu umjetne inteligencije za obuku velikih jezičnih modela uz veliku energetsku učinkovitost.
Jensen Huang, direktor Nvidije
Znatna količina računalne snage potrebne za AI je skupa. Mnogi u industriji fokusirani su na razvoj novih čipova, komponenti poput optičkih veza ili softverskih tehnika, koje smanjuju količinu potrebne računalne snage.
Potrebe za napajanjem AI također su blagodat pružateljima cloud usluga kao što su Google, Microsoft i Amazon. Oni mogu iznajmiti računalnu obradu po satu i startupima dati kredite ili vrijeme računanja za izgradnju odnosa. (Googleov cloud također prodaje vrijeme na Nvidijinim čipovima.) Google je rekao i da je Midjourney, AI generator slike, obučen na njegovim TPU čipovima.
