Kada gradite kuću, možete to učiniti na razne načine. Možete nabaviti sve potrebne alate, a zatim pješačiti u šumu kako biste nasjekli drva i pretvorili ih u svoju konačnu strukturu. Ili, možete otići u trgovinu i kupiti drva koja su već iscijepana, zajedno sa svim čavlima, čekićima i drugom opremom koja vam je potrebna. Ili, možete platiti izvođaču da obavi većinu posla.
Tijekom proteklih 15 godina, Amazon Web Services postao je glavni izvođač za svakoga tko želi izgraditi nešto online. Web stranica, aplikacija, usluga poslovnog softvera. Danas se vrlo malo programera upušta u digitalnu šumu vlastitih poluvodiča da bi gradili vlastite poslužitelje i podatkovne centre. AWS radi sve umjesto vas i pruža većinu alata koji su vam potrebni.
To je ono što je AWS pretvorilo iz sporedne ideje 2006. u posao vrijedan 80 milijardi dolara sa sočnim profitnim maržama i golemom, nepomičnom bazom kupaca. Ovo je bit tehnološke platforme, piše Business Insider.
Uspon generativne umjetne inteligencije stvorio je ono što neki tehnolozi nazivaju Cloud 2.0. Postoji nova hrpa hardvera, softvera, alata i usluga koje će godinama pokretati AI aplikacije. Koja će tvrtka biti glavni izvođač u ovom novom svijetu? Kada budete gradili svoju kuću s umjetnom inteligencijom, kome ćete se obratiti za svo to digitalno drvo i prave alate koji jednostavno dobro funkcioniraju zajedno kako bi obavili posao?
Trenutno AWS ne izgleda kao da vodi u ovom dijelu, dok Nvidia ima veliku prednost.
Nvidia dizajnira i prodaje GPU-ove koji su glavni čipovi koje koriste gotovo svi koji stvaraju velike jezične modele i druge velike AI modele. Ove su komponente koristili istraživači umjetne inteligencije prije više od deset godina kada su Andrew Ng i drugi otkrili da GPU-ovi mogu paralelno raditi na više izračuna. Nasuprot tome, AWS je lansirao svoj Trainium GPU za obuku AI modela u prosincu 2020., gotovo desetljeće kasnije.
Tijekom tog desetljeća, Nvidia je također izgradila platformu oko svojih GPU-ova koja je pomogla AI programerima da rade svoj posao. Tvrtka je stvorila prevoditelje, upravljačke programe, operativni sustav, alate, biblioteke kodova, bilješke o obuci, video zapise i još mnogo toga. Srž ove platforme je programski jezik nazvan CUDA.
Sada postoji više od 4 milijuna registriranih Nvidijinih programera koji koriste CUDA i sve povezane alate. To je porast u odnosu na 2 milijuna u kolovozu 2020. i 1 milijun dvije godine prije toga. Najbliža stvar koju AWS trenutno ima zove se Neuron. Neuron je lansiran 2019. CUDA je izašla 2007.
Knjižnice, modeli i okviri
Michael Douglas, bivši direktor Nvidije, nedavno je razgovarao s analitičarima Bernsteina o svemu tome, objašnjavajući da su softver i alati proizvođača čipova daleko ispred konkurencije:
- Programerima je dostupno 250 softverskih biblioteka koje se nalaze na vrhu CUDA-e. Biblioteka je unaprijed izgrađen kod koji obavlja funkciju kao što je rukovanje videom ili zvukom ili radnja nečega u grafici.
- Tu je i 400 unaprijed izgrađenih modela koje Nvidia nudi programerima za AI zadatke kao što su prepoznavanje slike i glasovna sinteza.
- Ove biblioteke i modeli utkani su zajedno s popularnim softverskim okvirima kao što su PyTorch, TensorFlow, Windows i VMware.
- Sve se to nalazi u nizovima na vrhu 65 platformi. Platforma uslužuje većinu ostalih programera softvera koji trebaju operacionalizirati nešto u okruženju u podatkovnom centru s AI.
Cloud 2.0
Još jedna ključna točka ovdje: većina AI programera već zna kako koristiti CUDA i Nvidia GPU. Svi trikovi i drugi prečaci ugrađeni su u zajednicu.
Vjerojatno je Nvidia već stvorila AI cloud platformu – kao što je AWS svojedobno učinio za Cloud 1.0 eru. Kako prelazimo na Cloud 2.0, AWS-u, ili bilo kome drugome, to će biti teško dokučiti.
Nvidia se već dugo kladi na umjetnu inteligenciju. Imaju razinu softverske zrelosti s kojom se nijedan drugi pružatelj ne može mjeriti.
Luis Ceze, izvršni direktor i suosnivač AI startupa OctoML
Amazon – Anthropic
Ipak, nemojte još računati na AWS. Rano je. James Hamilton je genij za AWS cloud infrastrukturu koji se može suprotstaviti Nvidiji. Bez obzira što proizvođač čipova ima veliku prednost.
“Nvidia je glavna na tržištu zbog prednosti u softveru”, rekao je Oren Etzioni, tehnički direktor u AI2 Incubatoru i partner u Madrona Venture Group. “Postoji argument da se ovaj prozor počinje zatvarati.”
Utrka za Cloud 2.0 stvarno je započela krajem rujna kada je Amazon najavio ulaganje do 4 milijarde dolara u AI startup pod nazivom Anthropic. Ova relativno mala tvrtka sa sjedištem u San Franciscu prepuna je istraživača koji su pomogli u stvaranju temeljne GPT tehnologije u srcu današnjeg generativnog procvata umjetne inteligencije. Anthropic ima jedan od najsposobnijih velikih AI modela koji se zove Claude.
Anthropic će sada koristiti AWS-ove interne čipove Trainium i Inferentia za izgradnju, obuku i implementaciju svojih budućih AI modela. A dvije tvrtke će surađivati na razvoju buduće tehnologije Trainium i Inferentia.
Ključni dio ovdje je povratna informacija između Anthropica i AWS-a. Ti pioniri umjetne inteligencije u Anthropicu sada su predani korištenju AWS-ovih GPU-ova. Zajedno sa svim pripadajućim softverom i alatima. Ako ovdje nedostaje AWS, Anthropic može pomoći identificirati najveće rupe i predložiti načine za njihovo popunjavanje.
Kako bi uhvatio Nvidiju, AWS je stvarno trebao ovakvog razvojnog programera. Trebalo je samo 1 do 4 milijarde dolara.
Amazon treba velikog AI igrača koji koristi vlastiti silicij. Pobjeda je to što Amazon može pokazati Anthropicu da svoja radna opterećenja izvršava na Amazonovim čipovima. Oni žele da drugi ljudi koji grade AI modele budu sigurni da je silicij dobar i da je softver zreo.
Luis Ceze
Izbjegavanje poreza
Izrada vlastitih AI čipova doista je važna prednost za pobjedu u Cloud 2.0 utrci. Ako AWS mora nastaviti kupovati Nvidia GPU-e, morat će platiti maržu Nvidiji. Neki stručnjaci za umjetnu inteligenciju to nazivaju Nvidijinim porezom. To će AWS-ove cloud usluge Trainium i Inferentia učiniti skupljima za rad.
Ako, umjesto toga, AWS može proizvoditi vlastite AI čipove, tada će moći zadržati tu Nvidijinu profitnu maržu za sebe. To znači da može ponuditi AI obuku i usluge zaključivanja u cloudu koje su isplativije.
Na nedavnom događaju AWS-a u Seattleu, Selipsky, izvršni direktor AWS-a, poslao je ovu poruku: AWS-ove AI cloud usluge u oblaku će konkurentne na temelju “cjenovnih performansi”. To znači da bi trebalo biti učinkovitije graditi AI modele na AWS-u.
U eri Clouda 1.0, AWS je to djelomično izveo akvizicijom Annapurna Labs 2015. Ovaj startup pomogao je Amazonu dizajnirati vlastite Gravitron procesore za svoje cloud podatkovne centre. Odjednom, AWS više nije morao kupovati toliko skupih Xeon čipova od Intela. To je bio važan element koji je AWS učinio tako konkurentnim i uspješnim pružateljem cloud usluga.
Koliko je lako prijeći s Nvidije?
Međutim, ovdje je problem sljedeći: možete imati izvrsne AI čipove i odlične cijene, ali hoće li se itko prebaciti s korištenja Nvidia GPU-a i CUDA platforme? Ako to ne učine, AWS možda neće osvojiti Cloud 2.0 na način na koji je to učinio s Cloudom 1.0.
Ovo nas vraća na analogiju s izgradnjom kuće. U ovom trenutku, Nvidia vjerojatno nudi najbolju kombinaciju drva i alata za obavljanje posla. Ako ovo već koristite, hoće li vam se biti lako prebaciti?
Nikad se nismo promijenili. Osnovali smo tvrtku na AMD-u. Zato funkcionira. Prebacivanje bi bilo teže nego krenuti od nule. Ako se želite prebaciti, morali biste primijeniti veliki refaktor na cijelu svoju bazu koda.
Sharon Zhou, suosnivačica Lamini AI
Nvidijina zaključavanja
Etzioni je rekao da Nvidia još uvijek ima 2 glavne veze s AI programerima.
Prva je da je PyTorch, popularni AI okvir, jako dobro optimiziran za CUDA, a time i Nvidia GPU. OctoML, startup koji vodi Ceze, radi na hrpi tehničkih popravaka za koje se nada da će programerima umjetne inteligencije olakšati korištenje bilo kojeg GPU-a s različitim okvirima i platformama u budućnosti. Uključujući ponude AWS-a.
Drugo, nakon što se možete učinkovito povezati s drugim softverskim paketom umjetne inteligencije, ta alternativna platforma mora biti barem jednako dobra kao CUDA. “A alternative jednostavno još nisu tu”, rekao je Etzioni.
AMD bi mogao biti najbliži Nvidiji u ovom trenutku, prema Etzioniju. Taj proizvođač čipova ima ROCm, softversku platformu koja programerima umjetne inteligencije daje pristup popularnim jezicima, bibliotekama i alatima.
