U neoznačenoj poslovnoj zgradi u Austinu, Teksas, u dvije male sobe nalazi se šačica Amazonovih zaposlenika koji dizajniraju dvije vrste mikročipova za obuku i ubrzavanje generativne umjetne inteligencije. Ovi prilagođeni čipovi, Inferentia i Trainium, nude klijentima Amazon Web Services (AWS-a) alternativu za obuku njihovih velikih jezičnih modela na Nvidia GPU-ima, koje je postalo teško i skupo nabaviti.
Cijeli svijet želi više čipova za stvaranje generativne umjetne inteligencije, bilo da se radi o GPU-ovima ili o Amazonovim vlastitim čipovima koje dizajniramo. Mislim da smo u boljoj poziciji od bilo koga drugoga na Zemlji za opskrbu kapacitetom koji će naši kupci željeti.
Adam Selipsky, CEO Amazon Web Services
Ipak, drugi su djelovali brže i uložili više kako bi izvukli posao iz generativnog procvata umjetne inteligencije. Kada je OpenAI pokrenuo ChatGPT u studenom, Microsoft je privukao široku pozornost jer je hostirao virusni chatbot i uložio 13 milijardi dolara u OpenAI. Brzo je dodao generativne AI modele svojim proizvodima, uključivši ih u Bing u veljači.
Istog mjeseca Google je pokrenuo vlastiti veliki jezični model, Bard, nakon čega je uslijedilo ulaganje od 300 milijuna dolara u OpenAI konkurentski Anthropic.
Tek u travnju Amazon je najavio vlastitu obitelj velikih jezičnih modela, nazvali su je Titan. Lansirali su i uslugu nazvanu Bedrock koja pomaže programerima da poboljšaju softver koristeći generativni AI.
Amazon nije navikao juriti za tržištima. Amazon je navikao stvarati tržišta. I mislim da su se po prvi put nakon dugo vremena našli na začelju i rade na tome da ih sustignu.
Chirag Dekate, potpredsjednik analitičara u Gartneru
Meta je također nedavno izdala svoj vlastiti LLM, Llama 2. Suparnik otvorenog koda ChatGPT sada je dostupan ljudima za testiranje na Microsoftovom javnom cloudu Azure.
Čipovi kao “prava diferencijacija”
Dugoročno, rekao je Dekate, Amazonov prilagođeni silicij mogao bi mu dati prednost u generativnoj umjetnoj inteligenciji.
“Mislim da je prava razlika u tehničkim mogućnostima koje oni koriste”, rekao je. “Zato što pogodite što? Microsoft nema Trainium ili Inferentia,” rekao je.
AWS je tiho započeo proizvodnju prilagođenog silicija još 2013. s dijelom specijaliziranog hardvera pod nazivom Nitro. Sada je AWS čip najrasprostranjeniji. Amazon je za CNBC rekao da postoji barem jedan na svakom AWS poslužitelju, s ukupno više od 20 milijuna u upotrebi.
Amazon je 2015. kupio izraelski startup za proizvodnju čipova Annapurna Labs. Zatim je 2018. godine Amazon lansirao svoj poslužiteljski čip temeljen na Armu, Graviton, rivala x86 CPU-ima divova poput AMD-a i Intela.
“Vjerojatno visoka jednoznamenkasta do možda 10% ukupne prodaje poslužitelja je Arm, a dobar dio toga bit će Amazon. Dakle, na strani CPU-a, prošli su prilično dobro,” rekla je Stacy Rasgon, viša analitičarka u Bernstein Researchu.
Također 2018. Amazon je lansirao svoje čipove usmjerene na umjetnu inteligenciju. To se dogodilo dvije godine nakon što je Google najavio svoju prvu Tensor Processor Unit ili TPU. Microsoft tek treba najaviti Athena AI čip na kojem radi, navodno u partnerstvu s AMD-om.
Čemu služe čipovi
Potpredsjednik proizvoda Matt Wood objasnio je čemu služe čipovi Trainium i Inferentia.
Strojno učenje dijeli se na ove dvije različite faze. Dakle, trenirate modele strojnog učenja, a zatim izvodite zaključivanje na tim obučenim modelima. Trainium pruža oko 50% poboljšanja u pogledu performansi cijene u odnosu na bilo koji drugi način obuke modela strojnog učenja na AWS-u.
Trainium se prvi put pojavio na tržištu 2021., nakon Inferentie koja je izašla 2019., a koja je sada na svojoj drugoj generaciji.
Inferentia omogućuje klijentima da isporuče vrlo, vrlo jeftine, visokopropusne, niske latencije, zaključke strojnog učenja. To su sva predviđanja koja dobijete kada upišete upit u svoj generativni AI model, tamo se sve to obrađuje da dobijete odgovor,” rekao je Wood.
Međutim, za sada su Nvidijini GPU-i i dalje najbolji kada su u pitanju modeli za obuku. U srpnju je AWS lansirao novi hardver za ubrzanje umjetne inteligencije koji pokreće Nvidia H100s.
“Nvidijini čipovi imaju golemi softverski ekosustav koji je oko njih izgrađen u zadnjih 15 godina, a nitko drugi ga nema”, rekao je Rasgon. “Veliki pobjednik AI-a trenutno je Nvidia.”
Iskorištavanje cloud dominacije
Međutim, AWS-ova cloud dominacija velika je razlika za Amazon.
“Amazon ne treba osvojiti naslovnice. Amazon već ima jaku bazu instaliranja clouda. Sve što trebaju učiniti je shvatiti kako omogućiti svojim postojećim klijentima da se prošire na stvaranje vrijednosti korištenjem generativne umjetne inteligencije,” rekao je Dekate.
Kada birate između Amazona, Googlea i Microsofta za generativnu umjetnu inteligenciju, postoje milijuni korisnika AWS-a koje bi mogao privući upravo Amazon. Zato što su već upoznati s njim, pokreću druge aplikacije i tamo pohranjuju svoje podatke.
“To je pitanje brzine. Koliko brzo te tvrtke mogu krenuti u razvoj ovih generativnih AI aplikacija ovisi o tome da prvo počnu s podacima koje imaju u AWS-u i upotrebom alata za računanje i strojno učenje koje mi nudimo,” objasnio je Mai-Lan Tomsen Bukovec, potpredsjednik tehnologije u AWS-u.
AWS je najveći svjetski pružatelj cloud računalstva. Imali su 40% tržišnog udjela u 2022., prema istraživanju tehnološke industrije. Iako su operativni prihodi tri kvartala zaredom u padu u usporedbi s prethodnom godinom, AWS je i dalje činio 70% Amazonove ukupne operativne dobiti od 7,7 milijardi dolara u drugom kvartalu. AWS-ove operativne marže povijesno su bile daleko veće od onih u Google Cloudu.
AWS također ima rastući portfelj razvojnih alata usmjerenih na generativni AI.
Vratimo se u vrijeme prije ChatGPT-a. Nije kao nakon što se to dogodilo, odjednom smo požurili i osmislili plan jer ne možete projektirati čip u tako kratkom vremenu, a kamoli da ne možete izgraditi Bedrock uslugu u roku od 2 do 3 mjeseca.
Swami Sivasubramanian, AWS-ov potpredsjednik baze podataka, analitike i strojnog učenja
Bedrock korisnicima AWS-a daje pristup velikim jezičnim modelima koje su izradili Anthropic, Stability AI, AI21 Labs i Amazonov vlastiti Titan.
“Ne vjerujemo da će jedan model vladati svijetom i želimo da naši kupci imaju najsuvremenije modele od više dobavljača jer će odabrati pravi alat za pravi posao,” rekao je Sivasubramanian.
Jedna od najnovijih ponuda Amazonove umjetne inteligencije je AWS HealthScribe. Usluga je predstavljena u srpnju a pomoću generativne umjetne inteligencije pomaže liječnicima u izradi sažetaka posjeta pacijentima. Amazon također ima SageMaker, centar za strojno učenje koji nudi algoritme, modele i više.
Drugi veliki alat je CodeWhisperer, pratilac kodiranja, za koji Amazon kaže da je programerima omogućio da u prosjeku dovrše zadatke 57% brže. Prošle je godine Microsoft također izvijestio o povećanju produktivnosti od svog suputnika za kodiranje, GitHub Copilot.
U lipnju je AWS najavio generativni “centar za inovacije umjetne inteligencije” vrijedan 100 milijuna dolara.
„Imamo toliko kupaca koji govore: ‘Želim raditi generativnu umjetnu inteligenciju’, ali ne znaju nužno što to znači za njih u kontekstu njihovog poslovanja. I tako ćemo dovesti arhitekte rješenja i inženjere i stratege i podatkovne znanstvenike da rade s njima jedan na jedan,” rekao je CEO AWS-a Selipsky.
Značajan dio AWS poslovanja sada pokreće umjetna inteligencija i više od 20 usluga strojnog učenja koje nudi. Neki primjeri kupaca uključuju Philips, 3M, Old Mutual i HSBC.
Eksplozivan rast umjetne inteligencije došao je s nizom sigurnosnih zabrinutosti tvrtki. One se brinu da zaposlenici stavljaju vlasničke informacije u podatke o obuci koje koriste javni veliki jezični modeli.
Ne mogu vam reći s koliko sam kompanija s liste Fortune 500 razgovarao a koje su zabranile ChatGPT. Dakle, s našim pristupom generativnoj umjetnoj inteligenciji i našoj usluzi Bedrock, sve što radite, svaki model koji koristite kroz Bedrock bit će u vašem vlastitom izoliranom virtualnom privatnom cloudu. Bit će šifriran, imat će iste AWS kontrole pristupa.
Adam Selipsky, CEO Amazon Web Services
Za sada, Amazon samo ubrzava svoj prodor prema generativnoj umjetnoj inteligenciji. Rekli su kako više od 100.000 korisnika danas koristi strojno učenje na AWS-u. Iako je to mali postotak milijuna AWS-ovih kupaca, analitičari kažu da bi se to moglo promijeniti.
