Microsoft se odlučio razviti novi računalni čip za umjetnu inteligenciju. Naime, upotreba ChatGPT-a navodno OpenAI-u dnevno generira troškove do 700.000 dolara, Uzrok velikih troškova je skupa tehnološka infrastrukturnog sustava na kojem se temelji ovaj sustav umjetne inteligencije. Do navedenih je saznanja došao Dylan Patel, glavni analitičar tvrtke SemiAnalysis koja se bavi istraživanjem poluvodiča.
Uzrok visokim troškovima održavanja ChatGPT-a je zato što ovaj sustav umjetne inteligencije zahtijeva ogromne količine računalne snage za izračunavanje odgovora na temelju korisničkih zahtjeva.
Većina ovog troška temelji se na skupim poslužiteljima na kojima radi ChatGPT.
Dylan Patel, glavni analitičar tvrtke SemiAnalysis
Kako prenosi PoslovniPuls, Patel je kazao kako su stvarni troškovi danas vjerojatno još veći. Kako pojašnjava novi model ChatGPT-a, GPT-4, još skuplji za rad i održavanje. Obuka jezičnih modela ChatGPT-a vjerojatno košta desetke milijuna dolara. Ipak, operativni troškovi” značajno premašuju troškove obuke kada se model implementira na bilo kojoj razumnoj razini”, rekli su Patel i Afzal Ahmad, još jedan analitičar tvrtke SemiAnalysis, u razgovoru za Forbes.
U nastojanju da smanji troškove rada generativnih AI modela, Microsoft razvija čip za AI koji naziva Athena. To ovih ekskluzivnih informacija je došao The Information. Projekt, je započeo 2019. godine. Dolazi nakon nekoliko godina Microsoftovog dogovora vrijednog milijardu dolara s OpenAI-jem. Prema ovom sporazumu zahtjeva se da OpenAI pokreće svoje modele isključivo na Microsoftovim Azure cloud poslužiteljima. Na projektu navodno radi 300 zaposlenika Microsofta, a Athena će ugledati svjetlo dana već iduće godine, piše The Information.
