Prema The New York Timesu (NYT), jedan od Googleovih odjela za umjetnu inteligenciju koristi generativnu AI za razvoj najmanje 21 različitog alata za životne savjete, planiranje i podučavanje.
Sektor odgovoran za to zove se DeepMind
Vijest o razvoju alata dolazi nakon što su Googleovi stručnjaci za sigurnost AI navodno predstavili rukovoditeljima slajd u kojem se kaže da korisnici koji koriste životne savjete iz AI alata mogu “izložiti svoje zdravlje i dobrobit riziku”.
Google je navodno sklopio ugovor sa Scale AI, startupom vrijednim 7,3 milijarde dolara usmjerenim na obuku i provjeru valjanosti AI softvera, za testiranje alata. Više od 100 ljudi s doktoratom radilo je na projektu, prenosi Bonitet. Dio testiranja uključuje ispitivanje mogu li alati ponuditi savjete o odnosima s drugim ljudima. Ili pomoći korisnicima da odgovore na intimna pitanja.
Pomiješani osjećaji
Alati koje DeepMind navodno razvija nisu namijenjeni terapeutskoj upotrebi, prema NYT-u. No Googleov javno dostupan chatbot Bard pruža resurse za podršku mentalnom zdravlju samo kada se od njega traži terapeutski savjet.
Dio onoga što pokreće ta ograničenja je kontroverza oko upotrebe umjetne inteligencije u medicinskom ili terapijskom kontekstu. U lipnju je Nacionalna udruga za poremećaje prehrane bila prisiljena suspendirati svoj chatbot Tessa nakon što je dao savjete o štetnim poremećajima prehrane. I dok liječnici i regulatori imaju “pomiješane osjećaje” o tome hoće li se AI pokazati korisnom u kratkoročnom kontekstu. Postoji konsenzus da uvođenje alata za davanje savjeta zahtijeva pažljivo promišljanje.
