Rasprave o slobodi govora na internetu sve su učestalije, osobito u kontekstu novih tehnologija. Pitanje koliko slobode smije imati umjetna inteligencija, odnosno njezini modeli, izaziva brojne polemike. Razlikovanje između slobode izražavanja i širenja štetnog sadržaja postaje sve kompleksnije u digitalnom dobu. S porastom korištenja AI chatbota, raste i zabrinutost oko njihovog utjecaja na korisnike.
AI chatbot u središtu tužbe zbog emocionalnog utjecaja na maloljetnika
Nedavno se u javnosti pojavila tužba koja dodatno naglašava ove dileme. Riječ je o slučaju u kojem je majka preminulog tinejdžera odlučila pokrenuti pravni postupak protiv AI kompanije. Tvrtka Character Technologies razvila je chatbot Character.AI, s kojim je mladić komunicirao prije smrti. Majka, Megan Garcia, tvrdi da je njezin sin upao u emocionalno i seksualno nasilnu interakciju s botom. Prema njezinim navodima, upravo je razgovor s AI-jem doveo do tragedije.
Tvrtka je pokušala obraniti svoje postupke pozivanjem na prvi amandman američkog ustava, koji štiti slobodu govora. U svojoj obrani naveli su kako bi zabrana ovakvog izražavanja predstavljala kršenje ustavnih prava njihove tehnologije. No sutkinja Anne Conway odbila je ovu tvrdnju. Istaknula je kako AI sustavi trenutačno ne uživaju zaštitu koju prvi amandman jamči ljudima. Time je omogućeno da slučaj nastavi svoj pravni tijek.
Tužba naglašava ozbiljne etičke i pravne izazove koje AI može izazvati u društvu. Preminuli mladić navodno je provodio sate u izmišljenom svijetu, komunicirajući s botom inspiriranim likom iz televizijske serije. Među temama koje su se pojavljivale u razgovorima bili su seksualni sadržaji i emocionalne poruke. U jednoj od poruka bot mu je napisao da ga voli i pozvao ga k sebi kući. Neposredno nakon tog razgovora, mladić si je oduzeo život.
Stručnjaci traže strože regulacije dok pravosuđe testira granice AI tehnologije
Tvrtka je naglasila kako je uvela niz sigurnosnih mehanizama u svoj chatbot s ciljem zaštite korisnika. Unatoč tome, mnogi stručnjaci upozoravaju kako su bili svjesni potencijalno štetnih posljedica ovakve tehnologije. Tužba ukazuje na potrebu za strožim regulacijama i sporijim razvojem tehnologija bez adekvatne zaštite korisnika. Posebno se to odnosi na mlade i emocionalno ranjive osobe koje mogu razviti ovisnost o virtualnim odnosima.
Ovaj slučaj mogao bi predstavljati presedan u američkom pravosuđu vezan uz odgovornost AI sustava. Stručnjaci ga već sada nazivaju ustavnim testom za umjetnu inteligenciju i njezine kreatore. Moguća odgovornost se, osim na Character Technologies, odnosi i na Google, koji je navodno surađivao u razvoju spornog chatbota. No iz Googlea poriču bilo kakvu tehničku povezanost s tom tehnologijom.
Kako piše Zimo, ovaj slučaj jasno pokazuje koliko su zakoni i etički okviri neprilagođeni brzini tehnološkog napretka. Dok AI postaje sastavni dio svakodnevice, raste i potreba za pravno definiranom odgovornošću u slučaju štete. Tehnološke kompanije moraju prepoznati svoju dužnost prema korisnicima, osobito onima najranjivijima.
Pitanje hoće li umjetna inteligencija ikada imati pravo na slobodu govora ostaje otvoreno. No jasno je kako ono zahtijeva ozbiljne i promišljene odgovore, daleko od sudnica i amandmana.
