ChatGPT dobiva posebno iskustvo za tinejdžere. OpenAI je predstavio ChatGPT for Teens, namijenjen korisnicima od 13 do 17 godina, s dodatnim sigurnosnim ograničenjima, roditeljskim kontrolama i alatima koji bi trebali potaknuti učenje umjesto pukog prepisivanja odgovora.
Promjena dolazi u trenutku kada se rasprava o umjetnoj inteligenciji i djeci više ne vrti samo oko školskih zadaća. Sve se češće postavljaju pitanja što se događa kada tinejdžer chatbot počne doživljavati kao prijatelja, povjerljivu osobu ili zamjenu za razgovor s ljudima.
OpenAI sada pokušava povući jasniju granicu.
ChatGPT for Teens automatski će se uključiti korisnicima koji navedu da imaju između 13 i 17 godina, ali i kada sustav procijeni da je osoba mlađa od 18. Ako nije siguran u dob korisnika, primijenit će stroža pravila namijenjena tinejdžerima.
ChatGPT ne bi trebao samo napisati zadaću
Jedna od najvećih promjena odnosi se na obrazovanje.
Tinejdžerima će biti dostupni Study Mode, kvizovi i vizualizacije, a uvedeni su i podsjetnici koji bi trebali reagirati kada učenik ChatGPT pokušava koristiti kao prečac do gotove zadaće.
Umjesto da samo isporuči odgovor, sustav bi učenika trebao vratiti na postupno rješavanje problema. Study Mode već je zamišljen oko pitanja, objašnjenja korak po korak i provjere razumijevanja.
Korisnici će moći odrediti i Study Hours, razdoblje u kojem će takav način rada imati prednost.
To možda zvuči kao mala promjena funkcije, ali otvara puno veće pitanje: treba li dobar obrazovni AI učeniku dati odgovor ili mu pomoći da do njega dođe?
OpenAI očito pokušava krenuti drugim putem.
Roditelji dobivaju kontrole, ali ne i sve razgovore
Roditelji mogu povezati svoj ChatGPT račun s računom tinejdžera te upravljati dijelom postavki.
Mogu postaviti Quiet Hours, odnosno vrijeme kada ChatGPT neće biti dostupan, upravljati pojedinim značajkama i uključiti određene obrazovne postavke. Važna je, međutim, granica koju OpenAI pokušava zadržati: povezivanje računa roditeljima ne daje automatski mogućnost čitanja razgovora tinejdžera.
Poseban režim postoji za visokorizične situacije.
OpenAI proširuje sigurnosne mehanizme koji mogu uključivati obavijesti roditeljima kada sustav prepozna ozbiljan rizik. Zaštita se sada dodatno proširuje na određene situacije povezane s poremećajima prehrane.
To ne znači da će roditelj dobiti obavijest svaki put kada tinejdžer spomene takvu temu. Riječ je o ograničenim situacijama koje sustav procijeni kao ozbiljan sigurnosni rizik.
AI koji ne bi trebao glumiti prijatelja
Možda najvažniji dio ChatGPT for Teensa nema mnogo veze sa školom.
Za mlađe korisnike vrijede stroža pravila za razgovore o samoozljeđivanju, seksualnom sadržaju, opasnim aktivnostima i drugim osjetljivim temama. Model također ne bi trebao poticati emocionalnu ovisnost niti stvarati dojam da ima osjećaje ili svijest.
U pristupu sigurnosti zajednice OpenAI je ranije naglasio da se u ozbiljnim situacijama tinejdžere nastoji usmjeriti prema podršci ljudi iz stvarnog svijeta.
To je važan zaokret.
Godinama je uspjeh digitalnih proizvoda često značio jedno: zadržati korisnika što dulje. Kod tinejdžera tehnološke kompanije sada moraju razmišljati i o suprotnom pitanju – kada bi proizvod trebao prestati pokušavati zadržati korisnika i usmjeriti ga prema stvarnoj osobi?
Kako ChatGPT zna da razgovara s tinejdžerom?
Tu dolazimo do možda najzanimljivijeg dijela cijele priče.
OpenAI ne ovisi samo o datumu rođenja koji korisnik upiše. Sustav za procjenu dobi koristi različite signale povezane s računom i načinom korištenja kako bi procijenio je li osoba mlađa od 18 godina.
Ako odraslu osobu pogrešno svrsta među tinejdžere, korisnik može potvrditi dob i vratiti standardno iskustvo.
Dakle, zaštita djece donosi i novu vrstu procjene korisnika. A to će neizbježno otvoriti pitanja privatnosti, preciznosti i granica takvih sustava.
Manje pitanje što AI može, više što bi trebao
ChatGPT for Teens nije nastao preko noći. OpenAI je tijekom protekle godine postupno uvodio roditeljske kontrole, procjenu dobi i posebna sigurnosna pravila za mlađe korisnike. Sada ih objedinjuje u jedno iskustvo.
Zato najzanimljivija stvar kod nove verzije možda nije nijedna pojedinačna funkcija.
To je promjena filozofije.
AI za tinejdžere ne bi trebao biti samo sposobnija verzija tražilice koja na svako pitanje daje odgovor. Trebao bi znati kada učenika treba natjerati da razmisli, kada napraviti pauzu i kada razgovor više nije posao za chatbot.
Sljedeća faza AI-ja za djecu zato se možda neće mjeriti samo time koliko može napraviti za njih, nego koliko dobro zna što ne bi trebao napraviti umjesto njih.
