OpenAI uvodi prepoznavanje godina korisnika ChatGPT-a kao novu sigurnosnu mjeru. Sustav je već dostupan na nekim tržištima, dok se u Europskoj uniji očekuje u narednim tjednima. Cilj je jasniji nadzor i bolja zaštita maloljetnika.
Tvrtka je posljednjih mjeseci znatno ubrzala razvoj novih značajki. Nakon zdravstvenog chatbota, alata za prijevod i najave oglasa, došao je red i na ovu osjetljivu temu.
Kako funkcionira prepoznavanje godina korisnika ChatGPT-a
Model za prepoznavanje godina korisnika ChatGPT-a temelji se na umjetnoj inteligenciji. Ne traži izravno unos osobnih dokumenata. Umjesto toga koristi kombinaciju ponašajnih i tehničkih signala.
Ti signali uključuju obrasce korištenja kroz vrijeme, starost korisničkog računa i vrijeme aktivnosti tijekom dana. U obzir se uzima i dob koju korisnik sam navodi. Cilj je procijeniti je li korisnik maloljetan ili punoljetan.
Što ako sustav pogriješi?
Iz OpenAI priznaju da model nije savršen. Postoji mogućnost pogrešne procjene dobi. U takvim slučajevima punoljetni korisnici mogu potvrditi dob putem servisa Persona.
Persona je vanjski servis za provjeru identiteta koji koriste i druge tehnološke platforme, poput Roblox. Time se osigurava dodatni sloj točnosti bez trajnog pohranjivanja podataka.
Odgovor na pritiske i tužbe
Uvođenje prepoznavanja godina korisnika ChatGPT-a dolazi u osjetljivom trenutku. Protiv OpenAI-ja već su pokrenute istrage i tužbe zbog mogućeg negativnog utjecaja na djecu i mlade.
Jedna od tužbi čak navodi poticanje samoozljeđivanja kod tinejdžera. Zbog toga je tvrtka posljednjih mjeseci pojačala sigurnosne mehanizme. Fokus je prvenstveno na zaštiti maloljetnika.
Automatske zaštitne mjere za maloljetnike
Ako sustav procijeni da je korisnik maloljetan, ChatGPT automatski aktivira stroža ograničenja. To uključuje smanjenje izloženosti osjetljivom sadržaju, poput prikaza samoozljeđivanja ili eksplicitnih tema.
Sam Altman ranije je izjavio da će odrasli korisnici imati slobodniji pristup temama poput seksa, ali samo ako su jasno identificirani kao punoljetni. Novi model trebao bi spriječiti da takav sadržaj dođe do djece.
Kada prepoznavanje godina stiže u EU?
Sustav je već aktivan na brojnim svjetskim tržištima. Europska unija za sada je izuzetak, no implementacija se očekuje vrlo brzo.
Prema pisanju Zimo dnevnika, uvođenje u EU planirano je u sljedećih nekoliko tjedana, uz dodatna usklađivanja s europskim regulativama.
Važan korak za sigurnost
Prepoznavanje godina korisnika ChatGPT-a predstavlja važan iskorak u zaštiti maloljetnika. Iako sustav nije bez grešaka, donosi dodatni sloj odgovornosti u korištenju umjetne inteligencije.
OpenAI time šalje jasnu poruku regulatorima i javnosti. Sigurnost korisnika, posebno djece, postaje prioritet u daljnjem razvoju ChatGPT-a.
