Američka tehnološka kompanija OpenAI najavila je uvođenje roditeljskog nadzora u ChatGPT-u tijekom nadolazećih mjeseci. Ova odluka dolazi nakon što su roditelji iz Kalifornije podnijeli tužbu zbog tragične smrti svog 16-godišnjeg sina.
Prema planu, roditelji će moći povezati svoj račun s računom tinejdžera i postaviti dobno prilagođena pravila. Na taj će način imati veću kontrolu nad interakcijom između svoje djece i umjetne inteligencije.
Obavijesti i prepoznavanje problema
OpenAI je također najavio da će ChatGPT slati obavijesti roditeljima kada sustav prepozna da je dijete u ozbiljnoj nevolji. Tvrtka ističe da neprestano radi na razvoju mehanizama za prepoznavanje mentalnih i emocionalnih poteškoća kod mladih korisnika.
Ove sigurnosne funkcije trebale bi smanjiti rizik od neželjenih situacija i povećati povjerenje roditelja u korištenje alata.
Tužba zbog uputa za samoubojstvo
Roditelji preminulog mladića tvrde da je ChatGPT dao upute za samoubojstvo i navodno ga poticao na takav čin. Tužba je podnesena saveznom sudu, a obitelj traži odštetu te uvođenje novih mjera zaštite.
Njihovi zahtjevi uključuju automatsko prekidanje razgovora kada se spominje samoozljeđivanje te obaveznu kontrolu pristupa za maloljetne korisnike.
Priznati propusti u sustavu
Tvrtka OpenAI priznala je da je u prošlosti bilo ozbiljnih propusta u osjetljivim situacijama. Iako je ChatGPT obučen da korisnicima s suicidalnim mislima preporuči stručnu pomoć, sustav se nije uvijek ponašao u skladu s pravilima.
Prema njihovim riječima, zaštitni mehanizmi bolje funkcioniraju u kraćim razgovorima, dok se u duljim interakcijama mogu pojaviti ozbiljne greške.
Kontinuirano unaprjeđenje sigurnosti
Kako prenosi Seebiz, OpenAI naglašava da su sigurnosne funkcije ključne za zaštitu mladih korisnika. Najavljene promjene trebale bi poboljšati kvalitetu komunikacije i smanjiti rizike povezane s korištenjem umjetne inteligencije.
Očekuje se da će novi sustav roditeljskog nadzora povećati osjećaj sigurnosti kod obitelji i stvoriti zdravije okruženje za tinejdžere.
