EU zabranjuje biometrijsko prepoznavanje lica i kategorizaciju prema spolu dobi i rasi. Zanimljivo, Europska unija se prva odlučila u svijetu regulirati upotrebu umjetne inteligencije.
Za umjetnu inteligenciju se kaže da ima tolike sposobnosti da može okupiti i legendarne Beatlese. Zahvaljujući umjetnoj inteligenciji uskoro će biti objavljena nova snimka slavne grupe. Nova je tehnologija iskorištena kako bi se razdvoili vokali Johna Lennona od pozadinskih šumova na snimku što ga je Lennon napravio godinu dana prije smrti. Zahvaljujući tehnologiji Paul McCartney je sada u mogućnosti da dovrši pjesmu. McCartney korištenje umjetne inteligencije u tom slučaju, kako izvještava Večernji List, opisuje kao “pomalo zastrašujuće, ali i uzbudljivo, s obzirom na to da je to budućnost”. Korištenje umjetne inteligencije u glazbenoj industriji polarizira. Jedni hvale nove mogućnosti, dok drugi upozoravaju na zloupotrebu autorskih prava.
I ovaj zanimljiv primjer ukazuje na činjenicu da je umjetna inteligencija prodrla u brojna područja svakodnevnog života. Korištenje umjetne inteligencije izaziva oštru raspravu i otvara brojna pitanja. Sve više stručnjaka upozorava na opasnost od neregulirane umjetne inteligencije, koja se ubrzano razvija u svjetskim tehnološkim laboratorijima. Zbog toga je Europska unija, i to prva na svijetu, odlučila regulirati upotrebu umjetne inteligencije.
Želi se spriječiti kognitivno bihevioralno manipuliranje osobama
Europski parlament je u srijedu donio Akt o umjetnoj inteligenciji većinom od 499 glasova, dok ih je 28 bilo protiv, uz 93 suzdržana. Prema proceduri uslijedit će pregovori s državama članicama radi utvrđivanja konačne verzije zakona. Riječ je o prvom sveobuhvatnom zakonu o umjetnoj inteligenciji na svijetu. Zakonom se želi osigurati da proces razvoja i upotrebe umjetne inteligencije u Europi bude u potpunom skladu s pravima i vrijednostima Unije. Ovo uključuje i područja ljudskog nadzora, sigurnosti, privatnosti, transparentnosti, nediskriminacije i ekološke dobrobiti. Europska unija tim zakonom želi osigurati bolje uvjete za razvoj i upotrebu te inovativne tehnologije, koja može donijeti brojne koristi, poput bolje zdravstvene skrbi, sigurniji i čišći prijevoz, učinkovitiju proizvodnju i jeftiniju i održiviju energiju.
U zabranjenu praksu korištenja umjetne inteligencije spadaju kognitivno bihevioralno manipuliranje osobama i ranjivim skupinama, bodovanje i klasifikacija ljudi na temelju ponašanja, socioekonomskog statusa i osobnih obilježja, kao primjerice u Kini. Korisnici, kako smatraju u Europskom parlamentu, moraju imati pravo na žalbe na sustave umjetne inteligencije.
Analiziranje i klasifikacija sustava umjetne inteligencije
Međutim, utvrđuje se analiziranje i klasifikacija sustava umjetne inteligencije prema stupnju rizika koji umjetna inteligencija predstavlja za korisnike. Tako će različite razine rizika značiti veću ili manju regulaciju. Ta pravila ujedno predstavljaju i prva pravila o umjetnoj inteligenciji na svijetu. Ovo je potaknulo burnu parlamentarnu raspravu u Strasbourgu uoči donošenja novog zakona.
Tako je u skupinu zabranjenih sustava koji po mišljnju zastupnika predstavljaju neprihvatljiv riziki koji se smatraju prijetnjom ljudima uvršteno korištenje umjetne inteligencije za daljinsku biometrijsku identifikaciju “u stvarnom vremenu” i sustava za “naknadnu” daljinsku biometrijsku identifikaciju na javnim mjestima, zatim za biometrijsku kategorizaciju koja koristi osjetljive značajke (npr. rod, rasu, etničko podrijetlo, državljanstvo, vjeroispovijest ili političku orijen- taciju), za prognostički rad policije koji se temelji na izradi profila, lo- kaciji ili prethodnom kriminalnom ponašanju pojedinca, za prepozna- vanje emocija u području kaznenog progona i za upravljanje granicama.
Biometrijsko prepoznavanje lica neprihvatljivo
Zabranjuje se primjena takvih sustava na radnom mjestu i u obrazovnim ustanovama. Nije dozvoljeno neselektivno prikupljanje snimaka lica s interneta ili nadzornih snimaka radi stvaranja baza podataka za prepoznavanje lica. Ovime se krše temeljna ljudska prava uključujući pravo na privatnost, a zabranjuje se i opće izvlačenje biometrijskih podataka iz društvenih mreža.
Sustavi poput ChatGPT-a moraju obznaniti da je sadržaj generiran pomoću umjetne inteligencije, a sustavi umjetne inteligencije koji se koriste za utjecanje na glasače tijekom izbora smatraju se visokorizičnim.
U zabranjenu praksu korištenja umjetne inteligencije spadaju kognitivno bihevioralno manipuliranje osobama i ranjivim skupinama. Korištenja glasovno aktiviranih igračaka koje potiču opasno ponašanje kod djece. Nije dozvoljeno bodovanje i klasifikacija ljudi na temelju ponašanja, socioekonomskog statusa i osobnih obilježja. Korisnici, kako smatraju u Europskom parlamentu, moraju imati pravo na žalbe na sustave umjetne inteligencije, kao i na objašnjenja odluka donesenih na temelju visokorizičnih sustava umjetne inteligencije.
