Utorak, 16 srpnja, 2024
spot_img

Zadnje objave

Možda vam se sviđa

Zašto AI sustavi često zanemaruju žene: Problem podataka i rodne pristranosti

Umjetna inteligencija (AI) se trenira na skupovima podataka koji uglavnom odražavaju mušku perspektivu.

Razvoj umjetne inteligencije otvara mnoga pitanja, uključujući regulaciju, zaštitu podataka, sprječavanje zamjene ljudskog rada… ali i postizanje rodne ravnopravnosti. Na ovaj posljednji problem upozorava UN Women, entitet Ujedinjenih naroda, koji pruža brojne primjere rodne pristranosti ugrađene u podatke na kojima se umjetna inteligencija trenira.

Ova pristranost proizlazi iz opće rodne neravnopravnosti u svijetu. Ako se ne ispravi i ako se trenutačni trendovi nastave, moglo bi doći do još većih nejednakosti i smanjenja kvalitete usluga koje se pružaju ženama u raznim područjima života, uključujući zdravstvo i financije.

Prema članku objavljenom na stranicama UN Women, do rodne pristranosti dolazi jer se umjetna inteligencija trenira na skupovima podataka koji uglavnom odražavaju mušku perspektivu.

“Umjetna inteligencija odražava predrasude prisutne u našem društvu koje se očituju u podacima korištenim za njezinu obuku,” kaže Beyza Doğuç, mlada glazbenica, spisateljica i AI stručnjakinja iz Turske, u nedavnom intervjuu za UN Women. Da je to zaista slučaj, uvjerila se dok je koristila generativnu umjetnu inteligenciju (GenAI) za istraživanje svog romana.

Doğuç je zatražila od GenAI-a da napiše priču o liječniku i medicinskoj sestri, a rezultat je bio da je doktor bio muškarac, a medicinska sestra žena. Kada je počela davati dodatne upute, AI je uvijek odabirao rodno stereotipne uloge za likove, povezujući određene kvalitete i vještine s muškim ili ženskim likovima.

Kada ga je upitala zašto pokazuje rodnu pristranost, AI je objasnio da je to zbog podataka na kojima je bio treniran, posebno zbog “ugrađivanja riječi” – načina na koji su riječi kodirane u strojnom učenju kako bi odražavale njihovo značenje i povezivanje s drugim riječima.

“Ako je umjetna inteligencija obučena na podacima koji povezuju žene i muškarce s različitim specifičnim vještinama ili interesima, ona će generirati sadržaj koji odražava tu pristranost,” objašnjava se u članku objavljenom na stranicama UN Women.

Manja prisutnost na internetu

Iskustvo mlade umjetnice iz Turske potvrđuje nalaze studije provedene od strane Centra za jednakost, rod i vodstvo na Berkeley Haas School of Business, dio Sveučilišta u Kaliforniji. Studija je analizirala 133 sustava umjetne inteligencije u različitim industrijama te je otkrila da otprilike 44 posto tih sustava pokazuje rodnu pristranost, dok 25 posto pokazuje i rodnu i rasnu pristranost.

Nejednakosti u podacima na kojima se umjetna inteligencija trenira proizlaze iz niže participacije žena na internetu u usporedbi s muškarcima, kao i činjenice da većina razvoja umjetne inteligencije dolazi od strane muškaraca.

Podaci Međunarodne telekomunikacijske unije (ITU), specijalizirane agencije UN-a, pokazuju da na svjetskoj razini internet koristi 65 posto žena i 70 posto muškaraca. Razlike su mnogo izraženije u zemljama s niskim dohotkom, gdje internet koristi samo 20 posto žena u usporedbi s 34 posto muškaraca. Također, Izvješće o globalnom rodnom jazu iz 2023. navodi da samo 30 posto žena trenutno radi u industriji umjetne inteligencije.

Sola Mahfouz, istraživačica kvantnog računalstva na Sveučilištu Tufts u SAD-u, također upozorava na nedostatak žena u razvoju umjetne inteligencije. Mahfouz, rođena u Afganistanu, bila je prisiljena napustiti školu kada su talibani došli na vlast. Na kraju je s obitelji pobjegla iz Afganistana i emigrirala u SAD, gdje danas radi na razvoju platforme temeljene na umjetnoj inteligenciji koja bi povezivala afganistanske žene.

“Potrebno je više žena istraživačica na ovom području. Jedinstvena životna iskustva žena mogu značajno oblikovati teorijske osnove tehnologije i otvoriti nove mogućnosti za njezinu primjenu,” kaže Mahfouz za UN Women. Dodaje da je “razvoj tehnologije iz samo jedne perspektive kao gledanje na svijet s jednim okom zatvorenim.”

Rodnu pristranost u razvoju umjetne inteligencije primijetila je i Natacha Sangwa, studentica iz Ruande, koja je prošle godine sudjelovala u prvom kampu kodiranja u sklopu inicijative “African Girls Can Code”.

“Primijetila sam da umjetnu inteligenciju uglavnom razvijaju muškarci i da se trenira na skupovima podataka koji su većinom muški,” kaže Sangwa za UN Women, upozoravajući na posljedice takve situacije. “Kada žene koriste AI alate za dijagnosticiranje bolesti, često dobivaju netočne rezultate jer umjetna inteligencija ne prepoznaje razlike u simptomima između muškaraca i žena,” ističe.

Raznovrsniji i inkluzivniji timovi

UN-ov entitet za ravnopravnost spolova i osnaživanje žena upozorava da bi nastavak ovih trendova mogao dovesti do nedostatka rodnih i rasnih perspektiva, što bi u konačnici moglo rezultirati nižom kvalitetom usluga te pristranim odlukama u vezi s poslovima, kreditima i zdravstvenom skrbi.

“Uklanjanje rodne pristranosti u umjetnoj inteligenciji započinje davanjem prioriteta rodnoj ravnopravnosti tijekom konceptualizacije i izgradnje AI sustava. To uključuje procjenu lažnog predstavljanja podataka, osiguravanje podataka koji su reprezentativni za različita spolna i rasna iskustva te preoblikovanje timova koji razvijaju AI kako bi bili raznolikiji i inkluzivniji,” navode iz UN Women.

Također ističu da pregovori o Globalnom digitalnom sporazumu (GDC) predstavljaju jedinstvenu priliku za integraciju rodnih perspektiva u digitalnu tehnologiju i upravljanje. “Bez rodne perspektive u umjetnoj inteligenciji, riskiramo da rodno utemeljena diskriminacija ostane nepromijenjena. Štoviše, postoji opasnost da AI sustavi takvu diskriminaciju dodatno ojačaju,” upozoravaju iz UN Women, prenosi Poslovni.

Prijavite se na naš Newsletter

Popularno