Ključne osobe u području umjetne inteligencije žele da se razvoj moćnih AI sustava obustavi zbog straha od prijetnje čovječanstvu.
Potpisali su otvoreno pismo u kojem upozoravaju na potencijalne rizike i kažu da je utrka za razvojem AI sustava izmakla kontroli.
OpenAI, tvrtka koja stoji iza ChatGPT-a, nedavno je izdala GPT-4. Najsuvremeniju tehnologiju koja je impresionirala promatrače svojom sposobnošću obavljanja zadataka kao što je odgovaranje na pitanja o objektima na slikama.
Pismo Instituta za budućnost života (Future of Life Institute), koje su potpisali šef Twittera Elon Musk, suosnivač Applea Steve Wozniak i neki istraživači u DeepMindu, želi da se razvoj privremeno zaustavi. U svom pismu upozorava na rizike koje bi budući napredniji sustavi mogli predstavljati.
Sustavi umjetne inteligencije s inteligencijom konkurentnom onoj ljudskoj mogu predstavljati duboke rizike za društvo i čovječanstvo.
Institut za budućnost života neprofitna je organizacija koja kaže da je njezina misija “usmjeriti transformativne tehnologije od ekstremnih, velikih rizika prema korisnom životu”.
Elon Musk, vlasnik Twittera i izvršni direktor automobilske tvrtke Tesla, naveden je kao vanjski savjetnik organizacije.
Naprednu umjetnu inteligenciju potrebno je pažljivo razvijati, stoji u pismu. Ali umjesto toga, posljednjih mjeseci vidjeli smo laboratorije umjetne inteligencije u nekontroliranoj utrci za razvojem i uvođenjem sve moćnijih digitalnih umova. Koje nitko – pa čak ni njihovi kreatori – ne mogu razumjeti, predvidjeti ili pouzdano kontrolirati.
Pismo upozorava da bi umjetna inteligencija mogla preplaviti informacijske kanale dezinformacijama i automatizirati poslove.
Pismo je uslijedilo nakon nedavnog izvješća investicijske banke Goldman Sachs. U njemu se kaže da bi umjetna inteligencija vjerojatno povećala produktivnost, ali bi milijuni poslova mogli postati automatizirani.
Međutim, drugi stručnjaci rekli su za BBC da je učinak umjetne inteligencije na tržište rada vrlo teško predvidjeti.
Nadmudreno i zastarjelo
Pismo se, spekulativno, pita: “Trebamo li razviti neljudske umove koji bi nas na kraju mogli brojčano nadmašiti, nadmudriti, prerasti i zamijeniti nas?”
U nedavnoj objavi na blogu citiranoj u pismu, OpenAI je upozorio na rizike ako se umjetna opća inteligencija (AGI) razvije nepromišljeno. “Pogrešno usklađena superinteligentna AGI mogla bi uzrokovati veliku štetu svijetu; isto bi mogao učiniti i autokratski režim s odlučujućim superinteligentnim vodstvom.
Koordinacija između AGI-jevih napora za usporavanje u kritičnim točkama vjerojatno će biti važna.
OpenAI
Elon Musk bio je suosnivač OpenAI-ja. Dao je ostavku na mjesto odbora organizacije prije nekoliko godina i kritički je tvitao o njezinom trenutnom smjeru. Funkcije autonomne vožnje koje je izradila njegova automobilska tvrtka Tesla, kao i većina sličnih sustava, koriste AI tehnologiju.
U pismu se traži od AI laboratorija da “odmah barem i na barem šest mjeseci prekinu razvoj AI sustava moćnijih od GPT-4″. Ako se takva odgoda ne može brzo provesti, vlade bi trebale uskočiti i uvesti moratorij.
Također bi bila potrebna “nova i sposobna regulatorna tijela posvećena umjetnoj inteligenciji”.
Nedavno je u SAD-u, Ujedinjenom Kraljevstvu i EU izneseno nekoliko prijedloga za regulaciju tehnologije. Ujedinjeno Kraljevstvo je taj prijedlog, međutim, odbacilo.
