Ako se nastavi nekontrolirani razvoj umjetne inteligencije (AI), vođen kompeticijom među kompanijama. Ako ne pauziramo kako bismo odredili smjernice za njegov razvoj i neke regulacije, moglo bi nam se dogoditi da nas ona nadvlada i istisne kao što je Homo sapiens istisnuo neandertalce. Upozorio je u nedavno objavljenom razgovoru fizičar i istraživač umjetne inteligencije Max Tegmark.
Otvoreno pismo za moratorij na razvoj AI-a
U podcastu Lexa Fridmana, informatičara i istraživača umjetne inteligencije na Massachusetts Institute of Technologyju , Max Erik Tegmark, fizičar, kozmolog i istraživač strojnog učenja, objasnio je, među ostalim, zašto je zabrinut sadašnjim načinom razvoja umjetne inteligencije.I zašto je sa skupinom znanstvenika, mislilaca i stručnjaka za umjetnu inteligenciju pokrenuo otvoreno pismo. U kojem traže šestomjesečni moratorij na daljnje unapređivanje sustava moćnijih nego što je GPT-4.
U pismu, koje kritizira postojeći pristup u stilu – prvo izgradimo brod, a poslije ćemo ga popravljati. Upozorava da važnu utrku u razvoju AI-a vode čelnici kompanija koji nisu izabrani predstavnici ljudi, već čelnici tehnoloških kompanija, autori postavljaju četiri pitanja:
- Trebamo li dopustiti strojevima da preplave naše informacijske kanale propagandom i neistinom?
- Trebamo li automatizirati sve poslove, uključujući i one koji ispunjavaju ljudske živote smislom?
- Trebamo li razviti neljudske umove koji bi nas na kraju mogli brojčano nadmašiti, nadmudriti, zastarjeti i zamijeniti?
- Trebamo li riskirati gubitak kontrole nad svojom civilizacijom?
Pismo je do sada potpisalo više od 27.500 ljudi. Među kojima su povjesničar i autor nekoliko bestselera kao što je Sapiens Yuval Noah Harari. Suosnivač Applea Steve Wozniak. Te suosnivač Skypea Jaan Tallinn. Brojni istraživači umjetne inteligencije kao što su Stuart Russell, Yoshua Bengio, Gary Marcus i Emad Mostaque.
Teško je očekivati da bi pismo samo po sebi moglo zaustaviti ili usporiti kompanije poput Googlea i Microsofta. No njegove poruke možda bi mogle doprijeti do političara koji bi mogli nešto poduzeti u zakonodavnom smislu.
Tegmark već godinama upozorava na AI
U ovom kontekstu zanimljivo je istaknuti da Tegmark nije nov u razvoju računarstva. On je još kao srednjoškolac, zajedno sa svojim prijateljem, kreirao i prodavao program za obradu teksta napisan u čistom strojnom kodu. I 3D igru sličnu Tetrisu pod nazivom Frac. Danas je na MIT-ju fokusiran na povezivanje fizike i strojnog učenja. Odnosno na korištenje AI-a za potrebe fizike te fizike za potrebe razvoja AI-a.
Institut Future of Life, koji danas vodi, objavio je još 2015. sličnu peticiju za moratorij na razvoj autonomne oružane tehnologije. Nju je uz Tegmarka tada potpisalo cijelo mnoštvo poznatih osoba, uključujući Stephena Hawkinga, Elona Muska, Stuarta Russella, Noama Chomskog, Stevea Wozniaka, Martina Reesa, Demisa Hassabisa, Raya Kurzweila i mnoge druge.
“Mi ćemo stvoriti vanzemaljsku inteligenciju”
U ovom tekstu prenijet ćemo slobodan prijevod nekih od najvažnijih dijelova razgovora Fridmana i Tegmarka, koji do danas ima preko 800.000 pregleda.
U uvodnom dijelu Tegmark kaže kako, za razliku od brojnih drugih znanstvenika, vjeruje da je tehnološki napredan život, kao što je ljudski na Zemlji, iznimka u vidljivom svemiru.
“Ako je to istina, to nam nameće veliku odgovornost da ne zabrljamo… Mi smo čuvari ove iskre napredne svijesti koja se, ako je njegujemo i pomažemo joj rasti, može proširiti po svemiru i mi možemo imati zadivljujuću budućnost”, rekao je Tegmark.
“S druge strane, ako smo bezobzirni u razvoju tehnologije, onda ćemo je iz gluposti ili u sukobima ugasiti. Zapravo, mislim da će nas strana inteligencija (eng. alien intelligence) posjetiti vrlo skoro. No to je inteligencija koju ćemo sami izgraditi, a ne vanzemaljska”, dodao je istaknuvši da će ta umjetna inteligencija biti egzotičnija od inteligencije najegzotičnijih stvorenja na Zemlji. Jer neće biti stvorena kroz uobičajenu Darwinovu kompeticiju, u kojoj su važne stvari kao što su samoočuvanje, strah od smrti i sl.
“Nama je teško i zamisliti kako bi izgledala inteligencija koja se ne boji smrti”
Upozorio je da će se ona razvijati mnogo brže nego što to omogućuje evolucija. Što podrazumijeva veliku odgovornost da umovi koje ćemo stvoriti budu vrijedni stvaranja. Da dijele naše vrijednosti i budu dobri za čovječanstvo i život uopće.
Objasnio je da je nama teško i zamisliti kako bi izgledala inteligencija koja se ne boji smrti. Koja u trenutku može naučiti neki jezik, poput švedskog, ili može iz memorije izbrisati sve doživljaje koji joj se ne sviđaju.
Upozorio je da je važno biti svjestan i zamisliti se nad očiglednom činjenicom da je prostor za razvoj umjetnih inteligencija vrlo širok. No i da je vrlo opasno pretpostaviti da će umjetna inteligencija biti na bilo koji način slična našoj.
“Upravo stvaramo život 3.0”
Govoreći o svojoj knjizi Život 3.0, Tegmark je objasnio da život 1.0 podrazumijeva oblike poput bakterija koji ne mogu puno naučiti tijekom svojeg života. Život 2.0 je nalik na naš i život životinja s mozgom koje mogu puno naučiti. Život 3.0, koji još nije stvoren, podrazumijeva život koji neće moći promijeniti samo svoj softver, koji mi možemo mijenjati, već i hardver. piše index
“To je ono prema čemu se ubrzano krećemo. Kompanije koje pokušavaju napraviti umjetnu opću inteligenciju razvijaju život 3.0. Tu inteligenciju moći ćete smjestiti u nešto što nema nikakvih bioloških temelja”, rekao je misleći na robote.
“Nalazimo se na najvažnijem križanju puta čovječanstva”
Trenutnu situaciju u razvoju AI-a Tegmark je usporedio s radnjom filma Ne gledaj gore. U kojem mnogi ljudi ne vjeruju u ozbiljnost prijetnje i ne poduzimaju ništa razumno premda imaju informacije da golem asteroid juri prema Zemlji.
Upozorio je da čovječanstvo upravo u ovom trenutku samo gradi takav asteroid i da gotovo nitko o tome u javnosti ozbiljno ne raspravlja.
“Mnogi političari to nemaju nigdje na svom radaru i misle da je to nešto što će se možda dogoditi za 100 godina ili više. No mi se upravo sada nalazimo na račvanju. To je najvažnije račvanje do kojeg je čovječanstvo došlo u svojih stotinjak tisuća godina postojanja na Zemlji. Mi u suštini gradimo novu vrstu koja je pametnija od nas”, upozorava.
“A dolazak umjetne opće inteligencije koja može raditi sve poslove jednako dobro kao mi, i vjerojatno uskoro nakon toga superinteligencije koja će daleko nadići naše kognitivne sposobnosti. Bit će ili najbolja stvar koja se ikad dogodila čovječanstvu ili najgora. Snažno sam uvjeren da tu ne postoji sredina”, tumači Tegmark.
Utrka između razvoja AI-a i razvoja mudrosti
Govoreći o otvorenom pismu spomenutom u uvodu, objasnio je da je važno dobiti utrku između razvoja AI-a i naših mogućnosti da upravljamo njime. Podsjetio je da su do sada brojni stručnjaci s kojima dijeli mišljenje uglavnom smatrali da ne treba usporavati razvoj AI-a. Već umjesto toga treba pokušati ubrzati razvoj mudrosti i poduzeti sve tehničke stvari kako bi se osiguralo da moćan AI radi upravo ono što želimo. Da radi i da se društvo prilagodi prilikama i regulacijama kako bi se AI na dobar način koristio.
