Srijeda, 24 travnja, 2024
spot_img

Zadnje objave

Možda vam se sviđa

Elon Musk smatra da je moguće da AI uništiti čovječanstvo

Govoreći na seminaru “Great AI Debate” na četverodnevnom Abundance Summitu ranije prošlog mjeseca, Elon Musk je ponovno promijenio svoju procjenu rizika za tehnologiju umjetne inteligencije. Rekavši kako postoji vjerojatnost od 10 ili 20 posto da AI uništi čovječanstvo.

(No), mislim da pozitivan scenarij vjerojatno nadmašuje negativan scenarij.“, smatra Eloon Musk.

Roman Yampolskiy, istraživač sigurnosti umjetne inteligencije i direktor Laboratorija za kibernetičku sigurnost na Sveučilištu Louisville, rekao je za Business Insider da je Musk u pravu kad kaže kako AI može biti egzistencijalni rizik za čovječanstvo. Ipak, procjenjuje, “ako išta, malo je previše konzervativan” u svojoj procjeni opasnosti.

“Stvarna vjerojatnost je puno veća prema mom mišljenju”, rekao je Yampolskiy. Govoreći o “vjerojatnosti propasti” ili vjerojatnosti da AI preuzme kontrolu nad čovječanstvom ili izazove događaj koji bi okončao ljudsku vrstu. Scenarij poput stvaranja novog biološkog oružja. Čak neki spominju izazivanje kolapsa društva zbog masovnog kibernetičkog napada ili nuklearnog rata.

Yampolskiy procjenjuje rizik od takvog scenarija na “99.99999%”.

Nisam siguran zašto itko misli da je dobra ideja slijediti ovu tehnologiju na bilo koji način. Ako Musk misli da će njegovi konkurenti ostvariti veći napredak od njega, to nije važno jer je nekontrolirana nadmoćna inteligencija jednako loša, bez obzira tko je stvori.

Roman Yampolskiy, istraživač sigurnosti umjetne inteligencije i direktor Laboratorija za kibernetičku sigurnost na Sveučilištu Louisville

Elon Musk: digitalna inteligencija će nadmašiti ljudsku inteligenciju do 2030. godine

Iako je zagovornik regulacije AI-ja, Musk je prošle godine osnovao kompaniju pod nazivom xAI. Ona je posvećena daljnjem razvoju AI tehnologije. XAI je konkurent OpenAI-u, kompaniji koju je Musk suosnovao sa Samom Altmanom. Nakon toga je 2018. godine odstupio s iz kompanijinog upravnog odbora.

Elon Musk sada procjenjuje kako će digitalna inteligencija nadmašiti svu ljudsku inteligenciju do 2030. godine. Iako tvrdi da su potencijalne pozitivne strane primjene AI-a važnije od negativnih. Musk je priznao rizik za svijet ako se razvoj AI-ja nastavi u trenutnom smjeru, prenosi PoslovniPuls.

Vi doslovno uzgajate AGI (opća umjetna inteligencija, op.a.) To je gotovo kao odgajanje djeteta, ali onog koji je poput super genijalca, kao dijete s božanskom inteligencijom – i važno je kako odgajate to dijete”, rekao je Musk. “Jedna od stvari koju smatram iznimno važnom za sigurnost AI-ja je imati maksimalnu vrstu istraživanja istine i znatiželju AI-ja.

Musk je rekao da je njegov “konačan zaključak” u vezi s najboljim načinom postizanja sigurnosti AI-ja taj da se AI razvija na način koji ga prisiljava da bude istinit.

Ne prisiljavajte AI da laže, čak i ako je istina neugodna“, rekao je Musk o najboljem načinu da se ljudi zaštite od tehnologije. “To je vrlo važno. Nemojte natjerati AI da laže.

Prijavite se na naš Newsletter

Popularno