Srijeda, 24 travnja, 2024
spot_img

Zadnje objave

Možda vam se sviđa

Naši razgovori s chatbotovima nisu privatni

Trebali biste biti oprezni s informacijama koje dijelite s chatbotovima. Voditelj laboratorija za istraživanje ofenzivne umjetne inteligencije na izraelskom Sveučilištu Ben-Gurion Yisroel Mirsky otkrio je kako je trenutačno moguće čitati privatne razgovore s ChatGPT-a i drugih takvih servisa.

Iako servisi poput ChatGPT-a koriste enkripciju za zaštitu razgovora između korisnika i servisa, kako ističe Mirsky, ta enkripcija nije dovoljno dobra za zaštitu podataka.

Objašnjava kako hakeri ili drugi zlonamjerni akteri koji su na istoj mreži kao i “žrtva” mogu promatrati promet između korisnika i servisa, te s pomoću metapodataka i velikih jezičnih modela posebno osposobljenih za taj zadatak, dorađivati te podatke i otkrivati o čemu se u “hakiranom” razgovoru raspravljalo.

“Otkrili smo da je ovaj napad iznimno dobar u dešifriranju odgovora na uobičajena pitanja koja ljudi postavljaju svojim pomoćnicima (npr. podaci iz povijesti, savjeti), ali se muči s dešifriranjem proizvoljnog sadržaja (npr. rješavanje zagonetke)”, napisao je Mirsky.

Kako ističe Mirsky, takav pasivni napad u čak 55 posto slučajeva može zaključiti o čemu se raspravljalo u razgovoru. A savršeno može biti točan u čak 29 posto slučajeva., prenosi Zimo

Napad je pasivan i može se dogoditi bez znanja OpenAI-a ili njihova klijenta. OpenAI šifrira njihov promet kako bi spriječio takve vrste napada, ali ovo je istraživanje pokazalo da je način na koji OpenAI koristi enkripciju pogrešan i da je sadržaj poruka izložen.

Jedini siguran – Google Gemini

Zanimljivo, ChatGPT nije jedini chatbot koji je izložen takvom napadu. Ali isto tako, jedini chatbot koji nije ranjiv jest Googleov Gemini.

Istraživači su, u svojoj studiji, dali dva prijedloga za ublažavanje učinkovitosti takva napada. Prvi je slijediti Googleov primjer i prestati slati pakete jedan po jedan jer ih takvo slanje čini lakšima za otkrivanje i prevođenje. Drugi je primijeniti tehniku ​​koja paketima dodaje nasumične količine razmaka tako da svi imaju fiksnu duljinu jednaku najvećem mogućem paketu. Time bi se otežalo njihovo prepoznavanje.

No problem je što bi primjenom i jednog i drugog prijedloga bio usporen odgovor chatbota korisniku. Što bi degradiralo korisničko iskustvo. Kako objašnjava Mirsky, slanje tokena u velikim serijama može uzrokovati kašnjenja. Dok bi paketi za punjenje povećali količinu prometa poslanog u svakom odgovoru.

Nakon što je ova studija objavljena, OpenAi i Cloudflare implementirali su promjene. Te promjene bi trebale smanjiti mogućnost takvih napada.

Prijavite se na naš Newsletter

Popularno