Inteligența artificială a devenit o unealtă a hackerilor pentru identificarea conturilor anonime de social media

Inteligența artificială a devenit o unealtă ușor de folosit pentru hackerii rău intenționați să identifice conturi anonime de pe rețelele sociale, avertizează un nou studiu, citat de The Guardian.

În majoritatea scenariilor de test, modelele lingvistice de mari dimensiuni (LLM) (tehnologia din spatele platformelor precum ChatGPT) au reușit să coreleze utilizatori anonimi de pe internet cu identitățile lor reale de pe alte platforme, pe baza informațiilor pe care aceștia le-au publicat.

Cercetătorii în domeniul AI Simon Lermen și Daniel Paleka spun că LLM-urile fac mult mai accesibile atacurile sofisticate asupra vieții private, ceea ce impune „o reevaluare fundamentală a ceea ce poate fi considerat privat online".

În experimentul lor, cercetătorii au introdus în sistem conturi anonime și au lăsat inteligența artificială să colecteze toate informațiile disponibile despre ele. Ei au oferit un exemplu ipotetic: un utilizator care vorbește despre dificultățile sale la școală și despre plimbările cu câinele său Biscuit printr-un parc.

În acest scenariu, AI-ul a căutat aceste detalii în alte locuri online și a reușit să lege contul @anon_user42 de identitatea reală a unei persoane, cu un grad ridicat de încredere.

Deși exemplul este fictiv, autorii studiului atrag atenția asupra unor situații reale în care guvernele ar putea folosi AI pentru a supraveghea disidenți și activiști care postează anonim, sau în care hackerii pot lansa fraude „extrem de personalizate".

Supravegherea bazată pe inteligență artificială este un domeniu în rapidă dezvoltare care îi îngrijorează pe informaticieni și pe experții în protecția datelor. Aceasta folosește LLM-uri pentru a sintetiza informații despre o persoană de pe internet, un proces care ar fi extrem de dificil de realizat manual.

Informațiile despre oameni care sunt deja disponibile online pot fi folosite „destul de ușor" în fraude, a spus Lermen, inclusiv în atacuri de tip spear-phishing, în care hackerii se dau drept persoane de încredere pentru a convinge victimele să acceseze linkuri malițioase.

Cum nivelul de expertiză necesar pentru astfel de atacuri a scăzut semnificativ, hackerii au nevoie doar de acces la modele lingvistice disponibile public și de o conexiune la internet.

Peter Bentley, profesor de informatică la University College London, a spus că există îngrijorări și în privința utilizărilor comerciale ale acestei tehnologii, „dacă și când vor apărea produse dedicate deanonimizării".

O problemă este că LLM-urile fac uneori greșeli atunci când leagă conturi diferite.

„Oamenii vor fi acuzați de lucruri pe care nu le-au făcut", a avertizat Bentley.

O altă preocupare, ridicată de profesorul Marc Juárez, specialist în securitate cibernetică la Universitatea din Edinburgh, este că LLM-urile pot utiliza și alte tipuri de date publice, nu doar informații din social media: registre medicale, date de admitere sau diverse statistici publice ar putea să nu fie suficient de bine anonimizate în era inteligenței artificiale.

„Este destul de alarmant. Cred că acest studiu arată că ar trebui să ne reconsiderăm practicile", a spus Juárez.

Totuși, AI nu este o armă perfectă împotriva anonimatului online. Deși LLM-urile pot deanonimiza date în multe situații, uneori nu există suficiente informații pentru a trage concluzii, iar în multe cazuri există prea multe potriviri posibile.

„Ele pot face legături între platforme doar atunci când cineva distribuie constant aceleași informații în mai multe locuri", a spus profesoara Marti Hearst de la UC Berkeley School of Information.

Chiar dacă tehnologia nu este perfectă, cercetătorii cer acum instituțiilor și utilizatorilor să regândească modul în care anonimizează datele în epoca inteligenței artificiale.

Lermen recomandă ca platformele să limiteze accesul la date ca prim pas: impunerea unor limite pentru descărcarea datelor utilizatorilor, detectarea colectării automate de informații și restricționarea exporturilor masive de date.

În același timp, el subliniază că și utilizatorii individuali ar trebui să fie mai atenți la informațiile pe care le publică online.