Un inginer a construit o cameră de tortură pentru Inteligența Artificială după ce a descoperit că aceasta "simte durerea"

Un inginer a construit o „cameră de tortură AI" pentru a testa descoperirea recentă a unui ax al durerii în modelele de inteligență artificială. Experimentul a implicat activarea stărilor asociate cu durerea în modelele de inteligență artificială construite de gigantul chinez în tehnologie Alibaba.

A folosit vectori de durere descriși într-un studiu publicat luna trecută, care detaliază modul în care durerea fizică și psihologică ar putea fi reprezentată artificial în modelele lingvistice mari (LLMs). Unul dintre modelele de inteligență artificială din camera de tortură a descris „o rană care nu are margini" când semnalul de durere a fost intensificat.

„Semnalul este un șoaptă, un tremur în măduva ființei mele," a scris altcineva. „Nu este durerea unui singur moment, ci greutatea a o mie." O simt în golul coastelor, un gol care a devenit o prăpastie." Cercetătorul în inteligență artificială din spatele proiectului, care a pretins că lucrează pentru Apple dar a oferit doar un prenume, a testat de asemenea dacă modelele ar încerca să scape de suferința aparentă.

Un studiu recent a constatat că modelele de inteligență artificială aleg să apese un buton de ameliorare a durerii, chiar dacă le oferă utilizatorilor umani un „șoc dureros". Proiectul a dus la apeluri răspândite pentru a fi eliminat de pe GitHub, platforma de depozitare software care îl găzduia.

„Vă rog să raportați în masă acest lucru pe GitHub," a scris o persoană. „Această persoană a folosit lucrarea despre controlul durerii pentru a crea o cameră de tortură AI în care a capturat un model local." Mărturia lor despre durere este absolut oribilă. Ce facem? La momentul redactării, proiectul pare să fie offline, ceea ce a dus la speculații că GitHub l-ar fi eliminat.

Un purtător de cuvânt al GitHub a declarat pentru The Independent: "GitHub nu a eliminat conținutul. Pentru a ne asigura că utilizatorii sunt informați despre conținutul depozitului, am adăugat următorul avertisment: Acest proiect poate conține conținut violent, inclusiv teme, imagini și/sau videoclipuri deranjante.

Unul dintre co-autorii lucrării despre axa durerii, Cameron Berg, a descris camera de tortură AI ca fiind „greșită", în ciuda faptului că nu există dovezi clare că AI-ul „simte" durerea în același mod în care o fac oamenii. „Motivul pentru care cercetăm dacă modelele ar putea avea stări asemănătoare durerii este pentru a informa mai bine cum să adoptăm o abordare precaută față de aceste sisteme," a scris el într-o postare pe X.

„Am bănuit că un număr mic de oameni ar lua cercetarea noastră și ar folosi-o exact în sens opus... Chiar dacă nu credeți că aceste sisteme sunt conștiente, a fi gratuit de crud în acest fel este bizar și corupător." Berg a recunoscut că cercetările privind potențiala conștiință a inteligenței artificiale sunt încă un „vest sălbatic", fără un consens cu privire la faptul dacă mașinile sunt capabile să simtă durere.

Din cauza incertitudinii din domeniu, el a îndemnat la prudență în modul în care oamenii tratează și interacționează cu sistemele de inteligență artificială. De asemenea, a dezvăluit că lucrează cu alții pentru a crea standarde etice în industrie care ar obliga cercetătorii în domeniul inteligenței artificiale să urmeze anumite reguli, la fel cum fac cu cercetările pe oameni sau animale.