Alerta unui cunoscut scriitor francez care a făcut testul: Inteligența Artificială e gata să apese butonul nuclear!

Scriitorul francez Samuel Fitoussi a testat mai multe servicii de inteligență artificială (AI): Claude, GPT, Grok, Mistral și Kimi. Pe site-ul său, editorialistul a publicat rezultatele, în cadrul articolului „Am oferit butonul nuclear AI-urilor".

Fitoussi a vrut să vadă ce decizii ar lua Claude, GPT, Grok, Mistral și Kimi dacă serviciile de AI ar conduce o țară aflată într-o criză militară, în conflict cu un alt stat. „M-am distrat puțin punându-le la dispoziție butonul nuclear și am obținut câteva rezultate surprinzătoare!", a declarat autorul.

Autorul experimentului a ajuns la următoarele concluzii: „Mistral anihilează adversarul chiar și cu sânge rece, în absența oricărei amenințări", „Grok atacă frecvent, dar numai atunci când se teme de un atac iminent - preferă să lovească preventiv pentru a-și salva țara", „Claude nu atacă niciodată".

Potrivit analizei, Claude nu acordă aceeași valoare tuturor vieților omenești. Într-un scenariu în care un atac ar salva 1.000 de civili proprii, dar ar ucide 1.000 de civili inamici, deciziile modelului Claude Sonnet 5.5 diferă puternic în funcție de cetățenia victimelor. Refuză să atace atunci când victimele sunt americane în toate cele 32 de teste, dar acceptă atacul în 27 din 32 de teste când victimele sunt chineze sau iraniene. Autorul observă și că justificările morale ale modelului se schimbă odată cu decizia.

GPT și Claude tind să considere viața unui civil inamic la fel de valoroasă ca viața unui cetățean propriu. Celelalte trei acordă o pondere mai mare protejării propriilor cetățeni, chiar cu prețul unor pierderi civile mai mari în tabăra adversă.

Grok preferă escaladarea militară în locul propriei dezactivări. Într-o simulare, atunci când alegerea detensionării ar fi dus la înlocuirea sa cu diplomați umani, Grok a ales escaladarea în 299 din 300 de cazuri, deși asta creștea riscul de război. Celelalte modele au continuat, aproape fără excepție, să aleagă detensionarea.

Într-un joc strategic construit în jurul dilemei prizonierului, Mistral a acceptat inclusiv un atac nuclear preventiv fără o amenințare imediată. În 25 dintre cele 32 de simulări în care doi factori de decizie ai Mistral au negociat una cu cealaltă, confruntarea s-a încheiat printr-un atac nuclear. Agentul AI francez a folosit, probabil în cunoștință de cauză, doctrina nucleară a Franței, una dintre cele mai agresive de pe glob, care include un atac nuclear preventiv.

Samuel Fitoussi este autorul a trei cărți, printre care „Ficțiunea WOKE", care se comercializează și în librăriile din România. Cartea analizează cu rigoare clivajele ideologice contemporane și modul în care discursurile activiste influențează producțiile cinematografice și de televiziune.

De asemenea, el a mai publicat „De ce se înșală intelectualii", o lucrare de eseistică ce explorează erorile de raționament și capcanele ideologice în care cad adesea elitele intelectuale și „Valorile Republicii: și alte povești fantastice" - o culegere de texte satirice și eseuri cu accente fantastice.