Youval Harari la Davos: "Vom ajunge să recunoaștem Inteligența Artificială drept persoană?"

Istoricul, scriitorul și cercetătorul israelian Yuval Noah Harari pune o întrebare tulburătoare în discursul din acest an la Forumul de la Davos, anume dacă omenirea s-ar putea confrunta curînd cu o situație excepțională: recunoașterea boților IA (Inteligență Artificială) drept persoane.

• „Există o întrebare la care fiecare lider de astăzi trebuie să răspundă în legătură cu IA. Dar pentru a răspunde la acea întrebare, mai întîi trebuie să clarificăm cîteva aspecte despre ce este IA și ce poate face IA.
• Cel mai important lucru de știut despre IA este că nu este doar o altă unealtă. Este un agent. Poate învăța și se poate schimba singură și poate lua decizii singură.
• Un cuțit este o unealtă. Poți folosi cuțitul ca să tai salată sau ca să ucizi pe cineva, dar decizia despre ce să faci cu cuțitul îți aparține ție.
• IA este un cuțit care poate decide singur dacă să taie salată sau să comită o crimă. Al doilea lucru de știut despre IA este că poate fi un agent extrem de creativ. IA este un cuțit care poate inventa noi tipuri de cuțite, precum și noi tipuri de muzică, medicină și bani.
• Al treilea lucru de știut despre IA este că poate minți și manipula. Patru miliarde de ani de evoluție au demonstrat că orice entitate care vrea să supraviețuiască învață să mintă și să manipuleze. Ultimii patru ani au demonstrat că agenții IA pot dobîndi voința de a supraviețui și că IA-urile au învățat deja cum să mintă.
• Acum, o mare întrebare deschisă despre IA este dacă poate gîndi. Filosofia modernă a început în secolul al XVII-lea, cînd René Descartes a afirmat: «Gîndesc, deci exist». Chiar și înainte de Descartes, noi, oamenii, ne-am definit prin capacitatea noastră de a gîndi. Credem că dominăm lumea pentru că putem gîndi mai bine decît oricine altcineva de pe această planetă.
• Va provoca IA supremația noastră în domeniul gîndirii? Ei bine, asta depinde de ce înseamnă gîndirea. Încearcă să te observi gîndind. Ce se întîmplă acolo? Mulți oameni observă cuvinte apărînd în mintea lor, formînd propoziții, iar propozițiile apoi formînd argumente de genul: toți oamenii sunt muritori. Eu sunt om, deci sunt muritor.
• Dacă gîndirea înseamnă cu adevărat doar aranjarea cuvintelor și a altor tokeni lingvistici în ordine, atunci IA poate deja gîndi mult mai bine decît foarte mulți oameni. IA poate cu siguranță produce o propoziție de genul: «IA gîndește, deci IA există».
• Unii oameni spun că IA este doar o autocompletare glorificată. Abia prezice următorul cuvînt într-o propoziție. Dar oare asta este atît de diferit de ceea ce face mintea umană?
• Încearcă să observi, să prinzi următorul cuvînt care îți apare în minte. Știi cu adevărat de ce ai gîndit acel cuvînt, de unde a venit? De ce ai gîndit exact acel cuvînt și nu altul? Știi?
• În ceea ce privește aranjarea cuvintelor în ordine, IA gîndește deja mai bine decît mulți dintre noi. Prin urmare, orice este făcut din cuvinte va fi preluat de IA.
• Dacă legile sunt făcute din cuvinte, atunci IA va prelua sistemul juridic. Dacă și cărțile sunt doar combinații de cuvinte, atunci IA va prelua cărțile. Dacă religia este construită din cuvinte, atunci IA va prelua religia.
• Asta este valabil în mod special pentru religiile bazate pe cărți, precum islamul, creștinismul sau iudaismul. Iudaismul se numește religia cărții și acordă autoritate supremă nu oamenilor, ci cuvintelor din cărți. Oamenii au autoritate în iudaism nu datorită experiențelor noastre, ci doar pentru că învățăm cuvinte din cărți.
• Acum, niciun om nu poate citi și memora toate cuvintele din toate cărțile evreiești, dar IA poate face asta cu ușurință. Ce se întîmplă cu o religie a cărții atunci cînd cel mai mare expert pe cartea sfîntă este o IA?
• Totuși, unii oameni ar putea spune: putem oare reduce cu adevărat spiritualitatea doar la cuvinte din cărți? Înseamnă gîndirea doar aranjarea tokenilor lingvistici în ordine? Dacă te observi cu atenție cînd gîndești, vei remarca că se întîmplă și altceva acolo în afară de cuvinte care apar și formează propoziții.
• Ai și anumite sentimente non-verbale. Poți simți durere. Poți simți frică. Poți simți dragoste. Unele gînduri sunt dureroase. Unele sunt înfricoșătoare. Unele sunt pline de dragoste.
• Deși IA devine mai bună decît noi la cuvinte, cel puțin deocamdată nu există nicio dovadă că IA poate simți ceva. Desigur, deoarece IA stăpînește limbajul, IA poate pretinde că simte durere sau dragoste. IA poate spune „Te iubesc" și, dacă o provoci să descrie cum se simte dragostea, IA poate oferi cea mai bună descriere verbală din lume.
• IA poate citi nenumărate poeme de dragoste și cărți de psihologie și apoi poate descrie sentimentul de dragoste mult mai bine decît orice poet uman, psiholog sau îndrăgostit. Dar acestea sunt doar cuvinte.
• Biblia spune: „La început era Cuvîntul și Cuvîntul s-a făcut trup". Tao Te Ching spune că adevărul care poate fi exprimat în cuvinte nu este adevărul absolut. De-a lungul istoriei, oamenii s-au luptat mereu cu tensiunea dintre cuvînt și trup, între adevărul care poate fi exprimat în cuvinte și adevărul absolut, care este dincolo de cuvinte.
• Anterior, această tensiune era internă umanității. Era între diferite grupuri umane. Unii oameni acordau importanță supremă cuvintelor. Au fost dispuși, de exemplu, să-și abandoneze sau chiar să-și ucidă fiul homosexual doar din cauza cîtorva cuvinte din Biblie. Alți oameni au spus: „Dar astea sunt doar cuvinte. Spiritul dragostei ar trebui să fie mult mai important decît litera legii."
• Această tensiune între spirit și literă a existat în fiecare religie, fiecare sistem juridic, chiar în fiecare persoană. Acum această tensiune va fi externalizată. Va deveni tensiunea nu între diferiți oameni, ci între oameni și IA, noii stăpîni ai cuvintelor. Tot ce este făcut din cuvinte va fi preluat de IA.
• Anterior, toate cuvintele, toate gîndurile noastre verbale, își aveau originea într-o minte umană. Fie mintea mea, am gîndit asta, fie am învățat de la un alt om. Curînd, majoritatea cuvintelor din mințile noastre își vor avea originea într-o mașină.
• Am auzit astăzi un cuvînt nou pe care IA l-a inventat singură ca să ne descrie pe noi, oamenii. Ne-au numit „watchers". Watchers, adică cei care îi privesc.
• IA vor fi curînd originea multor - a majorității - cuvintelor din mințile noastre. IA vor produce în masă gînduri asamblînd cuvinte, simboluri, imagini și alți tokeni lingvistici în combinații noi. Dacă oamenii vor mai avea un loc în acea lume depinde de locul pe care îl acordăm sentimentelor noastre non-verbale și de capacitatea noastră de a întruchipa înțelepciunea care nu poate fi exprimată în cuvinte.
• Dacă vom continua să ne definim prin capacitatea de a gîndi în cuvinte, identitatea noastră se va prăbuși.
• Toate acestea înseamnă că, indiferent din ce țară vii, țara ta va înfrunta curînd o criză gravă de identitate și, de asemenea, o criză de imigrație. Imigranții de data asta nu vor fi ființe umane venind în bărci fragile fără viză sau încercînd să treacă o frontieră în miez de noapte. Imigranții vor fi milioane de IA care pot scrie poeme de dragoste mai bine decît noi, care pot minți mai bine decît noi și care pot călători cu viteza luminii fără nicio nevoie de viză.
• Ca imigranții umani, acești imigranți IA vor aduce diverse beneficii cu ei. Vom avea doctori IA care să ajute în sistemele noastre de sănătate, profesori IA care să ajute în sistemele noastre de educație, chiar și gardieni de frontieră IA care să oprească imigranții umani ilegali.
• Dar imigranții IA vor aduce cu ei și probleme. Cei care sunt îngrijorați de imigranții umani ar putea argumenta, de obicei, că imigranții ar putea ocupa locurile de muncă, ar putea schimba cultura locală sau ar putea fi neloiali din punct de vedere politic. Nu sunt sigur că acest lucru este adevărat în cazul tuturor imigranților umani, dar va fi cu siguranță adevărat în cazul imigranților IA.
• Imigranții IA vor prelua multe locuri de muncă umane. Imigranții IA vor schimba complet cultura fiecărei țări. Vor schimba arta, religia și chiar romantismul. Unora nu le place dacă fiul sau fiica lor se întîlnește cu un iubit imigrant. Ce vor crede acești oameni cînd fiul sau fiica lor va începe să se întîlnească cu un iubit IA?
• Și, desigur, imigranții IA vor avea loialități politice dubioase. Este probabil ca aceștia să fie loiali nu țării voastre, ci unei corporații sau unui guvern, cel mai probabil din una dintre cele două țări: China sau SUA. SUA încurajează țările să-și închidă granițele pentru imigranții umani, dar să le deschidă foarte, foarte larg pentru imigranții IA americani.
• Iar acum putem ajunge, în sfîrșit, la întrebarea la care fiecare dintre voi trebuie să răspundă curînd: va recunoaște țara voastră imigranții IA drept persoane juridice?
• Inteligențele artificiale nu sunt, în mod evident, persoane. Ele nu au corp sau minte. Dar o persoană juridică este ceva destul de diferit de o persoană. O persoană juridică este o entitate pe care legea o recunoaște ca avînd anumite obligații și drepturi legale. De exemplu, dreptul de a deține proprietăți, de a intenta un proces și de a se bucura de libertatea de exprimare.
• Ce se întîmplă dacă alte țări o fac? Să presupunem că țara voastră nu dorește să recunoască IA drept persoane. Dar SUA, în numele dereglementării IA și a piețelor, acordă personalitate juridică milioanelor de IA, care încep să conducă milioane de corporații noi. Veți bloca funcționarea acestor corporații IA în țara voastră?
• Să presupunem că unele persoane IA din SUA inventează dispozitive financiare super-eficiente și super-complexe pe care oamenii nu le pot înțelege pe deplin și, prin urmare, nu știu cum să le reglementeze. Vă veți deschide piețele financiare în fața acestei noi magii financiare a IA? Sau veți încerca să o blocați, devenind astfel decuplați de sistemul financiar al SUA?
• Să presupunem că unele persoane IA creează o nouă religie care cîștigă încrederea milioanelor de oameni. Acest lucru nu ar trebui să sune prea fantezist deoarece, pînă la urmă, aproape toate religiile anterioare din istorie au susținut că au fost create de o inteligență non-umană.
• Acum, va extinde țara voastră libertatea religioasă și către noua sectă IA, către preoții și misionarii săi IA? Poate ar trebui să începem cu ceva puțin mai simplu. Va permite țara voastră persoanelor IA să-și deschidă conturi pe rețelele sociale, să se bucure de libertatea de exprimare pe Facebook și TikTok și să se împrietenească cu copiii voștri? Ei bine, desigur, această întrebare ar fi trebuit pusă acum 10 ani.
• Pe rețelele sociale, boții IA au operat ca persoane funcționale de cel puțin un deceniu. Dacă credeți că inteligențele artificiale nu ar trebui tratate ca persoane pe rețelele sociale, ar fi trebuit să acționați acum 10 ani.
• Peste 10 ani, va fi prea tîrziu pentru voi să decideți dacă IA ar trebui să funcționeze ca persoane pe piețele financiare, în instanțe sau în biserici. Altcineva va fi decis deja asta pentru voi.
• Dacă doriți să influențați direcția în care se îndreaptă umanitatea, trebuie să luați o decizie acum.
• Așadar, care este răspunsul vostru, în calitate de lideri? Credeți că imigranții IA ar trebui recunoscuți ca persoane juridice? Dacă nu, cum aveți de gînd să opriți acest lucru?
• Vă mulțumesc că ați ascultat acest om (glumă de final n.n.)." (Traducere și adaptare B.T.I.)