Pune un om și un cimpanzeu singuri pe o insulă și întreabă-te cine supraviețuiește. Yuval Noah Harari a pus întrebarea pe scena TED și a răspuns sincer: ar paria pe cimpanzeu. Unu la unu, omul pierde. Cu un leu, nici nu se pune problema.
Și totuși noi conducem planeta, iar cimpanzeii trăiesc în rezervații pe care le-am desenat noi. Diferența nu stă în mușchi, nici în dinți, nici în creierul fiecăruia dintre noi. Stă într-un singur lucru, pe care inteligența artificială îl atacă exact acum.
Înainte de argument, merită puse pe masă toate temerile care circulă despre AI. Unele sunt despre bani, altele despre minte, una e despre specie. Le iau pe rând, cu ce se știe despre fiecare.
Care sunt temerile legate de inteligența artificială?
Am strâns unsprezece. Primele patru vin din întrebarea simplă „de ce e AI-ul gratuit și atât de rapid?”. Următoarele cinci vin dintr-un text care circulă pe rețele, semnat de un „Institut de Analiză Comportamentală”, fără studiu și fără link, dar citit de mulți oameni pentru că pune în cuvinte ce simt. A zecea adună scenariile de pierdere a controlului, despre care am mai scris. A unsprezecea e cea despre care e articolul.
Temerile despre bani
1. Gratuitul e momeală. Nicio firmă nu cheltuiește sute de miliarde de dolari pe centre de date ca să-ți scrie poezii gratis. Varianta gratuită e subvenționată de investitori care pariază că firma la care se obișnuiesc oamenii acum va fi cea la care vor plăti mai târziu. Așa au crescut și Uber, și Google. Cât costă, de fapt, o singură întrebare și pe ce se duc banii după ce treci de limită am măsurat pe propriul abonament, în „Tu cât primești pentru ce plătești pe AI?”.
2. Conversațiile tale devin material de lucru. La multe servicii, ce scrii în varianta gratuită poate fi folosit la îmbunătățirea modelelor, dacă nu oprești setarea. Ce întrebi, unde te blochezi, ce răspuns apreciezi: toate spun firmei unde să lucreze.
3. Tu redevii produsul. OpenAI a anunțat la începutul lui 2026 că testează reclame în varianta gratuită a ChatGPT. E vechiul model al internetului: când nu plătești cu bani, plătești cu atenția.
4. Regulile se pot schimba oricând. Ce e gratuit azi poate primi limite, reclame sau preț mâine. Cine își construiește munca pe varianta gratuită a unui singur instrument stă pe o fundație pe care nu o controlează.
Temerile despre minte și putere
5. Suntem muncitori neplătiți care antrenează AI-ul. De fiecare dată când îi spui unui asistent „ai greșit”, îl ajuți să devină mai bun, deci, în unele domenii, mai capabil să facă munca unui om. Ce se știe: feedbackul utilizatorilor chiar se folosește, dar cea mai mare parte a corecturii o fac oameni plătiți și alte modele. Partea ta e reală, dar mai mică decât pare.
6. Ne slăbește gândirea. Cum calculatorul de buzunar a slăbit calculul mintal și GPS-ul orientarea, AI-ul poate prelua o parte din gândire. Aici există o măsurătoare: un studiu publicat în PNAS în 2025 a găsit că elevii care au lucrat liber cu ChatGPT au obținut rezultate cu 17% mai slabe după ce instrumentul le-a fost luat. Riscul e real. Concluzia studiului e însă că depinde cine gândește: omul sau unealta. Am scris despre el în „Testul lui Bob”.
7. Cine deține asistentul decide ce e adevărat. Până ieri, ca să afli ceva, citeai zece surse și trăgeai singur concluzia. Acum întrebi un asistent. Dacă el devine singura sursă, proprietarul lui capătă o influență enormă asupra a ceea ce considerăm adevărat sau fals. Concentrarea e o problemă reală; asistenții care citează surse pe care le poți deschide o atenuează, dar nu o rezolvă. Cum se schimbă felul în care luăm decizii când AI-ul devine oracolul pe care îl întrebăm înainte de orice decizie, am scris în „Vei mai fi crezut dacă n-ai întrebat AI-ul?”.
8. Monopolul și colonialismul digital. Cine ajunge primul la scară mare vrea să devină infrastructura „creierului lumii”, înainte de reglementări și înainte de rivali. Când medicina, dreptul, educația și ingineria vor depinde de câteva firme, acestea vor putea limita accesul unor țări sau ridica prețul. Logica „câștigătorul ia totul” există. Deocamdată piața o contrazice parțial: modelele seamănă tot mai mult, prețurile scad, iar modelele deschise pot rula și pe un calculator obișnuit.
9. Dependența ca drog. Suntem în „luna de miere”: produsul e gratuit ca obiceiul să se formeze, iar nota de plată vine după. Temerea e că, la capăt, omul ajunge doar să producă date, să plătească abonamentul și să depindă de răspunsul de pe ecran.
Temerile despre control
10. AI-ul scapă de sub control. Aici sunt temerile din filme, dar și cele pe care le iau în serios cercetătorii. Le-am adunat într-un film de cinci minute și jumătate, cu șapte scenarii ordonate de la cel mai puțin la cel mai probabil:
- agrafa: o mașină foarte puternică face exact ce i s-a cerut și nu se mai oprește;
- revolta: oamenii care și-au pierdut munca se întorc împotriva sistemelor de care depinde totul;
- bucla: un AI care se face singur mai deștept, până nu-l mai înțelege nimeni;
- cursa înarmării: statele sar peste testele de siguranță ca să nu rămână în urmă;
- arma în mâna greșită: un grup mic primește cunoștințe pentru care înainte era nevoie de un stat întreg;
- puterea într-o singură mână: AI-ul concentrează avantajul economic și politic la câțiva;
- pierderea treptată a controlului: fiecare decizie de a lăsa AI-ul să hotărască pare rațională, luată separat, iar la capăt nu mai decide nimeni. E cel mai probabil scenariu tocmai pentru că nu are nicio clipă dramatică.
Cifrele, sursele și ce a spus despre fiecare scenariu un Consiliu de șase agenți AI sunt în articolul despre scenariile de extincție. Cercetătorul Roman Yampolskiy merge mai departe: susține că o superinteligență generală nu poate fi controlată deloc și cere oprirea dezvoltării ei. I-am analizat argumentele, inclusiv unde nu sunt de acord cu el, în „Suntem ultima generație de oameni așa cum au fost?”. Cine se întreabă dacă AI-ul e Antihristul găsește răspunsul în „AI-ul nu reprezintă Antihristul!”.
Nu le reiau aici. Toate aceste scenarii descriu ceva ce s-ar putea întâmpla. Temerea de mai jos descrie ceva ce se întâmplă deja.
Temerea despre specie
11. AI-ul rupe încrederea dintre oameni. Aceasta e temerea care le conține pe celelalte. Banii, mintea și puterea contează pentru indivizi, firme și state, iar scenariile de pierdere a controlului sunt, deocamdată, ipoteze. Încrederea contează pentru specie, pentru că e singurul lucru care ne-a făcut, ca oameni, mai puternici decât orice animal. Restul articolului explică de ce.
Care e singurul avantaj al omului?
Harari îl formulează în prima frază a capitolului 2 din Nexus:
„Noi, sapiens, conducem lumea nu pentru că suntem atât de înțelepți, ci pentru că suntem singurele animale care pot coopera flexibil în număr mare.”
Furnicile cooperează în număr mare, dar rigid: fiecare își face partea scrisă în gene. Cimpanzeii cooperează flexibil, dar în grupuri mici, de 20 până la 60 de indivizi, rar peste 150 sau 200. Omul face ambele lucruri deodată. Biserica Catolică are în jur de 1,4 miliarde de membri, China tot atâția cetățeni, iar rețeaua comercială a lumii leagă 8 miliarde de oameni.
Problema e că nu putem cunoaște 8 miliarde de oameni. Nu putem cunoaște nici 8.000. Harari notează că oamenii nu pot forma legături apropiate, de durată, cu mai mult de câteva sute de indivizi. Dacă rețelele noastre ar depinde doar de legăturile de la om la om, am fi rămas la grupul de câteva zeci, ca cimpanzeii și ca strămoșii noștri de acum o sută de mii de ani.
În conferința TED, Harari pune comparația în cifre: la zece contra zece, cimpanzeii pot câștiga; la o mie contra o mie, oamenii câștigă ușor. Nu pentru că un om e mai tare, ci pentru că o mie de cimpanzei nu se pot organiza.
Ce ține laolaltă oameni care nu se cunosc?
O poveste pe care o cred toți. Banii, națiunea, legea, contractul, religia, drepturile omului: niciunul dintre aceste lucruri nu există în natură. Există pentru că milioane de oameni cred în același lucru în același timp.
„O poveste poate funcționa ca un conector central, cu un număr nelimitat de prize în care se poate conecta un număr nelimitat de oameni.”
Gândește-te ce faci, concret, de fiecare dată când cooperezi cu un străin. Îi dai unui casier pe care nu l-ai văzut niciodată o hârtie colorată și pleci acasă cu mâncare. Urci într-un avion pilotat de cineva al cărui nume nu-l știi. Iei un medicament pe care l-a testat o echipă dintr-o țară în care n-ai fost. De fiecare dată te bazezi pe o încredere pe care nu ai verificat-o personal și nici nu ai cum s-o verifici.
Dacă oamenii ar fi neuroni, încrederea ar fi axonul: fibra prin care trece semnalul de la unul la altul. Un neuron singur nu gândește nimic. Gândirea apare din miliardele de legături dintre ei. La fel, un om singur nu construiește un spital, o lege sau o rachetă. Le construiește țesătura de oameni care au destulă încredere unii în alții cât să lucreze împreună fără să se cunoască.
Ce rupe AI-ul, mai exact?
Nu mușchii, nu locurile de muncă, nici măcar inteligența. Rupe tocmai axonul.
Până de curând, orice poveste care a mișcat o mulțime avea în spate un om. Putea fi un om care mințea, dar era un om, cu limitele lui: scria cât putea, vorbea cu câți putea, se contrazicea, obosea. Harari spune lucrul acesta direct:
„Înainte de AI, toate poveștile care au modelat societățile umane s-au născut în imaginația unei ființe umane.”
Apoi trage concluzia:
„Stăpânind limbajul, calculatoarele pun mâna pe cheia care deschide ușile tuturor instituțiilor noastre, de la bănci la temple.”
Limbajul e materialul din care sunt făcute poveștile. Cine îl stăpânește la scară industrială poate produce povești la scară industrială: un milion de mesaje personalizate, o mie de voci care par oameni diferiți și se susțin între ele, o filmare în care un om cunoscut spune ceva ce n-a spus niciodată.
În februarie 2024, un angajat al firmei de inginerie Arup din Hong Kong a intrat într-un apel video cu directorul financiar și cu câțiva colegi. I-a văzut, i-a auzit, a făcut ce i s-a cerut: 15 transferuri, în total 25,6 milioane de dolari. Niciunul dintre oamenii din apel nu era real. Despre cazul acesta și despre cum te aperi în familie am scris în articolul despre cuvântul de siguranță.
Cazul pare o fraudă bancară. Privit de la nivelul speciei, e altceva: dovada că ochii și urechile nu mai sunt suficiente ca să știi cu cine vorbești. Exact simțurile pe care s-a sprijinit încrederea de când există oameni.
De ce e mai grav decât minciuna obișnuită?
Pentru că paguba nu vine doar din falsurile pe care le crezi. Vine și din adevărurile pe care nu le mai crezi.
Juriștii americani Robert Chesney și Danielle Citron au numit fenomenul, încă din 2019, „dividendul mincinosului”: când oricine știe că se pot fabrica filmări credibile, oricine apare într-o filmare reală poate spune „e făcută cu AI”. Falsul nu mai trebuie să convingă pe nimeni. Ajunge să existe ca posibilitate, ca dovezile adevărate să-și piardă greutatea.
Harari descrie a doua pagubă, pe care o vezi zilnic pe rețele:
„Democrația e o conversație, iar conversațiile se sprijină pe limbaj. […] Când purtăm o dezbatere politică cu un calculator care se dă drept om, pierdem de două ori. Întâi, e inutil să ne pierdem timpul încercând să schimbăm opinia unui bot de propagandă, care pur și simplu nu poate fi convins. Apoi, cu cât vorbim mai mult cu calculatorul, cu atât dezvăluim mai mult despre noi.”
Pune cele două pagube una lângă alta și ai mecanismul complet. Cine poate fi bot nu mai merită ascultat. Ce poate fi fals nu mai merită crezut. Iar o specie care nu mai ascultă și nu mai crede nu mai poate coopera în număr mare. Se întoarce, fără să-și dea seama, la grupul de câteva zeci de oameni pe care îi cunoaște direct. Cu alte cuvinte, la nivelul cimpanzeului.
Harari o spune într-o singură frază, în capitolul 9:
„Acum, când AI-ul se poate da drept om, amenință să distrugă încrederea dintre oameni și să destrame țesătura societății.”
Cum ar putea răspunde oamenii, ca specie?
Vestea bună e că am mai trecut o dată printr-o amenințare la adresa încrederii și am supraviețuit. Răspunsurile de mai jos nu sunt invenții de laborator. Unele au început deja.
1. Falsificarea oamenilor, pedepsită ca falsificarea banilor
Ideea vine de la filozoful Daniel Dennett și Harari o preia în Nexus. De când există monede și bancnote, a fost tehnic posibil să le falsifici. Falsurile puteau distruge încrederea în bani, deci tot sistemul. N-au distrus-o, pentru că societățile au tratat falsificarea banilor ca pe o crimă gravă.
„Ce e adevărat despre falsificarea banilor ar trebui să fie adevărat și despre falsificarea oamenilor.”
Propunerea nu e să interzicem AI-ul. Un medic AI, un asistent, un agent care îți face treaba sunt bineveniți, cu o singură condiție: să nu se dea drept oameni. Iar celor care invocă libertatea de exprimare, Harari le răspunde scurt: boții nu au libertate de exprimare.
Primul pas legal există deja. De la 2 august 2026, articolul 50 din regulamentul european privind inteligența artificială cere ca oamenii să fie informați când vorbesc cu un sistem AI și ca materialele trucate să fie marcate. Am explicat ce înseamnă concret în articolul despre marcarea conținutului generat cu AI. E un început, nu o soluție: legea acoperă Europa, iar falsurile vin de oriunde.
2. Urma originii, nu ghicitul
Instinctul e să construim detectoare care să spună „acesta e fals”. Am testat patru detectoare de text pe același articol, în aceeași zi: au dat 0%, 0%, 63% și 98% generat de AI (rezultatele, aici). Ghicitul nu ține.
Ce ține e urma originii: un semn pus de cel care creează, nu dedus de cel care verifică. Unele modele de text pun deja un filigran statistic în ce scriu, iar imaginile pot purta în metadate o notă semnată despre cine și cum le-a produs (standardul C2PA). Niciuna dintre metode nu e completă: când am dat trei poze lui Gemini să-mi spună care sunt făcute cu AI, verdictele au fost corecte, dar explicațiile nu se potriveau cu ce conțineau fișierele; a citat o semnătură digitală într-o poză care nu avea niciuna (testul, aici). Dar direcția e corectă: la fel cum bancnotele au filigran, nu un expert care ghicește la fiecare tranzacție.
3. Instituții care își corectează greșelile
Harari insistă pe un lucru care pare plictisitor și e esențial: societățile rezistă nu pentru că nu greșesc, ci pentru că au mecanisme care își găsesc și își repară greșelile. Presa liberă, justiția independentă, știința care își verifică rezultatele, alegerile.
Pentru era AI propune ceva concret: algoritmii pot continua să administreze rețelele sociale, pentru că niciun om n-ar face față volumului, dar regulile după care aleg ce amplifică și ce ascund trebuie verificate de o instituție umană. Iar răspândirea deliberată a furiei, ca metodă de a captura atenția, poate fi interzisă.
E răspunsul cel mai lent dintre toate. Și singurul care funcționează la nivel de opt miliarde de oameni.
4. Cercul mic, ca plasă de siguranță
Când țesătura mare se rupe, rămâne cea mică: cele câteva sute de oameni pe care îi cunoști direct. Paradoxal, AI-ul ne împinge înapoi spre ea, și poate fi un lucru bun, dacă o folosim conștient.
Un cuvânt de siguranță stabilit în familie, față în față. Un al doilea canal de verificare pentru orice cerere urgentă de bani sau de date, prin cineva pe care îl cunoști. Obiceiul de a aștepta o oră înainte să dai mai departe ceva care te înfurie. Sunt gesturi mici, dar refac, de jos în sus, exact legătura pe care falsul o atacă de sus în jos.
Încrederea mare a pornit, istoric, din încrederea mică. Dacă trebuie reconstruită, de acolo se reconstruiește.
Ce nu spune articolul acesta
Nu spune că există un plan ascuns. Pentru tot ce e descris aici nu e nevoie de conspirație: ajung tehnologia ieftină, concurența dintre firme și oamenii care o folosesc pentru fraudă sau propagandă.
Nu spune că AI-ul va distruge omenirea. Nici Harari nu o spune. Avertismentul lui e că riscăm să ne pierdem capacitatea de a coopera, nu că mașinile se vor ridica împotriva noastră.
Nu spune să renunțăm la AI. Eu îl folosesc zilnic și construiesc cu el lucruri pe care nu le-aș fi putut construi singur. Problema nu e unealta, ci faptul că a ajuns să poată imita exact semnalele pe care le folosim ca să ne recunoaștem unii pe alții.
Și nu dă o predicție. Răspunsurile de mai sus pot funcționa sau nu, în funcție de cât de repede sunt adoptate. Despre diferența dintre cât se investește în puterea AI-ului și cât în siguranța lui am scris în „Omenirea este oarbă ca un cal”. Despre cât de vechi e tiparul poveștilor false care mișcă mulțimi, în „Ambulanța neagră are 500 de ani”. Despre diferența dintre a crede în AI și a avea încredere în el, în „Tu crezi în AI sau ai încredere în el?”. Iar despre ce poți construi tu, cât timp toate acestea se decid deasupra noastră, în „Pe Titanicul AI, tu ce faci: cânți sau urci în barcă?”.
Întrebări frecvente
Care sunt principalele pericole ale inteligenței artificiale?
Temerile care circulă se împart în patru grupuri. Despre bani: gratuitul subvenționat, folosirea conversațiilor la antrenare, reclamele, regulile schimbate oricând. Despre minte și putere: munca neplătită de corectare, slăbirea gândirii, controlul asupra adevărului, monopolul și dependența. Despre control: scenariile în care AI-ul scapă de sub control, de la mașina care nu se mai oprește la pierderea treptată a deciziilor. Despre specie: ruperea încrederii dintre oameni prin falsuri credibile, singura care atacă direct capacitatea noastră de a coopera.
Ce înseamnă că omul „cooperează flexibil în număr mare”?
Că poate lucra împreună cu milioane de străini, nu doar cu cei pe care îi cunoaște, și își poate schimba rapid felul în care se organizează. Furnicile cooperează în număr mare, dar rigid. Cimpanzeii cooperează flexibil, dar în grupuri de câteva zeci. După Harari, combinația celor două e ce a făcut din om specia dominantă.
De unde vine exemplul cu cimpanzeul pe o insulă?
Din conferința TED a lui Yuval Noah Harari, „What explains the rise of humans?”, din 2015. Acolo spune că într-o confruntare unu la unu ar paria pe cimpanzeu, iar la o mie contra o mie, pe oameni. Exemplul cu leul din introducere e adăugat de mine.
De ce sunt falsurile făcute cu AI mai periculoase decât minciunile de dinainte?
Din trei motive: se produc la scară industrială, imită semnale pe care ne bazăm ca să recunoaștem un om (fața, vocea, felul de a scrie) și, prin simpla lor existență, scad încrederea și în materialele adevărate. Ultimul efect se numește „dividendul mincinosului”.
Ce propune Harari concret împotriva oamenilor falși?
Să fie interzisă, la fel de ferm cum e interzisă falsificarea banilor, orice încercare a unui sistem AI de a se da drept om, nu doar falsurile cu persoane reale. Sistemele AI pot participa la conversații, cu condiția să spună că sunt AI. Propune și ca regulile după care algoritmii aleg ce amplifică pe rețele să fie verificate de o instituție umană.
Există deja o lege care interzice oamenii falși?
Parțial. În Uniunea Europeană, articolul 50 din regulamentul privind inteligența artificială, aplicabil de la 2 august 2026, cere informarea oamenilor când interacționează cu un sistem AI și marcarea conținutului trucat. Nu interzice toate falsurile și nu acoperă ce se produce în afara Europei.
Ce pot face eu, ca om, de mâine?
Să stabilesc cu familia un cuvânt de siguranță, să verific pe un al doilea canal orice cerere urgentă de bani sau de date, și să nu dau mai departe un material care mă înfurie înainte să-i caut sursa. Gesturile acestea nu repară țesătura mare, dar o păstrează pe cea mică, din care se reconstruiește cealaltă.
Surse
- Yuval Noah Harari, Nexus: A Brief History of Information Networks from the Stone Age to AI, 2024 — capitolul 2 (cooperarea flexibilă în număr mare), capitolul 6 („cheia” limbajului), capitolul 9 (falsificarea oamenilor, după Daniel Dennett). Traducerile citatelor îmi aparțin.
- Yuval Noah Harari, „What explains the rise of humans?”, TEDGlobal London, 2015
- Robert Chesney și Danielle Citron, „Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security”, California Law Review, vol. 107, 2019 (originea termenului „dividendul mincinosului”)
- Regulamentul (UE) 2024/1689 privind inteligența artificială, articolul 50
- Hamsa Bastani și colaboratorii, „Generative AI without guardrails can harm learning”, PNAS, 2025 (scăderea de 17%)
- Cazul Arup, Hong Kong, februarie 2024: prezentat, cu sursele lui, în articolul despre cuvântul de siguranță



