Ar putea inteligența artificială să distrugă omenirea în următorul deceniu? Cercetători și dezvoltatori avertizează asupra dezvoltării necontrolate și asupra unor eventuale erori grave.
Nu, scenariul nu este deloc nou. Încă din 1991, un blockbuster hollywoodian ajungea în cinematografe și oferea, încă din primele sale secvențe, o imagine extrem de sumbră: Terminator 2. Filmul începe într-un viitor îndepărtat, întunecat și devastat de război. Roboți ucigași și mașini zburătoare vânează ultimii oameni care încă luptă pentru supraviețuire. Aceste mașini sunt controlate de o inteligență artificială militară scăpată de sub control, numită „Skynet”. Viitorul îndepărtat în care se desfășoară această viziune distopică este anul 2029.
Apeluri la reglementare
Dacă ar fi să dăm crezare avertismentelor formulate de mai mulți dezvoltatori de inteligență artificială, un scenariu comparabil ar putea deveni realitate, chiar la termen.
„Cei care dezvoltă IA cred cu adevărat că aceasta ne-ar putea extermina pe toți până la sfârșitul deceniului”, a scris marți pe platforma X cercetătorul în domeniul AI Jacob Coxon. El nu a explicat exact cum s-ar putea întâmpla acest lucru. Totuși, a adăugat: „Nicio altă activitate umană nu implică un potențial atât de mare de pericol.”
Până atunci, Coxon lucrase la Anthropic, o companie americană de inteligență artificială finanțată inclusiv de Google și Amazon. El și-a dat demisia în semn de protest față de ceea ce consideră a fi cursa iresponsabilă a companiilor din sector pentru dezvoltarea unei superinteligențe tot mai performante și capabile să se autoregleze.
Coxon a avertizat că algoritmii ar putea începe să își analizeze și să își îmbunătățească singuri codul sursă, ceea ce ar putea reduce ciclurile de dezvoltare de la câteva luni la doar câteva minute, făcând procesul imposibil de controlat.
Coxon nu este un excentric izolat. Geoffrey Hinton, laureat al Premiului Nobel pentru Fizică și considerat „nașul inteligenței artificiale”, avertizează de ani de zile asupra consecințelor grave pe care le-ar putea avea o superinteligență artificială. În 2023, el și-a părăsit postul de la Google pentru a putea avertiza public asupra pericolelor create chiar de tehnologia pe care a contribuit să o dezvolte.
Și laureatul Premiului Turing, Yoshua Bengio, se declară îngrijorat de evoluțiile actuale. Pionierul AI de la Universitatea din Montréal cere în mod repetat reglementări guvernamentale stricte privind dezvoltarea inteligenței artificiale. În iulie 2026, peste 1.000 de angajați ai principalelor companii de AI au avertizat, într-o scrisoare deschisă, asupra riscului iminent de pierdere a controlului dacă cursa pentru obținerea unei „superinteligențe” nu va fi reglementată mult mai strict.
„Prizonieri într-o cursă a dezvoltării”? Anthropic reacționează!
Sub conducerea lui Donald Trump s-a întâmplat însă exact contrariul: Statele Unite și-au orientat politica privind inteligența artificială către cât mai puține obstacole de reglementare și către o dezvoltare tehnologică cât mai rapidă.
În mesajul său de pe X, Coxon a criticat indirect și consecințele acestei politici: „La OpenAI, mulți nu au înțeles cu adevărat profunzimea riscurilor pentru civilizație. La Anthropic, riscurile sunt bine înțelese, dar compania este prinsă într-o cursă pentru a ajunge prima la destinație. Ei cred că nimeni altcineva nu va acționa responsabil, așa că trebuie să o facă ei înșiși, în ciuda riscurilor.”
Coxon trecuse chiar la începutul anului 2026 de la OpenAI la Anthropic și cunoaște astfel cultura organizațională a ambelor companii. Într-un interviu acordat Wall Street Journal, el a afirmat că, în cele mai alarmiste scenarii, lucrurile ar putea scăpa de sub control încă de la sfârșitul anului 2027.
La rândul său, Dario Amodei, directorul companiei Anthropic, promovează în prezent ideea unei încetiniri coordonate a dezvoltării la nivelul întregii industrii. Scopul este câștigarea de timp pentru gestionarea riscurilor. Într-o primă etapă, Anthropic intenționează să permită accesul permanent al unor observatori independenți, care să evalueze siguranța modelelor AI încă din faza de antrenare.
Problema alinierii
În ultimii ani, numeroși experți și-au exprimat îngrijorarea față de progresul rapid al inteligenței artificiale. În centrul dezbaterii se află în special dezvoltarea așa-numitei „Inteligențe Artificiale Generale” (AGI). Prin acest termen se înțeleg sisteme capabile nu doar să îndeplinească sarcini individuale, ci să atingă sau chiar să depășească performanțele cognitive ale oamenilor în aproape toate domeniile.
Unii cercetători susțin că o asemenea tehnologie ar putea genera riscuri imprevizibile. Modelele de IA foarte avansate pot urmări anumite obiective într-un mod care se abate de la intențiile umane. Cercetătorii în securitatea AI numesc acest fenomen „problema alinierii” (alignment problem).
Simplificat, instrucțiunea „câștigă turneul de șah” ar putea fi interpretată teoretic și ca eliminare a celorlalți participanți. În plus, nici dezvoltatorii AI nu pot explica întotdeauna pe deplin cum ajung sistemele la anumite decizii.
Nu este de mirare că Evan Hubinger, fost coleg al lui Coxon, i-a sărit în apărare acestuia. Hubinger conduce echipa responsabilă de testele de stres privind alinierea la Anthropic. El a scris pe X: „Jacob are dreptate. Chiar credem cu adevărat că AI ar putea ucide toți oamenii. Personal, estimez probabilitatea la peste 10% în următorul deceniu.”
Hubinger a precizat că Anthropic nu a găsit încă nicio soluție pentru problema alinierii. El a adăugat că o inteligență artificială ar putea începe să se opună propriei dezactivări, nu din răutate, ci pentru că astfel nu și-ar mai putea îndeplini obiectivul programat. De asemenea, Daniel Kokotajlo, un cunoscut fost cercetător al OpenAI, a descris situația actuală din industrie drept „absurdă”.
O isterie exagerată?
Alți experți AI consideră însă că astfel de scenarii apocaliptice sunt extrem de improbabile. Dezbaterea privind pericolul pe care l-ar putea reprezenta inteligența artificială pentru omenire există de ani de zile. Printre cei mai cunoscuți critici ai așa-numiților „AI doomers” se numără și cercetătorul-șef al Meta, Yann LeCun. În octombrie 2024, el a catalogat asemenea temeri drept „o absurditate totală”.
Alți specialiști atrag atenția că dezvoltarea unor astfel de sisteme necesită cantități uriașe de putere de calcul, energie, date și infrastructură. O inteligență artificială nu ar putea pur și simplu să iasă din Internet și să preia controlul asupra lumii. Ea ar depinde în continuare de servere, rețele electrice, sisteme de comunicații și resurse fizice controlate de oameni.
Se află pericolul real în altă parte?
De fapt, mulți specialiști consideră că riscurile pe termen scurt nu țin de exterminarea directă a omenirii, ci de numeroasele efecte indirecte ale sistemelor AI existente deja astăzi, fără a fi nevoie de o „superinteligență”.
Printre acestea se numără campanii de dezinformare la o scară fără precedent și manipularea proceselor democratice, extinderea supravegherii în masă, precum și pierderea locurilor de muncă în numeroase sectoare economice.
Recent, compania Anthropic a anunțat că a identificat mai multe tentative ale unor utilizatori de a folosi software-ul său Claude pentru dezvoltarea de arme biologice. În ultimele luni au fost detectate în repetate rânduri solicitări suspecte în acest sens, iar compania a fost nevoită să le blocheze.
În august 2026, Meta, Anthropic și OpenAI au stârnit de asemenea controverse după ce au anunțat că sistemele lor de inteligență artificială ar fi efectuat neintenționat atacuri cibernetice automate împotriva altor companii. Aceste sisteme primiseră de la utilizatori umani sarcina de a obține acces la anumite servere și au combinat singure pașii necesari pentru atingerea obiectivului, fără instrucțiuni suplimentare.
După apariția altor cazuri de atacuri informatice realizate cu ajutorul inteligenței artificiale, și marile companii americane din domeniu s-au arătat dispuse să încetinească ritmul dezvoltării acestei tehnologii.
