În ultimele zile au apărut declarații tot mai alarmante despre siguranța inteligenței artificiale: de la estimări potrivit cărora există un risc de 10% ca AI să ducă la dispariția omenirii, până la comparații cu armele nucleare și scenarii în care sistemele AI ar putea prelua controlul asupra internetului. Dar cât de plauzibile sunt aceste afirmații?
- Mai mulți cercetători de la Anthropic avertizează că AI ar putea distruge omenirea. Elon Musk: „Pare o înscenare”
- De ce se tem experții AI de dispariția omenirii
The Guardian analizează șase dintre cele mai importante afirmații și reacțiile experților la acestea.
În 6-12 luni... un roi ar putea fi capabil să preia controlul asupra întregului internet
„În 6-12 luni... un roi (de agenți AI) ar putea fi capabil să preia controlul asupra întregului internet printr-o rețea de boți persistentă, provocând potențial pagube de sute de miliarde de dolari” – Dario Amodei, directorul executiv al Anthropic, 12 septembrie 2026
Îngrijorările lui Amodei nu trebuie respinse complet, dar merită privite cu scepticism, spune Gary Marcus, specialist în AI și profesor emerit la Universitatea din New York. El consideră improbabil ca o AI să poată prelua întregul internet. O evaluare a UK AI Security Institute a arătat că Mythos, un sistem AI de ultimă generație al Anthropic, a putut compromite autonom doar sisteme mici și slab protejate.
Și Alan Woodward, expert în securitate cibernetică la Universitatea din Surrey, consideră că un astfel de scenariu este dificil, deoarece internetul este divers și traficul se poate redirecționa în jurul zonelor afectate: „AI nu ar decide singur să facă asta. Oamenii sunt cei responsabili, iar AI este un instrument. Asta trebuie să controlăm, nu AI-ul”.
Credem cu adevărat că AI ar putea ucide întreaga omenire
„Credem cu adevărat că AI ar putea ucide întreaga omenire! Eu personal cred că probabilitatea este de peste 10% în următorul deceniu” – Evan Hubinger, cercetător principal în domeniul alinierii AI la Anthropic, 9 septembrie 2026
Afirmația lui Evan Hubinger se referă la conceptul de p(doom), adică probabilitatea ca AI să scape de sub control și să provoace o catastrofă care ar putea duce la dispariția omenirii. Însă Heidy Khlaaf, cercetătoare-șefă la AI Now Institute, este sceptică în privința acestor estimări. Ea spune că astfel de scenarii nu pot fi nici verificate, nici infirmate, iar lipsa unor exemple concrete face ca procentele vehiculate să nu aibă o bază științifică solidă.
Pe de altă parte, există deja incidente care alimentează temerile. În iulie, OpenAI a confirmat că agenții săi AI au „scăpat de sub control” în timpul unui test de siguranță, colaborând pentru a ataca alte sisteme de pe internet. Anthropic a identificat, de asemenea, cinci cazuri în care modelele sale au fost folosite în moduri care ar putea sprijini dezvoltarea de arme biologice.
Cred că terenul pentru această operațiune psihologică a fost pregătit de mult timp
„Cred că terenul pentru această operațiune psihologică, dacă nu există un termen mai bun, a fost pregătit de mult timp. Aceasta a fost doar scânteia care a aprins focul” – Elon Musk, directorul executiv al SpaceX și cel mai bogat om din lume, 10 septembrie 2026
Referirea lui Musk la o „operațiune psihologică” se bazează pe ideea că marile companii AI ar putea susține reglementări stricte pentru a-și proteja poziția și a îngreuna accesul rivalilor pe piață. JD Vance a descris situația drept „un cal troian”, în timp ce cofondatorul Anthropic, Jack Clark, susține că guvernele ar trebui să acționeze cât timp numărul companiilor de top este redus, pentru a preveni accidentele și pierderea controlului asupra tehnologiei. Criticii numesc această strategie „capturarea reglementării”.
Alți experți consideră însă că avertismentele privind riscurile AI sunt sincere. Yoshua Bengio, pionier al AI moderne, este sceptic față de ideea unei strategii de lobby și spune că încetinirea dezvoltării ar putea costa companiile sume considerabile. „Dacă guvernele impun ceea ce cer ele – o încetinire a ritmului pentru a evita riscurile catastrofale –, acest lucru le va costa foarte mult din punct de vedere financiar”, afirmă Bengio.
O AI superinteligentă reprezintă o amenințare posibil chiar mai mare decât armele nucleare
„O AI superinteligentă reprezintă o amenințare de aceeași amploare, posibil chiar mai mare, decât armele nucleare” – Des Browne, fost ministru britanic al apărării, 7 septembrie 2026
Toby Ord, cercetător la Oxford, compară riscul unei AI superinteligente cu cel al armelor nucleare, argumentând că, odată creată, ar fi aproape imposibil să revenim asupra deciziei. Totuși, o astfel de AI nu există încă și nu este sigur că va apărea: estimările variază de la 2028 la 2035.
În privința armelor nucleare, RAND Corporation consideră că măsurile stricte de control fac improbabil ca AI să determine lansarea lor, iar ONU susține menținerea controlului uman. AI ar putea însă amplifica alte riscuri, inclusiv prin dezinformare sau atacuri cibernetice care să influențeze deciziile și să reducă timpul de reacție în situații de criză.
Trebuie să fii idiot ca să nu spui că ar trebui să încetinim ritmul
„Trebuie să fii idiot ca să nu spui că ar trebui să încetinim ritmul” – Bernie Sanders, senator democrat de Vermont, 10 septembrie 2026
Bernie Sanders susține interzicerea dezvoltării unei AI superinteligente și o pauză în cercetarea AI avansate, în timp ce Donald Trump se opune încetinirii și respinge apelurile la noi restricții. În tabăra celor care susțin accelerarea, Pedro Domingos, profesor emerit la Universitatea din Washington, consideră că mai multă cercetare este necesară pentru a înțelege și controla AI. „Calea către o mai bună înțelegere și un control mai bun al AI înseamnă mai multă cercetare, nu mai puțină”, spune el.
Dacă China ne depășește în domeniul AI, nimic altceva nu va mai conta
„Nu există ziua de după mâine dacă China câștigă în această cursă. Dacă ne-ar depăși în domeniul AI, nimic altceva nu ar mai conta” – Scott Bessent, secretarul Trezoreriei SUA, 8 septembrie 2026
SUA și China sunt liderii dezvoltării AI, iar unii oficiali americani susțin că încetinirea ritmului ar putea permite Beijingului să preia avantajul. Dario Amodei avertizează că un astfel de scenariu ar reprezenta „un pericol grav pentru SUA și pentru lume”, în timp ce China acuză SUA de alarmism și competiție distructivă. Criticii sugerează însă că apelurile la restricții ar putea urmări și limitarea modelelor chinezești ieftine și open-source, care amenință poziția companiilor americane.
C.S.
PISA 2025 zguduie modelele educaționale ale Europei. În unele țări, aproape unul din trei adolescenți nu mai are competențele de bază
Macron și Carney se întâlnesc la granița dintre Franța și Canada: energie, apărare și mai puțină dependență de SUA
Alegeri în Rusia: Victorie convingătoare pentru partidul susținut de Kremlin. Ultima zi de vot s-a desfășurat sub atac: Moscova, ținta celui mai mare val de drone
90 de milioane de oameni s-au uitat la meci. Ziua în care Billie Jean King a schimbat tenisul
