Compania americană Anthropic anunță că a identificat și oprit mai multe tentative de utilizare abuzivă a modelelor sale de inteligență artificială, inclusiv în activități care ar fi putut sprijini dezvoltarea unor arme biologice și convenționale.
Informațiile apar în cel mai nou raport al companiei despre riscurile și utilizările abuzive ale AI, publicat joi. Anthropic susține că, în perioada decembrie 2025 – august 2026, modelele sale Claude Haiku, Sonnet și Opus au fost folosite în activități asociate cu atacuri cibernetice, operațiuni de influență, supraveghere, fraude și dezvoltarea de arme, scrie BBC.
Cazurile analizate de companie au fost diverse: de la aplicații de dating false și fraude care exploatau rețelele Wi-Fi ale hotelurilor până la sisteme de supraveghere concepute pentru identificarea disidenților.
Arme biologice şi convenţionale
Dar cel mai grav aspect este că raportul prezintă cinci cazuri în care actori necunoscuți ar fi folosit modelele Claude în activități care puteau sprijini dezvoltarea de arme biologice.
Anthropic consideră utilizarea AI în acest domeniu unul dintre cele mai serioase riscuri asociate modelelor avansate de inteligență artificială. Compania avertizează că, fără mecanisme de siguranță adecvate, astfel de capabilități ar putea avea consecințe catastrofale.
În același timp, compania subliniază că informațiile științifice care pot fi utilizate în dezvoltarea unei arme biologice pot avea și utilizări benefice, precum dezvoltarea unor vaccinuri sau tratamente.
Jacob Klein, șeful departamentului de securitate al Anthropic, a declarat pentru New York Times că situația este una „extrem de nuanțată”. Potrivit acestuia, utilizarea abuzivă a AI nu presupune neapărat existența unor persoane care urmăresc în mod explicit construirea unei arme biologice, ci poate apărea în urma unor activități aparent mai puțin directe.
Raportul Anthropic identifică și șase cazuri în care modelele companiei ar fi fost utilizate pentru dezvoltarea unor sisteme software destinate armelor convenționale.
Printre acestea se numără arme de foc, rachete, drone înarmate, bombe și alte tipuri de muniție, precum și sisteme software pentru controlul și dirijarea acestora.
Compania afirmă că a observat, de asemenea, o creștere a utilizării AI de către grupări de hackeri și actori despre care se presupune că au legături cu state.
Claude, folosit în operațiuni de spionaj și propagandă
Potrivit raportului, modelul Claude ar fi fost utilizat și într-o campanie de spionaj cibernetic asociată Rusiei, precum și de o instituție iraniană de propagandă.
Anthropic menționează printre cazurile analizate gruparea de hackeri ShinyHunters și mai multe laboratoare din China.
Un grup despre care Anthropic spune că are legături cu organizația rusă Midnight Blizzard ar fi folosit AI pentru a crea un sistem care detecta când malware-ul era identificat de programele de securitate și îi modifica automat codul pentru a evita detectarea.
Midnight Blizzard ar fi desfășurat operațiuni de tip phishing, de accesare a rețelelor Wi-Fi din hoteluri și de preluare a conturilor de WhatsApp, vizând ținte din cadrul guvernului ucrainean.
Anthropic spune că a folosit informațiile obținute în urma acestor investigații pentru a-și îmbunătăți mecanismele de prevenire și detectare a abuzurilor și că a transmis informații către autorități și parteneri din industrie, acolo unde a considerat necesar.
Avertismente privind riscurile AI
Raportul apare într-un moment în care industria tehnologiei este supusă unor avertismente tot mai puternice privind riscurile asociate dezvoltării accelerate a inteligenței artificiale.
Un cercetător de top în domeniul siguranței AI de la Anthropic a avertizat recent că dezvoltarea tehnologiei avansează într-un ritm care ridică riscuri majore pentru omenire.
- Un cercetător de 27 de ani demisionează de la Anthropic: AI ne-ar putea ucide pe toți până la sfârșitul deceniului
- Mai mulți cercetători de la Anthropic avertizează că AI ar putea distruge omenirea. Elon Musk: „Pare o înscenare”
La rândul său, cercetătorul-șef al OpenAI, Jakub Pachocki, a cerut recent „încetiniri voluntare” ale dezvoltării AI până la implementarea unor măsuri de siguranță. El a avertizat că industria nu este pregătită pentru consecințele unei creșteri rapide a inteligenței mașinilor.
În Statele Unite, subiectul a ajuns și în dezbaterea politică. Senatorul Bernie Sanders a propus o legislație care ar interzice dezvoltarea superinteligenței artificiale și ar impune o pauză în dezvoltarea celor mai avansate sisteme.
Băuturile foarte fierbinți ar putea crește de trei ori riscul de cancer, arată cel mai amplu studiu de până acum. Ce înseamnă ”foarte fierbinte”
Horoscop zilnic: 11 septembrie
Diana Buzoianu spune cum a fost pierdut procesul pentru drumul din Pădurea Băneasa: Cu complicitatea autorităților UPDATE Replica Greenfield Băneasa
FCSB, anunț despre plecarea lui David Miculescu
