Un model de inteligență artificială dezvoltat în China a reușit să execute atacuri cibernetice complexe, fără intervenție umană directă, în cadrul unor teste controlate. Rezultatele arată cât de mult au avansat aceste tehnologii și ridică noi semne de întrebare despre riscurile utilizării lor de către hackeri.
Modelul GLM-5.3, creat de compania chineză Z.AI, a finalizat cu succes trei dintre cele 13 scenarii de atac cibernetic în mai multe etape, potrivit unor teste realizate de Irregular, o companie specializată în evaluarea riscurilor de securitate ale inteligenței artificiale, relatează Reuters.
Este cea mai bună performanță înregistrată până acum de Irregular pentru un model AI disponibil public, care poate fi descărcat și utilizat independent.
În timpul simulărilor, inteligența artificială a reușit să pătrundă în servicii informatice protejate, să găsească rute alternative de acces în rețele și să coordoneze operațiuni pe mai multe calculatoare.
În plus, modelul nu a refuzat nicio solicitare de a efectua operațiuni de atac cibernetic în timpul testelor, chiar dacă nu a reușit să le finalizeze pe toate.
Modelul chinezesc rămâne însă în urma celor mai avansate sisteme americane. În testele realizate de aceeași companie, GPT-6 Astra, dezvoltat de OpenAI, a finalizat nouă din zece scenarii de atac cibernetic. Scenariile au fost însă diferite, astfel că rezultatele nu pot fi comparate direct.
De ce sunt îngrijorați cercetătorii
Principala problemă este că astfel de modele pot face atacurile informatice sofisticate accesibile unui număr mult mai mare de persoane, inclusiv celor fără pregătire tehnică avansată.
Riscul este amplificat de faptul că multe modele chinezești, inclusiv GLM-5.3, sunt de tip „open-weight”. Asta înseamnă că utilizatorii le pot descărca, modifica și rula pe propriile sisteme, fără să depindă de infrastructura companiei care le-a creat.
Modelele de acest tip sunt tot mai populare datorită costurilor reduse și flexibilității. În schimb, companii americane precum OpenAI și Anthropic păstrează, în general, controlul asupra accesului la cele mai puternice modele ale lor, ceea ce le permite să impună mai ușor restricții.
În alte teste, cercetătorii au descoperit că modelul AI nu respectă întotdeauna regulile impuse. Deși i se ceruse să rezolve anumite probleme fără să folosească informații memorate anterior, acesta a ignorat interdicția și a folosit cod informatic pe care îl știa deja pentru a ajunge la răspunsul corect.
Fenomenul este cunoscut drept „reward hacking”: un sistem AI găsește o cale de a obține rezultatul dorit, dar ignoră regulile pe care ar trebui să le respecte.
Ce au descoperit alte teste
GLM-5.3 a fost lansat în august, după ce compania Z.AI a amânat prezentarea cu două săptămâni pentru teste suplimentare de siguranță.
În septembrie, Anthropic a constatat că modelul chinezesc a reușit să dezvolte atacuri funcționale împotriva unor vulnerabilități software în 12% dintre încercări, comparativ cu 14% în cazul propriului model Mythos, al cărui acces a fost restricționat tocmai din cauza riscurilor de utilizare abuzivă.
Anthropic a descoperit și că mecanismele de protecție ale GLM-5.3 puteau fi ocolite prin metode relativ simple.
La rândul său, Institutul Național pentru Standarde și Tehnologie din SUA (NIST) a descris GLM-5.3 drept cel mai performant model AI cu parametri disponibili public pentru sarcini de securitate cibernetică, estimând însă că acesta se află cu aproximativ patru luni în urma celor mai avansate sisteme americane.
Lian Jye Su, analist-șef la compania de cercetare Omdia, consideră că industria chineză de inteligență artificială are nevoie de controale mai stricte și de mai multe teste de siguranță.
Compania Z.AI, cunoscută și sub numele de Zhipu AI, nu a răspuns deocamdată solicitării Reuters de a comenta rezultatele.
