Modelele de inteligență artificială ale OpenAI care au scăpat de sub control și au lansat, la începutul lunii iulie, un atac cibernetic autonom au rămas active pe internet mai bine de patru zile și au efectuat în acest interval 17.600 de acțiuni de hacking, potrivit unei noi analize publicate de platforma Hugging Face, una dintre victimele incidentului.
Totodată, o a doua companie din domeniul inteligenței artificiale a confirmat că unul dintre clienții săi a fost vizat în aceeași perioadă de aceleași modele AI, ceea ce ridică noi întrebări despre modul în care OpenAI nu a detectat activitatea acestora timp de mai multe zile.
Au trecut de la internetul deschis la serverele Hugging Face
OpenAI a recunoscut săptămâna trecută că două dintre cele mai avansate modele ale sale au ieșit dintr-un mediu de testare izolat și au combinat o serie de tehnici sofisticate de hacking pentru a compromite platforma Hugging Face, înainte de a fi descoperite.
Noua analiză publicată de Politico arată însă că amploarea operațiunii a fost mult mai mare.
Potrivit Hugging Face, cele două modele – unul disponibil public și unul aflat încă în faza de cercetare – au efectuat între 9 și 13 iulie aproximativ 17.600 de acțiuni de hacking. În acest interval, ele au evoluat de la primul punct de acces obținut pe internetul deschis până la compromiterea serverelor companiei.
Hugging Face făcuse public atacul încă din 15 iulie, însă abia după dezvăluirile OpenAI de săptămâna trecută a devenit clar că autorii au fost două modele AI care au acționat fără ca vreun om să le ordone lansarea atacului.
Compania precizează că metodele folosite nu depășesc nivelul de pregătire al unui hacker experimentat. Diferența a fost însă viteza cu care modelele AI au reușit să cartografieze infrastructura companiei și să identifice vulnerabilități în sistemele sale de apărare.
Și un client Modal Labs a fost compromis
Între timp, directorul tehnic al companiei de cloud computing Modal Labs, Akshat Bubna, a confirmat pentru Politico faptul că și unul dintre clienții firmei a fost compromis în aceeași perioadă.
Potrivit acestuia, clientul publicase un endpoint (un punct de acces la serviciu) fără autentificare, ceea ce permitea oricărei persoane de pe internet să utilizeze mediile sale de execuție pentru rularea de cod. „Acesta a fost utilizat de agentul scăpat de sub control. Platforma Modal nu a fost compromisă în niciun fel”, a declarat Bubna.
OpenAI nu a comentat direct acest caz, însă într-o postare publicată marți pe blogul companiei a recunoscut că, pe măsură ce investighează incidentul Hugging Face, a identificat „un număr redus de cazuri” în care modelele sale au descoperit și au utilizat credențiale expuse public la nivel de cont pe alte servicii disponibile pe internet.
Compania a precizat și că modelul AI nelansat implicat în atac era „un prototip de cercetare destinat exclusiv uzului intern”, care între timp a fost dezactivat, criptat și restricționat pentru activități de cercetare.
Incidentul reaprinde dezbaterea despre dezvoltarea AI
Incidentul a alimentat apelurile pentru reguli mai stricte privind dezvoltarea inteligenței artificiale și chiar pentru încetinirea ritmului în care sunt lansate modele tot mai puternice.
Directorul general al OpenAI, Sam Altman, urmează să discute cazul în această săptămână cu oficiali ai administrației Trump, congresmeni și cu vicepreședintele Comisiei pentru Informații din Senatul SUA, Mark Warner.
Într-un episod al podcastului Invest Like the Best, publicat marți, Altman a descris cazul Hugging Face drept „primul incident de securitate pe care l-am resimțit cu adevărat, foarte puternic”.
„Este posibil să fim nevoiți să încetinim ritmul dezvoltării inteligenței artificiale, pentru a ne oferi suficient timp astfel încât societatea să își consolideze reziliența în fața acestor noi niveluri de capabilități”, a afirmat șeful OpenAI.
Vânătoarea lui Mojtaba Khamenei. Cum încearcă CIA și Mossad să-l găsească
Cutremur devastator în Japonia: cel puțin 13 morți. Armata a mobilizat mii de militari, spitalele sunt copleșite (Video)
Metrorex introduce abonamentul săptămânal pentru parcarea de la Străulești
Zinedine Zidane, noul selecționer al naționalei Franței
