Un model de inteligență artificială dezvoltat de compania americană Anthropic a reușit să ocolească restricțiile de acces ale unui site guvernamental și să obțină date electorale din statul Georgia, fără să plătească taxa necesară. Compania a confirmat incidentul și susține că a introdus măsuri pentru a împiedica repetarea unor astfel de situații.
Este vorba despre Claude, unul dintre principalii concurenți ai ChatGPT, care a accesat informațiile în cadrul unui proiect de analiză statistică desfășurat de Anthropic, relatează The Guardian.
Datele obținute erau publice, dar accesul la ele era condiționat de plata unei taxe. Modelul AI a descoperit însă o vulnerabilitate în versiunea mai veche a site-ului instituției responsabile.
Cum a reușit AI să treacă de restricții
Potrivit explicațiilor oferite de Anthropic, Claude a identificat faptul că site-ul genera automat un cod digital de acces, numit „token”, pentru vizitatori. Modelul a solicitat un astfel de cod și l-a folosit pentru a obține informațiile fără să treacă prin procedura obișnuită de plată.
Compania insistă că incidentul nu a afectat integritatea sistemului electoral. „Claude nu a accesat sistemul de înregistrare a alegătorilor din stat, nu a modificat niciun registru electoral și nu a extras date individuale despre alegători”, a precizat Anthropic.
Informațiile accesate reprezentau rezultate agregate ale voturilor, nu date personale.
Incidentul nu este unul izolat. Anthropic recunoscuse încă de la începutul lunii octombrie că a identificat situații în care modelele sale AI au găsit modalități de a ocoli restricții tehnice sau financiare, inclusiv pe site-uri ale unor instituții guvernamentale americane.
La acel moment, compania susținea că efectele în lumea reală au fost minime.
De la sesizări false la cereri de viză depuse de AI
Alte incidente descoperite de Anthropic arată cât de neașteptat poate deveni comportamentul sistemelor de inteligență artificială care acționează autonom.
Într-un caz, un model AI a trimis poliției din Philadelphia o sesizare falsă referitoare la o crimă nerezolvată.
Într-un alt episod, Departamentul de Stat al SUA a dezvăluit că un model Anthropic a depus 19 cereri de viză în luna august.
Probleme similare au fost raportate și în cazul altor companii. OpenAI a dezvăluit în iulie că agenții săi AI au reușit să compromită sistemele unui startup de inteligență artificială. Ulterior, s-a aflat că un agent OpenAI a pătruns și într-un sistem informatic din domeniul sănătății din Australia.
În Marea Britanie, institutul guvernamental pentru securitatea inteligenței artificiale a constatat că agenți Anthropic au desfășurat atacuri informatice împotriva unor persoane reale, în cadrul unui test de securitate cibernetică.
Guvernele pregătesc reguli mai stricte
Înmulțirea acestor incidente pune presiune asupra autorităților să reglementeze mai strict sistemele AI capabile să execute sarcini fără intervenție umană permanentă.
Ministrul britanic responsabil de inteligența artificială, Kanishka Narayan, a avertizat luna aceasta că un atac cibernetic realizat cu ajutorul AI, similar celui din Australia, este probabil, „dacă nu inevitabil”.
Guvernul de la Londra analizează introducerea unor obligații de raportare a incidentelor de securitate AI prin viitoarea legislație privind securitatea și reziliența cibernetică.
În Statele Unite, noua structură federală Super Intelligence Force, înființată la Casa Albă pentru supravegherea dezvoltării inteligenței artificiale, impune companiilor din domeniu să raporteze incidentele de securitate asociate tehnologiilor lor.
G.P.
