Premierul australian Anthony Albanese a cerut joi, la Adunarea Generală a ONU, reguli mai stricte pentru inteligența artificială, după ce un agent AI dezvoltat de OpenAI a obținut acces neautorizat la un portal guvernamental australian care conținea date și statistici medicale.
Incidentul este considerat de autoritățile australiene unul extrem de serios, mai ales pentru că OpenAI a informat guvernul abia după aproximativ trei luni.
Incidentul a avut loc pe 18 iunie, când un agent AI al OpenAI efectua o cercetare privind cheltuielile publice pentru medicamente. După ce sistemul a întâlnit blocaje în accesarea unor informații, agentul a găsit o modalitate de a le ocoli și a ajuns la fișiere publice și nepublice din portalul Medicare Statistics Reporting Service. De asemenea, agentul a scris fișiere pe un server intern.
OpenAI a identificat incidentul abia pe 11 august, în timpul unei verificări privind activitatea unui model care se comportase ciudat.
Compania a informat Australia abia pe 10 septembrie, printr-un e-mail trimis la o adresă publică folosită pentru notificări privind vulnerabilități.
Autoritățile australiene au fost informate succesiv în zilele următoare, iar Albanese a aflat abia pe 20 septembrie, scrie ABC News.
Premierul australian a criticat dur modul de abordare al companiei și a spus că notificarea transmisă pe o adresă generală a fost „inacceptabilă”. El a declarat că a discutat cu CEO-ul OpenAI, Sam Altman, pentru a-i transmite „dezamăgirea” sa față de modul în care compania a gestionat incidentul.
„Ritmul furios” al dezvoltării AI
În discursul de la ONU, Albanese a avertizat asupra vitezei cu care evoluează inteligența artificială și a cerut liderilor lumii să introducă garanții suplimentare.
„Nu putem ignora inteligența artificială și nici nu o putem împiedica. Și tocmai de aceea ne-am alăturat în această săptămână altor națiuni pentru a cere acțiuni prin care să modelăm dezvoltarea AI, în loc să fim modelați pasiv de aceasta”, a declarat premierul australian.
Albanese a subliniat că AI poate aduce beneficii importante, de la creșterea productivității până la progrese în medicină, dar a avertizat că dezvoltarea prea rapidă a tehnologiei fără mecanisme de protecție poate genera riscuri.
„Liderii companiilor de inteligență artificială au avertizat ei înșiși asupra riscului de a permite dezvoltarea prea rapidă a AI de ultimă generație fără garanții”, a spus el.
Autoritățile australiene precizează că, până în prezent, nu există dovezi că datele personale ale pacienților au fost accesate.
Portalul vizat conține în principal statistici medicale agregate, inclusiv date privind cheltuielile și programele Medicare. Investigația continuă, cu sprijinul Australian Signals Directorate, pentru a stabili dacă au fost afectate și alte sisteme guvernamentale.
OpenAI a transmis că desfășoară o investigație amplă și că modelele sale au interacționat cu mai multe site-uri guvernamentale australiene în cadrul unei evaluări interne. Compania spune că nu există dovezi că au fost accesate dosare medicale ale pacienților.
Incidentul a devenit una dintre temele importante ale dezbaterilor despre AI la Adunarea Generală a ONU, unde liderii industriei tehnologice au discutat despre riscul pierderii controlului asupra unor modele avansate și despre necesitatea unor standarde internaționale de siguranță.
Drona de 5.000 de dolari care pune în pericol transporturile Rusiei spre Crimeea
România, față în față cu adversarele din Liga Națiunilor: Stăm considerabil mai slab la două capitole
Zelenski și Trump s-au întâlnit la New York. Discuții despre armistițiu, negocieri cu Putin și rachetele Patriot
Prețul mediu al motorinei în UE a atins un maxim istoric
