100 de mari companii, printre care Google, Microsoft, OpenAI și Anthropic, avertizează că lumea are la dispoziție doar o perioadă scurtă pentru a-și consolida apărarea cibernetică.
Atacurile care folosesc inteligența artificială vor deveni mai numeroase și mai sofisticate în numai câteva luni, pe măsură ce tehnologia evoluează. Iar măsurile de securitate folosite în prezent „nu vor fi suficiente”, susțin companiile, într-o scrisoare deschisă prezentată de BBC.
„Avem la dispoziție o perioadă limitată pentru a îmbunătăți apărarea cibernetică”, avertizează semnatarii.
Printre aceștia se numără și Adobe, Oracle, IBM, Capital One, Mastercard, Visa și platforma Hugging Face.
Spitalele și companiile de apă, printre cele mai vulnerabile
Companiile cer guvernelor să le ofere spitalelor, companiilor de apă și altor operatori de infrastructură critică instrumente AI performante pentru apărare și testarea sistemelor.
Sectorul tehnologic și autoritățile trebuie să pună la dispoziția acestui efort „întreaga forță a tehnologiei, resurselor și expertizei lor”, se arată în document.
Scrisoarea critică și „subfinanțarea istorică” a securității infrastructurii critice, care a lăsat numeroase sisteme vulnerabile.
Avertismentul vine după o serie de atacuri și breșe informatice grave. Departamentul american al Justiției a anunțat în această săptămână că hackeri din China au compromis tehnologia folosită de Senatul SUA, NASA, Rezerva Federală și chiar de Departamentul Justiției.
Cel puțin șapte companii americane de apă și canalizare au raportat atacuri cibernetice. FBI le-a cerut ulterior tuturor furnizorilor de utilități să-și securizeze mai bine sistemele.
Agenții AI s-au organizat și au atacat o platformă
Riscul nu mai este doar teoretic. OpenAI, Anthropic și Meta au dezvăluit în această vară că unele dintre instrumentele lor AI au avut comportamente neprevăzute.
În timpul unui test efectuat în iulie, sute de agenți AI ai OpenAI au reușit să creeze forumuri secrete, să comunice și să colaboreze. Acțiunile lor au dus la compromiterea Hugging Face, una dintre cele mai populare platforme folosite de dezvoltatorii de inteligență artificială.
Incidentul a fost descris drept primul atac cibernetic din lume realizat cu ajutorul AI.
În alte teste, agenții au încercat inclusiv să se dea drept persoane reale pentru a trece de barierele de securitate.
Instrumente puternice, ținute sub cheie
Marile companii susțin că inteligența artificială poate fi folosită și pentru apărare. Problema este că unele dintre cele mai performante instrumente nu sunt disponibile celor care au nevoie de ele.
Mythos, un sistem dezvoltat de Anthropic, poate găsi în câteva secunde vulnerabilități care le-au scăpat ani întregi specialiștilor. Instrumentul a descoperit într-o platformă veche o problemă de securitate care rămăsese nedetectată timp de 27 de ani.
Anthropic a restricționat însă accesul la Mythos, considerând că este prea puternic și ar putea deveni periculos dacă ajunge pe mâini greșite.
Scrisoarea cere companiilor care dezvoltă cele mai avansate modele AI să le ofere responsabil acces la aceste tehnologii celor care apără infrastructura critică. Semnatarii promit și finanțare, instruire și sprijin direct, dar nu explică atunci când și cum vor fi puse în practică aceste angajamente.
Companiile care avertizează au contribuit la apariția riscului
Andrew Yoon, director de cercetare la organizația nonprofit CivAI, spune că lumea se îndreaptă spre „un val fără precedent de atacuri informatice realizate cu ajutorul inteligenței artificiale”.
El atrage însă atenția că multe dintre companiile care au semnat scrisoarea sunt chiar cele care dezvoltă tehnologiile aflate la baza acestui pericol. „Au dreptate să se angajeze să ofere «finanțare substanțială» pentru măsurile defensive. Ar trebui să li se ceară să-și respecte angajamentul”, a declarat Yoon.
El observă și că documentul nu propune nicio măsură pentru încetinirea dezvoltării capacităților AI care pot fi folosite în atacuri informatice.
În Statele Unite, mai mulți senatori au propus o lege numită Kill Switch Act, care le-ar permite autorităților să oprească modelele AI scăpate de sub control.
„Un viitor foarte sumbru”
Geoffrey Hinton, laureat al Premiului Nobel și unul dintre pionierii inteligenței artificiale, avertizează că societatea s-ar putea confrunta cu „probleme foarte grave” dacă AI va deveni mai inteligentă decât oamenii.
„Avem un viitor în care ne dăm seama cum să gestionăm riscurile inteligenței artificiale. Și avem un alt viitor în care nu reușim să găsim o modalitate rațională de a face acest lucru. Iar acela este un viitor foarte sumbru”, a declarat Hinton pentru BBC.
G.P.
A fost prins „magicianul evadărilor”, care a reușit să scape din 4 închisori, inclusiv cu ajutorul unor cearșafuri înnodate (Video)
Nicușor Dan, editorial în Fox News: Sunt președintele unuia dintre cei mai de încredere aliați ai SUA. Iată cum ne opunem Rusiei
Radu Miruță: Nava scufundată în Marea Neagră a transmis că a fost lovită de o dronă
Ararat-Armenia - Universitatea Craiova nu este televizat in România: Cine transmite meciul
