O echipă de doar 37 de funcționari europeni va deveni, începând de duminică, una dintre cele mai influente autorități din lumea inteligenței artificiale.
Unitatea A3 din cadrul Biroului pentru Inteligență Artificială al Comisiei Europene, înființată în urmă cu doi ani, primește puterea de a investiga cele mai avansate modele AI și, dacă va constata că acestea prezintă riscuri grave, va putea impune măsuri corective, amenzi de milioane de euro sau chiar retragerea lor de pe piața europeană.
Este pentru prima dată când o autoritate publică primește competențe permanente de supraveghere asupra celor mai avansate sisteme de inteligență artificială, inclusiv cele dezvoltate de OpenAI, Anthropic, Google sau companii chineze precum DeepSeek și Moonshot, scrie Politico.
Noile atribuții intră în vigoare odată cu aplicarea unei noi etape din regulamentul european privind inteligența artificială (AI Act), adoptat anul trecut.
Ce poate face noua unitate
Unitatea pentru siguranța inteligenței artificiale din cadrul Biroului pentru AI al Comisiei Europene poate interveni atunci când apreciază că un model AI prezintă un risc sistemic.
Instituția poate solicita informații suplimentare, poate cere acces la modele pentru verificări și poate obliga companiile să adopte măsuri de reducere a riscurilor. În cele mai grave cazuri, poate impune restricționarea, retragerea sau rechemarea unui model de pe piață.
Companiile care refuză să coopereze, nu oferă informațiile cerute sau nu respectă măsurile impuse riscă amenzi de până la 15 milioane de euro sau 3% din cifra lor anuală de afaceri la nivel global.
Politico notează că aceste competențe nu vor opri cursa pentru dezvoltarea inteligenței artificiale, însă vor introduce un nou nivel de control chiar înainte ca marile companii să lanseze modele noi.
Cele patru riscuri pe care UE le consideră prioritare
AI Act obligă dezvoltatorii celor mai puternice modele de inteligență artificială să identifice și să reducă riscurile sistemice pe care acestea le pot genera.
Comisia Europeană a identificat patru scenarii considerate deosebit de periculoase:
- utilizarea AI pentru facilitarea unor atacuri chimice, biologice sau nucleare;
- pierderea controlului asupra unui model de inteligență artificială;
- lansarea unor atacuri cibernetice de către sisteme AI;
- manipularea populației la scară largă cu ajutorul inteligenței artificiale.
Presiunea asupra noii echipe a crescut și după incidentul recent în care un agent AI a compromis sistemele altei companii, caz care a reaprins dezbaterea privind siguranța modelelor avansate.
Cine conduce echipa
Unitatea, cunoscută intern drept A3, face parte din Biroul pentru Inteligență Artificială al Comisiei Europene și este una dintre cele șase structuri ale acestuia.
Din ianuarie este condusă de Matthieu Delescluse, funcționar european cu experiență în domenii precum telecomunicațiile, roamingul și programele europene pentru tehnologie și inovare, însă fără un istoric profesional în siguranța inteligenței artificiale.
La începutul acestui an, Delescluse declara că instituția este deja în dialog cu majoritatea dezvoltatorilor importanți de AI și că noile competențe permit Comisiei să treacă de la cooperare la măsuri coercitive, dacă va fi necesar.
„Putem solicita oficial informații, acces la modele și, acolo unde este necesar, putem impune măsuri corective și chiar amenzi”, a avertizat acesta.
Foști angajați Google și OpenAI în echipă
Comisia Europeană nu face publică identitatea experților care vor desfășura investigațiile, însă câteva nume au devenit cunoscute.
Printre acestea se află Simon Möller, fost angajat Google la Zürich, și Wout Schellaert, care în 2023 a fost consultant pentru OpenAI înainte de a se alătura Comisiei Europene.
Politico remarcă faptul că recrutarea specialiștilor rămâne una dintre cele mai mari provocări, în condițiile în care cercetătorii din domeniul AI pot obține salarii mult mai mari în sectorul privat.
Jimmy Farrell, expert în politici europene privind inteligența artificială în cadrul think tank-ului Pour Demain, spune că resursele financiare sunt importante, dar nu suficiente. În opinia sa, Biroul pentru AI trebuie să ofere și salarii competitive, contracte stabile și o organizare administrativă mai flexibilă pentru a putea atrage specialiști de top.
OpenAI: Vom continua să colaborăm cu UE
Companiile vizate afirmă că sunt dispuse să continue dialogul cu autoritățile europene.
Tom Gordon, vicepreședinte pentru politici europene al OpenAI, a declarat că firma a colaborat cu instituțiile europene și cu alți actori din industrie pentru definirea modului în care va fi aplicată legislația.
„Am colaborat îndeaproape și vom continua să lucrăm împreună. Credem că o inteligență artificială dezvoltată responsabil poate contribui la competitivitatea și prosperitatea Europei”, a afirmat acesta.
G.P.
Franța se pregătește de noi evacuări din cauza incendiilor. Spania începe să răsufle ușurată (Video)
Organismul copiilor unei populații din Asia a dezvoltat o abilitate pe care restul oamenilor nu o au: „Ca delfinii”
Reacția UEFA dupa ce s-a aflat că FIFA vrea să vândă Cupa Mondială
Horoscop zilnic: 31 iulie
