Eurodeputații au adoptat miercuri, cu o vastă majoritate, Legea AI, care vizează reglementarea sistemelor de inteligență artificială conform unei abordări bazate pe risc.
Legea adoptată cu 523 de voturi favorabile, 46 împotrivă și 49 de abțineri va intra în vigoare în luna mai, relatează Euronews.
Regulamentul are ca obiectiv protejarea drepturilor fundamentale, a democrației și statului de drept și sustenabilitatea mediului în fața sistemelor de inteligenţă artificială, cu grad ridicat de risc.
Actul legislativ vizează și încurajarea inovației și asigurarea unui rol de lider în domeniu pentru Europa. Regulamentul impune obligații în cazul inteligenței artificiale, în funcție de riscurile sale potențiale și de impactul preconizat.
Ce se interzice
Conform Legii AI, sistemele de învățare automată vor fi împărțite în patru mari categorii, în funcție de riscul pe care îl prezintă la adresa societății.
Sistemele considerate de risc înalt vor fi supuse unor reguli mai stricte înainte de a fi lansate pe piața comunitară, iar conformitatea acestora va fi stabilită de un nou organism creat în cadrul Comisiei Europene: Oficiul AI.
Nu vor fi permise:
- utilizări ale inteligenței artificiale care amenință drepturile cetățenilor, inclusiv sistemele biometrice de clasificare bazate pe caracteristicile sensibile ale persoanelor
- extragerea fără scop precis a imaginilor faciale de pe Internet ori din înregistrările camerelor video cu circuit închis, pentru a crea baze de date de recunoaștere facială
- recunoașterea emoțiilor la locul de muncă și în școli;
- atribuirea unui punctaj social pe bază de algoritmi;
- sistemele de poliție predictivă (când acestea se bazează doar pe stabilirea profilului unei persoane sau pe analizarea caracteristicilor sale);
- sisteme AI care manipulează comportamentul uman sau exploatează vulnerabilitățile oamenilor.
Excepții pentru organele de aplicare a legii
Folosirea sistemelor de identificare biometrică de către organele de aplicare a legii este în principiu interzisă, cu excepția unor situații definite în mod strict.
Sistemele de identificare biometrică "în timp real" pot fi instalate doar dacă se respectă garanții stricte, de pildă, dacă folosirea lor e limitată în timp și geografic și este aprobată în prealabil de o autoritate judiciară sau de un organ administrativ. Aceste sisteme pot fi folosite, de exemplu, pentru a căuta o persoană dispărută sau pentru a preveni un atac terorist.
Folosirea acestor sisteme post-facto (sistemele de identificare biometrică „ulterioară”) este considerată un caz de utilizare cu grad ridicat de risc și este posibilă doar în virtutea emiterii unei autorizații judiciare vizând o infracțiune penală.
Regulile AI de uz general se vor aplica la un an de la intrarea în vigoare, în mai 2025, iar obligațiile pentru sistemele cu risc ridicat în termen de trei ani. Acestea se vor afla sub supravegherea autorităților naționale, susținute de Oficiul AI din cadrul Comisiei Europene. Statelor membre le revine sarcina de a înființa agenții naționale de supraveghere. Potrivit Comisiei, țările au la dispoziție 12 luni pentru a nominaliza aceste instituții de control.
Legea era în lucru înainte de ChatGPT
Eurodeputatul român Dragoş Tudorache, co-autor al legii AI și președintele Comisiei Speciale pentru Inteligență Artificială, a spus înaintea votului că "UE a livrat". "Fără 'dacă' și fără 'dar': acestea sunt regulile", scrie Politico.
Celălalt autor al legii, europarlamentarul italian Brando Benifei, a spus într-o conferință de presă organizată după adoptarea actului normativ că "este o zi istorică". "Avem primul regulament din lume care oferă o cale clară pentru o dezvoltare a AI sigură și axată pe om. Avem acum un text care reflectă prioritățile Parlamentului", a declarat el.
"Punctul principal va fi acum implementarea și conformarea întreprinderilor și a instituțiilor. Lucrăm, de asemenea, la o legislație suplimentară pentru următorul mandat, cum ar fi o directivă asupra condițiilor la locul de muncă și AI", a adăugat Benifei.
Legea AI a fost concepută în 2021, înainte de "explozia" instrumentelor generative AI precum aplicația ChatGPT dezvoltată de compania OpenAI.
Procesul său de redactare a fost afectat de tensiunile latente dintre parlamentarii europeni și guvernele UE, inclusiv Franța și Germania, din cauza temerilor că reglementările dure ar putea împiedica progresul Europei în cursa globală pentru a deveni un lider în domeniul AI.
Alte motive de dispută au fost posibilitatea unei interziceri totale a tehnologiei de recunoaștere facială - care în textul final e limitată, dar nu este interzisă - dar și structura Oficiului AI.