Comisia Europeană (CE) anunţă interzicerea în UE a opt dintre sistemele inteligenţei artificiale (AI), pe care le consideră prea periculoase, în cadrul legislaţiei de pionierat adoptate anul trecut (AI Act).
- Identificarea în timp real a persoanelor cu camere în locuri publice
UE interzice folosirea camerelor echipate cu tehnologii de recunoaştere facială în timp real pe o stradă comercială în vederea identificării unor persoane căutate.
Noţiunea de ”timp real” este crucială în această interdicţie, relatează AFP.
UE vrea să evite o intervenţie imediată împotriva unei persoane, fără o verificare prealabilă a altor informaţii provenind din lumea reală.
Derogări sunt însă prevăzute în anumite misiuni ale forţelor de ordine, de exemplu, în lupta împotriva terorismului.
- Clasificarea socială în baza datelor persoanelor fără legătură cu riscul evaluat
Un organism nu poate să recurgă la o aplicaţie AI cu scopul de a clasifica persoane în funcţie de probabilitatea de a comite o fraudă a ajutoarelor sociale, folosind date personale care nu au nimic de a face cu contextul - de exemplu, originea, culoarea pielii sau comportamentul pe reţele de socializare.
Astfel, în vederea evaluării riscului nerambursării unui împrumut bancar, numai datele financiare pot fi luate în calcul.
- Evaluarea riscului infracțional al unei persoane pe baza datelor biometrice
Poliţia nu poate folosi AI pentru a prezice riscul comportamentului infracţional al unei persoane, de exemplu, probabilitatea de a participa la revolte sau de a comite un atentat, sau numai pe caracteristici personale, de exemplu, doar trăsăturile feţei, fără să ia în calcul fapte obiective şi verificabile în mod direct legate de acţiunile acesteia.
- Crearea de baze de date cu sisteme de recunoaștere facială luând imagini de pe Internet
Sunt interzise instrumentele de ”periere” a Internetului şi extragerea unor fotografii ale feţelor, cu scopul constituirii unor baze de date la scară mare, de miliarde de imagini.
Acest lucru ar însemna o supraveghere de stat.
- Recunoașterea emoțiilor la locul de muncă sau instituții de învățământ
O organizaţie nu poate folosi webcam sau sisteme de recunoaştere vocală cu scopul de a detecta emoţiile angajaţilor săi.
- Manipularea comportamentului persoanelor cu ajutorul AI
Este interzisă integrarea în designul unei interfeţe a unor sisteme AI înşelătoare sau subliminale cu scopul de a-i împinge pe utilizatori să facă cumpărături.
- Exploatarea vulnerabilităților legate de vârstă sau dizabilități
O jucărie care încorporează AI şi care este concepută pentru a interacţiona cu copiii este interzisă, dacă este concepută cu scopul de a le păstra atenţia şi de a-i încuraja la provocări riscante, care i-ar putea răni.
- Deducerea opiniilor politice sau orientării sexuale în funcție de date biometrice
Un sistem care pretinde că poate ghici opiniile politice sau orientarea sexuală a persoanelor pe baza analizei feţei acestora nu va fi autorizat în UE.