Pe măsură ce imaginile, videoclipurile și înregistrările audio generate de inteligența artificială devin tot mai greu de deosebit de realitate, Uniunea Europeană introduce reguli prin care companiile vor fi obligate să marcheze conținutul creat cu AI.
Măsura ar trebui să-i ajute pe oameni să recunoască deepfake-urile, însă cercetările ridică o întrebare surprinzătoare: dacă ne obișnuim să avem încredere în etichete, am putea deveni mai ușor de păcălit de conținutul fals care nu este etichetat?
Articolul 50 din Actul UE privind inteligența artificială, care a intrat în vigoare la 2 august, introduce mai multe obligații de transparență pentru companiile care furnizează sau utilizează sisteme și conținut generat de AI, notează The Conversation.
Comisia Europeană a publicat și un Cod de bune practici privind transparența conținutului generat de AI.
Printre noile obligații se numără etichetarea imaginilor, materialelor audio și videoclipurilor generate sau manipulate cu AI, atunci când acestea imită persoane, obiecte, locuri sau evenimente reale. Și textele generate cu AI despre subiecte de interes public trebuie semnalate dacă nu au fost verificate de oameni sau supuse unui control editorial.
UE a creat un set de pictograme pentru marcarea conținutului AI care pare autentic, iar în cazul deepfake-urilor audio este necesar un avertisment la începutul materialului. Etichetele trebuie să fie vizibile și să rămână astfel și după distribuirea sau descărcarea conținutului. Folosirea pictogramelor oficiale este însă opțională, obligația de dezvăluire rămânând obligatorie.
Pentru conținutul artistic, creativ, satiric sau fictiv, informarea publicului trebuie făcută fără a afecta prezentarea operei.
Companiile de AI trebuie, de asemenea, să introducă marcaje invizibile, lizibile automat, în conținutul generat sau procesat de sistemele lor. Anthropic, compania care dezvoltă Claude, a anunțat că modelele lansate în UE după 2 august vor include astfel de marcaje și că lucrează la implementarea lor și în modelele mai vechi.
Regulile se aplică și companiilor din afara UE care creează conținut destinat utilizatorilor europeni. Nerespectarea lor poate atrage amenzi de până la 15 milioane de euro sau 3% din cifra de afaceri anuală mondială.
În schimb, persoanele fizice care creează conținut în scop personal sau neprofesional nu intră sub incidența acestor obligații, ceea ce limitează aplicarea regulilor în cazul unei părți din conținutul generat de AI.
Pericolul nebănuit al etichetelor
Potrivit autorilor articolului din The Conversation, etichetele pot avea însă consecințe nedorite.
”Chiar și atunci când etichetele sunt aplicate cu bună credinţă, este important să înțelegem cum vor reacționa oamenii la ele.
Etichetele pentru conținutul generat de AI sunt concepute pentru a ne ajuta să identificăm materialele sintetice. Însă ele ar putea produce un efect nedorit, numit efect de bumerang – situația în care o intervenție ajunge să producă exact rezultatul opus celui urmărit.
Dacă ne obișnuim să vedem conținut generat de AI însoțit de o etichetă, am putea începe să presupunem că orice material fără etichetă este creat de om”, scriu autorii.
Cum actorii rău intenționați care creează conținut înșelător nu au, evident, niciun motiv să declare că au folosit AI, dependența excesivă de etichete ar putea avea un efect paradoxal: oamenii ar putea ajunge să considere automat autentic orice conținut care nu este etichetat, devenind astfel mai vulnerabili la deepfake-uri nedeclarate.
Cercetările arată că eficiența etichetelor depinde nu doar de existența lor, ci și de momentul în care apar și de modul în care sunt interpretate.
În plus, eticheta este doar unul dintre indiciile pe care oamenii le folosesc pentru a evalua un conținut. Atunci când acesta devine viral sau este susținut de comentarii care îi întăresc mesajul, aceste indicii sociale pot cântări mai mult decât informațiile privind autenticitatea sa și chiar pot determina oamenii să ignore semnalele că materialul a fost generat de AI.
Alfabetizarea în domeniul AI este esențială
Prin urmare, educația rămâne esențială pentru a identifica materialele generate de AI.
Autorii recomandă ca oamenii să fie atenți și la indicii precum mișcări faciale sau expresii incoerente, precum și la particularități ale vorbirii sau vocii, să țină cont și de cine a creat sau distribuit conținutul, dacă sursa este credibilă și dacă informațiile pot fi verificate în alte surse.
Etichetele pentru conținutul generat de AI pot fi utile. Dar ele nu trebuie să înlocuiască evaluarea critică a informațiilor din mediul online.
Pe măsură ce granița dintre conținutul sintetic și cel autentic devine tot mai greu de observat, autoritățile și companiile de tehnologie trebuie să facă mai mult pentru a sprijini educația în domeniul AI și pentru a-i ajuta pe oameni să ia decizii informate cu privire la ceea ce văd online, mai scriu autorii.
C.S.
