Extrema dreaptă din Europa a inundat rețelele de socializare cu imagini falsificate cu inteligența artificială. De la mesajele de manipulare care țintesc imigrația până la ideea că vom fi obligați să mâncăm insecte, nicio temă care poate induce frica nu este evitată de mișcările extremiste.
Alegerile parlamentare europene din acest an au reprezentat rampa de lansare a unei campanii generate de inteligența artificială desfășurată de extrema dreaptă europeană, fenomen care a continuat să prolifereze de atunci, spun experții.
În această lună, problema a ajuns la consiliul de supraveghere independent al Meta, compania condusă de Mark Zuckerberg, care a deschis o investigație privind conținutul anti-imigrație de pe Facebook. Ancheta comisiei de supraveghere va analiza o postare dintr-un cont german care prezintă o imagine generată de inteligența artificială, însoțită de retorică anti-imigranți.
Postarea face parte dintr-un val de conținut de dreapta creat de AI pe rețelele de socializare, relatează The Guardian.
O imagine falsă poate fi generată în câteva minute
Partidul german de extremă dreaptă Alternative für Deutschland (AfD) și susținătorii poziției sale anti-imigranți au folosit intensiv generatoare de imagini AI.
Imaginea analizată de grupul de moderare a conținutului de la Meta prezintă o femeie cu păr blond și ochi albaștri care își ridică mâna într-un gest de oprire, cu un semn de stop și steagul german în fundal.
Textul de deasupra imaginii spune că oamenii ar trebui să nu mai vină în Germania, deoarece țara nu are nevoie de mai mulți "specialiști în violuri în grup", din cauza politicii de imigrare a Partidului Verzilor.
Filiala AfD din Brandenburg a produs în septembrie reclame de campanie realizate cu inteligența artificială, care puneau în contrast o Germanie idealizată, cu oameni cu părul blond și cu ochi albaștri, și scene cu femei acoperite cu voal care merg pe străzi și o persoană fluturând un steag LGBTQ+. Reality Defender, o firmă americană specializată în detectarea deepfake, a declarat că imaginea putea fi produsă în câteva minute.
Alte grupuri pro-AfD de pe Facebook folosesc imagini create de inteligența artificială care conțin sloganuri șovine. Una dintre acestea arată un porc uriaș – animal a cărui carne e interzisă de consum în Islam – urmărind un grup de oameni îmbrăcați în haine islamice, cu sloganul "Versiunea arabă a filmului Godzilla".
Experții au observat același model și în alte țări:
În Marea Britanie, după atacul cu cuțitul din Southport, când un adolescent a ucis trei tinere, AI a fost folosită pentru a promova protestele și pentru a posta conținut islamofob, pe baza unor presupuneri false cu privire la identitatea presupusului atacator. O imagine înfățișa bărbați cu barbă în port tradițional islamic în fața Parlamentului, unul fluturând un cuțit în spatele unui copil care plângea într-un tricou cu drapelul britanic. Iar mesajul era: "Trebuie să ne apărăm copiii!".
În Franța, imaginile generate de inteligența artificială au făcut parte din strategia de campanie a extremei drepte pentru alegerile europene și legislative din acest an. Postările de pe X au inclus imagini cu oameni care se apropie cu bărcile de o plajă, având un slogan anti-imigrație și videoclipuri în care îl critică pe Emmanuel Macron.
În Irlanda, utilizarea conținutului AI a crescut după revoltele de la Dublin din noiembrie 2023. O imagine frecventă îl prezenta pe Conor McGregor, fostul star al artelor marțiale mixte care a cochetat cu limbajul de extremă dreaptă, stând în fața unui autobuz în flăcări – o reproducere a uneia dintre imaginile autentice din timpul revoltelor, când un vehicul a fost incendiat în centrul orașului. Imaginea fabricată cu AI a primit 20 de milioane de vizualizări.
Iar o campanie a micului partid de extremă dreapta Poporul Irlandez a inclus o postare pe X în care a recunoscut că folosește o imagine generată de inteligență artificială a unui "susținător", acesta spunând că "cu greu recunoaște" locul în care a crescut.
În Italia, partidul populist Lega a publicat imagini generate de inteligență artificială cu mesaje împotriva persoanelor trans și islamofobe, inclusiv un bărbat cu barbă "însărcinat", un grup de bărbați cu vestimentație arabă care ardeau o copie a Divinei Comedii a lui Dante și una cu Macron înfățișat ca "soldat UE", într-un mesaj anti-UE. Reclamele politice au fost publicate pe Facebook și Instagram și pe conturile de socializare ale liderului Lega, Matteo Salvini.
Alte imagini fără marcaj de identificare de pe contul lui Salvini includ imagini cu femei și copii care mănâncă insecte, o referire la o teorie populară a conspirației de dreapta conform căreia UE se pregătea să-i determine pe cetățenii europeni să mănânce alimente pe bază de insecte.
Nu trebuie să știi programare ca să falsifici imagini
Utilizarea acelorași modele și teme și abordarea similară în prezentarea imaginilor pe platformele de social media a dat naștere unui curent cu o estetică identică în UE și Marea Britanie. În toate cazurile analizate, formațiunile de extremă dreaptă au evitat constant utilizarea oricărui marcaj de identificare pe imaginile AI, arată experții.
"Ceea ce vedem este vârful aisbergului pentru că ceea ce vine dinspre indivizi și dincolo de canalele oficiale este și mai rău", a spus Salvatore Romano, șef de cercetare la organizația nonprofit AI Forensics, care a examinat postările unor partide, inclusiv Partidul Adunarea Națională, Reconquête și Les Patriotes din Franța.
William Allchorn, cercetător senior la Universitatea Anglia Ruskin, a spus că ușurința cu care pot fi utilizate modelele de inteligență artificială a atras o periferie politică, cu un "oportunism pragmatic" față de noile tehnologii.
"AI reduce barierele de intrare pentru crearea de conținut. Nu ai nevoie de abilități de programare sau ceva asemănător pentru a genera aceste imagini. Este, de asemenea, simptomatic că opiniile de extremă-dreapta se generalizează sau sunt normalizate", a spus el, adăugând că extrema dreaptă nu are preocupări morale în privința folosirii imaginilor AI.
T.D.