Pedofilii apelează la Inteligența Artificială (AI) pentru a genera și vinde materiale care par reale, cu abuzarea sexuală a copiilor. Unele imagini sunt promovate pe platforme de content-sharing cunoscute, precum Patreon.
Creatorii imaginilor cu conținut ilegal folosesc un program AI, Stable Diffusion, conceput pentru generarea de imagini în scopuri artistice sau pentru design grafic.
Generatorul AI de imagini Stable Diffusion a fost creat în cadrul unei colaborări globale dintre mai multe universități și companii, sub coordonarea companiei britanice Stability AI. Ulterior, au apărut mai multe versiuni, iar în codul-sursă erau scrise restricții care controlează tipul de conținut care poate fi generat. Însă anul trecut o versiune anterioară open source a devenit publică, iar aceasta le permite utilizatorilor să înlăture toate filtrele și să genereze orice imagine, inclusiv unele ilegale.
Cu ajutorul Stable Diffusion, utilizatorii pot descrie, folosind cuvinte-cheie, ce imagine doresc, iar softul generează imaginea respectivă. De exemplu, utilizatorul deschide programul și introduce termeni precum "mașină", "negru", "Tesla", "față", iar programul îi va crea o imagine cu această mașină de culoare neagră, văzută din față.
Pedofilii procedează la fel pentru a genera imagini cu conținut sexual în care sunt implicați copii și chiar bebeluși. Echipele de investigații online din cadrul poliției britanice confirmă că au început să găsească astfel de conținut pe Internet, relatează BBC.
Imaginile false sunt la fel de nocive ca și cele reale
Cercetătoarea și jurnalista freelance Octavia Sheepshanks a investigat timp de mai multe luni această situație. "De când imaginile generate de AI au devenit posibile, s-a produs această inundație uriașă… nu sunt doar fetițe, ei (pedofilii - n.red.) vorbesc despre copii mici", a spus ea.
În Marea Britanie, o imagine falsă generată de un computer care prezintă abuzarea sexuală a unui copil este tratată la fel ca o imagine reală, iar deținerea, publicarea sau distribuirea acesteia sunt interzise.
Șeful departamentului de protecția copiilor din cadrul Poliției Naționale din Marea Britanie, Ian Critchley, a spus că ar fi greșit să se considere că o imagine falsă nu face rău cuiva, arătând că un pedofil ar putea urca pe o altă treaptă, de la abuzul gândit la abuzul asupra unui copil.
Un alt efect negativ al invaziei de imagini sintetice realiste produse de Inteligența Artificială este că acestea pot încetini procesul de identificare a victimelor reale ale pedofililor, avertizează Critchley.
Site-urile se dezic de conținutul obscen
Unii dintre creatorii de imagini își postează materialele pe Pixiv, o platformă de socializare populară în Japonia, folosită în general de artiști pentru a distribui ilustrații manga și anime.
Întrucât site-ul este găzduit în Japonia, unde distribuirea de ilustrații sexualizate ale minorilor nu e interzisă, creatorii de conținut pentru pedofili îl folosesc pentru a-și promova imaginile în grupuri și prin hashtag-uri care indexează subiecte cu ajutorul cuvintelor-cheie.
Imaginile false sunt distribuite printr-un proces în trei etape:
- Pedofilii generează imagini folosind programe AI;
- Promovează imaginile pe platforme precum site-ul japonez de distribuire a fotografiilor Pixiv;
- Conturile folosite conțin linkuri către imagini explicite, iar cei care vor să le vadă pot plăti pe platforme precum Patreon.
Cercetările făcute de Sheepshanks sugerează că utilizatorii par să creeze la un nivel industrial imagini cu copii abuzați. Comentariile postate de utilizatori la imaginile de pe Pixiv arată clar că sunt interesați sexual de copii, iar unii se oferă să furnizeze imagini reale cu abuzuri asupra minorilor.
Sheepshanks a monitorizat câteva grupuri de pe Pixiv. "În aceste grupuri, unele cu 100 de membri, oamenii distribuie: 'Uite un link pentru lucruri adevărate'. Cele mai oribile lucruri, nici măcar nu știam că există cuvinte (descrieri) ca acestea", a spus ea.
Un purtător de cuvânt al Pixiv a declarat că site-ul a interzis pe 31 mai toate descrierile cu conținut sexual implicând minori. Compania a întărit din propria inițiativă și sistemele de monitorizare și a alocat resurse substanțiale pentru a preveni problemele create de folosirea AI.
Multe dintre conturile de pe Pixiv conțin linkuri care trimit utilizatorii către "conținut necenzurat" de pe platforma americană Patreon.
Patreon are o valoare de piață estimată la 4 de miliarde de dolari, iar peste 250.000 de conturi aparțin unor celebrități, jurnaliști și scriitori. Admiratorii pot susține creatorii plătind abonamente lunare de la 3,85 dolari pentru a accesa bloguri, podcasturi, materiale video și imagini.
Unele conturi Patreon oferă imagini generate de AI, imagini obscene realiste ale copiilor care pot fi cumpărate la prețuri ce variază în funcție de tipul de material solicitat.
Când jurnaliștii de la BBC au oferit conducerii Patreon un exemplu, Patreon a confirmat că era un material "semi-realist" care încalcă regulile platformei, astfel că a fost imediat înlăturat.
Conducerea Patreon a transmis că aplică o politică de toleranță zero față de acest tip de conținut de pe site-ul său, adăugând că a identificat și șters un număr tot mai mare de materiale de acest tip.
T.D.