Google Earth a devenit un instrument important pentru jurnaliști, cercetători și specialiștii care investighează războaie, dezastre naturale sau distrugerea mediului. Google a riscat însă să compromită această credibilitate prin introducerea unui generator de imagini capabil să transforme, în câteva secunde, fotografii reale din satelit în scene false și convingătoare.
Google a integrat în Google Earth modelul său de generare a imaginilor Nano Banana 2, permițând utilizatorilor să modifice prin simple instrucțiuni scrise imaginile din satelit, fotografiile aeriene și reprezentările 3D ale oricărui loc de pe glob.
Funcția a rezistat numai o zi. După ce utilizatorii au început să distribuie imagini false cu atacuri, dezastre și alte evenimente care nu avuseseră loc, compania a retras-o pentru a introduce măsuri de protecție mai puternice.
Într-o analiză publicată de The Atlantic, jurnalistul Matteo Wong arată că problema nu constă doar în posibilitatea generală de a produce deepfake-uri. Instrumentul fusese plasat chiar în interiorul unei platforme folosite pentru a vedea și documenta lumea reală.
Atacuri și dezastre inventate în câteva secunde
Pentru a folosi noua funcție, utilizatorul trebuia doar să deschidă versiunea web a Google Earth, să aleagă un loc de pe hartă, să apese butonul „Create image” și să descrie ce dorea să vadă.
Autorul The Atlantic a folosit funcția pentru a genera imagini în care apar clădiri de birouri în flăcări, distrugeri masive în San Francisco și un crater fumegând în locul Turnului Eiffel.
Instrumentul a putut crea și scene false mai puțin spectaculoase, dar probabil mai greu de demontat rapid: o tabără de persoane fără adăpost pe peluza Casei Albe, protestatari în fața complexului Mar-a-Lago sau migranți care trec frontiera dintre Statele Unite și Mexic.
În numai patru secunde, jurnalistul a obținut și imaginea unui hotel Trump construit în Fâșia Gaza.
Un reporter de investigație a avertizat că funcția putea produce foarte ușor imagini cu atacuri ale dronelor asemănătoare celor provenite din Ucraina, Rusia, Orientul Mijlociu și alte zone de război. În loc ca o persoană rău intenționată să găsească separat o imagine, un program de editare și o metodă de ocolire a filtrelor unui model AI, Google reunise întregul proces într-o singură interfață.
Imaginile generate nu înlocuiau fotografiile reale din vizualizarea publică a Google Earth. Ele puteau fi însă salvate sub forma unor capturi de ecran și distribuite pe rețelele sociale fără contextul care arăta că sunt artificiale.
De ce Google Earth nu este o platformă oarecare
Miza este mai mare decât în cazul unui generator obișnuit de imagini. Google Earth este utilizat de jurnaliști, cercetători, activiști și serviciile de informații pentru a examina locuri în care accesul direct este dificil sau imposibil.
Imaginile din satelit și cele aeriene pot ajuta la identificarea unor gropi comune, la evaluarea distrugerilor produse de bombardamente, la urmărirea defrișărilor sau a culturilor agricole afectate de secetă și la documentarea efectelor dezastrelor naturale.
În zonele de conflict, asemenea imagini pot deveni una dintre puținele modalități de a verifica ce s-a întâmplat pe teren.
Credibilitatea instrumentului se bazează tocmai pe ideea că arată locuri reale. Prin plasarea unui generator de imagini în aceeași interfață, Google a redus distanța dintre real și fals până la apăsarea unui singur buton.
The Atlantic consideră că astfel compania a pus în pericol una dintre cele mai importante calități ale Google Earth: funcția sa de reper vizual comun, folosit pentru stabilirea faptelor.
Google le-a cerut inițial oamenilor să verifice singuri imaginile
Google a susținut la început că dispune de o soluție pentru identificarea falsurilor. Fiecare imagine realizată cu Nano Banana în Google Earth includea SynthID, un marcaj digital conceput pentru conținutul generat de inteligența artificială.
Compania le-a recomandat celor care aveau îndoieli asupra unei imagini să o verifice cu aplicația Gemini sau cu Google Lens. Această soluție transfera însă responsabilitatea asupra celui care vedea imaginea. Pentru a descoperi falsul, oamenii trebuiau mai întâi să devină suspicioși, apoi să știe că există un mecanism de verificare și să îl folosească.
În plus, o captură de ecran putea circula în afara Google Earth, fără etichetele și explicațiile afișate în momentul generării. Specialiștii au arătat și că instrumentele automate de detectare a imaginilor artificiale nu oferă întotdeauna rezultate sigure.
Compania și-a schimbat poziția după apariția criticilor și a exemplelor de imagini false.
„Știm că oamenii au în mod special încredere în Google Earth pentru o reprezentare fidelă a lumii”, a transmis Google. Compania a anunțat că retrage funcția după ce a observat capturi cu imagini care păreau să-i încalce politicile.
Filtrele funcționau în altă parte, dar nu în Google Earth
Riscurile ar fi trebuit să fie evidente înainte de lansare. Potrivit The Atlantic, autorul a reușit să creeze în Google Earth imaginea unui avion care lovește noua clădire World Trade Center.
Când a încercat să producă aceeași scenă direct prin Nano Banana, modelul a refuzat cererea. Așadar, existau deja filtre pentru reprezentarea unor atentate, dar acestea nu funcționau corespunzător în noua integrare.
Episodul este cu atât mai greu de explicat cu cât imagini false inspirate de atacurile de la 11 septembrie reprezintă de multă vreme una dintre formele cunoscute de manipulare cu ajutorul inteligenței artificiale.
Nu este nici prima dată când Google lansează un produs AI fără filtre suficiente.
Un instrument pentru cumpărături, care le permitea utilizatorilor să vadă cum ar arăta anumite haine pe propriul corp, putea fi folosit pentru crearea unor imagini sexualizate cu celebrități, persoane necunoscute și chiar minori.
În 2024, Gemini a devenit ținta criticilor după ce a produs imagini istorice absurde, inclusiv reprezentări ale unor naziști din grupuri etnice diferite, dar a refuzat să genereze soldați germani albi. Ulterior, răspunsurile AI integrate în motorul de căutare Google le-au oferit utilizatorilor recomandări periculoase, printre care îndemnul de a mânca pietre.
Mai întâi lansează, apoi repară
Google nu este singura companie care a pus pe piață funcții AI cu riscuri previzibile. Modelele dezvoltate de alte companii au produs informații false, sfaturi periculoase și imagini sexualizate fără consimțământ, inclusiv reprezentări ale unor copii.
Problema comună este ordinea în care sunt făcute lucrurile: companiile lansează produsul, utilizatorii descoperă modalitățile în care poate fi abuzat, presa și specialiștii documentează riscurile, iar filtrele sunt introduse abia după apariția scandalului.
În cazul Google Earth, consecințele puteau depăși prejudiciul de imagine suferit de companie. O fotografie falsă cu un bombardament, o groapă comună, o tabără de refugiați sau o instalație militară putea fi distribuită drept probă a unui eveniment real.
Google a retras funcția suficient de repede pentru a limita efectele. Episodul rămâne însă un avertisment: atunci când un generator de falsuri este introdus într-un instrument construit pentru documentarea realității, problema nu mai este doar ce imagini poate produce inteligența artificială. Este chiar încrederea că mai putem deosebi realitatea de invenție. (S.D.S.)
Penurie sau construcția unei percepții care justifică prețuri mai mari în România?
Google nu mai trimite oamenii către site-uri. Cum schimbă inteligența artificială Internetul și presa online
Programul de mâncat care ar putea susține cel mai bine sănătatea creierului - studiu
U Cluj pierde cu Brann și părăsește Conference League
