Inteligența artificială poate influența nu doar ceea ce credem, ci și ceea ce ne amintim. Cercetările arată că fotografiile modificate cu ajutorul AI și rezumatele generate de aceste sisteme pot distorsiona amintirile oamenilor, determinându-i să creadă că au trăit sau au văzut lucruri care nu s-au întâmplat niciodată.
Mai mult, persoanele afectate pot fi foarte sigure de propriile amintiri false, ceea ce ridică semne de întrebare cu privire la riscurile dezinformării și la folosirea tot mai extinsă a inteligenței artificiale în domenii sensibile.
Cercetătoarea Pattie Maes, de la Institutul de Tehnologie din Massachusetts (MIT), a vorbit despre studiul echipei sale într-un interviu acordat Washington Post, potrivit Gizmodo. Participanții au privit o serie de fotografii și, după o pauză, unii au revăzut exact aceleași imagini, în timp ce alții au văzut versiuni modificate cu ajutorul AI. La un test ulterior de memorie, persoanele care văzuseră imaginile alterate de inteligența artificială nu numai că și-au amintit mai frecvent în mod greșit fotografiile originale, ci au manifestat și o încredere exagerată în propriile amintiri false.
Memoria umană este nesigură și vulnerabilă la sugestii, după cum au demonstrat numeroase experimente psihologice. De aceea, dezinformarea poate avea efecte de durată, influențând inclusiv deciziile politice, chiar și după corectarea informațiilor false.
Inteligența artificială amplifică acest risc, deoarece conținutul generat de AI devine tot mai convingător și mai răspândit online.
Studiile arată că imaginile deepfake și textele fabricate pot crea amintiri false despre evenimente care nu au avut loc. Un studiu publicat anul trecut a constatat că materiale generate de AI despre scandaluri politice inventate au influențat inclusiv intenția participanților de a vota.
Chiar și fără intenții răuvoitoare, AI poate produce informații false, fenomen cunoscut drept „halucinații”.
Pentru a preveni consecințele, numeroase organizații se bazează pe principiul „omului în buclă”, potrivit căruia un specialist verifică rezultatele sistemului înainte ca acestea să fie folosite în practică. Totuși, cercetările arată că oamenii identifică greu aceste erori.
Memoria imperfectă și încrederea în AI îi pot face vulnerabili chiar și pe experți, care riscă să fie influențați de răspunsurile greșite ale sistemului, chiar dacă acestea contrazic ceea ce știu.
Potrivit unor studii, capacitatea unei persoane obișnuite de a recunoaște conținutul generat de AI este comparabilă cu aruncarea unei monede. Cercetătorii încearcă să dezvolte metode de instruire care să ajute oamenii să identifice mai ușor deepfake-urile, însă nu există încă o soluție sigură.
În paralel, industria dezvoltă sisteme de AI menite să funcționeze autonom, reducând intervenția umană.
Consecințele pot fi tragice. La începutul acestui an, un atac militar american asupra unei școli primare din Iran a ucis peste 150 de persoane, inclusiv cel puțin 123 de copii. Potrivit unei anchete interne a Departamentului Apărării al SUA, relatată de Bloomberg, atacul a fost cauzat parțial de dependența excesivă de un sistem AI dezvoltat de Palantir. Pe baza unor date învechite, acesta recomandase școala drept țintă pentru prima zi a operațiunilor militare.
C.S.
