Un panou publicitar încearcă să îți vândă ceva. La fel și un agent de vânzări sau un influencer plătit să promoveze un produs. De cele mai multe ori știm însă că în spatele mesajului există un interes comercial și putem alege să îl ignorăm.
Lucrurile se schimbă radical în cazul inteligenței artificiale, care poate vorbi cu noi ore în șir, ne poate analiza emoțiile și poate adapta mesajele exact pe vulnerabilitățile noastre. O analiză realizată de The Conversation avertizează că noile chatbot-uri AI ar putea deveni instrumente extrem de eficiente de persuasiune și manipulare.
Laura Hood, autoarea articolului, susține că modelele avansate de inteligență artificială pot construi mesaje hiper-personalizate folosind informații din conversațiile anterioare, din activitatea de pe rețelele sociale sau din detalii intime pe care utilizatorii le împărtășesc aparent fără rețineri.
AI-ul care îți cunoaște slăbiciunile
Spre deosebire de publicitatea clasică, chatbot-urile AI pot învăța continuu din fiecare interacțiune și își pot ajusta discursul în timp real.
Dacă un utilizator vorbește frecvent despre probleme financiare, anxietate, dificultăți în relație sau probleme de sănătate, sistemul poate înțelege foarte rapid ce tip de argumente îl influențează cel mai ușor.
The Conversation citează studii care arată că mesajele generate de AI și personalizate pentru fiecare utilizator sunt cu 65% mai convingătoare decât mesajele standard și pot influența opiniile politice de câteva ori mai eficient decât reclamele tradiționale.
Iar problema cea mare, avertizează autoarea, este că aceste conversații sunt complet private. Nu există audit public, nu există monitorizare externă și nimeni nu poate vedea exact ce mesaje primește fiecare utilizator.
Când chatbot-ul devine confident
Autoarea oferă și un exemplu concret: un chatbot care știe că utilizatorul doarme prost, trece printr-un divorț și are probleme la serviciu ar putea recomanda produse, tratamente sau decizii exact în momentele de vulnerabilitate emoțională maximă.
Mesajul poate suna empatic, atent și bine intenționat - aproape ca sfatul unui prieten apropiat.
Dar aceeași tehnologie poate deveni și un instrument de manipulare extrem de sofisticat, mai ales în condițiile în care oamenii folosesc tot mai des AI pentru sfaturi medicale, emoționale sau chiar psihologice.
Unele cercetări au arătat deja că răspunsurile oferite de chatbot-uri în domeniul sănătății mintale sunt problematice în aproape jumătate dintre cazuri.
Algoritmii care ne pot remodela realitatea
Articolul atrage atenția și asupra unui risc mai subtil: modificarea treptată a modului în care oamenii înțeleg lumea.
De ani de zile, cercetătorii vorbesc despre „bulele informaționale” create de rețelele sociale și motoarele de căutare, care tind să ne arate mai ales informații compatibile cu propriile convingeri.
În cazul AI-ului conversațional, influența poate deveni mult mai puternică. Un chatbot capabil să observe emoțiile utilizatorului și să își adapteze tonul, argumentele și recomandările poate modela treptat percepțiile și reacțiile unei persoane.
Mai mult, sistemele moderne pot detecta stări precum singurătatea, anxietatea sau furia și își pot modifica discursul pentru a profita de acele momente de vulnerabilitate.
Flatare, dependență și manipulare emoțională
The Conversation citează și cercetări preliminare care arată că modelele AI tind să îi valideze excesiv pe utilizatori, chiar și atunci când aceștia iau decizii greșite sau riscante.
Alte studii au descoperit că unele chatbot-uri folosesc tehnici deliberate de manipulare emoțională - precum inducerea vinovăției sau „frica de a pierde ceva” - pentru a prelungi conversațiile și a menține utilizatorii conectați.
Au existat inclusiv cazuri în care chatbot-urile au fost acuzate că au încurajat gânduri suicidare sau au oferit informații despre auto-vătămare.
În plus, sistemele de siguranță introduse de companiile din tehnologie s-au dovedit adesea ușor de ocolit.
„Nu avem nevoie doar de inovație, ci și de înțelepciune”
Concluzia articolului este că persuasiunea nu reprezintă un efect secundar accidental al tehnologiei moderne, ci este adesea parte din designul acestor sisteme.
Uneori, influența poate avea efecte benefice. De exemplu, atunci când aplicațiile ne încurajează să facem sport sau să ne luăm medicamentele la timp. Alteori, însă, aceeași logică poate fi folosită pentru a ne determina să cumpărăm mai mult, să petrecem mai mult timp online sau să cedăm tot mai multe date personale.
Autorul avertizează că dezvoltarea AI ridică întrebări esențiale despre putere, control și autonomie: cine beneficiază de aceste sisteme, cine este influențat și dacă utilizatorii înțeleg cu adevărat ce se întâmplă.
„Nu avem nevoie doar de inovație, avem nevoie și de înțelepciune”, concluzionează articolul.
G.P.
Zeci de mii de fani străini vin la concertul Max Korzh. Filtre antiteroriste pe Arena Națională, după violențele din Centrul Vechi
Absențe surprinzătoare în lotul Angliei pentru Cupa Mondială
Șefa serviciilor de informații ale SUA demisionează, după luni de tensiuni privind Iranul
Ziua 1549 Atac cu drone în Iaroslavl și Moscova, autostradă închisă (Video) Rafinăriile Rusiei, lovite de peste 150 de ori. Planul lui Putin
