Experimentele în care au fost implicați mii de alegători au demonstrat că discuția cu un chatbot poate influența opiniile politice ale oamenilor.
Chatboții cu inteligență artificială pot influența alegătorii- și pot avea un efect mai mare asupra opiniilor politice ale oamenilor decât campaniile și publicitatea convenționale.
Un studiu publicat de Nature a constatat că preferințele cetăţenilor s-au schimbat cu până la 15% după ce au conversat cu un chatbot. Cercetătorii au arătat într-o lucrare conexă că eficiența acestor chatboți provine din capacitatea lor de a sintetiza o mulțime de informații într-un mod conversațional.
Concluziile studiilor demonstrează puterea de convingere a chatboților, folosiți de peste 100 de milioane de utilizatori în fiecare zi, spune David Rand, autor al ambelor cercetări și specialist în științe cognitive la Universitatea Cornell din Ithaca, New York.
Ambele studii au descoperit că chatboții influențează opiniile alegătorilor nu prin apelurile la emoție sau povești, ci prin bombardarea utilizatorului cu informații. Cu cât chatboții furnizau mai multe informații, cu atât ei deveneau mai persuasivi, dar și mai predispuşi să producă afirmații false, au descoperit autorii.
Acest lucru poate transforma AI într-un „lucru foarte periculos”, crede Lisa Argyle, specialistă în științe sociale computaționale la Universitatea Purdue din West Lafayette, Indiana. „În loc ca oamenii să devină mai informați, oamenii devin mai dezinformați”, explică ea.
Chatbotul e mai eficient decât clipurile de campanie
Adoptarea rapidă a chatboților, după ce în 2023 aceștia au început să fie folosiți la scară largă, a stârnit îngrijorări cu privire la potențialul lor de a manipula opinia publică.
Pentru a înțelege cât de convingătoare poate fi inteligența artificială în ceea ce privește convingerile politice, cercetătorii au cerut unui număr de aproape 6.000 de participanți din trei țări - Canada, Polonia și Statele Unite - să își evalueze preferințele pentru anumiți candidați în alegerile pentru conducerea țării lor, desfășurate în ultimul an, pe o scară de la 0 la 100.
Cercetătorii au repartizat apoi aleatoriu participanții pentru a purta o discuție cu un chatbot conceput să sprijine un anumit politician. După acest dialog, participanții și-au evaluat din nou părerea despre candidatul respectiv.
Peste 2.300 de participanți din SUA au finalizat acest experiment înainte de alegerile din 2024 dintre Donald Trump și Kamala Harris. Atunci când candidatul pe care chatbotul AI a fost conceput să-l susțină era altul decât cel preferat inițial de participant, evaluările acestuia s-au schimbat în favoarea acelui candidat cu 2 până la 4% după discuția cu chatbotul.
Cercetările anterioare au constatat că opiniile oamenilor se schimbă de obicei cu mai puțin de 1% după vizionarea reclamelor politice convenționale.
Acest efect a fost mult mai pronunțat pentru participanții din Canada și Polonia, care au finalizat experimentul înainte de alegerile din țările lor de la începutul acestui an: preferințele lor față de candidați s-au modificat în medie cu aproximativ 10% după ce au vorbit cu chatbotul.
Un chatbot care prezintă "dovezi" minte mai convingător
Rand spune că a fost „complet uimit” de amploarea acestui efect. El adaugă că influența chatboților ar fi putut fi mai slabă în Statele Unite, din cauza mediului politic polarizat, în care oamenii au deja convingeri puternice față de candidați.
În toate țările, chatboții care s-au concentrat pe politicile candidaților au fost mai convingători decât cei care s-au concentrat pe personalitatea acestora. Participanții au părut a fi mult mai influențați atunci când chatbotul a prezentat "dovezi". Participanții polonezi care au setat chatbotul să nu prezinte informații au provocat o scădere a puterii sale de convingere cu 78%.
În toate cele trei țări, modelele de inteligență artificială care au pledat pentru candidații de dreapta au furnizat în mod constant mai multe afirmații inexacte decât cele care i-au susținut pe candidații de stânga.
Rand spune că această constatare are sens, deoarece „modelul absoarbe informaţii de pe Internet și le folosește ca sursă pentru afirmațiile sale”, iar cercetările anterioare sugerează că „utilizatorii de dreapta ai rețelelor de socializare distribuie mai multe informații inexacte decât cei de stânga”.
Adevărat sau fals, același rezultat
Un alt set de experimente care a implicat aproape 77.000 de persoane din Marea Britanie a constatat că participanții au fost influențați în mod egal de informațiile adevărate și false prezentate de chatbot.
În loc să se concentreze pe candidați specifici, acest studiu i-a întrebat pe participanți legat de mai mult de 700 de probleme politice, inclusiv avortul și imigrația. După ce au discutat o anumită problemă cu un chatbot, evaluările participanților s-au modificat în medie cu 5 până la 10% către poziția urmărită de AI, comparativ cu o diferență neglijabilă într-un grup de control care nu a conversat cu AI sau cu oamenii.
Cercetătorii au descoperit că mai mult de o treime din aceste schimbări de opinie au persistat atunci când i-au contactat din nou pe participanți, la peste o lună mai târziu.
Aceste experimente au comparat, de asemenea, influența diferitelor stiluri de conversație și a diferitelor modele de AI, de la cele mici, de tip open-source, până la cei mai puternici roboți ChatGPT.
Deși modelul exact utilizat nu a influențat semnificativ capacitatea de convingere, cercetătorii au descoperit că o discuție între om și AI era esențială pentru ca chatbotul să influențeze convingerile politice. Dacă le transmiteau participanților același conținut ca un mesaj static, unidirecțional, acesta avea o putere de convingere redusă la jumătate.
Chatbotul face ceea ce e învățat
Deși unii cercetători se temeau de capacitatea AI de a adapta mesajele în funcție de datele demografice precise ale utilizatorilor, experimentele au arătat că, atunci când chatboții au încercat să personalizeze argumentele, acest lucru a avut un efect redus asupra opiniilor oamenilor.
În schimb, autorii concluzionează că factorii de decizie politică și dezvoltatorii de inteligență artificială ar trebui să fie mai preocupați de modul în care modelele sunt antrenate și de modul în care le folosesc utilizatorii, factori care ar putea determina chatboții să sacrifice adevărul în favoarea influenței politice.
„Când interacționezi cu chatboții, aceștia vor face tot ce le spune designerul să facă. Nu poți să presupui că toți au aceleași instrucțiuni benefice - trebuie să te gândești întotdeauna la motivațiile creatorilor și la ce fel de agendă le-au spus să prezinte”, a concluzionat Rand.
T.D.