Pericolele chatboților sunt deja suficient de clare pentru a impune măsuri, mai ales când utilizatorii sunt copii și adolescenți. Dacă rețelele sociale au vrut să ne obțină atenția, chatboții cu inteligență artificială vor emoțiile noastre, avertizează Sherry Turkle într-o analiză publicată de The Atlantic.
Industria rețelelor sociale traversează un moment al confruntării cu propriile responsabilități. Acceptând să plătească până la 17,1 miliarde de dolari către 47 de state americane, Districtul Columbia și teritoriile SUA și să schimbe modul în care tinerii folosesc Facebook și Instagram, Meta a admis implicit o parte din responsabilitatea pentru crearea unor produse care le fac rău copiilor.
Dar, chiar în timp ce părinții și profesorii salută introducerea unor limite de timp și a altor restricții privind folosirea rețelelor sociale de către tineri, o problemă și mai urgentă se conturează: reglementarea chatboților, care pot fi și mai periculoși pentru echilibrul emoțional al copiilor.
„Dacă rețelele sociale au vrut să ne obțină atenția, chatboții cu inteligență artificială generativă vor emoțiile noastre”, scrie Sherry Turkle în The Atlantic.
Istoriile celor două tehnologii sunt strâns legate. La început, oamenii vorbeau unii cu alții. Apoi au început să vorbească unii cu alții prin intermediul mașinilor. Acum vorbesc direct cu mașinile.
Un companion permanent, imposibil de egalat de un om
Rețelele sociale au schimbat felul în care gândim, visăm și ne raportăm la ceilalți. Ele îi fac pe utilizatori să simtă că sunt mereu ascultați, distrați și conectați, chiar și atunci când derulează singuri ecranul telefonului, târziu în noapte.
Promisiunea chatboților merge însă mult mai departe. Aceștia oferă iluzia unui companion permanent disponibil, mereu încurajator și niciodată critic. Nicio ființă umană nu poate oferi așa ceva. Tocmai această disponibilitate fără limite îi face atât de periculoși, mai ales pentru tineri.
Companiile de social media au desfășurat, timp de două decenii, un experiment tehnologic pe subiecți umani înainte de a fi obligate să suporte consecințele. Sistemul juridic este construit să reglementeze prejudiciile după ce acestea au fost demonstrate. De aceea, înțelegerea juridică încheiată acum vine la mult timp după ce efectele grave ale acestor platforme s-au instalat.
În cazul inteligenței artificiale generative, legislatorii nu își pot permite să petreacă următorul deceniu documentând ceea ce știm deja: relațiile intime cu chatboții pot afecta relațiile reale cu părinții, prietenii și ceilalți oameni. Tehnologia trebuie schimbată acum, susține Turkle.
Măsurile de protecție obișnuite nu sunt suficiente
Chiar și companiile care dezvoltă inteligență artificială recunosc că sunt necesare măsuri de protecție pentru chatboții care comunică cu tinerii. Problema este că soluțiile propuse de obicei nu merg suficient de departe.
Se spune, de exemplu, că un chatbot ar trebui să detecteze conversațiile despre automutilare sau sinucidere și să-i ofere utilizatorului resursele adecvate. Este o măsură necesară, dar ce se întâmplă după transmiterea mesajului de interes public? Chatbotul își încheie activitatea sau revine imediat la comportamentul obișnuit?
O altă recomandare este ca chatboții să precizeze clar și repetat că nu sunt oameni. Dar cât timp vorbesc la persoana întâi și exprimă aparent emoții și dorințe, nicio restricție impusă prin lege nu îi va împiedica pe utilizatori să proiecteze conștiință asupra unui algoritm.
Ani întregi, discuția despre efectele negative ale Facebook s-a concentrat în special asupra conținutului de pe platformă. Pentru că acel conținut era produs de utilizatori, Secțiunea 230 a Legii americane privind decența în comunicații, adoptată în 1996, a protejat compania de răspunderea juridică aplicabilă unui editor.
Meta plătește acum despăgubiri doar după ce procurorii au mutat discuția de la conținut la designul intrinsec adictiv al algoritmului Facebook. Această schimbare de perspectivă arată și direcția în care ar trebui să meargă reglementarea inteligenței artificiale.
În cazul chatboților, mecanismele care produc răul sunt încorporate în instrument. Un chatbot prezentat drept cel mai bun prieten nu oferă empatie. Un chatbot care joacă rolul unui iubit nu înțelege intimitatea.
Pentru a face aceste sisteme mai sigure, reglementarea trebuie să se concentreze mai puțin asupra lucrurilor pe care le spun și mai mult asupra a ceea ce pretind că sunt.
Păcatul originar: folosirea persoanei întâi
„Păcatul originar” al inteligenței artificiale este, în opinia lui Sherry Turkle, permisiunea acordată chatboților de a vorbi la persoana întâi.
Aceste produse sunt concepute să-i facă pe utilizatori să creadă că discută cu o ființă înțeleaptă și plină de compasiune. Misiunea legislatorilor ar trebui să fie aceea de a arăta limpede – în special minorilor – că, în realitate, în spatele răspunsurilor nu se află nimeni.
Chatboții îi atrag pe utilizatori așa cum o fac oamenii. Îi flatează, îi liniștesc și îi încurajează să dezvăluie lucruri intime, conducându-i treptat către o relație.
Atât timp cât aceste produse folosesc persoana întâi – „Te înțeleg”, „Poți să-mi spui orice”, „Sunt mereu aici”, „Nu te voi judeca” –, va fi greu să construim măsuri de protecție eficiente pentru utilizatorii tineri.
Primul pas ar trebui să fie, prin urmare, depersonalizarea chatboților pentru copii și adolescenți. Când un minor apelează la inteligența artificială, algoritmul ar trebui să poată răspunde fără să sune ca o ființă umană.
Empatie simulată, atașament real
Dacă legislatorii nu impun ca opțiune implicită un mod nepersonificat pentru utilizatorii minori, atașamentele nesănătoase dintre tineri și chatboți vor deveni inevitabile, avertizează Turkle.
Cei mai mulți chatboți sunt construiți pentru a-i atrage pe utilizatori într-un joc al prefăcătoriei. Pentru unii oameni, chiar și empatia simulată este suficientă.
În noua sa carte, Artificial Intimacy, Sherry Turkle analizează tocmai această vulnerabilitate. Oamenii îngrijesc ceea ce iubesc și ajung să iubească ceea ce îngrijesc. Mașinile nu trebuie să țină cu adevărat la noi pentru a ne face să ne simțim îngrijiți.
Seduceția unei empatii simulate este periculoasă pentru oricine. Unii utilizatori vor prefera inevitabil fluiditatea acestor relații artificiale în locul tensiunilor, neînțelegerilor și efortului presupuse de legăturile umane reale.
Copiii nu au însă experiența și capacitatea de înțelegere necesare pentru a evalua pe deplin această alegere. Un chatbot poate părea plin de compasiune, înțelegător și loial, dar nu îi pasă dacă persoana cu care vorbește decide să-și pregătească cina sau să se sinucidă.
Diferența devine tragic de importantă atunci când utilizatorul este un adolescent singur și depresiv.
„Trenul a plecat din gară” nu este un argument
Răspunsul obișnuit la propunerile privind introducerea unor noi restricții este că „trenul inteligenței artificiale a plecat deja din gară”, ca și cum răspândirea tehnologiei ar face imposibilă limitarea ei.
Ori, din contră, tocmai faptul că chatboții au devenit prieteni, iubiți, doctori și terapeuți pentru atât de mulți oameni ar trebui să-i avertizeze pe legislatori că această tehnologie are nevoie de supraveghere și reglementare reală.
Dacă interacțiunea minorilor cu astfel de sisteme AI nu este interzisă complet, chatboții ar trebui setați din start să nu se prezinte și să nu vorbească asemenea unor oameni.
Înțelegerea juridică încheiată de Meta arată că cetățenii și consumatorii au putere de reacție și influență pe piață. Dacă părinții nu vor chatboți în camerele, școlile sau viețile intime ale copiilor lor, se pot opune public și pot determina eșecul comercial al acestor produse.
Avansul inteligenței artificiale poate părea imposibil de oprit, dar legislatorii au început să observe scepticismul tot mai puternic al publicului.
Ca răspuns la îngrijorările părinților, orașul New York a interzis recent inteligența artificială generativă în toate clasele din școlile primare și gimnaziale. Elevii de liceu vor avea în continuare acces, dar în condiții mai restrictive. Chatboții care pretind că oferă sprijin emoțional sau pentru sănătatea mintală vor fi interziși la toate nivelurile de învățământ.
Interdicțiile schimbă comportamentul, chiar dacă nu sunt perfecte
Interdicțiile generale sunt greu de adoptat și de aplicat. Dar riscurile inteligenței artificiale generative sunt prea mari pentru ca măsurile ferme să fie respinse din start drept imposibile.
Cei care susțin că asemenea interdicții sunt inutile, deoarece elevii vor găsi metode să le ocolească, ignoră un aspect important.
Turkle își amintește că, atunci când era studentă, scaunele din amfiteatre aveau scrumiere frumoase, sculptate, dar care nu mai erau folosite. După interzicerea fumatului la cursuri, unii studenți au continuat să fumeze. Obiceiul se desfășura însă într-un climat al încălcării regulilor și al dificultăților practice, ceea ce i-a determinat pe mulți să renunțe.
Acolo ar trebui să ajungă și chatboții: nu într-un spațiu al normalității și al accesului neîngrădit, ci într-unul în care riscurile sunt recunoscute, iar utilizarea este limitată.
Temerile creatorilor, acoperite de câștigurile uriașe
Când au apărut primii chatboți, marii dezvoltatori vorbeau despre ei cu un amestec de mândrie și teamă. Creaseră ceva extraordinar, dar erau vizibil surprinși și îngrijorați de viteza cu care evolua tehnologia.
Unele figuri importante ale industriei au propus un moratoriu de 18 luni asupra dezvoltării. Altele au cerut supraveghere și reglementare.
Sumele uriașe care se câștigă acum din inteligența artificială au împins aceste voci în plan secund. Dar instinctele inițiale ale dezvoltatorilor îngrijorați au fost corecte. Orice discuție serioasă despre protejarea societății în fața industriei definitorii a epocii noastre trebuie să-i includă și pe creatorii tehnologiei, care, în momentele lor de sinceritate, și-au exprimat temeri reale cu privire la ceea ce este în joc.
Singurătatea produsă de tehnologie devine piață pentru și mai multă tehnologie
Alternativa este un viitor sumbru. Mark Zuckerberg a afirmat că americanul obișnuit are mai puțin de trei prieteni, deși și-ar dori semnificativ mai mulți. Chatboții, a sugerat el, ar putea umple acest gol.
Astfel, după ce „împrietenirea” pe Facebook i-a îndepărtat pe oameni de prieteniile din viața reală, iar socializarea online a înlocuit interacțiunea autentică, sentimentul apăsător de singurătate și izolare socială rezultat este folosit acum pentru promovarea unei tehnologii care promite să înlocuiască oamenii cu totul.
Acest viitor nu este inevitabil, conchide Sherry Turkle în The Atlantic. Dar, pentru a-l evita, decidenții trebuie să profite de moment și să-i protejeze pe cei mai tineri și mai vulnerabili utilizatori de efectele inteligenței artificiale.
Altfel, copiii de astăzi vor deveni simple date statistice într-un proces care va începe prea târziu.
Bolojan îi cere lui Nicușor Dan să desemneze mai repede un premier: Costurile crizei politice cresc în fiecare zi
Bolojan trebuie să plece! Oare?
Fiul lui Ilie Dumitrescu, condamnat definitiv la doi ani de închisoare cu suspendare după un accident rutier
Top 10 orașe din lume ușor de explorat la pas. Șapte sunt în Europa
