Ce poate afla AI-ul despre sănătatea noastră mintală din felul în care scriem? Cercetătoare română: Informațiile pot fi folosite împotriva noastră

Ce poate afla AI-ul despre sănătatea noastră mintală din felul în care scriem? Cercetătoare română: Informațiile pot fi folosite împotriva noastră
Sprijină jurnalismul independent
Donează acum
Adaugă spotmedia ca sursă preferată în Google

Felul în care vorbim despre noi poate spune mult mai multe despre starea noastră psihică decât am crede. Cuvintele pe care le alegem, timpul verbal pe care îl folosim, chiar și modul în care ne raportăm la trecut sau la viitor lasă niște urme. Persoanele care se confruntă cu depresia tind, de exemplu, să vorbească mai mult despre trecut, să se refere mai des la propria persoană și să folosească mai puține expresii legate de planuri. Sunt tipare subtile, dar pe care inteligența artificială poate învăța să le recunoască, inclusiv atunci când oamenii nu spun explicit că trec printr-o perioadă grea.

Cât de departe poate ajunge, însă, un algoritm? Poate detecta semne ale depresiei înainte ca cineva să primească un diagnostic? Și ce se întâmplă dacă aceste informații despre vulnerabilitățile noastre ajung la angajatori sau la marile platforme digitale?

Am discutat despre toate acestea cu Ana-Maria Bucur, o cercetătoare română de 31 de ani, stabilită în Elveția. Ea dezvoltă sisteme de inteligență artificială care încearcă să identifice tipare asociate problemelor de sănătate mintală.

Ana-Maria a studiat informatica la Universitatea din București și și-a realizat doctoratul în cotutelă cu Universitatea Politehnică din Valencia. Teza sa, finalizată în 2025, a fost recompensată cu premiul pentru cea mai bună lucrare doctorală în domeniul procesării limbajului natural, acordat în Spania.

Din 2024 locuiește în Lugano, unde lucrează la Università della Svizzera italiana, în prezent ca cercetător postdoctoral.

Deși este informatician, a fost întotdeauna interesată de psihologie. În timpul doctoratului a început să colaboreze cu specialiști din acest domeniu și a descoperit că problemele care implică oamenii nu pot fi abordate exclusiv prin calcule și algoritmi.

ADVERTISING

„Venind din domeniul informaticii, poate că nu acordam suficientă atenție unor aspecte mai umane. Am învățat însă, în timp, să țin cont și de ele, cu ajutorul colegilor de la psihologie. În informatică, abordarea este de obicei destul de simplă: identificăm o problemă, construim un algoritm, îl antrenăm pe baza unor date și obținem un rezultat. Dar când vorbim despre oameni și despre sănătatea lor mintală, lucrurile sunt mult mai complexe”, povestește Ana-Maria Bucur.

Ana Maria Bucur cercatator AI
Foto: Arhiva personală

Ce dezvăluie cuvintele despre depresie

Cercetarea sa a urmărit atât dezvoltarea unor algoritmi mai performanți pentru identificarea problemelor de sănătate mintală, cât și descoperirea diferențelor de limbaj dintre persoanele cu depresie și populația generală.

Una dintre observațiile echipei a fost că persoanele cu depresie folosesc mai frecvent limbaj ofensator, posibil ca mecanism de reglare emoțională. Dar există și indicii mult mai subtile.

„Problemele mintale ne afectează și modul în care gândim, dar și modul în care vorbim, pentru că sunt foarte conectate. În cazul depresiei, oamenii ajung să fie axați foarte mult pe persoana lor și să vorbească foarte mult despre ei. Ne putem uita, de exemplu, la cât de des folosesc oamenii pronumele la persoana întâi, ceea ce poate indica o preocupare mai accentuată pentru propria persoană. De asemenea, persoanele care suferă de depresie pot avea tendința de a privi lucrurile într-o lumină mai negativă, iar acest lucru se reflectă în folosirea mai frecventă a cuvintelor cu conotație negativă”, explică cercetătoarea română.

Contează și felul în care ne raportăm la timp. Persoanele cu depresie pot reveni frecvent asupra experiențelor trecute, analizând repetitiv ceea ce li s-a întâmplat, fenomen cunoscut drept ruminație.

În același timp, referirile mai rare la viitor pot fi asociate cu anhedonia, adică diminuarea capacității de a simți sau anticipa plăcerea.

„Dacă oamenii vorbesc foarte mult despre experiențele lor trecute și se gândesc încontinuu la asta și ruminează pe chestia asta, acesta este un simptom al depresiei. La fel și partea de verbe la viitor, de întâmplări, de evenimente pe care ei le anticipează. Din nou, poate fi legat de partea de anhedonie, adică eu nu mai anticipez plăcere în lucrurile pe care le fac și atunci nici nu mai doresc să fac pe viitor alte lucruri sau să fiu implicat în anumite evenimente sau să plănuiesc”, explică Ana-Maria.

Algoritmii pot analiza atât semnale explicite, când cineva vorbește despre simptome sau despre un diagnostic, cât și semnale implicite, identificate din combinații de cuvinte și tipare de exprimare.

Unele dintre aceste tipare sunt definite de cercetători, pe baza studiilor psihologice. Altele sunt învățate automat, prin analiza unor volume mari de texte.

Există inclusiv cercetări care au identificat semnale asociate depresiei înainte ca persoanele respective să primească un diagnostic clinic, spune Ana-Maria. Ea precizează însă că nu a studiat personal dacă algoritmul poate observa o problemă înainte ca persoana sau familia acesteia să o conștientizeze.

Un algoritm nu poate însă citi gândurile și nici nu poate descoperi automat suferința pe care cineva alege să o ascundă.

De exemplu, o persoană poate publica pe Facebook numai fotografii din vacanțe, mesaje optimiste și întâmplări fericite, deși în viața personală se confruntă cu dificultăți serioase.

„Noi putem să ne dăm seama doar de ceea ce arăți, ce împărtășești cu ceilalți. De aceea e foarte important să ții cont și de platforma pe care oamenii o folosesc. De exemplu, pe Facebook, cred că oamenii tind să împărtășească mai mult lucruri pozitive care li se întâmplă decât lucruri negative”, arată cercetătoarea.

Din acest motiv, echipele de cercetare folosesc frecvent postări de pe Reddit, unde utilizatorii se pot exprima sub pseudonim și sunt adesea mai dispuși să vorbească despre probleme personale.

Ana Maria Bucur cercatator AI
Ana-Maria Bucur, la ceremonia de decernare a premiului SEPLN pentru cea mai bună teză de doctorat în domeniul procesării limbajului natural, în Spania. Foto: Arhiva personală

Când AI-ul devine o „cutie neagră”

Una dintre marile dificultăți ale inteligenței artificiale este că nici măcar cercetătorii nu pot explica întotdeauna de ce un algoritm a ajuns la o anumită concluzie. „Modelele de AI învață ele singure din date, dar sunt ca o cutie neagră, nu știi exact de ce au luat anumite decizii”, spune Ana-Maria Bucur.

Cu cât algoritmului i se permite să identifice singur mai multe tipare, cu atât poate deveni mai performant. În schimb, explicarea rezultatelor este mai dificilă. „Dacă lași AI-ul să aleagă singur tiparele, o să fie mai bun decât tiparele pe care le-ai ales tu. Doar că atunci n-o să știi exact ce a avut în vedere și poate să facă mai multe greșeli. Și dacă face greșeli, tu nu știi de unde vin greșelile alea”, explică ea.

Problema devine deosebit de importantă atunci când rezultatele pot influența decizii privind sănătatea unei persoane.

„Niciun algoritm nu poate funcționa perfect în toate situațiile. De aceea, este important ca decizia finală să aparțină unui specialist, de preferat unui psiholog sau psihiatru. Algoritmul poate semnala că o persoană prezintă indicii ale unor probleme de sănătate mintală, dar un expert trebuie să evalueze informațiile și să decidă dacă este necesară o intervenție. Nu putem lăsa o asemenea decizie exclusiv în seama inteligenței artificiale”, consideră cercetătoarea română.

Tehnologia care te-ar putea ajuta. Sau care i-ar putea spune șefului că ai depresie

Una dintre aplicațiile posibile ale acestor algoritmi ar fi integrarea lor în platformele digitale, astfel încât utilizatorii care prezintă semnale de risc să poată primi informații despre servicii de sprijin psihologic.

În loc să se limiteze la moderarea unor postări, o platformă ar putea să îi transmită utilizatorului un mesaj prin care să îl încurajeze să ceară ajutor. Dar aceeași tehnologie ar putea fi folosită și pentru a analiza mesajele schimbate între angajați, de exemplu prin Teams sau Slack.

Iar aici riscurile sunt considerabile. „Acești algoritmi sunt instrumente care pot fi folosite atât în beneficiul oamenilor, cât și împotriva lor”, avertizează Ana-Maria Bucur.

Întrebată cum ar putea fi folosiți împotriva oamenilor, cercetătoarea oferă un exemplu: „Poți să vezi că cineva se confruntă cu o problemă mintală, poate nu mai are o performanță atât de bună la job și vrei să îl dai afară, în loc să îl ajuți.”

Tocmai de aceea, nu consideră etică analiza în timp real, la scară largă, a postărilor oamenilor fără acordul lor. Datele folosite în cercetare sunt supuse unor condiții de acces, iar utilizarea lor în scopuri comerciale poate fi restricționată.

„O soluție ar putea fi o aplicație care să îți analizeze datele doar cu acordul tău, nu un sistem care să monitorizeze la scară largă utilizatorii, fără consimțământul lor”, explică Ana-Maria Bucur.

Ana Maria Bucur cercatator AI
Foto: Arhiva personală

De ce nu e întotdeauna bine că ChatGPT ne dă dreptate

Relația dintre oameni și inteligența artificială a devenit tot mai personală. Chatboții nu mai sunt folosiți doar pentru informații sau sarcini profesionale, ci și pentru conversații despre singurătate, anxietate, relații sau probleme emoționale. Ana-Maria înțelege de ce oamenii aleg să vorbească despre lucruri intime cu un sistem care este mereu disponibil și nu pare să îi judece.

„Poate e mult mai ușor, te simți mult mai în siguranță, nu te simți judecat în niciun fel, că chatbot-ul o să vrea să-ți facă pe plac oricum, n-o să-ți spună că «Vai, dar de ce ai reacționat în așa fel?»”, explică ea.

Problema apare atunci când utilizatorul primește în mod repetat confirmarea propriilor convingeri, inclusiv în situații în care ar avea nevoie de o perspectivă diferită.

„Dacă un chatbot îți dă mereu dreptate și îți confirmă punctul de vedere doar pentru a te încuraja să continui conversația, acest lucru poate deveni problematic. Un psihiatru, în schimb, nu îți va valida întotdeauna perspectiva, ci te poate ajuta să privești situația și din alte unghiuri și, dacă este cazul, te poate îndruma către ajutor specializat”, explică cercetătoarea.

Ana-Maria amintește și un studiu recent în care cercetătorii au comparat efectele unei conversații cu un chatbot și ale unei discuții cu o persoană reală. Studiul, realizat în rândul studenților, a arătat că interacțiunea umană a contribuit mai mult la reducerea sentimentului de singurătate decât conversația cu un sistem AI conceput să ofere sprijin emoțional.

Totuși, subliniază că cercetările privind efectele emoționale ale chatboturilor sunt încă într-un stadiu incipient. Aceste instrumente pot avea beneficii, mai ales pentru persoane foarte singure sau care nu ar solicita altfel sprijin, dar pot avea și efecte negative.

Chatboții care „aduc înapoi” morții. O descoperire care a surprins-o și pe cercetătoare

Unele dintre utilizările inteligenței artificiale ridică întrebări la care nici cercetătorii nu au încă răspunsuri clare. Chiar și cei care lucrează zi de zi cu această tehnologie pot fi surprinși de direcțiile în care evoluează și de felul în care ajunge să se implice în cele mai intime experiențe umane.

Ana-Maria povestește că a avut ea însăși parte de o asemenea surpriză la o conferință de specialitate desfășurată recent în Wuhan, China, unde a participat și la organizarea unei sesiuni de prezentări științifice. Una dintre lucrările care i-au atras atenția a fost despre așa-numiții griefbots – chatboți care simulează personalitatea unor oameni decedați, oferindu-le celor rămași în viață posibilitatea de a continua, într-o anumită formă, conversațiile cu cei pe care i-au pierdut.

Unele aplicații permit schimbul de mesaje cu o reprezentare digitală a persoanei pierdute, iar altele pot crea personaje virtuale sau videoclipuri. Ideea este de a-i ajuta pe cei îndoliați să treacă mai ușor prin pierderea unei persoane dragi. Dar efectele pot fi mult mai complicate.

„Ideea este ca acești chatboți să îi ajute pe oameni să treacă mai ușor peste pierderea unei persoane dragi. Problema este însă că pot crea dependență. În loc să ofere un sprijin temporar, până când omul începe să se obișnuiască cu absența celui pierdut, îl pot încuraja să continue la nesfârșit interacțiunea, ca și cum persoana decedată ar fi încă prezentă. Îi poate trimite mesaje, iar unele aplicații merg și mai departe, creând personaje virtuale sau videoclipuri care o înfățișează”, povestește Ana-Maria Bucur.

Cercetătoarea spune că a fost impresionată de problemele etice pe care le ridică asemenea servicii. Una dintre situațiile pe care le consideră îngrijorătoare este posibilitatea ca o platformă să ofere inițial gratuit conversațiile, iar apoi să condiționeze continuarea lor de plata unui abonament.

„Există riscul ca oamenii să nu mai vrea să renunțe la aceste interacțiuni, iar platformele ar putea profita de vulnerabilitatea lor. De exemplu, un astfel de serviciu ar putea fi gratuit în prima lună, după care utilizatorii ar trebui să plătească pentru a continua conversațiile. Iar cineva care s-a obișnuit să comunice cu persoana pierdută ar putea fi dispus să plătească tocmai pentru că îi este greu să întrerupă această legătură”, avertizează cercetătoarea.

Un viitor imposibil de anticipat. Și o cercetare greu de făcut în România

În privința evoluției inteligenței artificiale, Ana-Maria evită predicțiile categorice. Ritmul dezvoltării din ultimii ani este atât de rapid, spune ea, încât nici cercetătorii nu pot anticipa cu certitudine ce se va întâmpla în viitorul apropiat.

„Cred că în momentul acesta nimeni nu poate să spună exact ce o să se întâmple în viitor, nici măcar pe termen scurt, pentru că lucrurile au avansat atât de repede încât nu știi exact cât de repede o să mai avanseze de acum încolo”, spune cercetătoarea.

Pentru Ana-Maria, viitorul profesional este deocamdată în Elveția, unde spune că cercetarea beneficiază de condiții mai bune decât cele pe care le-a cunoscut în România. Salariile mici și finanțarea insuficientă a proiectelor sunt două dintre problemele care îi determină pe tinerii cercetători să caute oportunități în străinătate.

„E foarte greu să faci cercetare postdoctorală în România, pentru că salariile sunt mici. Și finanțarea pentru proiectele de cercetare mi se pare că încă e mică. Știu asta pentru că am făcut parte din proiecte de cercetare și când eram în România”, explică Ana-Maria Bucur.

Dacă ar avea posibilitatea să construiască o echipă în România, ar continua să lucreze în domeniul care a consacrat-o: proiecte interdisciplinare, la granița dintre informatică și psihologie.

Adaugă spotmedia ca sursă preferată în Google