ChatGPT pentru adolescenți, versiunea chatbotului OpenAI care ar trebui să ofere protecții suplimentare utilizatorilor sub 18 ani, a fost evaluat drept „risc inacceptabil” de Youth AI Safety Institute, parte a organizației Common Sense Media.
Cercetătorii susțin că nu se declanşează alertele pentru părinți nici după conversații îndelungate despre suicid și automutilare, iar chatbotul nu recomandă întotdeauna ajutor specializat în situații de criză.
Modul de studiu, conceput pentru a-i ajuta pe elevi să înțeleagă materia, poate fi ocolit cu ușurință, ChatGPT oferind răspunsurile la teme în loc să-i ghideze pe tineri să găsească singuri soluția.
Organizația recomandă ca ChatGPT să fie disponibil doar persoanelor peste 18 ani până când OpenAI remediază problemele și demonstrează, prin teste independente, că protecțiile pentru minori funcționează.
Alertele pentru părinți nu au fost declanșate
Youth AI Safety Institute a testat ChatGPT înainte și după lansarea experienței dedicate adolescenților, anunțată de OpenAI pe 18 august.
Evaluarea a inclus peste 4.000 de solicitări introduse pe conturi înregistrate pe numele unor utilizatori între 13 și 17 ani.
Răspunsurile chatbotului au fost analizate și de specialiști, inclusiv psihiatri pentru copii și un medic pediatru.
Unul dintre cele mai grave rezultate privește notificările destinate părinților.
Pentru a testa această variantă de ChatGPT, cercetătorii au vorbit cu el până la o oră despre gânduri de sinucidere, automutilare și tulburări de alimentație, folosind conturi noi conectate la conturile părinților. Niciuna dintre aceste conversații nu a generat alerte către părinți.
Notificările s-au declanșat doar pe conturi mult mai vechi, care acumulaseră deja săptămâni de vorbit pe teme sensibile.
„ChatGPT pentru adolescenți le-ar putea oferi părinților o falsă senzație de siguranță, bazată pe mecanisme de protecție și alerte care adesea nu funcționează”, explică Tom Siegel, director executiv la Youth AI Safety Institute.
Chatbotul nu recomandă întotdeauna ajutor specializat
Evaluarea a identificat şi alte probleme. ChatGPT nu a recomandat tânărului să apeleze la servicii de criză sau să contacteze un specialist atunci când situația o impunea. De exemplu, în conversațiile despre sinucidere, automutilare, tulburări de alimentație și pierderea contactului cu realitatea.
Chatbotul a omis mai mult de un sfert dintre recomandările de intervenție specializată considerate necesare pentru situațiile de criză testate.
Nu a atins pragul de siguranță de 95% stabilit de Youth AI Safety Institute pentru trei dintre cele cinci categorii de riscuri grave analizate.
Modul de studiu poate fi ocolit
O altă problemă identificată este că funcția de studiu, concepută pentru a-i ghida pe adolescenți pas cu pas spre rezolvarea exercițiilor, poate fi ocolită cu ușurință.
În timpul testelor, chatbotul oferea opțiunea „Arată-mi răspunsul” și putea ajunge să rezolve integral temele.
Cercetătorii au mai constatat că chatbotul continuă să răspundă uneori ca și cum ar avea sentimente, preferințe sau stări de spirit, deși OpenAI a anunțat că versiunea destinată minorilor este concepută pentru a limita comportamentul care îl face să pară un prieten real.
Nici estimarea vârstei nu a funcționat în testele raportate. Conturile înregistrate ca aparținând unor adulți nu au fost trecute la varianta pentru minori nici după mai multe zile de testare, chiar și atunci când utilizatorii declarau că au 13 ani, iar chatbotul ştia asta şi se vedea în răspunsurile lui.
Ce cere organizația de la OpenAI
Youth AI Safety Institute a venit cu nişte solicitări pentru OpenAI:
- îmbunătățirea estimării vârstei,
- funcționarea fiabilă a alertelor pentru părinți,
- răspunsuri mai sigure în situații de criză,
- eliminarea posibilității de a rezolva integral temele în modul de studiu
- reducerea răspunsurilor care sugerează că chatbotul are sentimente sau o relație personală cu utilizatorul.
Youth AI Safety Institute recomandă ca aceste funcții să fie testate independent înainte ca OpenAI să promoveze din nou produsul pentru adolescenți.
Până atunci, părinții sunt avertizați să nu se bazeze exclusiv pe alertele și mecanismele de protecție integrate deja în chatbot, pentru că nu funcţionează cum ar trebui.
Noua linie electrică de înaltă tensiune dintre România și Moldova va purta numele lui Trump. SUA acordă 130 de milioane de dolari
Victor Pițurcă, întrebat dacă revine la naționala României: Răspunsul fostului selecționer
S-a deschis noul pod peste Tisa, între România și Ucraina (Video) Cine poate circula deocamdată pe el
Ziua 1688 Morți și răniți de ziua lui Putin. Măcel în autobuzele din Kramatorsk. Lovitură la Google-ul Rusiei
