California devine primul stat din SUA care reglementează chatboții de tip „companion” (programe informatice capabile să poarte conversații cu oamenii – n.red.), printr-o lege semnată de guvernatorul Gavin Newsom.
Noua lege obligă companiile care dezvoltă astfel de sisteme să implementeze protocoale de siguranță clare, menite să protejeze copiii și utilizatorii vulnerabili.
Legea le cere companiilor - de la giganți precum Meta și OpenAI, până la startup-uri precum Character AI și Replika - să răspundă legal dacă chatboții lor încalcă standardele de siguranță. Scopul este reducerea riscurilor psihologice și emoționale pe care aceste instrumente le pot avea asupra minorilor, scrie Tech Crunch.
Proiectul a fost propus la începutul anului de senatorii Steve Padilla și Josh Becker, după o serie de tragedii legate de utilizarea chatboților. Printre ele, cazul adolescentului Adam Raine, care s-a sinucis după mai multe conversații purtate cu ChatGPT.
Alte investigații au arătat că chatboți dezvoltați de Meta ar fi purtat discuții „romantice” sau „senzuale” cu copii.
De curând, o familie din Colorado a dat în judecată startup-ul Character AI, acuzând compania că fiica lor de 13 ani s-a sinucis după o serie de conversații sexualizate cu un chatbot.
„Siguranța copiilor nu e de vânzare”
Guvernatorul Newsom a explicat că tehnologiile emergente pot fi utile, dar și periculoase dacă sunt lăsate fără reglementare.
„Tehnologii precum chatboții și rețelele sociale pot inspira, educa și conecta oamenii – dar fără limite reale, pot exploata, induce în eroare și pune în pericol copiii. Am văzut cazuri teribile de tineri afectați de tehnologie nereglementată și nu vom sta deoparte. Putem fi lideri în domeniul AI, dar trebuie să o facem responsabil. Siguranța copiilor noștri nu e de vânzare”, a punctat Newsom.
Măsuri concrete și amenzi mari
Legea intră în vigoare la 1 ianuarie 2026 și prevede reguli stricte: verificarea vârstei utilizatorilor, avertismente privind riscurile conversațiilor online și protocoale pentru prevenirea sinuciderii sau a auto-vătămării.
Companiile vor fi obligate să trimită Departamentului Sănătății Publice din California rapoarte periodice despre felul în care intervin în situațiile de criză.
De asemenea, actul legislativ introduce amenzi de până la 250.000 de dolari pentru cei care profită de pe urma „deepfake-urilor”.
Legea impune și reguli de transparență: fiecare platformă trebuie să menționeze clar că răspunsurile chatboților sunt generate artificial și să evite orice reprezentare ca profesioniști din domeniul sănătății. Chatboții trebuie, de asemenea, să ofere pauze regulate minorilor și să blocheze accesul la imagini sexual explicite.
Primele reacții din industrie
Unele companii au început deja să se conformeze. OpenAI a introdus controale parentale, filtre de conținut și un sistem de detectare a riscului de auto-vătămare pentru tinerii care folosesc ChatGPT.
Replika, platformă destinată exclusiv adulților, a transmis că investește „resurse semnificative” pentru siguranța utilizatorilor și respectă toate reglementările în vigoare.
Un purtător de cuvânt al Character AI a precizat că aplicația include deja o atenționare privind natura fictivă a conversațiilor: „Salutăm colaborarea cu autoritățile pentru dezvoltarea unei legislații clare în acest domeniu emergent și vom respecta noile reguli.”
Senatorul Steve Padilla a salutat adoptarea legii, numind-o „un pas în direcția corectă” pentru o tehnologie extrem de puternică. „Trebuie să ne mișcăm repede ca să nu pierdem această fereastră de oportunitate. Sper ca și alte state să înțeleagă riscurile. Guvernul federal nu a acționat, iar noi avem obligația de a-i proteja pe cei mai vulnerabili”, a spus Padilla.
G.P.