Autoritățile chineze au lansat în consultare publică un set de reguli preliminare care vizează controlul strict al serviciilor de inteligență artificială capabile să simuleze personalități umane și să interacționeze emoțional cu utilizatorii.
Inițiativa, publicată de autoritatea de reglementare a internetului, reflectă eforturile Beijingului de a impune limite clare unei tehnologii care devine rapid tot mai prezentă în viața cotidiană, relatează Reuters, citată de news.ro.
Propunerea aparține Administrația Spațiului Cibernetic din China, instituția responsabilă de supravegherea mediului online, și face parte dintr-o strategie mai amplă de reglementare a aplicațiilor AI destinate publicului larg.
Regulile s-ar aplica tuturor produselor și serviciilor disponibile în China care afișează trăsături de personalitate simulate, modele de gândire și stiluri de comunicare asemănătoare celor umane, indiferent dacă interacțiunea are loc prin text, imagine, sunet sau video.
Avertismente obligatorii și prevenirea dependenței
Un element central al noilor reguli este obligația furnizorilor de a avertiza utilizatorii cu privire la riscurile utilizării excesive a acestor servicii. Companiile ar trebui să intervină activ atunci când apar semne de dependență, asumându-și responsabilități de siguranță pe întreg ciclul de viață al produselor, de la dezvoltare până la utilizare la scară largă.
Proiectul prevede introducerea unor mecanisme clare de evaluare a algoritmilor, măsuri stricte de securitate a datelor și protecție a informațiilor personale. Accentul cade pe prevenirea efectelor negative pe termen lung, într-un context în care AI cu „față umană” este tot mai frecvent utilizată în aplicații de conversație, divertisment sau asistență personală.
Monitorizarea stării emoționale a utilizatorilor
Regulile propuse merg mai departe, vizând explicit riscurile psihologice. Furnizorii de servicii AI ar trebui să fie capabili să identifice starea utilizatorilor, să evalueze emoțiile acestora și nivelul de atașament sau dependență față de aplicație. În cazurile în care sunt detectate emoții extreme sau comportamente adictive, companiile ar fi obligate să adopte „măsuri adecvate de intervenție”, fără a detalia exact natura acestora.
Această abordare reflectă preocuparea autorităților chineze față de impactul psihologic al tehnologiilor emergente, mai ales în rândul tinerilor și al utilizatorilor vulnerabili.
Linii roșii privind conținutul
Documentul stabilește și limite ferme privind conținutul generat de AI. Serviciile nu trebuie să producă materiale care să pună în pericol securitatea națională, să răspândească zvonuri, să promoveze violența, obscenitatea sau alte forme de conținut considerate nocive de autorități. Aceste prevederi sunt în linie cu reglementările deja existente în China privind conținutul online și controlul informației.
Prin aceste reguli, Beijingul încearcă să anticipeze și să limiteze efectele sociale și psihologice ale inteligenței artificiale cu interacțiune „umană”, într-un moment în care astfel de tehnologii câștigă rapid popularitate și influență.
Deși sunt încă în stadiu de consultare, propunerile indică direcția clară în care China dorește să modeleze dezvoltarea AI: inovație sub control strict, cu accent pe siguranță, etică și stabilitate socială.