O femeie din Florida a depus plângere împotriva firmei Charachter.AI care creează roboţi de discuţie (chatbots în engleză) online cu ajutorul inteligenţei artificiale, după ce fiul ei, Sewel, s-a sinucis în februarie.
Părinţii acuză acum Charachter.AI că este de vină de moartea băiatului, relatează Reuters.
Adolescentul de 14 ani s-a sinucis, după ce s-a îndrăgostit de un chatbot AI pe care l-a poreclit după un personaj feminin din Game of Thrones.
Sewell Setzer ar fi fost ţinta unor ”experimente antropomorfice, hipersexualizate şi teribil de realiste”, se arată în plângerea depusă de mama lui.
Femeia acuză firma de AI că şi-a programat robotul pentru a se ”da drept o persoană reală, un psihoterapeut şi un iubit adult, ceea ce l-a determinat pe Sewell să nu mai vrea să trăiască în afara” lumii create de acest AI.
Femeia susține că unele dintre conversațiile adolescentului cu robotul erau explicite din punct de vedere sexual.
”O aplicaţie periculoasă de chatbot AI comercializată pentru copii a abuzat de fiul meu şi l-a manipulat să se sinucidă”, acuză femeia.
”Familia noastră a fost distrusă de această tragedie, dar mă exprim pentru a avertiza cu privire la pericolele tehnologiei AI înşelătoare şi care provoacă dependenţă şi pentru a cere socoteală Character.AI, fondatorilor săi şi Google”, anunţă ea.
Adolescentul a început să utilizeze Character.AI în aprilie 2023 şi a devenit rapid ”închis, a petrecut tot mai mult timp singur în camera sa şi i-a scăzut stimă de sine”.
El s-a ataşat de o reprezentare virtuală a lui Daenerys, un personaj din serialul Game of Thrones, jucat pe ecran de Emilia Clarke.
Sewell şi-a părăsit echipa de baschet, iar apoi a început să se îndrăgostească de Daenerys şi a purtat mai multe conversaţii cu caracter sexual cu ea.
În februarie, mama i-a confiscat telefonul, în urma unei probleme la şcoală.
Ea a găsit nişte mesaje:
- ”Şi dacă ţi-aş spune că mă pot întoarce imediat acasă?”.
- ”Te rog, fă-o, dulcele meu rege”.
Adolescentul a luat pistolul tatălui său vitreg şi şi-a tras un glonţ în cap ”câteva secunde mai târziu”.
”Suntem tulburaţi de pierderea tragică a unuia dintre utilizatorii noştri şi vrem să ne exprimăm cele mai sincere condoleanţe familiei. Ca întreprindere, luăm foarte în serios securitatea utilizatorilor noştri”, a reacţionat Character.AI, într-un comunicat postat pe reţelele de socializare, în care neagă orice responsabilitate.