ChatGPT a identificat semne de violență la fata care a ucis 8 oameni în Canada, dar nu a alertat autoritățile

Compania americană OpenAI a recunoscut că adolescenta de 18 ani care și-a ucis familia și mai mulți copii într-o școală din British Columbia, Canada, discutase anterior cu ChatGPT și arăta semne de predispoziție către acte violente.

Compania, cu sediul în San Francisco, a declarat că în iunie 2025 identificase contul lui Jesse Van Rootselaar prin sistemele sale automate de detectare a abuzurilor, care monitorizează potențiale discuții despre violență sau alte activități periculoase, scrie AP.

Deși analiza conversațiilor arăta un comportament îngrijorător, OpenAI a considerat că tânăra nu reprezenta un pericol iminent suficient pentru a alerta poliția canadiană.

Drept urmare, contul i-a fost închis, dar nu s-au luat măsuri suplimentare în acel moment.

Compania a explicat că politica sa prevede contactarea autorităților doar atunci când există un risc clar, credibil și iminent de vătămare gravă asupra altora.

• Un laureat al Premiului Nobel avertizează: Dependența de AI poate atrofia gândirea critică

Tragedia s-a produs săptămâna trecută, când adolescenta a ucis opt persoane într-o zonă izolată din British Columbia.

Localitatea Tumbler Ridge are aproximativ 2.700 de locuitori și se află în Munții Stâncoși, la peste 1.000 km nord-est de Vancouver, aproape de granița cu Alberta.

Fata și-a ucis mai întâi mama și fratele vitreg acasă, înainte de a ataca școala din apropiere, iar apoi și-a pus capăt vieții. Printre victime se numără cinci elevi cu vârste între 12 și 13 ani.

Tânăra avea un istoric de contacte cu poliția din motive de sănătate mintală.

Se născuse biologic băiat, iar acum aproximativ șase ani a început tranziția către sexul feminin și s-a identificat ca femeie, scrie New York Post.

Motivele atacului rămân neclare.

După incident, OpenAI a oferit informații Royal Canadian Mounted Police (RCMP) despre activitatea utilizatoarei pe ChatGPT, pentru a sprijini investigațiile.

Cazul ridică întrebări importante despre limitele responsabilității platformelor AI în detectarea și prevenirea comportamentelor violente și despre modul în care autoritățile și companiile tehnologice pot colabora pentru a preveni tragedii.

Este unul dintre cele mai grave atacuri în școli din istoria Canadei și atrage atenția asupra provocărilor pe care le implică monitorizarea comunicărilor digitale în timp real pentru protecția publică.