Start-up-ul care a creat ChatGPT, software-ul de succes capabil să genereze articole, precum şi poezii sau eseuri, încearcă să dezvolte un program capabil să detecteze dacă un text a fost scris de o inteligenţă artificială (IA), în urma criticilor care acuză că elevii și studenții pot folosi aplicaţia pentru a le face temele.
OpenAI a lansat un nou instrument cu acces liber (open source) pentru a-i ajuta pe oameni să facă distincţia între textele produse cu software bazat pe IA (cum ar fi ChatGPT, dar nu numai) şi cele scrise de persoane, transmite miercuri AFP.
AI Classifier ar trebui să ofere posibilitatea de a afla, spre exemplu, dacă dizertaţiile au fost scrise de un program informatic şi nu de un student sau dacă utilizatorul se adresează unei persoane ori unui „chatbot” (robot conversaţional) în cadrul unui serviciu de mesagerie online.
Însă, pentru moment, sunt „imposibil de detectat în mod fiabil toate textele scrise cu IA„, a avertizat OpenAI într-un comunicat.
Conform propriei evaluări, noul software identifică în mod corect 26% dintre toate textele scrise de algoritmi ca fiind „probabil scrise cu IA”. Iar în 9% dintre cazuri, clasifică textele scrise de oameni ca fiind scrise cu IA.
Este „mult mai fiabil” comparativ cu versiunea anterioară, a subliniat OpenAI, însă rămâne „foarte nesigur” în cazul textelor scurte (mai puţin de 1.000 de caractere) şi este preferabil să fie utilizat în limba engleză.
Dincolo de ironia acestei situaţii, miza este mare, notează AFP.
Mulţi experţi se tem că tehnologiile IA generative, precum cea a ChatGPT, servesc în special la automatizarea creării de escrocherii pe scară largă sau de campanii de dezinformare ultra-credibile.
Instrumente similare au fost deja create cu diferite grade de fiabilitate, cum ar fi GPTZero, dezvoltat de Edward Tian, un student de la Universitatea Princeton.
OpenAI, un start-up co-fondat în 2015 la San Francisco de Elon Musk - şeful Tesla a părăsit compania în 2018 - a lansat ChatGPT în noiembrie anul trecut.
Platforma, uşor de utilizat, are un aspect similar unui chatbot şi generează, la cerere, texte uimitoare. De la lansarea sa, platforma a cunoscut un succes răsunător, transmis prin hiper-mediatizare.
Compania era cunoscută anterior doar în cercuri restrânse, pentru două software-uri specializate în automatizare prin IA, DALL-E pentru generarea de imagini şi GPT-3 pentru generarea de texte (ChatGPT se bazează pe GPT-3).
În 2019, a primit 1 miliard de dolari de la Microsoft, iar recent a încheiat cu gigantul IT un nou acord în valoare de mai multe miliarde.