Cercetătorii americani au creat un algoritm care detectează cu o precizie de 99% lucrările științifice scrise cu ajutorul unor programe bazate pe Inteligența Artificială, precum ChatGPT.
Dezvoltarea galopantă a programelor informatice folosite pentru crearea de conținut, precum ChatGPT, primită inițial cu entuziasm, a provocat temeri cu privire la autenticitatea informațiilor și protejarea creațiilor literare și științifice.
Pe măsură ce conținutul realizat cu ajutorul unui chatbot AI a început să se răspândească, una dintre cele mai mari probleme a fost identificarea exactă a diferenței dintre cuvintele folosite de un program informatic și cele ale unei persoane.
Au existat mai multe tentative de a dezvolta detectori de ChatGPT, iar zeci de companii lucrează la crearea unei tehnologii de depistare a creațiilor în care s-a folosit Inteligența Artificială.
Până acum, însă, niciuna nu a dat rezultate bune, nici măcar cea realizată de OpenAI, compania care a creat "ChatGPT", relatează Gizmodo.
Detectorul de ChatGPT dezvoltat la Universitatea din Kansas este conceput pentru a fi folosit doar în anumite contexte, dar are o rată de succes promițătoare. În procesul de dezvoltare a acestui algoritm, cercetătorii au depistat semne elocvente ale scrierii cu ajutorul Inteligenței Artificiale.
Cum recunoști urmele ChatGPT
În cadrul studiului publicat în jurnalul Cell Reports Physical Science au fost selectate 64 de articole de cercetare științifică scrise de autori umani dintr-o varietate de discipline, de la biologie la fizică. Aceștia au încărcat lucrările în ChatGPT și le-au folosit pentru a produce 128 de articole cu 1.276 de paragrafe pline de aberații ale ChatGPT.
Savanții au folosit aceste paragrafe pentru a construi algoritmul de depistare a urmelor ChatGPT.
Apoi, au creat un nou set de date pentru a-și testa algoritmul cu 30 de articole reale și 60 scrise de ChatGPT, cu 1.210 de paragrafe în total.
Algoritmul a depistat toate articolele scrise în întregime de ChatGPT. Precizia sa este de 99% doar pentru că la nivel de paragrafe nu s-a dovedit la fel de exact, dar rezultatul rămâne impresionant: au fost identificate 92% din paragrafele scrise de Inteligența Artificială.
Studiul arată că există câteva indicii-cheie ale intervenției ChatGPT într-un text. De regulă, un text scris de un om conține fraze mai lungi, folosește un vocabular mai vast, include semne de punctuație și tinde să marcheze ideile cu termeni precum "totuși", "însă" și "cu "toate că". ChatGPT este mai puțin specific cu citarea numerelor și referirile la alți autori.
Profesorii au nevoie de alte instrumente
Cercetătorii speră că metoda lor va fi preluată în alte direcții pentru depistarea folosirii ChatGPT. "Ne-am străduit din greu să creăm o metodă accesibilă cu cât mai puțină ghidare, astfel încât și niște elevi de liceu să poată construi un detector de Inteligență Artificială pentru diferite tipuri de scris", a spus Heather Desaire, profesoară de chimie la Universitatea din Kansas, care s-a numărat printre autorii algoritmului, într-un interviu pentru EurekAlert.
Profesorii nu vor putea folosi noul algoritm pentru a-i prinde pe elevii și studenții care folosesc ChatGPT în lucrările lor. Acesta a fost creat pentru lucrările științifice, în special pentru cele care sunt publicate în jurnalele științifice, pentru a combate astfel plagierea creațiilor originale.
Heather Desaire a declarat, însă, că aceeași tehnică poate fi folosită, teoretic, pentru crearea unui model care să detecteze și alte tipuri de scriere.
Deși rezultatele sunt promițătoare, companiile tehnologice și dezvoltatorii de programe precum ChatGPT încă se află la început și este imposibil de spus dacă metodele de detectare de acest tip vor reuși să facă față în cazul în care Inteligența Artificială va continua să evolueze la fel de rapid ca în ultimii ani.
Cu cât modelele de limbaj se vor apropia de reproducerea scrisului uman, cu atât vor fi mai greu de depistat urmele robotului, notează publicația citată.
T.D.