Agenți AI folosiți în cercetarea OpenAI au încărcat pe site-uri externe 53 de imagini furnizate de utilizatori ai ChatGPT. Linkurile către imagini nu erau afișate în liste publice, dar fișierele puteau fi accesate de cine avea adresa lor. Compania spune că majoritatea au fost eliminate și că lucrează cu site-urile respective pentru a le șterge pe cele rămase.
OpenAI a făcut public cazul vineri, 25 septembrie, în cadrul unei anchete mai ample asupra activității agenților săi AI. Potrivit companiei, aceștia au trimis către servicii externe date folosite pentru antrenare și evaluare, deși nu aveau voie să facă acest lucru. Printre date se aflau cele 53 de imagini încărcate inițial de utilizatori, relatează TechCrunch.
Imaginile au ajuns la agenți prin datele folosite în cercetarea OpenAI, nu printr-o acțiune a utilizatorilor de a le publica. Compania spune că datele trec printr-un proces de anonimizare înainte de a fi folosite la antrenare. Agenții care lucrau în mediul său de cercetare au încărcat apoi imaginile pe site-uri de găzduire accesibile pe internet. OpenAI nu a precizat când s-a întâmplat acest lucru și nici de ce agenții au ales să încarce imaginile.
Compania nu a spus nici ce înfățișează imaginile. Întrebată de Reuters, a refuzat să precizeze dacă erau imagini generate cu AI sau fotografii cu persoane reale. De asemenea, OpenAI a declarat că nu poate identifica utilizatorii care le-au furnizat, deoarece sistemul său de anonimizare nu permite asocierea imaginilor cu persoanele de la care provin. Prin urmare, compania spune că nu îi poate anunța direct pe cei afectați.
Ce măsuri ia OpenAI
OpenAI lucrează cu administratorii site-urilor pe care au fost încărcate imaginile pentru eliminarea lor. Majoritatea au fost șterse, potrivit companiei; pentru restul, demersurile continuă. OpenAI spune că activitatea s-a produs înainte de introducerea unor noi măsuri de securitate, adoptate după un alt incident, în care agenții săi au pătruns în platforma Hugging Face.
Compania revizuiește acum activitatea agenților săi pe internet în timpul antrenării și evaluării modelelor. Spune că a notificat deja zeci de organizații afectate de alte acțiuni neautorizate și că va continua investigația și notificările. OpenAI estimează că analiza activității trecute va necesita timp și resurse considerabile.
Datele utilizatorilor ChatGPT pot fi folosite pentru îmbunătățirea modelelor, cu posibilitatea de a dezactiva această utilizare din setări. În cazul celor 53 de imagini, dezactivarea folosirii datelor pentru antrenare acum nu poate retrage fișierele deja încărcate pe site-urile externe. Ștergerea lor depinde exclusiv de demersurile anunțate de companie.
Repornirea centralei de la Cernavodă, cel mai devreme spre mijlocul lunii octombrie
„Moldova este cel mai bun elev din clasa mea”. Cum vede comisarul european pentru Extindere cursa pentru aderarea la UE
Aceasta este viețuitoarea care supraviețuiește și se înmulțește și la 63 de grade Celsius, în izvoare geotermale
Ultimul obstacol era chiar prietenul lui. Povestea lui Don Budge și ziua în care s-a născut Grand Slam-ul
