„Watermark-ul” aplicat textelor generate de AI poate oferi indicii că un text a fost generat de un model AI, fără să poată demonstra cu certitudine acest lucru.
Tehnologia ar putea deveni importantă nu doar pentru identificarea unor texte individuale, ci și pentru a înțelege cât de mult conținut generat de AI ajunge în spațiul informațional.
Compania de inteligență artificială Anthropic a anunțat recent că toate textele generate prin sistemul său Claude vor avea în curând un „watermark”, în conformitate cu reglementările intrate recent în vigoare în Uniunea Europeană.
Aceste reglementări impun companiilor să marcheze conținutul generat de AI și să permită identificarea acestuia de către utilizatori. Este probabil ca și alte companii de AI să urmeze exemplul. Astfel de măsuri sunt luate în contextul în care diferența dintre un text scris de o mașină și cel produs de un creier uman devine tot mai greu de sesizat, scrie CNN.
Deși watermark-urile AI sunt folosite de ani de zile pentru a eticheta imaginile generate de computere, tehnologia de marcare a textelor este mai nouă.
Google a introdus tehnologia de watermark pentru texte și a făcut-o disponibilă pe scară largă în octombrie 2024, iar OpenAI, deși a dezvoltat un astfel de instrument poate chiar mai devreme, încă nu l-a lansat.
Filigranele au apărut în Italia, în anii 1200, ca semne distinctive încorporate în hârtie pentru a indica originea acesteia. Ulterior, au devenit un simbol al autenticității și calității, fiind folosite pe bancnote, timbre și documente oficiale pentru a preveni fraudele.
În secolul XX, ideea a fost transferată în mediul digital: coduri ascunse au început să fie introduse în muzică și filme pentru a identifica proprietarul și a combate pirateria. Odată cu Internetul, watermark-urile digitale s-au răspândit rapid, mai ales în anii 1990 și 2000.
În cazul conținutului generat de AI, un watermark nu mai are rolul de a verifica autenticitatea, ci mai degrabă de a semnala lipsa autenticității umane.
În loc să protejeze proprietatea intelectuală, el poate pune sub semnul întrebării chiar dreptul utilizatorului de a pretinde că el a scris textul.
Cum funcționează un watermark pentru text?
Modelele lingvistice de mari dimensiuni sunt antrenate pe seturi uriașe de texte și învață să prezică următorul cuvânt dintr-o secvență.
Atunci când există mai multe variante logice pentru următorul cuvânt, modelul selectează de obicei una dintre ele în funcție de probabilitate, influențată de frecvența cu care apar acele cuvinte în datele de antrenament.
Pentru a introduce un watermark, sistemul ajustează ușor probabilitatea fiecăruia dintre cuvintele posibile, favorizând discret anumite cuvinte în detrimentul altora.
Repetat pe parcursul unui text, acest lucru creează un tipar statistic invizibil pentru cititor, dar care poate fi detectat de un instrument special.
Este ca și cum AI-ul ar lăsa în text o „semnătură secretă”, fără să schimbe în mod evident sensul sau aspectul textului.
Cu cât textul este mai lung, cu atât această semnătură este mai ușor de detectat.
Potrivit specialiștilor, watermark-urile aplicate textelor generate de AI nu pot demonstra categoric dacă un text a fost scris de un om sau de un model AI, ci doar oferă dovezi statistice care sugerează că AI a fost implicată în generarea textului.
Apariția watermark-urilor pentru textele generate de AI provoacă îngrijorări, mai ales din cauza stigmatului și a posibilelor consecințe profesionale sau academice.
Nesiguranța este amplificată de faptul că societatea nu are încă reguli clare privind utilizarea AI: în unele domenii este încurajată, în altele descurajată.
Totuși, identificarea originii unui text poate fi importantă pentru profesori, edituri sau cititori. Watermark-ul trebuie privit însă ca un indiciu statistic, nu ca o dovadă sigură că un text a fost scris de AI.
Watermark-urile ar putea fi utile nu atât pentru identificarea unui text individual, cât pentru a măsura cât de mult conținut generat de AI ajunge în spațiul informațional.
Problema este că, dacă oamenii ajung să creadă că o mare parte din conținut este sintetic, pot începe să pună la îndoială autenticitatea tuturor informațiilor.
C.S.
Nicușor Dan, editorial în Fox News: Sunt președintele unuia dintre cei mai de încredere aliați ai SUA. Iată cum ne opunem Rusiei
Implicat într-un nou scandal, după Dinamo - U Cluj, Cristiano Bergodi și-a aflat pedeapsa
Ziua 1646 Negocierile de pace s-ar putea relua în septembrie. Atac în valuri la Kiev. Ucraina a oprit toate rafinăriile Lukoil
Horoscop zilnic: 28 august
