Pentru mulți oameni, modelele de inteligență artificială au devenit instrumente de bază pentru informare și documentare. Există însă o problemă: AI-ul greșește, uneori destul de des.
Tocmai de aceea, spun experții, utilizatorii trebuie să învețe cum să verifice informațiile generate de aceste sisteme, scrie Forbes.
Nu toate erorile au aceeași importanță. Dacă întrebările simple, precum ingredientele unei rețete sau adresa unui magazin, nu necesită verificări riguroase, în cazul unor subiecte sensibile, precum cercetarea academică, diagnosticele medicale sau datele financiare, informațiile oferite de AI trebuie analizate cu mult mai multă atenție.
Cât de multă încredere putem avea în AI?
La prima vedere, AI-ul pare un motor de căutare mult mai rapid și mai eficient. În realitate, funcționează diferit. Modelele AI nu „știu” informații în sensul clasic, ci generează text pe baza unor tipare statistice învățate în timpul antrenării.
„Asta înseamnă că un AI poate produce un răspuns care sună autoritar și fluent, dar este complet greșit”, explică Pragati Awasthi, profesor asistent la Universitatea Drexel.
Problema nu este deloc marginală. Un studiu realizat de BBC și Uniunea Europeană de Radio și Televiziune a arătat că aproape jumătate dintre răspunsurile generate de AI conțineau probleme semnificative. În 31% dintre cazuri existau erori de atribuire a surselor, iar alte răspunsuri includeau informații inventate sau depășite.
Printre cele mai frecvente erori ale AI se numără halucinațiile, informațiile depășite, citările false sau amestecul dintre informații corecte și eronate.
Chiar și companii importante au fost afectate de astfel de probleme: o firmă de avocatură de pe Wall Street a depus în instanță documente care conțineau cazuri juridice fictive, generate cu ajutorul AI.
Vestea bună este că multe dintre aceste erori pot fi identificate. Specialiștii recomandă câteva metode simple prin care utilizatorii pot verifica mai eficient informațiile generate de inteligența artificială:
1. Citirea laterală: verifică totul din mai multe surse
Nu accepta niciodată rezultatul AI ca singura sursă de adevăr și verifică informațiile din mai multe surse, la fel ca un jurnalist.
Un termen folosit pentru această practică este „citirea laterală” (lateral reading). Potrivit recomandărilor Texas A&M University Corpus Christi, aceasta presupune să îți faci propria cercetare pentru a verifica informația.
De exemplu, poți deschide un nou tab și folosi Google sau Google Scholar pentru a vedea cine confirmă informațiile citate de AI.
2. Contestă răspunsurile
Pune la îndoială răspunsurile oferite de modelul AI. Este similar cu situația în care îi ceri unui coleg uman să își justifice poziția sau răspunsul.
Întrebările suplimentare pot fi formulate conversațional, deoarece modelele folosesc procesarea limbajului natural, de exemplu: „Ce vrei să spui când afirmi că Titanic a fost construit cu șuruburi de proastă calitate?” De asemenea, poți întreba direct AI care este sursa informațiilor sale.
Poți chiar să întorci situația împotriva modelului AI. „Cere AI să argumenteze poziția opusă sau să identifice slăbiciunile propriului răspuns”, recomandă Lauri Kien Kotcher, CEO Different Day.
3. Repetă procesul
Repetă aceeași întrebare pe modele diferite pentru a testa baza informațiilor oferite.
Orice discrepanță între rezultate poate indica erori în informațiile furnizate. „ChatGPT, Claude și Gemini sunt construite diferit și antrenate pe date diferite. Acolo unde toate sunt de acord poți avea mai multă încredere. Acolo unde diferă este exact locul unde ar trebui să te concentrezi pe verificare”, spune Shruti Tiwari, lider de produs AI la Dell Technologies.
O altă metodă este să pui aceeași întrebare în mai multe moduri. „Dacă detaliile se schimbă între variante, modelul ghicește, nu își amintește. Atunci trebuie să verifici singur informația”, spune Tiwari.
4. Verifică actualitatea informațiilor
Toate modelele AI au un moment-limită până la care au fost actualizate datele de antrenare.
Acest moment poate fi de acum o lună sau chiar un an, ceea ce înseamnă că modelul nu poate oferi perspective recente bazate pe evenimente noi sau informații suplimentare apărute între timp.
Întreabă modelul dacă au existat schimbări după ultima actualizare a datelor sale de antrenare. Acest lucru este esențial mai ales dacă ai nevoie de statistici, cifre sau informații despre evenimente recente. Pentru a verifica actualitatea informațiilor, urmează sfaturile din secțiunea anterioară: testează interogarea pe modele diferite pentru a vedea dacă apar actualizări în informațiile prezentate.
5. Verifică atent sursele
Cere modelului AI să își citeze sursele și apoi verifică efectiv acele citări. „Nu verifica doar dacă publicația există; verifică dacă articolul citat spune într-adevăr ceea ce susține AI. Pentru orice lucru cu miză mare – documente juridice, decizii medicale, cercetări publicate – tratează rezultatul AI ca pe o primă variantă care necesită revizuire umană, nu ca pe un produs final”, spune Doyle Albee, partener administrativ la Prolexity.
6. Ai încredere în instinctul tău
Intuiția umană, acea senzație că un răspuns pare suspect, nu este recomandată ca metodă unică de verificare, însă poate fi un motiv suficient de bun pentru a investiga mai departe.
Această intuiție poate proveni din cunoștințe anterioare despre subiect sau, pur și simplu, în urma perceperii unor indicii subtile că răspunsul AI poate fi greșit.
De exemplu, răspunsul poate părea prea sigur pe sine, fără nuanțe sau exprimări ale incertitudinii. În plus, răspunsurile eronate pot fi repetitive, reluând aceeași idee de mai multe ori. Când un răspuns AI pare suspect, revino la cei cinci pași anteriori pentru a verifica din nou informațiile primite.
C.S.
