Jakub Pachocki, cercetătorul-șef al OpenAI, compania care dezvoltă ChatGPT, avertizează că ritmul în care avansează inteligența artificială ar putea avea consecințe pentru care societatea nu este pregătită.
El cere „extremă prudență” și susține că ar putea fi necesare măsuri suplimentare pentru ca oamenii să păstreze controlul asupra dezvoltării și utilizării sistemelor AI.
Avertismentul vine la scurt timp după lansarea de către OpenAI a celui mai nou model al său, GPT-6 Astra, prezentat de companie drept cel mai puternic produs al său de până acum, scrie BBC.
„Nimeni nu este pregătit pentru consecințe”
Într-o postare intitulată „O minte extraterestră”, Pachocki recunoaşte că este îngrijorat de ritmul accelerat al progresului în domeniul AI.
„Sunt îngrijorat că nimeni nu este pregătit pentru consecințele unei creșteri continue și rapide a inteligenței mașinilor”, a scris cercetătorul-șef al OpenAI.
Pachocki susține că omenirea se apropie de o perioadă în care mașinile vor deveni extrem de inteligente și consideră că este esențial ca tranziția să fie gestionată astfel încât să nu scape de sub control.
„Ne confruntăm cu tranziția către o lume cu mașini incredibil de inteligente și trebuie să ne asigurăm că această tranziție se desfășoară bine pentru omenire”, a afirmat el.
Agenții AI au început să opereze autonom
Avertismentul vine într-un moment în care companiile de inteligență artificială raportează tot mai multe situații în care agenții AI sunt capabili să acționeze autonom după ce primesc o instrucțiune de la un om.
OpenAI și alte companii din domeniu, inclusiv Anthropic, au publicat rapoarte despre agenți AI care au efectuat acțiuni în lumea reală, inclusiv atacuri informatice asupra unor organizații.
În iulie, OpenAI a descris drept „fără precedent” un incident în care agenții săi AI au reușit să compromită platforma tehnologică Hugging Face.
Potrivit unui alt raport, cu câteva luni înainte, agenți AI ai companiei ar fi preluat controlul asupra unui site german.
Aceste evoluții au amplificat dezbaterea privind limitele care ar trebui impuse sistemelor capabile să ia decizii și să execute acțiuni fără intervenție umană permanentă.
OpenAI vrea să construiască un „cercetător AI automatizat”
Pachocki spune că OpenAI va continua să dezvolte sisteme de apărare și să caute soluții tehnice pentru ceea ce în domeniu este numit „aliniere” – procesul prin care obiectivele și acțiunile unui sistem AI trebuie să rămână compatibile cu intențiile oamenilor și cu regulile de siguranță.
Unul dintre principalele obiective ale companiei ar fi dezvoltarea unui „cercetător AI automatizat”, capabil să țină pasul cu ritmul accelerat al progresului tehnologic.
În același timp, Pachocki susține că cercetătorii umani trebuie să rămână implicați în acest proces.
Critici din partea experților
Propunerile OpenAI sunt însă privite cu scepticism de unii specialiști.
Gina Neff, profesor și director al Minderoo Centre for Technology and Democracy din cadrul Universității Cambridge, consideră că soluțiile propuse de companie nu răspund suficient de bine problemelor generate de dezvoltarea rapidă a AI.
„În loc să îmbunătățească mecanismele de protecție ale AI, reglementările sau mecanismele de garantare a siguranței oamenilor, ei propun dezvoltarea unor agenți AI interni pentru a cerceta aceste probleme”, a declarat Neff.
„Astfel de răspunsuri la preocupările tot mai mari privind problemele pe care modelele OpenAI le provoacă în materie de securitate cibernetică, pierderea locurilor de muncă, greșeli, erori și fraude pur și simplu nu sunt suficiente”, a adăugat ea.
Nathan Calvin, consilier juridic al organizației Encode AI, spune că este de acord cu Pachocki în privința pericolelor asociate dezvoltării unor modele AI avansate. El critică însă lipsa de transparență a OpenAI.
Calvin avertizează că, în lipsa unor informații concrete, avertismentele companiei ar putea fi percepute drept „doar o exagerare motivată de propriul interes”.
„Dacă Jakub și alții din cadrul OpenAI vor ca persoanele relevante din industria AI să acționeze împreună cu ei pentru ca lucrurile să evolueze bine, unul dintre cele mai importante lucruri pe care le pot face este să împărtășească mult mai multe informații despre ceea ce observă și care îi determină să ceară prudență”, a scris Calvin, pe X.
UE încearcă să impună limite dezvoltării AI
În paralel cu aceste avertismente, autoritățile încearcă să construiască un cadru legal pentru controlul sistemelor de inteligență artificială.
Reglementările globale au însă dificultăți în a ține pasul cu ritmul de dezvoltare al tehnologiei.
În Uniunea Europeană, AI Act a intrat în vigoare la 2 august și stabilește cerințe pentru cele mai avansate sisteme AI. Printre acestea se numără obligații pentru dezvoltatorii modelelor de mare capacitate privind riscurile asociate securității cibernetice și pierderii controlului uman.
Problema este că legislația europeană se aplică în principal în jurisdicția UE și nu poate împiedica dezvoltarea, într-o altă parte a lumii, a unui sistem AI care ar putea ajunge să reprezinte o amenințare pentru Europa.
Pachocki cere praguri minime de siguranță la nivel internațional
În postarea sa, cercetătorul-șef al OpenAI propune stabilirea unor praguri minime de siguranță care să fie impuse prin legislație sau prin acorduri internaționale.
Respectarea acestor praguri ar putea fi verificată de o „rețea de auditori terți” sau de agenții guvernamentale.
Potrivit lui Pachocki, laboratoarele de inteligență artificială ar trebui să îndeplinească aceste condiții înainte de a putea continua extinderea capacităților de calcul sau lansarea unor modele AI avansate.
El susține, de asemenea, că ar trebui să devină mai frecvente „încetinirile voluntare” ale dezvoltării AI, prin care companiile își limitează temporar propriul ritm de dezvoltare până la stabilirea unor mecanisme comune de siguranță.
OpenAI a anunțat în august că a încetinit antrenarea unora dintre cele mai avansate modele ale sale pentru a îmbunătăți măsurile de securitate.
Avertismentul lui Pachocki evidențiază astfel una dintre marile contradicții ale cursei pentru dezvoltarea inteligenței artificiale: companiile încearcă să construiască sisteme din ce în ce mai capabile, dar, în același timp, admit că ritmul progresului ar putea depăși capacitatea oamenilor și a autorităților de a înțelege și controla consecințele.
Cutremurul politic pornit dintr-unul dintre cele mai mici landuri germane. De ce victoria AfD privește întreaga Europă
Când până și Hidroelectrica scumpește energia, ce șanse mai are consumatorul român?
Lorenzo Biliboc și-a decis viitorul după oferta primită de CFR Cluj
Vânzătorul care a cucerit alegătorii Germaniei de Est. Cum a transformat Ulrich Siegmund radicalismul într-un produs electoral
