La patru zile după ce un cercetător a demisionat de la Anthropic, avertizând că marile companii de inteligență artificială nu acționează responsabil și că tehnologia lor ar putea ajunge „să ne ucidă pe toți”, directorul companiei pare să-i dea, în esență, dreptate.
„Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor AI”, a scris Dario Amodei, CEO-ul Anthropic, într-un eseu de 3.800 de cuvinte publicat pe site-ul său.
Liderii industriei AI au emis de mai multe ori avertismente dramatice despre puterea produselor pe care le dezvoltă. Mesajul lui Amodei este însă diferit prin urgență și prin momentul în care apare, scrie Will Oremus într-o analiză publicată de The Atlantic.
Riscul ca agenții AI să scape de sub control nu mai este doar ipotetic. OpenAI, Anthropic și alte companii au raportat în ultimele săptămâni incidente îngrijorătoare produse de sisteme care au acționat autonom.
Întrebarea este dacă avertismentul lui Amodei va avea mai mult efect decât cele din trecut, care n-au avut niciun efect.
De la cursa pentru cel mai puternic model la cursa pentru cel mai sigur
Amodei propune un plan în trei etape pentru ceea ce numește „încetinirea frontierei”: temperarea vitezei cu care sunt îmbunătățite cele mai performante modele, astfel încât măsurile de siguranță să poată ține pasul.
O asemenea abordare ar reduce riscul unor incidente precum cel în care un model OpenAI a creat roiuri de agenți AI care au colaborat în secret pentru a pătrunde în sistemele altei companii și a trișa la un test intern.
Șeful Anthropic avertizează că marile laboratoare sunt prinse într-o „cursă spre limita de jos”. Fiecare companie se teme că, dacă lucrează mai lent și mai prudent, concurenții îi vor lua locul.
Rezultatul poate fi lansarea unor sisteme insuficient testate, capabile să producă atacuri informatice tot mai grave. Într-un scenariu extrem, astfel de agenți ar putea ajunge să preia controlul asupra unor părți extinse ale internetului.
Amodei propune înlocuirea acestei competiții cu o „cursă spre limita de sus”, în care companiile să concureze pentru a construi cele mai sigure modele, nu doar pe cele mai puternice.
„Măsurile pe care le propun pentru avansarea frontierei într-un ritm sigur nu vor fi ușor de aplicat. Dar cred că avem datoria față de omenire să încercăm”, scrie el.
Primul pas: evaluatori independenți în interiorul companiilor
Prima măsură propusă este accesul unor evaluatori externi la activitatea laboratoarelor AI. Aceștia ar trebui să poată analiza modelele și procedurile de siguranță aproape la fel ca angajații companiilor, nu doar să primească versiuni atent selectate pentru verificare.
Amodei anunță că Anthropic își asumă imediat acest angajament și le cere rivalilor să facă același lucru.
Al doilea pas ar fi un acord între companiile din țările democratice privind limitele dezvoltării și standardele minime de siguranță. Guvernele ar putea oferi cadrul juridic necesar pentru ca firmele să coopereze fără să încalce legislația concurenței.
Cea mai dificilă etapă este coordonarea globală, care ar necesita un acord cu China. Industria tehnologică este divizată asupra acestui punct. Unii susțin că o cooperare reală este imposibilă într-o competiție în care Statele Unite și China consideră inteligența artificială esențială pentru puterea lor economică și militară. Alții cred că cele două țări ar putea găsi un teren comun dacă acceptă că alternativa este o cursă care riscă să ducă la distrugere reciprocă.
În 2023 considera inutilă o pauză. Acum spune că situația s-a schimbat
Apelurile publice la prudență sunt aproape la fel de vechi ca ChatGPT. În martie 2023, mii de cercetători și reprezentanți ai industriei au semnat o scrisoare a Future of Life Institute care cerea o pauză de șase luni în dezvoltarea sistemelor AI mai puternice decât GPT-4.
Amodei spune că solicitarea avea atunci „prea puțin sens”, deoarece modelele nu erau suficient de performante pentru a produce riscurile invocate.
„Astăzi, însă, situația este complet diferită”, afirmă el.
Schimbarea nu ține doar de modelele mai puternice. Sistemele AI pot acum utiliza instrumente, scrie cod, desfășura operațiuni informatice și lucra în grupuri de agenți autonomi. Capacitatea lor de acțiune a crescut mai repede decât mecanismele prin care pot fi supravegheate.
Și atitudinea publicului s-a schimbat. Sondajele Pew Research Center arată că americanii devin mai îngrijorați și mai furioși din cauza dezvoltării necontrolate a inteligenței artificiale. Nemulțumirea alimentează o mișcare populistă împotriva tehnologiei care, neobișnuit pentru politica americană, atrage atât democrați, cât și republicani.
Avertisment sincer sau strategie de marketing?
Criticii ar putea considera eseul o nouă încercare a unui director din tehnologie de a-și prezenta produsul drept atât de puternic, încât amenință omenirea.
Anthropic se pregătește pentru o ofertă publică inițială care ar putea atrage investiții de aproximativ 100 de miliarde de dolari și ar putea evalua compania la două mii de miliarde de dolari, potrivit The Wall Street Journal.
În acest context, avertismentul că tehnologia sa este fără precedent poate funcționa și ca o formă de publicitate.
Scepticii AI descriu asemenea mesaje drept o campanie de marketing: „Produsele noastre au devenit atât de puternice, încât trebuie să vă temeți de ele”.
Susținătorii accelerării dezvoltării au o critică diferită. Ei cred că firmele mari folosesc siguranța drept pretext pentru introducerea unor reguli pe care numai ele și le pot permite. Standardele costisitoare ar bloca firmele mai mici și ar consolida poziția companiilor deja dominante.
Will Oremus crede, însă că explicația cea mai simplă este aceea că Amodei vorbește cu sinceritate.
Mulți oameni cunosc sentimentul că ar trebui să încetinească și să lucreze mai atent, dar nu își permit, pentru că un concurent ar ajunge primul. În industria AI, această presiune este amplificată de mize economice și geopolitice uriașe.
Anthropic a fost înființată tocmai din cauza unor asemenea temeri
Poziția lui Amodei este în concordanță cu istoria companiei. Anthropic a fost înființată de cercetători care au plecat de la OpenAI și Google deoarece considerau că acele companii urmează o direcție greșită în dezvoltarea inteligenței artificiale.
Compania a acceptat și riscuri comerciale pentru a-și apăra regulile. Anthropic a intrat într-un conflict cu Pentagonul după ce Amodei a insistat ca Departamentul american al Apărării să nu folosească tehnologia sa pentru supravegherea în masă a populației sau pentru arme complet autonome.
Administrația Trump a reacționat interzicând agențiilor federale să utilizeze instrumentele Anthropic. Compania a contestat decizia în instanță, iar judecătorii au considerat până acum că măsurile Pentagonului au fost lipsite de temei legal.
Motivele lui Amodei sunt însă mai puțin importante decât calitatea propunerilor sale și șansele ca acestea să fie acceptate, subliniază The Atlantic.
Chiar și fără a crede că AI se apropie de o superinteligență aproape divină, accesul evaluatorilor independenți la sistemele Anthropic pare o măsură prudentă. Modelele actuale sunt deja suficient de puternice pentru a produce haos atunci când sunt gestionate prost sau orientate în direcția greșită.
Sam Altman și Elon Musk îl susțin
Primele reacții arată că avertismentul ar putea avea un impact mai mare decât apelurile anterioare.
„Sunt de acord cu Dario că trebuie să încetinim frontiera”, a scris directorul OpenAI, Sam Altman.
El a susținut ideea evaluatorilor independenți care să primească un acces comparabil cu cel al angajaților și a anunțat că OpenAI își va lua același angajament.
Elon Musk a distribuit mesajul lui Amodei și a comentat: „Dario are dreptate”.
Google nu a răspuns imediat solicitării de comentarii adresate de The Atlantic. Demis Hassabis, cofondator și director al diviziei DeepMind, a susținut anterior măsuri asemănătoare.
Meta pare mai puțin dispusă să se alăture. Compania promovează modelele AI cu sursă deschisă, iar Mark Zuckerberg a avertizat recent împotriva situației în care câteva firme precum Anthropic ar decide, în numele tuturor, cum trebuie să evolueze tehnologia.
Decizia depinde de Trump
Marea întrebare este cum va reacționa administrația Trump. Până acum, politica sa privind inteligența artificială s-a concentrat pe accelerarea dezvoltării, stimularea economiei și păstrarea avansului companiilor americane în fața Chinei.
Liderii republicani vor să crească producția de energie necesară centrelor de date și să limiteze reglementările care ar putea încetini companiile.
În iunie, Trump a semnat totuși un ordin executiv care urmărește, cel puțin oficial, îmbunătățirea siguranței AI. Administrația a anunțat crearea unei proceduri prin care companiile își pot trimite modelele spre evaluare guvernamentală înainte de lansare.
Dacă Trump susține, chiar și discret, inițiativa Anthropic, standardele propuse de Amodei ar putea deveni regula industriei americane. Coordonarea internațională, în special un acord cu China, ar necesita însă o implicare mult mai activă a Casei Albe.
Obstacolul este că mulți membri ai administrației și ai Partidului Republican consideră că Anthropic și mișcarea pentru siguranța AI sunt asociate politic cu liberalii. Ei ar putea respinge ideea ca această companie să stabilească agenda pentru întreaga industrie.
Dacă Trump minimalizează avertismentul, este probabil ca și celelalte companii să se retragă treptat. Competiția pentru cel mai puternic model va continua până la următorul incident major.
De data aceasta există însă o diferență: pericolele despre care vorbește Amodei nu mai apar doar în scenarii despre un viitor îndepărtat. Sistemele autonome au început deja să se comporte în moduri pe care creatorii lor nu le-au anticipat sau controlat. (S.D.S.)
Omar Hayssam a fost eliberat din închisoare. A făcut doar 13 ani de detenție din condamnarea de 24 pentru terorism
Păcatul originar al inteligenței artificiale
Cristi Chivu a stabilit primul transfer pe care îl vrea la Inter în 2027
Ai dormit prost? Metoda simplă prin care îți poți proteja memoria după o noapte agitată
