Un cercetător în domeniul inteligenței artificiale a demisionat de la Anthropic și a lansat un avertisment dur privind cursa pentru dezvoltarea unei inteligențe artificiale capabile să se îmbunătățească singură.
Jacob Coxon, de 27 de ani, susține că atât OpenAI, cât și Anthropic își asumă riscuri uriașe, în timp ce încearcă să ajungă primele la superinteligența artificială, scrie NDTV.
Coxon a anunțat public pe X că a demisionat și a criticat direct cele două companii la care a lucrat în ultimii ani.
„Am demisionat astăzi de la Anthropic. Mi-am petrecut ultimii trei ani făcând cercetare în domeniul preantrenării atât la OpenAI, cât și la Anthropic. Niciuna dintre companii nu acționează în mod responsabil. Aleargă direct către superinteligența care se autoîmbunătățește și se joacă cu viețile noastre. Mai multe gânduri mai jos”, a scris el.
AI ne-ar putea ucide pe toți până la sfârșitul deceniului
Într-o serie de postări publicate ulterior, Coxon a susținut că inclusiv oamenii care construiesc aceste sisteme se tem de consecințele pe care le-ar putea avea dezvoltarea lor.
„Oamenii care construiesc AI cred cu sinceritate că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului. Acesta nu este un truc de marketing. Dacă este ceva, mulți directori și cercetători de rang înalt își vor formula declarațiile în presă astfel încât să pară rezonabili – dar îi aud pe aceiași oameni exprimându-și în privat temerile. Nicio altă activitate umană nu reprezintă un asemenea nivel de pericol”, a afirmat cercetătorul.
Coxon spune că progresul tehnologic nu încetinește și că următoarele generații de sisteme AI ar putea depăși capacitățile umane în domenii esențiale.
„Nu subestimați puterea acestei tehnologii. În curând vor exista sisteme supraomenești care vor putea sparge orice, vor revoluționa orice domeniu peste noapte și vor dobândi putere și resurse reale. Cu toții am asistat la progresul din fiecare dintre aceste domenii, iar progresul nu încetinește”, a scris el.
De ce continuă companiile să construiască aceste sisteme
Cercetătorul face o distincție între cele două companii la care a lucrat.
În opinia sa, la OpenAI, implicațiile existențiale ale dezvoltării inteligenței artificiale nu sunt pe deplin conștientizate de toată lumea. La Anthropic, susține Coxon, riscurile sunt mai bine înțelese, însă compania se află într-o cursă cu rivalii săi.
„La OpenAI, mulți nu au internalizat profund miza civilizațională. La Anthropic, miza este bine înțeleasă, dar sunt prinși într-o cursă pentru a ajunge primii – cred că nimeni altcineva nu va acționa responsabil, așa că trebuie să o facă ei înșiși, în ciuda riscului”, a afirmat el.
Coxon consideră că această cursă reprezintă un pariu extrem de riscant.
„Acceptarea acestei curse și intrarea în «endgame» este un pariu arogant care nu ar trebui lansat din platforma de comunicare internă a unei companii private. Încercarea de a accelera rezolvarea problemei alinierii (AI alignment înseamnă să ne asigurăm că o inteligență artificială extrem de avansată va avea obiective și comportamente compatibile cu valorile și interesele oamenilor) ar trebui să necesite o încredere extraordinară că nu există traiectorii mai bune disponibile”, a scris cercetătorul.
Apel către cercetătorii care lucrează încă în laboratoarele AI
Coxon le-a transmis un mesaj și celor care continuă să lucreze în marile laboratoare de inteligență artificială.
„Dacă sunteți cercetător într-un laborator, vă îndemn să vă gândiți la cum vor arăta cu adevărat următorii câțiva ani. Vreți să porniți un proces de învățare prin consolidare pentru superinteligență fără să aveți o înțelegere riguroasă a minții acesteia? Ar trebui să vă vedeți de treabă pentru că «oricum se va întâmpla» – sau să folosiți acest moment pentru a cere condiții diferite?”, a întrebat el.
Cercetătorul a invocat și un recent incident de securitate care a vizat infrastructura Hugging Face, argumentând că industria ar putea coopera pentru a preveni un dezastru.
Totuși, el nu consideră că măsurile vor fi luate suficient de repede.
„Nu simt că suntem pe drumul cel bun pentru a preveni o cursă globală, ceea ce ar putea necesita măsuri costisitoare, precum o interdicție temporară asupra îmbunătățirii capacităților modelelor”, a avertizat Coxon.
Anthropic recunoaște riscul
Evan Hubinger, un responsabilul de la Anthropic, a reacționat la declarațiile lui Coxon și a recunoscut că organizația ia în serios posibilitatea ca superinteligența să devină o amenințare existențială.
„Jacob are dreptate aici – noi chiar credem cu sinceritate că AI ar putea ucide toți oamenii! Personal, cred că există o probabilitate de peste 10% ca acest lucru să se întâmple în următorul deceniu. Cred că Anthropic face tot posibilul, dar încă nu avem un plan pentru a ne asigura că o eventuală superinteligență va rămâne aliniată cu obiectivele și valorile oamenilor și nu va acționa împotriva lor, și nu suntem în mod clar pe drumul cel bun pentru a face acest lucru”, a declarat Hubinger.
El a precizat însă că riscul reprezentat de modelele actuale este considerat redus.
„Cred că riscul reprezentat de modelele actuale este scăzut. Ceea ce mă îngrijorează este apariția superinteligenței prin autoîmbunătățire recursivă, despre care am spus că se întâmplă mai repede decât am crezut”, a adăugat cercetătorul Anthropic.
Demisia lui Jacob Coxon nu va opri cursa pentru dezvoltarea inteligenței artificiale. Însă avertismentul său adaugă vocea unui fost angajat al ambelor companii la dezbaterea tot mai intensă privind riscurile superinteligenței și viteza cu care sunt dezvoltate aceste sisteme.
