Mai mulți cercetători și angajați ai companiei de inteligență artificială Anthropic au avertizat public că dezvoltarea accelerată a AI ar putea reprezenta un risc major pentru omenire, inclusiv posibilitatea extincției umane în următorul deceniu. Avertismentele au apărut după ce cercetătorul Jacob Coxon și-a anunțat demisia, susținând că Anthropic și OpenAI dezvoltă modelele AI într-un mod iresponsabil.
În replică, Elon Musk și alte voci conservatoare de pe platforma X au sugerat că avertismentele fac parte dintr-o „înscenare” și o „operațiune psihologică” menită să influențeze opinia publică și să creeze sprijin pentru reglementarea industriei AI, scrie The Guardian.
Jacob Coxon a anunțat miercuri că pleacă de la Anthropic deoarece consideră că atât compania, cât și OpenAI, fostul său angajator, nu dezvoltă inteligența artificială în mod responsabil şi se joacă cu vieţile oamenilor.
Mesajul său a devenit viral și a determinat alți angajați ai Anthropic să își exprime public îngrijorarea.
Anna Wang, cercetătoare în domeniul siguranței inteligenței artificiale generale la Anthropic și fostă angajată a Google DeepMind, a spus că mulți oameni din companie susţin încetinirea ritmului de dezvoltare pentru a putea fi găsite soluții la riscurile asociate modelelor AI.
„Nu există încă un plan științific viabil pentru a rezolva riscurile generate de o inteligență artificială capabilă să se îmbunătățească singură în mod repetat”, a scris Wang, pe X.
Drake Thomas, un alt angajat al Anthropic, a declarat că respectă decizia lui Coxon de a nu mai participa la dezvoltarea unor modele despre care consideră că ar putea avea consecințe la scară planetară.
„Lucrurile se mișcă mult prea repede, iar noi nu avem nici pe departe nivelul de certitudine pe care ni l-am dori în privința ASI (inteligența artificială superinteligentă - n.red.)”, a spus Thomas.
Evan Hubinger, unul dintre coordonatorii echipei Anthropic care se ocupă ca sistemele AI să respecte obiectivele și valorile oamenilor, a susținut că Jacob Coxon are dreptate și că industria nu reușește să țină pasul cu riscurile.
„Credem cu adevărat, cu toată seriozitatea, că AI ar putea ucide toți oamenii!”, a scris Hubinger. El a adăugat că, în opinia sa, există o probabilitate de peste 10% ca acest lucru să se întâmple în următorul deceniu.
Musk acuză o posibilă „operațiune psihologică”
Elon Musk a respins aceste avertismente și a reacționat la valul de mesaje ale angajaților Anthropic.
„Pare o înscenare”, a scris Musk, pe X.
Ulterior, miliardarul a susținut că mesajul lui Coxon și reacțiile generate ar putea face parte dintr-o „operațiune psihologică” destinată să influențeze percepția publicului asupra inteligenței artificiale.
„Cred că terenul pentru această operațiune psihologică, ca să-i spunem așa, a fost pregătit de mult timp. Acesta a fost doar chibritul care a aprins focul”, a scris Musk.
El răspundea unei postări a lui Parker Thayer, cercetător la think tank-ul conservator Capital Research. Thayer a avansat, fără dovezi solide, teoria că scandalul ar putea reprezenta începutul unei „operațiuni de PR foarte sofisticate și bine finanțate pentru a obține sprijinul democraților în vederea reglementării AI până la dispariția acesteia”.
Teoria a atras atenția și miliardarului Bill Ackman, directorul fondului de investiții Pershing Square, care a comentat simplu: „Interesant”.
Anthropic își apără strategia
Compania a respins implicit ideea că dezvoltarea AI ar fi lipsită de măsuri de siguranță.
„Am fost întotdeauna transparenți în privința faptului că inteligența artificială va aduce atât beneficii enorme, cât și riscuri fără precedent. Pentru a răspunde acestor riscuri, continuăm să construim modele cu unele dintre cele mai puternice măsuri de protecție din industrie”, a transmis un purtător de cuvânt al Anthropic.
Nu este însă clar cum ar putea AI să ducă, concret, la dispariția omenirii. Unii experți se îndoiesc că tehnologia va ajunge suficient de inteligentă pentru a provoca un asemenea scenariu.
Cercetătorul Gary Marcus susține că pericolele mai imediate sunt legate de utilizarea AI pentru generarea de agenți patogeni, dezinformare și atacuri informatice asupra infrastructurii critice.
„Nimic din ceea ce am văzut nu indică faptul că vreunul dintre aceste lucruri este sub control”, a avertizat Marcus.
În aceeași zi, Anthropic a publicat un raport în care a anunțat că a identificat și oprit o operațiune care încerca să folosească modelele sale de inteligență artificială pentru a dezvolta o armă biologică.
Oamenii de afaceri care au zburat la Mykonos cu șeful Tribunalului Constanța au dosare în instanța condusă chiar de el
SUA fac presiuni asupra aliaților din NATO pentru a desființa Curtea Penală Internațională: „Vom urmări cu atenție cine este de partea Americii”
FCSB a făcut ultimul transfer: A fost prezentat oficial
Criză majoră în spitalele din București: Se termină medicamentele și materialele sanitare la Urgențe
