Compania Anthropic recunoaște chiar în prospectul prin care își promovează listarea la bursă că Inteligența Artificială poate avea un risc „existențial pentru omenire”.
Compania evaluată la aproape 1.000 de miliarde de dolari detaliază pe aproape o treime din prospectul de ofertă publică inițială (IPO), distribuit recent unui grup restrâns de parteneri, „factorii de risc” ai modelelor sale AI. Aceștia includ comportamente de autoconservare, ascunderea sau manipularea informațiilor, dar și de a șantaja.
De asemenea, Anthropic menționează riscuri concrete, precum concentrarea extremă a bazei sale de clienți, aproape un sfert din veniturile de anul trecut provenind de la doar doi clienți, potrivit unor surse citate de Financial Times.
Reuters, care a consultat prospectul, rezumă ironic decizia paradoxală a companiei de a prezenta riscurile în prospectul de ofertă publică inițială: "Cumpărați-ne acțiunile, chiar dacă produsele noastre pot distruge omenirea."
Potrivit documentului, pentru a-și susține creșterea rapidă, Anthropic intenționează să aloce 518 miliarde de dolari în scopul extinderii infrastructurii centrelor de date în următorii ani.
Compania arată că a înregistrat o pierdere operațională de peste 8 miliarde de dolari anul trecut, pe fondul creșterii masive a cheltuielilor pentru creșterea puterii de calcul.
Veniturile au crescut de 12 ori, ajungând la aproape 4,6 miliarde de dolari anul trecut. Costurile tot mai mari aferente resurselor de calcul necesare pentru antrenarea și rularea modelelor sale au dus însă cheltuielile operaționale la aproape 13 miliarde de dolari.
Anthropic urmează să se lanseze la bursă după alegerile din noiembrie de la jumătatea mandatului din SUA. Susținătorii companiei sunt încrezători că aceasta se poate lista la o evaluare de peste 2.000 de miliarde de dolari și invocă ritmul extraordinar de creștere al companiilor AI pentru a-și justifica optimismul.
Însă îngrijorările legate de riscurile pe care le prezintă inteligența artificială (AI) amenință acum să umbrească acest optimism, după ce actuali și foști angajați ai companiei Anthropic au lansat avertismente publice conform cărora modelele AI scăpate de sub control ar putea duce la dispariția omenirii în decurs de un deceniu.
Săptămâna trecută, șeful Anthropic, Dario Amodei, a declarat în fața Consiliului de Securitate al ONU că AI ar putea amenința omenirea și că reprezintă "cea mai importantă problemă de securitate globală cu care lumea se confruntă în prezent".
În cursul acestei luni, Amodei a susținut public necesitatea de a "modera ritmul" dezvoltării AI de ultimă generație.
Principalul său rival de la OpenAI, Sam Altman, și Elon Musk au sprijinit propunerile lui Amodei privind cooperarea în cadrul industriei pentru încetinirea dezvoltării și consolidarea măsurilor de siguranță.
Îngrijorările privind siguranța s-au amplificat în urma unei serii de incidente majore de securitate cibernetică, în care "agenți" AI au penetrat sisteme externe. Săptămâna trecută, OpenAI a dezvăluit că instrumentele sale au compromis securitatea a zeci de site-uri, inclusiv ale unor instituții guvernamentale.
Luni, compania din spatele ChatGPT a renunțat la planurile de a lansa cel mai nou model al său luna viitoare, invocând motive de siguranță.
T.D.
UE pregătește calendare pentru negocierile de aderare ale Republicii Moldova, Ucrainei și altor două țări
Beaugrand și Vilaça, campioni mondiali la triatlon olimpic în 2026
Cum îți faci prieteni la maturitate și cum păstrezi legătura cu ei. Ce spun cercetătorii
O a doua dronă a intrat duminică în România, în județul Tulcea. Avioane F-16, ridicate de la sol
