Un nou raport realizat la comanda Departamentului de Stat al SUA descrie o imagine alarmantă a riscurilor „catastrofale” de securitate națională pe care le prezintă inteligența artificială în evoluție rapidă, avertizând că trebuie intervenit urgent pentru a se evita dezastrul.
Descoperirile s-au bazat pe interviuri cu peste 200 de persoane pe parcursul a mai mult de un an – inclusiv directori de companii din industria AI, cercetători în securitate cibernetică, experți în arme de distrugere în masă și oficiali de securitate națională din cadrul guvernului, scrie CNN.
Raportul, lansat în această săptămână de Gladstone AI, afirmă categoric că cele mai avansate sisteme AI ar putea, în cel mai rău caz, „să constituie o amenințare la nivel de extincție pentru specia umană”.
Un oficial al Departamentului de Stat al SUA a confirmat pentru CNN că agenția a comandat raportul, deoarece evaluează în mod constant modul în care AI este aliniată cu obiectivul său de a proteja interesele SUA în țară și în străinătate.
Cu toate acestea, oficialul a subliniat că raportul nu reprezintă punctele de vedere ale guvernului SUA.
Documentul avertizează că, deși potențialul AI continuă să captiveze investitorii și publicul, există și pericole reale.
„AI este deja o tehnologie transformatoare din punct de vedere economic. Ne-ar putea permite să vindecăm boli, să facem descoperiri științifice și să depășim provocările pe care cândva le credeam insurmontabile”, a declarat marți pentru CNN Jeremie Harris, CEO și co-fondator al Gladstone AI.
„Dar ar putea aduce și riscuri grave, chiar catastrofale, de care trebuie să fim conștienți. Și un număr tot mai mare de dovezi – inclusiv cercetări și analize publicate în cele mai importante conferințe AI din lume – sugerează că peste un anumit prag de capacitate, AI ar putea deveni de necontrolat”, a spus Harris.
ASTĂZI PE SPOT:
Purtătorul de cuvânt al Casei Albe, Robyn Patterson, a declarat că ordinul președintelui Joe Biden privind inteligența artificială este „cea mai semnificativă acțiune pe care a întreprins-o orice guvern din lume pentru a gestiona riscurile AI”.
„Președintele și vicepreședintele vor continua să lucreze cu partenerii noștri internaționali și vor îndemna Congresul să adopte o legislație bipartizană pentru a gestiona riscurile asociate cu aceste tehnologii emergente”, a spus Patterson.
„Nevoie clară și urgentă” de a interveni
Cercetătorii avertizează asupra a două pericole centrale reprezentate în general de AI. În primul rând, afirmă Gladstone AI, cele mai avansate sisteme AI ar putea provoca daune potențial ireversibile.
În al doilea rând, raportul spune că există preocupări în laboratoarele de inteligență artificială că la un moment dat ar putea „pierde controlul” asupra sistemelor pe care le dezvoltă, cu „consecințe potențial devastatoare pentru securitatea globală”.
„Apariția inteligenței artificiale și a AGI (inteligență generală artificială) are potențialul de a destabiliza securitatea globală în moduri care amintesc de introducerea armelor nucleare”, se arată în raport.
Raportul Gladstone AI solicită măsuri urgente pentru a face față acestei amenințări, inclusiv lansarea unei noi agenții de inteligență artificială, impunerea de garanții de reglementare „de urgență” și limite privind cantitatea de putere a computerului care poate fi utilizată pentru a antrena modele de inteligență artificială.
„Există o nevoie clară și urgentă ca guvernul SUA să intervină”, au scris autorii în raport.
Probleme de siguranță
Raportul Gladstone AI spune că presiunile competitive împing companiile să accelereze dezvoltarea AI „în detrimentul siguranței și securității”, iar cele mai avansate sisteme AI ar putea fi „furate” și îndreptate împotriva Statelor Unite.
Concluziile se adaugă la o listă tot mai mare de avertismente cu privire la riscurile prezentate de AI – inclusiv chiar și din partea unora dintre cele mai puternice figuri ale industriei.
În urmă cu aproape un an, Geoffrey Hinton, cunoscut drept „Nașul inteligenței artificiale”, și-a părăsit jobul de la Google și a avertizat asupra tehnologiei pe care a ajutat-o să se dezvolte. Hinton a spus că există un risc de 10% ca AI să ducă la dispariția speciei umane în următoarele trei decenii.
Directorii de companii sunt din ce în ce mai îngrijorați de aceste pericole – chiar dacă investesc miliarde de dolari în AI. Anul trecut, 42% dintre directorii executivi chestionați la Yale CEO Summit au declarat că inteligența artificială are potențialul de a distruge omenirea peste cinci până la zece ani.