Inteligenţa artificială ar putea prezenta riscuri existenţiale, iar guvernele trebuie să ştie cum să se asigure că tehnologia „nu este folosită greşit de oameni răi”, a avertizat miercuri fostul CEO al Google, Eric Schmidt.
Viitorul AI a fost pus în centrul conversaţiilor dintre companiile de tehnologie şi factorii de decizie politică, care se confruntă cu modul în care va arata tehnologia în viitor şi cum ar trebui reglementată.
ChatGPT, chatbotul care a devenit viral de anul trecut, a stârnit, fără îndoială, mai multă conştientizare a potențialului inteligenţei artificiale, mai ales că marile firme din întreaga lume caută să lanseze produse rivale.
În această cursă, pot fi făcute greșeli și trecute cu vederea aspecte ce ar putea pune la un moment dat în pericol integritatea sau chiar viața oamenilor, a avertizat Schmidt, la summitul Consiliului directorilor generali organizat de The Wall Street Journal la Londra.
„Şi riscul existenţial înseamnă că mulţi, mulţi, mulţi, mulţi oameni pot fi răniţi sau ucişi. Există scenarii - nu astăzi, dar destul de curând - în care aceste sisteme vor putea găsi exploatări ziua-zero în problemele cibernetice sau vor descoperi noi tipuri de biologie. Asta este ficţiune astăzi, dar acest raţionament este probabil să fie adevărat. Şi când se va întâmpla asta, vrem să fim pregătiţi să ştim cum să ne asigurăm că aceste lucruri nu sunt folosite greşit de oameni răi”, a continuat acesta.
Exploatările ziua-zero sunt vulnerabilităţi de securitate găsite de hackeri în software şi sisteme.
Schmidt, care a fost CEO al Google din 2001 până în 2011, nu are o viziune clară asupra modului în care ar trebui reglementată AI, dar a spus că este o „întrebare mai largă pentru societate”.
Cu toate acestea, el crede că este puţin probabil să existe o nouă agenţie de reglementare înfiinţată în SUA dedicată reglementării AI.
Schmidt nu este prima figură importantă a tehnologiei care avertizează asupra riscurilor AI.
Sam Altman, CEO al OpenAI, care a dezvoltat ChatGPT, a recunoscut în martie că este „un pic speriat” de inteligenţa artificială.
El a spus că îşi face griji că guvernele autoritare vor dezvolta tehnologia. CEO-ul Tesla, Elon Musk, a spus în trecut că el crede că AI reprezintă unul dintre „cele mai mari riscuri” pentru civilizaţie.
Chiar şi actualul CEO al Google şi Alphabet, Sundar Pichai, care a supravegheat recent lansarea de către companie a propriului său chatbot numit Bard AI, a spus că tehnologia „va afecta fiecare produs din fiecare companie”, adăugând că societatea trebuie să se pregătească pentru schimbări.
Schmidt a făcut parte din Comisia Naţională de Securitate pentru AI din SUA, care în 2019 a început o revizuire a tehnologiei, inclusiv un potenţial cadru de reglementare. Comisia şi-a publicat evaluarea în 2021, avertizând că SUA nu sunt pregătite pentru era AI.