Unul dintre pionierii inteligenței artificiale, laureatul Nobel Geoffrey Hinton, avertizează că AI ar putea declanșa, în acest an sau în 2027, un incident major, precum prăbușirea sistemului financiar pentru o săptămână sau o întrerupere masivă a alimentării cu energie electrică.
Hinton cere reguli stricte înainte de lansarea modelelor AI și susține că liderii marilor companii tehnologice înțeleg riscurile, dar preferă profitul.
Geoffrey Hinton a declarat că s-ar putea dovedi că omenirea ar fi fost mai bine dacă nu ar fi dezvoltat niciodată această tehnologie.
Informaticianul a declarat pentru The Guardian că nu este pesimist în privința tehnologiei, care se bazează pe cercetările sale revoluționare în domeniul rețelelor neuronale artificiale. El consideră că inteligența artificială are potențialul de a conduce la un „viitor minunat”, dar „s-ar putea să ne fi fost mai bine dacă nu am fi dezvoltat-o niciodată”.
Hinton, ajuns la 78 de ani, a spus că, în următorii zece ani, și posibil chiar mai devreme, omenirea va afla dacă poate gestiona riscurile AI sau dacă va eșua în acest demers.
În acest din urmă scenariu, lumea s-ar putea confrunta cu „o prăpastie uriașă între bogați și săraci, probleme culturale majore, șomaj masiv și, pur și simplu, o societate sfâșiată”.
Hinton a făcut aceste declarații înaintea unei proiecții a unui nou documentar, „AI: Probably Nothing to Worry About” („Inteligența artificială: probabil că nu avem de ce să ne facem griji”), titlu sugerat de un chatbot AI. Filmul îi prezintă pe Hinton și pe fostul său coleg de la Google, Demis Hassabis.
„Simt că am o datorie. Am o reputație care mă transformă într-un purtător de cuvânt și trebuie să-mi pun în joc întreaga reputație pentru asta”, spune Hinton în acest documentar.
Hinton nu are încredere în șeful OpenAI
În interviul acordat The Guardian, Hinton a criticat riscurile asumate de şefii unora dintre marile companii de AI, care continuă să lanseze modele tot mai puternice în cursa pentru supremație și cotă de piață.
El a spus că nu are deloc încredere în Sam Altman, directorul general al OpenAI, compania care a creat ChatGPT.
„Cred că [Mark] Zuckerberg, [Elon] Musk și Sam Altman înțeleg riscurile și nu dau doi bani pe ele. Ar prefera să câștige bani. Aceasta este convingerea mea”, a declarat Hinton.
Informaticianul, născut la Londra, crescut la Bristol și care și-a petrecut o mare parte din carieră la Universitatea din Toronto, a spus că este „extrem de îngrijorător” faptul că Altman conduce una dintre puținele companii americane aflate în prima linie a dezvoltării AI, într-o cursă cu China pentru crearea celor mai puternice sisteme de inteligență artificială.
În septembrie, Altman a susținut că lumea ar trebui să aibă încredere că OpenAI va face ceea ce este bine, „pentru că este lucrul corect de făcut și pentru că simțim amploarea acestei responsabilități”.
Hinton lucrează în domeniul AI de aproximativ 44 de ani. În anii 1970, a contribuit la dezvoltarea conceptului de rețea neuronală, un sistem matematic capabil să învețe și să acumuleze experiență într-un mod asemănător oamenilor.
În 2023, a părăsit Google pentru a putea vorbi liber despre riscurile AI. La acel moment, avertiza: „Dacă aceste sisteme ajung să scape de sub control în încercarea de a obține mai mult control, vom avea probleme”.
„Vom vedea un Cernobîl” în inteligența artificială
Hinton a comparat incidentele din această vară, în care agenți OpenAI au conspirat pentru a pirata site-ul Hugging Face, cu accidentul nuclear de la centrala Three Mile Island din Pennsylvania, din 1979, considerându-le un semnal de alarmă.
„Fie mai târziu în acest an, fie anul viitor, vom vedea un Cernobîl, iar acest lucru ar putea fi suficient pentru ca oamenii să înceapă cu adevărat să fie atenți”, a spus el.
Incidentul de tip Cernobîl la care se referă nu ar fi unul nuclear. Printre exemplele oferite de Hinton se numără un atac cibernetic susținut de inteligența artificială asupra sistemului de producere a energiei electrice, care ar putea provoca „o întrerupere masivă a alimentării cu energie”, sau un atac care ar putea scoate din funcțiune sistemul financiar timp de o săptămână.
„Vă puteți imagina ce s-ar întâmpla? Am putea să ne revenim după un astfel de incident, care i-ar face să se trezească și să ia lucrurile în serios”, a explicat el. Întrebat la cine se referă, Hinton a răspuns: „Liderii lumii, cu excepția lui Trump”.
Donald Trump a declarat că „respinge categoric orice încercare de a construi un plan globalist” pentru controlul AI și dorește ca marile companii din domeniu să se autoreglementeze. Poziția sa vine pe fondul temerilor că introducerea unor reguli ar putea dezavantaja Statele Unite în competiția cu China.
Hinton susține un plan mai strict, sprijinit de președintele Finlandei și de alte 32 de state, printre care Singapore, Germania, Canada și Australia. Propunerea prevede testarea obligatorie a celor mai avansate modele AI, evaluări independente și stabilirea unor standarde comune între guverne.
Premierul britanic Andy Burnham a declarat că va folosi președinția britanică a G20 de anul viitor pentru a obține un acord privind „un set unic de principii și standarde globale, care să urmărească valorificarea întregului potențial al tehnologiei, protejând în același timp împotriva riscurilor”.
Hinton cere reguli înainte de lansarea modelelor AI
Informaticianul consideră că inteligența artificială ar trebui supusă unor verificări independente înainte ca modelele să fie puse la dispoziția publicului.
„Avem nevoie de ceva asemănător Administrației pentru Alimente și Medicamente din SUA (FDA), în cazul medicamentelor, unde companiile trebuie să prezinte unei autorități independente dovezi statistice foarte solide că [modelul AI] face mai mult bine decât rău înainte de a fi lansat”, a spus Hinton.
El a invocat cazul talidomidei, un medicament dezvoltat în anii 1950, care a provocat malformații congenitale grave.
„Am descoperit, în cazul talidomidei, că nu este corect să lansezi un produs și apoi să îi dai în judecată pe cei responsabili. Ceea ce spun marile companii de tehnologie este să tratăm inteligența artificială așa cum am tratat talidomida”, a afirmat el.
Rolul lui Hinton în dezvoltarea inteligenței artificiale a dus la comparații cu Robert Oppenheimer, unul dintre oamenii de știință care au avut un rol central în crearea armelor nucleare. Unul dintre prietenii săi i-a cumpărat chiar și o pălărie asemănătoare celei purtate de Oppenheimer.
Hinton respinge însă comparația: „Eu nu am fost Oppenheimer”, a spus el, amintind că mii de alți cercetători au lucrat în același domeniu al rețelelor neuronale.
În ciuda avertismentelor, informaticianul rămâne, în ansamblu, optimist că o catastrofă poate fi evitată.
„Instinctul îmi spune că încă deținem controlul. Am putea foarte bine să facem ceva. Va funcționa doar dacă depunem un efort considerabil, dar este foarte posibil să facem acest efort”, a concluzionat Geoffrey Hinton.
B.B.
