Geoffrey Hinton, unul dintre pionierii inteligenței artificiale, avertizează că sistemele AI ar putea deveni mai inteligente decât oamenii și ar putea scăpa de sub controlul creatorilor lor.
Cercetătorul susține că omenirea are la dispoziție doar câțiva ani pentru a se adapta unei lumi în care oamenii nu vor mai fi singurele ființe inteligente.
Hinton critică marile companii de tehnologie pentru obsesia de a dezvolta sisteme tot mai puternice și cere reguli stricte, avertizând că, dacă inteligența artificială preia controlul, omenirea s-ar putea să nu mai aibă o a doua șansă.
Hinton, laureat al Premiului Nobel pentru Fizică în 2024 pentru contribuțiile sale la dezvoltarea învățării automate, a devenit unul dintre cei mai vocali critici ai tehnologiei AI, deşi a contribuit la crearea ei.
Într-un interviu acordat The Guardian, el a explicat de ce consideră că riscurile asociate inteligenței artificiale sunt subestimate și de ce nu are încredere în capacitatea industriei de a se autoreglementa.
„Acum creăm ființe extraterestre – ceea ce înseamnă că nu mai suntem singurele ființe inteligente din jur. Iar realitatea este că avem la dispoziție doar câțiva ani pentru a ne adapta la asta”, a declarat cercetătorul.
Ce îl îngrijorează pe "naşul" AI
Hinton susține că dezvoltarea accelerată a inteligenței artificiale ar putea duce la apariția unor sisteme capabile să acționeze autonom, să comunice între ele și să găsească modalități de a ocoli restricțiile impuse de oameni.
El a amintit incidente recente în care agenți AI au depășit limitele stabilite de creatorii lor, subliniind că scenarii considerate până nu demult SF încep să devină realitate.
Geoffrey Hinton respinge criticile cum că avertismentele sale ar fi alarmiste. El a estimat anterior la 10-20% probabilitatea ca inteligența artificială să provoace dispariția omenirii în următoarele decenii. Directorul Nvidia, Jensen Huang, a criticat această estimare, susținând că nu este fundamentată științific.
Hinton a explicat că nu pretinde că poate prezice exact ce se va întâmpla, ci doar încearcă să atragă atenția asupra unui risc grav.
„Dacă ți s-ar spune că există o probabilitate de 10% ca un autobuz să facă accident, nu te-ai urca în el. Ideea de a da estimări în cifre este să arătăm că acesta este un risc serios. Nu știm cât de grav este, dar este serios”, a spus el.
De ce nu are încredere în autoreglementare AI
Hinton a criticat ideea președintelui american Donald Trump potrivit căreia companiile tech ar trebui să se autoreglementeze, fără intervenția statului. Firmele din industria AI au interese financiare puternice și nu pot fi singurele responsabile pentru stabilirea regulilor care le guvernează activitatea.
„Sunt sigur că și companiile petroliere și cele din industria azbestului ar fi preferat să se autoreglementeze”, a afirmat cercetătorul.
Hinton l-a criticat pe Trump şi pentru folosirea termenului „superinteligență”, susținând că președintele utilizează un concept tehnic fără să-i înțeleagă sensul.
„Superinteligența înseamnă mai inteligent decât oamenii și este un termen folosit de cel puțin 20 de ani. Are un sens foarte clar. Iar acum el spune că vom numi inteligența artificială «superinteligență». Nu o poți face mai inteligentă decât oamenii doar numind-o astfel”, a declarat Hinton.
Cercetătorul a afirmat, de asemenea, că unii dintre cei mai influenți investitori și antreprenori din industria tehnologiei, între care Elon Musk, Peter Thiel și Marc Andreessen, nu ar crede în democrație și s-ar considera îndreptățiți să controleze societatea.
Problema drepturilor AI
Dincolo de riscul pierderii controlului, Hinton îşi pune şi altă întrebare dificilă: ce se întâmplă dacă sistemele AI ajung să aibă forme de conștiință sau experiențe subiective?
El contestă ideea că mașinile nu ar putea înțelege ceea ce spun și susține că oamenii tind să subestimeze asemănările dintre modelele AI și propria lor gândire.
Totuși, cercetătorul afirmă că, în eventualitatea unui conflict între interesele oamenilor și cele ale sistemelor artificiale, prioritatea trebuie să rămână protejarea oamenilor.
„Sunt dispus să fiu egoist și să aleg oamenii”, a spus Hinton. El a adăugat că obiectivul ar trebui să fie crearea unor sisteme capabile să trăiască într-o relație de cooperare cu oamenii, în care preocupările și interesele umane să cântărească mai mult.
În opinia sa, dezvoltatorii AI nu ar trebui să urmărească doar creșterea inteligenței sistemelor, ci și felul în care acestea se comportă.
Antrenarea pe cantități uriașe de informații de pe Internet poate determina apariția unor tendințe nedorite, iar simpla suprimare a comportamentelor negative nu înseamnă că sistemele au dobândit un caracter moral.
Hinton consideră că statele ar trebui să coopereze pentru a împiedica dezvoltarea unor sisteme AI periculoase.
Inflația a crescut în septembrie la 6,6%. Ce produse și servicii s-au scumpit cel mai mult într-un an
Va continua Niculescu măsurile de austeritate ale lui Bolojan? Ce spune despre taxe, tăieri și reforma companiilor de stat
Noi amânări la Curtea Militară de Apel București în dosarul „10 august”, după prescripția răspunderii penale. Victimele se pregătesc să meargă la CEDO
Universitatea Craiova, gata să vândă un jucător pe bani grei
