Tot mai mulți cercetători avertizează asupra riscurilor pe care le-ar putea aduce inteligența artificială. Michael Noetel, profesor asociat de psihologie la Universitatea din Queensland, se întreabă de ce companiile din domeniu continuă să dezvolte tehnologii despre care chiar unii dintre angajații lor cred că ar putea deveni imposibil de controlat.
În opinia sa, există trei motive principale:
- speranța că beneficiile vor depăși riscurile,
- convingerea că siguranța nu poate fi testată fără a construi sisteme tot mai avansate
- competiția acerbă dintre companii și țări.
Noetel menționează, într-un articol publicat în The Conversation, declarațiile recente ale cercetătorului Jacob Coxon, făcute cu ocazia plecării sale de la Anthropic. Potrivit lui Coxon, firma și competitorii săi „se joacă cu viețile noastre”. Autorul amintește și avertismentul lui Evan Hubinger, cercetător în cadrul Anthropic: „Credem cu adevărat, cu toată seriozitatea, că AI ar putea ucide toți oamenii”.
Ideea că o inteligență artificială care depășește capacitățile umane ar putea scăpa de sub control și ar putea distruge omenirea circulă de ani buni în cercetare, fiind popularizată inclusiv de cartea Superintelligence, publicată de Nick Bostrom în 2014, și de forumul LessWrong.
În ultimii ani, mai mulți cercetători au părăsit companii de top din AI din cauza preocupărilor privind siguranța. Jan Leike și Daniel Kokotajlo au plecat de la OpenAI, Mrinank Sharma de la Anthropic, iar Alex Turner de la Google DeepMind, după acordul companiei cu Pentagonul.
Demisia lui Coxon a readus însă în prim-plan o întrebare tot mai dificil de ignorat: dacă oamenii care dezvoltă AI se tem că aceasta ar putea provoca dispariția omenirii, de ce continuă să o construiască? În opinia lui Noetel, există trei motive principale.
1. Unii cred că riscul merită asumat
Liderii industriei AI recunosc posibilitatea ca oamenii să piardă controlul asupra acestor sisteme, cu consecințe catastrofale.
În 2023, directorii generali ai OpenAI, Anthropic și Google DeepMind au fost de acord că riscul ca AI să ducă la dispariția omenirii ar trebui tratat la fel de serios ca riscurile reprezentate de pandemii și războiul nuclear.
Dario Amodei, directorul general al Anthropic, estimează la 10-25% probabilitatea ca lucrurile să meargă „foarte, foarte prost”.
În același timp, Amodei promite o lume „fără sărăcie sau boli”, în timp ce Elon Musk vorbește despre posibilitatea unor „venituri ridicate universale” datorate inteligenței artificiale.
Acesta este primul motiv pentru care dezvoltarea AI continuă: convingerea că beneficiile vor depăși riscurile. Poate că așa este, susține autorul, însă o decizie atât de importantă ar merita să fie luată printr-un proces mai democratic, nu doar de companiile și cercetătorii care dezvoltă tehnologia.
2. Pericolul nu poate fi studiat de la distanță
Al doilea motiv este că, potrivit unora dintre cercetători, nu poți învăța să faci sigur un sistem AI periculos fără să îl construiești mai întâi.
Autorul compară situația cu o navă spațială: putem studia siguranța zborurilor de la distanță, dar nu putem testa cu adevărat toate problemele fără să trimitem nava în spațiu.
Strategia OpenAI este descrisă drept „implementare iterativă”: compania lansează fiecare model, învață din problemele apărute și încearcă să le rezolve în generația următoare. Ideea este asemănătoare cu apropierea cât mai mare de marginea unei prăpastii pentru a vedea cum arată saltul.
Problema este că, atunci când miza este o tehnologie care ar putea deveni extrem de puternică, testarea prin încercare și eroare poate avea consecințe mult mai grave decât în cazul altor tehnologii.
3. O cursă în care câștigătorul ia totul
Al treilea și poate cel mai important motiv este competiția.
Sam Altman, directorul OpenAI, a declarat recent că „suntem aproape de a crea un duh care poate îndeplini orice dorință”.
Problema este că toată lumea vrea să țină lampa. O astfel de tehnologie ar putea fi extrem de profitabilă, iar fiecare companie se teme că rivalii săi nu vor folosi această putere în mod responsabil.
Prin urmare, companiile continuă cursa, pornind de la ideea că, dacă încetinesc, altcineva va ajunge oricum primul. Mai bine să fii tu primul și să poți pretinde că ești „cel responsabil”.
Unii se tem chiar că și un acord reciproc prin care companiile să încetinească dezvoltarea ar putea fi încălcat în secret. Așa că fiecare continuă să avanseze.
Când chiar companiile care dezvoltă AI trag un semnal de alarmă, ar trebui să le ascultăm
Este posibil ca ideea unei inteligențe artificiale care scapă de sub control să pară puțin plauzibilă. Dar, susține autorul, atunci când însăși companiile care dezvoltă aceste sisteme trag un semnal de alarmă, ar trebui să le ascultăm.
Companiile din domeniu raportează deja semne ale unui fenomen numit „autoîmbunătățire recursivă”, în care fiecare model contribuie la dezvoltarea unui succesor mai performant.
Potrivit cercetătorului-șef al OpenAI, modelele se îmbunătățesc mai repede decât capacitatea oamenilor de a le controla.
În iulie, sute de angajați din industria AI au semnat o scrisoare deschisă prin care cereau încetinirea ritmului de dezvoltare. Însă dinamica acestei competiții face dificilă o astfel de decizie pentru orice companie sau țară care acționează singură.
O cursă a înarmării
Dezvoltarea AI seamănă tot mai mult cu o cursă a înarmării: companiile se tem să nu rămână în urma rivalilor, iar Statele Unite nu vor să piardă competiția cu China.
Istoria arată însă că astfel de curse pot fi temperate prin reguli comune și sisteme de verificare.
Tratatele privind armele nucleare nu au eliminat riscul unui război nuclear, dar au contribuit la limitarea proliferării, iar armele nucleare nu au mai fost folosite într-un conflict de 80 de ani.
Reguli pentru inteligența artificială
În SUA, administrația Trump nu dă semne că vrea să încetinească dezvoltarea AI, eliminând regulile federale privind siguranța și încercând să limiteze reglementările adoptate de state.
În paralel, California a introdus măsuri pentru evaluarea independentă a sistemelor AI, iar politicieni din SUA și Marea Britanie au propus legi pentru limitarea superinteligenței.
Chiar și companiile au început să ia măsuri de precauție, însă, în lipsa unor reguli obligatorii, siguranța depinde în continuare în mare măsură de deciziile câtorva companii.
Ce ne așteaptă
În 2025, cercetătorii au publicat scenariul AI 2027, însă evoluția AI a fost de atunci mai rapidă decât anticipau.
Dacă ritmul continuă, modelele vor contribui la dezvoltarea unor sisteme tot mai puternice și mai greu de controlat.
Autorul își pune speranța în reguli care să încetinească această cursă, transparență și sisteme de verificare, dar și în presiunea publică asupra guvernelor.
În opinia sa, avertismentele cercetătorilor care părăsesc companiile din cauza problemelor de siguranță ar trebui luate în serios.
C.S.
Drum asfaltat din bani publici până la terenurile primarului. Edilul poreclit „Ducele”, reclamat la DNA
Horoscop zilnic: 11 septembrie
FCSB anunță plecarea lui Octavian Popescu: Oferta pe care a acceptat-o
Toate cele 270 de apartamente din blocul afectat de explozia din Rahova au fost verificate. Când încep lucrările
