Mai mulți reprezentanți ai OpenAI au declarat pentru Reuters, sub protecția anonimatului, că înainte de demiterea lui Sam Altman, numeroși cercetători ai companiei au trimis o scrisoare către Consiliul de Administrație, avertizând asupra unei descoperiri importante în domeniul inteligenței artificiale care ar putea amenința omenirea.
Sursele Reuters au spus că scrisoarea a fost un factor dintr-o listă mai lungă de nemulţumiri ale CA, care au dus la concedierea lui Altman, printre care se numără preocupări legate de obţinerea profitului din AI înainte de a înţelege consecinţele.
Înainte de revenirea sa triumfală, care s-a întâmplat marţi seara, peste 700 de angajaţi au ameninţat că vor demisiona şi se vor alătura Microsoft, în semn de solidaritate cu liderul lor concediat.
După ce a fost contactată de Reuters, compania OpenAI a recunoscut într-un mesaj intern adresat personalului un proiect numit Q* şi o scrisoare adresată Consiliului înainte de evenimentele din weekend, a declarat una dintre surse.
Un purtător de cuvânt al OpenAI a declarat că mesajul, trimis de Mira Murati, un director cu vechime, a alertat personalul cu privire la anumite articole din presă, fără a comenta acurateţea acestora.
Pericolele Q-Star
Unele persoane de la OpenAI cred că Q* (pronunţat Q-Star) ar putea fi o descoperire legată de inteligenţa artificială generală (AGI), capabilă să învețe și să efectueze orice sarcină cognitivă făcută de oameni.
OpenAI defineşte AGI ca fiind sisteme autonome ce depăşesc oamenii în majoritatea sarcinilor valoroase din punct de vedere economic.
Având în vedere resursele vaste de calcul, noul model a fost capabil să rezolve anumite probleme matematice, a declarat sub rezerva anonimatului sursa Reuters. Cu toate că efectua doar calcule matematice la nivelul elevilor de şcoală primară, faptul că a reuşit astfel de teste i-a făcut pe cercetători să fie foarte optimişti cu privire la viitorul succes al Q*, a mai spus sursa.
Cercetătorii consideră că matematica este o frontieră a dezvoltării inteligenţei artificiale generative. În prezent, inteligenţa artificială generativă este bună la scriere şi la traducerea limbilor străine prin prezicerea statistică a următorului cuvânt, iar răspunsurile la aceeaşi întrebare pot varia foarte mult.
Dar cucerirea abilităţii de a face matematică - unde există un singur răspuns corect - presupune că AI ar avea capacităţi mai mari de raţionament, asemănătoare cu inteligenţa umană. Acest lucru ar putea fi aplicat, de exemplu, la cercetări ştiinţifice noi, consideră cercetătorii.
Spre deosebire de un calculator care poate rezolva un număr limitat de operaţii, AGI poate generaliza, învăţa şi înţelege.
În scrisoarea lor către Consiliu, cercetătorii au semnalat abilitățile și potențialul pericol al inteligenței artificiale, fără a fi clar care sunt problemele de siguranță menționate în scrisoare.
Există de mult timp discuţii în rândul informaticienilor cu privire la pericolul reprezentat de maşinile foarte inteligente, de exemplu, dacă acestea ar putea decide că distrugerea omenirii este în interesul lor.
Altman a condus eforturile pentru a face din ChatGPT una dintre aplicaţiile software cu cea mai rapidă creştere din istorie şi a atras investiţiile necesare - şi resursele de calcul - de la Microsoft, pentru a se apropia de AGI.
Pe lângă faptul că a anunţat o serie de noi instrumente în cadrul unei demonstraţii în această lună, Altman a spus, săptămâna trecută, în cadrul summit-ului Asia-Pacific Economic Cooperation din San Francisco, că, în opinia sa, se întrezăresc progrese majore.
O zi mai târziu, Consiliul de Administraţie l-a concediat pe Altman.