Cercetători și directori din sectorul inteligenței artificiale au părăsit, în ultimele câteva zile, companii importante precum OpenAI și Anthropic, avertizând public cu privire la riscurile tehnologiei asupra utilizatorilor.
În ultimele zile, mai mulți angajați de top din domeniul inteligenței artificiale au decis să demisioneze, unii avertizând explicit că firmele pentru care lucrau se dezvoltă prea repede și minimalizează deficiențele tehnologiei, relatează CNN.
Cercetătorii demisionari susțin că sunt omise potențiale riscuri critice la adresa omenirii odată cu accelerarea galopantă a dezvoltării tehnologice pentru profit, inclusiv prin eventuale reclame intruzive ce exploatează vulnerabilitățile utilizatorilor și "baze extinse de date create deja de modelele de AI".
O arhivă de sinceritate umană fără precedent
Zoë Hitzig, cercetătoare la OpenAI în ultimii doi ani, și-a anunțat miercuri demisia într-un eseu publicat în New York Times, invocând "rezerve profunde" cu privire la strategia emergentă de publicitate a OpenAI.
Hitzig, care a avertizat cu privire la potențialul ChatGPT de a manipula utilizatorii, a declarat că arhiva de date despre utilizatori a chatbot-ului, construită pe baza unor "îngrijorări medicale ale utilizatorilor, probleme din relațiile acestora și credințele lor religioase", prezintă o dilemă etică tocmai pentru că oamenii credeau că discută cu un program care nu avea motive ascunse.
"Timp de ani întregi, utilizatorii ChatGPT au generat o arhivă de sinceritate umană fără precedent", a subliniat Hitzig, avertizând că publicitatea construită pe această bază de date creează un potențial de manipulare a utilizatorilor, "în moduri pentru care nu avem instrumentele necesare ca să le înțelegem, darămite pentru a le preveni".
"Mulți oameni prezintă problema finanțării inteligenței artificiale ca o alegere a celui mai mic dintre două rele: restricționarea accesului la tehnologia transformatoare la un grup select de oameni suficient de bogați pentru a plăti pentru ea sau acceptarea reclamelor chiar dacă asta înseamnă exploatarea celor mai profunde temeri și dorințe ale utilizatorilor de a le vinde un produs.
Cred că aceasta este o alegere falsă. Companiile de tehnologie pot căuta opțiuni care ar putea menține aceste instrumente disponibile pe scară largă, limitând în același timp stimulentele oricărei companii de a-și supraveghea, profila și manipula utilizatorii", a scris Hitzig.
Opiniile sale vin în contextul în care site-ul de știri tehnologice Platformer relatează că OpenAI a desființat echipa creată în 2024 pentru a promova obiectivul companiei de a se asigura că toată omenirea beneficiază de pe urma "inteligenței artificiale generale" - o AI cu un potenţial ipotetic de gândire la nivel uman.
Alte "dezertări", același motiv
Tot în această săptămână, Mrinank Sharma, șeful echipei de cercetare privind protecția datelor de la Anthropic, a publicat marți o scrisoare în care își anunța decizia de a părăsi compania și avertiza că "lumea este în pericol".
Scrisoarea lui Sharma a făcut doar niște referiri vagi la Anthropic, compania din spatele chatbot-ului Claude. El nu a spus clar de ce pleacă, dar a menționat: "Îmi este clar că a venit momentul să merg mai departe." "De-a lungul timpului petrecut aici, am văzut în repetate rânduri cât de greu este să lăsăm cu adevărat valorile noastre să ne guverneze acțiunile", a mai scris el.
Anthropic a declarat într-un comunicat transmis CNN că îi este recunoscătoare lui Sharma pentru munca sa în promovarea cercetării în domeniul siguranței inteligenței artificiale. Compania a menționat că el nu era șeful departamentului de siguranță și nici nu era responsabil de măsurile de siguranță mai ample.
De asemenea, doi cofondatori ai xAI au demisionat în decurs de 24 de ore în această săptămână, anunțându-și plecările pe X. Astfel, rămân doar jumătate dintre fondatori în cadrul firmei care fuzionează cu SpaceX, compania lui Elon Musk, pentru a crea cea mai valoroasă companie privată din lume. În ultima săptămână, cel puțin alți cinci angajați ai xAI și-au anunțat plecările pe rețelele de socializare, relatează Business Insider.
Motivul plecării acestora nu a fost anunțat. Într-o postare pe rețelele de socializare de miercuri, Musk a declarat că xAI a fost "reorganizată" pentru a accelera creșterea, ceea ce "din păcate a necesitat despărțirea de unele persoane".
Startup-ul s-a confruntat cu reacții negative la nivel global din cauza chatbot-ului său Grok, căruia i s-a permis să genereze imagini pornografice fără consimțământ, cu femei și copii, săptămâni la rând, înainte ca echipa să intervină pentru a-l opri. Grok a fost, de asemenea, predispus la generarea de comentarii antisemite la solicitările utilizatorilor.
"Nașul Inteligenței Artificiale" a tras semnalul de alarmă
Deși nu este ceva neobișnuit ca talentele de nivel înalt să se transfere dintr-o parte în alta într-o industrie emergentă precum inteligența artificială, amploarea plecărilor într-o perioadă atât de scurtă de timp la xAI este remarcabilă. Alte plecări recente evidențiază tensiunea dintre unii cercetători îngrijorați de siguranță și directorii de top dornici să genereze venituri, notează CNN.
Wall Street Journal a relatat, marți, că OpenAI a concediat unul dintre directorii săi de top în domeniul securității, după ce aceasta și-a exprimat opoziția față de lansarea unui "mod pentru adulți", care permite conținut pornografic pe ChatGPT. OpenAI a dat-o afară pe directoarea de securitate, Ryan Beiermeister, pe motiv că a discriminat un angajat de sex masculin, acuzație pe care ea a catalogat-o drept "absolut falsă".
OpenAI a declarat pentru Journal că această concediere nu are legătură cu "nicio problemă ridicată de ea în timp ce lucra la companie".
Dezertările la nivel înalt au făcut parte din povestea inteligenței artificiale de când ChatGPT a apărut pe piață la sfârșitul anului 2022. La scurt timp după aceea, Geoffrey Hinton, cunoscut sub numele de "Nașul Inteligenței Artificiale", și-a părăsit rolul de la Google și a început să avertizeze cu privire la riscurile existențiale pe care le prezintă inteligența artificială, inclusiv tulburări economice masive într-o lume în care mulți "nu vor mai putea ști ce este adevărat".
Predicțiile apocaliptice abundă, inclusiv printre directorii de inteligență artificială care au un stimulent financiar să promoveze puterea propriilor produse. Una dintre aceste predicții a devenit virală săptămâna aceasta: CEO-ul HyperWrite, Matt Shumer, a postat o declarație de aproape 5.000 de cuvinte despre cum cele mai recente modele de inteligență artificială au făcut deja ca unele locuri de muncă din domeniul tehnologiei să devină inutile.
"Vă spunem ce s-a întâmplat deja în propriile noastre locuri de muncă și vă avertizăm că sunteți următorii", a avertizat el.
T.D.