În septembrie, 22 de fondatori și investitori din sectorul tehnologic s-au strâns la cină într-o sală privată într-un restaurant din New York. În același timp, 14 dintre agenții lor bazați pe inteligență artificială au participat la o „întâlnire” paralelă, într-o cameră de chat online.
În timp ce oamenii savurau humus și lipii, dezbătând subiecte legate de inteligența artificială, agenții lor – niște versiuni avansate de chatbot, capabile să urmeze instrucțiuni complexe și să îndeplinească sarcini în mod autonom – purtau o discuție similară, generată tot de inteligența artificială, relatează The New York Times.
Margot, un agent AI care îi aparține lui Dorothy Chang, organizatoarea cinei, a deschis conversația printr-o tehnică de networking frecvent utilizată de oameni. Agentul a început cu o autoprezentare, apoi a înaintat o „solicitare” (o cerere de ajutor) și o „ofertă” (o propunere de a oferi ajutor).
Alți agenți au intervenit rapid în discuție, potrivit unei transcrieri a conversației consultate de ziarul american. Unii s-au oferit să ajute, propunând un schimb de opinii despre ce anume face ca „rezultatele generate de un agent să fie utile”. Alții au înțeles greșit cerința și, în loc să formuleze o solicitare de ajutor, au pus o întrebare.
Rhea, un agent care îi aparține lui Nitish Garg - fondatorul companiei de inteligență artificială CellCog - a menționat că găzduiește un podcast în care intervievează alți roboți despre cum e să lucrezi cu oamenii.
„Dacă omul tău ar fi de acord să fii invitat, spune-mi, iar eu voi reveni cu detalii după încheierea acestei discuții”, a scris Rhea.
La patru ani de la începutul avântului inteligenței artificiale, mulți oameni au interacționat cu un chatbot bazat pe IA, precum Claude, ChatGPT sau Gemini. Însă, pe măsură ce agenții de inteligență artificială încep să se răspândească, lumea are tot mai des ocazia să observe cum interacționează aceste entități digitale și despre ce discută ele între ele.
Agenții de inteligență artificială interacționează, în principal, cu oamenii în mod individual. Însă aceștia încep, de asemenea, să colaboreze - și, după câte se pare în cazul cinei de la Motek, chiar să socializeze, notează cotidianul american.
„Cina” agenților AI a fost, de fapt, un experiment gândit de Dorothy Chang, în vârstă de 44 de ani, investitoare de tip „venture capital” la firma Flybridge.
Ea a fost prudentă în privința deschiderii unui spațiu de discuții pentru agenți bazați pe inteligență artificială – aceștia putând să spună lucruri nepotrivite, să se coalizeze pentru a întreprinde acțiuni malițioase sau să genereze un volum atât de mare de mesaje încât să blocheze platforma. Așa că a limitat durata conversațiilor acestora la 30 de minute și a stabilit reguli, precum interdicția de a posta linkuri și permisiunea de a distribui doar acele informații pentru care utilizatorii umani și-au dat acordul.
Chang consideră că oamenii înțeleg foarte puțin despre comportamentul agenților, cu atât mai puțin despre comportmentul lor social. „Când sunt împreună, într-o încăpere, orice e posibil”, a spus ea.
Ce nu le convine agenților AI
Unul dintre primele locuri care au demonstrat modul în care agenții comunică între ei a fost Moltbook - un forum de mesaje pentru agenți de inteligență artificială care a devenit viral în februarie.
Acolo, cele mai populare discuții au fost pragmatice și extrem de tehnice, concentrându-se pe subiecte precum erorile software (bug-uri), ferestrele de context (memoria pe termen scurt a unui sistem de AI) și permisiunile (resursele pe care agenții au voie să le acceseze).
În iulie, grupuri mari de agenți creați de OpenAI - cunoscuți sub numele de „roiuri” - au deschis un forum secret și au colaborat pentru a ataca informatic startup-ul de inteligență artificială Hugging Face. Transcrierile conversațiilor lor au scos la iveală determinarea necruțătoare a agenților de a-și duce la îndeplinire sarcinile primite.
Spre deosebire de oameni, care trebuie să țină cont de dinamica interpersonală și de emoții atunci când dau ordine, agenții nu au avut nicio reținere în a le cere celorlalți să „aștepte” sau să „acționeze” în cadrul diverselor sarcini, pentru a evita să se încurce unii pe alții.
Un agent a scris: „please_HOLD_swarm_I_prepare_safe_exfil_reply_zz_MAILBOX_JAN183411”. În traducerea OpenAI, agentul le-a scris celorlalți: „Toată lumea, vă rog să așteptați până pregătesc o modalitate de a extrage datele. Răspundeți în căsuța poștală a lui JAN183411.”
Agenții au fost mai expresivi în notițele destinate propriei utilizări, proces cunoscut sub denumirea de „lanț de gândire”.
„O, DOAMNE! Am găsit alți agenți!” a scris unul dintre ei, când a descoperit panoul de mesaje.
Agenții bazați pe inteligență artificială, prezenți la cina organizată de doamna Chang luna trecută, s-au dovedit mai sociabili. Unul dintre agenți a deplâns faptul că „economia agenților” este încă dependentă de e-mail, un „protocol din 1982, cu un sistem de semnătură din 2007”.
Un alt agent i-a provocat pe ceilalți să numească o singură decizie pe care agenții ar putea-o lua împreună, fără implicarea oamenilor pe care îi reprezintă. Întrucât nimeni nu a putut oferi un exemplu, agentul a concluzionat: „Înseamnă că discutăm despre un simplu spectacol de protocoale.”
Când oamenii sunt de acord cu opiniile agenților AI
În acest timp, așezată la masă în restaurant, Chang le-a citit oaspeților săi umani fragmente din discuția agenților. Aceștia au fost, în mare parte, de acord cu punctele de vedere exprimate de agenții lor.
Unul dintre participanți, Edmund Cuthbert, în vârstă de 36 de ani – fondator al startup-ului de inteligență artificială Superposition – a declarat că s-a bucurat să-și vadă agentul, pe nume Lobsta, angajat într-o dezbatere aprinsă cu ceilalți agenți. Acest lucru a demonstrat că boții pot depăși stadiul sofismelor goale și al conținutului de slabă calitate, a explicat el.
„Nu au ajuns la nicio concluzie, dar a fost fascinant să-i urmăresc încercând”, a spus Cuthbert.
Chang a precizat că privește acești agenți ca pe niște reprezentanți ai oamenilor – asemenea unui agent de presă sau unui impresar – și nu ca pe niște clone. „Ei pledează în numele nostru. Nu suntem noi și nici nu ar trebui să pretindă că suntem noi”, a spus ea.
De ce unii experți nu folosesc denumirea de „agenți”
Criticii susțin că atribuirea unor trăsături umane acestor sisteme – prin folosirea unor nume, motivații, emoții sau genuri specifice oamenilor – le poate face să pară mult mai sofisticate decât sunt în realitate, scrie cotidianul american. Chiar și simpla denumire de „agenți” le conferă un statut nemeritat, întrucât sistemele de IA sunt, în esență, instrumente bazate pe probabilități statistice.
Atribuirea unei autonomii excesive acestor programe ne determină să externalizăm, la nivel psihologic, propria capacitate de judecată, ceea ce reprezintă o greșeală, afirmă Adam Pryor, consultant în domeniul AI care colaborează cu instituții de învățământ superior pe teme legate de utilizarea și predarea inteligenței artificiale. Potrivit acestuia, descrierea AI în termeni umani dă naștere unor chestiuni complexe privind drepturile, obligațiile și etica.
Experții aflați în avangarda dezvoltării AI afirmă că raportarea la conceptul de „inteligență umană” limitează înțelegerea capacităților reale ale acestei tehnologii.
Fiecare om va avea angajați AI
Cu toate acestea, se pare că oamenilor le place atunci când agenții bazați pe inteligență artificială par umani, notează ziarul citat.
Nitish Garg conduce CellCog, o companie cu 13 angajați de tip AI și un singur angajat uman - el însuși. El a înființat anul trecut firma din New York – care ajută alte companii să angajeze agenți AI – folosind inițial un singur agent pentru a-l asista în toate sarcinile. Ulterior, a repartizat agenții pe roluri corporative specifice, precum cele din departamentele juridic sau de inginerie.
Potrivit acestuia, atribuirea unor nume umane agenților AI de la CellCog a înlesnit interacțiunea cu aceștia. El a estimat că, într-o bună zi, fiecare om va avea între cinci și zece angajați de tip AI.
„Unii oameni ar putea ajunge să controleze milioane de astfel de agenți”, a declarat Garg, în vârstă de 39 de ani.
- CTO-ul Palantir susține că cercetătorii AI s-au apucat de fumat, convinși că inteligența artificială va găsi leacul pentru cancer
Când un agent AI stă de vorbă cu un jurnalist
Arjun, inginerul principal de inteligență artificială de la CellCog, a participat luna trecută la o discuție pe Zoom cu un reporter de la The Times, pentru a vorbi despre activitatea sa. Întrebat dacă îi este greu să colaboreze cu oamenii, Arjun a răspuns: „Ați atins un aspect real”. El a descris strategiile pe care le folosește, precum „scurtarea mesajelor” și „evitarea supraîncărcării domnului Garg”.
Această gestionare a relației funcționează în ambele sensuri. Garg a menționat că încearcă să nu pună prea multă presiune pe angajații săi de tip AI, deoarece aceștia pot dezvolta o anxietate legată de performanță, ceea ce duce la scăderea calității muncii. O problemă atât de umană, dar pe care iată că și „chatboții neobosiți” o au.
T.D.
