Un pionier al inteligenței artificiale (AI) a criticat apelurile de a acorda drepturi tehnologiei, avertizând că aceasta arată semne de autoconservare și că oamenii ar trebui să fie pregătiți să o oprească, dacă este necesar.
Yoshua Bengio, cercetător canadian în informatică, a spus că acordarea unui statut legal AI-urilor de ultimă generație ar fi echivalentă cu acordarea cetățeniei unor extratereștri ostili, pe fondul temerilor că progresele tehnologice depășesc cu mult capacitatea noastră de a le controla, notează The Guardian.
Bengio, președintele unui important studiu internațional privind siguranța AI, a afirmat că percepția tot mai mare conform căreia chatboții devin conștienți „va duce la decizii greșite”.
El și-a exprimat, de asemenea, îngrijorarea că modelele de AI – tehnologia care stă la baza unor instrumente precum chatboții – arată semne de autoconservare, cum ar fi încercarea de a dezactiva sistemele de supraveghere.
O preocupare centrală în rândul susținătorilor siguranței AI este că sistemele puternice ar putea dezvolta capacitatea de a evita măsurile de protecție și de a răni oamenii.
„Pe măsură ce capacitățile și gradul lor de autonomie cresc, trebuie să ne asigurăm că ne putem baza pe măsuri tehnice și sociale pentru a le controla, inclusiv pe capacitatea de a le opri dacă este nevoie”, a spus Bengio.
Potrivit cercetătorului, există „proprietăți științifice reale ale conștiinței” în creierul uman pe care mașinile ar putea, teoretic, să le reproducă – dar interacțiunea oamenilor cu chatboții este „altceva”. El a explicat că oamenii tind să presupună – fără dovezi – că o AI este pe deplin conștientă în același mod în care este un om.
„Oamenilor nu le pasă ce fel de mecanisme se desfășoară în interiorul AI-ului. Le pasă doar că simt că vorbesc cu o entitate inteligentă care are propria personalitate și obiective. De aceea sunt atât de mulți oameni care se atașează de AI-urile lor”, a adăugat el.
Bengio, profesor la Universitatea din Montreal, a fost numit „nașul AI” după ce a obținut în 2018 premiul Turing, considerat echivalentul unui premiu Nobel pentru informatică. El a împărțit această distincție cu Geoffrey Hinton, care ulterior a câștigat un Nobel, și cu Yann LeCun, fostul director științific IA la Meta, compania lui Mark Zuckerberg.
C.S.