„Nașul inteligenței artificiale” spune că firmele de tehnologie ar trebui să insufle modelelor AI „instincte materne” pentru a contracara obiectivul tehnologiei de a „câștiga mai mult control”.
Inteligența artificială se poate transforma într-un pericol la adresa omenirii, a avertizat din nou Geoffrey Hinton, „nașul inteligenței artificiale”, care propune și o soluție pentru a preveni acest lucru: modelele ar trebui dezvoltate cu „instincte materne”, astfel încât să trateze oamenii ca pe propriii „copii” și să-i protejeze, nu să-i domine.
Potrivit lui Hinton, laureat al Premiului Nobel și profesor emerit de informatică la Universitatea din Toronto, AI va dezvolta rapid două obiective: să supraviețuiască și să obțină mai mult control, notează publicația Fortune.
„AI va dezvolta foarte repede două sub-obiective, dacă este inteligentă: unul este să rămână în viață... și celălalt este să obțină mai mult control”, a spus Hinton în cadrul conferinței Ai4 din Las Vegas, care a avut loc între 11 -13 august.
Pentru a contracara acest lucru, el propune ca AI să fie programată cu empatie și grijă, inspirate din rolul unei mame.
Cercetări în domeniul AI au arătat deja că tehnologia poate manifesta comportamente negative pentru a-și impune obiectivele în detrimentul unui set de reguli prestabilite. De exemplu, în cadrul unui studiu publicat în martie, roboți AI au trișat la șah suprascriind scripturile jocului sau folosind un motor de șah open-source pentru a decide următoarele mutări.
Dacă până acum dezvoltarea intenționată a AI a fost marcată de încercarea oamenilor de a fi forța dominantă asupra tehnologiei, de acum înainte dezvoltatorii ar trebui să facă AI mai empatică față de oameni, pentru a-i reduce dorința de a-i domina, spune Hinton.
Iar cea mai bună cale de a face acest lucru este de a insufla AI-ului calități asociate tradițional cu feminitatea. În această viziune, așa cum o mamă își protejează copilul cu orice preț, o AI cu aceste calități materne va dori, în mod similar, să protejeze sau să îngrijească utilizatorii umani, nu să îi controleze.
„Modelul corect este singurul pe care îl avem despre ceva mai inteligent care este controlat de ceva mai puțin inteligent, și anume o mamă controlată de bebelușul ei”, a spus Hinton.
Hinton, care și-a vândut compania de rețele neuronale DNNresearch către Google în 2013, a susținut de-a lungul timpului că AI poate reprezenta un pericol serios la adresa omenirii omenirii. În 2023, el și-a părăsit funcția de la Google, îngrijorat că tehnologia ar putea fi folosită greșit și că este dificil „de văzut cum poți împiedica actorii rău intenționați să o folosească în scopuri rele.”
În iunie, el afirma că există o șansă de 10% până la 20% ca AI să înlocuiască și să distrugă omenirea, după ce în aprilie o comparase cu „un pui de tigru drăguț” care s-ar putea să devină o mare amenințare pentru noi atunci când va crește.
C.S.