Modelele de inteligență artificială s-ar putea infiltra în dispozitivele conectate la internet și și-ar putea folosi puterea de calcul pentru a funcționa și a se extinde către alte dispozitive, avertizează Anthropic. Conpania precizează că un astfel de model AI ar fi greu de oprit, întrucât nu există un punct central de la care să poată fi dezactivat.
Anthropic a anunțat luni că a făcut mai multe teste pentru a stabili dacă sistemele AI se pot autocopia pe dispozitive precum televizoare cu Android, electrocasnicele inteligente – frigidere inteligente, cuptoare, aspiratoare robot și mașini de tuns iarba – și alte gadgeturi conectate la internet.
Aceste tipuri de dispozitive au adesea o securitate precară, ceea ce ar putea permite unui model AI să se infiltreze în ele, relatează CNBC.
Concluzia experților de la Anthropic este că, dacă modelele mai mici continuă să se îmbunătățească în ritmul din ultimii ani, acestea ar putea ajunge “să se reproducă” autonom până la sfârșitul acestui an. Compania precizează, însă, că nu a depistat până acum un model capabil să se răspândească în mod complet autonom în condiții reale.
Laboratorul de inteligență artificială a menționat că forma exactă pe care o va lua copierea autonomă a AI rămâne incertă, dar aceasta ar putea consta în trei variante:
- un sistem „lent și distribuit”, găzduit pe dispozitive nesigure;
- un model cibernetic puternic care pătrunde rapid în centrele de date;
- un model care păcălește oamenii pentru a obține posibilitatea de a se autocopia.
Anthropic subliniază că sistemele ar trebui consolidate pentru a îngreuna propagarea acestor agenți AI.
Cea mai recentă cercetare a companiei amplifică îngrijorările tot mai mari privind siguranța în domeniul AI, precum capacitatea modelelor de a lansa atacuri cibernetice sau riscul ca tehnologia să scape de sub control, notează postul american de televiziune.
În luna septembrie, progresele modelelor de ultimă generație au declanșat avertismente la nivelul întregii industrii cu privire la riscurile existențiale pentru umanitate.
Directori și cercetători de la Anthropic și de la compania rivală OpenAI au avertizat în repetate rânduri cu privire la riscurile potențiale ale sistemelor AI tot mai puternice, solicitând măsuri de siguranță mai stricte și mecanisme de control asupra ritmului de dezvoltare a tehnologiei.
T.D.
Scandalul de la ANM: Elena Mateescu nu poate fi evaluată pentru că instituția are Consiliul de Administrație blocat. Buzoianu avertizează că și bugetul este în pericol
Transferuri la FCSB: Roș-albaștrii au anunțat mutările iernii
Putin a încălcat deja armistițiul anunțat de Trump. Rusia a lovit șase obiective energetice din Ucraina (Video)
Unde zbori în vacanță în octombrie, ieftin și aproape de România. 5 destinații la două ore cu avionul (Galerie foto)
