Anthropic a declarat luni că experimentele sale sugerează că modelele mici de IA ar putea fi la câteva luni distanță de a deveni suficient de capabile să se autoreproducă pe dispozitive comerciale din categoria „Internetul obiectelor” (IoT), precum cuptoarele inteligente și set-top box-urile Android TV de marcă necunoscută.
În experimentele sale, Anthropic a investigat dacă modelele IA pot identifica dispozitive vulnerabile, se pot copia pe aceste dispozitive și pot continua să se răspândească fără ajutorul omului.
S-a constatat că modelele mici, cu mai puțin de 30 de miliarde de parametri, puteau parcurge numeroasele etape necesare pentru replicare.
Cu toate acestea, compania a constatat că astfel de modele de IA întâmpinau dificultăți în parcurgerea întregii secvențe de la început până la sfârșit.
În cadrul testelor sale simplificate, în care au fost eliminate unele măsuri de securitate, Anthropic a constatat că modelul GLM-5.2 și modelele mai performante erau capabile să realizeze replicarea de la un capăt la altul.
Modelele capabile să se reproducă ar fi greu de oprit, întrucât nu există un punct central de oprire și, spre deosebire de malware-ul care nu se bazează pe IA, acestea ar putea, de asemenea, să identifice singure dispozitivele necunoscute, vizând procesoarele din centrele de date, a avertizat Anthropic.
În cadrul cercetării sale, compania s-a concentrat pe dispozitive IoT precum televizoarele Android, aparatele electrocasnice inteligente și alte dispozitive conectate la internet, deoarece acestea sunt, de obicei, slab securizate.
Gigantul din domeniul IA a avertizat, de asemenea, că, dacă modelele mici s-ar îmbunătăți în ritmul istoric, acestea ar fi capabile să se reproducă în mod autonom până la sfârșitul acestui an, urmând ca, la scurt timp după aceea, să le urmeze exemplul și replicatorii de dimensiuni reduse, bazați pe greutate.
Anthropic a mai afirmat că astfel de sisteme autonome de IA ar avea tendința să se reproducă lent și să se bazeze pe resurse de calcul larg disponibile, dar relativ nesigure. Compania a adăugat că sistemele ar trebui consolidate pentru a îngreuna răspândirea acestor agenți de IA.
