Малите модели на вештачка интелигенција (ВИ) наскоро би можеле да станат способни да се копираат меѓу уреди поврзани на интернет без човечка контрола и без пристап до центри за податоци, покажува ново истражување на Антропик.

Истражувањето, објавено во неделата од тимот Фронтиер ред тим на американската компанија за ВИ, испитувало дали моделите на ВИ можат самостојно да пронаоѓаат уреди, да пренесуваат датотеки со модели, да го инсталираат потребниот софтвер за функционирање и да продолжат да се шират од секој новозаразен уред.

Истражувачите соопштија дека моделите со помалку од 30 милијарди параметри веќе можат да извршат многу од поединечните фази на овој процес, иако повеќето сè уште имаат тешкотии сигурно да ги поврзат сите чекори во една целина.

Во контролиран и поедноставен експеримент, моделот ГЛМ-5.2 успешно се проширил на сите осум достапни тест-уреди во четири од пет обиди, а во преостанатиот обид стигнал до седум уреди.

Антропик нагласи дека експериментот ја поедноставил фазата на хакирање, користејќи уреди со незаштитена врска.

Затоа, резултатите не докажуваат дека модел на ВИ во моментов може автономно да се ослободи од контролата и да се реплицира во реални услови.

„Сè уште немаме целосно автономен репликатор надвор од контрола“, наведоа истражувачите.

Сепак, тие предупредија дека ВИ-агентите сè подобро ги извршуваат неопходните чекори и пренесуваат корисни информации до своите следни копии.

Истражувањето особено се фокусирало на евтини уреди од таканаречениот интернет на нештата (Internet of Things-IoT), кои често имаат ограничена безбедносна заштита.

Потенцијалните цели би можеле да вклучуваат паметни телевизори, фрижидери, рерни, правосмукалки, безбедносни камери и опрема за видеоконференции.

Антропик покажа дека модел со 26 милијарди параметри може да работи на 15 евтини уреди со оперативниот систем Андроид ТВ, од кои секој чини околу 55 долари.

Помал модел успешно го воспоставил потребниот софтвер за работа на осум од деветте тестирани типови хардвер.

За разлика од конвенционалните компјутерски црви, систем со ВИ што се самореплицира потенцијално би можел да се приспособува на непознати уреди, да дијагностицира технички проблеми и да пренесува успешни стратегии до своите идни копии.

Истражувачите наведоа дека таквиот систем првично би се ширел бавно, при што создавањето на секоја нова копија би можело да трае еден или два дена. Сепак, неговото целосно отстранување би можело да биде тешко бидејќи не би постоел централен сервер што би можел да се исклучи.

Антропик процени дека, доколку помалите модели продолжат да се подобруваат со досегашното темпо, до крајот на 2026 година би можеле да го достигнат нивото на способности покажано од ГЛМ-5.2.

Компанијата предупреди дека станува збор само за груба проекција заснована врз општите трендови во развојот на способностите на моделите.

Истражувачите препорачаа следење на невообичаениот мрежен сообраќај, изолирање на заразените уреди и обврзување на производителите да ги зајакнат стандардните безбедносни поставки.

Тие предупредија дека раните, бавно распространувачки репликатори би можеле да бидат најава за идни побрзи системи способни да пробијат и побезбедни компјутери.

„Треба да настојуваме да ги зајакнеме нашите системи за да го отежнеме ширењето на таквите репликатори, но и да се подготвиме за свет во кој тие ќе станат трајно присутни“, наведоа истражувачите.