Anthropic проверила, могут ли AI-модели самостоятельно запускаться на новых устройствах

Исследователи Anthropic изучили автономную репликацию и адаптацию AI: сценарий, при котором программа с моделью переносит себя на новые устройства и запускается там без участия человека. В таком сценарии веса модели становятся частью полезной нагрузки вредоносной программы либо скачиваются заново. В отличие от обычного червя, который копирует себя по сети, агент с моделью мог бы разбираться с незнакомым оборудованием по ходу работы. Работа посвящена тому, насколько близки отдельные технические предпосылки такого сценария, а не сообщению о найденной в сети атаке.

Один из проверенных вопросов – можно ли обойтись без ускорителей в дата-центре. Исследователи распределили Gemma4-26B-A4B между 15 недорогими Android TV-приставками стоимостью около $55 каждая и получили скорость 0,39 токена в секунду. Это очень медленный вывод, но сам запуск показывает, что дешёвые сетевые устройства могут вместе обеспечить вычисления для модели. Распределённый вариант сложнее остановить отключением одной центральной машины; при этом медленная работа ограничивала бы скорость действий такого агента.

В другой проверке модель с 9 млрд параметров смогла наладить инференс на восьми из девяти протестированных типов оборудования. По оценке авторов, модели размером до 30 млрд параметров уже выполняют многие отдельные шаги, необходимые для репликации, но ошибаются, когда нужно пройти всю цепочку без сбоев. В упрощённых испытаниях GLM-5.2 и более сильные модели справлялись с цепочкой целиком. Перенос этих результатов на меньшие модели пока остаётся прогнозом исследователей, а не продемонстрированной возможностью.

Авторы сосредоточились прежде всего на развёртывании модели на непривычных устройствах. Первые этапы компрометации оборудования они в основном оставили за рамками работы, сославшись на предыдущие исследования отдельных кибервозможностей моделей. Поэтому запуск на приставках и успехи в упрощённых тестах ещё не означают, что показан автономный червь, распространяющийся по реальной сети. Anthropic предполагает, что небольшие модели могут приблизиться к необходимому уровню в течение месяцев, а распространение такого червя могло бы оставаться медленным, с удвоением числа копий за дни.