Anthropic опубликовала исследование о риске появления ИИ-агентов, способных самостоятельно копировать себя на другие устройства без участия человека. По оценке компании, небольшие модели могут приблизиться к необходимому уровню возможностей уже к концу 2026 года.
Исследователи рассматривают сценарий своеобразного «ИИ-червя». Такой агент сможет находить доступные устройства, переносить на них модель или её компоненты, запускать себя и продолжать распространение.
В качестве потенциальных целей называются плохо защищённые IoT-устройства: Android TV-приставки, камеры, умные холодильники, духовки, роботы-пылесосы и другая техника с собственными вычислительными ресурсами.
В эксперименте Anthropic модель с 9 млрд параметров смогла самостоятельно настроить запуск ИИ на восьми из девяти протестированных типов оборудования. Отдельно исследователи запустили модель на группе из 15 недорогих Android TV-приставок.
Полный цикл самовоспроизведения пока остаётся сложной задачей. В упрощённом эксперименте пройти его смогла GLM-5.2, тогда как более компактные модели регулярно ошибались. Anthropic считает, что при сохранении текущих темпов развития небольшие модели могут достичь сопоставимого уровня возможностей к концу года.
При этом исследование не означает, что полноценный автономный ИИ-червь уже существует. В тестах этап взлома устройств был намеренно упрощён, а сами агенты на слабом оборудовании работали медленно. По оценке Anthropic, одно новое заражение в таком сценарии может занимать больше суток.
Главным отличием от обычных ботнетов исследователи называют способность ИИ самостоятельно разбираться с незнакомым оборудованием и адаптировать способы распространения. Из-за отсутствия единого центра управления такой распределённый агент потенциально будет сложнее полностью отключить.
