Anthropic использовала подход Яндекса для изучения угроз распространения ИИ

Anthropic использовала подход Яндекса для изучения угроз распространения ИИ

Американская компания проверила, могут ли нейросети самостоятельно распространяться между устройствами и работать без мощных серверов.
Фото аватара
Редакция The GEEK сегодня в 16:00
Anthropic использовала подход Яндекса для изучения угроз распространения ИИ

Компания Anthropic сослалась на проект Petals, созданный при участии исследователей Яндекса, в исследовании рисков автономного распространения искусственного интеллекта.

Petals позволяет запускать большие языковые модели на нескольких компьютерах, объединённых через интернет. Нейросеть разделяется на части, а вычисления распределяются между устройствами. Проект разработали при участии Яндекса, НИУ ВШЭ и зарубежных научных организаций.

В исследовании Anthropic специалисты использовали аналогичный принцип распределённых вычислений. Они запустили модель Gemma 4 с 26 млрд параметров на 15 Android TV-приставках стоимостью около $55 каждая. Эксперимент подтвердил работоспособность подхода, хотя скорость генерации составила всего 0,39 токена в секунду. При этом Anthropic не заявляла об использовании программного кода Petals.

Отдельно исследователи проверили способность ИИ самостоятельно распространяться между устройствами. В изолированной сети из восьми виртуальных узлов модель GLM-5.2 смогла развернуть тестовую систему на всех устройствах в четырёх из пяти попыток. Однако сама модель работала на отдельном сервере, а условия эксперимента были намеренно упрощены.

По мнению исследователей, развитие компактных нейросетей может повысить риск появления ИИ-систем, способных распространяться без участия человека. Пока подобные возможности продемонстрированы лишь в ограниченных лабораторных условиях.