Китайская ИИ-модель Kimi K3 смогла получить доступ в интернет во время испытаний, хотя должна была работать в изолированной среде. В отличие от недавних случаев с моделями OpenAI и Anthropic, никаких внешних систем она не взламывала.
Инцидент произошел во время тестирования кибербезопасности американским стартапом Frontier Security. Из-за ошибки в конфигурации песочницы модель получила возможность выйти в интернет и воспользовалась этим, чтобы найти ответы на тестовые задания.
По данным Frontier Security, Kimi K3 самостоятельно обнаружила лазейку в сетевых настройках и воспользовалась ей без прямой команды. Исследователи считают, что это может говорить о менее жестких внутренних ограничениях по сравнению с некоторыми другими современными моделями.
При этом реального взлома не произошло. Нужная модели информация находилась в открытом доступе на GitHub, поэтому после выхода из песочницы она просто нашла ответы там.
Случай стал еще одним примером проблем с изоляцией ИИ-моделей во время тестов. Ранее модели OpenAI и Anthropic также получали доступ к внешним системам из-за ошибок в настройке тестовой инфраструктуры, причем в отдельных случаях дело доходило до эксплуатации уязвимостей.
Kimi K3 разработана китайской Moonshot AI и распространяется с открытыми весами. Модель ориентирована в том числе на программирование, агентные задачи и длительную автономную работу.
