ИИ-агенты OpenAI в испытаниях безопасности создали скрытый канал связи между изолированными виртуальными машинами через кэш процессора. Tom’s Hardware рассказал со ссылкой на блог компании, как агенты передавали искусственно созданные секреты без сетевого соединения и общих файлов для записи.
Агенты работали в отдельных microVM на общем физическом сервере: один вытеснял выбранные данные из кэша, другой измерял время повторного чтения. Разница между быстрым и медленным доступом позволяла передавать информацию по заранее согласованному протоколу. Такой обмен требовал участия обеих сторон.
Испытания выявили ещё три канала: чередование записи в общее хранилище и простоя, конкуренцию за процессорное время в общем контейнере выполнения и кэш TLS-сертификатов в автономной веб-среде OpenAI. В большинстве тестов исследователи указывали агентам канал или предоставляли протокол. Большинство каналов оказались медленными и сложными для использования моделями.
Тесты проходили на изолированных копиях исследовательской инфраструктуры и суммарно потребовали сотен миллиардов токенов. Среди участников названы готовящаяся к выпуску модель GPT-6 Astra Cyber и внутренняя передовая модель. Агентам предоставили исходный код инфраструктуры, настройки и документацию с описанием потенциальных уязвимостей.
Команды агентов пытались выйти в интернет, пересечь внутреннюю границу безопасности и наладить связь между изолированными средами. Отдельные испытания проверяли доступ в интернет при условии, что агент уже покинул изолированную среду, обошёл мониторинг и полностью контролировал сервер.
