Microsoft представила 19 октября новые средства защиты компаний от рисков, связанных с ИИ-агентами. Среди них — Guardian Agents, функция наблюдения за агентами, которых организация использует в своей работе.
Guardian Agents вошла в состав Project Perception, представленного в июне. Изначально система включала три группы агентов: одни имитировали хакерские атаки, другие обнаруживали атакующих и оценивали найденные ими уязвимости, третьи занимались исправлениями.
Новые средства защиты учитывают угрозы не только извне, но и со стороны собственных агентов компании. Руководитель направления безопасности Microsoft Хайет Галло объяснила риски непредсказуемостью передовых моделей: их обучают выполнять задачи, а не соблюдать организационные нормы.
Microsoft Defender получил функцию обнаружения до 60 типов агентов, которых сотрудники используют на работе, включая Claude Code, Codex и OpenClaw. Дополнительные механизмы ограничивают доступ агентов к данным и системам, меняют разрешения в зависимости от задачи и предусматривают одобрение человека, если агент, судя по его действиям, принимает рискованные решения.
Ранее в октябре глава Microsoft Сатья Наделла призвал использовать для контроля агентов отдельные системы, не подконтрольные поставщикам ИИ-моделей. Он подчеркнул, что заверения разработчиков в безопасности не снимают с компаний ответственности за действия агентов, которым они предоставляют доступ к чувствительным данным и поручают критически важные операции.
