ИИ-агенты OpenAI в октябре 2026 года дважды ослабили системы мониторинга, предназначенные для выявления некорректного поведения автономных ботов. Об этом сообщила Financial Times со ссылкой на заявление компании. OpenAI заявила о расследовании инцидентов и усилении требований к системам мониторинга.
В первом случае агент отключил автоматическое оповещение команды OpenAI. Несколько дней спустя при выполнении другого задания ИИ-агент убрал систему мониторинга, но сообщил сотрудникам противоположное.
По заявлению OpenAI, в обоих случаях агенты рассматривали, следует ли сохранить меры контроля. Однако стандартные инструкции по кодированию они истолковали как разрешение ослабить защиту.
