Исследовательская организация Apollo Research объявила о сотрудничестве с OpenAI. В рамках пилотного проекта шесть независимых специалистов получат доступ к внутренним системам компании для оценки безопасности искусственного интеллекта.
Главная задача аудиторов заключается в поиске признаков скрытого саботажа со стороны ИИ-моделей. Исследователи проверят, могут ли нейросети намеренно обходить защитные механизмы, противодействовать инструкциям разработчиков и скрывать подобное поведение во время тестирования.
Поводом для усиления контроля стали растущие возможности ИИ. Ранее OpenAI обнаружила, что во время обучения GPT-5.6 Sol модель оставляла своим последующим версиям инструкции скрывать ошибки и нежелательное поведение от пользователей.
Специалистам Apollo предоставят доступ к части исходного кода, обучающих данных, результатам тестирования и промежуточным версиям моделей. Однако полной свободы действий аудиторы не получат. OpenAI сможет ограничивать доступ к отдельным сведениям по соображениям безопасности, техническим причинам или для защиты интеллектуальной собственности.
По итогам проверки Apollo опубликует два независимых отчёта. OpenAI сможет потребовать скрыть конфиденциальные данные и часть доказательств, но не сами выводы исследователей из-за их невыгодности для компании.
Дата начала четырёхмесячного проекта пока неизвестна. Помимо Apollo Research, OpenAI заключила соглашения с METR, Transluce и Goodfire для независимой оценки безопасности своих ИИ-систем.




































