Anthropic может вернуть Claude Fable 5 в публичный доступ только после того, как устранит способы обхода защитных ограничений модели. Об этом пишет Wired со ссылкой на представителей администрации США.
По данным издания, власти считают, что компания должна действовать проактивно: постоянно тестировать свои передовые модели, искать потенциальные джейлбрейки и самостоятельно сообщать о них регуляторам.
В администрации также заявили, что не намерены спорить о серьёзности проблемы после того, как возможность обхода ограничений Fable 5 подтвердило Агентство национальной безопасности США.
Anthropic с такой оценкой не согласна. Компания утверждает, что выявленные обходы были узкими, а их последствия минимальны. По версии Anthropic, похожие возможности есть и у других публично доступных моделей, включая решения конкурентов.
Эксперты по кибербезопасности, считают требование властей нереалистичным. Полностью исключить джейлбрейки для современных ИИ-моделей, по их словам, невозможно: защитные механизмы можно усиливать, но не сделать абсолютно неуязвимыми.
В июне Anthropic отключила Fable 5 и Mythos 5 после директивы правительства США об экспортном контроле. Формально ограничение касалось доступа иностранных граждан, но на практике компания отключила обе модели для всех пользователей, чтобы выполнить требование
