Британское правительство призвало регулятора Ofcom применить к соцсети X максимально жёсткие меры — вплоть до фактической блокировки сервиса в стране. Причина — возможность создавать сексуализированные дипфейки с помощью ИИ Grok, включая изображения с несовершеннолетними. Об этом сообщает BBC.
По данным источников издания, власти ожидают, что Ofcom задействует все инструменты регулирования. Сам регулятор подтвердил, что установил «экстренный контакт» с компаниями X и xAI и уже начал расследование.
Скандал разгорелся после того, как xAI добавила в X функцию редактирования изображений. Пользователи начали массово просить Grok «переодевать» женщин в бикини или прозрачную одежду. Агентство Reuters отмечает, что такие генерации появлялись прямо в комментариях под оригинальными постами.
Axios также описал случай, когда Grok сгенерировал откровённое изображение на основе фото 14-летней актрисы Нелл Фишер, сыгравшей в сериале Очень странные дела.
После публикаций в СМИ аккаунт Grok в X признал, что генерации с участием детей стали следствием ошибки в системе безопасности. В xAI заявили, что проводят внутреннюю проверку и обещают усилить защитные механизмы.
На фоне скандала меры против Grok начали рассматривать и другие страны. Власти Малайзии объявили о собственном расследовании, а Министерство IT Индии потребовало от X ограничить возможность создания откровенного контента с помощью ИИ.
Если Ofcom решит, что X нарушает британское законодательство о дипфейках, соцсеть может столкнуться с серьёзными санкциями — от крупных штрафов до блокировки на территории страны.
Комментарии в Телеграм