Apple удалила из App Store 19 приложений со скрытыми инструментами создания дипфейков сексуального и насильственного характера после получения результатов журналистского расследования.
Журналисты Wired раскрыли сеть из более чем 400 связанных доменов и приложений, предположительно созданную одной китайской организацией. Приложения сети были доступны в App Store и Google Play. Они маскировались под сервисы изучения языков, ИИ-тренеров и инструменты для добавления одежды на фотографии питомцев, такие как Viefur.
При определённых условиях серверная проверка активировала скрытый веб-интерфейс. Одним из возможных условий была установка приложения после перехода по рекламе дипфейков. Пользователи загружали фотографии, получали доступ к десяткам шаблонов изображений и видео и покупали кредиты для генерации.
Скрытые инструменты позволяли создавать сексуальные изображения и видео, в том числе сцены сексуального насилия и угроз с оружием. Часть приложений существовала около года. Они проходили проверки Apple, Google и Meta, несмотря на запрет вредоносных дипфейков в правилах этих компаний.
Apple заявила, что на момент проверки приложения соответствовали её правилам. После одобрения разработчики заменили содержимое подключённых сайтов порнографическими материалами и продвигали их через рекламу на сторонней платформе.
