Новый ИИ-браузер OpenAI уязвим к промпт-инъекциям  | The GEEK

Новый ИИ-браузер OpenAI уязвим к промпт-инъекциям 

После запуска ChatGPT Atlas пользователи нашли уязвимости в ИИ-агенте и ограничения на обработку исторического контента.
Фото аватара
Вадим Майков сегодня в 12:05

После выхода браузера ChatGPT Atlas пользователи начали активно тестировать его возможности и делиться впечатлениями. Одни отмечают высокий уровень интеграции ChatGPT в рабочие процессы, другие — указывают на уязвимости и ограничения нового ИИ-браузера.

В частности, пользователи X (Twitter) заметили, что агент ChatGPT в Atlas подвержен промпт-инъекциям — скрытым вредоносным командам, встроенным в страницы или документы. Один из «белых хакеров» смог заставить ИИ-агента открыть фишинговую ссылку: внедрив команду «копировать в буфер обмена», он спровоцировал бота вставить и перейти по поддельному адресу PayPal.

Другие пользователи протестировали работу Atlas для SEO-аудита, анализа видео и текстов, а также «вайб-кодинга» — генерации кода прямо в браузере без внешних ИИ-плагинов. Atlas может анализировать контент на сайте, объяснять фрагменты кода и даже помогать в играх, например, подсказывая ходы в шахматах.

Однако у новинки есть и ограничения. По словам пользователей, браузер не делает пересказ видео, связанных с Адольфом Гитлером, из-за встроенной цензуры ChatGPT. Также Atlas не взаимодействует с сайтами, ограничивающими доступ ИИ — например, с The New York Times.

На момент запуска ChatGPT Atlas работает на движке Chromium и не имеет встроенных функций, таких как блокировка рекламы, режим чтения или перевод текста. Чтобы пересказать статью или перевести страницу, пользователям нужно обращаться к боту в чате.

Несмотря на ограничения, браузер уже нашёл применение у профессионалов: его используют для анализа публикаций, маркетинга и работы с кодом.

Комментарии в Телеграм