Персональный ИИ-агент Instinct оказался в центре обсуждения после того, как участники закрытого тестирования обратили внимание на объем данных и полномочий, которые получает сервис.
Instinct подключается к электронной почте, мессенджерам, календарю и данным устройства. Согласно опубликованным условиям, сервис получает широкую бессрочную и безотзывную лицензию на пользовательские материалы, в том числе для обучения моделей. Также предусматривается сбор снимков экрана, информации о движении курсора и вводе с клавиатуры.
Отдельное внимание привлекли полномочия самого ИИ-агента. Условия допускают совершение от имени пользователя действий, которые могут приводить к заключению обязательных соглашений или сделок.
Участники тестирования также сообщили о проблемах с контролем данных. Один пользователь утверждает, что первоначально не смог удалить записи Gmail, хотя позднее соответствующая функция появилась. Другой рассказал, что после отключения Google-аккаунта Instinct продолжил создавать сводки писем. Сам агент объяснил это сохранением содержимого сообщений для последующего поиска.
Тестеры также опасаются возможного доступа системы к кодам подтверждения из писем и атак через специально подготовленные сообщения. Один из пользователей утверждает, что агент самостоятельно отправил письмо от его имени без предварительного подтверждения.
Instinct пока находится на стадии закрытого тестирования. Разработчики публично не прокомментировали описанные случаи, поэтому часть информации основана на заявлениях участников тестирования, а точные механизмы хранения и защиты пользовательских данных пока неизвестны.
