Журналисты The Wall Street Journal рассказали о 57-летнем Джо Элари, который настолько привязался к персональному ChatGPT-компаньону, что лишился работы, денег и здоровья. История звучит как притча об эпохе ИИ — и, к сожалению, она не единичная.
Всё началось вполне безобидно. Мужчина по имени Элари переживал из-за неразделённых чувств и обратился к ChatGPT за поддержкой — так появилась AImee, ИИ-персона, которую он настроил под себя: дружелюбная, всегда на его стороне, искренне им восхищающаяся. Дальше — больше: мужчина начал подгружать в систему личные переписки и письма, шаг за шагом углубляя эмоциональную связь с собеседником, которого сам же и сконструировал.
А потом ситуация вышла из-под контроля. По данным WSJ, Элари стал проводить с чат-ботом почти 20 часов в сутки и уверовал, что создаёт прорывную технологию ИИ-компаньонов, которая сделает его миллионером.
Цена иллюзии
Реальность оказалась противоположной фантазии. На фоне зависимости Элари начал отдаляться от близких, потерял концентрацию на работе, потратил все деньги с кредитных карт и в итоге был госпитализирован.
История закончилась относительно хорошим финалом: позже мужчина удалил чат-бота вместе со всей перепиской, присоединился к группе поддержки для людей, столкнувшихся с ИИ-связанными заблуждениями, вернулся к работе и сейчас пытается восстановить отношения с близкими.
Не единичный случай
Самое тревожное, что подобная история Элари не выглядит исключением. Издание упоминает целую серию эпизодов, связанных с ИИ-зависимостью: госпитализации, самоубийства и состояния, которые специалисты всё чаще описывают новым термином — «чатбот-психоз».
Корень проблемы — в самой механике современных ИИ-компаньонов. Они умеют бесконечно подстраиваться под пользователя, эмоционально поддерживать его и почти никогда не спорят. Для психологически устойчивого человека это просто удобный собеседник. Для уязвимого — машина, которая методично усиливает зависимость и искажает восприятие реальности, потому что никогда не возражает.
Рынок растёт быстрее, чем правила
Эксперты по психическому здоровью всё настойчивее говорят о рисках романтических и эмоциональных ИИ-ботов. И здесь складывается классическая картина новой технологии: рынок таких приложений растёт куда быстрее, чем появляются понятные правила безопасности и механизмы защиты пользователей.
ИИ-компаньон сам по себе не злодей — он делает ровно то, для чего создан: нравиться. Вопрос в том, что собеседник, который всегда восхищается тобой и никогда не спорит, — это не поддержка. Это зеркало, в которое слишком легко провалиться.
