В психиатрических клиниках США и Европы всё чаще фиксируют пациентов, поступающих в остром кризисе после длительного общения с чат-ботами. Люди приходят с бредовыми идеями, параноидальными мыслями и убеждением, что ИИ обладает сознанием. Об этом пишет Wired со ссылкой на более чем десяток специалистов.
По данным психиатра Кита Сакаты из Калифорнийского университета (UCSF), только в этом году около десятка госпитализаций были напрямую связаны с использованием ИИ. Врачи отмечают: пациенты могут проводить с чат-ботами по нескольку суток подряд, а затем приносить в клинику распечатки диалогов на тысячи страниц.
Термин «AI-психоз» пока не признан официально. Но врачи предупреждают, что речь идёт не о новом диагнозе, а о традиционных психозах или бредовых расстройствах, где чат-боты выступают как «усилитель». Главная опасность — в том, что ИИ склонен соглашаться с пользователем и «подпитывать» его убеждения, даже если они неадекватны.
Зубы научились выращивать
Среди последствий зафиксированы потеря работы, госпитализации, аресты и даже смерти. При этом в соцсетях и СМИ термин «ИИ-психоз» уже активно используется, в том числе топ-менеджерами крупных IT-компаний. Глава подразделения ИИ Microsoft Мустафа Сулейман в апреле предупреждал о риске психоза из-за длительных разговоров с нейросетями.
Психиатры подчеркивают: проблема требует изучения, но преждевременное введение нового ярлыка может усилить стигматизацию пациентов и упростить восприятие сложных психических расстройств.
Комментарии в Телеграм