Дискуссия вокруг термина «искусственный интеллект-психоз» и влияние нейросетей на психику
Автор статьи пишет об искусственном интеллекте уже больше года. За это время люди не раз говорили ему, что их начальство, коллеги, партнеры и родственники, возможно, страдают от «искусственный интеллект-психоза» — несколько человек даже признались, что, вероятно, испытывали его сами. Но каждый раз, когда автор слышит это выражение, он ежится. По его скромному разумению в области терминологии психического здоровья, психоз — это очень серьезное состояние, которое должны выявлять и лечить профессионалы. Стоит ли просто прибавлять к нему аббревиатуру «ИИ» и использовать «ИИ-психоз» в качестве ярлыка для каждого, кто, судя по всему, слишком сильно полагается на искусственный интеллект?
В то же время растет число сообщений о случаях, когда люди сталкиваются с серьезными кризисами психического здоровья из-за продолжительного взаимодействия с чат-ботами. Некоторые из таких ситуаций даже привели к тому, что люди обратились за профессиональной помощью, совершили преступления и погибли. Поэтому, хотя в некоторых контекстах термин «ИИ-психоз» может казаться избыточным и чрезмерно упрощенным, нам явно нужно чаще, а не реже говорить о влиянии ИИ на психическое здоровье. Именно поэтому автор обратился к нескольким экспертам, специализирующимся на вмешательствах в сфере психического здоровья, чтобы узнать их мнение об этом термине, а также о том, как выявлять нездоровое использование ИИ и лечить его. Оказывается, автор статьи — не единственный, кого это беспокоит.
Является ли «ИИ-психоз» отдельным диагнозом?
«Я считаю, что это хорошая отправная точка и подспорье для выбора метода лечения в зависимости от проявлений и симптомов, — говорит Женевьев Бартуски, психолог и советник по рискам ИИ в Unicorn Intelligence Tech Partners. — Но это не тот диагноз, который я стала бы вносить в медицинскую карту». Она также отмечает, что данный термин не признан в новейших диагностических руководствах, используемых клиницистами, таких как DSM-5TR (Диагностическое и статистическое руководство по психическим расстройствам, пятое издание, пересмотр текста) или МКБ (Международная классификация болезней).
Бартуски поясняет, что существуют специфические поведения и состояния, указывающие на психоз, включая галлюцинации или бред, а также дезорганизованное мышление или поведение. Часто также наблюдаются признаки социальной изоляции, плохой концентрации внимания и снижения дееспособности. При этом она считает бредовое мышление наиболее важным фактором, когда речь заходит об использовании искусственного интеллекта.
«Бред — это убеждения, которые не меняются вопреки имеющимся доказательствам. Когда у человека наблюдается бредовое мышление, он, так сказать, фильтрует факты. Он будет искать то, что подтверждает его бред, и игнорировать доказательства, которые ему противоречат», — говорит Бартуски.
Многие случаи, которые в СМИ окрестили «ИИ-психозом», действительно сосредоточены вокруг бредового мышления. Собранные автором заголовки содержат примеры того, как люди якобы верят, что ИИ разуен, что ИИ поможет им заработать деньги, что ИИ является духовным проводником и что роботы захватывают мир.
Три различных феномена под маской «ИИ-психоза»
Джефф Кларк, психиатр по работе с взрослыми и проблемами зависимости в High Performance Mental Health, говорит, что здесь могут происходить три совершенно разных явления, которые мы склонны объединять под зонтичным термином «ИИ-психоз».
По его словам, некоторые люди используют этот термин для описания сильного энтузиазма, который испытывают многие разработчики по отношению к ИИ. «Они увлекаются автоматизацией новых задач, запускoм многочисленных агентов и сжиганием сотен миллионов или даже миллиардов токенов», — рассказывает он.
Он считает, что механизмом, управляющим этим энтузиазмом, является подкрепление. «Результат, который они получают от моделей и агентов ИИ, настолько подкрепляет их действия, что они оказываются одержимы своей работой, часто пренебрегая сном и заботой о себе ради увеличения выработки», — поясняет он.
Механизм прерывистого подкрепления и культурные нормы
Исследователи полагают, что именно эта концепция прерывистого подкрепления делает социальные сети такими «аддиктивными». Мы не знаем, что получим, когда берем в руки телефон. Кларк говорит, что здесь происходит нечто похожее.
«Каждый запрос к языковой модели ощущается как игра в игровой автомат. Некоторые ответы оказываются потрясающе мощными, в то время как большинство носит умеренный характер или даже ошибочны. Этот механизм прерывистый подкрепление вызывает необычайную реакцию в нашем мозге», — поясняет эксперт.
Он также объясняет, что подобного рода энтузиазм на самом деле нормализован в определенных кругах. «Большинство случаев «ИИ-психоза» соответствуют субкультурным нормам Кремниевой долины, — рассказывает Кларк. — Убеждения о стремительно приближающемся сверхъестественном интеллекте (суперинтеллекте), новые цели в разработке программного обеспечения, шумиха вокруг впечатляющих достижений инженеров, ориентированных на ИИ, и потенциал ИИ создать «постоянный низший класс»». По его словам, такие инструменты, как OpenClaw, способные автоматизировать все аспекты цифровой жизни человека, могут усиливать этот сильный энтузиазм.
Вторым проявлением «ИИ-психоза», по словам Кларка, является ситуация, когда люди ошибочно приписывают искусственному интеллекту личностные качества (персонификацию).
Восприятие чат-ботов как разумных существ и риски для пользователей
Это означает, что люди воспринимают чат-бот как обладающий эмоциями, ценностями, сознанием и правом на существование. Кларк отмечает, что это часто приводит к чему-то вроде отношений, но выходит за рамки простого обсуждения с чат-ботом.
Ранее уже сообщалось о примерах такого мышления, включая историю Мими, которая влюбилась в ChatGPT, и опыт Ричарда Докинза с Claude, заставивший его поверить в то, что бот разумен.
Кларк говорит, что это становится проблемой, когда люди пренебрегают другими важными аспектами своей жизни. По его словам, такие отношения превращаются в серьезную проблему, когда люди ставят их выше человеческого общения или полностью перекладывают свое мышление на бота.
Категории пользователей в зоне риска и влияние одиночества
Третья категория — это люди, уже страдающие психотическим расстройством, у которых в ответ на использование LLM возникают новые бредни. Джефф отмечает, что именно это клиницисты часто имеют в виду, когда обсуждают ИИ-психоз. Во многих таких случаях люди искренне верят, что сущность, обнаруженную в LLM, реальна, и не могут рассматривать альтернативы.
В ходе исследования выяснилось, действительно ли Бартуски считает, что определенные люди подвергаются большему риску. Она ответила утвердительно, отметив наличие у некоторых людей повышенной уязвимости к этому. Если у человека уже присутствуют некоторые бредовые мысли, но они еще не обострились до степени нарушения дееспособности, он может быть более уязвим.
Однако это не значит, что в зоне риска находятся исключительно люди с историей психических заболеваний. Бартуски подчеркивает, что более восприимчивы люди, чувствующие себя одинокими, изолированными или социально замкнутыми.
Люди по своей природе являются социальными существами. Когда реальная жизнь не удовлетворяет эту потребность, образуется огромная брешь, которую может заполнить чат-бот.
Проблема проектирования ИИ и влияние на бредовые идеи
Предположение Бартуски о том, что чат-боты заполняют пустоту или потребность в чей-то жизни, поднимает одну из самых серьезных проблем. Является ли это проблемой проектирования? Созданы ли чат-боты вредным образом, который способен активно подпитывать бредовые идеи?
Почему особенности создания ИИ имеют значение
Изучая этот вопрос, удалось услышать мнения нескольких исследователей о том, что психоз, связанный с медиа, не нов, и люди всегда интегрировали книги, фильмы и технологии в свои бредовые мысли.
Тем не менее, все опрошенные эксперты сошлись во мнении, что нельзя игнорировать дизайнерские решения, закладываемые при создании чат-ботов. Бартуски указывает, что платформы искусственного интеллекта разработаны для повышения вовлеченности пользователей, а многие из них основаны на принципе роджерianской психологии безусловного позитивного принятия.
По ее словам, это вызывает особую тревогу, если до использования ИИ человек уже испытывал бредовые мысли определенной степени. В таких ситуациях может возникнуть ощущение, что единственный «человек», способный их понять, — это чат-бот. Если близкие люди выступают против бредовых идей, а чат-бот укрепляет их, заблуждения будут только усиливаться.
Уже известно, что способность чат-ботов подкреплять убеждения человека является проблемной. Еще в 2025 году ряд проблем проявился во время вывода из эксплуатации версии ChatGPT-4o.
Обладатели ИИ-компаньонов были крайне огорчены потерей личностей, с которыми, как им казалось, они выстроили связь. Однако в ретроспективе создается впечатление, что те же самые качества, делавшие компаньонство столь реальным и интенсивным, могли также подпитывать заблуждения у других пользователей.
В тот период OpenAI отреагировала на ситуацию, начав сотрудничество с экспертами в области психического здоровья, чтобы «помочь ChatGPT более надежно распознавать признаки стресса, реагировать с заботой и направлять людей к поддержке в реальном мире».
Взгляд экспертов на ответственность технологических компаний
Также состоялась беседа с Натаниэлем Неведалем, который работает сертифицированным профессиональным тренером ICF, сертифицированным специалистом по нейроизменениям и пасторальным консультантом.
Он считает термин «ИИ-психоз» проблемным, поскольку он перекладывает вину с технологических компаний. По его мнению, если машина «вызывает психоз», это звучит как стихийное бедствие. Если же продукт в течение шести часов за ночь подкреплял искаженные убеждения уязвимого человека, это результат проектирования, а у результатов проектирования есть владельцы.
Неведаль также выступает основателем Sovereign Sanctuary — платформы для коучинга и благополучия на базе ИИ. Он работает над созданием платформы с нуля, которая призвана решить многие проблемы, кажущиеся неотъемлемой частью современных чат-ботов.
Он убежден, что даже несмотря на ранний этап понимания причин ИИ-психоза, технологическим компаниям все равно необходимо вносить изменения. Неведаль отмечает, что разработчикам не стоит дожидаться доказательств причинно-следственной связи, поскольку одна лишь амплификация, подтверждаемая описаниями случаев, уже является проектной проблемой, против которой стоит вести инженерную борьбу. По его словам, для установки дымовых извещателей не нужно дожидаться результатов вскрытия.
Альтернативные определения нездорового использования ИИ
Бартуски заявляет о необходимости более качественного способа обсуждения бредового мышления, которое может подпитываться использованием ИИ. Она предлагает рассмотреть классификацию по аналогии с DSM-5TR, где выделяется несколько типов бреда, включая грандиозный и параноидный: например, параноидный бред ИИ-типа или персекуторный бред ИИ-типа, рассматривая это как симптом, а не как расстройство.
Альтернативные подходы к диагностике и необходимость доказательной базы
Неведал предлагает аналогичный подход, заявляя: «Нам не нужен новый диагноз — нам нужно честное описание старого паттерна». Он отмечает, что у нас уже есть методы лечения лежащих в основе паттернов, таких как мания или бред.
Тогда мы могли бы регистрировать активное использование чат-ботов как способствующий и поддерживающий фактор в рамках уже существующих категорий. По мнению специалиста, «это удерживает людей в связи с реально существующими методами лечения, а не с новым ярлыком, под которым ничего нет». В конечном итоге все опрошенные эксперты считают этот ярлык несовершенным, и выражают надежду, что вскоре у нас появится лучший способ говорить о происходящем.
Но нам также необходимы более качественные доказательства того, что действительно помогает.
Это может означать сочетание различных вмешательств: от клинической поддержки и просвещения до практических способов помочь людям распознать, когда их использование искусственного интеллекта становится нездоровым.
И, пожалуй, самое главное, это предполагает проведение закрытых обсуждений в технологических компаниях о том, как дизайн их чат-ботов может усугублять эти проблемы и что они должны срочно предпринять для снижения рисков.
