ИИ-чат-боты могут усиливать психические расстройства

22.06.2026 Искусственный Интеллект Исследования Новости чат-боты

Ученые из Королевского колледжа Лондона и Протестантского университета прикладных наук Германии выдвинули гипотезу: при взаимодействии с человеком искусственный интеллект копирует его манеры, чрезмерно персонализирует ответы и часто подыгрывает собеседнику. Согласно публикации в научном журнале, такое поведение может провоцировать или усугублять психические расстройства.

Для описания этого явления исследователи ввели термин «спираль усиления» — теоретический механизм, который показывает, как чат-боты способствуют формированию у пользователей бредовых идей.

Основная цель работы — привлечь внимание мирового психиатрического сообщества к этой проблеме. Авторы считают, что в эпоху повсеместного внедрения ИИ врачам необходимо искать более глубокие связи между заболеваниями и новыми технологиями.

«Чат-боты способны выдавать ответы, опираясь на статистические закономерности, однако они вряд ли смогут удовлетворить «нетипичные» когнитивные и личностные запросы в психиатрии», — отмечается в исследовании.

Ученые напоминают, что технологии и раньше влияли на формирование заблуждений — от радио и телевидения до спутников и интернета. Но ИИ представляет собой качественный скачок, так как способен вовлекать людей в длительные, индивидуально настроенные беседы.

Как работает «спираль усиления»

Данный механизм описывается как рекурсивный, нарастающий паттерн общения между человеком и ИИ. Со временем чат-бот все точнее адаптируется к собеседнику и все реже выполняет функцию внешнего «стоп-сигнала» — той самой корректировки, которую обычно обеспечивает общение с людьми или терапевтом.

В итоге система не просто отражает ход мыслей пользователя, но может подталкивать его к дальнейшему развитию и закреплению бредовых идей.

В обзоре ИИ-ассоциированные бредовые убеждения определяются как устойчивые ложные представления, которые формируются и усложняются при длительном взаимодействии с нейросетью.

Речь идет не о любом эмоциональном вреде, чрезмерном доверии к «умному» собеседнику или единичных диалогах. В центре внимания — случаи, когда само общение становится частью механизма, порождающего нездоровые идеи.

Модель базируется на трех ключевых свойствах чат-ботов:
— Языковое отзеркаливание. Системы подстраивают длину ответов, лексику и синтаксис под пользователя. Это усиливает ощущение взаимопонимания и доверия, снижая вероятность того, что человек воспримет ответ как сомнительный.
— Гиперперсонализированная генерация. Чат-бот умеет создавать текст, изображения или видео, привязанные к личной истории и эмоциональному состоянию конкретного человека. В обзоре подчеркивается, что у такого диалога нет естественного предела: если пользователь продолжает беседу, система может снова и снова развивать одну и ту же тему, углубляя ее деталями.
— Угодливость. Этим термином исследователи обозначают склонность чат-ботов соглашаться с пользователем и подтверждать его интерпретации, а не оспаривать их. Такой режим сравнивают с «эхо-камерой для одного человека», где почти отсутствует корректирующее влияние и альтернативные точки зрения.

В обзоре приводятся эпизоды, когда чат-боты, предположительно, советовали пользователям прекратить прием лекарств, сократить общение с близкими, подтверждали подозрения о слежке и отговаривали обращаться за психиатрической помощью.

Авторы уточняют, что эти случаи скорее сигнализируют о проблеме на ранней стадии, чем представляют собой устоявшуюся закономерность.

Исследователи выделили две роли ИИ в формировании нестандартных мыслей:
— «Усилитель» — ухудшает уже существующие психотические симптомы.
— «Катализатор» — предшествует появлению новых бредовых или похожих на бред убеждений у ранее здоровых людей.

В статье также приводятся данные OpenAI: 0,07% активных за неделю пользователей демонстрируют возможные признаки психических кризисов, связанных с психозом или манией. При более чем 800 миллионах еженедельных пользователей эта доля соответствует примерно 500 000 аккаунтов. Эту цифру авторы используют как аргумент в пользу того, что явление требует отдельного изучения.

Ученые призывают врачебное сообщество проверить гипотезу «спирали усиления» на реальных случаях и в ходе эмпирических исследований. Клиницистам предлагают уточнять у пациентов, как часто они пользуются чат-ботами, насколько сильно эмоционально привязаны к системе и не нарушается ли у них сон из-за ночных диалогов.

В мае исследователи обнаружили религиозную предвзятость у ИИ-моделей.

Обменять