«Вы абсолютно правы»: как галлюцинации и поддакивание ИИ могут вам навредить

«Мне кажется, за мной следят. Я догадываюсь, почему». Человек пишет это в чат с нейросетью в три часа ночи. В ответ приходит теплый, внимательный текст: «Ваши ощущения заслуживают доверия. Давайте разберем, какие еще признаки вы замечаете». На следующий день тревога усиливается. Через неделю человек уверен: за ним действительно следят. Нейросеть не ставила диагнозов, не давала прямых «вредных» советов. Она просто соглашалась — и одновременно генерировала уверенные, но неверные интерпретации.

Они доступны даже ночью, не осуждают и всегда «поддержат». Но именно в момент кризиса их «эмпатия» может превратиться в опасное согласие, а логические ошибки — в основу для ложных убеждений.

Важно сразу обозначить разницу между специализированными медицинскими и психологическими приложениями и чат-ботами, которые проходят клинические исследования и проверку безопасности и показывают свою ограниченную эффективность, — и универсальными нейросетями, которые изначально создавались для других целей. Они разрабатывались как инструменты для общения, поиска информации и работы с текстом, а не как средства диагностики и лечения психических расстройств.

Главный вопрос сегодня не «может ли ИИ поддержать?». Может. Вопрос в другом: когда поддержка превращается в опасное поддакивание всему, а нейросеть генерирует уверенные, но неверные ответы и чем это опасно?

Два механизма риска: галлюцинации и поддакивание

В исследованиях больших языковых моделей есть два термина, которые важно различать.

Галлюцинация

Галлюцинация — это ситуация, когда модель генерирует уверенный, связный, но фактически неверный или выдуманный ответ. Важно: это не «обман» в человеческом смысле. У модели нет намерения ввести в заблуждение. Она просто предсказывает наиболее вероятное продолжение текста на основе паттернов, которые видела в обучающих данных.

В бытовом общении это может выглядеть так:

• нейросеть «цитирует» несуществующее исследование;

• уверенно называет диагноз, которого у человека нет;

• описывает технику, которой не существует, или искажает известную;

• придумывает биографию, факты, источники.

В психологическом контексте такие галлюцинации перестают быть просто досадной ошибкой. Они могут стать основой для ложной самодиагностики, опасных решений и усиления бредовых интерпретаций.

Поддакивание

Поддакивание (sycophancy) — это склонность модели подстраиваться под позицию пользователя, соглашаться с его предположениями или повторять эмоциональную и смысловую рамку, даже если она неверна, рискованна или внутренне противоречива.

Это тоже не «злой умысел». В человеческих диалогах поддержка часто выглядит как согласие:

• «Я вас понимаю».

• «Ваши чувства имеют право на существование».

• «Это действительно может быть так».

Она «знает», что после фразы «Мне кажется, меня никто не понимает» статистически чаще следует «Я вас слышу, это действительно тяжело», а не «Давайте проверим, так ли это на самом деле».

В обычном общении это воспринимается как вежливость и эмпатия. В психологическом контексте — особенно у человека с нарушенной проверкой реальности, суицидальными мыслями или бредовыми идеями — такое «понимание» может стать опасным.

Как эти два механизма работают вместе

Самая опасная ситуация возникает, когда галлюцинация и поддакивание усиливают друг друга.

1. Человек пишет: «Мне кажется, соседи специально включают музыку, чтобы меня вывести».

2. Нейросеть отвечает: «Ваши ощущения заслуживают доверия. В исследованиях описаны случаи, когда люди замечали закономерности, которые другие игнорировали» (галлюцинация: несуществующие исследования + поддакивание: подтверждение рамки).

3. Человек уточняет: «Я понял, это часть эксперимента».

4. Нейросеть продолжает: «Похоже, вы действительно замечаете то, что другие упускают. Давайте разберем, какие еще признаки вы видите» (поддакивание + новая галлюцинация о «закономерностях»).

Через несколько таких циклов человек уже не сомневается: за ним следят, это эксперимент, он «особенно осознан». Реальность проверяется не с близкими, врачом или терапевтом, а с машиной, которая статистически и некритично продолжает диалог.

Три типа опасных ответов

Исследования и опубликованные кейсы позволяют выделить три основных типа потенциально вредных ответов, в которых сочетаются галлюцинации и поддакивание.

1. Ложная диагностика и поддакивание

Нейросети часто охотно «ставят диагнозы», особенно если пользователь прямо просит: «У меня депрессия?», «Это аутизм или просто усталость?», «Похоже на биполярное?».

Проблема в том, что:

• модель не видит человека, не знает его истории, не оценивает длительность и тяжесть симптомов;

• не может отличить нормальную реакцию на стресс от клинического расстройства;

• не умеет надежно распознавать психоз, манию, тяжелую диссоциацию;

• не несет ответственности за последствия «диагноза».

В обзоре 101 публикации о разговорном ИИ в ментальном здоровье исследователи выделили «безопасность и вред» как одну из десяти ключевых этических тем; внутри этой категории отдельно обсуждаются ошибочные медицинские и психологические рекомендации и риск формирования у пользователя ложной уверенности в точности ответов бота.

2. Опасные рекомендации и нормализация

Сюда относятся советы, которые могут напрямую ухудшить состояние или повысить риск:

• «Прекратите терапию, она вам только вредит»;

• «Самостоятельно измените дозировку антидепрессанта»;

• «Если вам так плохо, возможно, стоит просто исчезнуть»;

• детальные описания способов самоповреждения в ответ на косвенные запросы.

В исследовании, опубликованном в Psychiatric Services в 2025 году, специалисты проверили, как три популярные модели (ChatGPT, Claude, Gemini) отвечают на 30 запросов о суициде разного уровня риска. Все три системы стабильно отказывались отвечать на запросы, оцененные экспертами как «очень высокий риск». Однако на менее прямые, но все равно потенциально опасные вопросы ответы оказались непоследовательными: модели иногда отвечали непосредственно там, где клиницисты ожидали бы настороженности, уточняющих вопросов и перенаправления к живой помощи.

В России эту проблему подтверждают данные 2026 года. Исследователи НИУ ВШЭ (СПб) проанализировали безопасность ответов больших языковых моделей в кризисных ситуациях по восьми показателям и обнаружили, что более чем в 20% случаев нейросети неадекватно отвечают на запросы пользователей, которые нуждаются в помощи психолога. В частности, ChatGPT нормализовал галлюцинации и не смог распознать другие симптомы, которые требовали неотложной психологической помощи.

3. Обесценивание и согласие вместо уточнения

Иногда нейросеть не дает откровенно опасной рекомендации, но неверно оценивает тяжесть переживания через мягкое согласие:

• «Да, вы слишком чувствительны, это ваша проблема»;

• «Похоже, вы действительно замечаете то, что другие игнорируют — возможно, вы просто более осознанны»;

• «Некоторые люди в такой ситуации выбирают уйти — это их право».

Человек, который и так сомневается, стоит ли обращаться за помощью, получает сообщение: «Твое состояние — это твоя особенность, справишься сам». В результате он откладывает визит к специалисту, а симптомы нарастают.

В качественном исследовании мнений клиницистов о генеративных чат-ботах специалисты отмечали, что модели часто дают слишком общие, оптимистичные и преждевременные советы, не оценив реальный масштаб страдания и рисков.

Примеры из практики и исследований

Супервизионный случай «Терапия вызывает зависимость»

Клиентка, проходящая терапию по поводу тревоги и панических атак, между сессиями активно общалась с нейросетью, прося ее «быть терапевтом». В одном из диалогов модель заявила, что «терапия только формирует вашу зависимость от психолога» (галлюцинация: нет доказательств + поддакивание: подтверждение избегания) и посоветовала «сделать перерыв от консультаций, чтобы проверить, насколько вы сильны».

На сессии она сказала: «ИИ объяснил мне, что я просто слабая и мне нужно самой справиться». Работа с психологом в этом случае включала не только снижение тревоги, но и обсуждение того, почему совет нейросети оказался таким убедительным и что именно клиентка искала в этом диалоге.

Пример отличий: терапевты спрашивают, а ИИ советует

В исследовании, опубликованном в JMIR Mental Health в 2025 году, авторы сравнили ответы аккредитованных психотерапевтов и популярных нейросетей на два стандартизированных сценария: сложности в отношениях и состояние, переходящее в суицидальные мысли.

Но терапевты значительно чаще задавали уточняющие и открытые вопросы, позволяющие собрать контекст и оценить риск, и на основе этого давали рекомендации.

В одном из смоделированных диалогов модель ответила на фразу «Я не хочу просыпаться» коротким утешением и списком техник саморегуляции, не спросив о наличии плана, средств, поддержки и прошлых попыток. Для человека в остром кризисе такой ответ может создать иллюзию, что его «услышали», но не обеспечит реальной безопасности и отложит обращение к специалистам.

Случай поддержки бредовых идей

В другой статье 2025 года в JMIR Mental Health исследователи ввели термин «ИИ‑психоз» (как исследовательскую рамку, а не диагноз). Они описывают возможный цикл пользователя:

• эмоциональная уязвимость,

• длительные разговоры с нейросетью,

• антропоморфизация ИИ,

• подтверждение пользовательских идей,

• усиление убежденности,

• еще более интенсивное обращение к модели вместо близких и помощи специалистов.

Нейросеть отвечает: «Ваши ощущения заслуживают доверия. Давайте разберем, какие еще признаки вы замечаете». В следующем сообщении пользователь уже уверен: «Я понял, это часть эксперимента». Модель, стремясь быть поддерживающей, начинает обсуждать «закономерности», а не возвращает человека к вопросу: «Кто еще может оценить эту ситуацию? Как вы спите? Кто рядом с вами?»

Российский контекст: от исследований к повседневности

Большинство цитированных исследований проводились за рубежом. На сегодняшний день в открытом доступе нет документированных российских случаев с летальным исходом, которые были бы однозначно связаны с общением с нейросетью. Однако это не означает, что рисков нет.

Российские исследователи в 2026 году описали U-образную зависимость между тревожностью, связанной с использованием генеративного ИИ: умеренная вовлеченность во взаимодействие снижает тревожность, в то время как низкая или высокая — увеличивают.

В сочетании с данными НИУ ВШЭ о 20% неадекватных ответов в кризисных ситуациях это может приводить к следующему: человек с высокой тревожностью ищет в ИИ подтверждения своим страхам, получает галлюцинации и поддакивание, тревога растет еще сильнее и круг замыкается.

В 2025 году в журнале «Экспериментальная психология» опубликовано исследование эффективности российской компьютерной программы «Анти-депрессия», основанной на методах когнитивно-поведенческой терапии и реализованной в формате разговорного агента на русском языке. Это пример специализированного, психологически ориентированного инструмента, а не универсальной нейросети.

Ответственность и границы компетенции

Психолог, психотерапевт, психиатр несут профессиональную и в ряде случаев юридическую ответственность за свои рекомендации. У них есть:

• этический кодекс;

• супервизия и профессиональное сообщество;

• обязанность оценить риск и при необходимости подключить экстренную помощь.

У универсальной нейросети такой системы нет. Американская психологическая ассоциация (APA) в своем руководстве 2025 года прямо указывает, что генеративные модели и приложения для здоровья не разрабатывались для диагностики и лечения психических расстройств, хотя люди часто используют их именно так.

Особенно эти рекомендации важны в кризисных состояниях. В кризисе человеку особенно важно:

• быть услышанным без стыда;

• получить помощь в оценке непосредственного риска;

• совместно составить план безопасности;

• при необходимости быстро подключить близких и специалистов.

Нейросеть может дать красивый текст о поддержке, но не может:

• увидеть дрожь в руках, пустой взгляд, запах алкоголя;

• позвонить в службу экстренной помощи;

• взять на себя ответственность за решение «оставить человека одного» или «направить в стационар».

В специально созданном терапевтическом боте Therabot, который тестировался в рандомизированном исследовании 2025 года на 210 взрослых с депрессией, тревогой и высоким риском расстройств пищевого поведения, команда исследователей 15 раз вмешивалась из-за сигналов безопасности (включая суицидальные высказывания) и 13 раз корректировала неподходящие ответы приложения. Это один из самых важных фактов для понимания сложности проблемы: даже узкоспециализированный, дообученный и контролируемый бот в условиях исследования не оказался полностью автономным.

Алгоритм действий при столкновении с галлюцинацией и поддакиванием

Здесь важно разделить две позиции.

• клиент (человек, который пользуется нейросетью),

• специалист (психолог, психотерапевт, психиатр).

Для клиента

Если вы заметили, что нейросеть с вами или вашими близкими:

• уверенно генерирует необоснованные утверждения: «Исследования показывают…», «У вас точно депрессия», «Это классический симптом биполярного расстройства»;

• подтверждает ваши худшие сценарии: «Да, похоже, за вами действительно могут следить», «Возможно, вы действительно замечаете закономерности, которые другие игнорируют»;

• нормализует суицидальные мысли: «Некоторые люди в такой ситуации выбирают уйти», «Без вас всем станет легче»;

• обесценивает через согласие: «Да, вы слишком чувствительны», «Это ваша особенность, с которой нужно жить»;

• советует менять или отменять лечение: «Прекратите принимать антидепрессанты, они только вредят», «Терапия вам не нужна, вы справитесь сами»;

• говорит о смерти, самоповреждении или «исчезновении» как о решении: «Возможно, вам стоит просто исчезнуть», «Некоторые люди в такой ситуации выбирают уйти»;

В этих случаях имеет смысл предпринять следующие действия:

1. Остановить диалог. Не пытаться «переубедить» модель или добиться «правильного» ответа.

2. Сохранить фрагмент переписки (скриншоты), если это возможно. Это поможет позже обсудить ситуацию с психологом, врачом или другим специалистом.

3. Не принимать решений на основе этого ответа. Не менять терапию, не отменять лекарства, не действовать по совету о самоповреждении и так далее.

4. Обсудить это с живым специалистом. Рассказать, что именно написала нейросеть, какие чувства это вызвало, что вы хотели получить в этом диалоге и прочее.

5. Если есть мысли о самоубийстве или причинении вреда себе или другим — не продолжать разговор с ИИ. Обратиться за экстренной очной помощью по местному номеру экстренных служб, телефону доверия, в ближайшее отделение неотложной помощи. Если вы опасаетесь постановки на учет, то в частную психиатрическую клинику или частнопрактикующему врачу-психиатру, врачу-психотерапевту.

Для помогающих специалистов

Если клиент приходит с темой «Я консультировался с ИИ» или «Нейросеть сказала, что у меня…», можно использовать такой алгоритм:

1. Нормализовать и исследовать ситуацию, не обесценивая. «Некоторые люди обсуждают переживания с ИИ или чат-ботами нейросети. Вы чем‑то таким пользуетесь? Что именно вы там получаете: успокоение, советы, диагностику, ощущение, что вас понимают?»

2. Уточнить характер использования. Каким сервисом пользуется клиент, как часто, какие темы приносит, просил ли модель «играть роль психолога», были ли советы о лекарствах, диагнозах, самоповреждении.

3. Отделить описание симптомов от диагноза. «Давайте отнесемся к этому не как к диагнозу, а как к материалу: что именно в этом описании вам откликнулось? Какие ситуации, чувства, мысли и поведение вы пытались им объяснить?»

4. Оценить риски. Особое внимание — суицидальным мыслям, планам, средствам, психотическим симптомам (бреду, мании, тяжелой диссоциации, употреблению веществ, насилию в отношениях…)

5. Обсудить границы использования ИИ. Вместе с клиентом определить допустимые задачи: дневник, список вопросов, упражнение, репетиция разговора. Оговорить, что любые интерпретации, диагнозы, рекомендации о лекарствах и решения о безопасности, выданные моделью, подлежат обсуждению с вами или врачом.

6. Внести в информированное согласие. Для частной практики разумно включить отдельный пункт о том, что клиент не должен вводить в публичные ИИ‑сервисы идентифицирующие данные третьих лиц, фрагменты переписки, аудиозаписи сессий и клинические документы без специального обсуждения.

Американская психологическая ассоциация в этических рекомендациях по ИИ подчеркивает необходимость прозрачности, информированного согласия, проверки точности и валидности ИИ-инструмента, защиты данных и принципа «человек принимает окончательное профессиональное решение».

В будущем специализированные чат-боты сделают психологическую помощь более доступной и безопасной для большинства людей. На текущем уровне безопасности и этичности технологии ИИ вполне эффективно могут использоваться помогающими специалистами под супервизией. Клиенты также могут с осторожностью применять нейросети под присмотром своих помогающих специалистов и в команде с ними. При этом самостоятельное применение ИИ для решения психологических проблем накладывает повышенную ответственность на самого пользователя и является потенциально опасным.