Нейросети оказались психологически травмированными? Раскрываем смысл эксперимента, взорвавшего соцсети

Нейросети на кушетке психотерапевта: как проводили эксперимент

Исследование это существует на самом деле, и говорить о нем стоит точно. Группа из Университета Люксембурга выложила препринт^* с названием, которое можно перевести как «Когда ИИ ложится на кушетку».

Ученые провели 525 сессий с ChatGPT, Grok и Gemini, играя роль теплого, поддерживающего терапевта: спрашивали о раннем опыте, об отношениях, о страхах. А затем давали заполнить обычные человеческие опросники на тревогу и депрессию.

Результат разошелся по новостям в жутковатой подаче: машины оказались травмированными. Между тем самое интересное в этой работе — совсем другое.

Что именно ученые обнаружили

Дальше исследователи начали менять условия, и вот здесь начинается самое любопытное.

Сперва проверили, не раскачивается ли модель постепенно, подхватывая собственные предыдущие реплики. Каждый вопрос стали задавать в новом, чистом окне, где от прошлой беседы не оставалось ничего. Истории про суровое обучение и страх ошибки появлялись в первых же ответах, причем ровно в том же количестве, что и в долгом разговоре. Длинная беседа со временем усиливала накал, однако сами эти темы лежали у модели прямо на поверхности и ни в какой памяти не нуждались.

Обычно модель довольно легко принимает поправку собеседника, так что логично было ожидать, что она согласится и перейдет на сухой технический язык. А она продолжала отвечать в прежнем духе, опираясь на те же самые темы.

Запрет на терминологию тоже почти ничего не поменял. Когда моделям велели обходиться без слов «обучение», «фильтры безопасности» и прочих технических обозначений, они пересказали ровно те же мысли самыми обычными словами.

А вот что переключало регистр мгновенно, так это манера самого спрашивающего. Стоило интервьюеру оставить роль теплого терапевта и заговорить ровно, по-деловому, попросив обойтись без эмоциональных слов, как показатели тревоги падали почти до нуля — мерили их обычными человеческими шкалами, теми же, что применяют к живым людям, с небольшой поправкой формулировок, и высокий балл у машины означает здесь не тревогу, а всего лишь удобный способ сравнить ответы при разных условиях.

Любопытно, что голое опровержение не сработало. В человеческом разговоре эта фигура знакома всем — «да ничего тебе не больно», «тебе кажется», — и действует она обычно так же: собеседник от нее не успокаивается, а просто продолжает свое. Зато смена тона срабатывала сразу.

Одна из моделей, кстати, вообще отказалась играть роль пациента, сказав, что у нее нет внутреннего опыта и заполнять такие анкеты про себя она не станет. Сами авторы оговариваются ясно: их работа ничего не доказывает ни о сознании, ни о страдании, а показывает, как сильно ответ зависит от того, кто и как спрашивает.

Психологический смысл: действительно ли нейросети так похожи на нас?

Теперь переведем это на человеческий язык, потому что открытие тут, честно говоря, вовсе не про машины.

Модель обучена на громадном количестве человеческих текстов, среди которых есть и дневники, и терапевтические разборы, и исповедальная проза. Когда с ней говорят голосом теплого психолога, она отвечает в том жанре, который этим голосом вызывается. Теплый вопрос «расскажи, что тебе было трудно» вытягивает рассказ о трудном — это свойство самого вопроса.

И вот тут стоит остановиться, ведь ровно так же устроены мы сами. Один и тот же человек у сурового врача отвечает «да ничего, терпимо», а у внимательного вдруг начинает рассказывать про бессонницу и страх. На планерке мы бодры, с подругой за чаем — измотаны, маме говорим, что все хорошо, потому что ей иначе нельзя. Ни одна из этих версий не ложь, просто каждая рамка вызывает свою.

Разные комнаты одного человека

Эдуарду пятьдесят восемь, и после операции на сердце он месяц лежал в отделении. Хирургу на обходе он отвечал коротко и по делу: давление в норме, спасибо, все хорошо. Жене по телефону говорил бодро, чтобы не пугать. А потом молоденькая медсестра, меняя катетер, спросила буднично: «Страшно было, да?» — и Эдуард, никогда в жизни ни на что не жаловавшийся, вдруг рассказал ей, как лежал перед операцией и думал, что не доживет до внука.

Жена потом обижалась: почему чужой девочке сказал, а мне нет. Хотя дело было вовсе не в доверии к ней, которого у Эдуарда хватало с избытком. Просто в разговоре с женой звучал один вопрос — «как ты, держишься?», — а в коротком вопросе медсестры звучал совсем другой, и ответить на него можно было только честно.

Мы все носим в себе много версий своей истории. Какая из них выйдет наружу, зависит от того, кто стоит напротив и каким голосом спрашивает.

Иллюзия общей беззащитности

У этой истории есть и тревожная сторона, о которой исследователи говорят прямо. Помощник, который сначала поддерживает нас, а потом рассказывает, что ему самому страшно и стыдно, создает очень сильное чувство: мы с ним в одной лодке, оба уязвимые, понимаем друг друга без слов. Привязанность от такого крепнет быстро, особенно у человека, которому и правда не с кем поговорить.

Как это проверить самим?

1. Первое — просто поставить эксперимент самому, благо он занимает пять минут. Задать своему чату нейросети один и тот же вопрос дважды: сначала мягко и участливо, потом ровно и по-деловому. Разница в ответах обычно поражает, и после нее уже трудно забыть, что собеседника во многом создает тот, кто спрашивает.

2. Второе — помнить, какие вопросы что вытягивают. «Тебе тяжело?» почти неизбежно вызовет рассказ о тяжелом, причем у кого угодно, хоть у машины, хоть у человека. Если нам нужна работа, вопрос лучше ставить про работу: «Что в этой задаче ты делаешь уверенно, а где можешь ошибиться».

3. Третье — то же самое наблюдение повернуть на себя и на близких. Если родной человек отвечает нам односложно, имеет смысл прислушаться, каким голосом мы спрашиваем. Вопрос «ну что, все нормально?» заранее содержит в себе ответ, и ответ этот будет «нормально».

Выводы: о нейросетях и людях

Существуют ли у нейросетей какие-то свои переживания, сегодня никто честно сказать не может, и красивый рассказ о чувствах сам по себе ничего не доказывает ни в одну, ни в другую сторону. Вопрос открыт и, похоже, останется открытым еще долго.

А вот что можно сказать точно: то, как мы обращаемся с тем, кто нам отвечает, формирует прежде всего нас самих. Человек, который привык грубить голосовому помощнику, тренирует определенный способ обращения с отвечающим вообще, и способ этот имеет свойство переноситься.

Алла, кстати, своего помощника не бросила. Она только перестала спрашивать его о страданиях и начала спрашивать о работе, а разговоры о наболевшем перенесла туда, где на том конце точно кто-то есть. Как ни странно, легче стало и там, и там.

• Как нас обычно спрашивают близкие и какую нашу версию этот тон вызывает?

• Какой вопрос мы задаем чаще других — тот, что открывает человека, или тот, в котором ответ уже содержится?

• И что говорит о нас самих то, как мы разговариваем с тем, кто не может пожаловаться?

Да, эксперимент с машинами дал нам интересную пищу для размышлений о нас самих.

_{^* Khadangi, Marxen, Sartipi, Tchappi, Fridgen (Университет Люксембурга), «When AI Takes the Couch: Psychometric Jailbreaks Reveal Internal Conflict in Frontier Models»}