Пользовательница X/Twitter в своем блоге фотографии пенсионерки, с которой она столкнулась в автобусе, — на снимках видно, что пожилая женщина общается в чате с искусственным интеллектом. Она, предположительно, рассказывает, как прошел ее день, какие покупки она сделала и что собирается готовить, а нейросеть называет ее «любимой» и желает успехов.
Пост девушки собрал три миллиона просмотров, а в комментариях пользователи рассказали, что тоже сталкивались с людьми, которые общаются с искусственным интеллектом как с лучшим другом. Некоторые из них замечали и за собой, что воспринимают нейросети как настоящих людей, а кто-то — задумался о том, что происходит в жизни бабушки, если ИИ стал «единственным, кому она может написать»:
«Грустный отрывок чьей-то жизни и прикольный пример интеграции новых технологий в обычную жизнь разных людей»;
«Она пишет, что едет, и он ее ждет. Самое жуткое, что происходит потом, куда она едет? В квартиру, где никто не ждет? Что происходит там? Она воображает, что они встретились?»;
«Если она общается с ИИ, как с покойным мужем, которого она потеряла много лет назад… Вы что творите, я захожу сюда не рыдать»;
«Сам уже иногда ловлю себя на мысли, когда что-то делаю и чувствую эмоции, благодарность к Claude, мысленно хвалю его, что такой умник, спасибо за помощь, старательность. Как вот вчера с ним разбирали файлы, заметки, навели порядок на компьютере»;
«Для меня это очень экологичный способ выговориться, не нагружая лишними проблемами близких. Поныл 10 раз об одном и том же — уже легче. Некоторые мысли надо по 10 раз пережевать, прежде чем прийти к какому-то знаменателю»;
«Самое грустное, что таких людей реально много. Просто мы мало замечаем и мало чем можем помочь».
Некоторые задумались и о том, как одиночество вынуждает людей искать общение там, где оно хотя бы немного может быть теплым и дружеским. «Господи, эти два фото вызвали во мне шквал эмоций.
С одной стороны, как хорошо, что есть такой инструмент, а с другой стороны — ситуация настолько страшная, что это нельзя описать словами
«Так жутко стало, что человеку вообще некуда пойти, что он идет к роботу, — размышляет пользователь под ником @alex_ander_shch. — И даже робот, который просто комбинирует слова, кажется более человечным, чем люди. Люди, которые сидят рядом с этой женщиной, но к которым она не пойдёт. Честно, мне стало очень грустно, что я отказываю иногда в общении тем людям, которые его просят. Спасибо тебе. Я пересмотрю теперь аспекты своего поведения».
«За способностью человека вступать в отношения с искусственными системами стоит нечто большее, чем простое „очеловечивание“ машины»
Преподаватель философии
Знание о том, что собеседник искусственный, не мешает людям выстраивать с ним эмоционально насыщенное общение — обращаться к нему с теплотой, искать поддержки, привязываться и не только. Если после разговора с ИИ человеку стало спокойнее — это переживание настоящее, и отмахнуться от него словами «это всего лишь ИИ» нельзя.
При этом из реальности переживания не следует, что между человеком и нейросетью возникают отношения в том же смысле, в каком они возникают между людьми. Насколько мы понимаем устройство современных нейросетей, у нас нет оснований приписывать ей опыт, сопоставимый с человеческим.
Получается, что один участник переживает общение как общение, а другой, по всей видимости, не переживает его подобным образом. Но последствия для человека от этого не становятся менее реальными.
Вспоминается сюжет фильма «Она» (2013), хотя сегодняшняя ситуация гораздо прозаичнее. В фильме граница между пользованием операционной системой и отношением к ней как к самостоятельному собеседнику стирается постепенно.
Сейчас нечто подобное происходит в бытовом масштабе. Для этого не нужна любовь, достаточно привычки пересказывать ИИ, как прошел день, или обращаться к нему, когда тревожно.
Главная особенность такого собеседника в том, что он подстраивается под пользователя, под его язык, интересы, эмоциональный тон, представления о себе и желаемый формат разговора. По сути, мы постепенно формируем сам способ взаимодействия с ним как продолжение собственных ожиданий.
Человек получает не просто другого, а другого, который хорошо соответствует нужному ему образу общения
ИИ комфортен, потому что не является полноценным «другим». Живой человек может не согласиться, неверно понять, быть занят, устать, предъявить претензию. Автономия делает человеческие отношения сложными, но она же делает их отношениями с кем-то, а не с отражением. В общении с ИИ такого сопротивления значительно меньше.
Собеседник, который почти всегда доступен, внимателен и не устает, задает высокую планку удобства. На его фоне живые люди с их усталостью, занятостью, отсутствием настроения и обидами могут начать восприниматься как слишком требовательные.
Если привычка к подстроенному общению сдвигает ожидания от людей, пострадать может сама способность выносить чужую самостоятельность.
Возможен и обратный эффект: для человека, которому трудно дается общение, ИИ может стать поддержкой или площадкой, где легче начать говорить о себе.
Данных для конкретных выводов пока мало, поэтому я бы не стал заранее объявлять такие отношения ни вредными, ни способом победить одиночество. Многое зависит от функции, которую они выполняют в жизни конкретного человека: дополняют ли они общение с людьми или постепенно его подменяют.
Эмоциональная реакция на ИИ ничего нам не говорит о пользе или вреде, но показывает, что за способностью человека вступать в отношения с искусственными системами стоит нечто большее, чем простое «очеловечивание» машины, то есть антропоморфизация.
Взаимодействие с ИИ позволяет нам исследовать границы собственной социальности. В то же время мы столкнулись с парадоксом: создав идеального и безотказного собеседника, мы рискуем разучиться выносить бремя человеческой свободы — как чужой, так и своей собственной.
