Ментальный киборг, или Как разучиться думать

Спросить у чата о своих мыслях: история Андрея

Андрей, 42 года, инженер, поделился с нами интересным наблюдением. За семейным ужином его дочь попросила совета, стоит ли ей переводиться на другой факультет, и Андрей немедленно, привычным движением, потянулся к своему телефону — не погуглить, не позвонить приятелю, у которого сын учился в том же вузе, не залезть на сайт: первым желанием было спросить у чата, что он, отец, обо всем этом думает.

И тут Андрей вдруг вспомнил, что раньше обдумывал такие серьезные вопросы по дороге с работы, проворачивая их у себя в голове и так и эдак, пока к тому моменту, как он заезжал на парковку у дома, у него не вызревало окончательное решение. Но с каких-то пор ему стало проще наговорить своей вопрос в ИИ-чат и получить готовый ответ…

В истории Андрея на первый взгляд нет ничего тревожного: никаких видимых признаков зависимости. Просто его внутренний голос, который ранее звучал в нем, когда он обдумывал свою жизнь, постепенно затих — за ненадобностью. Действительно, зачем нужны лишние сомнения, неопределенность или смутные предчувствия, если можно немедленно задать вопрос и через пять секунд получить адекватный, связный и вполне разумный ответ?

Само слово «киборг» отдает некой фантастикой — вживленными чипами, вышедшими из-под контроля роботами или жутковатыми зомби. Но на самом деле граница между этими состояниями сознания пролегает в той зоне, где мы принимаем решения. Помощник, который подает инструмент, и помощник, который держит руку вместо нас, выглядят почти одинаково, но ровно до того дня, когда мы неожиданно обнаруживаем, что без помощника рука больше не двигается.

Добровольная передача полномочий

Психологи уже давно описали естественную склонность ума экономить энергию: то, что можно не запоминать, мы не запоминаем, то, что можно поручить другим, мы с удовольствием поручаем. Нам уже не нужно держать в голове бесконечный список телефонных номеров, когда они переехали в память смартфона, и мало кто скучает по архаическим записным книжкам, где цифры записывались вручную — аккуратным почерком, рядом с именами в алфавитном порядке.

С мышлением история выглядит еще интереснее, поскольку речь здесь идет уже о самом способе обходиться с собственной жизнью. Начинается всё вполне невинно: поначалу мы обращаемся к ИИ за тем, чего сами не знаем, спрашивая, как устроен тот или иной незнакомый прибор, что следует написать в деловом письме, какой вид растительного масла наиболее полезен в салате.

А дальше наступает третья ступень, на которой человек, не задумываясь, идет к алгоритму за тем, что по-настоящему знать может только он сам: он выясняет у ИИ, чего ему по-настоящему хочется, на что он сейчас злится, как вести себя после ссоры с близким человеком.

И самое коварное во всей этой истории, что ни на одной ступеньке нет тревожного сигнала: каждый отдельный запрос вполне разумен и оправдан, и только сумма их за месяцы складывается в неожиданную новую привычку — обходиться в своей жизни… без себя.

Как работает мышление искуственного интеллекта

Мышление нам дано не только для получения готового мыслительного результата: это ещё и работа, в которой мы с детства перерабатываем полученный опыт, понемногу становясь всё больше и больше собой.

Когда мы решаем какой-либо трудный вопрос, в чем-то сомневаемся, возможно, порой даже заходим в тупик, а затем из него выбираемся, происходит что-то важное для нас, помимо самого ответа: мы понимаем, что умеем справляться с самыми разными ситуациями, имеем право на свое мнение и свою картину мира, и что на своем опыте мы растем и развиваемся.

Готовый ответ ИИ такого ощущения не дает. Он действительно быстро закрывает вопрос, но нас самих при этом оставляет как бы снаружи темы: формулировка вроде бы и похожа на нашу, но внутренний путь, который к ней вел, так и не был пройден.

С точки зрения работы мозга все закономерно — то, чем мы перестаем пользоваться, постепенно ослабевает, и навык самостоятельного обдумывания сложной темы здесь не исключение. Чем чаще мы передаем этот труд кому-то или чему-то, тем сложнее он нам кажется в те редкие минуты, когда алгоритма под рукой нет.

Есть и более ощутимая потеря. Человек, переставший доверять собственному суждению, понемногу теряет и внутренние опоры. Каждое «дай-ка спрошу у ИИ» — это маленькое послание самому себе о том, что ваши собственные мысли недостаточно хороши. Когда такое послание повторяется сотни раз, то у него есть все шансы постепенно перерасти в фоновое недоверие к себе, распространяющееся далеко за пределы вопросов, заданных машине.

Когда слова становятся чужими: история Ольги

Ольга, преподаватель танцев, перед каждым серьезным разговором с мужем просила ИИ помочь ей сформулировать, что она чувствует и чего хочет. Получалось довольно гладко, и мужу поначалу это даже нравились — он любил ясность.

Что происходит, когда мы делегируем кому-то определение наших собственных чувств и желаний? Мы неизбежно начинаем раз за разом терять кусочек себя. Да, наша живая речь, возможно, порой звучит немного коряво, в ней есть заминки, оговорки и нескладности, но именно по ним близкие нас и узнают.

А вот от заранее заготовленной и отшлифованной алгоритмом фразы веет пустотой: нет в ней той естественной шероховатости, по которой слышно живого человека. Ольга хотела, чтобы муж лучше понимал ее, но эффект оказался противоположным.

Как остаться у руля

Отказываться от удобного инструмента смысла нет, да и, честно говоря, поздно уже. Вопрос в том, чтобы вернуть себе режиссерское место и оставить алгоритму роль ассистента без права последнего слова.

И здесь может помочь очень простое правило: сначала своя версия, потом алгоритм. Прежде чем задать ему вопрос, стоит хотя бы попытатьсья ответить на него самостоятельно — пусть неточно, пусть неуверенно. Тогда ответ ИИ встретится с уже проделанной нами работой, и за нами сохранится роль того, кто сравнивает и выбирает.

Полезно различать два принципиально разных варианта обращения к машине. Один из них нас расширяет: мы приносим свою мысль и хотим ее проверить, дополнить, найти слабые места, увидеть с разных сторон. Другой вариант, наоборот, нас обедняет: своей мысли нет, и мы хотим, чтобы нам ее «выдали». Первое делает нас сильнее, а второе мало-помалу отучает мыслить самостоятельно.

Граница не всегда очевидна, и единственный надежный датчик — честный вопрос к себе: я действительно знаю, что именно я думаю, или я знаю только то, что мне ответили? Особенно бережно стоит относиться к решениям по поводу своих чувств, ценностей и близких людей: правильного ответа здесь в принципе не существует, кроме одного — нашего собственного.

Как стать автором собственных мыслей

Ментальным киборгом человека делает вовсе не факт использования ИИ. Опасно не заметить ту границу, перейдя которую ты уже не способен различать, где заканчиваешься ты и где начинаешься не-ты.

Хорошая новость: эта граница восстановима. И внутренний голос Андрея, который, как ему показалось, безнадежно замолчал, на самом деле, никуда не исчез: ему просто давно не давали слова.

В заключение хотелось бы отметить, что сама я очень люблю ИИ как явление. Алгоритм, который умеет считать, сопоставлять факты, генерировать идеи, предлагать варианты и даже высказывать свою разумную точку зрения, просто великолепен и является открытием века.

Но чего ему точно не стоит давать делать — так это проживать за нас нашу жизнь. Нам нужно всегда точно знать, какой выбор наш, а не чей-то еще, даже не важно чей — мамин, мужа, партнера или ИИ.