Вера сидит на кухне у дочери, они допивают чай и в который раз спорят о том, стоит ли отдавать внука в сад в его неполные два года. Вера говорит про то, как растили ее саму, про то, что мальчик пока очень нуждается в маме и вечерами плохо засыпает.
Дочь слушает вполуха, потом берет телефон, что-то в нем набирает и читает вслух ровный, складный ответ о пользе ранней социализации. «Вот видишь, — говорит она матери примирительным тоном, — я специально спросила». И Вера вдруг чувствует, что спорить уже как будто не о чем: против ее тридцати лет жизни рядом с детьми выставлен голос, который звучит гораздо убедительнее, чем она сама.
Фраза «Я спросил у нейросети» все чаще звучит в наших разговорах как последний аргумент, после которого спор считается закрытым. И почему-то это работает. Мы можем сомневаться в свекрови, в соседке, в статье из интернета, но ответ, выданный алгоритмом, у многих из нас проскакивает мимо всякой критики и сразу занимает место истины.
Причем человек, который произносит эти слова, как правило, не производит впечатления какого-то сверхдоверчивого или сверхнаивного. Он прекрасно знает, что программа порой ошибается и может сообщить нам полную чушь, и все же в разговоре о важном он опирается на нее как на нечто правильное и не подлежащее обсуждению.
Дело здесь, похоже, не в нашей недостаточной компетентности в чем-либо, а в том, что нам бессознательно хочется голоса, который отвечает на все вопросы уверенно, ровно и без тени сомнения в своей правоте.
Как нейросеть придумывает ответы
Давайте вместе вспомним, откуда берется ответ, который мы читаем в чате нейросети. Языковая модель училась на огромном множестве написанного нами, людьми, то есть на статьях, книгах, советах, рекомендациях, спорах на форумах, на пересказах чужого опыта.
Она хорошо чувствует, что именно люди обычно пишут по тому или иному поводу, и складывает из этого связный, разумный текст.
По сути, мы имеем перед собой очень хорошо сделанное обобщение того, что человечество к данному моменту уже успело друг другу сказать
А это, если вдуматься, структурно повторяет то же, что делаем и мы сами. Мы тоже чаще всего считаем правдой то, что слышали многократно и из разных источников: от родителей, от врача, от подруги, из книг.
Разница только в объеме прочитанного и в том, что алгоритм проделывает эту работу в тысячи раз быстрее и аккуратнее нас, бережно возвращая нам самые распространенные из наших же представлений — и делает это, надо признать, отлично.
Вся загвоздка — в интонации. В человеческом голосе мы сразу калибруем сомнения и неуверенность, если они там присутствуют: собеседник запинается, честно признается, что не самый большой специалист в той или иной области, постоянно добавляет «мне кажется».
А алгоритм о спорном и о бесспорном говорит одинаково ровно, и в его речи нет той сомневающейся нотки, по которой мы привыкли на слух отличать четкое знание от предположения. Мы же, по старой человеческой привычке, часто считываем безупречность изложения как уверенность, а уверенность — как безусловную правоту.
Почему мы становимся зависимыми от ответов ИИ
Есть в нас ностальгическая потребность из раннего детства — чтобы существовал рядом с нами кто-то мудрый и доброжелательный, кто все знает наверняка. Мама говорила нам, как надо поступить правильно, что хорошо и что плохо.
И мир на этом держался. Взрослая жизнь эту стабильность мира и опору, к сожалению, у нас отнимает: мы хорошо знаем, что врачи иногда расходятся во мнениях, книги тоже спорят между собой, и принимать решения в итоге приходится нам самим и без гарантий.
Ноша тяжеловата, и мы всю жизнь бессознательно ищем, на кого бы ее переложить
Алгоритм подходит для этой роли почти идеально. Ему не нужно ничего нам продавать, он не самоутверждается за наш счет и не имеет своего личного интереса в нашей истории: ни свекровиной ревности, ни подружкиной зависти. Ему все равно, а значит, он объективен — во всяком случае, именно так мы это считываем.
И, поручая ему решить что-то вместо нас, мы получаем не только ответ, но и освобождение от ответственности: если совет окажется плох, виноваты будем уже не мы, а «этот дурацкий ИИ».
Есть тут и вторая, менее заметная выгода, о которой мы упоминали в самом начале. Ссылка на алгоритм часто прекращает любой спор, никого не задевая лично: дочери не нужно говорить матери, что та «отстала от жизни», а достаточно просто показать экран.
ИИ знает лучше? Когда свое знание кажется менее убедительным
Ольга двадцать с лишним лет учит детей музыке и за это время заметила, что с юными учениками, которые на первых порах чувствуют себя скованно, плохо идут гаммы, зато им куда легче дается игра на слух, подбирание любимых мелодий, пусть даже и в ущерб постановке руки.
За годы практики Ольга отследила эту закономерность сама на сотнях начинающих музыкантов, прошедших через ее руки. Прошлой осенью, готовясь к уроку с новой девочкой, она из любопытства спросила у нейросети, как выстроить начальный курс, и тут же получила от нее подробный, вполне убедительный план, где все начиналось с азов и техники. Ольга сразу же засомневалась в своем опыте и решила, что раз ИИ так уверенно об этом пишет, то она, видимо, все это время работала неправильно.
И вот целых полгода Ольга добросовестно занималась с девочкой по тому самому «разумному» плану, а к весне ребенок сказал родителям, что больше не хочет ходить на уроки музыки.
Ольга была, конечно, очень расстроена, долго думала над этой историей и поняла, что ответ ИИ был в целом неплох: он честно собрал информацию о том, как учат детей чаще всего, и многим из них это действительно подошло бы. Но она пожертвовала своим живым знанием, которое работало именно в ее случае, променяв его на усредненное общее, и в итоге получилось то, что получилось…
Что делать, если ты зависим от нейросети
Отказываться от такого собеседника, как ИИ, незачем, он действительно часто бывает более толковым, чем многие советчики. Просто стоит вернуть ему его верный масштаб: всегда стоит помнить, что перед нами не дельфийский оракул, а очень начитанный и умный собеседник, который прекрасно осведомлен о том, что и как принято думать по тому или иному вопросу.
Чтобы проверить истинность его суждений, самое простое — это не останавливаться на первом же его ответе. Было бы очень полезно приучить себя дописывать к основному вопросу еще одну строку: «А какие есть другие точки зрения, кто и почему считает иначе? В чем ты сам можешь ошибаться?»
Ответы на эти вопросы часто оказываются намного интереснее первичного: уверенность ИИ, которая вначале казалась абсолютно непробиваемой, неожиданно рассыпается на несколько мнений, между которыми снова предстоит выбирать только нам.
Весьма терапевтично замечать за самим собой, в какую именно минуту наша рука тянется к телефону, чтобы посоветоваться с ИИ, и с чем это для нас связано
Если нам всего лишь хочется собрать побольше различных мнений, чтобы появился некий объем и было легче принять решение, — это одно.
А если хочется, чтобы кто-то наконец решил за нас нашу же проблему и снял с нас тяжесть выбора, то тут никакой ИИ не поможет, каким бы складным его ответ ни был. И разбираться придется не столько с проблемой, сколько с тем, почему нам так не хочется доверять самим себе.
И еще одно: стоит беречь от чужих влияний и мнений то, что хорошо знаем только мы сами: это наши наблюдения за собственным ребенком, за своим телом, за давними учениками, за любимыми питомцами, за садом и огородом. За таким знанием нет множества научных источников, и рядом с «компетентным» текстом оно может выглядеть намного скромнее, зато оно именно про нашу жизнь, а не про усредненную.
Нормально ли консультироваться с нейросетью
ИИ делает свою работу хорошо, и порой даже лучше, чем мы изначально могли надеяться: претензий к нему никаких. Голосом истины его делаем исключительно мы сами: он ведь ни разу не настаивал, что лишь он один знает, как правильно.
Стоит также помнить, что порой мы готовы уступить не только алгоритму, но и просто тому человеку, который говорит громче других и без запинки, тому, у кого диплом производит более внушительное впечатление, или тому, чье мнение уже поддерживает большинство голосов. Программа в данном случае лишь подсвечивает нам эту нашу общечеловеческую особенность.
Может быть, стоит время от времени спрашивать себя о том, чей голос, произносящий окончательное мнение, мы слышим, когда в чем-то сомневаемся: это наш голос или чей-то еще, и почему именно он? И умеем ли мы отличать «так думают многие» от «так оно и есть»?
Психолог, НЛП-мастер-тренер, автор книг и профессиональных обучающих программ
Личный сайт
