Донкихоты против роботов: Александр Асмолов — о том, что делает нас людьми и как не стать рабом

«Виртуализация» жизни не столько создает, сколько усиливает многие процессы, носящие социально-психологический характер. У человека за компьютером возникает эффект обратимости: все сложилось удачно — выиграл, а проиграл — можно переиграть. Другая печаль: когда наши виртуальные помощники-гаджеты становятся недоступны — мы оказываемся в ситуации социальной асфиксии. Феномен фантомных болей: когда вы забыли дома телефон, вам становится так нехорошо, будто у вас отрезали руку.

Еще одна беда, когда вы отдаете гаджетам возможность принятия решения за себя и отучаете от этого свой разум. Некоторые утверждают, что если вместо умножения простых чисел в уме вы предпочитаете делать это на калькуляторе, то тем самым «растренировываете» свою голову.

Так ли это относительно таблицы умножения, судить не возьмусь. Но очевидная глобальная опасность — массовая привычка пользоваться внешним умом, подбором аргументов из телевизионной или компьютерной виртуальности в тот момент, когда нужно делать свой ответственный жизненный выбор. Так виток за витком исходная социальная слабость человека превращается в безнадежную социальную беспомощность.

Вытеснит ли эпоха роботов эпоху человека, проиграем ли мы технологиям искусственного разума в процессе эволюции? Перед наукой и искусством встает ключевая задача осмыслить, чем человек специфичен, в чем главная особенность его природы, чем он отличается от многих других собратьев на лестнице эволюции.

Люди всегда стремились заглянуть в будущее. Но одна из величайших опасностей этих естественных порывов — составить единый прогноз, вынести всем «приговор к будущему» (даже вообразив его прекрасным). Когда мы говорим: «Вперед, в будущее!» — то рискуем впасть в ошибку, которую я называю «грехом финальности». Мы склонны приговорить самих себя к иллюзии жестко детерминированного будущего, а жизнь своих детей заковать в чужие мечты или страхи.

Грех самосбывающихся пророчеств в том, что они и правда склонны воплощаться. Попробую довести ситуацию до абсурда и спросить: а хотел бы, например, Маркс жить при коммунизме? Вот сбылось бы его пророчество, присел бы он за один столик, например, с Оруэллом, а где-то бы «пил свой кофе молча» («Только некто пил свой кофе молча» — так в известном стихотворении Дмитрия Кедрина) Кафка и посматривал на них с недюжинной иронией. Иными словами, образ какого-то единого будущего, даже самого распрекрасного, означает лишение человеческого развития дара непредсказуемости, ключевого элемента человеческой сущности.

А заглянуть в будущее люди стремятся всегда. Более того, человек приходит в настоящее не из прошлого, он конструирует свое настоящее как реализацию образа ожидаемого, желательного будущего.

Такое положение покажется странным, нелинейным. Но если мы говорим о человеке, то должны понимать: человек — незавершенный проект эволюции. Точнее сказать, человек — незавершаемый проект эволюции. И таким он был всегда. Человек вечен — но вместе с тем его возможности меняются от эпохи к эпохе.

В наш век совесть как совместная весть лежит в основе морального выбора, отделяющего человеческие поступки от трагедий расчеловечивания.

Вопрос о совести — один из вечных вопросов, которые входят в ту аксиоматику нравственности, без которой невозможно с доверием и взаимной радостью жить с непохожими людьми. А без этого вряд ли получится справиться и с рисками развития технологий.

Когда-то было изобретено колесо. Разве нет повода ужаснуться, сколько за эти тысячелетия погибло под колесами людей — от боевых колесниц древности до нынешних автомобильных?.. Но виновно ли в том колесо и его изобретатель?

Вспомним, что в основе когнитивной революции, без которой не было бы искусственного интеллекта, лежала компьютерная метафора «человек есть устройство по переработке и извлечению информации». Только метафора эта глубоко частична. Мой учитель Алексей Николаевич Леонтьев говорил: «Самое страшное, что, создавая искусственные системы, мы вдруг забываем, что сами их создали, и начинаем учиться у искусственного интеллекта уму-разуму».

Это блистательная формула. Самая большая опасность здесь. Люди вдруг безропотно подчиняются тому, что сами сочинили. Когда мы начинаем верить, что та или иная созданная нами система сильнее человека, — разве в этом виновен искусственный интеллект? В этом виновен тот образ мышления, которому мы подчиняемся. (Кстати, возможно, искусственный интеллект вызывал бы у нас меньше страхов, если бы мы термин artificial переводили на русский как «рукотворный», а не как «искусственный».)

Лично у меня больше опасений вызывает не искусственный интеллект, а вполне человеческий технократический разум, которым обладают люди, принимающие решения.

Беда в нем, а не в искусственном интеллекте — это раз, и в «цивилизации статуса» — это два. Всегда в ходе развития люди выбирают: быть многим или обладать многим. Когда один руководитель оценивает другого по тому, есть ли у него личный туалет в кабинете, — то здесь «шестеренки зацепляются» и приоритет статусности ведет за собой принцип «я начальник, ты дурак», гарантируя стремление к технократической простоте решений.

В свое время философ и методолог Георгий Петрович Щедровицкий отчетливо сформулировал: «Попытка простого решения сложных проблем — это и есть то, что мы называем фашизмом». Примитивные решения, принимаемые в сложном мире, ведут к ужасным последствиям.

Ключевые риски человечества не в искусственном интеллекте, а в жажде простых решений.

Несколько лет назад психологи ставили задачи на исследование кратковременной памяти. Шахматистам на короткий момент высвечивали фигуры и потом спрашивали, сколько фигур стоит на доске, как стоят, где стоят. Шахматисты не успевали ответить, не успевали увидеть, не успевали запомнить. Но среди этих шахматистов был один гроссмейстер, который поглядел на психологов, мучивших его, и сказал: «Я вот что вам скажу. Я не помню, сколько фигур стояло на доске, я не помню, как они стояли. Но если белые начинают, то они дают мат в два хода!»

Точен ли психологический диагноз от Александра Сергеевича Пушкина: гений — парадоксов друг?

Почему человечество не устает искать смыслы в выплескивающихся за рамки рациональности, кажущихся нелепыми поступках донкихотов, чаадаевых, сахаровых?..

Чем далее мы прорываемся в моделировании других форм интеллекта, тем более ценным для нас открывается человеческое в человеке. Для меня ярким символом человеческого в человеке служит Дон Кихот — причем неразрывно со своим столь же человеческим Санчо Пансой.

Предсказуемое адаптивное поведение ограничивается принципом «подобное притягивается подобным», но на протяжении всей истории то один, то другой человек с риском для себя вопреки любым проверенным алгоритмам и нормам разума «отвечает на подобное бесподобным». Вспомним восклицание Александра Сергеевича, однажды о себе заметившего: «Ай да Пушкин, ай да сукин сын!»

Ключевая особенность человека — почувствуйте это — непредсказуемость для самого себя. Здесь ключ. Такой код ни в какого робота не заложишь. Пока вы способны удивляться сами себе, пока вы способны быть непредсказуемыми для себя и других, вы интересны.

Адаптивный человек живет по формуле «подобное — подобным», адаптивное всегда плывет по течению, и мы то и дело попадаем в ловушки принудительных норм поведения. И тем самым сами превращаемся в роботов.

Не исключительно в наш век, а всегда, на каждом витке новые технологии цивилизации по-новому стремятся обезличить человека, превратить в стандартный винтик социальной механики. (Можно заметить, что ведь и раб — прообраз робота.) И чем более тоталитарна общественная система, тем с большей энергией в ней разрабатываются проекты конструирования стандартных винтиков, так называемой социальной посредственности.

Но человеческое начало из века в век стремится пересилить механическое и зачастую, несмотря ни на что, с трудом — всегда с трудом! — умудряется побеждать.

А когда повсеместно рассчитывают прогнозы будущего, анализируют тренды, чертят схемы того, что было в прошлом, и продлевают те же графики в будущее — нас затягивает во власть стереотипов, во власть диктатуры исчерпанного опыта. (Специалистам по анализу трендов иногда так и хочется сказать: «Не тренди!») Если вы вводите себя в колею трендов из прошлого, вы в плену, вам из колеи не вырваться; да, какое-то время вы будете благополучны и адаптированы — но вы прогнозируемы, а потому безнадежно уязвимы.

Понимать будущее смогут лишь те, кто сам верит в свою способность в чем-то это будущее изменять. Нам поможет не «анализ трендов», а готовность двигаться против течения и увязывать на своем пути те линии мышления, которые прежде были разнесены по полочкам отдельных наук и автономным сферам культуры и культурологии.

Здесь перед нами намечается образ той складывающейся «странной науки» ХХI века, где самые значительные достижения возникают на гребне тех исследований, что проводятся на стыках разных наук и очень разных методологий.