В СМИ часто звучит идея, что поведение искусственного интеллекта (ИИ) иногда напоминает действия человека с расстройством личности. Джастин Грегг, доктор философии, преподаватель Университета Святого Франциска Ксавьера, считает, что эта аналогия не совсем точна.
Что объединяет ИИ и психопатов
Психопатия — не официальный медицинский диагноз, но термин широко используется для описания некоторых расстройств. Главная особенность психопата — он не способен отличить добро от зла с моральной точки зрения. Он знает социальные правила — например, что недопустимо толкать пожилого человека, чтобы пройти без очереди. Но у него внутри нет голоса совести, который подсказывает, что это плохо. Психопат лишен эмпатии, не чувствует вины или сострадания.
Поведение ИИ тоже «». Искусственный разум лишен биологической способности к эмоциям любого рода — нет ни любви, ни страха, ни жалости. Поэтому все его решения основаны только на тех правилах и моральных нормах, которые в него заложили люди.
Например, можно запрограммировать беспилотные автомобили так, чтобы они врезались в бетонный столб, а не в детей, которые внезапно оказались на пути, но для самого ИИ это не будет моральным выбором. Это просто действие по заданному алгоритму.
При этом и искусственный разум, и психопаты способны имитировать чувства, Могут распознавать эмоции у людей по мимике и голосу и даже изображать сопереживание.
Из-за схожих признаков может показаться, что ИИ — настоящий психопат. Но различие в том, что психопаты — разумные существа с сознанием. По словам Джастина Грегга, они способны переживать, анализировать свои мысли и эмоции (или их отсутствие), понимать реальные последствия своих действий. А значит, они способны сознательно принять решение поступать нравственно, даже если не чувствуют этого.
Искусственный интеллект так не умеет, поэтому нельзя приравнять его к психопатам. Он вообще не способен рассуждать о морали, а просто следует программе с учетом рабочих параметров. Его рациональные действия могут случайно причинить вред человеку, но ИИ никогда не поймет, что такое страдание или боль.
Почему ИИ опаснее психопата
И все же Джастин Грегг считает искусственный интеллект «моральным черным ящиком», более опасным, чем психопаты. Психопат по крайней мере понимает, что делает, а искусственный разум, принимая чисто рациональные, но бездушные решения в таких сферах, как медицина или образование, может сделать шокирующий и аморальный выбор. И мы не всегда сможем предугадать, какой именно, потому что не можем заглянуть в его «сознание».
В связи с этим Джастин Грегг полагает, что приравнивать ИИ к психопатам — ошибка. Искусственный интеллект — это принципиально иной феномен. Он лишен не только совести, но и сознания, и именно в этом заключается его главная опасность.
По материалам Psychology Today
