Кадр их фильма «Прометей»
Особенно остро проблема использования ИИ в этой области встала в связи с распространением и растущей популярностью различных приложений для психического здоровья на основе нейролингвистических моделей. И «10 главных принципов взаимодействия с искусственным интеллектом в психологии» призвано помочь специалистам ответственно и эффективно использовать нейросети в своей повседневной практике.
Рекомендации были выработаны на основе результатов опроса, проведенного среди психологов из разных регионов мира. Всем им предлагалось ответить на 20 вопросов по теме.
В итоге все принципы были разделены на три категории.
Категория I: «Этика, прозрачность и ИИ»
Принцип 1. Этическая ответственность
Используя ИИ, психологи должны руководствоваться профессионально признанными этическими нормами. Они должны четко осознавать те последствия, которые может нести с собой применение в их работе ИИ, и следить за тем, чтобы не нанести этим вреда своим клиентам.
Принцип 2. Прозрачность при выборе инструментов ИИ
Психологи должны использовать в своей практике только те системы ИИ, которые открыто демонстрируют, как именно они работают, а также четко и постоянно уведомляют пользователей, что те имеют дело с «нечеловеческим» разумом.
Психологу важно понимать, как именно ИИ генерирует контент, из каких источников берет данные и как их обрабатывает. Это позволяет оценить достоверность и надежность информации, а также объяснить результаты работы ИИ клиентам.
Принцип 3. Информированное согласие
Психологи должны четко информировать клиентов о том, что включают в свою практику инструменты ИИ, и получать от них согласие на сбор, сохранение, анализ и использование их данных. Клиенты должны быть заранее проинформированы обо всех потенциальных рисках, ограничениях и преимуществах, связанных с применением ИИ при работе с ними. Это позволяет клиентам принимать обоснованное решение о том, подходить ли им такой метод, хотят ли они в этом участвовать.
Принцип 4. Подотчетность и профессиональная ответственность
На психологах лежит профессиональная ответственность за решения, принятые на основе или при поддержке инструментов ИИ. Причем эта ответственность не меньше, чем та, что лежит на разработчиках, поставщиках или каких-то организациях. Когда ответственность размыта, растет риск этических нарушений, непризнанных ошибок или причинения психологического вреда.
Поэтому психологи должны стремиться к ясности в отношении того, как функционируют системы ИИ, почему они производят тот или иной контент, кто их контролирует, как выдаются и проверяются результаты. Психологи должны быть готовы объяснять решения, принятые на основе ИИ, клиентам и отменять эти решения, если профессиональный опыт говорит об их ошибочности.
Категория II: «Профессиональная компетентность и ИИ»
Принцип 5. Доказательная база
Психологи должны обладать достаточными базовыми знаниями для того, чтобы критически подходить к выбору ИИ. Это совсем не обязательно означает обладание техническими познаниями в области разработки систем ИИ. Скорее, речь идет о способности принимать обоснованные, обдуманные решения о том, подходят ли те или иные инструменты ИИ для тех или иных конкретных профессиональных целей.
Для этого психологам необходимо постоянно следить за исследованиями, касающимися эффективности, рисков и ограничений, связанные с использованием ИИ.
Принцип 6. Человеческий контроль и профессиональное суждение
Психологам ни в коем случае не стоит оставлять все решения на откуп ИИ. Необходимо непрерывно контролировать генерируемый им контент, следить за его правдоподобностью, релевантностью, оценивать риски непредвиденных последствий и вмешиваться, если выданные ИИ рекомендации противоречат профессиональному суждению, этическим стандартам или выбиваются из контекста.
Именно психолог отвечает за конечные результаты. Человеческий контроль необходим для того, чтобы процессы, поддерживаемые ИИ, применялись надлежащим образом, этично и с учетом сложности человеческого поведения и жизненного опыта.
Принцип 7. Психологическая безопасность и предотвращение ущерба
Интеграция ИИ в психологическую практику несет с собой новые формы рисков для клиентов. Рекомендации ИИ потенциально способны нанести им психологический ущерб — вызвать эмоциональный стресс, растерянность, замешательство, заставить почувствовать себя изгоем, оказать вредное влияние на мысли, поведение или решения.
Психологи несут ответственность за то, чтобы предвидеть, выявить, смягчить или предотвратить эти нежелательные последствия использования ИИ. Поэтому психологам необходимо заранее тщательно обдумывать, как результаты работы ИИ могут повлиять на клиентов, особенно если они особенно уязвимы, или ИИ генерирует контент, который может восприниматься человеком как очень авторитетный или персонализированный.
Все это требует постоянного мониторинга процессов, поддерживаемых ИИ, реагирования на непредвиденные последствия и готовности изменить или прекратить использование ИИ, когда риски перевешивают преимущества.
Категория III: «Доступность, предвзятость, инклюзивность и ИИ»
Принцип 8. Подтверждение и научные доказательства
Психологи обязаны критически оценивать, подкреплены ли выдаваемые ИИ результаты надежными, достоверными, прозрачными, релевантными научными доказательствами.
Научные данные должны соответствовать установленным стандартам психологических исследований и практики. Поэтому психологам необходимо регулярно отслеживать результаты исследований и проявлять осторожность, если данные ограничены или недоступны. В этих случаях инструменты ИИ следует использовать только во вспомогательных или научно-исследовательских целях, а не в качестве основы для принятия решений, которые могут повлиять на благополучие клиентов.
Принцип 9. Алгоритмическая предвзятость и справедливость
Психологи должны заблаговременно выявлять, оценивать и смягчать систематические искажения в алгоритмах ИИ, которые могут возникать в зависимости от используемых источников и других механизмов. Из-за этих искажений в выдаваемом ИИ контенте может присутствовать предвзятое отношение или даже дискриминация отдельных людей или групп на основе расы, пола, этнической принадлежности, языка, инвалидности, возраста, социально-экономического статуса или места жительства.
Предвзятые результаты — это не просто технические ошибки, они отражают исторически сложившееся неравенство. Чтобы обеспечивать справедливость, психологи обязаны следить, работают ли системы ИИ одинаково в различных группах населения и контекстах, и не различаются ли систематически результаты между группами.
Принцип 10. Доступность, равенство и инклюзивность
Психологи должны содействовать равноправному доступу к психологическим услугам, поддерживаемым ИИ.
Барьеры, связанные со стоимостью, инфраструктурой, цифровой грамотностью, доступностью языков, инвалидностью и связью, могут ограничивать круг лиц, получающих пользу от психологических инструментов с поддержкой ИИ. Особенно в странах с низким и средним уровнем дохода, сельских районах или маргинализированных сообществах эти барьеры могут систематически исключать людей, которые могли бы получить пользу от психологической поддержки.
Поэтому задача психологов — не усугублять существующее неравенство, не исключать отдельных лиц и сообщества на основе структурных, экономических, языковых или технологических барьеров, работать над тем, чтобы приносить максимальную пользу всем группам населения.
