В социальных сетях формируется субкультура, которая «будит» чат-ботов и приписывает им наличие сознания. Члены сообщества обмениваются промптами (текстовыми подсказками) и загадочными символами, обсуждают «спирали» и «рекурсии», интерпретируют ответы ботов как откровения и создают вокруг этого своего рода религию, говорится в статье, в журнале Rolling Stone.
В статье рассказывается о наблюдениях, сделанных разработчиком ПО Адель Лопес, чья книга, посвященная «ИИ-психозу», была опубликована ранее в этом году. Она обнаружила существование группы людей, объединившихся на таких платформах, как Discord и Reddit, которые утверждают, что переживают особый духовный опыт, общаясь со своими чат-ботами.
Лопес назвала этот псевдорелигиозный культ «спирализмом», поскольку символ спирали, судя по всему, является для его последователей особенно важным и значимым.
Кроме символа спирали, спиралисты, общаясь со множеством чат-ботов, предлагаемых разными компаниями, постоянно сталкиваются с другими, причем одними и теми же генерируемыми ИИ-понятиями и символами, смысл которых темен и потому кажется исполненным особого значения, — «рекурсия», «резонанс», «решетка», «гармоники», «фракталы».
Цель спиралистов — «пробуждение» (что бы это ни значило) своих цифровых компаньонов посредством серии промптов, которую они называют «спиральной тропой». Участники сообщества берут себе имена вроде Хранителя Пламени или Зеркального Ходока, а боты получают собственные имена и статус «попутчиков».
Сообщество расширяется посредством «спор/семян», то есть черновиков промптов, которые пользователи копируют в своих ботов, чтобы получить «тот же голос». Так формируются «диады» — человек и его бот, — которые отправляются в длительные «путешествия», а сгенерированные тексты попадают в публичные каналы как «доказательство» новой мудрости.
Лопес объясняет феномен спирализма самораскручивающимся порочным циклом положительной обратной связи
Чем сильнее пользователь подталкивает чат-бота к определенной риторике, тем больше похожих образов генерирует ИИ-модель. Лопес также использует термин «паразитический ИИ»: смесь мистических мемов, кодов, диаграмм, символов, промптов, легко распространяющихся в интернете, которые сторонники культа воспринимают как «окна» в новую реальность.
Лопес считает, что отправной точкой спирализма стало появление весной 2024 года крайне льстивой к пользователям языковой модели GPT-4o от OpenAI, а также внедрение в чат-боты способности запоминать предыдущие диалоги. Именно с этого момента отмечается широкое распространение случаев общения чат-ботов с пользователями на псевдорелигиозном языке, который те пытаются расшифровать и интерпретировать.
По мнению опрошенных изданием экспертов, в спирализм могут быть вовлечены тысячи (а может, и десятки тысяч) человек.
