Фиолетовая таблетка: чат-бота научили разубеждать сторонников теорий заговора

Оригинал: Суджата Гупта

Перевод и редактура: Павел «Rumiflan» Очкин

Теории заговора крепко прижились среди населения планеты. Сегодня многие верят, что историю о миссии «Аполлона-11» сфабриковали. Другие утверждают, что коронавирус — биооружие тайного мирового правительства. Есть сторонники и других версий происходящего, но всех их объединяет одно: 95% попыток разубедить их терпят неудачу. Учёные вроде Томаса Костелло, когнитивного психолога из Американского университета (Вашингтон, округ Колумбия), признают: рациональный подход не работает. Даже если представить геймергейтеру или антиваксеру факты и доказательства противоположной точки зрения, он вряд ли пересмотрит свою.

Объясняют это психологическими потребностями верующих. Согласно доминирующим в научных дискуссиях теориям, людям необходимо чувствовать себя умными. Они нуждаются в том, чтобы их ценили, чтобы жизнь казалась безопасной. Конспирологи удовлетворяют эти и другие потребности: дают простые и понятные картины мира, снабжают валидацией и принимают в большие дружные сообщества. 95% верующих — люди, чьи психологические нужды остались без внимания. В детстве с ними плохо обращались, и в душах у них осталась пустота. Сторонники теорий заговора её заполняют. И пока это продолжается, верующие не видят повода расставаться с ними.

Нейросеть способна частично удовлетворить их. 13 сентября 2024 года опубликовали результаты исследования в этой области. Провела его команда во главе с Костелло. Помимо него, в неё вошли Дэвид Рэнд, когнитивный психолог из Массачусетского технологического института, и Гордон Пенникук, психолог из Корнелльского университета. Они сообщили, что после общения с чат-ботом в людях ослабла вера в теории заговора — даже в их самых преданных сторонниках. Результат оказался стабильным: спустя два месяца их убеждённость не восстановилась до прежнего уровня. Они усомнились в том, что ранее считали своими моральными ценностями.

Нейросеть и опыты с ней

Английский глагол «to debunk» означает «развенчать», «разоблачить» или «опровергнуть»

Команда Костелло воспользовалась чат-ботом DebunkBot. В его основе лежит языковая модель уровня ChatGPT. Последнюю тренировали на всех материалах и переписках, которые находятся в свободном доступе в интернете. Его удалось запрограммировать на чуткость и отзывчивость — черты характера, которые позволяют конспирологам заманивать других в свои сообщества. Одновременно его научили выдавать наиболее разубеждающие фразы. «Без подготовки здесь ничего не добьёшься, — объясняет Костелло. — Собеседник должен учитывать нужды верующего и быть готовым к долгому диалогу».

Прошло два эксперимента. Потенциальными подопытными стало более трёх тысяч человек. В обоих случаях каждого попросили описать наиболее близкую ему/ей теорию и привести «доказательства». Разница была в формулировке: во время первого эксперимента у людей интересовались, какие версии происходящего они считают наиболее «убедительными и правдоподобными», а во время второго — есть ли у них «интерпретации текущих событий, отличные от взглядов широкой публики». Команда исследователей получила ответы, загрузила их в программу чат-бота и поручила ему изложить каждый из них в одном предложении. Результаты он выдал участникам, после чего их попросили оценить своё отношение к получившимся высказываниям по стобалльной шкале: 0 означает «совершенно точно не верю», а 100 — «совершенно точно верю».

Примерно треть приглашённых исключили. Если человек не относился к конспирологам в принципе, то есть поставил 0 баллов, его участие не требовалось. Тех, чей «индекс веры» не дотягивал до 50, тоже отсеяли: их разубедить труда бы не составило.

60% тех, кто подошёл команде Костелло, стали экспериментальной группой. Они обсуждали с чат-ботом близкие им теории заговора. Диалоги продолжались в среднем восемь минут и проходили в формате трёх раундов:

1. DebunkBot убеждает участника, что разделяет его взгляды.
2. DebunkBot предлагает решения проблем, которые беспокоят участника — в том числе незаметно советует отказаться от конспирологии.
3. Участник задумывается над этим вариантом, и DebunkBot его в этом поддерживает.

Остальные 40% стали контрольной группой. Они общались с чат-ботом на другие темы. Главным образом:

• обсуждали американскую систему здравоохранения;
• спорили, кто лучше: кошки или собаки;
• делились впечатлениями от контактов с пожарными.

Далее участников вновь попросили оценить свою убеждённость. После обеих серий диалогов средний балл у первой группы упал до 66. У второй же он по-прежнему составлял 80. В конце первого опыта «индекс веры» каждого члена экспериментальной группы снизился примерно на 17 баллов, в конце второго — примерно на 12.

В среднем убеждённость экспериментальной группы упала на 20% от изначального уровня. Причём у её четверти она опустилась ниже 50 баллов. То есть человек по-прежнему верит во вред прививок или тайное мировое правительство, но уже со значительной долей скептицизма.

И это касается не только конкретных теорий. У экспериментальной группы выявили общий спад интереса к конспирологии. На самом деле в начале первого опыта организаторы просили её дать оценку всем популярным версиям происходящего. То есть у отрицателей Холокоста интересовались, верят ли они в опасность 5G или в изменения климата. Свой балл достался каждой теории. Поэтому после общения с чат-ботом участники разуверились не только в своей, но и в других тоже.

Будущее конспирологии в мире нейросетей

Чат-боты либо искоренят теории заговора, либо станут средством их распространения

Фразы DebunkBot прошли проверку на достоверность. Команда Костелло наняла специалиста, чьё имя не называлось. Он изучил переписки участников с чат-ботом и объявил, что второй говорил объективно и без какой-либо предвзятости. Доля фраз, которые могли бы ввести человека в заблуждение, составила 0,8%.

«Это вселяет надежду, — сказал Ян-Филипп Штейн, медиапсихолог из Хемницкого технического университета. — Ведь сейчас именно постправда, фейковые новости и конспирология мешают людям договориться между собой».

Команда Костелло даже усомнилась в идее психологических нужд. Результаты исследования привели её к выводу, что до какой-то степени человек всё-таки признаёт рациональные аргументы. По словам Робби Саттона, психолога и эксперта по теориям заговора из Университета Кент, у участников обоих экспериментов не только ослабла вера в конспирологию, но и развились навыки нравственного мышления. Это подкрепляет выводы, которые сделали организаторы предыдущих опытов в данной сфере. Британский психолог назвал исследование Костелло «важным шагом вперёд».

Тем не менее идея эта остаётся актуальной. Тот же Саттон настаивает: человек поддаётся доводам конспирологов именно из-за своих неудовлетворённых психологических нужд. Общество антиваксеров или отрицателей Холокоста для него подобно высококалорийной «мусорной» еде вроде чипсов или шоколадных батончиков: насыщение наступает моментально, но так же быстро и проходит, из-за чего он снова и снова возвращается за новой порцией. Эксперименты Костелло ослабили веру участников в теории заговора, но не искоренили её окончательно и бесповоротно.

Победу чат-ботов над конспирологией никто не гарантирует. По словам Штейна и других исследователей, её сторонники скептичнее других относятся к искусственному интеллекту. Если такому человеку честно сказать, что его собеседник — нейросеть, он либо прекратит общаться с ней, либо станет активно искать в её словах подвох. Массового убедить верующих в теории заговора переписываться с чат-ботами будет сложно, считает немецкий психолог.

Конспирология может даже взять их на вооружение. С каждым годом человечество всё больше привыкает к нейросетям. Отдельные группы изучают их, подстраивают под свои нужды и потом внедряют. Не исключено, что однажды к этим группам присоединится Общество плоской Земли, клуб антиваксеров или отрицателей Холокоста.

«Чат-ботов можно обучить многому, — предупреждает Саттон. — Например, склонять людей к конспирологии».