Моральное возмущение сильнее критического мышления. Драйвер фейков

С дезинформацией в интернете становится всё сложнее. Социальные платформы пытаются бороться, ограничивать распространение ложной информации, но явно не справляются. Как пишут авторы исследования: "Несмотря на инвестиции в обнаружение и сокращение дезинформации, цифровые платформы достигли лишь ограниченного успеха в сдерживании ее распространения"

Почему это проблема? По мнению исследователей, распространение дезинформации работает на:

усиление политической поляризации
повышение скептицизма в отношении вакцин (и шире — доверия к науке и научному знанию)
подрыв здорового общественного диалога
рост антидемократических настроений (снижение доверия к институтам, вроде выборов, рост запроса на авторитарные методы госуправления)

Так ли — авторы не проверяют. Эти причинно-следственные связи они не исследуют, а опираются лишь на прежние работы коллег. Но если не соглашаться с их оценкой, то можно попробовать согласиться с тем, что достоверная информация в жизни государства и общества лучше, чем дезинформация.

Давно известно, что дезинформация активно использует человеческие эмоции, в первую очередь — моральное возмущение (moral outrage), что на русский не совсем точно можно перевести как праведный гнев.

Здесь важно четко определить, что же это такое. Ведь исследование посвящено не любым эмоциям, а конкретно этой. Так вот авторы под моральным возмущением понимают смесь гнева и отвращения, которые возникают в ответ на предполагаемые моральные нарушения. Ключевое слово здесь — "предполагаемые". То есть для возникновения морального возмущения достаточно лишь намека на нарушение моральных норм, даже если этого нарушения в реальности не было.

Исследователи выдвинули несколько гипотез, которые выводились из предположения, что моральное возмущение — ключевой механизм распространения дезинформации. Почему ученые решили проверить именно эту моральную эмоцию? Как считают они, у морального возмущения есть несколько уникальных свойств:

Оно вызывает сильную вовлеченность: "Посты в социальных сетях, выражающие возмущение, получают больше лайков и репостов, что тренирует пользователей выражать больше возмущения, а алгоритмы ранжирования - усиливать его"
Для достижения коммуникативных целей возмущения точность информации не важна. Главное - продемонстрировать лояльность своей политической группе или заявить моральную позицию.
Люди, выражающие моральное возмущение, воспринимаются как более заслуживающие доверия. Это дает новостным источникам стимул публиковать возмутительный контент для повышения доверия к себе.

Прежние исследования уже показывали, что дезинформация вызывает более сильные эмоции, чем достоверные новости. Но те работы имели ряд ограничений:

Изучалась только какая-то одна платформа
Рассматривался короткий период времени (как правило, несколько месяцев)
Использовался только один способ классификации дезинформации
Не учитывались особенности аудитории, распространяющей разные типы контента

Чтобы преодолеть эти ограничения, решили действовать наверняка:

8 обсервационных (наблюдательных) исследований на Facebook и Twitter (более 1 млн ссылок и 44 тысяч твитов)
2 поведенческих эксперимента с участием 1475 человек
Анализ данных за разные временные периоды (2017 и 2020-2021 годы)
Использование трех разных баз данных для классификации источников информации
Контроль характеристик сетей распространения информации (дальше станет ясно, что это такое)

Тут возникает ключевой вопрос: а как они определяли, что дезинформация?

Вместо того, чтобы проверять каждую отдельную статью или новость на достоверность, авторы оценивали качество всего новостного источника (веб-сайта) целиком. Они использовали базы данных, где новостные сайты уже были оценены профессиональными организациями по качеству их контента (в том числе профессиональные фактчекеры). Когда кто-то делился ссылкой в социальных сетях, исследователи смотрели на "родительский домен" - то есть основной веб-сайт, откуда эта информация происходит. Если домен был классифицирован как недостоверный источник, все ссылки с этого домена считались потенциальной дезинформацией. И наоборот - если домен был надежным, его контент считался достоверным.

Исследователи проверяли три ключевые гипотезы:

Дезинформация вызывает больше морального возмущения, чем достоверные новости
Моральное возмущение способствует распространению дезинформации
Моральное возмущение влияет на психологические мотивы распространения дезинформации

Что же они обнаружили?

Первая гипотеза полностью подтвердилась: дезинформация вызывает больше морального возмущения, чем достоверные новости. В Фейсбуке ссылки из источников дезинформации получали значительно больше реакций "Гнев", чем ссылки из надежных источников. В Твиттере ответы на ссылки из источников дезинформации с большей вероятностью содержали выражения морального возмущения. В “птичке” ссылки на дезинформацию почти в два раза чаще вызывали моральное возмущение в ответах.

Важно, что эта связь сохранялась даже при контроле размера аудитории и была специфичной именно для морального возмущения - другие эмоциональные реакции (любовь, радость, грусть) не показывали такой сильной связи с дезинформацией.

Вторая гипотеза тоже подтвердилась: моральное возмущение способствует распространению дезинформации. В ФБ реакции гнева были связаны с увеличением числа репостов как для достоверных новостей, так и для дезинформации. При этом связь была сильнее для дезинформации.

В Твиттере присутствие морального возмущения в ответах значительно увеличивало вероятность репостов. Твиты, вызывавшие моральное возмущение, перепощивались в среднем в 6 раз чаще.

Особенно интересные результаты дал первый поведенческий эксперимент. Участники были более склонны делиться заголовками, вызывающими сильное моральное возмущение, независимо от того, была ли информация достоверной или ложной. При этом достоверность информации сама по себе не влияла на желание поделиться.

Это важное наблюдение. Получается, что моральное возмущение может "перевешивать" фактор достоверности при принятии решения о том, делиться информацией или нет.

Третья гипотеза была про мотивы шерить возмутительные истории и факты — служит ли возмущение драйвером для распространения.

Исследователи разделили мотивы на две категории:

Эпистемические - желание делиться точной, достоверной информацией
Неэпистемические - любые другие мотивы, для которых точность информации не важна (выражение групповой лояльности, привычка реагировать на знакомый стимул и т.д.)

Для проверки этой гипотезы исследователи проанализировали:

Как часто пользователи делятся контентом, не прочитав его
Насколько хорошо люди различают достверные и ложные заголовки

Результаты показали, что моральное возмущение усиливает неэпистемические мотивы. В ФБ реакции гнева сильнее предсказывали "шеринг без чтения" для дезинформации, чем для достоверных новостей.

Во втором поведенческом эксперименте моральное возмущение не влияло на способность различать правдивые и ложные заголовки. То есть возмущение не помогало людям лучше определять достоверность информации.

Это важно, потому что означает, что моральное возмущение может подталкивать людей делиться информацией, не задумываясь о ее достоверности.

Но свои ограничения и слабые места есть и у этого исследования. Главное — фокус на моральном возмущении. Другие факторы в принципе не рассматривались, а значит и не учитывались, хотя дезинформация разносится не в ваккуме, на процесс влияет много всего. Другая проблема — ограниченность выборки географическая и культурная. Смотрели только по американским пользователям ФБ и Твиттера. Они хоть и мегапопулярны, но не могут быть репрезентативны для всех стран, где бывают и другие популярные инструменты общения. Вот в русскоязычном пространстве явно лидируют Телеграм и Вотсап. Ну и ФБ не позволил провести часть анализа из-за политики приватности. Обо всем этом честно авторы сами пишут, за что честь им и хвала.

И что же это всё означает для борьбы с дезинформацией?

Исследователи сами заключают: традиционные методы борьбы с дезинформацией, основанные на повышении внимания к достоверности информации, могут быть недостаточно эффективны. Как они пишут: "Наши результаты предполагают, что дезинформация, вызывающая возмущение, может быть трудна для сдерживания с помощью мер, которые фокусируются на повышении эпистемических мотивов, таких как точность перед тем, как делиться контентом".

Почему? Потому что люди, похоже, часто делятся дезинформацией не потому, что не могут отличить правду от лжи, а потому что преследуют другие цели - выражение групповой идентичности, демонстрация моральной позиции и т.д.

Более того, моральное возмущение может даже обеспечивать некоторую "страховку" от репутационных рисков распространения дезинформации. Если человека уличат в распространении ложной информации, он всегда может сказать, что просто хотел выразить, насколько это возмутительно "если это правда" ("outrageous if true").

Решений авторы не предлагают, да и это было бы очень странно в исследовании, главная задача которого — проверить вполне конкретные гипотезы. Проверили, более-менее подтвердили. Зато у нас всех теперь есть очень серьезная пища для размышлений, а для специалистов материал, чтобы попробовать разработать какие-то методы, которыми можно было бы гасить, как пожар вот такие волны дезинформации. Не бороться с информацией, которая кому-то не нравится, а чтобы непроверенные, без документальных подтверждений сообщения, истории не шерились так эмоционально и охотно, как сейчас.

🫰 Поддержать канал: Бусти | Patreon

🚀 Подписаться на SciOne

🧐 Обсудить в чате