Изучая фейки.

 

Большинство организаций борются с фейковыми новостями, когда они их видят. Но что, если бы существовал способ остановить дезинформацию еще до того, как она начнет распространяться?

 bbc.com/future

На протяжении десятилетий медицина предоставляла нам простой способ предотвращения болезней: вакцины.

Большинство из нас знакомы с тем, как работает вакцина — она подвергает наши тела воздействию ослабленных версий вируса, чтобы помочь нам выработать антитела против настоящего вируса.

Сейчас это обычная практика врачей общей практики во всем мире. Вакцинация почти полностью погасила некоторые из самых страшных болезней прошлого века, включая корь и полиомиелит.

Но могут ли вакцины найти применение помимо медицины?

 

Такие исследователи, как Сандер ван дер Линден, работают над типом вакцины, которая могла бы бороться с настоящим бедствием 21-го века: фальшивыми новостями

Это может сработать, потому что дезинформация ведет себя как вирус. Ложные новости распространяются быстрее, глубже и дальше, чем правдивые истории, каскадно переходя от «хозяина» к «хозяину» по хэштегам Twitter, группам WhatsApp и профилю вашего двоюродного дедушки Гэвина в Facebook (да, он открыл его). Что еще хуже, фальшивая история упорно сохраняется.

 

«Если вы попытаетесь опровергнуть ее, дезинформация останется с людьми», — говорит ван дер Линден, руководитель Лаборатории принятия социальных решений в Кембриджском университете. «Как только он интегрируется в долговременную память, исправить его становится очень сложно».

Так что ты можешь сделать? - Ты стреляешь первым.

Профессионалы в этой области называют такой подход «пре-букинг». Вместо того, чтобы ждать распространения ложной информации, а затем кропотливо проверять факты и разоблачать ее, исследователи наносят упреждающий удар, который может защитить ваш мозг.

Десятилетия исследований показывают, что этот подход работает.

Психологи впервые предложили прививку в 1960-х годах, опасаясь пропаганды и промывания мозгов во время холодной войны. Но версия 21-го века нацелена на наш современный ландшафт дезинформации, еще более озабоченный политическими разногласиями и культурными войнами.

 Возьмем изменение климата. Более 97% ученых-климатологов пришли к выводу, что ответственность за глобальное потепление лежит на людях, но большие группы общества до сих пор с трудом верят в это. На вопрос, какой процент климатологов согласен с тем, что глобальное потепление происходит по вине человека, только 49% американцев ответили, что больше половины, и только 15% правильно ответили, что больше 91%. Путаница отражает изощренные кампании, направленные на то, чтобы посеять сомнения в обществе.

Как только сомнение уляжется, его трудно вытеснить

Трудность в том, что, как только сомнение уляжется, его трудно вытеснить. Ван дер Линден и его коллеги задавались вопросом, что произойдет, если они доберутся до людей раньше, чем это сделают скептики.  

Команда подготовила три документа. Во-первых, они написали «правдивую сводку», в которой объяснили, что 97% ученых-климатологов согласны с тем, что люди несут ответственность за изменение климата. Они также подготовили «контр-бриф», раскрывающий недостатки петиции штата Орегон — например, что среди 31 000 имен в петиции есть такие люди, как покойный Чарльз Дарвин и Spice Girls, и что менее 1% подписавших являются учеными-климатологами.

Наконец, они опросили 2000 человек. Во-первых, они спросили их, насколько велик научный консенсус в отношении изменения климата, не заглядывая ни в один из документов. Затем они разделили их на одну группу, которая видела «краткую информацию о правде», одну группу, которая видела петицию штата Орегон, и тех, кто видел «краткую информацию о правде» до петиции.

Результаты были интригующими. Когда участников впервые спросили о научном консенсусе в отношении изменения климата, они подсчитали, что в среднем он составляет около 72%. Но затем они изменили свои оценки, основываясь на прочитанном

Когда ученые снабдили группу «кратким описанием правды», средний показатель вырос до 90%. Для тех, кто читал только петицию штата Орегон, средний показатель упал до 63%.

Когда третья группа прочитала их оба — сначала «краткое изложение истины», а затем петицию — средний показатель не изменился по сравнению с первоначальными инстинктами участников: 72%.

 

«Я не ожидал такого потенциала дезинформации, — говорит Ван дер Линден, — дезинформации удалось полностью «нейтрализовать» правильные данные.

Одно исследование показало, что, когда людям давали фактическую сводку, а затем фальшивую, дезинформация полностью нейтрализовала правильные данные.

Сделайте прививку.

Когда группа участников прочитала «краткую информацию», а также ей сказали, что политически мотивированные группы могут попытаться ввести общественность в заблуждение по таким темам, как изменение климата — «вакцина», — расчетное среднее значение выросло почти до 80%. Поразительно, но это было правдой даже после получения петиции штата Орегон

«Контрбриф» с подробным описанием того, как петиция вводила в заблуждение, был более эффективным. Одна последняя группа, прочитавшая ее перед петицией, подсчитала, что 84% ученых согласны с тем, что люди несут ответственность за изменение климата (конечно, фактическое число по-прежнему составляет 97%).

В другом исследовании другая команда под руководством Джона Кука задала аналогичный вопрос и пришла к тому же результату: прививка может дать нам преимущество против дезинформации.

Они меняют подход, наносят упреждающий удар и предупреждают людей — Эрин Ньюман

«Это захватывающее событие», — говорит Эрин Ньюман, когнитивист и преподаватель Национального университета Австралии, не участвовавшая в исследованиях. «Они меняют подход, наносят упреждающий удар и предупреждают людей».

Другими словами, дядя Гэвин может дважды подумать, прежде чем поделиться последним постом о Brexit, Трампе или о том, плоская ли Земля.

Почему это работает

Люди обычно полагаются на умственные сокращения, чтобы думать; мир полон информации, и наш мозг имеет ограниченное время и возможности для ее обработки. Если вы видите морщинистого седовласого мужчину, и кто-то говорит вам, что он пожилой человек, ваш мозг принимает это и продолжает.

Люди, работающие с дезинформацией, знают это и используют в своих интересах. Например, составители Орегонской петиции ложно утверждали, что 31 000 ученых поддержали их заявление, потому что мы склонны доверять экспертам.

Когда информация кажется легкой для обработки, люди, как правило, кивают, – Ньюман.

«Когда информацию легко обрабатывать, люди, как правило, кивают», — говорит Ньюман, соавтор обзора о том, как бороться с ложной информацией.

Они обнаружили, что прежде чем поверить новой информации, большинство людей тщательно ее исследуют, по крайней мере, пятью способами. Обычно мы хотим знать, верят ли в это другие люди, есть ли доказательства, подтверждающие это новое утверждение, согласуется ли оно с нашими предыдущими знаниями по этому вопросу (отсюда и седовласый мужчина, который может соответствовать вашему представлению о пожилом гражданине), если внутренний аргумент имеет смысл и является ли источник достаточно достоверным.

Но иногда мы слишком полагаемся на ярлыки, чтобы ответить на эти пять вопросов. Наша оценка не столь тщательна. Мы не спрашиваем себя: «Хм, а сколько из них на самом деле климатологи?» Вместо этого мы просто принимаем число «31 000 ученых», потому что оно кажется правильным.

Прежде чем поверить в какую-то новую информацию, люди тщательно ее изучают, но иногда для этого полагаются на более короткие пути.

 

Психологи называют этот автоматический способ мышления «Системой 1». Это чрезвычайно полезно для повседневной жизни, но уязвимо для обмана. В нашей быстро меняющейся информационной экосистеме наш мозг перескакивает с одного поста на Facebook на другой, полагаясь на эмпирические правила для оценки заголовков и комментариев и не задумываясь над каждым утверждением.

Это благодатная почва для фейковых новостей. Тем не менее, команды, работающие над «вакциной» от дезинформации, считают, что их работа позволяет более глубокому мышлению.

«Прививка заставляет наш мозг работать медленнее», — говорит ван дер Линден. «Есть элемент предупреждения».

 

Чтобы оценить это, может быть полезно понять, как работает вакцина (фактическая медицинская процедура, а не метафора дезинформации).

Каждый раз, когда мы получаем укол, мы показываем своему телу образец болезни — биологический «магшот», достаточно маленький, чтобы не чувствовать себя действительно больным, но достаточно сильный, чтобы спровоцировать реакцию. Этот нарушитель приводит в действие нашу иммунную систему, и она начинает выстраивать защитные силы или антитела. Когда мы сталкиваемся с настоящей болезнью, наше тело распознает ее по фотографии и готово нанести ответный удар.

Когда исследовательская группа предупредила участников, что другие могут попытаться их обмануть, они не приняли дезинформацию за чистую монету.

Нечто подобное произошло в исследовании ван дер Линдена. Когда его команда предупредила участников, что другие могут попытаться их обмануть, они не приняли петицию штата Орегон за чистую монету. Они отвергли свое мышление, основанное на Системе 1, и подтолкнули заменить ее ее двоюродной сестрой — более медленным, но более мощным способом мышления, который психологи называют Системой 2.

Те, кто читал и «краткую информацию», и петицию штата Орегон и оценили научный консенсус в 72%, возможно, больше полагались на более быструю и поверхностную Систему 1. Но когда «вакцина» заставила их мозг переключиться на Систему 2, две последние группы помнили «фотографию знаний» из встречного бюллетеня и не доверяли петиции. Это может объяснить более высокую оценку в более поздних группах.

     

Кажется немного нелогичным бороться с фейковыми новостями, обучая людей тому, как стать магнатом дезинформации, но Рузенбек доверяет эксперименту. Его также забавляет, хотя и слегка, мой дискомфорт.

«Если вы сделаете укол, вас может немного подташнивать позже в тот же день, — заверил меня аспирант, — но это поможет вам в долгосрочной перспективе».

Пара подготовила академический отчет с результатами 20 000 игроков, которые согласились поделиться своими данными для исследования. Хотя они не опубликованы, они говорят, что результаты обнадеживают.

Укороченная версия игры представлена ​​на выставке в лондонском Музее дизайна, где люди могут сыграть роль информационного агитатора в Британии после Brexit.

В своей любви к метафоре прививки члены кембриджской команды с надеждой говорят об онлайн-игре, которую теперь переведут более чем на 12 языков. Ван дер Линден ожидает, что люди могут получить «коллективную иммунизацию», если она будет широко распространена в Интернете. Рузенбек говорит об «общем иммунитете», поскольку игра нацелена не на какую-то конкретную тему, а на общее использование фейковых новостей.

В конечном счете, ей также придется пройти проверку временем: исследователи не знают, как долго сохранятся преимущества прививки, если прививка вообще сработает. Дезинформация как вирус распространяется в быстро меняющейся среде и быстро адаптируется к новым условиям.

«Если вирус изменится, люди по-прежнему будут защищены?» — спрашивает Ньюман, который задается вопросом, выдержит ли игра постоянно меняющийся характер онлайн-троллинга и дезинформации.

Другими словами: продлится ли это усиление психологической защиты вашего дяди Гэвина до следующих выборов?

Намного проще доверять надёжным источникам. Но кто они?