Невидимые правители. Люди, которые превращают ложь в реальность

Саймон, Дойч и Шубик обсуждали одну из главных проблем социальных сетей за десятилетия до появления онлайн-платформ: курацию контента, искусство решать, какая информация дойдет до кого. Сегодняшнее алгоритмическое курирование - это ключ к влиянию и формированию консенсуса, и все же его затмевает модерация контента, которая пытается отсеять "хорошее" от "плохого". 60

Принцип дизайна "внимание ограничено и должно быть сохранено" сильно отличается от принципа "чем больше информации, тем лучше". Дизайнеры и специалисты по этике дизайна утверждают, что системы курирования должны помогать нам сосредоточиться на важных вещах или, как минимум, на тех, которые мы намеренно выбираем (даже если это таблоидный контент из супермаркета). Среди тех, кто занимается дизайном технологических продуктов, бытует поговорка: "Дьявол кроется в настройках". Нейтральной ленты не существует; сообщения должны быть как-то взвешены и упорядочены. Но как? Должна ли ранняя популярность быть самым важным фактором? Если да, то у влиятельных лиц и других авторов появляется стимул использовать сочетание сенсационных высказываний с фальшивыми аккаунтами или скоординированной вовлеченностью, чтобы попытаться сделать что-то популярным. Должны ли алгоритмы просто по умолчанию использовать обратную хронологическую ленту, в которой на первое место ставится самое последнее сообщение из тех, за которыми следят? Если да, то это будет стимулировать частые публикации и количество над качеством.

Сейчас уведомления о сенсационных материалах, толпы преследователей главного героя или ленты, поощряющие рассылку спама, идут по умолчанию. Но три широких изменения в дизайне могут смягчить эту разрушительную динамику и свести к минимуму риск того, что технический триумф превратится в социальную катастрофу. Первое - применить рекомендации Саймона к системам курирования, которые направляют наше внимание. Второе - передает больше контроля непосредственно в руки пользователя. И третье создает трение: замедляет вирусность, чтобы факты могли догнать слухи (что, по иронии судьбы, стремилась делать журналистика, когда памфлеты превращались в газеты).

Лопнувшие пузырьки

Ранее мы рассмотрели, как рекомендательные алгоритмы создавали новые социальные сети, соединяя людей друг с другом в закрытых и открытых толпах. В те ранние дни создания сообществ очень мало внимания уделялось тому, что и кому рекомендовалось, и в результате появились заговорщические культы вроде QAnon. Сейчас платформы лучше осознают непредвиденные последствия того, что они предлагают, но вопрос о том, как бороться с разрушением консенсусной реальности, не имеет простых ответов. Недавние исследования YouTube показывают, что потребление экстремального контента теперь в большей степени зависит от активного спроса, а не от алгоритма, направляющего наивных и невольных пользователей в темное будущее. 61

Существуют проблемы и помимо откровенного экстремизма - например, поляризация. Совместный исследовательский проект социологов и исследователей Meta, получивших доступ к внутренним данным платформы, обнаружил доказательства того, что рекомендации и курирование действительно способствуют созданию эхо-камер и идеологической сегрегации. 62. Тем не менее, когда социологи провели эксперименты на Facebook во время выборов 2020 года, они обнаружили, что настройка курирования не является волшебной пулей для деполяризации: вмешательства, направленные на изменение того, что видят пользователи, например, переключение их лент с алгоритмического курирования на обратный хронологический порядок или уменьшение количества контента, который они видят из источников "единомышленников", мало что дали. 63 Кроме того, уменьшение преобладания политического контента в лентах партизан сократило время их пребывания на Facebook, но не привело к их деполяризации.

После многих лет алгоритмического и социального подкрепления некоторые люди, возможно, просто слишком укоренились в реальности: их сети установлены; их убеждения устоялись; они наслаждаются временем, проведенным с членами своей фракции. Исследования проводились в довольно ограниченный период времени, результаты содержат много нюансов, и авторы предостерегают от слишком широкого прочтения и огульных обобщений. Исследования влияния алгоритмического курирования, безусловно, должны продолжаться, однако само по себе исправление лент не станет панацеей от более глубоких проблем поляризации и идеологической сегрегации. 64

Но есть еще пути для исследования. Многие исследователи социальных сетей по-прежнему считают, что рекомендательные системы могут быть разработаны для деполяризации или преодоления разногласий между группами. 65 Сигналы вовлеченности могут быть менее весомыми при выборе материалов или, по крайней мере, в сочетании с другими показателями. 66 Цивилизованность может стать более весомой, особенно в отношении политических тем, а не нравоучительных высказываний и сенсаций, которые часто поднимаются сегодня. 67 Новостной контент может по умолчанию иметь высокую степень авторитетности или достоверности. 68 Говорить о том, что одни источники более надежны, чем другие, стало спорно, но это факт; сами пользователи могли бы давать сигналы о том, какие источники заслуживают доверия, используя краудсорсинг. 69

Переосмысление курирования выходит за рамки предложений по содержанию. Николас Кристакис, профессор социологии и врач из Йельского университета, давно утверждает, что то, с кем мы связаны, имеет огромное значение и что можно сделать просоциальное поведение (например, здоровое питание или отказ от курения) заразным в сообществе. 70. Платформы уже имеют внутренние метрики для определения того, являются ли сообщества про- или антисоциальными (вспомните обеспокоенность Facebook по поводу некоторых групп, появившихся после выборов 2020 года; они были отмечены не из-за их политики, а из-за растущей распространенности постов, пропагандирующих насилие). Алгоритмы рекомендаций и ранжирования ленты могли бы использовать этот сигнал. Возможно, стоит поэкспериментировать с прозрачностью и здесь: обнародование групповых рейтингов может увеличить определенные типы позитивного поведения. Проектирование, направленное на укрепление позитивных социальных норм, является растущей областью исследований. 71

Поскольку от рейтинга ленты зависит, сколько внимания - и потенциально дохода - получит тот или иной влиятельный пользователь, многие генералы и вечно обиженные считают алгоритм ранжирования ленты неким священным, а любые изменения - цензурой. Например, меры Facebook "Разбей стекло", сократившие объем политического контента после беспорядков 6 января, вызвали возмущение известных политических авторитетов, которые временно выпали из списка 10 самых популярных постов (после того как в течение нескольких месяцев сразу после выборов они занимали значительное место).72 В действительности нынешняя система - это просто механизм привлечения внимания и максимизации доходов, созданный коммерческой компанией; вы помните, что Facebook также изменил рекомендации в ленте Watch таким образом, что пострадали совершенно аполитичные видео Рика Лакса об измене супруги.

Люди, которые хотят видеть негатив, ненормативную лексику, глубоко полярные фигуры или посторонние СМИ, смогут это сделать, даже если алгоритм изменится; такие аккаунты все равно будут существовать. Но в качестве руководящего принципа следует руководствоваться принципом "свобода слова, а не свобода охвата". Размещение контента и продвижение контента - две разные вещи. 73 Даже во времена газетных киосков некоторые журналы, посвященные более взрослым темам, стратегически откладывались на полку. Платформы могут решить обеспечить свободу самовыражения, размещая у себя спорный или даже оскорбительный контент. Если пользователи активно следят за контентом, платформы, безусловно, могут размещать его в своих лентах. Но они не обязаны продвигать его на всех поверхностях, рекомендовать его потенциальным новым подписчикам или размещать против него рекламу. На самом деле, известный борец за свободу слова Элон Маск сделал этот принцип краеугольным камнем системы модерации контента Twitter в 2023 году 74 и закрепил его в коде рекомендательной системы своей компании, который он открыто опубликовал на Github. 75

Передайте больше контроля в руки пользователей

Есть и другой вариант: дать пользователям возможность самим явно определять предпочтения в отношении ленты, модерации и рекомендаций. Идея о повышении автономности пользователей муссируется уже несколько лет, часто в контексте устранения пузырей фильтров. В 2017 году Итан Цукерман, тогдашний директор Центра гражданских медиа при Массачусетском технологическом институте, создал инструмент под названием Gobo, который позволил пользователям просматривать свои ленты социальных сетей, руководствуясь собственными правилами модерации. 76 Хотите ли вы видеть больше постов от женщин? По семьям? В определенной категории? Это позволяет пользователям формировать ленту, соответствующую их интересам и ценностям, а не интересам и ценностям платформ.

"Middleware"-конфигурация третьими сторонами 77 - развивает эту идею. Любой человек может создать ленту, например, в виде списка, в который он добавляет участников, и публично поделиться ею, возможно, разделив доход с платформами в обмен на обеспечение устойчивой аудитории. Пользователи, в свою очередь, могут подписываться на ленты, курируемые редакторами с проверенной тематической экспертизой или даже определенной партийной принадлежностью.

Начинающая компания Bluesky, специализирующаяся на социальных сетях, уже предлагает такую возможность. Я пользуюсь ею и, помимо участия в типичном следовании, подписался на ленты с такими названиями, как "Садоводство", "Что такое наука?", "Урбанизм", "Дерьмопостеры" и "UkrainianView" (сообщения от людей из Украины). Я могу переключаться между ними в зависимости от настроения и видеть посты, связанные с этими темами, от людей, за которыми я даже не слежу. Возможности безграничны; более смелые пользователи могут следить за "OnlyPosts" (контент для взрослых типа OnlyFans), лентами искусства AI и целым рядом сообществ, основанных на идентификации личности. Люди, использующие эти инструменты, напрямую выражают свои интересы и намеренно выбирают, что (или кого) они хотят видеть; рекомендательные системы не интуитивны и не подталкивают.

Конечно, остается открытым вопрос о том, какое влияние окажет самоотбор в масштабе на враждующие фракции. Выберет ли большинство людей что-то экстремальное, что просто укрепит их уже сложившуюся реальность? Хотелось бы думать, что ответ будет отрицательным, но пока мы не знаем достаточно, чтобы ответить на этот вопрос. В любом случае, хотя этот сдвиг может усилить пользовательские реалии для некоторых, сочетание двух подходов - изменение настроек по умолчанию и предоставление большей власти пользователю - может уменьшить количество приманки и ерунды, которая непреднамеренно подталкивает восприимчивых.

Возвращение человека в контур в определенном качестве, например, через промежуточное программное обеспечение, потенциально может стать преобразующим фактором. Также как и сокращение масштабов алгоритмов. Возможно, пришло время избавиться от полностью автоматизированных функций трендов. Игра с ними - ключевой элемент в создании иллюзий большинства, проецировании ложного консенсуса и стимулировании злоупотреблений в отношении главных героев. Они являются благом для самых разрушительных элементов как мельницы слухов, так и машины пропаганды. В настоящее время они являются чистым негативом.

Однако идея о тенденциях остается ценной. Такие кризисы, как лесные пожары на Мауи в 2023 году, усилили потребность правительственных или местных СМИ в оперативном общении с общественностью в социальных сетях, а также в экстренных трансляциях. А спортивные болельщики любят делиться яркими моментами игры в командных трендах по воскресеньям - это временное виртуальное место сбора. Огромную пользу здесь могут принести промежуточное программное обеспечение или подходы, основанные на человеческом подходе. Чтобы поддерживать срочные новости и при этом минимизировать их недостатки, можно использовать модель курируемого новостного отдела, которую в прошлом применяли Twitter и Facebook.

Предоставление пользователям большего контроля над тем, что они видят на индивидуальном уровне или на уровне сообщества, имеет множество преимуществ: повышение самостоятельности, ощущение причастности, повышение чувства легитимности. Это относится и к модерации контента. Вместо модели "обслуживания клиентов", при которой централизованная власть регулирует пространство, это будет возвращением к управлению сообществом. 78 Пользователи могут выбрать определенные подходы к модерированию, которые соответствуют их ценностям. Они также могут подписываться на общие списки блокировки.

Сообщения, которые начинают становиться вирусными, могут быть поставлены в очередь на проверку фактов с помощью толпы, подобно функции Community Notes в Twitter. Действительно, проверка фактов с помощью толпы в некоторых случаях показывает большие перспективы: разнородные толпы, придерживающиеся разных точек зрения, часто демонстрируют чрезвычайно высокую точность или очень хорошо знают контекст конкретных событий. К сожалению, сама система Community Notes быстро стала политизированной (фракции играли в нее, выбирая для исправления твиты своих врагов; откровенно ложные твиты самого Элона Маска часто игнорировались). Однако сочетание методичного темпа профессиональной проверки фактов и более быстрой реакции толпы могло бы придать процессу большую легитимность в период значительного недоверия.

Трение: Не всегда плохо

Бесшовная структура социальных сетей способствует распространению вирусных слухов и реактивному поведению. Многие дизайнеры утверждают, что небольшое стратегическое трение может настроить людей на менее импульсивный и более рефлексивный лад, благодаря чему такие максимы медиаграмотности, как "Подумай, прежде чем поделиться", будет немного легче соблюдать. 79

Возможно, вы уже сталкивались с некоторыми раздражителями: если вы напишете комментарий, содержащий ненормативную лексику, некоторые платформы предупредят вас о том, что большинство пользователей так не разговаривают, с помощью всплывающего окна, спрашивающего, хотите ли вы еще опубликовать комментарий. Это способ тонко дать понять, что вы собираетесь нарушить социальную норму - и вы все равно можете это сделать, если захотите. Иногда интерстиции появляются поверх сообщения в социальных сетях (они закрашивают или размывают его), чтобы сообщить вам, что содержание под ним спорное или может быть тревожным; они создают кратковременное трение, чтобы вы могли решить, хотите ли вы еще нажать на кнопку, чтобы увидеть его. Некоторые платформы, например Twitter, в качестве эксперимента спрашивают пользователей, которые хотят перепостить статью, хотят ли они сначала прочитать ее. 80 Это мягкое напоминание о том, что заголовки могут вводить в заблуждение или быть приманкой, и что всегда полезно посмотреть, что находится внутри статьи, прежде чем усиливать ее.

Между скоростью и точностью всегда существовало напряжение. Профессиональная журналистика внесла трения в процесс обмена знаниями. Репортеры отправлялись подтверждать факты, а затем сообщали о своих выводах общественности. Конечно, мельница слухов (географически ограниченная) могла работать одновременно, но журналисты старались связаться с источниками, чтобы получить как можно более точную информацию.

Поскольку мельница слухов стала глобальной, стоит задуматься о стратегических трениях и за пределами индивидуального уровня. На биржах Уолл-стрит существует вмешательство, известное как "автоматический выключатель": если цена акций начинает колебаться из-за появления слухов или новостей, выключатели дают рынку время переварить новую информацию без колебаний акций, которые могут создать неоправданно плохие петли обратной связи. 81

Нам не нужно устанавливать автоматические выключатели для всех типов вирусного контента, но улучшение возможностей алгоритмов для быстрого обнаружения быстрой вирусности в определенных категориях - например, внезапного быстрого обмена одной и той же фотографией взрыва - может создать рынок идей, защищенный от манипуляций. Вместо того чтобы рассматривать раннюю вирусность как сигнал к распространению, например, фотографии, утверждающей, что это взрыв в Пентагоне, среди еще большего числа людей - чтобы помочь тренду стать правдой, - вместо этого она может быть признаком того, что нужно сделать обратное, временно сократить распространение. Затем фотография может быть оценена специалистами по проверке фактов, журналистами или органом, подобным Community Notes, чтобы определить, является ли она реальной или сгенерированной ИИ мистификацией. 82 Именно по этой причине компании социальных сетей в настоящее время изучают возможность нанесения машиночитаемых водяных знаков и других механизмов обнаружения генеративного ИИ на изображения и видеоконтент.

Кто-то будет кричать, что мельница слухов - это vox populi, и объявлять любые трения, препятствующие ей, "цензурой" или чем-то вроде скользкой дорожки к ней. Но мы признаем негативное влияние слухов и паники в других обстоятельствах, и стоит поэкспериментировать и с более медленными социальными медиа.

Американская традиция свободы слова основана на идее, что факты и ложь встретятся на рынке идей, что и те, и другие будут услышаны, и что хорошие идеи победят плохие. Однако наша нынешняя коммуникационная экосистема активно препятствует этому процессу. У нас не общественная площадь, а гладиаторская арена. Дискуссии на общественной площади не часто предполагают, что люди собираются, чтобы следовать за одним незадачливым человеком по улице, выкрикивая в его адрес непристойности в течение нескольких часов; ограничения на время, место и способ высказывания способствуют поддержанию гражданского дискурса на местах. Мы можем поэкспериментировать с тем, как они могут выглядеть в Интернете. 83 Применяя меры, которые создают дополнительные трения, пусть даже кратковременные, платформы могут справиться с новыми проблемами виртуальной общественной площади, поддерживая при этом принципы свободы слова. 84

Будущее за децентрализацией

Проектные меры могут улучшить экосистему социальных сетей в ее нынешнем виде. Но, скорее всего, социальные медиа не будут вечно оставаться горсткой бегемотов.

В 2018 году, когда рефобработка и теории преднамеренного подавления начали делегитимизировать модерацию контента в некоторых заказных реалиях, я начал задумываться о том, как выглядит федерализм в цифровую эпоху. Возможно ли создать консенсусную структуру во взаимосвязанном, но расходящемся онлайн-сообществе? Возможно ли создать правила модерации, которые устраивали бы большинство людей? Опросы постоянно показывают, что люди хотят умеренности в Интернете - большинство выступает за ограничение ложной информации и агрессивного контента. 85 Но в опросах редко спрашивают, как именно выглядит их идеальная система.

На Reddit применяется интересный федералистский подход к модерированию: помимо общеплатформенных правил, регулирующих серьезные нарушения, власть в основном находится в руках модераторов субреддитов (модераторов тематических форумов), добровольцев, которые создают и обеспечивают соблюдение конкретных правил и процессов обжалования для своих сообществ. 86 Если вы хотите, например, запретить людям размещать фотографии собак в вашем субреддите про кошек, вы можете это сделать. Правила изложены четко; если новый участник присоединяется и решает размещать собак, что ж, он видел правила и решил их нарушить, и модераторы примут меры. Постер с собакой может вопить о цензуре, но сообщество не будет ему сочувствовать. Участники собрались вместе, чтобы рассказать о своей любви к кошкам, приняв и приняв нормы сообщества. Они не хотят, чтобы их пространство с кошачьими фотографиями заполонили тролли с собачьими постами. И поэтому такой человек будет удален. Модерация под руководством сообщества часто считается более легитимной, чем централизованная модерация сверху; децентрализованная модель Reddit позволяет модераторам, которые являются членами группы и хорошо знакомы с ее нормами, принимать решения в зависимости от контекста. 87 Сообщество также имеет право удалять плохие комментарии и неинтересные сообщения, выступая в качестве неформальных модераторов и кураторов.

Но дизайн Facebook, Twitter и YouTube не подходит для подхода Reddit. Вместо этого, пока шли войны за модерацию, появились альт-платформы, созданные для удовлетворения модераторских наклонностей отдельных сообществ: Gab, Parler, Gettr, Truth Social и другие предприимчивые компании увидели возможность создать приятные вотчины для пользователей правого толка. Одну из компаний, Truth Social, поддерживал президент Дональд Трамп, которому запретили доступ в основные социальные сети за его роль в подстрекательстве к событиям 6 января. В другом, Gettr, активное участие принимал китайский миллиардер-диссидент Майлз Го, близкий соратник Стива Бэннона, что привело к уникальному сочетанию аудитории, состоящей из антикитайской коммунистической партии и пользователей MAGA. 88 Но произошло нечто интересное: за исключением Gab, 89 , который обслуживал крайне ультраправую и часто белонационалистическую аудиторию, большинство MAGA-ориентированных пространств не набрали обороты. Отсутствовала динамика критического взаимодействия: не было либералов, которым можно было бы принадлежать. Это была не арена, а пространство, в котором доминировала одна фракция. Известные политические деятели и политики, такие как сенатор Тед Круз, заявляли, что станут завсегдатаями Parler, но они этого не сделали.

Не было никакой возможности раздуть из этого праздник обиды за то, что его несправедливо отмодерировали. Через несколько лет после своего основания большинство альт-платформ, ориентированных на правых, в основном потерпели фиаско. Gettr попытался развернуться; Майлз Гуо объявил, что станет рынком невакцинированной спермы. 90

После того как в конце 2022 года Элон Маск купил Twitter, возникла вторая, возможно, более важная диаспора социальных сетей - та, которая пересекается с технологическими протоколами, обеспечивающими реальную децентрализацию.

Когда Маск купил Twitter, он ввел не только изменения в политике модерирования, но и серьезные изменения в дизайне, которые (что вполне предсказуемо) стали благом для спамеров, манипуляторов и экстремистов: например, продажа доступа к проверенным значкам профиля "синяя галочка" без верификации аккаунта, а затем изменение системы ранжирования комментариев, чтобы вывести новые аккаунты "платная галочка" на первое место. Недовольные люди - в основном либеральные и левые влиятельные лица и толпы - перешли на существующую технологически объединенную платформу: Mastodon.

Запущенная в 2016 году, Mastodon - это децентрализованная социальная сеть с открытым исходным кодом, построенная на протоколе ActivityPub. Люди могут запускать отдельные "экземпляры" Mastodon, но все они связаны между собой протоколом, что означает, что все экземпляры могут видеть публичные посты из более широкой сети. Такие социальные сети, как Twitter, Facebook, Parler, Truth Social и TikTok, напротив, централизованы и проприетарны: вы не можете запустить свой собственный экземпляр Facebook или внести в него код.

Использование Mastodon во многом напоминает использование Twitter: вы можете следить за людьми, писать, отвечать, репостить и делиться медиа внутри и между инстансами. Но децентрализованный подход означает, что рамки модерации могут быть специфическими для каждого инстанса. Владельцы инстансов устанавливают правила модерации - как на Reddit, хотя и не с той степенью детализации, чтобы ограничить, скажем, посты о собаках. Правила предназначены для обработки контента для взрослых, языка вражды и другого "законного, но ужасного" контента. Экземпляры могут отделиться от других серверов с правилами, которые они считают нестрогими, поэтому сообщения пользователей из более строгих мест не будут отображаться на более строгом экземпляре.

Когда мне тоже надоел Twitter, я обнаружил, что на Mastodon все больше и больше ощущаю "онлайновый федерализм", о котором я мечтал. Это была не арена: На Mastodon не было алгоритмической курируемой ленты и кнопки "цитата-твит". Он был чисто хронологическим; когда я заходил на него, я видел, что люди обсуждали в этот момент. В целом я нашел его очень дружелюбным. Он был левосторонним, но не чрезмерно. В игре не было цитат из твитов, не было главного героя и врагов из фракций. Это было приятное напоминание о том, что социальные сети не обязательно должны быть токсичными и ужасными.

Вскоре появились аналогичные варианты. Bluesky, упомянутая ранее в контексте ее полезной функции подписки на фид, - еще одна децентрализованная социальная сеть на основе протокола. Meta, материнская компания Facebook, запустила конкурента Twitter - Threads и объявила о планах сделать ее совместимой с ActivityPub в рамках Fediverse. Однако, в отличие от Mastodon и Bluesky, Threads имеет централизованную систему модерации, основанную на мнениях и политике Instagram. Это означает, что он строго следит за соблюдением правил, запрещающих разжигание ненависти и другие нарушения.

Тенденция к децентрализации еще только зарождается, но она будет существенно влиять на социальные сети в будущем. Централизованная модерация сверху вниз в социальных сетях имеет проблемы с легитимностью; хотя жалобы правых наиболее слышны, многие группы не доверяют им. Она непрозрачна. Часто это кажется несправедливым. В федеративной социальной сети, напротив, я могу присоединиться к инстансу, управляемому человеком, который разделяет мои ценности и имеет схожие чувства в отношении модерации. Если мне не понравятся ее правила, я могу уйти и найти новый экземпляр, а мои прошлые сообщения и профиль уйдут вместе со мной. У других людей, которые хотят максимальной свободы слова или взрослого контента в своих социальных сетях, тоже есть варианты. Некоторые сообщества, как, например, первые пользователи Bluesky (многие из которых принадлежали к фракциям rose-in-bio, анархистов и антифашистов в Twitter; New Yorker описал его как имеющий атмосферу "портлендской кофейни"), 91 хотели сильных левых ценностей курирования и модерирования. Его пользователи быстро создали общие блок-листы по тому же принципу. Это тоже форма модерации сообщества, и, как и в любом другом аспекте дизайна платформы, здесь есть свои компромиссы: общие блок-листы могут позволить сообществам уничтожить попытки троллинга и создать пространство, где они чувствуют себя комфортно. Но если они основаны на мнениях, а не на поведении, они также могут усиливать косную реальность.

Растущая тенденция децентрализации и протоколов придется по вкусу не всем. Основные платформы предлагают привлекательную степень простоты. Но многие люди чувствуют себя измученными нынешним состоянием социальных сетей. Ранние разговоры о Bluesky неоднократно выражали основной вопрос: "Я просто не хочу иметь дело с нацистами". Крис Кокс, директор по продуктам Meta, отразил это настроение, когда говорил о том, чем Threads будет отличаться от своих конкурентов: "Мы слышали от создателей и общественных деятелей, которые заинтересованы в том, чтобы платформа управлялась разумно". 92 Централизованные компании, однако, будут продолжать сталкиваться с проблемой разработки универсальных правил для сложной глобальной аудитории, даже если стимулированные реф-работники и занимающие высокие посты политики будут пытаться подорвать их на каждом шагу.

Варианты, основанные на протоколах, показывают нам, что цифровой федерализм возможен. Я наслаждаюсь временем, проведенным на Mastodon, Bluesky и Threads. Но в происходящем чувствуется некая отстраненность. Мы не находим способов создать более здоровые сети, прийти к общим нормам и ценностям или вести более продуктивный диалог между людьми с разными взглядами. Мы не решаем проблему достижения консенсуса. Мы возвращаемся к более мелким сетям и укрепляем свои ниши.

"Мы формируем наши инструменты, а затем они формируют нас", - утверждал доктор Джон Калкин, современник и друг теоретика медиа Маршалла Маклюэна. Такие теоретики, как Калкин и Маклюэн, работавшие в 1960-х годах, когда телевидение, казалось, перевернуло общественный порядок, исходили из того, что данная технологическая система порождает нормы. Система, сама инфраструктура, формировала общество, которое формировало поведение, которое формировало общество. Программа - содержание, контент - была несколько вторична. 93 И именно поэтому мы должны обеспечить, чтобы будущее изучение дизайна социальных медиа (и его влияния) охватывало дисциплины, признавая тот факт, что это сложные системы, которые определяют коллективное поведение. 94

К тому времени, когда выйдет эта книга, наверняка появятся новые технологии, новые платформы и новые возможности. Каждая из них будет иметь свои компромиссы и непредвиденные последствия. Но главный вывод заключается в том, что наши коммуникационные системы должны быть созданы для того, чтобы служить нам. Мудрые люди прошлых эпох знали об этом: "Информация не требует внимания (сейчас) только потому, что она существует в окружающей среде", - говорил Герберт Саймон. За несколько столетий до этого Марк Аврелий говорил примерно то же самое: "Вы не обязаны формировать какое-либо мнение по этому вопросу, который находится перед вами, чтобы не нарушать ваш душевный покой. Вещи сами по себе не имеют силы вымогать у вас вердикт". 95

Политика и дизайн могут изменить стимулы системы, возможно, сделав пропаганду менее прибыльной или слухи менее взрывоопасными. Но особенности политики и дизайна будут меняться по мере развития технологий, появления и исчезновения новых платформ и возможностей. Возможно, самым действенным рычагом для перемен является не корректировка правил и функций социальных сетей, а более глубокое осознание нашего собственного поведения как пользователей - нашей способности формировать ропот, нашей ответственности как одного из "семи зайцев", которых видят наши друзья и семьи. Как часто говорят люди, работающие в сфере модерации контента (за выпивкой), проблема социальных сетей - это люди.

Объяснение того, как работает система, может помочь уменьшить ее худшие проявления. Ноам Чомски в книге "Manufacturing Consent", Нил Постман в книге "Amusing Ourselves to Death" и Дэниел Бурстин в книге "The Image" делали это для тех эпох, в которые они писали. Изучение того, как функционируют алгоритмы, как работают тропы и риторика и почему нас могут стимулировать к разжиганию негодования, поможет нам распознать, когда и как нами манипулируют, и сделать нас более информированными участниками. Таким образом, образование - наш последний и, возможно, самый мощный рычаг.

Образование

В 1937 году, когда отец Кофлин перешел к открытому фашизму, группа ученых и журналистов, глубоко обеспокоенных как отечественной, так и нацистской пропагандой, решила просветить людей о том, как она работает. Эта группа, возглавляемая журналистом Клайдом Миллером, создала Институт анализа пропаганды (IPA) и приступила к созданию материалов, разоблачающих риторические уловки невидимых правителей . Они считали, что пропаганда глубоко вредна для американской демократии; чрезмерно упрощая сложные ситуации и апеллируя к эмоциям, она подрывает свободу мысли. Их образовательные материалы приняли форму практических и увлекательных руководств для общественных групп и учащихся старших классов с такими названиями, как "Пропаганда, как ее распознать и справиться с ней".

Справиться с ней можно было тремя способами. Первый - подавление - противоречил демократическим принципам открытой дискуссии. Второй, контрпропаганда, соответствовал манипуляциям и потенциально усиливал социальные противоречия. Институт анализа пропаганды отверг оба подхода. По мнению его руководителей, лучший способ борьбы с пропагандой - дать людям инструменты для ее распознавания. 96 Раскрытие риторических приемов и методов манипуляции могло бы улучшить критическое мышление и выработать иммунитет к влиянию пропаганды. Это могло бы помочь создать таких рациональных, участвующих в жизни общества граждан, за которых ратовал Джон Дьюи в спорах с Уолтером Липпманном.

Как и Эдвард Бернейс, ПНД придерживался широкого взгляда на понятие "пропаганда", описывая ее как "сознательные попытки повлиять на других, независимо от того, обращается ли пропагандист к интеллекту или к эмоциям; искренен он или неискренен; эгоистичны или альтруистичны его мотивы; зависит ли его власть как пропагандиста от сознательного расчета или исходит от какой-то бессознательной силы"." 97 Дело не в том, чтобы препарировать намерения какого-то конкретного невидимого правителя, а в том, чтобы объяснить, как именно достигается резонанс.

Одна из схем МПА, "Азбука анализа пропаганды", 98 , подчеркивает важность самоанализа и распознавания своей эмоциональной реакции на СМИ. Например, F, "Найдите факты", напоминал людям, что у них есть достаточно времени, чтобы изучить тему, прежде чем прийти к какому-то выводу; не нужно торопиться с выводами по хронологии пропагандиста, а ответственный слушатель должен задаться вопросом, почему пропагандист может этого хотеть. G, "Охрана против всеохватывающих слов", подчеркивает важность быть внимательным к словам и символам, переосмысленным пропагандистом в угоду своим нуждам (подобно тому, как сегодня действует цензура).

В другом руководстве IPA изложены семь "хитростей профессии" - риторических приемов, с помощью которых невидимый правитель пытается поколебать толпу:

1. Обзывательство - навешивание на идею плохого ярлыка - используется для того, чтобы заставить нас отвергнуть и осудить идею без доказательств.

2. Блестящее обобщение - ассоциирование чего-либо с "добродетельным словом" - используется для того, чтобы заставить нас принять и одобрить эту вещь без доказательств.

3. Передача переносит авторитет, санкцию или престиж чего-то уважаемого и почитаемого, чтобы сделать последнее приемлемым; или же она переносит авторитет, санкцию и неодобрение, чтобы заставить нас отвергнуть и не одобрить то, что пропагандист хотел бы, чтобы мы отвергли и не одобрили.

4. Свидетельство заключается в том, что какой-то уважаемый или ненавистный человек говорит, что та или иная идея, программа, продукт или человек хороши или плохи.

5. Простые люди - это метод, с помощью которого оратор пытается убедить аудиторию, что он и его идеи хороши, потому что они "из народа", "простые люди".

6. Раскладывание карт предполагает подбор и использование фактов или неправды, иллюстраций или отвлекающих моментов, логических или нелогичных утверждений, чтобы представить наилучший или наихудший вариант идеи, программы, человека или продукта.

7. Темой пропаганды является то, что "все - по крайней мере, все мы - делают это"; с ее помощью пропагандист пытается убедить нас в том, что члены группы, к которой мы принадлежим, принимают его программу и что поэтому мы должны следовать за своей толпой и "запрыгнуть в вагон".

Когда я впервые разыскал брошюры IPA, я был поражен тем, насколько применимы эти давно вышедшие из печати, плохо отсканированные документы и сегодня. И в них использовались эмодзи! Маленькие пиктограммы, обозначающие риторические приемы, появлялись в текстах, которые анализировал IPA. 99 Я делаю это в слайд-деках для своих собственных выступлений; я думал, что это забавный способ заставить аудиторию запомнить что-то, разбить текст чем-то немного захватывающим, но все же знакомым. В IPA к этому пришли за девяносто лет до меня. Почему этот тип обучения исчез?

IPA подготовила множество аналитических материалов, посвященных Кофлину, - не проверки фактов, а деконструкции. Но что еще более важно, пока вещатели и правительства в спешке пытались определить надлежащие меры регулирования в отношении радиодемагогов, их подход упреждающе снизил вероятность появления Кофлина в будущем.

Однако эти усилия не увенчались успехом в масштабе. Книга ПНД "Изящное искусство пропаганды: A Study of Father Coughlin's Speeches", была продана тиражом в тридцать тысяч экземпляров, а всего материалы МПА получили около миллиона детей. У Кофлина были десятки миллионов слушателей.

МПА также стала политически спорной именно потому, что выступала против невидимых правителей, как иностранных, так и отечественных: "В демократии существует много голосов, много мнений и много пропаганды", - отмечала МПА. За пятьдесят лет до Чомски она утверждала, что захват СМИ через собственность, рекламу и государственный контроль - это проблемы, которые необходимо преодолеть. Когда началась Вторая мировая война, ее миссия столкнулась с пропагандистскими усилиями самой Америки. Она просуществовала пять лет, прежде чем закончилось финансирование, и опубликовала свой последний еженедельный бюллетень в 1942 году. Впоследствии Клайд Миллер был уволен из педагогического колледжа Колумбийского университета во время "красной войны" - он стал жертвой маккартизма и клеветнических кампаний. А Комитет по антиамериканской деятельности Палаты представителей в 1947 году напал на IPA, назвав его "коммунистическим фронтом". 100

Подход ПНД находит отклик спустя десятилетия, потому что риторические приемы пропаганды, как и тропы в рассказах, остаются довольно постоянными. Они действуют на эмоциональном уровне, и хотя развивающиеся технологии могут изменить способ подачи информации, цель - люди - остается прежней.

Усилия по повышению пропагандистской грамотности, подобные ПНД, не являются панацеей. Однако обучение общественности распознаванию манипулятивной риторики, похоже, стоит того, чтобы попытаться сделать это снова, особенно учитывая, что такие подходы, как простое отключение Кофлина, сегодня все более неэффективны. Такие подкасты, как Decoding the Gurus и Conspirituality, пытаются сделать это для своей аудитории, используя занимательные примеры из практики и юмор, чтобы объяснить, как действуют конкретные онлайн-учителя. Оживленные сабреддиты обсуждают эпизоды, совместно препарируют подкасты среднеуровневых COVID-контраргументов, которые до сих пор зарабатывают около 10 000 долларов в месяц только на Patreon. Научные коммуникаторы тоже начали понимать, что такой подход может быть привлекательным; преподаватели создают инфографику с персонажами вроде "Фальшивых преследователей правды" и "Нагнетателей неопределенности", чтобы разоблачить людей, с которыми все сталкивались в интернете. 101 Эти скептические статьи развлекают; даже если это образовательный контент, люди делятся им. Процесс обучения не обязательно должен заключаться в сидении в комнате и чтении учебника по риторике. Его можно сделать веселым.

Помимо просвещения людей о пропаганде, мы можем рассказать им об алгоритмах, которые способствуют ее распространению. Алгоритмы отражают стимулы технологических платформ, и обучение людей тому, как на самом деле работают цифровые невидимые правители, может помочь нам понять, какую мощную роль мы, пользователи, как члены толпы, играем сегодня. 102 Алгоритмическая грамотность может помочь людям понять, почему не все их друзья видят все их сообщения (подсказка: это не цензура). Понимание того, как рекомендательные системы сортируют людей по сетям, может помочь нам быть более осведомленными о поляризующих фракциях. Изучение курирования и вовлечения помогает людям понять, почему мнения меньшинства воспринимаются как мнение большинства.

Слухи: Как распознать их и справиться с ними

А как же слухи? В 1910-х годах слух мог остаться в пределах деревни или города. В 1960-х годах он мог просочиться в телевизионные программы, если ему удавалось миновать влиятельных привратников. Теперь, в 2020-х годах, слухи распространяются среди миллионов людей, становятся трендами в Twitter и подхватываются круглосуточными СМИ. Слухи сегодня распространены и распространяются гораздо шире, чем когда-либо прежде, а политические слухи особенно сильны. 103 Понимать их и уметь реагировать на них сегодня так же важно, как в двадцатом веке было важно понимать пропаганду. Слухи, конечно, более органичны и менее преднамеренны; они лежат в основе нашей социализации. Но они играют важную роль в формировании консенсуса внутри ниш, в которых мы живем, даже если они влияют на нашу способность достигать консенсуса между ними. И они очень, очень липкие: слухи повторяются, и их трудно опровергнуть, особенно если люди не доверяют тем, кто их опровергает.

Подобно тому как компанию Wayfair обвинили в продаже детей в шкафах для бумаг, в начале 1980-х годов компанию Procter & Gamble (P&G) обвинили в связях с сатанизмом. В то время сатанинская паника охватывала множество неожиданных целей: церкви, склонные к заговорам и выступавшие против рок-н-ролльных групп, также набросились на P&G. Некоторые слухи касались ее логотипа, который использовался более пятидесяти лет: борода на лице логотипа была похожа на три перевернутые шестерки (знак зверя). Пятнадцать тысяч человек позвонили в компанию менее чем за два месяца, чтобы поинтересоваться этим, как только слухи начали распространяться (это, конечно, лишь малая часть того, что происходит с крупными вирусными слухами сегодня). Слухи, казалось, утихли в 1982 году, но всплыли в 1985-м; небылица утверждала, что кто-то (авторство варьировалось) видел, как генеральный директор компании на популярном в то время телевизионном ток-шоу The Phil Donohue Show признался в гнусных отношениях. 104 Procter & Gamble старательно пыталась исправить ситуацию: компания наняла следователей, чтобы выяснить происхождение слухов, распространила тысячи наборов материалов, направленных против слухов, и попыталась привлечь религиозных лидеров, включая Джерри Фолвелла и Билли Грэма, чтобы развеять нелепую теорию. 105 После сотен тысяч телефонных звонков в течение нескольких месяцев P&G удалила логотип со всей своей продукции в апреле 1985 года. 106 Но и это оказалось неэффективным. Что они скрывали?

Слухи вернулись в 1991 году. Верующие распространяли листовки, чтобы предупредить своих друзей и призвать их к бойкоту. Пасторы раздавали их своим прихожанам, что, по сообщениям новостей, убедило некоторых принять участие в бойкоте. "Наш пастор представил это нам. А если вам что-то преподносит человек, которому вы доверяете, вы верите", - сказал один человек газете Washington Post, выразив удивление, когда репортер сообщил ему, что предполагаемой передачи Донохью никогда не было. 107 В конце концов P&G начала активно судиться с людьми, распространяющими слухи, в том числе с дистрибьюторами конкурента, компании Amway, которые оставляли голосовые сообщения в надежде привлечь бойкотирующих клиентов P&G.

Жан-Ноэль Капферер, исследователь слухов, с которым мы впервые познакомились в главе 1, изучил реакцию P&G и других компаний, столкнувшихся с подобными проблемами. Он обнаружил, что опровергнуть ложные утверждения было очень сложно как для компаний, так и для отдельных людей: простое опровержение слухов часто укрепляло их в сознании людей или непреднамеренно передавало ложные утверждения еще большему числу людей. Опровержения были сложны: они не были "новостями", потому что их ждали, и они были чем-то вроде убийственной радости. Они "погружали нас обратно в банальность реальности" и не предлагали ничего нового. 108 Если бы исправление несло в себе драматизм - возможно, это была бы контрклевета, - оно могло бы привлечь больше внимания, но компании и учреждения часто не хотели играть в эту игру.

И все же не утруждать себя опровержением - тоже плохая стратегия, потому что ложь осталась неоспоренной.

Важно было ответить на два вопроса: нужно ли реагировать и как. На вопрос "стоит ли" Капферер ответил, что в игре участвуют четыре группы: враги, которые всегда поверят слухам, непричастные (которые не обратят внимания), союзники, которые поддержат человека или компанию, ставших объектом нападения, и сомневающиеся, которые не знают, что думать. Последняя группа имела наибольшее значение; если они не проявляли участия, лучшим ответом было молчание. Если же они, похоже, обращают внимание и разделяют слухи - вспомните "Пландемию", которая выскочила из ниши антивакцинального движения и попала в клубы корги и церковные группы, - тогда нужно было реагировать.

Возможность быстро оценить распространение - не просто по количеству вовлеченных, а по сообществам, которые вовлекаются, - была одной из задач проекта "Виральность". Быстро оценить распространение в сообществе сложно, но это ключевой момент для быстрого реагирования на контрречь. Это гарантирует, что ответ будет релевантным, будет исходить от правильного посланника и достигнет правильной аудитории.

Но остается вопрос о том, как реагировать, если это будет сочтено необходимым.

P&G отреагировала на это заявлениями и комментариями в СМИ, но судебные иски против конкурентов, которые их оклеветали, сыграли, пожалуй, самую важную роль в прекращении слухов. Аналогичным образом, компания Dominion, ставшая козлом отпущения в слухах о выборах 2020 года, подала масштабный иск о клевете и получила от Fox News девятизначное мировое соглашение. В случае с Wayfair действия компаний, работающих в социальных сетях, в первую очередь привели к снижению интенсивности распространения слухов; мы уже обсуждали компромиссы, связанные с тем, что частные субъекты могут подавлять слухи, и трудности, связанные с тем, что это необходимо делать в децентрализованных социальных сетях.

Капферер рассмотрел и другие примеры: ложное утверждение о том, что компания McDonalds подмешала в мясо червей, и актриса, пытавшаяся преодолеть ложь о том, что она тяжело больна. Он описал некоторые стратегии, которые сработали. Один из подходов заключается в том, чтобы перепозиционировать слухи и сделать так, чтобы ими было неловко делиться. Сегодня это может оказаться более трудной задачей, поскольку нормы разрушились вместе с реальностью. Однако люди реагируют на то, что узнают о том, что они распространили нечто явно ложное: одна из первых распространителей слухов о компании Wayfair - сейчас она учится в аспирантуре по изучению алгоритмической предвзятости - призналась, что когда люди в конце концов сообщили ей, что слухи о Wayfair были развенчаны, она почувствовала себя неловко и удалила свои сообщения. Она объяснила своим подписчикам, что некоторые из детей, о которых они делали коллажи, на самом деле вовсе не пропали. Но она также знала, что не может взять свои слова обратно: некоторые продолжат верить. 109

Капферер отметил еще один эффективный подход, очень похожий на подход ПНД к разоблачению пропагандистской риторики: объяснить, почему люди верят слухам. В 2021 году, когда Election Integrity Partnership проанализировала вирусные предвыборные слухи в месяцы после 6 января, было отмечено несколько повторяющихся тем. 110 Слухи о "прикрепленных избирателях" появлялись во многих местах в 2020 году, но также были распространены в 2016 и 2012 годах; 111 действительно, этот троп возник несколько десятилетий назад. Аналогично, слухи о мертвых избирателях и подтасованных машинах появлялись из года в год. Слухи о бюллетенях по почте были более новыми, и COVID-19, безусловно, придал им большую актуальность, но они появлялись еженедельно, несмотря на неоднократные попытки подтвердить факты.

В главе 3 мы обсудили концепцию тропов: привычных строительных блоков для историй, на которые обычно опираются писатели (и влиятельные люди). Когда фильм открывается большим плавником, рассекающим воду, в то время как женщина прыгает в океан, вы знаете, к чему это приведет. А кто из нас не видел политического триллера, в котором заговорщики взламывают что-то, чтобы украсть выборы.

Тропы успокаивают своей знакомостью; зрители сразу же чувствуют себя в курсе событий. То же самое происходило и с предвыборными слухами. Здесь был конечный набор элементов: Найденные бюллетени. Мертвые избиратели. Подлые ручки. Взломанные машины. Сюжетные линии были настолько знакомыми - напоминающими популярные триллеры Netflix 112 - что зрители часто отвечали на твиты или посты в Facebook с такими словами: "О, они опять за свое", "Конечно!" или "Они продолжают это делать, мошенники". При этом они не теряли интереса.

Отчасти это объясняется тем, что влиятельные люди добавляют новизны. Каждая из теорий заговора о "взломанных машинах" имела отличительный элемент: их взламывали злые оперативники Демократической партии, суперкомпьютеры ЦРУ, русские или, в одном запоминающемся случае, итальянские спутники. 113 Тогда "новой" историей стоило поделиться, и фракция могла почувствовать, что она участвует в борьбе за своего кандидата, делая это.

Тропеи также делают повествования о теории заговора переносимыми на разные темы. Омниконспирологическая теория QAnon вобрала в себя элементы других, основанных на идее о существовании гнусной правительственной кабалы. Человек за занавесом" - распространенный троп во многих теориях заговора, от вакцин до химтрейлов и сокрытия НЛО. 114

Но тот факт, что эти манипулятивные тропы так распространены, может также стать их гибелью. Много лет назад я наткнулся на удивительный сайт под названием TV Tropes. Это как Википедия, но написанная людьми, чьей страстью в жизни является документирование каждого повествовательного приема, который когда-либо появлялся на экране, большом или маленьком. Это очень познавательно. Запись "Экспозиционная смена прически" объясняет (и при этом высмеивает) распространенный визуальный прием, используемый в самых разных фильмах - от "Матрицы" до "Замерзших", - который передает личностный рост персонажа. Когда вы видите техника в лаборатории в белом халате, играющего со шприцами, вы знаете, что динозавры или вирус вот-вот вырвутся на свободу.

Какое отношение это имеет к слухам? Нынешняя система противодействия слухам в основном реактивная: специалисты по проверке фактов играют в "вак-а-моль" с последним конкретным отклонением. Они развенчивают заявления о бюллетенях в Сономе и теории о машинах для голосования в Северной Каролине уже после того, как они распространились. Правда, пока неясно, насколько эффективны получаемые в результате проверки фактов ярлыки: некоторые исследования показывают, что они оказывают влияние, другие говорят, что оно ограничено. 115 Контент, который удаляется в одном месте или маркируется в другом, продолжает распространяться в других частях экосистемы. 116 Но есть многообещающие исследования в области так называемой теории инокуляции, или пребанкинга - временной противоположности развенчания. 117 Стратегия похожа на руководство по "хитростям торговли" Института анализа пропаганды. Вместо того чтобы реактивно проверять конкретные утверждения, что, если мы обсудим их основы заранее, объяснив, как и почему они работают? 118 Иллюстрируя, как функционируют определенные типы риторики или тропы, какие слухи повторяются и как их используют невидимые правители, люди "могут быть привиты от атак убеждения примерно так же, как иммунная система человека может быть привита от вирусных атак". 119 Никому не нравится, когда им манипулируют, и пребункинг задействует это врожденное человеческое желание сохранить автономию.

Еще один аргумент в пользу пребункинга заключается в том, что тропы беспартийны. Обучение зрителей тому, как обнаружить строительные блоки, может придать силы и не критиковать любимых авторитетов или политические партии. Это может даже привести к тому, что на TV Tropes называется развязкой "Все помогают", когда история заканчивается тем, что все персонажи объединяются, чтобы сделать мир лучше. 120

Сброс норм

У отца Кофлина была одна реакция, которую мы еще не обсуждали: реакция церкви.

Церковь одобряла ранние радиопередачи Кофлина, поскольку он совмещал католические учения с более широкими экономическими и политическими комментариями. Однако по мере того, как его передачи становились все более политизированными и противоречивыми, а его взгляды все больше углублялись в теории заговора, антисемитизм и фашизм, церковь отдалилась от него. Видные католические лидеры, такие как кардинал Джордж Мунделейн из Чикаго, открыто не одобряли раскольничьи и подстрекательские заявления Кофлина. В конце концов, в 1942 году в дело вмешалось церковное начальство, приказав Кофлину прекратить политическую деятельность и сосредоточиться на священнических обязанностях. Церковь выступила против раскольнической риторики и действий, не соответствующих ее учению.

Кибербуллинг и домогательства в Интернете - серьезные проблемы; люди всего политического спектра справедливо очень обеспокоены, когда то или другое происходит с молодыми людьми. Однако зачастую именно взрослые троллят друг друга, выкрикивая эпитеты, унижая или изводя какого-то предполагаемого врага или несчастного главного героя по самым обыденным поводам. Провокацией может быть что угодно. Вспомните женщину, упомянутую в главе 2, которая в 2022 году написала о том, что каждое утро наслаждается кофе в саду со своим мужем, и получила тысячи ответов. Незнакомцы нападали на нее за то, что она не "признает свои привилегии" и не думает о том, как ее слова могут повлиять на тех, кто находится в худших условиях или не имеет мужей, садов или кофе. 121 Эта ситуация была абсурдной, но не удивительной. Возможности платформы в сочетании с моральной правотой и удовлетворением толпы делают ее обыденной. Объекты блокируют или удаляют свои аккаунты и часто дважды думают, прежде чем писать снова. Gamergate не был единичным событием - это был сдвиг нормы. Обозреватель New York Times Эзра Кляйн (Ezra Klein) в эссе 2022 года выразил это кратко: "Twitter вознаграждает приличных людей за непристойные поступки". 122

Если нам нужны виртуальные общественные площади, мы должны вести себя так, будто люди на них - наши соседи. Если мы хотим собираться вместе и вести открытые дебаты по важным вопросам, должны измениться нормы участия и реагирования. Потому что в настоящее время люди находят Великую децентрализацию более предпочтительной, чем попытки ужиться на одних и тех же платформах социальных сетей.

СМИ и политические деятели, которые клевещут на людей, молчаливо подстрекают к насилию, а затем снимают с себя ответственность, должны быть признаны теми, кем они являются, независимо от фракции: мудаками. И именно люди внутри их фракции должны призвать их к этому, как это сделала церковь с Кофлином. От критики со стороны легче отмахнуться.

Влиятельные люди могут сыграть важную роль в создании более здоровых сообществ, сами моделируя лучшее поведение, а платформы могут стимулировать это в рекомендациях и кураторстве контента. Увеличение видимости менее сенсационных, менее популярных или менее неприятных аккаунтов в лентах может стать преобразующим фактором.

Крис Бейл из Лаборатории поляризации Дьюка утверждает, что важно повышать осведомленность о том, как алгоритмы пересекаются с сетевыми толпами. Обучение людей "видеть через призму" - например, распознавать иллюзию большинства , которая возникает, когда небольшие группы крайне яростных людей доминируют в "Дискурсе", - может быть очень полезным. Повышение осведомленности о заблуждениях, которые люди имеют о своих политических оппонентах, осознание ими мнения большинства группы, а не крикливого фронта, может оказать сильное деполяризующее воздействие. 123 Осознав, что крайние мнения часто привлекают больше внимания, а более тихие, умеренные взгляды остаются скрытыми, люди могут начать по-другому реагировать на сообщения, которые призваны вызвать сильную реакцию.

Мы все должны высказываться, обсуждать и участвовать в дискуссиях, а также заметно поддерживать тех, кто становится мишенью для толпы преследователей за это. В противном случае разговоры будут вести самые крайние - те, кто готов прибегнуть к угрозам, отменам и толпе.

Обновление "Игровой книги": Заметки для целевого

Как отметил Бернейс еще столетие назад, невидимые правители заинтересованы в том, чтобы разрушить существующую систему власти. Если вы или ваше учреждение работаете над проблемой, которую один из вечно обиженных влиятельных лиц или какой-нибудь стимулированный пропагандист может использовать в качестве корма для культурной войны, вы или члены вашей команды в конечном итоге окажетесь под прицелом. Вы должны заранее разработать стратегию, чтобы не метаться, когда это произойдет.

Не думайте, что это не придет к вам или вашей сфере, отрасли или бренду. Так и будет. В 2023 году некоторые сетевые группировки начали преследовать библиотекарей.

Для академических институтов, в частности, очень важно распознавать недобросовестные нападки и не выставлять людей на всеобщее обозрение. Недобросовестные толпы, требующие увольнений, направлены против принципа академической свободы и стремятся заставить замолчать речь исследователей, на которых они нападают. Гиперпартийные законодатели сегодня также регулярно действуют недобросовестно, требуя документы под хлипким предлогом полуподпольной клеветнической кампании - они злоупотребляют своей властью. Они действуют не ради законной законодательной цели. Их цель - подавить хорошую работу и заставить замолчать хороших людей, преследуя политические цели. История помнит тех, кто противостоял маккартизму.

Ваша коммуникационная стратегия так же важна, как и юридическая. Игра в страуса не остановит слухи и не положит конец истории; она просто позволит кому-то другому контролировать ход повествования. Если вы достаточно интересны или полезны в качестве злодея в теории заговора, машина пропаганды и фабрика слухов могут бесконечно перерабатывать заявления и обвинения. Если вы будете ждать, пока пройдет "новостной цикл", чтобы снова начать заниматься своей работой или выступать публично, вы будете ждать вечно - люди, пишущие клевету, не являются "новостными" изданиями. Как только ваше учреждение или член команды, менеджер или генеральный директор становятся частью монетизированной кинематографической вселенной какого-нибудь теоретика заговора, он всегда найдет способ снова втянуть эту организацию или человека в историю. Нишевые СМИ прекрасно понимают, что вы не станете подавать на них в суд, потому что подача иска о клевете сопряжена со значительными затратами средств и времени; для них не существует никаких затрат или последствий для продолжения лжи.

Университеты, ставшие мишенью Джима Джордана в 2023 году, узнали обо всем этом на собственном опыте. Когда вооруженный до зубов комитет Конгресса потребовал предоставить информацию, многие из них быстро подчинились. Большинство учебных заведений, столкнувшихся с этими повестками, отнеслись к ним так, будто имели дело с законным следственным надзором, а не со вторым пришествием Комитета по антиамериканской деятельности Палаты представителей. Если они будут вести себя хорошо, думали они, то, возможно, Конгресс прочитает переданные им документы, поймет, что во всем этом нет ничего особенного, и уйдет. Конечно, получение повестки в суд связано с юридическими обязательствами - с повестками трудно бороться, а у учреждений часто много направлений работы и отношений с другими частями Конгресса, которые им необходимо поддерживать. Но многие учреждения также придерживались обреченной на провал коммуникационной стратегии, стараясь не высовываться и надеясь, что новостной цикл просто пойдет дальше. Исправление записей или опровержение лжи только привлечет больше внимания, думали они. В конце концов, даже если люди говорили об этом на шоу Джо Рогана и это набрало десятки миллионов просмотров в Twitter, это не было опубликовано в Washington Post.

Это было ужасно наивно. Смысл учения заключался в наказании, а не в надзоре. Для тех, кто изучает пропаганду и дезинформацию, было совершенно очевидно, что произойдет: документы и выдержки из интервью будут просачиваться в идеологически ориентированные пропагандистские издания, а те, кто будет упомянут в итоговых материалах, станут мишенью для онлайн-мобов. И все же, поскольку институты не до конца понимали, какую игру они затеяли, многие команды по связям с общественностью с трудом разрабатывали план. Они играли в азартные игры, полагаясь на крошечный шанс, что утечек и недобросовестных нападок не произойдет, и проиграли. Стратегию определяло учреждение, но последствия несли отдельные люди.

Цели таких кампаний не должны отвечать на каждую атаку или клевету; вы же не хотите непреднамеренно усилить то, что не получило должного отклика и, похоже, быстро сойдет на нет. Однако если что-то начинает распространяться за пределами эхо-камеры, быстрые прозрачные ответы являются ключевыми. Не нужно сражаться в грязи со свиньями, но донести свою собственную историю очень важно. Когда люди будут искать информацию о слухах, поисковая система вполне может выдать клеветнический контент - если только вы не предоставите факты. Напишите собственный пост с подробным изложением фактов простым языком и распространите его через свою сеть. Убедитесь, что все статьи Википедии о вас или вашей работе отражают правду, потому что современные поисковые системы с искусственным интеллектом все чаще включают содержимое Википедии в генерируемые резюме. С атаками на Википедию можно справиться с помощью редакторов-добровольцев сайта. Если на вас поступит запрос, подумайте о том, чтобы заранее разместить документы на официальном сайте, чтобы опровергнуть претензии и уменьшить влияние историй о "секретных документах, разоблаченных!!!!". Подумайте о том, чтобы поделиться ими с добросовестным СМИ. Если вы постоянно получаете недобросовестные запросы от недобросовестных СМИ, опубликуйте полный текст письма вместе с ответом на него на своем сайте или разместите его в социальных сетях.

Если вы - частное лицо, ставшее объектом нападок, обратитесь к тому, кто уже проходил через клеветническую кампанию, за советом, как реагировать и как защитить себя (с юридической точки зрения, с точки зрения безопасности и репутации). Ваши интересы - особенно если вы зебра в стратегии "Серенгети" - могут не совпадать с интересами вашего учреждения, и вы должны четко понимать, что это значит. Ученые-климатологи быстро поняли это, поэтому они создали такие организации по защите поля, как Фонд правовой защиты климатологии. 124 Представители поля также могут взаимно поддерживать друг друга, особенно когда человек, ставший объектом нападения, не может высказаться. Врачи тоже создали группы помощи сообществу, которые помогают людям, ставшим объектом нападок, противостоять преследованиям и клеветническим кампаниям . Другие сферы деятельности должны создавать такие группы заранее, до того, как они понадобятся.

Прежде всего, убедитесь, что человек в вашем учреждении, возглавляющий ответные действия, разбирается в современных клеветнических кампаниях, а также в Интернете.

Помимо осознания того, что политическая игра изменилась, учреждения всех типов должны адаптироваться к современной коммуникационной среде в целом - неудачи CDC во время COVID наглядно объясняют, почему. Есть две области, на которых следует сосредоточить внимание: во-первых, прозрачное и частое общение; во-вторых, создание сетей убедительных ораторов и усилителей.

Много лет назад, вскоре после того, как законопроект Сената № 277 - законопроект об исключении лазейки для личных убеждений из требований к школьным прививкам - стал законом в Калифорнии, меня попросили присоединиться к доктору Ричарду Пэну, сенатору штата, возглавившему законопроект, и Лии Руссин, основателю организации Vaccinate California, чтобы выступить перед группой студентов магистратуры общественного здравоохранения в Калифорнийском университете в Беркли. Доктор Пэн рассказала о законопроекте, а Лия - о важности защиты интересов родителей. Я рассказал о проведенном мной анализе данных о развитии антивакцинальной дискуссии в Твиттере, в том числе о том, что представители общественного здравоохранения в основном находились вне ее. Несколько сообществ были частыми участниками хэштега: давние антивакцинные активисты, новый кластер "медицинской свободы" и, в частности, консерваторы из "Чаепития". В этих сообществах были свои авторитеты, которые двигали разговор - их ретвитили, а их мемы подхватывали другие участники. Со стороны общественного здравоохранения ничего подобного не было. Один из студентов спросил меня, стоит ли им делать больше. Должны ли они все присоединиться к Twitter? Во время этой кампании я столкнулся со значительным количеством преследований в Твиттере, и Твиттер не был заинтересован в модерации даже доксинга и преследования, поэтому я немного засомневался - зачем мне призывать других людей регистрироваться в нем? Это были студенты, которые должны были заниматься реальной работой в области общественного здравоохранения, подумал я.

Теперь я отвечаю по-другому. Участие в социальных сетях - это часть работы. И точка. Это необязательно. Конечно, отдельные люди могут делать это в большей или меньшей степени, но область должна готовить коммуникаторов, и она должна готовить их для этой эпохи коммуникации, а не для старой, когда они могли иногда на телевидение или NPR. И это потому, что сегодня, если вы не общаетесь, значит, другие все еще общаются. И их контент - это то, что доступно для кураторства, усиления и формирования онлайн-общения.

Среди экспертов часто наблюдается тенденция ждать, пока они не узнают все факты. Но такой подход уже не является правильным: молчание просто дает другим возможность формировать повествование с помощью мельницы слухов. 125 Вполне нормально сказать: "Мы пока не знаем" или "Информация еще поступает, пожалуйста, будьте терпеливы" - даже такие комментарии подтверждают, что учреждение знает о проблеме, уделяет ей внимание и пытается выяснить факты. Но если просто выжидать и не участвовать в разговоре, потому что консенсус еще не устоялся, то остается пустота, которую могут заполнить другие.

Как пишут Наоми Орескес и Эрик Конвей в книге "Торговцы сомнениями", "ученые долгое время считали, что их работа заключается в том, чтобы выяснить, в чем заключается истина. Кто-то другой может лучше популяризировать ее. Кто-то другой может лучше ее донести. А если где-то пропагандируется мусор, кто-то другой может с ним разобраться". Ученые могут вообще не вступать в полемику с научными слухами или дезинформацией, чтобы их не обвинили в "политизации науки". 126 Однако если их голоса не будут слышны, мир станет хуже. Во время COVID в тренде часто оказывался не научный консенсус (или даже дебаты), а то, что можно назвать "консенсусом наибольшего количества лайков": если пост заинтересовал достаточное количество людей, его увидели еще больше. Алгоритмы не приспособлены для оценки точности или авторитетности, а в возникающих ситуациях не всегда понятно, что именно является точным.

Наращивание аудитории за счет регулярного общения с общественностью - ключевой момент. Бренды начали это делать. Некоторые государственные службы, такие как Служба национальных парков, многочисленные государственные агентства, начиная от управления канализацией и заканчивая охраной дикой природы, и даже Комиссия по безопасности потребительских товаров США, теперь стремятся быть интересными и смешными. 127 Их контентом делятся, потому что он кажется актуальным, и это что-то вроде новизны - но важные сообщения доходят до людей. Влиятельные люди в социальных сетях - это, прежде всего, рассказчики, а хорошие рассказчики - подлинные, честные, знающие и увлекательные. 128 Люди, которые общаются от имени учреждений, должны быть такими же хорошими рассказчиками, отвечая просто, прямо и быстро.

Но участие в онлайн-дискуссиях и обмен интересными материалами - это только первый шаг. В современном мире, где слухи и пропаганда распространяются через сети, институты нуждаются в сетях для распространения своих сообщений. Это один из главных выводов, который я сделал после нашей работы над Партнерством за честность выборов и проектом "Виральность". Сетевые институты имеют значение. Мы могли показать местным сотрудникам избирательных комиссий или врачам, какая недостоверная информация набирает обороты, и они могли ответить на нее, разместив свои собственные сообщения, создав свою собственную контрречь. Врачи очень хорошо умели доносить свою информацию до людей, потому что они долгое время общались с пациентами, опасающимися вакцин, лицом к лицу. Однако у них часто не было большой аудитории в Интернете, поэтому сообщения распространялись только на большие расстояния. Между тем "распространители повторных сообщений" имели не только индивидуальную большую аудиторию, но и сетевое распространение. Они передавали информацию от человека к человеку, от толпы к толпе. Троица "агенты влияния - алгоритм - толпа" - это сетевая система распространения. Когда мы попытались создать сеть институтов, помогающих донести до общественности наиболее точную информацию, те, кто хотел беспрепятственно манипулировать дискурсом, попытались представить это как заговор.

Налаживайте партнерские отношения, создавайте сети. Они играют ключевую роль.

В эпоху ниш и поляризации коммуникационная стратегия "правильная аудитория, правильное сообщение, правильное время" требует правильного посыльного в качестве четвертого критического элемента. Связь с влиятельными лицами - один из вариантов. Например, летом 2021 года Белый дом Байдена работал над тем, чтобы привлечь к обсуждению вакцины COVID-19 влиятельных людей с уже имеющимися большими аудиториями. Белый дом связался с более чем пятьюдесятью стримерами Twitch, YouTub, TikToker и другими знаменитостями с большой аудиторией в Интернете. Многие из них были рады возможности дать отпор другим авторитетам, распространяющим дезинформацию. В рамках еще одной акции один из противников вакцин, мексиканский актер, у которого на тот момент было почти семнадцать миллионов подписчиков в Instagram, провел прямую трансляцию открытой дискуссии с Энтони Фаучи, где он выразил свои опасения, а доктор Фаучи ответил на них. Это был разговор один на один, но с помощью технологии он охватил миллионы людей. Государственные и местные органы власти также обратились к тем, у кого уже есть большая аудитория, иногда платя местным микроинфлюенсерам за помощь в распространении провакцинальных сообщений. 129 Крайне важно, чтобы эти кампании социальной рекламы были прозрачными, в отличие от кампаний политических агентов влияния, которые получают спонсорские и партнерские доходы и не раскрывают аудитории свои стимулы.

Сетевое контрвыступление служит еще одной важной цели: когда высказываются всего несколько человек, они могут быть легко подавлены бригадой преследователей. Но группа откровенных участников может противостоять этой травле и обеспечить более полную репрезентативность точек зрения на платформах социальных сетей.

Посредничество в достижении консенсуса, разделение реальности

Кофлин был человеком для среды, а невидимые правители сегодня - это мужчины и женщины, которые понимают среду. Но Кофлин также говорил о глубоком и реальном недовольстве - он начинал не как фашист, а как человек, который говорил от имени и для какой-то части общества. Политические авторитеты, о которых мы говорили, также выражают реальные опасения. Многие из них являются важными выразителями интересов сообществ и движений.

Столкновение мельницы слухов и машины пропаганды уже не исправить. Возврата к горстке СМИ, транслирующих респектабельное институциональное мышление для масс, не будет. Не стоит и тосковать по этому: не сразу очевидно, что централизованная ложь, навязываемая старой властной структурой, предпочтительнее тысяч мелких неправд, навязываемых новой. Критика Чомски в отношении производства согласия была безумной и правдивой.

Но всепроникающий, язвительный диссонанс, в котором мы оказались, просто неприемлем для демократического общества. Конечно, есть глубокая ирония в том, что платформы, созданные для того, чтобы соединить мир, лишили нас возможности находить общий язык. Теперь у нас есть активно дезинформированные граждане, разбросанные по разным реальностям. Фракции борются с институтами, а те - друг с другом. Нигилистические, громкие голоса среди них, такие как "Вечно обиженные", говорят от имени ярости, но не предлагают никакого видения будущего. Отчуждение сторонних наблюдателей делает их слова привлекательными, а страх противостоять толпе делает отпор менее вероятным. Однако делегитимация всего, что их окружает, не делает их более способными к созданию долговременного движения с видением. Они не могут сформировать консенсус , достаточный для создания новых институтов; старые институты, тем временем, с трудом формируют консенсус, достаточный для управления.

Многие из нас остаются в стороне, боясь вступать в бой и не зная, кому доверять. Тем временем генеративные технологии добавляют в уравнение нереальность: созданные ИИ аккаунты, видео, аудио и текст.

Все это происходит в то время, когда нам крайне необходим консенсус, когда мы сталкиваемся с серьезными коллективными проблемами. Решение таких проблем, как изменение климата, пандемии и технологии, преобразующие рабочую силу, невозможно, если мы останемся запертыми во фракционной войне.

Что-то должно измениться.

Это не будет человеческой природой. Фракции всегда были частью американского общества; в 1787 году Джеймс Мэдисон утверждал, что они являются частью нашей сущности: "Скрытые причины фракций заложены в самой природе человека", - писал он в "Федералистских трудах", отмечая, что мы "более склонны раздражать и угнетать друг друга, чем сотрудничать ради общего блага".

Желание формировать общественное мнение тоже не изменится. Достижение консенсуса всегда будет грязным, изнурительным процессом. За кулисами всегда будут действовать невидимые правители - следующий отец Кофлин, новая удивительная Полли, новый алгоритм. И средства массовой информации всегда будут развиваться, подобно тому как печатный станок и радио сменяли друг друга.

Но мы можем сосредоточиться, как это сделал Мэдисон, на смягчении их вредных последствий. Платформы могут разрабатываться с учетом стимулов, не ограничивающихся вовлечением. Правительства могут сделать приоритетом прозрачность и восстановление доверия. Противники - все мы - могут использовать те же сетевые инструменты, что и пропагандисты.

Путь вперед требует, чтобы системы не вырабатывали согласие, а выступали посредниками. Нам нужны системы, устойчивые не только к контролю и коррупции сверху, но и к стремительному росту слухов снизу. Это требует от всех нас повышенной осознанности: признания собственных предубеждений и предпочтений, приверженности балансу между скептицизмом и доверием, а также искреннего желания разделять одну и ту же реальность.

Примечания

INTRODUCTION

1 “Thundering herd,” The Economist, September 26, 2015, https://www.economist.com/united-states/2015/09/26/thundering-herd.

2 Olga Khazan, “Wealthy L.A. Schools’ Vaccination Rates Are as Low as South Sudan’s,” The Atlantic, September 16, 2014, https://www.theatlantic.com/health/archive/2014/09/wealthy-la-schools-vaccination-rates-are-as-low-as-south-sudans/380252.

3 Gil Kaufman, “Vaccine Skeptic Eric Clapton Claims ‘Subliminal’ Messages Are Convincing People to Fall in Line,” Billboard, January 24, 2022, https://www.billboard.com/music/rock /eric-clapton-subliminal-messages-covid-interview-1235022031/.

CHAPTER 1: THE MILL AND THE MACHINE

1 NBA.com Staff, “Kyrie Irving on Flat-Earth Comments: ‘I’m Sorry,’” NBA, October 2, 2018, https://www.nba.com/news/kyrie-irving-regrets-flat-earth-comments.

2 Rob Picheta, “The Flat-Earth Conspiracy Is Spreading Around the Globe. Does It Hide a Darker Core?,” CNN, November 18, 2019, https://edition.cnn.com/2019/11/16/us/flat-earth-conference-conspiracy-theories-scli-intl/index.html.3 Dustin Gardiner and Kyle Cheney, “Prosecutors Grapple with Alternative Reality Defense in Paul Pelosi Trial,” Politico, November 15, 2023, https://www.politico.com/news/2023/11/15/paul-pelosi-jan-6-riot-00127267.

4 Consensus reality is the shared understanding and agreement within a group about what is real and true. It encompasses the commonly accepted beliefs, perceptions, and interpretations that shape our collective understanding of the world and is shaped by media, institutions (educational, governmental, scientific), and the public (including civil society, social movements, and collective memory). For more on consensus reality in the current cultural moment, see J. M. Berger, “Our Consensus Reality Has Shattered,” The Atlantic, October 9, 2020, https://www.theatlantic.com/ideas/archive/2020/10/year-living-uncertainly/616648.

5 Jean-Noël Kapferer, Rumors: Uses, Interpretations and Images (New Brunswick, NJ: Transaction Publishers, 2013), 3.

6 People participate in spreading rumors to compare their thinking to a group with which they identify; to arrive at consensus; for clout (being the one to reveal the rumor shows that they’re in the know); to participate in group dynamics and culture; or to persuade or convince others about something. For some people, transmitting rumors is akin to starting a crusade, and the rumor is a kind of revealed truth. Ibid., chap. 3.

7 Kristina Lerman, Xiaoran Yan, and Xin-Zeng Wu, “The ‘Majority Illusion’ in Social Networks,” PLoS One 11, no. 2 (2016), https://doi.org/10.1371/journal.pone.0147617.

8 There are many definitions of propaganda; this one is adapted from Garth S. Jowett and Victoria O’Donnell, Propaganda and Persuasion: Fifth Edition (Los Angeles: SAGE Publications, Inc., 2012), 7, which states in full, “Propaganda is the deliberate, systematic attempt to shape perceptions, manipulate cognitions, and direct behavior to achieve a response that furthers the desired intent of the propagandist.”

9 Nicholas Difonzo and Prashant Bordia, “Rumors Influence: Toward a Dynamic Social Impact Theory of Rumor,” in The Science of Social Influence: Advances and Future Progress, ed. Anthony R. Pratkanis (New York: Psychology Group, 2007), 271–295.

10 Edward Bernays, Propaganda (Brooklyn, NY: Ig Publishing, 2005), 61.

11 Ibid., 77.

12 Ibid., 109.

13 The details of this have been debated by scholars. The oft-repeated version of this story, where Luther nails the theses to the church door himself, was spread by Luther’s contemporary and biographer, Philipp Melanchton. However, Melanchton was not in Wittenberg at the time, and no other evidence has been found that shows that Luther performed this dramatic action. An alternative explanation, put forth by several historians, including Peter Marshall, is that Luther simply mailed the theses to an archbishop.

14 As historian Niall Ferguson writes in his examination of social networks and hierarchies, The Square and the Tower, “Printing was crucial to the Reformation’s success. Cities with at least one printing press in 1500 were significantly more likely to adopt Protestantism than cities without printing, but it was cities with multiple competing printers that were most likely to turn Protestant.” Niall Ferguson, The Square and the Tower: Networks and Power, from the Freemasons to Facebook (New York: Penguin Press, 2018), 83.

15 Matthew Baker, “Flying Writings,” in Wild Boar in the Vineyard: Martin Luther at the Birth of the Modern World (online version of a 2017 exhibit showcasing early printed works by Martin Luther, primarily from the holdings of the Burke Library at Union Theological Seminary, Columbia University), Columbia University Libraries, Digital Collections & Online Exhibitions, https://exhibitions.library.columbia.edu/exhibits/show/martin-luther/flug.

16 Ronald James Deibert, Parchment, Printing, and Hypermedia: Communication in World Order Transformation (New York: Columbia University Press, 1997), 72.

17 Benedict Anderson, Imagined Communities: Reflections on the Origin and Spread of Nationalism, rev. ed. (London: Verso, 2006), 40.

18 The “Pamphlet wars” began after the adoption of the printing press, when inexpensive, short booklets were used to spread ideas in polemical or propagandist ways. Pamphlets fostered debate about religious beliefs, government policies, political philosophy, and controversial civic issues across England, France, Germany, and North America. The Protestant Reformation, the French Revolution, and the American Revolution were all periods of heavy pamphleteering. For a collected list of examples spanning regions throughout the period, see “List of Pamphlet Wars,” Wikipedia, last modified March 21, 2022, https://en.wikipedia.org/wiki/List_of_pamphlet_wars.

19 Peter H. Wilson, “The Causes of the Thirty Years War 1618–48,” English Historical Review 123, no. 502 (2008): 554, https://doi.org/10.1093/ehr/cen160.

20 Pope Gregory chose a rarer Latin verb form, the gerundive, which contained in its very construction an emphasis that something must or ought to be done. This stylistic choice, which also appears in the famous imperialist rhetoric of Cato the Elder—Carthago delenda est! (Carthage must be destroyed)—and the writings of Cicero, likely emphasized the sense of a religious crusade. See Maria Teresa Prendergast and Thomas A. Prendergast, “The Invention of Propaganda: A Critical Commentary on and Translation of Inscrutabili Divinae Providentiae Arcano,” in The Oxford Handbook of Propaganda Studies, ed. Jonathan Auerbach and Russ Castronovo (Oxford: Oxford University Press, 2013), 19–27. Thanks also to Dr. Katie Clark for raising the parallel in an online conversation.

21 Baker, “Flying Writings,” Flugschriften 1.

22 Barbara Basbanes Richter, “Benjamin Franklin and the Pamphlet Wars,” National Endowment for the Humanities, March 17, 2020, https://www.neh.gov/article/benjamin-franklin-and-pamphlet-wars.

23 While historians debate the extent to which the papers were influential in their time, they were written and published in large part to urge New Yorkers specifically to support ratification. See “Full Text of the Federalist Papers,” Research Guides, Library of Congress, September 5, 2023, https://guides.loc.gov/federalist-papers/full-text.

24 Leonard Downie Jr. and Michael Schudson, “The Reconstruction of American Journalism,” Columbia Journalism Review, November/December 2009, https://archives.cjr.org/reconstruction/the_reconstruction_of_american.php.

25 There are various types of state media. According to the State Media Matrix created by Marius Dragomir and Astrid Söderström, on one side of the spectrum, “state-controlled media” is fully state funded, and the government controls editorial decisions and the organizational structure of the media company. On the other end of the spectrum, independent public media are created for the public interest with government backing but are editorially independent and do not rely on government funding. Between these poles, the State Media Matrix names five other hybrid models, which are either independent (operating without government interference in editorial decisions) or captured (where messaging is controlled by the government). Based on their levels of government funding and control, these are given different names: captured public or state-managed media, captured private media, independent state-funded and state-managed media, independent state-funded media, and independent state-managed media. See Marius Dragomir and Astrid Söderström, The State of State Media: A Global Analysis of the Editorial Independence of State Media and an Introduction of a New State Media Typology, CEU Democracy Institute: Center for Media, Data and Society, 2021, https://cmds.ceu.edu/sites/cmcs.ceu.hu/files/attachment/article/2091/thestateofstatemedia.pdf.

26 George Creel, Rebel at Large: Recollections of Fifty Crowded Years (New York: G. P. Putnam’s Sons, 1947), 158.

27 Bernays, Propaganda, 37.

28 See George Creel, How We Advertised America: The First Telling of the Amazing Story of the Committee on Public Information That Carried the Gospel of Americanism to Every Corner of the Globe (New York: Harper and Brother’s Publishers, 1920).

29 Walter Lippmann, Public Opinion (New York: Harcourt, Brace and Company, 1922), 20.

30 Since the late 1960s, American confidence in the government has been declining. According to researchers, this is due to a number of factors, including the belief that government leaders are incompetent or unethical. Additionally, as economic inequality and political polarization have increased over the decades, this has led to a sense of unfairness and distrust of members of the opposing party or social group.

A PEW study finds that since the late 1960s, Americans’ trust in the government has been plummeting from 77 percent of people trusting the federal government “to do the right thing nearly always or most of the time” to around 25 percent in 1979. After brief rebounds in trust at certain moments in the 1980s and 1990s and after 9/11, trust began to fall again and has been at around 20 percent through the 2010s and early 2020s. See “Public Trust in Government: 1958–2022,” Pew Research Center, June 6, 2022, https://www.pewresearch.org/politics/2022/06/06/public-trust-in-government-1958-2022.

Trust in media has also declined as news sources have proliferated. Since the advent of talk radio and the twenty-four-hour cable news cycle, opinion has blended into objective news coverage in ways that are sometimes different for audiences to disentangle, leading to perceptions of bias. Scholars also point to the decline of local news and the rise of politicized critiques of the media, particularly from the right, as fueling a distrust of journalists.

31 Zines had originated within science fiction fandoms in the 1930s but proliferated in the 1950s and 1960s as members of counterculture communities, including those horrified by the Vietnam War, sought a way to network and communicate with each other. Laura Van Leuven, “A Brief History of Zines,” Chapel Hill Rare Book Blog, October 25, 2017, https://blogs.lib.unc.edu/rbc/2017/10/25/a-brief-history-of-zines.

32 Mark Hampton, “The Fourth Estate Ideal in Journalism History,” in The Routledge Companion to News and Journalism, ed. Stuart Allan, 1st ed. (London and New York: Routledge, 2010), 3.

33 Notably, the Bush administration claimed that war with Iraq was justified because the country possessed weapons of mass destruction and were seeking to buy large quantities of yellowcake uranium to produce more nuclear warheads. Less than a year after the March 2003 invasion of Iraq, however, it was announced that no weapons of mass destruction had been found. The only yellowcake uranium discovered in Iraq had been there since before 1991. See Wright Bryan and Douglas Hopper, “Iraq WMD Timeline: How the Mystery Unraveled,” NPR, November 15, 2005, https://www.npr.org/2005/11/15/4996218/iraq-wmd-timeline-how-the-mystery-unraveled. Also see Julian Borger, “There Were No Weapons of Mass Destruction in Iraq,” The Guardian, October 7, 2004, https://www.theguardian.com/world/2004/oct/07/usa.iraq1.

34 Lasswell’s original formulation is “Who, Says What, in Which Channel, to Whom, with What Effect?” See Harold Lasswell, “The Structure and Function of Communication in Society,” in The Communication of Ideas: A Series of Addresses (New York: Institute for Religious and Social Studies, 1948), 37.

35 Elihu Katz and Paul F. Lazarsfeld, Personal Influence: The Part Played by People in the Flow of Mass Communications (New York: Free Press, 1955), 16.

36 Paul F. Lazarsfeld, Bernard Berelson, and Hazel Gaudet, The People’s Choice: How the Voter Makes Up His Mind in a Presidential Campaign, 3rd ed. (New York: Columbia University Press, 1968).

37 Katz and Lazarsfeld, Personal Influence, 32.

38 Ibid., 1.

39 Ibid., 32.

40 This term, used somewhat interchangeably with Magic Bullet model in communication theory, has been apocryphally attributed to Harold Lasswell’s writings on propaganda per “Hypodermic Needle Model,” Wikipedia, last modified March 29, 2023, https://en.wikipedia.org/wiki/Hypodermic_needle_model.

41 Katz and Lazarsfeld, Personal Influence, 33.

42 Jon Askonas, “Life in an Alternate Reality Game,” New Atlantis, no. 68 (Spring 2022): 6–28, published online as “Reality Is Just a Game Now,” New Atlantis, https://www.thenewatlantis.com/publications/reality-is-just-a-game-now.

43 See Lippmann, Public Opinion; Walter Lippmann, The Phantom Public (New York: MacMillan, 1925). Discussion of his debate with Dewey is examined at length in Zac Gershberg and Sean Illing, The Paradox of Democracy: Free Speech, Open Media, and Perilous Persuasion (Chicago: University of Chicago Press, 2022).

CHAPTER 2: IF YOU MAKE IT TREND, YOU MAKE IT TRUE

1 Geoff Herbert, “Wayfair Responds to Sex Trafficking Conspiracy Theory over Cabinets with Human Names,” Syracuse.com, July 13, 2020, https://www.syracuse.com/business/2020/07/wayfair-responds-to-sex-trafficking-conspiracy-theory-over-cabinets-with-human-names.html.

2 Jessica Contrera, “A QAnon Con: How the Viral Wayfair Sex Trafficking Lie Hurt Real Kids,” Washington Post, December 16, 2021, https://www.washingtonpost.com/dc-md-va/interactive/2021/wayfair-qanon-sex-trafficking-conspiracy.

3 Marc-André Argentino (@_MAArgentino), “13/ Spike B came at 5:36 am. This tweet was retweeted 71K & liked 139K times.…” Twitter, July 11, 2020, 5:27 p.m., https://twitter.com/_MAArgentino/status/1282063878571032579.

4 Contrera, “A QAnon Con.”

5 Amanda Seitz, “QAnon’s ‘Save the Children’ Morphs into Popular Slogan,” Associated Press, October 28, 2020, https://apnews.com/article/election-2020-donald-trump-child-trafficking-illinois-morris-aab978bb7e9b89cd2cea151ca13421a0; E. J. Dickson, “What Is #SaveTheChildren and Why Did Facebook Block It?,” Rolling Stone, August 12, 2020, https://www.rollingstone.com/culture/culture-features/savethechildren-qanon-pizzagate-facebook-block-hashtag-1041812; “Save the Children Statement on Use of Its Name in Unaffiliated Campaigns,” Save the Children, August 7, 2020, https://www.savethechildren.org/us/about-us/media-and-news/2020-press-releases/save-the-children-statement-on-use-of-its-name-in-unaffiliated-c.

6 US Attorney’s Office, District of Columbia, “North Carolina Man Sentenced to Four-Year Prison Term for Armed Assault at Northwest Washington Pizza Restaurant,” US Department of Justice, June 22, 2017, https://www.justice.gov/usao-dc/pr/north-carolina-man-sentenced-four-year-prison-term-armed-assault-northwest-washington.

7 Adam Goldman, “The Comet Ping Pong Gunman Answers Our Reporter’s Questions,” New York Times, December 7, 2016, https://www.nytimes.com/2016/12/07/us/edgar-welch-comet-pizza-fake-news.html.

8 German Lopez, “Pizzagate, the Fake News Conspiracy Theory That Led a Gunman to DC’s Comet Ping Pong, Explained,” Vox, December 8, 2016, https://www.vox.com/policy-and-politics/2016/12/5/13842258/pizzagate-comet-ping-pong-fake-news.

9 Paul Farhi, “‘False Flag’ Planted at a Pizza Place? It’s Just One More Conspiracy to Digest,” Washington Post, December 5, 2016, https://www.washingtonpost.com/lifestyle/style/false-flag-planted-at-a-pizza-place-its-just-one-more-conspiracy-to-digest/2016/12/05/fc154b1e-bb09-11e6-94ac-3d324840106c_story.html. This was an ironic accusation, because in November 2016 Posobiec had himself been involved in an effort in which a hooded protestor held up an offensive sign—“Rape Melania”—at a Trump rally in an attempt to malign anti-Trump protestors. The phrase trended on Twitter, with Trump and Clinton supporters alike expressing outrage, and garnered widespread press coverage across the political spectrum until leaked texts covered in the media exposed Posobiec’s involvement in January 2017. Joseph Bernstein, “Inside The Alt-Right’s Campaign to Smear Trump Protesters as Anarchists,” BuzzFeed News, January 11, 2017, https://www.buzzfeednews.com/article /josephbernstein/inside-the-alt-rights-campaign-to-smear-trump-protesters-as#.bmwXWKz23.

10 The anonymous “Q” of QAnon began communicating in October 2017, and the influence of the group spread from there. Edward Tian, “The QAnon Timeline: Four Years, 5,000 Drops and Countless Failed Prophecies,” Bellingcat, January 29, 2012, https://www.bellingcat.com/news/americas/2021/01/29/the-qanon-timeline.

11 Contrera, “A QAnon Con.”

12 Ben Collins (@oneunderscore__), “Pizzagate/QAnon people have Wayfair trending today. They falsely claim price glitches on storage boxes prove that the company is trafficking children…,” Twitter, July 10, 2020, Internet Archive, https://web.archive.org/web/20200711192428/https://twitter.com/oneunderscore__/status/1281616606012092419.

13 Chris Armenta, “Case 5:20-Cv-07502,” Digital Commons, October 26, 2020, https://digitalcommons.law.scu.edu/cgi/viewcontent.cgi?article=3345&context=historical; Polly, “@99freemind Twitter Account,” Internet Archive, January 2017, https://web.archive.org/web/20201125235053/twitter.com/99freemind.

14 According to Nick Hayes in Influencer Marketing: Who Really Influences Your Customers?, agencies began working on word-of-mouth marketing projects for large corporations in the mid-2000s as an alternative to relying on more traditional, expensive advertising and PR campaigns. Around this time, marketers like Hayes began to rank and target influencers and strategize about how best to use them. Nick Hayes, Influencer Marketing: Who Really Influences Your Customers? 1st ed. (Abingdon, UK: Routledge, 2015).

15 According to the OED, the term influencer can be traced back centuries under its definition of “one who or that which influences,” The earliest example of influencer as a marketing term comes in 1968 and is defined as “a person who has the ability to influence other people’s decisions about the purchase of particular goods or services,” The Internet-era influencer, “a well-known or prominent person who uses the Internet or social media to promote or generate interest in products, often for payments,” first appears in 2007. “Influencer, n.,” Oxford English Dictionary, last modified September 2022, https://www.oed.com/view/Entry/95522; “influencer, n.,” Oxford English Dictionary, April 2023, https://doi.org/10.1093/OED/2106254973.

16 Dan Gillmor, We the Media: Grassroots Journalism by the People, for the People (Sebastopol, CA: O’Reilly Media Inc., 2004).

17 Edward L. Bernays, Propaganda (New York: Ig, 2005), 61.

18 Clive Thompson, “Is the Tipping Point Toast?,” Fast Company, February 1, 2008, https://www.fastcompany.com/641124/tipping-point-toast.

19 Thanks to Jeff Jarvis for conversations that helped to define this difference.

20 In his 1962 book The Image, Boorstin’s definition reads, “The celebrity is a person who is known for his well-knownness” (Daniel Boorstin, The Image: A Guide to Pseudo-Events in America [New York: Random House, 1992], 78). One of Kim Kardashian’s gifts—indeed, a gift shared by many successful influencers—was that she had the power to create a media spectacle that would be covered by media simply because it was a spectacle, and she was famous. One example involved breathless coverage of Kim “breaking the internet” because she showed skin on a magazine cover. A lot of people talked about it, and media talked about the people talking about it.

21 Alice E. Marwick and danah boyd, “I Tweet Honestly, I Tweet Passionately: Twitter Users, Context Collapse, and the Imagined Audience,” New Media & Society, July 7, 2010, http://nms.sagepub.com/content/early/2010/06/22/1461444810365313.

22 Brian Solis, “The Rise of Digital Influence, by Brian Solis,” SlideShare, March 20, 2012, https://www.slideshare.net/Altimeter/the-rise-of-digital-influence; Brian Solis, “Report: The Rise of Digital Influence and How to Measure It,” Brian Solis, March 21, 2012, https://www.briansolis.com/2012/03/report-the-rise-of-digital-influence.

23 Lauren Edmonds, “Jeffree Star Said Slaughtering His Yaks Is the ‘Wyoming Way’ and Showed a Group of Animals Scheduled to Be Killed the Next Day,” Insider, June 7, 2022, https://www.insider.com/jeffree-star-defends-killing-yaks-at-ranch-wyoming-way-2022-6.

24 Sapna Maheshwari, “Are You Ready for the NanoInfluencers?” New York Times, November 11, 2018, https://www.nytimes.com/2018/11/11/business/media/nanoinfluencers-instagram-influencers.html.

25 For an interview-rich examination of how influencers themselves describe their skills, goals, monetization strategies, and relationship to their audience, see Emily Hund, The Influencer Industry: The Quest for Authenticity on Social Media (Princeton: Princeton University Press, 2023).

26 For an extended examination of ways in which bias manifests in search engines, see Safiya Noble, Algorithms of Oppression: How Search Engines Reinforce Racism (New York: NYU Press, 2018).

27 For more on the relationship between search queries, rare keywords or phrases, and online rabbit holes, see Michael Golebiewski and danah boyd, “Data Voids,” Data & Society, October 29, 2019, https://datasociety.net/library/data-voids; Francesca Tripodi, “Searching for Alternative Facts,” Data & Society, May 16, 2018, https://datasociety.net/library/searching-for-alternative-facts; Ronald E. Robertson et al., “Identifying Search Directives on Social Media,” Journal of Online Trust & Safety, September 21, 2023, https://tsjournal.org/index.php/jots/article/view/133.

28 Cassidy George, “How Charli D’Amelio Became the Face of TikTok,” New Yorker, September 5, 2020, https://www.newyorker.com/culture/cultural-comment/how-charli-damelio-became-the-face-of-tiktok.

29 When Charli D’Amelio reached one hundred million followers, TikTok wrote a blog post congratulating her. “Congratulations Charli for 100M Followers, Paving the Way for Creators Everywhere,” TikTok, November 22, 2020, https://newsroom.tiktok.com/en-us/congratulations-charli-damelio-for-100-million-followers-paving-the-way-for-creators-everywhere. Her remarkable success has been analyzed in great detail, as people attempt to understand how her content and TikTok’s For You algorithm intersect. One such video, by “Richard the YouTube Strategist,” breaks down the early posts by D’Amelio and charts which helped her take off. “How Charli d’Amelio Became Famous,” video posted to YouTube by Richard the Youtube strategist, May 7, 2020, https://www.youtube.com/watch?v=Ks8kpjhVxVE.

30 Steven Levy, “The Untold History of Facebook’s Most Controversial Growth Tool,” Medium, February 25, 2020, https://marker.medium.com/the-untold-history-of-facebooks-most-controversial-growth-tool-2ea3bfeaaa66.

31 Kashmir Hill, “How Facebook Figures Out Everyone You’ve Ever Met,” Gizmodo, November 7, 2017, https://gizmodo.com/how-facebook-figures-out-everyone-youve-ever-met-1819822691.

32 Kashmir Hill, “Facebook Recommended That This Psychiatrist’s Patients Friend Each Other,” Splinter, August 29, 2016, https://splinternews.com/facebook-recommended-that-this-psychiatrists-patients-f-1793861472.

33 Anil Dash, “Nobody Has a Million Twitter Followers,” Anil Dash, January 5, 2010, https://www.anildash.com/2010/01/05/nobody_has_a_million_twitter_followers.

34 Julia Zappei, “Twitter Scrapping Its Suggested User List,” NBC News, November 16, 2009, https://www.nbcnews.com/id/wbna33964694.

35 Gerrick De Vynck, “High-Profile Republicans Gain Followers in First Weeks of Musk’s Reign,” Washington Post, November 27, 2022, https://www.washingtonpost.com/technology/2022/11/27/musk-followers-bernie-cruz.

36 J. M. Berger and Jonathon Morgan, “The ISIS Twitter Census: Defining and Describing the Population of ISIS Supporters on Twitter,” Brookings, March 2015, https://www.brookings.edu/wp-content/uploads/2016/06/isis_twitter_census_berger_morgan.pdf.

37 Renée DiResta, “Social Network Algorithms Are Distorting Reality by Boosting Conspiracy Theories,” Fast Company, May 11, 2016, https://www.fastcompany.com/3059742/social-network-algorithms-are-distorting-reality-by-boosting-conspiracy-theories.

38 Anna Merlan, “The Conspiracy Singularity Has Arrived,” Vice, July 17, 2020, https://www.vice.com/en/article/v7gz53/the-conspiracy-singularity-has-arrived.

39 Jeff Horwitz and Katherine Blunt, “Instagram Connects Vast Pedophile Network,” Wall Street Journal, June 7, 2023, https://www.wsj.com/articles/instagram-vast-pedophile-network-4ab7189.

40 Renée DiResta, “Online Conspiracy Groups Are a Lot Like Cults,” Wired, November 13, 2018, https://www.wired.com/story/online-conspiracy-groups-qanon-cults.

41 With 272,000 members as of December 11, 2023. “QAnonCasualties Subreddit,” Reddit, accessed December 11, 2023, https://www.reddit.com/r/QAnonCasualties.

42 Brandy Zadrozny, “On Facebook, Anti-vaxxers Urged a Mom Not to Give Her Son Tamiflu. He Later Died,” NBC News, February 7, 2020, https://www.nbcnews.com/tech/social-media/facebook-anti-vaxxers-pushed-mom-not-give-her-son-tamiflu-n1131936.

43 Renée DiResta, “The Complexity of Simply Searching for Medical Advice,” Wired, July 3, 2018, https://www.wired.com/story/the-complexity-of-simply-searching-for-medical-advice.

44 Jeff Horwitz and Deepa Seetharaman, “Facebook Executives Shut Down Efforts to Make the Site Less Divisive,” Wall Street Journal, May 26, 2020, https://www.wsj.com/articles/facebook-knows-it-encourages-division-top-executives-nixed-solutions-11590507499.

45 Brandy Zadrozny, “‘Carol’s Journey’: What Facebook Knew About How It Radicalized Users,” NBC News, October 22, 2021, https://www.nbcnews.com/tech/tech-news/facebook-knew-radicalized-users-rcna3581.

46 Taylor Hatmaker, “Facebook Hits Pause on Algorithmic Recommendations for Political and Social Issue Groups,” TechCrunch, October 30, 2020, https://techcrunch.com/2020/10/30/facebook-group-recommendations-election.

47 Ben Collins and Brandy Zadrozny, “Facebook Bans QAnon Across Its Platforms,” NBC News, October 6, 2020, https://www.nbcnews.com/tech/tech-news/facebook-bans-qanon-across-its-platforms-n1242339.

48 L. M. Sacasas, “From Common Sense to Bespoke Realities,” Convivial Society, July 12, 2022, https://theconvivialsociety.substack.com/p/from-common-sense-to-bespoke-realities.

49 In Chapter 3 of his book The Hype Machine: How Social Media Disrupts Our Elections, Our Economy, and Our Health—and How We Must Adapt (New York: Currency, 2020), computational social scientist Sinan Aral of MIT describes connections between users (networks) as the “substrate”—the foundation upon which everything else happens. On social media, whom we know and follow is connected to what we see. Just as in our village example from Chapter 1, our networks shape what we see, hear, and are potentially influenced by. That’s because the people you choose to follow or friend and the groups you choose to join, whether proactively or via a recommender system, largely determine what you’re going to see in your subsequent social media experience. Influencers, of course, with their large followings, have disproportionate reach and impact relative to “ordinary” users. But each node in the network—the followers, too, in other words—plays a role in shaping what the others see and do and, by extension, how they feel, act, and think about the world around them.

50 Chris Meserole, “How Do Recommender Systems Work on Digital Platforms?,” Brookings, September 21, 2022, https://www.brookings.edu/techstream/how-do-recommender-systems-work-on-digital-platforms-social-media-recommendation-algorithms.

51 Smriti Bhagat et al., “When Do Recommender Systems Amplify User Preferences? A Theoretical Framework and Mitigation Strategies,” Meta, August 6, 2021, https://research.facebook.com/blog/2021/8/when-do-recommender-systems-amplify-user-preferences-a-theoretical-framework-and-mitigation-strategies.

52 Akos Lada, Meihong Wang, and Tak Yan, “How Does News Feed Predict What You Want to See?,” Meta, January 26, 2021, https://tech.facebook.com/engineering/2021/1/news-feed-ranking.

53 Casey Newton, “How YouTube Perfected the Feed,” The Verge, August 30, 2017, https://www.theverge.com/2017/8/30/16222850/youtube-google-brain-algorithm-video-recommendation-personalized-feed.

54 Emma Lurie, Dan Bateyko, and Frances Schroeder, “TikTok Just Announced the Data It’s Willing to Share. What’s Missing?,” Stanford Internet Observatory Cyber Policy Center, February 24, 2023, https://cyber.fsi.stanford.edu/io/news/tiktok-just-announced-data-its-willing-share-whats-missing.

55 Emily Baker-White, “TikTok’s Secret ‘Heating’ Button Can Make Anyone Go Viral,” Forbes, January 20, 2023, https://www.forbes.com/sites/emilybaker-white/2023/01/20/tiktoks-secret-heating-button-can-make-anyone-go-viral.

56 The acknowledgment that a combination of an opaque algorithm and incentivized employees was shaping content consumption on the platform was met with considerable concern, in part because TikTok’s parent company was founded in China and remains partially Chinese-owned; some prominent congressmen and tech policy voices harbor concern about that power being abused by an authoritarian government. For more discussion of this, see Kari Paul and Johana Bhuiyan, “Key Takeaways from TikTok Hearing in Congress—and the Uncertain Road Ahead,” The Guardian, March 23, 2023, https://www.theguardian.com/technology/2023/mar/23/key-takeaways-tiktok-hearing-congress-shou-zi-chew. Full committee hearing: Scott Duke Kominers and Liang Wu, “Threads Foreshadows a Big—and Surprising—Shift in Social Media,” Harvard Business Review, July 13, 2023, https://hbr.org/2023/07/threads-foreshadows-a-big-and-surprising-shift-in-social-media.

57 Kelley Cotter, “Playing the Visibility Game: How Digital Influencers and Algorithms Negotiate Influence on Instagram,” New Media & Society 21, no. 4 (December 14, 2018), https://journals.sagepub.com/doi/10.1177/1461444818815684.

58 Brendan Koerner, “Watch This Guy Work, and You’ll Finally Understand the TikTok Era,” Wired, October 19, 2023, https://www.wired.com/story/tiktok-talent-factory-ursus-magana-creator-economy.

59 Drew Harwell, “How TikTok Ate the Internet,” Washington Post, October 14, 2023, https://www.washingtonpost.com/technology/interactive/2022/tiktok-popularity.

60 Ryan Broderick, “Your Least Favorite Gross Viral Food Videos Are All Connected to This Guy,” Eater, May 11, 2021, https://www.eater.com/2021/5/11/22430383/why-are-gross-viral-food-videos-popular-rick-lax-facebook-watch.

61 Ashley Mears, “Hocus Focus: How Magicians Made a Fortune on Facebook,” The Economist, July 28, 2022, https://www.economist.com/1843/2022/07/28/hocus-focus-how-magicians-made-a-fortune-on-facebook.

62 Horwitz and Seetharaman, “Facebook Executives Shut Down Efforts to Make the Site Less Divisive.”

63 This is the title of one of my favorite books: Charles Mackay, Extraordinary Popular Delusions and the Madness of Crowds (1841; reis. New York: Noonday Press, 1932).

64 Renée DiResta, “Crowds and Technology,” Ribbonfarm, September 15, 2016, https://www.ribbonfarm.com/2016/09/15/crowds-and-technology.

65 Ryan Schocket, “This Woman Tweeted About Having Coffee Every Day with Her Husband—the Internet Tore Her Apart,” BuzzFeed, October 24, 2022, https://www.buzzfeed.com/ryanschocket2/woman-backlash-for-coffee-husband-tweet.

66 Joon Ian Wong, Dave Gershgorn, and Mike Murphy, “Facebook Is Trying to Get Rid of Bias in Trending News by Getting Rid of Humans,” Quartz, August 26, 2016, https://qz.com/768122/facebook-fires-human-editors-moves-to-algorithm-for-trending-topics.

67 Hannah Ritchie, “Read All About It: The Biggest Fake News Stories of 2016,” CNBC, December 30, 2016, https://www.cnbc.com/2016/12/30/read-all-about-it-the-biggest-fake-news-stories-of-2016.html.

68 Olivia Solon, “In Firing Human Editors, Facebook Has Lost the Fight Against Fake News,” The Guardian, August 29, 2016, https://www.theguardian.com/technology/2016/aug/29/facebook-trending-news-editors-fake-news-stories.

69 Boorstin, The Image.

70 Edward Bernays, Crystallizing Public Opinion (New York: Boni and Liveright, 1923), 171.

71 Boorstin, The Image, 10.

72 Brian Welk and Rosemary Rossi, “Bean Dad Makes His 9-Year-Old Struggle to Open Can of Beans for 6 Hours, Infuriates Twitter: ‘Self-Absorbed A–Hat,’” The Wrap, January 3, 2021, https://www.thewrap.com/bean-dad-9-year-old-open-can-6-hours-infuriates-twitter.

73 Israel ישראל (@Israel), “Things that shouldn’t be trending on @Twitter: ‘The Jews’ @TwitterSafety do your job,” Twitter, May 16, 2023, 5:02 a.m., https://twitter.com/Israel/status/1658397528398737408.

74 Sarah Mervosh and Emily S. Rueb, “Fuller Picture Emerges of Viral Video of Native American Man and Catholic Students,” New York Times, January 20, 2021, https://www.nytimes.com/2019/01/20/us/nathan-phillips-covington.html.

75 Joshua Rothman, “How to Escape Pseudo-events in America: The Lessons of Covington,” New Yorker, 2019, https://www.newyorker.com/culture/cultural-comment/what-the-covington-saga-reveals-about-our-media-landscape.

CHAPTER 3: GURUS, BESTIES, AND PROPAGANDISTS

1 Jason Horowitz and Taylor Lorenz, “Khaby Lame, the Everyman of the Internet,” New York Times, June 2, 2021, https://www.nytimes.com/2021/06/02/style/khaby-lame-tiktok.html.

2 Thirst traps are provocative images or videos in which the creator is trying to appear attractive or enticing.

3 Clare Malone, “The Gospel of Candace Owens,” New Yorker, April 22, 2023, https://www.newyorker.com/news/annals-of-communications/the-gospel-of-candace-owens.

4 While there are many journalistic profiles of MrBeast, his frequently updated Wikipedia page provides the most up-to-date summary of his content and philanthropic efforts. “MrBeast,” Wikipedia, last modified September 8, 2023, https://en.wikipedia.org/wiki/MrBeast.

5 “I Helped 2000 Amputees Walk Again,” video posted to YouTube by Beast Philanthropy, May 7, 2023, https://www.youtube.com/watch?v=l5PvwYZQtT8.

6 Keffals became known in part for successfully trolling her ideological opponents, posting things like “I’ve always wanted to ratio…” and then pointing followers to a quote-tweeted post or other mention of a prominent media figure, politician, or corporate target whom she felt had done something stupid or malicious. Her followers would then go and comment on the post or reply to the poster. The term ratio refers to the number of comments relative to likes on a social media post; a post with many more comments than likes often indicates to observers that the person got a lot of flak and little support for what they expressed. Taylor Lorenz, “The Trans Twitch Star Delivering News to a Legion of LGBTQ Teens,” Washington Post, June 26, 2022, https://www.washingtonpost.com/technology/2022/06/26/keffals-trans-twitch-streaming-news.

7 Sinan Aral, Lev Muchnik, and Arun Sundararajan, “Distinguishing Influence-Based Contagion from Homophily-Driven Diffusion in Dynamic Networks,” Proceedings of the National Academy of Sciences of the United States of America 106, no. 51 (2009): 21544–21549, https://doi.org/10.1073/pnas.0908800106.

8 Talcott Parsons, “On the Concept of Influence,” Public Opinion Quarterly 27, no. 1 (1963): 37–62, https://doi.org/10.1086/267148.

9 Cartwright’s formula in its academic construction specified an agent, O, who was exerting influence; a method of exerting influence; and the agent subjected to the influence, which he labeled P. Agent O → does something → to Agent P. I use the term target here for clarity. Cartwright uses agent to describe both the person being influenced and the person doing the influencing. While Cartwright’s formula for how influence works is simple, he acknowledges that the reality is often more complex: “Breaking down the process of influence in this way does violence to its essential nature, for above all influence is a social relationship. Influence cannot be properly understood by treating the properties of O or of P in isolation.” Dorwin Cartwright, “Influence, Leadership, Control,” in Handbook of Organizations (RLE: Organizations), ed. James G. March (Routledge, 2013), 1–47.

10 Chloe Sorvino, “Could MrBeast Be the First YouTuber Billionaire?,” Forbes, November 30, 2022, https://www.forbes.com/sites/chloesorvino/2022/11/30/could-mrbeast-be-the-first-youtuber-billionaire.

11 Alan Neves et al., “Quantifying Complementarity Among Strategies for Influencers’ Detection on Twitter,” Procedia Computer Science 51 (2015): 2435–2444, https://doi.org/10.1016/j.procs.2015.05.428.

12 Jon Ronson, “How One Stupid Tweet Blew Up Justine Sacco’s Life,” New York Times, February 12, 2015, https://www.nytimes.com/2015/02/15/magazine/how-one-stupid-tweet-ruined-justine-saccos-life.html.

13 Cartwright, “Influence, Leadership, Control,” 1–47.

14 Jesse Singal, “The Strange Tale of Social Autopsy, the Anti-harassment Start-up That Descended into Gamergate Trutherism,” Intelligencer, April 18, 2016, https://nymag.com/intelligencer/2016/04/how-social-autopsy-fell-for-gamergate-trutherism.html. Owens, who herself had been the target of real-world bullying, achieved some visibility as a side story during Gamergate. She was the founder of an effort called Social Autopsy, which launched a Kickstarter to catalog the abuses of trolls and bullies by deanonymizing them and making their words easily discoverable. This effort caused its own online blowup, as both Gamergate and anti-Gamergate participants, as well as antiharassment advocates (including two of the women who had been a sustained focus of Gamergate attacks), pointed out the ways it would be abused, leading Owens to accuse them of targeting her.

15 Jakob Nielsen, “The 90-9-1 Rule for Participation Inequality in Social Media and Online Communities,” Nielsen Norman Group, October 8, 2006, https://www.nngroup.com/articles/participation-inequality.

16 Shannon C. McGregor, “Social Media as Public Opinion: How Journalists Use Social Media to Represent Public Opinion,” Journalism: Theory, Practice & Criticism 20, no. 8 (May 9, 2019): 1070–1086, https://doi.org/10.1177/1464884919845458. McGregor points this out and additionally highlights the fact that social media participants are not reflective of the public, despite the fact that media considers social media majorities as a sort of unofficial poll and uses commentary from participants as vox populi opinions.

17 Renée DiResta, “Election-Fraud Rumors Are Always the Same,” The Atlantic, December 15, 2022, https://www.theatlantic.com/ideas/archive/2022/11/arizona-election-voting-machines-fraud-conspiracy-tv-tropes/672100.

18 Aumyo Hassan and Sarah J. Barber, “The Effects of Repetition Frequency on the Illusory Truth Effect,” Cognitive Research: Principles and Implications 6, no. 1 (May 13, 2021), https://doi.org/10.1186/s41235-021-00301-5.

19 Eytan Bakshy et al., “Everyone’s an Influencer: Quantifying Influence on Twitter,” Proceedings of the Fourth ACM International Conference on Web Search and Data Mining, Hong Kong, February 9, 2011, https://doi.org/10.1145/1935826.1935845.

20 Jeff Guo, “The Bonkers Seth Rich Conspiracy Theory, Explained,” Vox, May 24, 2017, https://www.vox.com/policy-and-politics/2017/5/24/15685560/seth-rich-conspiracy-theory-explained-fox-news-hannity.

21 Damon Centola, “Influencers, Backfire Effects, and the Power of the Periphery,” Personal Networks: Classic Readings and New Directions in Egocentric Analysis 51 (2021): 73–86. The concept of complex contagion, and the roles that influencers and networks play in helping ideas go viral, is explored by Centola in depth throughout his book Change: How to Make Big Things Happen (New York: Little, Brown Spark, 2021).

22 Ibid.

23 Megan Hoins, “What ‘The Discourse’ Has to Do with Internet Discomfort,” Medium, April 26, 2018, https://medium.com/@meganhoins/what-the-discourse-has-to-do-with-internet-discomfort-6a554408966b; Sakshi, “Discourse (Slang),” Know Your Meme, August 30, 2023, https://knowyourmeme.com/memes/discourse-slang. “The Discourse” has an academic definition, which internet culture appropriated largely mockingly; rather than referring to important and serious issues, it is most often applied to rather esoteric nonsense that breaks out of its main community and is viewed with some bemusement by those outside the argument. “The Discourse” in its meme sense was popularized on tumblr in 2015 and was originally deployed when a fight broke out between a few people on the internet, often over an obscure niche issue, and an observer noted the argument and its somewhat ridiculous valence.

24 Allison P. Davis, “A Vibe Shift Is Coming,” The Cut, February 16, 2022, https://www.thecut.com/2022/02/a-vibe-shift-is-coming.html.

25 Ryan Holiday, “Trading Up the Chain: Mainstream Media Takes Cues from Blogosphere,” Observer, April 4, 2014, https://observer.com/2014/04/mainstream-media-takes-cues-from-blogosphere.

26 Seth Rich was murdered in July 2016. Nearly a year later, in April 2017, Jack Posobiec began tweeting conspiracy theories about Seth Rich as the party responsible for the Democratic National Convention leak (arguing that this absolved Russia). In May 2017, Posobiec temporarily gained White House press credentials from his job at Rebel Media. He used one of the press conferences to ask Trump about Seth Rich, but the question was ignored (James LaPorta, “Jack Posobiec, Pizzagate and Seth Rich Conspiracy Theorist, Has Top Secret Security Clearance,” Daily Beast, updated August 17, 2017, https://www.thedailybeast.com/jack-posobiec-pizzagate-and-seth-rich-conspiracy-theorist-has-top-secret-security-clearance). On May 16, 2017, Fox News published a story about investigating Rich’s murder and connecting it (without evidence) to Wikileaks. After this, Hannity pushed the story (THR Staff, “Sean Hannity Backs Off Seth Rich Story ‘For Now’ Out of Respect for His Family,” Hollywood Reporter, May 23, 2017, https://www.hollywoodreporter.com/news/general-news/sean-hannity-backs-seth-rich-story-respect-family-999155). A week later, Fox News retracted the story (“The Origins of the Seth Rich Conspiracy Theory,” NPR, July 11, 2019, https://www.npr.org/2019/07/11/740608323/the-origins-of-the-seth-rich-conspiracy-theory). An in-depth case study of the Seth Rich story and Fox’s coverage can also be found in Brian Stelter’s book Hoax: Donald Trump, Fox News, and the Dangerous Distortion of Truth (New York: One Signal Publishers), 2020.

27 Most of the work in academic literature and the field of brand marketing alike primarily differentiates influencers by tiers according to their reach. Guides written by agencies that help companies develop an influencer marketing strategy additionally differentiate by the influencer’s topical niche. This gap is interesting because brand marketing strategists precisely and extensively define brand personalities (for example, in terms of one of the twelve personality archetypes of Carl Jung: “The Everyman,” “The Sage,” “The Jester,” “The Rebel”). Similar assessments of influencers (many of whom are brands) do not appear to exist at the moment, though one study attempted a taxonomy based on keywords within LinkedIn profiles: visionary, strategist, mentor, tutor, teacher, and so forth. “Brand Archetypes,” OVO, n.d., https://brandsbyovo.com/expertise/brand-archetypes; James Barry and John T. Gironda, “Operationalizing Thought Leadership for Online B2B Marketing,” Industrial Marketing Management 81 (August 1, 2019): 138–159, https://doi.org/10.1016/j.indmarman.2017.11.005.

28 “Special Episode: Calibrating the Gurometer,” Decoding the Gurus, January 9, 2021, https://decoding-the-gurus.captivate.fm/episode/calibrating-the-gurometer. Scholars Christopher Kavanagh (a cognitive anthropologist and social psychologist) and Matthew Browne (a psychology professor) host a podcast called Decoding the Gurus, which broached the idea of a “Gurometer” that defined ten key characteristics of modern secular gurus, among them antiestablishment inclinations.

29 Helen Lewis’s podcast The New Gurus goes deeply into the motivations and value propositions that gurus offer their audiences in several different topical categories. Simplification and an easy guide for how to live is common among them. The New Gurus Apple Podcasts, April 17, 2023, https://podcasts.apple.com/us/podcast/the-new-gurus/id1659385785.

30 “The Virus, the Vaccine, and the Dark Side of Wellness,” Harper’s Bazaar, March 16, 2021, https://www.harpersbazaar.com/culture/features/a35823360/covid-19-vaccine-qanon-wellness-influencers; E. J. Dickson, “Wellness Influencers Are Calling Out QAnon Conspiracy Theorists for Spreading Lies,” Rolling Stone, September 15, 2020, https://www.rollingstone.com/culture/culture-news/qanon-wellness-influencers-seane-corn-yoga-1059856.

31 Kaitlyn Tiffany, “The Women Making Conspiracy Theories Beautiful,” The Atlantic, August 18, 2020, https://www.theatlantic.com/technology/archive/2020/08/how-instagram-aesthetics-repackage-qanon/615364.

32 Derek Beres, Julian Walker, and Matthew Remski, Conspirituality: How New Age Conspiracy Theories Became a Health Threat (New York: Public Affairs, 2023), chap. 1.

33 Charlotte Ward and David Voas, “The Emergence of Conspirituality,” Journal of Contemporary Religion 26, no. 1 (January 1, 2011): 103–121, https://doi.org/10.1080/13537903.2011.539846.

34 Martin Riedl, Josephine Lukito, and Samuel Woolley, “Political Influencers on Social Media: An Introduction,” Social Media and Society 9, no. 2 (June 7, 2023): 205630512311779, https://doi.org/10.1177/20563051231177938.

35 For an interesting profile of Chris Rufo that examines his avowed leveraging of propaganda tactics (such as deliberately setting out to redefine the term critical race theory) in service to accomplishing his goals, see Benjamin Wallace-Wells, “How a Conservative Activist Invented the Conflict over Critical Race Theory,” New Yorker, June 18, 2021, https://www.newyorker.com/news /annals-of-inquiry/how-a-conservative-activist-invented-the-conflict-over-critical-race-theory.

36 Philipp Margolin, “Distort, Discredit, Dismiss: The Manipulation Playbook of Anti-science Actors, Part 2,” The Protagonist Future?, May 15, 2023, https://protagonistfuture.substack.com/p/distort-discredit-dismiss.

37 Robert Tracinski, “The Populist Right Isn’t Interested in Elite Accountability,” The UnPopulist, November 18, 2022, https://www.theunpopulist.net/p/the-populist-right-isnt-interested.

38 Adam, “Twitter’s Main Character,” Know Your Meme, July 13, 2023, https://knowyourmeme.com/memes/twitters-main-character; Maple Cocaine (@maplecocaine), “Each day on twitter there is one main character. The goal is to never be it,” Twitter, January 2, 2019, https://twitter.com/maplecocaine/status/1080665226410889217.

39 Reeves Wiedeman, “PissPigGranddad, the Punk-Rock Florist Who Fought ISIS in Syria, Is Coming Home,” Intelligencer, April 3, 2017, https://nymag.com/intelligencer/2017/04/brace-belden-pisspiggranddad-syria-isis.html.

40 Sam Jaffe Goldstein, “Jeffrey Epstein Is a Feature of Our System: A Conversation with Liz Franczak and Brace Belden, Hosts of ‘Trueanon,’” Los Angeles Review of Books, January 30, 2020, https://lareviewofbooks.org/article/jeffrey-epstein-is-a-feature-of-our-system-a-conversation-with-liz-franczak-and-brace-belden-hosts-of-trueanon.

41 These two topics, in quick succession, dominated The Discourse in one week of June 2023.

42 Helen Lewis, “Extremophiles, the Internet’s Favorite Personality Type,” The Atlantic, January 31, 2023, https://www.theatlantic.com/ideas/archive/2023/01/internet-youtube-podcast-guru-influencers-andrew-tate/672867.

43 David A. Graham, “The Unlabelling of an ‘Anti-Muslim Extremist,’” The Atlantic, June 18, 2018, https://www.theatlantic.com/politics/archive/2018/06/maajid-nawaz-v-splc/562646.

44 Vanessa Thorpe, “LBC’s Maajid Nawaz’s Fascination with Conspiracies Raises Alarm,” The Guardian, January 31, 2021, https://www.theguardian.com/tv-and-radio/2021/jan/31/lbcs-maajid-nawazs-fascination-with-conspiracies-raises-alarm.

45 Gurwinder Bhogal, “The Perils of Audience Capture: How Influencers Become Brainwashed by Their Audience,” The Prism (blog), Substack, June 30, 2022. https://gurwinder.substack.com/p/the-perils-of-audience-capture.

46 Maajid Nawaz (@MaajidNawaz), “Titan sub search & oxygen countdown= scam…,” Twitter, June 24, 2023, https://twitter.com/MaajidNawaz/status/1672698980558307333.

47 Naomi Klein, Doppelganger: A Trip into the Mirror World (New York: Farrar, Straus and Giroux, 2023), 106–107.

48 Gurwinder Bhogal defines audience capture, in a very thorough explainer post, as a feedback loop that “involves the gradual and unwitting replacement of a person’s identity with one custom-made for the audience.” Bhogal, “The Perils of Audience Capture.”

49 Klein, Doppelganger, 131.

50 Ibid., 106–107.

51 Charli, https://www.charlidamelio.com.

52 X (@x), “Surprise! Today we launched our Creator Ads Revenue Sharing program…,” Twitter, July 14, 2023, https://twitter.com/X/status/1679572360695824384.

53 Taylor Lorenz, “Far-Right Twitter Influencers First on Elon Musk’s Monetization Scheme,” Washington Post, updated July 14, 2023, https://www.washingtonpost.com/technology/2023/07/13/twitter-creators-payments-right-wing.

54 Zeynep Alkan and Sevilay Ulaş, “Trust in Social Media Influencers and Purchase Intention: An Empirical Analysis,” Online Journal of Communication and Media Technologies 13, no. 1 (January 1, 2023): e202301, https://doi.org/10.30935/ojcmt/12783. While there is not much literature on the implications of trust in influencers on political attitude shifts or belief formation, influencers expressing opinions increased the trust toward them, and there is a positive correlation between trust in the influencer and purchasing intent.

55 “For Shopping, Americans Turn to Mobile Phones While Influencers Become a Factor,” Pew Research Center, November 21, 2022, https://www.pewresearch.org/fact-tank/2022/11/21/for-shopping-phones-are-common-and-influencers-have-become-a-factor-especially-for-young-adults.

56 Supplement to the 2022 Edelman Trust Barometer: The New Cascade of Influence: Brands in a Feed-First World, Edelman Trust Institute, August 2022, https://www.edelman.com/sites/g/files/aatuss191/files/2022-08/2022%20Edelman%20Trust%20Barometer%20SUPPLEMENT%20to%20The%20New%20Cascade%20of%20Influence%20FINAL.pdf, 16–17.

57 Paris Martineau, “Inside the Pricey War to Influence Your Instagram Feed,” Wired, November 18, 2018, https://www.wired.com/story/pricey-war-influence-your-instagram-feed.

58 Alexandra Sternlicht, “The World’s Most Followed Tiktoker Gets Paid as Much as $750K per Post, but to Reach His Greatest Business Goal Khaby Lame Is Binge-Watching American Cartoons,” Fortune, September 14, 2022, https://fortune.com/2022/09/14/how-khaby-lame-plans-expand-business-that-gets-750k-dollars-for-tiktok-post.

59 Alexandra Sternlicht, “Top Creators 2022,” Forbes, September 6, 2022, https://www.forbes.com/sites/alexandrasternlicht/2022/09/06/top-creators-2022.

60 Carly Porterfield, “Right-Wing Pundits Ben Shapiro and Steven Crowder Clash Over $50 Million Media Deal,” Forbes, January 20, 2023, https://www.forbes.com/sites/carlieporterfield/2023/01/20 /right-wing-pundits-ben-shapiro-and-steven-crowder-clash-over-50-million-media-deal.

61 Laurence Scott, “A History of the Influencer, from Shakespeare to Instagram,” New Yorker, April 21, 2019. https://www.newyorker.com/culture/annals-of-inquiry/a-history-of-the-influencer-from-shakespeare-to-instagram.

62 A case study by Shannon McGregor details how the Trump campaign used influencers to drive online conversations during the 2016 campaign: “The campaign then identified the top 10 percent of users with the highest influence in terms of follower counts and their ability to drive social media conversations. These users were invited to join the campaign’s rapid response team, ‘The Big-League Trump Team.’ As [Gary] Coby, [a digital strategist with the Trump campaign], said, ‘Basically, during the debate we were sending a text out to this small group every three to five minutes. Those pieces of content we sent out, were getting up to 500 percent additional increase in reach [on social media] relative to everything else. Trump had a big footprint, but then we were behind the scenes kind of putting gasoline on all of that.’” More broadly, McGregor’s paper provides a list of ways in which political campaigns in 2016 (notably Sanders, Trump, some quotes from Cruz’s campaign team) were using social media listening to try to find emergent chatter—to pull things up from the crowd. She writes, “Reading social media messages from supporters informed campaign messaging, as well as strategy more broadly.” Shannon C. McGregor, “‘Taking the Temperature of the Room’: How Political Campaigns Use Social Media to Understand and Represent Public Opinion,” Public Opinion Quarterly 84, no. S1 (July 15, 2020): 236–256.

63 Kate Knibbs, “Mike Bloomberg’s Meme Campaign Is Just the Beginning,” Wired, February 13, 2020, https://www.wired.com/story/election-2020-influncers.

64 Benjamin Wofford, “Meet the Lobbyist Next Door,” Wired, July 14, 2022, https://www.wired.com/story/meet-the-lobbyist-next-door.

65 Johnatan Reiss and Michelle R. Smith, “Inside One Network Cashing in on Vaccine Disinformation,” AP News, August 14, 2023, https://apnews.com/article/anti-vaccine-bollinger-coronavirus-disinformation-a7b8e1f33990670563b4c469b462c9bf.

66 Anastasia Goodwin and Samuel Woolley, “Political Groups Are Paying Influencers to Spread Partisan Messaging,” Teen Vogue, October 7, 2021, https://www.teenvogue.com/story/tiktok-influencers-political-campaigns.

67 “These Are ‘Not’ Political Ads,” Mozilla Foundation, n.d., https://foundation.mozilla.org/en/campaigns/tiktok-political-ads.

68 Robert Downen, “Gen Z Influencers Are Being Quietly Recruited to Defend Ken Paxton,” Texas Tribune, August 20, 2023, https://www.texastribune.org/2023/08/14/influenceable-texas-politics-ken-paxton.

69 Despite apocryphal stories of gladiators endorsing olive oil in ancient Rome, the earliest documented example comes from Josiah Wedgwood in the 1760s. He aligned his tea sets with British royalty by calling himself “Potter to her Majesty” and from there built his brand. In the late nineteenth century, endorsements from both prominent and everyday people appeared alongside ads for patent medicines, or what we would today call “snake oil.” Many of these testimonials had been paid for, while others were wholly faked. The disrepute of patent medicines cast endorsements in a negative light until they reemerged in the years following World War I, amid a massive rise in media consumption and the advertising industry. For more work on this topic, see Kerry Segrave, Endorsements in Advertising: A Social History (Jefferson, NC: McFarland & Co., 2005), or Peter Suciu, “History of Influencer Marketing Predates Social Media by Centuries—but Is There Enough Transparency in the 21st Century?,” Forbes, December 7, 2020.

70 “Guides Concerning the Use of Endorsements and Testimonials in Advertising Federal Acquisition Regulation; Final Rule,” Federal Trade Commission, October 15, 2009, https://www.ftc.gov/sites/default/files/documents/federal_register_notices/guides-concerning-use-endorsements-and-testimonials-advertising-16-cfr-part-255/091015guidesconcerningtestimonials.pdf.

71 Jessica Camille Aguirre, “When Does Mom’s Blog Become an Ad?,” NPR, August 17, 2012, https://www.npr.org/sections/health-shots/2012/08/16/158938607/when-does-moms-blog-become-an-ad. To be clear, the FTC did mandate that celebrities had to disclose engagements if they were “outside the context of traditional ads, such as on talk shows or in social media.” “FTC Publishes Final Guides Governing Endorsements, Testimonials,” Federal Trade Commission, June 22, 2017, https://www.ftc.gov/news-events/news/press-releases/2009/10/ftc-publishes-final-guides-governing-endorsements-testimonials.

72 Marisa Taylor, “FTC Not Sure How to Enforce Blogger Disclosure Rules,” Wall Street Journal, January 15, 2010, https://www.wsj.com/articles/BL-DGB-10282.

73 Louise Matsakis, “YouTube and Pinterest Influencers Almost Never Disclose Marketing Relationships,” Wired, March 27, 2018, https://www.wired.com/story/youtube-pinterest-influencers-never-disclose-affiliate-links.

74 “FTC Releases Advertising Disclosures Guidance for Online Influencers,” Federal Trade Commission, November 5, 2019, https://www.ftc.gov/news-events/news/press-releases/2019/11/ftc-releases-advertising-disclosures-guidance-online-influencers.

75 The FTC has filed and won a handful of high-profile lawsuits in recent years, such as FTC vs. Teami, LLC, a “detoxifying” tea and skincare company that made deceptive health claims and promoted its products with undisclosed celebrity endorsements on social media. In general, however, the FTC has trouble enforcing its guidelines because they are nonbonding instructions rather than formal rules and therefore are more open to interpretation. For recent work on this topic, see Keith Coop, “Influencers: Not So Fluent in Disclosure Compliance,” Loyola of Los Angeles Entertainment Law Review 41, no. 1 (2021).

76 Giovanni De Gregorio and Catalina Goanta, “The Influencer Republic: Monetizing Political Speech on Social Media,” German Law Journal 23, no. 2 (March 23, 2022): 204–225, https://doi.org/10.1017/glj.2022.15.

77 Renée DiResta, “How the Creator Economy Is Incentivizing Propaganda,” NOEMA, June 7, 2023, https://www.noemamag.com/the-new-media-goliaths.

78 Edward L. Bernays, Crystallizing Public Opinion (1923; reis., New York: Ig Publishing, 2011), 92.

79 Jemima Kelly, “Substack’s Success Shows Readers Have Had Enough of Polarised Media,” Financial Times, March 31, 2021, https://www.ft.com/content/3e565df2-0cb2-4126-a879-eb2710 eef03a.

80 Glenn Greenwald, “Glenn Greenwald,” Rumble, n.d., https://rumble.com/GGreenwald. Audience count as of December 3, 2023.

81 Clio Chang, “The Substackerati,” Columbia Journalism Review, November 16, 2020, https://www.cjr.org/special_report/substackerati.php.

CHAPTER 4: THE CROWD

1 George F. Young et al., “Starling Flock Networks Manage Uncertainty in Consensus at Low Cost,” PLoS Computational Biology 9, no. 1 (2013), https://doi.org/10.1371/journal.pcbi.1002894.

2 Renée DiResta, “How Online Mobs Act like Flocks of Birds,” NOEMA, November 3, 2022, https://www.noemamag.com/how-online-mobs-act-like-flocks-of-birds.

3 As with birds, that behavior does not necessarily have to be rational. In 2016, the games company “Cards against Humanity” launched a crowdfunding site that invited people to donate their hard-earned cash to pay for a backhoe that was digging a hole in a field—for absolutely no reason at all. They livestreamed the digger excavating the pointless hole somewhere in America, explaining that “as long as money keeps coming in, we’ll keep digging,” In the end, they raised more than $100,000. See Laura Wagner, “People Knowingly Donated $100,000 to Dig a Big, Pointless Hole in the Ground,” The Guardian, November 27, 2016, https://www.theguardian.com/technology/2016/nov/28/cards-against-humanity-hole.

4 Sara Brin Rosenthal et al., “Revealing the Hidden Networks of Interaction in Mobile Animal Groups Allows Prediction of Complex Behavioral Contagion,” Proceedings of the National Academy of Sciences 112, no. 15 (2015): 4690–4695, https://doi.org/10.1073/pnas.1420068112.

5 Naomi Forman-Katz and Katerina Eva Matsa, “News Platform Fact Sheet,” Pew Research Center, September 20, 2022, https://www.pewresearch.org/journalism/fact-sheet/news-platform-fact-sheet.

6 David Shor, “One Needle to Predict Them All: Does the New York Times Needle Really Need to Exist?” (interview by Mike Pesca, The Gist [podcast], January 5, 2021), https://slate.com/podcasts/the-gist/2021/01/new-york-times-polling-and-georgia.

7 David Shor (@davidshor), “Post-MLK-assasination race riots reduced Democratic vote share…,” Twitter, May 28, 2020, https://twitter.com/davidshor/status/1265998625836019712.

8 Benjamin Dixon (@BenjaminPDixon), “So we’re really concern trolling for the purposes of increasing democratic turnout. Tell you what, go to Minneapolis…,” Twitter, May 28, 2020, https://twitter.com/BenjaminPDixon/status/1266119727665029120.

9 Ari Trujillo Wesler (@TheReFTW), “Post-MLK-assasination race riots reduced Democratic vote share…,” Twitter, https://twitter.com/TheReFTW/status/1266146619805728768.