Power and Progress

Вскоре протесты были подавлены, а большое количество оппозиционных деятелей и студентов арестовано. После этого в Иране усилилась цензура в Интернете. В 2012 году был создан Верховный совет по киберпространству для контроля над интернетом и социальными сетями, и сегодня почти все западные социальные сети, различные потоковые сервисы (включая Netflix) и большинство западных новостных СМИ заблокированы в Иране.

Эволюция роли социальных медиа в политике и последовавшие за этим правительственные репрессии в России похожи. Сайт VK (ВКонтакте) стал самой популярной платформой социальных сетей в стране и уже широко использовался к 2011 году. Фальсификации на парламентских выборах 4 декабря 2011 года, задокументированные в Интернете фотографиями вброса бюллетеней и многочисленных голосов, поданных сторонниками правительства, вызвали массовые протесты. Последующее исследование показало, что протесты координировались на платформе, и в городах, где ВК использовался более широко, антиправительственные акции были значительно более масштабными.

Как и в Китае и Иране, протесты послужили толчком к усилению государственного контроля и цензуры интернет-активности в России. С тех пор систематическая цензура усилилась. Система оперативно-розыскных мероприятий заставляет всех операторов связи устанавливать оборудование, предоставленное Федеральной службой безопасности (ФСБ), что позволяет ФСБ отслеживать метаданные и даже контент, а также блокировать доступ, без необходимости получения ордера. После очередного раунда протестов в 2020 году было заблокировано еще больше диссидентских и новостных сайтов, запрещены инструменты VPN и зашифрованный браузер Tor, а также введены новые, астрономические штрафы в качестве способа принуждения компаний к предотвращению доступа к незаконному контенту, включая посты в социальных сетях и сайты с критикой правительства. Хотя технологии ИИ менее важны для российских усилий по цензуре, их роль в последнее время также возросла.

Злоупотребление цифровыми инструментами, направленное против оппозиционных групп, не ограничивается диктатурами. В 2020 году в Forbidden Stories, международную организацию, стремящуюся публиковать истории журналистов, подвергающихся репрессиям по всему миру, просочился список из примерно пятидесяти тысяч телефонных номеров. Номера принадлежали оппозиционным политикам, правозащитникам, журналистам и диссидентам, которые, по сообщениям, подвергались взлому с помощью шпионской программы Pegasus, разработанной израильской технологической компанией NSO Group (названной по фамилиям ее основателей Нива Карми, Шалева Хулио и Омри Лави). (NSO отрицает любые правонарушения, заявляя, что программное обеспечение предоставляется только "проверенным правительственным клиентам" и что эти клиенты сами решают, как его использовать).

Pegasus - это программа "zero-click", то есть она может быть установлена на мобильные телефоны удаленно, не требуя от пользователя нажатия на какие-либо ссылки - другими словами, она может быть установлена без ведома или согласия пользователя. Его название происходит от имени крылатого коня Пегаса в греческой мифологии, что указывает на широкий класс программного обеспечения, к которому он относится (троянский конь), и на тот факт, что он летает, а не устанавливается вручную. Современные технологические лидеры стремятся подчеркнуть огненную силу ИИ и изображают себя в роли современного Прометея, дарующего человечеству силу технологии. Но Пегас, а не Прометей — вот что мы, похоже, получили от современных цифровых технологий.

Pegasus может читать текстовые сообщения, прослушивать звонки, определять местоположение, удаленно собирать пароли, отслеживать активность в Интернете и даже брать под контроль камеру и микрофон телефона. Как утверждается, эта программа регулярно используется во многих странах с авторитарными правителями, включая Саудовскую Аравию, Объединенные Арабские Эмираты и Венгрию. Журналист Джамал Хашогги, который впоследствии был зверски убит и расчленен, предположительно находился под наблюдением агентов Саудовской Аравии, использовавших Pegasus. (Власти Саудовской Аравии заявили, что это была "несанкционированная операция").

Изучение цифр, полученных Forbidden Stories, выявило систематическое злоупотребление программным обеспечением со стороны многих демократически избранных правительств. В Мексике шпионское ПО изначально было приобретено как оружие против наркокартелей и использовалось в операции, которая привела к поимке главы картеля Синалоа Эль Чапо. Но впоследствии она была использована против журналистов, адвокатов, расследовавших массовое убийство сорока трех студентов, и оппозиционных партий, включая одного из лидеров оппозиции, Андреса Мануэля Лопеса Обрадора, который впоследствии стал президентом страны. В Индии правительство премьер-министра Нарендры Моди использует программное обеспечение еще более широко и установило слежку за многими важными лидерами оппозиции, студенческими активистами, журналистами, членами избирательных комиссий и даже руководителями Центрального бюро расследований страны.

Злоупотребления с использованием Pegasus не ограничились правительствами развивающихся стран. В списке был телефон президента Франции Эммануэля Макрона, а также номера нескольких высокопоставленных чиновников Госдепартамента США.

Соединенные Штаты не нуждаются в Pegasus для совершения высокотехнологичных проступков (хотя некоторые из их спецслужб экспериментировали с этим программным обеспечением, а также выступили в качестве посредника при его продаже правительству Джибути). 5 июня 2013 года мир был разбужен откровениями Эдварда Сноудена, впервые опубликованными в газете Guardian, о незаконном сборе данных Национальным агентством безопасности (АНБ). АНБ сотрудничало с Google, Microsoft, Facebook, Yahoo!, различными другими интернет-провайдерами и телефонными компаниями, такими как AT&T и Verizon, чтобы собрать огромное количество данных об интернет-поисках, онлайн-общении и телефонных звонках американских граждан. Она также прослушивала переговоры лидеров американских союзников, включая Германию и Бразилию. Он собирал данные со спутников и подводных волоконно-оптических кабелей. Сноуден описал масштабы этих программ, сказав, что, когда он был подрядчиком АНБ, "я, сидя за своим столом, безусловно, имел полномочия прослушивать любого человека, от вас или вашего бухгалтера до федерального судьи или даже президента, если у меня была личная электронная почта". Хотя эти действия были неконституционными и осуществлялись без ведома или надзора Конгресса, некоторые из них были санкционированы FISA (Судом по надзору за иностранными разведками).

Соединенные Штаты - не Китай, и эта деятельность должна была быть скрыта от средств массовой информации и даже от большинства законодателей. Когда появились разоблачения Сноудена, возникла мощная реакция против неправомерных стратегий АНБ и других агентств по сбору данных. Но этого оказалось недостаточно, чтобы остановить большую часть слежки. Возможно, еще хуже то, что частные компании, такие как Clearview AI, начали собирать изображения лиц сотен миллионов пользователей и продавать эту информацию правоохранительным органам, практически без надзора со стороны гражданского общества или других институтов. В этом нет ничего плохого, по словам основателя и генерального директора Clearview, который заявил: "Мы считаем, что это лучшее использование технологии".

Шпионские программы Pegasus, шпионаж АНБ и технология распознавания лиц Clearview иллюстрируют более глубокую проблему. Появившись на свет, цифровые инструменты для обширного сбора данных будут использоваться многими, если не большинством, правительств для подавления оппозиции и лучшего контроля за своими гражданами. Они укрепят недемократические режимы и позволят им гораздо эффективнее противостоять оппозиции. Они даже могут создать скользкую дорожку для демократических правительств, которые со временем станут более авторитарными.

Демократия умирает во тьме. Но она борется и при свете, который дает современный искусственный интеллект.

Наблюдение и направление развития технологий

От первоначальной эйфории по поводу демократизирующего потенциала Интернета и социальных сетей некоторые сделали полярно противоположный вывод: цифровые инструменты по своей сути антидемократичны. По словам историка Юваля Ноя Харари, "технологии благоприятствуют тирании".

Обе эти бинарные точки зрения ошибочны. Цифровые технологии не являются ни продемократическими, ни антидемократическими. Не было никакой необходимости в разработке технологий ИИ для того, чтобы дать правительствам возможность контролировать СМИ, цензурировать информацию и репрессировать своих граждан. Все это было выбором направления развития технологий.

Мы увидели, что цифровые технологии, которые по своей природе являются практически универсальными, можно было бы использовать для повышения полезности машин - например, путем создания новых рабочих задач или новых платформ, которые увеличивали бы возможности человека. Именно видение и бизнес-модель крупных технологических компаний подтолкнули к тому, чтобы в первую очередь сосредоточиться на контроле за работниками и уничтожении рабочих мест посредством автоматизации. То же самое верно и в отношении использования ИИ в качестве инструмента в руках авторитарных и некоторых якобы демократических правительств.

Мечты о том, что интернет и цифровые технологии дадут гражданам возможность противостоять диктатуре, не совсем сюрреалистичны. Цифровые технологии можно использовать для шифрования, что делает невозможным для властей прослушивание частных сообщений. Такие сервисы, как VPN, могут использоваться для противодействия цензуре. Поисковые системы, такие как Tor, в настоящее время невозможно расшифровать (насколько нам известно) и, следовательно, они обеспечивают более высокий уровень конфиденциальности и безопасности. Тем не менее, первые надежды на демократизацию цифровых технологий были разрушены, потому что технологический мир направил свои усилия туда, где лежат деньги и власть - на государственную цензуру.

Таким образом, технологическое сообщество выбрало особый путь - низкую дорогу, которая усиливает сбор данных и слежку. Хотя достижения в крупномасштабной обработке данных с использованием инструментов машинного обучения сыграли важную роль в этих усилиях, настоящим секретным соусом в слежке правительств и компаний являются огромные объемы данных.

Когда технологии ИИ усиливают авторитарные импульсы, они создают порочный круг. По мере того, как правительства становятся все более авторитарными, растет их потребность в ИИ для отслеживания и контроля своего населения, и это толкает ИИ дальше в направлении превращения в полноценную технологию мониторинга.

С 2014 года, например, наблюдается огромный рост спроса со стороны местных китайских правительств на технологии ИИ, обеспечивающие распознавание лиц и другие виды мониторинга. Этот спрос, по-видимому, отчасти вызван местными политическими волнениями. Политики хотят усилить охрану порядка и наблюдение, когда видят, что в их регионе назревает недовольство или протестная активность. Во второй половине 2010-х годов массовые протесты, особенно направленные против национального правительства, были практически невозможны, хотя локальные протесты все еще имели место, и некоторое время, как мы видели ранее в этой главе, они даже координировались в социальных сетях.

Однако к этому моменту инструменты ИИ уже были на стороне властей, а не протестующих. После внедрения технологий ИИ местные власти стали лучше справляться с подавлением и предотвращением протестов. Кстати, несмотря на то, что центральное правительство Китая и местные власти готовы нанимать большое количество полицейских, увеличение инвестиций в ИИ, похоже, уменьшает необходимость использования рабочей силы для наблюдения и даже фактического подавления протестующих.

Что еще более поразительно, этот спрос со стороны местных органов власти влияет на направление инноваций. Данные о вселенной ИИ-стартапов в Китае показывают, что государственный спрос на технологии мониторинга коренным образом меняет последующие инновации. ИИ-фирмы, заключающие контракты с местными органами власти Китая, начинают все больше и больше смещать свои исследования в сторону распознавания лиц и других технологий слежения. Возможно, в результате этих стимулов Китай стал мировым лидером в области технологий наблюдения, таких как распознавание лиц, но отстает в других областях, включая обработку естественного языка, навыки языкового мышления и абстрактные рассуждения.

По оценкам международных экспертов, качество исследований в области ИИ в Китае все еще значительно отстает от американского по всем параметрам. Однако есть один аспект, в котором Китай имеет преимущество: данные.

Китайские исследователи работают с гораздо большими объемами данных и без ограничений конфиденциальности, которые часто ограничивают тип данных, к которым могут получить доступ западные исследователи. Влияние контрактов местных органов власти на направление исследований в области ИИ особенно ярко проявляется, когда местные органы власти делятся огромными объемами данных в своих контрактах на закупки. Имея в своем распоряжении огромное количество данных без каких-либо ограничений и высокий спрос на технологии наблюдения, стартапы ИИ смогли протестировать и разработать мощные приложения, способные отслеживать, контролировать и управлять гражданами.

Здесь существует ловушка технологии наблюдения: могущественные и богатые деньгами правительства, стремящиеся подавить инакомыслие, требуют технологий ИИ для контроля над своим населением. Чем больше они их требуют, тем больше исследователей их производят. Чем больше ИИ движется в этом репрессивном направлении, тем более привлекательным он становится для авторитарных (или желающих стать авторитарными) правительств.

Действительно, китайские стартапы теперь экспортируют свои продукты ИИ, направленные на мониторинг и репрессии, другим недемократическим правительствам. Китайский технологический гигант Huawei, один из главных бенефициаров неограниченного доступа к данным и финансовых стимулов для развития технологий шпионажа, экспортировал эти инструменты в пятьдесят других стран. Мы увидели, как автоматизация на основе ИИ, разработанная в технологически развитых странах, повлияет на остальной мир, причем для большинства работников это может иметь значительные потенциальные негативные последствия. То же самое касается и слежки на основе ИИ: большинству граждан, где бы они ни находились в мире, становится все труднее избежать репрессий.

Социальные сети и скрепки

Интернет-цензура и даже высокотехнологичные шпионские программы могут ничего не сказать о потенциале социальных сетей как инструмента для улучшения политического дискурса и координации оппозиции самым худшим режимам в мире. То, что несколько диктатур использовали новые технологии для подавления своего населения, не должно никого удивлять. То, что Соединенные Штаты делают то же самое, также понятно, если вспомнить давнюю традицию беззакония их служб безопасности, которая только усилилась после "войны с террором". Возможно, решение заключается в том, чтобы удвоить усилия социальных сетей и позволить им иметь больше возможностей для общения и свободных сообщений, чтобы ярче освещать злоупотребления. Увы, нынешний путь социальных сетей с искусственным интеллектом представляется почти таким же губительным для демократии и прав человека, как и цензура в Интернете.

Притча о скрепках - любимый инструмент компьютерщиков и философов для подчеркивания опасностей, которые может представлять сверхинтеллектуальный ИИ, если его цели не будут полностью совпадать с целями человечества. Мысленный эксперимент предполагает наличие неудержимо мощной интеллектуальной машины, которая получает инструкции производить больше скрепок, а затем использует свои значительные возможности для достижения этой цели, придумывая новые методы превращения всего мира в скрепки. Когда речь идет о влиянии ИИ на политику, он может превратить наши институты в скрепки не благодаря своим превосходным возможностям, а из-за своей посредственности.

К 2017 году Facebook был настолько популярен в Мьянме, что его стали отождествлять с самим интернетом. Двадцать два миллиона пользователей при населении в пятьдесят три миллиона человек были благодатной почвой для дезинформации и языка вражды. Одна из самых этнически разнообразных стран в мире, Мьянма является домом для 135 официально признанных различных этносов. Ее военные, которые правят страной железным кулаком с 1962 года, с коротким периодом парламентской демократии под военным кураторством в период с 2015 по 2020 год, часто разжигают этническую ненависть среди большинства буддистского населения. Ни одна другая группа не подвергалась столь частым нападкам, как мусульмане рохинья, которых правительственная пропаганда изображает иностранцами, хотя они живут здесь уже несколько веков. Ненавистнические высказывания в адрес рохинья стали обычным явлением в контролируемых правительством СМИ.

Facebook появился в этой горючей смеси межнациональной напряженности и подстрекательской пропаганды в 2010 году. С тех пор она стремительно расширялась. В соответствии с верой Кремниевой долины в превосходство алгоритмов над людьми и несмотря на огромную базу пользователей, в Facebook работал только один человек, который следил за Мьянмой и говорил на бирманском, но не на большинстве из других ста или около того языков, используемых в стране.

В Мьянме язык ненависти и подстрекательство с самого начала были распространены на Facebook. В июне 2012 года высокопоставленный чиновник, близкий к президенту страны Тейн Сейну, разместил на своей странице в Facebook следующее:

Слышно, что рохинья-террористы из так называемой Организации солидарности рохинья пересекают границу и попадают в страну с оружием. То есть в страну прибывают рохинья из других стран. Поскольку наши военные получили эту новость заранее, мы будем искоренять их до конца! Я считаю, что мы уже делаем это.

Пост продолжал: "Мы не хотим слышать о гуманитарных вопросах или правах человека от других". Этот пост не только разжигал ненависть к мусульманскому меньшинству, но и усиливал ложный нарратив о том, что рохинья проникают в страну извне.

В 2013 году буддийский монах Ашин Виратху, которого журнал Time в том же году назвал лицом буддийского террора, публиковал в Facebook сообщения, в которых называл рохинья вторгшимися иностранцами, убийцами и опасностью для страны. В конце концов он сказал: "Я принимаю термин "экстремист" с гордостью".

Призывы активистов и международных организаций к Facebook пресекать недостоверную информацию и подстрекательские посты продолжали расти. Один из руководителей Facebook признал: "Мы согласны, что можем и должны делать больше". Однако к августу 2017 года, что бы ни делал Facebook, этого было далеко недостаточно для контроля языка ненависти. Платформа стала главным средством организации того, что Соединенные Штаты в итоге назовут геноцидом.

Популярность языка вражды на Facebook в Мьянме не должна была стать сюрпризом. Бизнес-модель Facebook основана на максимизации вовлеченности пользователей, и любые сообщения, вызывающие сильные эмоции, включая, конечно, язык вражды и провокационную дезинформацию, предпочитаются алгоритмами платформы, поскольку они вызывают активное участие тысяч, иногда сотен тысяч пользователей.

Правозащитные группы и активисты еще в 2014 году обратились к руководству Facebook с обеспокоенностью по поводу растущего количества разжигания ненависти и совершаемых в результате этого злодеяний, но без особого успеха. Поначалу проблема игнорировалась, активисты упирались, в то время как количество ложной, подстрекательской информации против рохинджа продолжало расти. Так же как и свидетельства того, что на платформе организовывались преступления на почве ненависти, включая убийства мусульманского меньшинства. Хотя компания не хотела предпринимать значительных усилий для решения проблемы преступлений на почве ненависти, это не потому, что ей было наплевать на Мьянму. Когда правительство страны закрыло Facebook, руководители компании немедленно приступили к действиям, опасаясь, что отключение может оттолкнуть часть из двадцати двух миллионов пользователей в стране.

Facebook также удовлетворил требования правительства в 2019 году обозначить четыре этнические организации как "опасные" и запретить их на платформе. Эти сайты, хотя и связаны с этническими сепаратистскими группами, такими как Армия Аракана, Армия независимости Качина и Армия Национального демократического альянса Мьянмы, были одними из основных хранилищ фотографий и других доказательств убийств и других зверств, совершенных армией и экстремистскими буддийскими монахами.

Когда Facebook наконец отреагировал на давление, его решение заключалось в создании "стикеров" для идентификации потенциального языка ненависти. Стикеры позволяли пользователям размещать сообщения, содержащие вредный или сомнительный контент, но предупреждали их: "Подумайте, прежде чем поделиться" или "Не будьте причиной насилия". Однако оказалось, что алгоритм Facebook, подобно тупой версии программы ИИ, одержимой скрепками, был настолько нацелен на максимальное вовлечение, что регистрировал вредные сообщения как более популярные, поскольку люди вовлекались в контент, чтобы отметить его как вредный. Затем алгоритм рекомендовал этот контент более широко в Мьянме, что еще больше усугубляло распространение языка ненависти.

Уроки Мьянмы, похоже, не были хорошо усвоены Facebook. В 2018 году похожая динамика начала разыгрываться в Шри-Ланке: в Facebook появились посты, подстрекающие к насилию против мусульман. Правозащитные группы сообщали о разжигании ненависти, но безрезультатно. По оценке одного исследователя и активиста, "есть подстрекательства к насилию против целых сообществ, а Facebook говорит, что это не нарушает стандарты сообщества".

Два года спустя, в 2020 году, настала очередь Индии. Руководители Facebook проигнорировали призывы своих сотрудников и отказались удалить индийского политика Т. Раджа Сингха, который призывал расстреливать мусульманских иммигрантов рохинья и призывал к разрушению мечетей. Многие из них действительно были разрушены во время антимусульманских беспорядков в Дели в том году, в результате которых также погибло более пятидесяти человек.

Машина дезинформации

Проблемы языка вражды и дезинформации в Мьянме параллельны тому, как Facebook используется в США, и по той же причине: язык вражды, экстремизм и дезинформация вызывают сильные эмоции и увеличивают вовлеченность и время, проведенное на платформе. Это позволяет Facebook продавать более индивидуализированную цифровую рекламу.

Во время президентских выборов в США в 2016 году наблюдался заметный рост числа сообщений с недостоверной информацией или явно ложным содержанием. Тем не менее, к 2020 году 14 процентов американцев рассматривали социальные сети как основной источник новостей, а 70 процентов сообщили, что хотя бы часть новостей они получают из Facebook и других социальных сетей.

Эти истории были не просто побочным явлением. Исследование дезинформации на платформе показало, что "ложь распространялась значительно дальше, быстрее, глубже и шире, чем правда во всех категориях информации". Многие вопиюще ложные сообщения стали вирусными, потому что ими постоянно делились. Но не только пользователи распространяли ложь. Алгоритмы Facebook поднимали эти сенсационные статьи выше, чем менее политически значимые посты и информацию из надежных источников.

Во время президентских выборов 2016 года Facebook был основным каналом распространения дезинформации, особенно для пользователей, придерживающихся правых взглядов. Сторонники Трампа часто заходили на сайты, распространяющие дезинформацию, из Facebook. При этом трафик из социальных сетей в традиционные СМИ был меньше. Хуже того, недавние исследования показали, что люди склонны верить сообщениям с дезинформацией, потому что они плохо помнят, где видели ту или иную новость. Это может быть особенно важно, поскольку пользователи часто получают недостоверную, а иногда и откровенно ложную информацию от своих друзей-единомышленников и знакомых. Они также вряд ли могут столкнуться с инакомыслием в этой среде, напоминающей эхо-камеру.

Эхо-камеры могут быть неизбежным побочным продуктом социальных медиа. Но уже более десяти лет известно, что они усугубляются алгоритмами платформ. Эли Паризер, интернет-активист и исполнительный директор MoveOn.org, в 2010 году в своем выступлении на TED сообщил, что хотя он следит за многими либеральными и консервативными новостными сайтами, через некоторое время он заметил, что все больше и больше попадает на либеральные сайты, потому что алгоритм заметил, что вероятность того, что он кликнет на них, немного выше. Он ввел термин "пузырь фильтров", чтобы описать, как фильтры алгоритмов создают искусственное пространство, в котором люди слышат только те голоса, которые уже совпадают с их политическими взглядами.

Пузыри фильтров имеют пагубные последствия. Алгоритм Facebook с большей вероятностью покажет правый контент пользователям, придерживающимся правой идеологии, и наоборот - левым. Исследователи зафиксировали, что возникающие "пузыри фильтров" усугубляют распространение дезинформации в социальных сетях, поскольку люди находятся под влиянием новостей, которые они видят. Эффект "пузыря фильтров" выходит за рамки социальных сетей. Недавнее исследование, побудившее некоторых постоянных пользователей Fox News смотреть CNN, показало, что воздействие контента CNN оказало сдерживающее влияние на их убеждения и политические взгляды по целому ряду вопросов. Основная причина такого эффекта, по-видимому, заключается в том, что Fox News подавал одни факты в искаженном виде, а другие скрывал, подталкивая пользователей к более правому направлению. Появляется все больше доказательств того, что в социальных сетях этот эффект еще сильнее.

Несмотря на слушания и реакцию СМИ на роль Facebook в выборах 2016 года, к 2020 году мало что изменилось. На платформе множилась дезинформация, часть которой распространялась президентом Дональдом Трампом, который часто утверждал, что бюллетени, отправленные по почте, были поддельными и что иммигранты-неграждане голосовали массово. Он неоднократно использовал социальные сети, чтобы призвать остановить подсчет голосов.

В преддверии выборов Facebook также был вовлечен в споры из-за подделанного видео со спикером Палаты представителей Нэнси Пелоси, которое создавало впечатление, что она пьяна или больна, невнятно говорит и вообще выглядит нездоровой. Фальшивое видео продвигали союзники Трампа, включая Руди Джулиани, и хэштег #DrunkNancy стал трендом. Вскоре видео стало вирусным и собрало более двух миллионов просмотров. Безумные теории заговора, такие как те, что исходили от QAnon, также непрерывно циркулировали в пузырях фильтров платформы. Документы, предоставленные Конгрессу США и Комиссии по ценным бумагам и биржам бывшим сотрудником Facebook Фрэнсисом Хаугеном, показывают, что руководители Facebook часто были в курсе этих событий.

В то время как на Facebook оказывалось все большее давление, вице-президент компании по глобальным вопросам и коммуникациям, бывший заместитель премьер-министра Великобритании Ник Клегг, выступил в защиту политики компании, заявив, что платформу социальных сетей следует рассматривать как теннисный корт: "Наша работа заключается в том, чтобы убедиться, что корт готов - поверхность ровная, линии нарисованы, сетка на правильной высоте. Но мы не берем в руки ракетку и не начинаем играть. Как игроки будут вести игру, зависит от них, а не от нас".

На следующей неделе после выборов Facebook ввел чрезвычайную меру, изменив свои алгоритмы, чтобы остановить распространение правых теорий заговора, утверждающих, что на самом деле выборы выиграл Трамп, но они были украдены из-за незаконного голосования и нарушений в урнах. Однако к концу декабря алгоритм Facebook вернулся к своему обычному виду, и "теннисный корт" был открыт для реванша фиаско 2016 года.

Несколько экстремистских правых групп, а также Дональд Трамп продолжали распространять ложь, и теперь мы знаем, что восстание 6 января 2021 года было частично организовано с помощью Facebook и других социальных сетей. Например, члены ультраправой группы ополченцев "Хранители присяги" использовали Facebook для обсуждения того, как и где они встретятся, а несколько других экстремистских групп 6 января обменивались сообщениями в прямом эфире на этой платформе. Один из лидеров "Хранителей клятвы" Томас Колдуэлл, как утверждается, размещал информацию о том, как он вошел в Капитолий, и получал через платформу информацию о том, как ориентироваться в здании, а также подстрекал к насилию в отношении законодателей и полиции.

Дезинформация и язык вражды не ограничиваются Facebook. Примерно в 2016 году YouTube стал одной из самых мощных площадок для вербовки ультраправых. В 2019 году Калеб Кейн, двадцатишестилетний выпускник колледжа, снял видео на YouTube, объяснив, как он был радикализирован на этой платформе. По его словам, "я упал в кроличью нору альт-правых". Кейн объяснил, как он "все глубже и глубже погружался в это", просматривая все более радикальный контент, рекомендованный алгоритмами YouTube.

Журналист Роберт Эванс изучил, как десятки обычных людей по всей стране были завербованы этими группами, и пришел к выводу, что сами группы чаще всего упоминали YouTube на своем сайте: "15 из 75 фашистских активистов, которых мы изучили, приписывали видеоролики с YouTube своей вербовке". ("Red-pilling" означает жаргон, который использовали эти группы, со ссылкой на фильм "Матрица": принятие истин, пропагандируемых этими ультраправыми группами, было эквивалентно принятию красной таблетки в фильме).

Выбор алгоритмов YouTube и намерение увеличить время просмотра на платформе сыграли решающую роль в достижении этих результатов. Чтобы увеличить время просмотра, в 2012 году компания изменила свой алгоритм, придав больший вес времени, которое пользователи тратят на просмотр, а не просто кликают на контент. Этот алгоритмический твик начал благоприятствовать видео, которые люди стали смотреть, включая некоторые из самых зажигательных экстремистских материалов, на которые подсел Кейн.

В 2015 году YouTube привлек исследовательскую группу из подразделения ИИ своей материнской компании, Google Brain, для улучшения алгоритма платформы. Новые алгоритмы привели к тому, что у пользователей появилось больше возможностей для радикализации, и, конечно, они стали проводить больше времени на платформе. Один из исследователей Google Brain, Минмин Чен, похвастался на конференции по ИИ, что новый алгоритм успешно изменяет поведение пользователей: "Мы действительно можем направлять пользователей в другое состояние, а не рекомендовать знакомый контент". Это было идеальным решением для экстремистских групп, пытающихся радикализировать людей. Это означает, что пользователям, просматривающим видео о событиях 11 сентября, будет быстро рекомендован контент о заговоре 11 сентября. Поскольку около 70 процентов всех видео, просматриваемых на платформе, поступают по рекомендациям алгоритмов, это означает, что у пользователей есть много возможностей для дезинформации и манипуляций, чтобы затянуть их в кроличью нору.

Твиттер не стал исключением. Будучи любимым средством коммуникации бывшего президента Трампа, он стал важным инструментом общения между правыми (и отдельно среди левых). Антимусульманские твиты Трампа получили широкое распространение и впоследствии вызвали не только увеличение числа антимусульманских и ксенофобских сообщений на платформе, но и реальных преступлений на почве ненависти к мусульманам, особенно в тех штатах, где у президента было больше последователей.

Некоторые из худших формулировок и последовательные высказывания ненависти распространялись на других платформах, таких как 4chan, 8chan и Reddit, включая его различные под-реддиты, такие как The_Donald (где зарождаются и распространяются теории заговора и дезинформация, связанные с Дональдом Трампом), Physical_Removal (выступающий за уничтожение либералов) и несколько других с явно расистскими названиями, которые мы предпочитаем здесь не печатать. В 2015 году Southern Poverty Law Center назвал Reddit платформой, на которой размещается "самый жестокий расистский" контент в интернете.

Было ли неизбежным, что социальные сети стали такой выгребной ямой? Или же некоторые решения, принятые ведущими технологическими компаниями, привели нас к такому плачевному состоянию? Истина гораздо ближе к последнему, и, по сути, она также отвечает на вопрос: "Почему ИИ стал настолько популярным, даже если он не увеличивает производительность и не превосходит человека?

Ответ - и причина особого пути, по которому пошли цифровые технологии, - заключается в доходах, которые компании, собирающие огромное количество данных, могут получать с помощью индивидуально ориентированной цифровой рекламы. Но цифровая реклама хороша лишь настолько, насколько люди обращают на нее внимание, поэтому такая бизнес-модель означает, что платформы стремятся повысить вовлеченность пользователей в онлайн-контент. Самым эффективным способом сделать это оказалось культивирование сильных эмоций, таких как возмущение или негодование.

Рекламная сделка

Чтобы понять корни дезинформации в социальных сетях, мы должны обратиться к истории возникновения Google.

Интернет процветал и до Google, но имеющиеся поисковые системы не помогали. Особенностью Интернета является его поразительный размер: по оценкам, в 2021 году количество веб-сайтов составит 1,88 миллиарда. Просеивать информацию на этих многочисленных сайтах и находить нужную информацию или продукты было непросто.

Идея ранних поисковых систем была знакома всем, кто пользовался книжным указателем: найти все вхождения заданного поискового слова. Если вы хотели найти, где в книге обсуждался неолит, вы смотрели в индекс и видели список страниц, на которых встречалось слово "неолит". Это хорошо работало, потому что данное слово встречалось ограниченное количество раз, что делало метод "исчерпывающего поиска" среди всех указанных страниц осуществимым и достаточно эффективным. Но представьте, что вы заглядываете в индекс огромной книги, такой как Интернет. Если вы получите список случаев, когда слово "неолит" упоминается в этой огромной книге, то это могут быть сотни тысяч раз. Удачи в исчерпывающем поиске!

Конечно, проблема в том, что многие из этих упоминаний не столь актуальны, и только один или два сайта могут стать авторитетными источниками, в которых можно получить необходимую информацию о неолите и о том, как, скажем, люди перешли к оседлой жизни и постоянному земледелию. Только способ определения приоритетности наиболее важных упоминаний позволил бы быстро найти нужную информацию. Но это не то, на что были способны первые поисковые системы.

Пришли два дерзких, умных молодых человека, Ларри Пейдж и Сергей Брин. Пейдж был аспирантом и работал с известным компьютерным ученым Терри Виноградом в Стэнфорде, а Сергей Брин был его другом. Виноград, ранний энтузиаст доминирующей в настоящее время парадигмы ИИ, к тому времени изменил свое мнение и работал над проблемами, в которых человеческие и машинные знания могли бы быть объединены, в точности как это предполагали Винер, Ликлайдер и Энгельбарт. Интернет, как мы видели, был очевидной областью для такой комбинации, поскольку его сырьем были контент и знания, созданные людьми, но перемещаться по нему должны были алгоритмы.

Пейдж и Брин придумали лучший способ достижения этой комбинации, в некотором смысле истинно человеко-машинное взаимодействие: люди лучше всего определяли, какие сайты являются более релевантными, а поисковые алгоритмы отлично собирали и обрабатывали информацию о ссылках. Почему бы не позволить людям определять, как поисковые алгоритмы должны расставлять приоритеты релевантных веб-сайтов?

Сначала это была теоретическая идея - осознание того, что это можно сделать. Затем пришло алгоритмическое решение, как это сделать. Это легло в основу их революционного алгоритма PageRank ("Page" здесь, по слухам, относится как к Ларри Пейджу, так и к факту ранжирования страниц). Среди релевантных страниц идея заключалась в том, чтобы отдать предпочтение тем, которые получили больше ссылок. Таким образом, вместо того чтобы использовать специальные правила для решения вопроса о том, какие из страниц со словом Neolithic должны быть предложены, алгоритм будет ранжировать эти страницы в соответствии с количеством входящих ссылок, которые они получили. Более популярные страницы будут ранжироваться более высоко. Но зачем на этом останавливаться? Если страница получает ссылки с других страниц с высоким рейтингом, это будет более информативно о ее релевантности. Чтобы сформулировать эту мысль, Брин и Пейдж разработали рекурсивный алгоритм, в котором каждая страница имеет ранг, и этот ранг определяется тем, сколько других страниц с высоким рейтингом ссылаются на нее ("рекурсивный" означает, что ранг каждой страницы зависит от рангов всех остальных). При наличии миллионов сайтов вычисление этих рангов - дело нетривиальное, но уже в 1990-х годах это было вполне осуществимо.

В конечном счете, то, как алгоритм вычисляет результаты, имеет второстепенное значение. Важным прорывом здесь было то, что Пейдж и Брин придумали способ использования человеческих знаний и представлений, заключенных в их субъективных оценках того, какие другие страницы являются релевантными, для улучшения ключевой задачи машины: ранжирования результатов поиска. Статья Брина и Пейджа 1998 года под названием "Анатомия крупномасштабной гипертекстовой веб-поисковой системы" начинается следующим предложением: "В этой статье мы представляем Google, прототип крупномасштабной поисковой системы, которая активно использует структуру, присутствующую в гипертексте. Google предназначен для эффективного поиска и индексирования веб-страниц и выдает гораздо более удовлетворительные результаты поиска, чем существующие системы".

Пейдж и Брин понимали, что это серьезный прорыв, но не имели четкого плана его коммерциализации. Ларри Пейдж цитируют, что "удивительно, но у меня и в мыслях не было создавать поисковую систему. Эта идея даже не была на радаре". Но к концу проекта стало ясно, что у них на руках победитель. Если бы они смогли создать эту поисковую систему, это бы значительно улучшило работу Всемирной паутины.

Так появилась компания Google. Первая идея Пейджа и Брина заключалась в том, чтобы продавать или лицензировать свое программное обеспечение другим. Но их первые попытки не получили развития, отчасти потому, что другие крупные технологические компании уже были зациклены на своих собственных подходах или отдавали приоритет другим областям: на тот момент поиск не рассматривался как основной источник дохода. Yahoo!, ведущая платформа в то время, не проявила интереса к алгоритму Пейджа и Брина.

Все изменилось в 1998 году, когда на сцену вышел технический инвестор Энди Бехтольшайм. Бехтольшайм встретился с Пейджем и Брином и сразу понял перспективность новой технологии, если они найдут правильный способ ее монетизации. Бехтольшайм знал, что это будет за способ - реклама.

Продажа рекламы не входила в планы Пейджа и Брина и даже не рассматривалась. Но сразу же Бехтольшайм изменил ход игры, выписав чек на 100 000 долларов на имя Google Inc, хотя Google еще не была зарегистрирована. Вскоре компания была зарегистрирована, рекламный потенциал новой технологии стал очевиден, и денег стало гораздо больше. Родилась новая бизнес-модель.

В 2000 году компания представила AdWords - платформу, которая продавала рекламу для показа пользователям, ищущим веб-сайты с помощью Google. Платформа была основана на расширении известных моделей аукционов, используемых в экономике, и быстро выставляла на аукцион наиболее ценные (хорошо видимые) места на экране поиска. Цены зависели от того, сколько потенциальные рекламодатели сделали ставок и сколько кликов получили их объявления.

В 1998 или даже в 2000 году почти никто не думал о больших данных и искусственном интеллекте. Однако инструменты ИИ, примененные к большим объемам данных, вскоре означали для компаний большое количество информации, позволяющей нацеливать рекламу на пользователей в соответствии с тем, что их интересует. ИИ быстро произвел революцию в уже успешной модели монетизации Google. В частности, это означало, что Google мог отслеживать, какие сайты посещает пользователь с его уникального IP-адреса, и таким образом направлять индивидуальную рекламу для этого конкретного пользователя. Таким образом, пользователи, просматривающие пляжи Карибского моря, будут получать рекламу от авиакомпаний, туристических агентств и отелей, а пользователи, просматривающие одежду или обувь, будут получать рекламу от соответствующих розничных магазинов.

Значение таргетинга в рекламе невозможно переоценить. Извечная проблема рекламной индустрии заключена в поговорке, которая датируется концом 1800-х годов: "Я знаю, что половина моей рекламы тратится впустую, но я просто не знаю, какая половина". Ранняя реклама в Интернете была поражена этой проблемой. Реклама от продавца мужской одежды показывалась всем пользователям определенной платформы, скажем, музыкальной программы Pandora, но половину пользователей составляли женщины, и даже большинство мужчин в этот момент не были заинтересованы в покупке одежды через Интернет. С помощью таргетинга рекламу можно отправлять только тем, кто продемонстрировал заинтересованность в совершении покупки - например, посетил сайт магазина одежды или просмотрел несколько модных товаров в другом месте. Таргетинг произвел революцию в цифровой рекламе, но, как и в случае со многими революциями, не обошлось без побочных эффектов.

Вскоре Google ускорила сбор данных, предложив ряд сложных бесплатных продуктов, таких как Gmail и Google Maps, которые позволили компании узнать гораздо больше о предпочтениях пользователей, помимо предметов, которые они искали, и их точного местоположения. Компания также приобрела YouTube. Теперь рекламные объявления можно было подбирать гораздо более точно для каждого пользователя в зависимости от всего профиля его покупок, действий и местоположения, что повышало прибыльность. Результаты были поразительными, и в 2021 году подавляющая часть дохода Google (или ее материнской компании Alphabet) в размере 65,1 миллиарда долларов была получена от рекламы.

Google и другие компании выяснили, как заработать много денег на рекламе, и это не только объясняет появление новой бизнес-модели. Он также отвечает на фундаментальный вопрос: если он часто приводит к посредственной автоматизации, почему так много энтузиазма по поводу ИИ? Ответ в основном связан с массовым сбором данных и целевой рекламой, причем и того, и другого в будущем будет гораздо больше.

Социально несостоятельный веб

То, что Google может узнать о своих пользователях из метаданных об их электронной почте и местоположении, меркнет по сравнению с тем, чем некоторые люди готовы поделиться со своими друзьями и знакомыми о своей деятельности, намерениях, желаниях и взглядах. Социальные сети должны были привести бизнес-модель целевой рекламы в действие.

Марк Цукерберг с самого начала предвидел, что ключом к успеху Facebook станет его способность быть средством или даже производителем "социальной паутины", в которой люди будут участвовать в различных видах социальной деятельности. Чтобы добиться этого, он поставил рост платформы превыше всего.

Но монетизация этой информации всегда была сложной задачей, даже с учетом успешной бизнес-модели Google, которой можно было подражать. Первые несколько попыток Facebook собирать данные для улучшения способности таргетировать рекламу оказались неудачными. В 2007 году компания представила программу под названием Beacon, которая позволяла собирать информацию о покупках пользователей Facebook на других сайтах и затем делиться ею с их друзьями в ленте новостей. Эта инициатива сразу же была расценена как колоссальное нарушение конфиденциальности пользователей и была прекращена. Компании необходимо было выработать подход, который сочетал бы в себе массовый сбор данных для цифровой рекламы и хоть какой-то контроль над пользователями.

Человеком, который сделал это реальностью, была Шерил Сандберг, возглавлявшая Google AdWords и сыгравшая важную роль в превращении этой компании в машину целевой рекламы. В 2008 году она была принята на работу в Facebook в качестве главного операционного директора. Сэндберг понимала, как заставить эту комбинацию работать, а также потенциал, который Facebook имел в этом пространстве: компания могла создать новый спрос на продукты, а значит и на рекламу, используя свои знания о социальных кругах пользователей и их предпочтениях. Уже в ноябре 2008 года Сандберг назвала эту комбинацию основополагающей для роста компании, заявив, что "мы считаем, что сделали то, что мы сделали - мы взяли силу реального доверия, реального контроля конфиденциальности пользователей, и сделали возможным для людей быть своими подлинными "я" в сети". Если бы люди были такими, какие они есть, то они бы больше рассказывали о себе, и было бы больше информации, которую можно было бы использовать для получения дохода от рекламы.

Первым важным нововведением в этой работе стала кнопка "Like", которая не только раскрывала гораздо больше информации о предпочтениях пользователей, но и служила эмоциональным сигналом для поощрения более активного участия. Также было введено несколько других архитектурных изменений - например, касающихся того, как работает лента новостей и как пользователи могут оставлять отзывы. Самое главное, алгоритмы искусственного интеллекта начали организовывать ленту новостей каждого пользователя, чтобы привлечь и удержать его внимание и, конечно, разместить рекламу наиболее выгодным образом.

Facebook также начал предлагать рекламодателям новые инструменты, опять же основанные на базовых технологиях искусственного интеллекта. К ним относятся возможность создания пользовательских аудиторий, чтобы объявления отправлялись пользователям с определенными демографическими характеристиками, и возможность формирования похожих аудиторий, которые сам Facebook описывает как "способ, с помощью которого ваши объявления могут достигать новых людей, которые, вероятно, заинтересуются вашим бизнесом, потому что они имеют схожие характеристики с вашими существующими клиентами".

Большим преимуществом социальных сетей перед поисковыми системами, когда речь идет о рекламе, является интенсивное вовлечение. Люди иногда обращают внимание на рекламу, когда ищут товар или делают покупки с помощью таких поисковых систем, как Google, но это короткое вовлечение, и сумма, которую компания может заработать на продаже рекламы, соответственно, ограничена. Если бы люди тратили больше времени на просмотр того, что появляется на их экранах, это означало бы увеличение доходов от рекламы. Работа по увеличению количества "лайков" для сообщений от друзей и знакомых оказалась отличным способом повышения такой вовлеченности.

С первых дней своего существования Facebook играл с психологией людей для достижения этих целей и фактически проводил систематическое тестирование и эксперименты со своими пользователями, чтобы определить, какие типы постов и какие способы их представления вызовут больше эмоций и реакции.

Социальные отношения, особенно внутри групп, всегда чреваты чувством неодобрения, неприятия и зависти. Сегодня существует множество доказательств того, что Facebook вызывает не только возмущение политическим контентом, но и сильные негативные эмоции в других социальных контекстах. Затем он использует все эти эмоции, чтобы побудить людей проводить больше времени на платформе. Сенсационный контент заставляет людей проводить больше времени на платформе, равно как и тревога. Несколько исследований в области социальной психологии показывают, что использование социальных сетей переплетается с чувствами зависти и неадекватности и часто приводит к беспокойству по поводу самооценки.

Например, распространение Facebook на кампусы американских колледжей оказало сильное негативное влияние на психическое здоровье, часто приводя к чувству депрессии. Студенты, чьи кампусы получили доступ к платформе, также стали сообщать о значительно худшей успеваемости, что указывает на то, что эффект не ограничивается эмоциями, а влияет и на поведение вне сети. Facebook мощно монетизирует эти чувства, поскольку и тревога, и стремление получить большее одобрение увеличивают время, которое люди проводят на платформе.

Амбициозный исследовательский проект раскрывает этот вопрос. Исследователи побудили некоторых пользователей Facebook (временно) отказаться от использования платформы, а затем сравнили их использование времени и эмоциональное состояние с членами контрольной группы, которые не получали такого побуждения и продолжали интенсивно пользоваться Facebook. Те, кого побудили прекратить пользоваться Facebook, проводили больше времени за другими социальными занятиями и были значительно счастливее. Но, отражая социальное давление, которое они могли испытывать со стороны сверстников и платформы, пытавшейся их снова привлечь, по окончании исследования они вернулись к Facebook - с худшим психическим состоянием и все такое.

В целях повышения вовлеченности пользователей многие новые функции и алгоритмы Facebook внедрялись быстро и без особого изучения того, как они повлияют на психологию пользователей и дезинформацию на платформе. Общий подход компании и ее инженеров к внедрению новых функций, направленных на повышение вовлеченности пользователей, можно выразить словами "Fuck it, ship it" - выражение, часто используемое сотрудниками компании.

Но это был не просто случай непреднамеренного ущерба на пути к достижению большей вовлеченности. Руководство Facebook было намерено максимизировать вовлеченность пользователей и не хотело, чтобы другие соображения стояли на пути. Сандберг неоднократно настаивала на том, что в Instagram, который был приобретен Facebook в 2012 году с обещаниями, что приложение останется независимым от Facebook и будет принимать собственные бизнес-решения, включая дизайн приложения и рекламу.

Когда после президентских выборов 2020 года в США компания Facebook решила изменить свой алгоритм таким образом, чтобы он не продвигал недостоверные истории и ненадежные сайты, результаты были поразительными. Ненавистнический контент и дезинформация перестали попадать в сеть. Но спустя некоторое время изменения были отменены, и платформа вернулась к привычному режиму работы, в основном потому, что когда компания проверила влияние изменений на вовлеченность, она обнаружила, что, когда люди становились менее раздраженными и спровоцированными, они проводили там меньше времени.

На протяжении всего времени Цукерберг и Сэндберг, к которым позже присоединился Клегг, защищали эти решения на том основании, что платформа не должна ограничивать чью-либо свободу слова. В ответ британский комик Саша Барон Коэн подытожил то, что многие считали проблемой: "Речь идет о предоставлении людям, включая некоторых из самых предосудительных людей на земле, самой большой платформы в истории, чтобы охватить треть планеты".

Антидемократический поворот

Мы не можем понять политическую неразбериху, которую создали социальные сети, не признавая мотив прибыли, основанный на целевой рекламе, который заставляет эти компании ставить во главу угла максимальное привлечение пользователей, а иногда и ярость. Таргетированная реклама, в свою очередь, была бы невозможна без сбора и обработки огромного количества данных.

Мотив прибыли - не единственный фактор, который подтолкнул технологическую индустрию в этом антидемократическом направлении. Не менее важную роль сыграло видение основателей этих компаний, которое мы окрестили иллюзией ИИ.

Демократия, прежде всего, заключается в том, чтобы множество голосов, в том числе голоса простых людей, были услышаны и стали значимыми в направлениях государственной политики. Понятие "публичной сферы", предложенное немецким философом Юргеном Хабермасом, отражает некоторые из основных характеристик здорового демократического дискурса. Хабермас утверждал, что публичная сфера, определяемая как форумы, где люди создают новые ассоциации и обсуждают социальные вопросы и политику, является ключевой для демократической политики. Используя в качестве модели британские кофейни или французские салоны девятнадцатого века, Хабермас предположил, что важнейшей составляющей публичной сферы является возможность, которую она предоставляет людям, свободно участвовать в дебатах по вопросам, представляющим общий интерес, без строгой иерархии, основанной на ранее существовавшем статусе. Таким образом, публичная сфера создает как форум, на котором можно услышать различные мнения, так и плацдарм для влияния этих мнений на политику. Она может быть особенно эффективной, когда позволяет людям взаимодействовать с другими людьми по ряду сквозных вопросов.

В самом начале даже появилась надежда, что онлайн-коммуникации могут породить новую общественную сферу, в которой люди из еще более разнообразных слоев общества, чем в местной политике, смогут свободно взаимодействовать и обмениваться мнениями.

К сожалению, онлайн-демократия не соответствует бизнес-моделям ведущих технологических компаний и иллюзии ИИ. На самом деле, она диаметрально противоположна технократическому подходу, который утверждает, что многие важные решения слишком сложны для обычных людей. В коридорах большинства технологических компаний царит атмосфера, когда гениальные мужчины (а иногда, но не так часто, и женщины) работают, стремясь к общему благу. Вполне естественно, что именно они должны принимать важные решения. При таком подходе политический дискурс масс становится предметом манипуляции и добычи, а не поощрения и защиты.

Таким образом, иллюзия ИИ благоприятствует антидемократическому импульсу несмотря на то, что многие из ее руководителей считают себя левоцентристами и сторонниками демократических институтов и даже Демократической партии. Их поддержка часто коренится в культурных вопросах и удобно обходит стороной жизненно важный строительный блок демократии: активное участие людей в политике. Такое участие особенно не поощряется, когда речь идет об ИИ, поскольку большинство предпринимателей и венчурных капиталистов считают, что люди не понимают эту технологию и неоправданно беспокоятся о ее навязчивом воздействии. Как сказал один венчурный капиталист, "большинство страхов, связанных с искусственным интеллектом, раздуты, а то и вовсе беспочвенны". Решение состоит в том, чтобы игнорировать эти опасения, двигаться вперед и интегрировать искусственный интеллект во все аспекты нашей жизни, потому что "возможно, только когда технология полностью интегрирована в повседневную жизнь и отступает на задний план нашего воображения, люди перестают ее бояться". По сути, такой же подход отстаивал и Марк Цукерберг, когда он сказал журналу Time: "Когда появляется какая-либо технология или инновация и меняет природу чего-либо, всегда находятся люди, которые сетуют на изменения и хотят вернуться к прежнему времени. Но, я имею в виду, я думаю, что это явно позитивно для людей в плане их возможности оставаться на связи с людьми".

Другой аспект иллюзии ИИ - возвышение дезорганизации как добродетели, заключенной в словах "двигайся быстро и ломай вещи", - ускорил этот антидемократический поворот. Под срывом стали понимать любые негативные последствия для других, включая работников, организации гражданского общества, традиционные СМИ и даже демократию. Все это было честной игрой, фактически поощрялось, если это было следствием захватывающих новых технологий и соответствовало увеличению доли рынка и получению прибыли.

Отражение этого антидемократического импульса можно увидеть в собственном исследовании Facebook о том, как пользователи реагируют на негативные и позитивные эмоции друзей в своей ленте новостей. В 2014 году компания провела масштабное внутреннее исследование, манипулируя новостной лентой почти семисот тысяч пользователей, уменьшив на неделю их воздействие как положительных, так и отрицательных эмоций. Неудивительно, что большая подверженность негативным эмоциям и меньшая подверженность позитивным эмоциям повлияли на пользователей, оказав длительное негативное воздействие.

Компания не спрашивала у пользователей никакого разрешения на проведение этого масштабного исследования и даже не пыталась придерживаться общепринятых стандартов научных исследований, где необходимо информированное согласие испытуемых. После того, как некоторые результаты исследования были опубликованы исследователями Facebook и другими в журнале Proceedings of the National Academy of Sciences, главный редактор опубликовал статью с выражением обеспокоенности, поскольку исследование было проведено без информированного согласия и не соответствовало принятым стандартам научных исследований. Google следовал той же схеме в своих попытках расширить объем собираемой информации с помощью Google Books и Google Maps. Компания игнорировала опасения по поводу конфиденциальности и действовала первой, без разрешения и консультаций, надеясь, что все уладится или, по крайней мере, ее свершившийся факт будет принят. Это сработало, по крайней мере, для Google.

Facebook и Google не являются исключительными в этой отрасли. Для технологических компаний сбор огромного количества данных без какого-либо согласия людей, чья информация или фотографии используются, стал обычным делом. Например, в области распознавания изображений многие алгоритмы ИИ обучаются и иногда участвуют в соревнованиях на наборе данных ImageNet, инициатором создания которого был компьютерный ученый, а затем главный научный сотрудник Google Cloud Фей-Фей Ли. Набор данных, содержащий более 15 миллионов изображений, рассортированных по более чем 22 000 категориям, был создан путем сбора частных фотографий, загруженных в различные приложения в Интернете, без разрешения людей, которые сделали эти фотографии или появились на них. В целом это считалось приемлемым в технологической отрасли. По оценке Ли, "в эпоху Интернета мы внезапно столкнулись со взрывом данных об изображениях".

Согласно репортажу в New York Times, Clearview систематически собирала изображения лиц без согласия, стремясь создать прогностические инструменты, позволяющие выявлять нелегальных иммигрантов и людей, склонных к совершению преступлений. Такие стратегии оправдываются тем, что масштабный сбор данных необходим для технологического прогресса. Как подытожил инвестор одной из компаний, занимающихся распознаванием лиц, защита массового сбора данных заключается в том, что "законы должны определять, что является законным, но вы не можете запретить технологии". Конечно, это может привести к антиутопическому будущему или чему-то подобному, но запретить это нельзя".

Истина более нюансирована. Навязывание массовой слежки и сбора данных - не единственный путь технологического прогресса, и его ограничение не означает запрета технологий. Вместо этого мы наблюдаем антидемократическую траекторию, проложенную мотивом прибыли и иллюзией ИИ, которая включает в себя авторитарные правительства и технологические компании, навязывающие свое видение всем остальным.

Дни радио

Возможно, все эти проблемы не являются специфическими для цифровых технологий и искусственного интеллекта. Каждая новая технология коммуникации содержит в себе потенциал для злоупотреблений.

Рассмотрим еще одну из преобразующих коммуникационных технологий двадцатого века: радио. Радио также является технологией общего назначения и, в своем роде, было не менее революционным, чем социальные сети, впервые в истории позволив использовать различные формы развлечений, массовую передачу информации и, конечно же, пропаганду. Технология была разработана вскоре после того, как немецкий физик Генрих Герц доказал существование радиоволн в 1886 году, а первые радиопередатчики были построены итальянским физиком Гульельмо Маркони десять лет спустя. К началу 1900-х годов появились радиопередачи, а в 1920-х годах коммерческое радио получило широкое распространение во многих западных странах. Почти сразу же началась пропаганда и дезинформация. Президент Франклин Д. Рузвельт понимал важность этой технологии и сделал свои беседы у камина в прямом радиоэфире ключевой частью усилий по разъяснению американской общественности своей политики "Нового курса".

Один из первых сторонников Рузвельта был отождествлен с радиопропагандой в Соединенных Штатах: Отец Чарльз Кофлин, римско-католический священник с большими ораторскими способностями. Однако к середине 1930-х годов отец Кофлин выступил против политики Нового курса и основал Национальный союз за социальную справедливость. Его выступления на радио, первоначально транслировавшиеся по сети CBS, были направлены не только на пропаганду антисемитизма, но и на политические идеи. Вскоре отец Кофлин поддерживал в эфире Бенито Муссолини и Адольфа Гитлера.

Сочетание антирузвельтских, фашистских и антисемитских передач Кофлина оказало большое влияние на политику США в 1930-х годах. Недавнее исследование использовало для изучения этого вопроса различия между округами США в силе радиосигналов, определяемые географическими и топологическими препятствиями для передачи. Исследование показало, что радиопропаганда отца Кофлина снизила поддержку политики "Нового курса" и на несколько процентных пунктов уменьшила голоса Рузвельта на президентских выборах 1936 года (хотя и не смогла предотвратить его убедительную победу). Кофлин влиял не только на президентские голоса. В округах, где он непрерывно вещал, чаще открывали местные отделения пронацистского Немецко-американского бунда и меньше поддерживали усилия Америки во Второй мировой войне. Несколько десятилетий спустя они все еще проявляли больше антиеврейских настроений.

То, что отец Кофлин эффективно использовал в Соединенных Штатах, в то же самое время было усовершенствовано в Германии. Нацисты, придя к власти, в значительной степени полагались на радиопропаганду. Гитлеровский министр пропаганды Йозеф Геббельс стал экспертом в использовании радиоэфира для разжигания поддержки нацистской политики и ненависти к еврейскому народу и "большевикам". Сам Геббельс говорил, что "наш способ захвата власти и ее использования был бы немыслим без радио и аэроплана".

Нацисты действительно были весьма эффективны в манипулировании настроениями с помощью радиопередач. Исследуя изменения в силе радиосигналов в разных частях Германии, а также изменения в содержании радиопередач с течением времени, группа исследователей обнаружила мощный эффект от нацистской пропаганды. Эти радиопередачи усиливали антисемитскую деятельность и доносы на евреев в органы власти.

Радиопропаганда экстремистов в итоге была взята под контроль в США и Германии, и то, как это было сделано, показывает различия между социальными медиа и радио. Это также позволяет сделать некоторые выводы о том, как лучше использовать новые коммуникационные технологии.

Проблема в 1930-х годах заключалась в том, что у отца Кофлина была национальная платформа, позволявшая обращаться к миллионам с подстрекательской риторикой. Сегодня проблема в том, что дезинформация распространяется алгоритмами Facebook и других социальных сетей и достигает потенциально миллиардов людей.

Пагубное влияние Кофлина было нейтрализовано, когда администрация Рузвельта решила, что Первая поправка защищает свободу слова, но не право на вещание. Она утверждала, что радиочастотный спектр является общественным достоянием, которое должно регулироваться. С новыми правилами, требующими разрешения на вещание, программы отца Кофлина были вынуждены уйти из эфира. Кофлин продолжал писать и вскоре снова начал вещать, хотя и с более ограниченным доступом и только через отдельные станции. После начала Второй мировой войны его антивоенная и прогерманская пропаганда была еще больше ограничена.

Сегодня на ток-шоу AM много дезинформации и языка ненависти, но они не имеют того охвата, которого достигли национальные передачи отца Кофлина, или той платформы, которую алгоритмы Facebook предоставляют для дезинформации в сети.

Послевоенная реакция Германии на радиопропаганду была еще более всеобъемлющей. Конституция Германии запрещает высказывания, классифицируемые как Volksverhetzung, что означает "разжигание ненависти", а также подстрекательство к насилию или действия, унижающие достоинство определенных слоев населения. Согласно этому закону, отрицание Холокоста и распространение подстрекательской антиеврейской пропаганды находятся вне закона.

Цифровой выбор

Технологии ИИ не обязательно должны быть направлены на автоматизацию труда и контроль сотрудников на рабочих местах. Они также не должны были разрабатываться для усиления государственной цензуры. В цифровых технологиях также нет ничего антидемократического по своей сути, а социальные сети, безусловно, не должны быть направлены на максимальное усиление возмущения, экстремизма и негодования. Это был вопрос выбора - выбора технологических компаний, исследователей ИИ и правительств - который привел нас в наше нынешнее затруднительное положение.

Как мы уже упоминали ранее в этой главе, YouTube и Reddit изначально были в такой же степени поражены ультраправым экстремизмом, дезинформацией и языком вражды, как и Facebook. Но за последние пять лет эти две платформы предприняли некоторые шаги, чтобы уменьшить проблему.

По мере усиления общественного давления на YouTube и его материнскую компанию, Google, после появления таких инсайдерских рассказов, как рассказ Калеба Кейна, и разоблачений в New York Times и New Yorker, платформа начала изменять свои алгоритмы, чтобы уменьшить распространение наиболее вредоносного контента. Теперь Google утверждает, что продвигает видео из "авторитетных источников", которые с меньшей вероятностью могут быть использованы для радикализации или содержать дезинформацию. Компания также утверждает, что эти алгоритмические корректировки позволили сократить просмотр "пограничного контента" на 70 процентов ("пограничный" здесь означает, что компания утверждает, что язык ненависти уже прошел проверку).

История Reddit похожа. Являясь домом для самых экстремистских и подстрекательских материалов, изначально защищаемых одним из основателей, Стивом Хаффманом, как полностью соответствующие философии "открытого и честного обсуждения" сайта, платформа впоследствии отреагировала на давление общественности и ужесточила свои стандарты модерации. После того, как в 2017 году в Шарлотсвилле, штат Вирджиния, на митинге белых супремацистов "Объединяйтесь, правые", организованном и подпитываемом платформой, произошла вспышка насилия, в результате которой погиб один участник акции, а десятки других получили ранения, основатели Reddit и платформа изменили свою позицию. Платформа начала удалять десятки подразделов Reddit, пропагандирующих язык ненависти, расистские высказывания и откровенную дезинформацию. В 2019 году она удалила The_Donald.

Не стоит преувеличивать улучшения, вызванные саморегулированием платформ. На YouTube по-прежнему много дезинформации и манипуляций, которым часто способствуют алгоритмы, а на Reddit много ненавистного контента. Ни одна из платформ не изменила свою бизнес-модель, и в большинстве своем обе платформы продолжают полагаться на максимизацию вовлеченности и доходов от целевой рекламы. Платформы с другой бизнес-моделью, такие как Uber и Airbnb, были гораздо более активны в запрете языка ненависти на своих сайтах.

Но лучшей демонстрацией жизнеспособности альтернативных моделей является Википедия. Эта платформа является одним из самых посещаемых сервисов в Интернете, получив за последние несколько лет более 5,5 миллиардов уникальных посетителей в год. Википедия не пытается монополизировать внимание пользователей, поскольку не финансирует себя за счет рекламы.

Это позволило платформе выработать совершенно иной подход к дезинформации. Записи в этой онлайн-энциклопедии пишут анонимные добровольцы, и любой добровольный редактор может начать новую запись или изменить существующую. Платформа имеет несколько уровней администраторов, выдвинутых из числа частых пользователей с хорошим послужным списком. Среди добровольных авторов есть опытные редакторы с дополнительными привилегиями и обязанностями, такими как техническое обслуживание или разрешение споров. На более высоком уровне "стюарды" обладают большими полномочиями для разрешения разногласий. Согласно самой платформе, на стюардов "возложена задача технической реализации консенсуса сообщества, решение чрезвычайных ситуаций, вмешательство в борьбу с кросс-вики вандализмом". Над стюардами находится "Арбитражный комитет", состоящий из "добровольных редакторов, которые действуют согласованно или в подгруппах, навязывая обязательные решения по спорам о поведении, которые сообщество не смогло разрешить". "Администраторы" имеют возможность защищать и удалять страницы, а также блокировать редактирование в случае спорного содержания или случаев вандализма или дезинформации в прошлом. Самих администраторов контролируют и продвигают "бюрократы".

Эта административная структура играет важную роль в способности сайта предотвратить распространение дезинформации и поляризацию, которая была слишком распространена на других сайтах. Опыт Википедии показывает, что мудрость толпы, которой так восхищались первые технооптимисты социальных медиа, может работать, но только в том случае, если она подкреплена и контролируется правильной организационной структурой, и, если сделан правильный выбор в отношении использования и направления развития технологий.

Альтернативы бизнес-модели целевой рекламы не ограничиваются такими некоммерческими организациями, как Википедия. Netflix, основанный на модели подписки, также собирает информацию о пользователях и инвестирует значительные средства в искусственный интеллект для составления индивидуальных рекомендаций. Однако на этой платформе мало дезинформации или политического возмущения, поскольку ее цель - улучшить пользовательский опыт, чтобы стимулировать подписку, а не обеспечить максимальную вовлеченность.

Платформы социальных сетей могут работать с моделью подписки и зарабатывать на ней. Такая модель не решит всех проблем социальных сетей. Люди могут создавать свои собственные эхо-камеры на платформе, основанной на подписке, и могут появиться новые способы монетизации дезинформации и небезопасности. Тем не менее, альтернативные бизнес-модели позволяют отойти от стремления к интенсивному вовлечению пользователей, которое, как оказалось, способствует наихудшему типу социального взаимодействия, нанося вред как психическому здоровью, так и демократическому дискурсу.

Социальная паутина" может иметь огромное количество положительных эффектов, если удастся сдержать ее пагубное влияние на дезинформацию, поляризацию и психическое здоровье. Недавние исследования отслеживают начало работы сервиса Facebook на новых языках и показывают, что малый бизнес в затронутых странах получает доступ к информации с зарубежных рынков и в результате расширяет свои продажи. Нет причин полагать, что компания не могла бы зарабатывать деньги на подобных услугах, а не на своей способности манипулировать пользователями. Социальные медиа и цифровые инструменты также могут обеспечить большую защиту отдельных лиц от слежки и даже сыграть продемократическую роль. Нажатие на кнопки для получения эмоциональной реакции и нацеливание рекламы на пользователей, когда они таким образом срабатывают, никогда не были единственными возможностями для социальных медиа.

Демократия подорвана, когда она нам больше всего нужна

Трагедия заключается в том, что искусственный интеллект еще больше подрывает демократию, когда мы больше всего в ней нуждаемся. Если направление развития цифровых технологий не изменится коренным образом, они будут продолжать подпитывать неравенство и маргинализировать большие сегменты рабочей силы, как на Западе, так и во всем мире. Технологии ИИ также используются для более интенсивного контроля за работниками и через этот канал создают еще большее понижательное давление на заработную плату.

Если хотите, можете возлагать надежды на вал производительности. Но нет никаких признаков того, что общее повышение производительности произойдет в ближайшее время. Как мы уже видели, менеджеры и предприниматели часто склонны использовать новые технологии для автоматизации труда и лишения людей прав, если их не сдерживают противодействующие силы. Массовый сбор данных усугубил это предубеждение.

Однако без демократии трудно найти противодействующие силы. Когда элита полностью контролирует политику и может эффективно использовать инструменты репрессий и пропаганды, трудно создать сколько-нибудь значимую, хорошо организованную оппозицию. Поэтому в ближайшее время в Китае не будет расти активное инакомыслие, особенно в условиях все более эффективной системы цензуры и слежки на основе искусственного интеллекта, созданной Коммунистической партией. Но также становится все труднее надеяться на возрождение противодействующих сил в Соединенных Штатах и большей части остального западного мира. ИИ душит демократию, одновременно предоставляя инструменты для репрессий и манипуляций как авторитарным, так и демократически избранным правительствам.

Как спрашивал Джордж Оруэлл в "1984": "Ведь, в конце концов, откуда мы знаем, что два и два дают четыре? Или что сила тяжести действует? Или что прошлое неизменно? Если и прошлое, и внешний мир существуют только в разуме, и если сам разум управляем, что тогда?". Этот вопрос еще более актуален сегодня, потому что, как предвидела философ Ханна Арендт, когда людей бомбардируют ложью и пропагандой, они как в демократических, так и в недемократических странах перестают верить любым новостям. Возможно, ситуация еще хуже. Приклеенные к своим социальным сетям, часто возмущенные и очень часто охваченные сильными эмоциями, люди могут оказаться оторванными от своего сообщества и демократического дискурса, потому что в Интернете была создана альтернативная, сегрегированная реальность, где экстремистские голоса звучат громче всего, искусственные эхо-камеры изобилуют, вся информация подозрительна или пристрастна, а компромисс забыт или даже осуждается.

Некоторые оптимисты считают, что новые технологии, такие как Web 3.0 или метавселенная, могут обеспечить другую динамику. Но пока преобладает нынешняя бизнес-модель технологических компаний и одержимость правительств слежкой, они, скорее всего, будут еще больше усугублять эти тенденции, создавая еще более мощные пузыри фильтров и еще больший клинч с реальностью.

Уже поздно, но, возможно, еще не слишком поздно.

Глава 11. Перенаправление технологии

Компьютеры в основном

используется против людей, а не для людей

используется для контроля над людьми, а не для их освобождения

время изменить все это...

нам нужен...

НАРОДНАЯ КОМПЬЮТЕРНАЯ КОМПАНИЯ

-первый информационный бюллетень Народной компьютерной компании, октябрь 1972 года (курсив в оригинале)

Большинство вещей, которые стоило бы сделать в мире, были объявлены невозможными еще до того, как они были сделаны.

-адвокат Луис Брандейс, арбитражный процесс, Нью-Йоркская плащевая промышленность, 13 октября 1913 года

Позолоченный век конца XIX века был периодом быстрых технологических изменений и тревожного неравенства в Америке, как и сегодня. Первые люди и компании, инвестировавшие в новые технологии и использовавшие новые возможности, особенно в наиболее динамичных секторах экономики, таких как железные дороги, сталь, машиностроение, нефть и банковское дело, процветали и получали феноменальные прибыли.

В эту эпоху возникли предприятия невиданных размеров. В некоторых компаниях работало более ста тысяч человек, значительно больше, чем в вооруженных силах США в то время. Хотя реальная заработная плата росла по мере развития экономики, неравенство стремительно увеличивалось, а условия труда были ужасными для миллионов людей, не имевших никакой защиты от своих экономически и политически влиятельных боссов. Бароны-разбойники, как называли самых известных и беспринципных из этих магнатов, сколотили огромные состояния не только благодаря изобретательности во внедрении новых технологий, но и за счет консолидации с конкурирующими предприятиями. Политические связи также были важны в стремлении доминировать в своих отраслях.

Символом эпохи стали огромные "тресты", созданные этими людьми, такие как Standard Oil, которые контролировали ключевые ресурсы и устраняли конкурентов. В 1850 году британский химик Джеймс Янг открыл способ переработки нефти. Уже через несколько лет по всему миру работали десятки нефтеперерабатывающих заводов. В 1859 году запасы нефти были обнаружены в Титусвилле, штат Пенсильвания, и нефть стала двигателем индустриализации в Соединенных Штатах. Вскоре этот сектор определила компания Standard Oil, основанная и управляемая Джоном Д. Рокфеллером, который символизирует как возможности эпохи, так и злоупотребление ими. Рожденный в бедности, Рокфеллер понял важность нефти и возможности стать доминирующим игроком в отрасли и быстро превратил свою компанию в монополию. К началу 1890-х годов Standard Oil контролировала около 90 процентов нефтеперерабатывающих предприятий и нефтепроводов в стране и приобрела репутацию компании с хищническими ценами, сомнительными побочными сделками - например, с железными дорогами, которые запрещали ее конкурентам отгружать свою нефть - и запугиванием конкурентов и рабочих.

Послужной список других доминирующих фирм, таких как сталелитейная компания Эндрю Карнеги, железнодорожный конгломерат Корнелиуса Вандербильта, химическая компания DuPont, компания International Harvester, производящая сельскохозяйственную технику, и J.P. Morgan в банковской сфере, был аналогичным.

Было четкое ощущение, что институциональная структура Соединенных Штатов плохо приспособлена для того, чтобы сдерживать мощь этих компаний. Они обладали растущей политической властью, как потому, что несколько президентов США встали на их сторону, так и потому, что они имели большое влияние на Сенат США, члены которого в ту эпоху не избирались напрямую, а выбирались законодательными собраниями штатов. Общее мнение (да и реальность) заключалось в том, что должности в сенате "покупались и продавались", и бароны-грабители принимали в этом самое активное участие. Дело было не только в Сенате. Предвыборные кампании президента Уильяма Маккинли в 1896 и 1900 годах щедро финансировались бизнесом, организованным, в частности, сенатором Марком Ханной, который подытожил эту систему следующим образом: "Есть две вещи, которые важны в политике. Первая — это деньги, а вторую я не помню". Было мало эффективных законов, чтобы помешать компаниям, принадлежащим баронам-грабителям, контролировать свой сектор и препятствовать конкуренции, используя власть, которую им давал их размер.

Когда рабочие организовывались, чтобы потребовать повышения заработной платы или улучшения условий труда, их часто жестоко подавляли, в том числе во время Великой железнодорожной забастовки 1877 года, Великой забастовки Юго-Западной железной дороги 1886 года, забастовки сталелитейной компании Карнеги 1892 года, Пульмановской забастовки 1894 года и угольной забастовки 1902 года. Во время забастовки Объединенных шахтеров 1913–1914 годов в компании Colorado Fuel and Iron Company, контролируемой Рокфеллером, столкновения между забастовщиками и охраной шахты, войсками и штрейкбрехерами, нанятыми компанией, обострились и привели к гибели 21 человека, включая женщин и детей.

Сегодня Соединенные Штаты были бы совсем другим местом, если бы экономические и социальные условия позолоченного века сохранились. Но широкое прогрессивное движение сформировалось, чтобы противостоять власти трестов и потребовать институциональных изменений. Хотя корни этого движения уходят в более ранние сельские организации, такие как Национальный гранж Ордена покровителей мужей, а позднее Популистская партия, прогрессисты создали гораздо более широкую коалицию вокруг городских средних классов и оказали огромное влияние на историю Соединенных Штатов.

Центральным фактором их успеха было изменение взглядов и норм американской общественности, особенно среднего класса. Эти изменения в значительной степени стали результатом работы группы журналистов, которых стали называть "навозниками", а также трудов других реформаторов, таких как адвокат и впоследствии судья Верховного суда Луис Брандейс. В книге Эптона Синклера "Джунгли" рассказывалось об ужасных условиях труда на мясокомбинатах, а Линкольн Стеффенс сообщал о политической коррупции во многих крупных городах.

Возможно, наибольшее влияние оказала работа другого "наглеца", Иды Тарбелл, о компании Standard Oil. В серии статей в журнале McClure's Magazine, начиная с 1902 года, она разоблачила запугивание компании и Рокфеллера, сдерживание цен, незаконные действия и политические махинации. Тарбелл была лично знакома с деловой практикой Рокфеллера. Ее отец был нефтедобытчиком в западной Пенсильвании и был вытеснен из бизнеса компанией Standard Oil, когда Рокфеллер заключил тайную сделку с местными железными дорогами, чтобы поднять цены на нефть, поставляемую конкурентами компании. Статьи Тарбелл, собранные в ее книге "История Standard Oil Company", вышедшей в 1904 году, как никто другой изменили представление американской общественности о пагубном влиянии трестов и баронов-разбойников на общество.

За Тарбелл последовали другие "наглецы". В серии статей под названием "Измена Сената" в журнале Cosmopolitan в 1906 году Дэвид Грэм Филлипс пролил свет на теневые сделки и коррупцию в Сенате. Книга Брандейса "Чужие деньги и как банкиры их используют" сделала то же самое для банковской индустрии, и особенно для Дж.П. Моргана.

Также важна была работа общественных активистов, таких как Мэри Харрис Джонс (известная как Мать Джонс), которая сыграла ведущую роль в организации Объединенных шахтеров и более радикальных Рыцарей труда. Мать Джонс была главным инициатором "Крестового похода детей" 1903 года, марша детей, работающих на шахтах и фабриках. Они несли транспаранты типа "Мы хотим ходить в школу, а не в шахты!" к летнему дому президента Тедди Рузвельта в знак протеста против неисполнения законов, запрещающих детский труд.

Прогрессисты не только меняли общественное мнение, но и организовывали политическую деятельность. Популисты уже показали пример того, как протестное движение может превратиться в партию, имеющую национальное влияние. На выборах 1892 года Прогрессивная партия получила 8,5 процента голосов. Городские средние классы развили этот ранний успех, и широкий спектр политиков, таких как Уильям Дженнингс Брайан, Тедди Рузвельт, Роберт Ла Фоллетт, Уильям Тафт, а затем Вудро Вильсон, ввели прогрессивную политику в основные партии, выиграв выборы и проложив путь к реформам.

У прогрессистов была амбициозная программа реформ, включающая регулирование и разрушение трестов, новые финансовые правила, политическую реформу, направленную на очищение от коррупции в городах и Сенате, и налоговую реформу. Их политические предложения были не просто лозунгами. Прогрессисты глубоко верили в роль экспертизы в формировании политики и сыграли важную роль в создании новых профессиональных ассоциаций и систематическом изучении многих ключевых социальных вопросов эпохи.

Ключевые политические реформы эпохи стали результатом идей, которые популяризировали журналисты, активисты и реформаторы. Например, разоблачения Синклера непосредственно привели к принятию Закона о чистых продуктах питания и лекарствах и Закона о мясной инспекции. Исследования и труды Иды Тарбелл вдохновили на применение антитрестовского закона Шермана 1890 года к промышленным и железнодорожным конгломератам. Это было подкреплено принятием Закона Клейтона в 1914 году и созданием Федеральной торговой комиссии для дальнейшего регулирования монополий и антитрестовских действий. Прогрессивное давление также сыграло важную роль в создании Комитета Пуджо, который расследовал неправомерные действия в финансовой отрасли.

Еще более значительные институциональные изменения включали Закон Тиллмана 1907 года, запрещающий корпоративные взносы в пользу федеральных политических кандидатов; Шестнадцатую поправку, ратифицированную в 1913 году, которая ввела федеральный подоходный налог; Семнадцатую поправку 1913 года, которая требовала прямых выборов всех сенаторов США путем всенародного голосования; и Девятнадцатую поправку 1920 года, предоставившую женщинам право голоса.

Прогрессивные реформы не изменили американскую политическую экономику одним махом. Крупные корпорации оставались влиятельными, а неравенство оставалось высоким. Тем не менее, прогрессисты заложили основы для реформ Нового курса и всеобщего процветания после Второй мировой войны.

Прогрессивизм был движением "снизу вверх", полным разнообразных голосов, что сыграло решающую роль в его успехе в создании популистской коалиции и генерировании новых политических идей. Но это также привело к появлению некоторых непривлекательных элементов, включая открытый или скрытый расизм некоторых его ведущих деятелей (в том числе Вудро Вильсона), идеи евгеники, получившие распространение среди некоторых прогрессистов, и запрет, установленный Восемнадцатой поправкой в 1919 году. Несмотря на все эти недостатки, прогрессивное движение полностью перестроило американские институты.

ПРОГРЕССИВНОЕ ДВИЖЕНИЕ" представляет историческую перспективу трех составляющих критической формулы, необходимой для выхода из нашего нынешнего затруднительного положения.

Первое — это изменение повествования и изменение норм. Прогрессисты позволили отдельным американцам иметь информированное мнение о проблемах в экономике и обществе, а не просто принимать линию, исходящую от законодателей, бизнес-магнатов и союзных им желтых журналистов. Например, Тарбелл никогда не представляла себя в качестве политического кандидата или даже приверженца какого-либо дела. Вместо этого она оттачивала свое мастерство журналистского расследования, чтобы раскрыть основные факты о Standard Oil и ее боссе, Рокфеллере. Критически настроенные прогрессисты изменили то, что считалось приемлемым для компаний, и то, что, по мнению простых граждан, они могли сделать для борьбы с несправедливостью.

Второй - культивирование противодействующих сил. Опираясь на изменение нарратива и социальных норм, прогрессисты помогли организовать людей в широкое движение, которое могло противостоять баронам-грабителям и подталкивать политиков к реформам, в том числе через профсоюзы.

Третий компонент — это политические решения, которые прогрессисты сформулировали на основе нового повествования, исследований и опыта.

Перенаправление технологических изменений

Хотя проблемы, стоящие перед нами сегодня, носят цифровой и глобальный характер, уроки Прогрессивной эпохи по-прежнему актуальны. Современное экологическое движение, противостоящее экзистенциальной угрозе изменения климата, демонстрирует, что три составляющие формулы могут работать для перенаправления технологических изменений и сегодня. Несмотря на сохраняющуюся зависимость большинства крупных энергетических компаний от ископаемого топлива и неспособность большинства политиков действовать, в области технологий возобновляемых источников энергии произошел значительный прогресс.

Выбросы ископаемого топлива — это, прежде всего, технологическая проблема. Индустриализация была построена на энергии ископаемого топлива, и технологические инвестиции с середины восемнадцатого века были направлены на улучшение и расширение этих традиционных источников энергии. Уже в 1980-х годах стало ясно, что выбросы ископаемого топлива невозможно сократить до уровня, который предотвратит постоянное потепление климата, полагаясь лишь на небольшие изменения в производстве и потреблении угля и нефти. Необходимы новые источники энергии, что означает серьезную переориентацию технологий. В течение нескольких десятилетий ничего подобного не происходило. Уже в середине 2000-х годов солнечная энергия была более чем в двадцать раз дороже энергии, получаемой из ископаемого топлива. Для ветра этот коэффициент составлял около десяти. Хотя в 1990-х годах гидроэлектрическая энергия уже была дешевле, мощности были ограничены.

Сегодня солнечная, ветровая и гидроэнергетика дешевле в эксплуатации, чем электростанции, работающие на ископаемом топливе. Например, по оценкам Международного агентства по возобновляемой энергии, ископаемое топливо стоит от $50 до $150 за 100 кВт/ч (киловатт-часов), фотоэлектрическая солнечная энергия - от $40 до $54, а наземная ветровая энергия - менее $40. Хотя есть некоторые виды деятельности, для которых возобновляемые источники энергии не могут быть эффективно использованы (например, реактивное топливо), и существуют серьезные проблемы с хранением, большая часть электрической сети мира может питаться от возобновляемых источников энергии, если политики решат двигаться в этом направлении.

Как было достигнуто это впечатляющее достижение? Сначала изменилось отношение к климату. Книга Рейчел Карсон "Безмолвная весна", опубликованная в 1962 году, была одним из первых шагов. К 1970-м годам несколько организаций, наиболее известная из которых "Гринпис", вели активную кампанию по защите окружающей среды. В начале 1990-х годов Гринпис инициировал программу по борьбе с глобальным потеплением, пытаясь стать противовесом тактике, используемой крупными нефтяными компаниями для сокрытия экологического ущерба, который наносит ископаемое топливо.

Большую роль сыграл документальный фильм 2006 года "Неудобная правда", посвященный усилиям бывшего вице-президента и кандидата в президенты Эла Гора по информированию общественности о глобальном потеплении. Фильм посмотрели миллионы людей по всему миру. Примерно в то же время появились новые организации, занимающиеся проблемами изменения климата, такие как 350.org. Как сказал основатель 350.org Билл Маккиббен, экология - это главный вопрос, и все остальное меркнет по сравнению с ним: "Через 50 лет никого не будет волновать финансовый обрыв или еврокризис. Они просто спросят: "Вот Арктика растаяла, и что вы тогда сделали?"".

Изменение повествования вылилось в более организованное политическое движение - партии "зеленых", которые сделали глобальное потепление центральным пунктом своей повестки дня. Немецкая партия "зеленых" стала мощной электоральной силой и несколько раз входила в правительство. Экологи сыграли аналогичную роль и в других странах Западной Европы. Демонстрация силы экологического движения произошла во время серии климатических забастовок в сентябре 2019 года: протесты и забастовки прошли в школах и на рабочих местах в 4500 городах по всему миру.

Из второй составляющей вытекают два основных последствия. Эти движения оказали давление на корпоративный сектор. По мере того, как население многих западных стран узнавало об опасности изменения климата, оно требовало более чистых продуктов, таких как электромобили и возобновляемые источники энергии, а сотрудники многих крупных корпораций настаивали на сокращении углеродного следа своих компаний. В равной степени они подтолкнули (некоторых) политиков к серьезному отношению к глобальному потеплению.

Эти события активизировали третий компонент - технические и политические решения. Экономический и экологический анализ выявил три важнейших рычага борьбы с изменением климата: налог на выбросы углекислого газа для сокращения выбросов ископаемого топлива, поддержка инноваций и исследований в области возобновляемых источников энергии и других чистых технологий, а также регулирование, направленное против самых загрязняющих технологий.

Хотя во многих странах, не в последнюю очередь в США, Великобритании и Австралии, углеродные налоги сталкиваются с жесткой оппозицией, они были введены в нескольких европейских странах. Уровень углеродного налога, принятый во всем мире, все еще недостаточен, учитывая тенденции глобального потепления, но некоторые страны постепенно повышают этот налог. Шведская ставка сейчас составляет более 120 долларов за метрическую тонну углекислого газа, что означает значительное повышение цены на энергию, получаемую с помощью угля.

Налог на выбросы углекислого газа — это мощный инструмент для ограничения выбросов углекислого газа. Поскольку он снижает рентабельность производства ископаемого топлива, он может стимулировать инвестиции в альтернативные источники энергии. Но при нынешних уровнях он лишь незначительно снижает прибыль компаний, работающих на ископаемом топливе, и не приведет к существенному изменению технологий. Гораздо более действенными являются схемы, напрямую стимулирующие инновации и инвестиции в чистую энергию. Недавно правительство США предоставило ежегодные налоговые льготы на сумму более 10 миллиардов долларов для возобновляемых источников энергии и почти 3 миллиарда долларов для повышения энергоэффективности. Некоторые средства также непосредственно направлены на новые технологии - например, под эгидой Национальной лаборатории возобновляемой энергии, НАСА и Министерства обороны. Еще более щедрые субсидии на исследования в области возобновляемых источников энергии выделяются в Германии и скандинавских странах.

Нормативные акты, такие как стандарты выбросов штата Калифорния, впервые принятые в 2002 году, сыграли свою роль в прямом противодействии наиболее неэффективному использованию ископаемого топлива - например, заставив убрать с дорог старые модели автомобилей с гораздо более высоким расходом газа. Эти нормы также стимулировали дальнейшие исследования в области электромобилей.

Эти три политических рычага (налоги на выбросы углерода, субсидии на исследования и нормативно-правовые акты), а также давление со стороны потребителей и гражданского общества привели к росту инноваций в области возобновляемых источников энергии и значительному увеличению объемов производства солнечных батарей и энергии ветра. Базовая технология получения энергии за счет фотоэлектрического эффекта, используя солнечные фотоны, была известна с конца XIX века, а жизнеспособные солнечные панели впервые были произведены в 1950-х годах в Лабораториях Белла. Важные прорывы последовали за этим, начиная с 2000-х годов, когда в США, Франции, Германии и Великобритании резко возросло количество патентов, связанных с экологически чистой энергией. По мере расширения производства стоимость солнечных панелей резко упала. В результате этих быстрых улучшений возобновляемые источники энергии уже составляют более 20 процентов от общего потребления энергии в Европе, хотя Соединенные Штаты пока отстают.

Примечательно, что Китай последовал за европейским и американским перенаправлением этой технологии. Страна начала производство солнечных панелей в ответ на растущий спрос в Европе, особенно в Германии, в конце 1990-х годов, следуя европейской политике смягчения последствий изменения климата. Движимое желанием играть ведущую роль в этом секторе, а также решить серьезную проблему загрязнения окружающей среды в стране, правительство Китая предоставило щедрые субсидии и кредиты производителям, быстро увеличив производственные мощности. Стоимость фотоэлектрических панелей и другого солнечного оборудования начала снижаться благодаря "обучению на практике" (это означает, что по мере роста объемов компании все лучше и лучше умели производить экономичные и энергоэффективные солнечные панели). Китайские производители внедрили новое оборудование и усовершенствовали методы более тонкой резки поликремниевых пластин, что позволило им производить больше солнечных батарей из того же количества материала, снижая затраты и увеличивая производство. В настоящее время страна является крупнейшим производителем солнечных батарей и поликремния в мире (даже если многие заводы по производству солнечных батарей работают на электроэнергии, вырабатываемой из угля). Согласно статистике китайского правительства, в 2020 году на возобновляемые источники энергии придется около 29 процентов потребления электроэнергии.

Конечно, не следует преувеличивать достигнутые на сегодняшний день успехи. Остается еще много областей, таких как экономически эффективное хранение энергии, в которых необходимы прорывы, а некоторые сектора, такие как воздушный транспорт и сельское хозяйство, не сократили выбросы углерода. Выбросы в развивающихся странах, в том числе в Китае и Индии, продолжают расти, несмотря на достижения в области возобновляемых технологий. В ближайшем будущем мало перспектив для введения глобального налога на выбросы углерода, способного сильно сократить потребление.

Тем не менее, с точки зрения вызова цифровых технологий, мы можем многому научиться на примере того, как технологии перенаправляются в энергетическом секторе. Та же комбинация - изменение повествования, создание противодействующих сил, разработка и реализация конкретной политики для решения наиболее важных вопросов - может сработать при переориентации цифровых технологий.

Переделка цифровых технологий

Наши нынешние проблемы коренятся в огромной экономической, политической и социальной власти корпораций, особенно в технологической отрасли. Концентрированная власть бизнеса подрывает общее процветание, поскольку ограничивает распределение выгод от технологических изменений. Но наиболее пагубное влияние оказывает направление развития технологий, которое чрезмерно смещается в сторону автоматизации, слежки, сбора данных и рекламы. Чтобы вернуть общее процветание, мы должны перенаправить технологии, а это означает активизировать версию того же подхода, который сработал более века назад для прогрессистов.

Это может начаться только с изменения повествования и норм. Необходимые шаги действительно фундаментальны. Общество и его влиятельные воротилы должны перестать быть завороженными технологическими миллиардерами и их планами. Дискуссии о новых технологиях должны быть сосредоточены не только на гениальности новых продуктов и алгоритмов, но и на том, работают ли они на благо людей или против людей. Вопрос о том, следует ли использовать цифровые технологии для автоматизации труда и расширения возможностей крупных компаний и недемократических правительств, не должен решаться исключительно горсткой предпринимателей и инженеров. Не нужно быть экспертом в области искусственного интеллекта, чтобы высказать свое мнение о направлении прогресса и будущем нашего общества, сформированного этими технологиями. Не нужно быть технологическим инвестором или венчурным капиталистом, чтобы требовать от технологических предпринимателей и инженеров ответственности за то, что делают их изобретения.

Выбор направления развития технологий должен быть частью критериев, которые инвесторы используют для оценки компаний и их влияния. Крупные инвесторы могут требовать прозрачности в отношении того, будут ли новые технологии автоматизировать работу или создавать новые задачи, будут ли они контролировать работников или расширять их возможности, а также как они повлияют на политический дискурс и другие социальные результаты. Это не те решения, которые должны волновать инвесторов только из-за прибыли, которую они получают. Двухуровневое общество с небольшой элитой и сокращающимся средним классом не является основой для процветания или демократии. Тем не менее, можно сделать цифровые технологии полезными для людей и повысить производительность труда, так что инвестиции в технологии, помогающие людям, могут быть и хорошим бизнесом.

Как и в случае с реформами прогрессивной эпохи и переориентацией в энергетическом секторе, новое повествование имеет решающее значение для создания противодействующих сил в цифровую эпоху. Такой нарратив и общественное давление могут спровоцировать более ответственное поведение некоторых лиц, принимающих решения. Менеджеры, получившие образование в бизнес-школе, склонны снижать заработную плату и сокращать трудовые затраты, предположительно, из-за сохраняющегося влияния доктрины Фридмана - идеи о том, что единственной целью и обязанностью бизнеса является получение прибыли. Новый мощный рассказ о всеобщем процветании может стать противовесом, повлиять на приоритеты некоторых менеджеров и даже поколебать преобладающую парадигму в бизнес-школах. Кроме того, он может помочь изменить мышление десятков тысяч молодых людей, желающих работать в технологическом секторе - даже если он вряд ли окажет большое влияние на технологических магнатов.

Более того, эти усилия должны сформулировать и поддержать конкретную политику, чтобы изменить направление развития технологий. Цифровые технологии могут дополнять человека:

- повышение производительности труда работников на их текущих рабочих местах

- создание новых задач с помощью машинного интеллекта, дополняющего возможности человека

- предоставление более качественной и пригодной для использования информации для принятия решений человеком

- создание новых платформ, объединяющих людей с различными навыками и потребностями

Например, цифровые технологии и технологии искусственного интеллекта могут повысить эффективность обучения в классе, предоставляя учителям новые инструменты и более качественную информацию. Они могут обеспечить персонализированное обучение, определяя в режиме реального времени области трудностей или сильных сторон для каждого ученика, тем самым создавая множество новых, продуктивных задач для учителей. Они также могут создавать платформы, которые более эффективно объединяют учителей и учебные ресурсы. Аналогичные возможности открываются в здравоохранении, развлечениях и производстве, о чем мы уже говорили.

Подход, который дополняет работников, а не отодвигает их на второй план и не пытается их устранить, более вероятен, когда признаются различные человеческие навыки, основанные на ситуационных и социальных аспектах человеческого познания. Однако такие разнообразные цели технологических изменений требуют множества инновационных стратегий, и их реализация становится менее вероятной, когда несколько технологических фирм доминируют над будущим технологий.

Разнообразные инновационные стратегии также важны, поскольку автоматизация сама по себе не является вредной. Технологии, которые заменяют задачи, выполняемые людьми, машинами и алгоритмами, так же стары, как и сама промышленность, и они будут оставаться частью нашего будущего. Точно так же сбор данных сам по себе не является чем-то плохим, но он становится несовместимым с общим процветанием и демократическим управлением, когда он централизуется в руках неподотчетных компаний и правительств, которые используют эти данные для лишения людей прав и возможностей. Проблема заключается в несбалансированном портфеле инноваций, в котором чрезмерное внимание уделяется автоматизации и слежке, а не созданию новых задач и возможностей для работников. Перенаправление технологий не обязательно должно включать блокирование автоматизации или запрет на сбор данных; вместо этого можно поощрять развитие технологий, которые дополняют и помогают человеческим возможностям.

Общество и правительство должны работать вместе для достижения этой цели. Давление со стороны гражданского общества, как и в случае успешных крупных реформ прошлого, является ключевым фактором. Государственное регулирование и стимулы также имеют решающее значение, как это было в случае с энергетикой. Однако правительство не может быть нервным центром инноваций, бюрократы не будут разрабатывать алгоритмы или придумывать новые продукты. Необходимы правильные институциональные рамки и стимулы, сформированные государственной политикой, подкрепленные конструктивным повествованием, чтобы побудить частный сектор отказаться от чрезмерной автоматизации и слежки и перейти к технологиям, более дружественным к работникам.

Главный вопрос заключается в том, будут ли полезны усилия по перенаправлению технологий на Западе, если Китай продолжит заниматься автоматизацией и наблюдением. Ответ, скорее всего, положительный. Китай все еще является последователем в большинстве передовых технологий, и усилия по перенаправлению в США и Европе окажут серьезное влияние на глобальные технологии. Как и в случае с энергетическими инновациями, серьезная переориентация на Западе может оказать сильное влияние и на китайские инвестиции.

О том, как стимулировать уравнительные силы, влияющие на путь будущих технологий и стимулирующие социально полезные технологические изменения, мы и поговорим в этой главе.

Изменение компенсационных полномочий

Мы не можем перенаправить технологии без создания новых противодействующих сил. И мы не можем создать противодействующие силы, не опираясь на организации гражданского общества, которые объединяют людей вокруг общих проблем и культивируют нормы самоуправления и политического действия.

Организация трудящихся. Трудовые союзы были главной опорой уравнительных сил с начала индустриальной эпохи. Они являются ключевым средством поддержки распределения прироста производительности между работодателями и работниками. На рабочих местах, где трудящиеся имеют право голоса (в форме профсоюзов или рабочих советов, как во многих немецких компаниях), с ними советуются при принятии технологических и организационных решений, и иногда они успешно выступают в качестве противовеса чрезмерной автоматизации.

В период своего расцвета профсоюзы добились успеха, потому что они формировали связи между своими членами. Они обеспечивали товарищество людей, работающих вместе и выполняющих одинаковые задачи. Они были узлом сотрудничества на основе общих экономических интересов, сосредоточенных на улучшении условий труда и повышении заработной платы. И они культивировали политические цели, соответствующие убеждениям и интересам их членов, такие как право голоса. Сегодня эти компоненты вряд ли будут работать так же слаженно.

Рабочие места стали гораздо менее концентрированными и более разнообразными, поэтому товарищества достичь труднее. С ростом числа высокообразованных и "белых воротничков" на большинстве рабочих мест экономические интересы работников также стали более разнообразными. Производственные рабочие "синие воротнички" теперь составляют меньшую часть рабочей силы США (около 13,7% по состоянию на 2016 год), и организационные формы, ориентированные на них, вряд ли могут говорить от имени всей рабочей силы. Также меньше общих политических целей у рабочего населения, которое сейчас больше разделено на правых и левых, чем полвека назад.

Тем не менее, новые методы организации работников могут преуспеть там, где старые подходы потерпели неудачу, и кое-что из этого уже можно увидеть в успешных кампаниях по созданию профсоюзов в таких компаниях, как Amazon и Starbucks в 2021–2022 годах. Инициированные рабочими выборы в профсоюз на складе Amazon в Статен-Айленде использовали совершенно иную тактику, чтобы добиться успеха в условиях, не похожих на те, в которых когда-то процветали традиционные рабочие движения. Текучесть кадров на складах компании была огромной, а рабочая сила была разнообразной во всех отношениях - выходцы из разных слоев общества, говорящие на десятках разных языков. Движение было организовано рабочими в цехах, а не профессиональными профсоюзными работниками. Оно финансировало себя через социальные сети GoFundMe, а не получало централизованные профсоюзные деньги. Судя по всему, движение добилось успеха, разработав менее жесткий и менее идеологизированный подход, сосредоточившись на проблемах, актуальных для большинства работников складов Amazon, таких как чрезмерный контроль, недостаточное количество перерывов и высокий уровень травматизма. Хотя эта стратегия сильно отличается от культовой "сидячей забастовки" работников GM в 1936 году, которая стала поворотным моментом в рабочем движении США, она напоминает разработку новых методов организации с нуля.

Другая проблема с профсоюзами в США и Великобритании заключается в том, что, как мы видели, их традиционная структура организована на уровне отдельных заводов, что порождает более конфликтные отношения с руководством. В будущем потребуются более широкие организации, а не только на уровне заводов или фирм. Они могут принимать форму многоуровневых организаций, в которых одни решения принимаются на уровне рабочих мест, а другие - на уровне отрасли. В качестве примера можно привести двухуровневую немецкую систему: рабочие советы занимаются коммуникацией и координацией на рабочих местах и могут принимать решения по технологиям и обучению, в то время как отраслевые профсоюзы больше сосредоточены на установлении заработной платы. Конечно, возможно, что будущие рабочие движения в итоге будут больше похожи на другие организации гражданского общества или более слабо связанные между собой отраслевые конфедерации. Это говорит о том, что эксперименты с новыми организационными формами являются важным шагом вперед.

Действия гражданского общества, в одиночку и вместе. Запад сегодня — это общество потребления, а предпочтения и действия потребителей являются важными рычагами влияния на компании и технологии. Реакция потребителей была жизненно важна в случае с возобновляемыми источниками энергии и электромобилями. Именно давление со стороны потребителей, а также освещение в СМИ заставили YouTube и Reddit предпринять некоторые шаги по ограничению экстремизма на своих платформах.