На краю пропасти. Экзистенциальный риск и будущее человечества

Хотя человечество получает все большую власть над природой, оно остается уязвимым для природных катастроф. В этой главе мы не станем рассматривать бедствия, о которых пишут в газетах и даже в учебниках истории, а сосредоточимся на тех, что не имеют прецедентов на памяти человечества. Мы проанализируем риски, которые грозят нам не локальным коллапсом и не вполне выносимыми трудностями, а окончательным уничтожением человеческой цивилизации.

Эти риски реальны. Но они подтвердились лишь в последние десятилетия, и наука еще не успела в полной мере их изучить. Мы подробно рассмотрим несколько главных угроз и проанализируем свежие научные данные о том, какую опасность они представляют и насколько велик сопряженный с ними экзистенциальный риск.

Астероиды и кометы

Астероид диаметром десять километров с огромной скоростью летит к Земле. Вероятность прямого столкновения ничтожна – миллионы лет он летает по Солнечной системе, но в Землю еще ни разу не попадал. Но проходит огромное время, шансы возрастают, и этот день в конце концов настает.

Двигаясь со скоростью более 60 000 км/ч, астероид ударяется о поверхность Земли у побережья Мексиканского залива. При такой высокой скорости сила удара в тротиловом эквиваленте в сотню раз превышает массу астероида, которая составляет триллион тонн. За считаные секунды высвобождается энергия, соответствующая взрыву десяти миллиардов сброшенных на Хиросиму бомб, то есть в десять тысяч раз превышающая взрывную силу всего ядерного арсенала времен холодной войны. В земной коре образуется яма глубиной в 30 км, а это более чем в 60 раз превышает высоту небоскреба Эмпайр-стейт-билдинг и втрое превышает Эверест. Все в радиусе тысячи километров погибает от огненного шара, возникающего при ударе. Цунами опустошает Карибские острова. Триллионы тонн породы и пыли взлетают высоко в небо. Часть этой перегретой породы выпадает дождем на площади в несколько миллионов квадратных километров, убивая животных и разжигая пожары, которые продолжают уничтожение планеты. Но гораздо более смертоносна пыль, которая остается наверху[147].

Клубящееся облако пыли и пепла поднимается в верхние слои атмосферы и препятствует проникновению солнечного света. Именно из-за этого региональная катастрофа превращается в массовое вымирание. Постепенно оно охватывает весь мир, который на долгие годы погружается во тьму. С темнотой приходит и сильное глобальное похолодание, поскольку солнечный свет не может пробиться сквозь пыль и отражается от частиц серной взвеси, выброшенной в воздух при испарении морского дна. Холод и тьма убивают растения по всему земному шару; животные умирают от голода и переохлаждения; подходит к концу растянувшаяся на сто миллионов лет эпоха, когда на планете царили динозавры; исчезают три четверти всех видов, живших на Земле[148].

Такой ущерб могут причинить и астероиды, и кометы. Астероиды – это глыбы породы или металла, находящиеся главным образом между орбитами Марса и Юпитера. Их диаметр колеблется в диапазоне от тысячи километров до нескольких метров[149]. Кометы – это глыбы породы и льда, имеющие немного меньший диапазон размеров[150]. В отличие от астероидов, многие кометы вращаются по сильно вытянутым эллиптическим орбитам, проводят большую часть времени среди внешних планет и даже за ними, но периодически заходят во внутреннюю область Солнечной системы. Когда они проходят возле Солнца, под действием солнечной радиации часть льда и пыли, из которых они состоят, воспламеняется, образуя горящий хвост. Фрагмент астероида или кометы, который попадает в атмосферу и сгорает от жара атмосферного трения, называется метеором. Та его часть, которая остается и падает на поверхность Земли, называется метеоритом.

Наши древнейшие предки, должно быть, видели, как кометы пролетают по небу, но могли лишь гадать, что именно они собою представляют. Древние греки предположили, что кометы – это атмосферные явления, сродни облакам и радуге. Индийские астрономы в VI веке верно отметили, что кометы летают далеко за пределами Земли, но целую тысячу лет их теория не находила подтверждения, пока Тихо Браге не доказал, что комета 1577 года находилась дальше Луны, поскольку наблюдатели в далеких друг от друга местах одновременно видели комету примерно в одной точке ночного неба.

О метеоритах люди тоже знали с незапамятных времен, но лишь в конце XIX века ученые установили их внеземное происхождение[151]. Тогда же астрономы стали замечать астероиды, вращающиеся вокруг Солнца. Затем в 1960 году американский геолог Юджин Шумейкер доказал, что некоторые земные кратеры появились не в результате геологической активности, а при столкновениях с крупными метеоритами, значительно более серьезных, чем все столкновения, известные истории. Наконец мозаика сложилась, и стало очевидно, что на Землю порой обрушиваются катастрофические удары с небес.

В 1980 году группа ученых под руководством отца и сына Луиса и Уолтера Альваресов обнаружила, что геологическая граница между меловым и палеогеновым периодами богата иридием – элементом, который крайне редко встречается на поверхности Земли, но значительно более распространен на астероидах. Ученые поняли, что нашли неопровержимую улику, с помощью которой можно объяснить произошедшее в конце мелового периода массовое вымирание, убившее динозавров. Чтобы на Земле оказалось такое количество иридия, диаметр астероида должен был равняться десяти километрам, а пылевое облако, распространявшее иридий, погрузило бы мир во тьму, в результате чего остановился бы фотосинтез и началось массовое вымирание[152]. Оставалось только найти на Земле кратер нужного размера и возраста.

Его обнаружили десять лет спустя. Геологическая активность, которая продолжалась на протяжении 66 миллионов лет, погребла этот кратер под километрами более новых пород, но гравитационные измерения помогли обнаружить его плотное гранитное ударное кольцо – гигантскую окружность с центром в небольшом мексиканском городе Чикшулуб. Раскопки подтвердили возраст и происхождение кратера. Продолжались дебаты по вопросу о том, может ли такое столкновение вызвать вымирание, но информации становилось все больше, и постепенно формировался консенсус. Особенно важными стали открытие в начале 1980-х годов ядерной зимы, которое показало, что высокое темное облако такого типа может не только затемнить, но и охладить Землю, а также растущее количество данных о том, что столкновение спровоцировало испарение серосодержащих пород с морского дна, в результате чего поднялось огромное количество серной взвеси, еще сильнее затемнившей и охладившей планету[153].

Поскольку становилось все очевиднее, что Земля подвержена столкновениям с крупными астероидами и кометами, люди начали воспринимать эту угрозу всерьез. Сначала о ней стали писать в научной фантастике, а затем – в научных статьях[154]. Гипотеза Альвареса о том, что последнее массовое вымирание было спровоцировано падением астероида, подтолкнула Шумейкера провести в 1981 году судьбоносную конференцию, которая положила начало изучению импактных угроз. Ученые выступили с амбициозным предложением по поиску и отслеживанию астероидов. В свете растущего общественного интереса к угрозе импакта оно получило поддержку обеих партий в Конгрессе США[155]. В 1994 году конгресс поставил перед NASA задачу обнаруживать и отслеживать 90 % всех околоземных объектов диаметром более километра[156].

До сих пор внимание было главным образом сосредоточено на астероидах, поскольку они встречаются чаще, их легче отслеживать и проще перенаправлять[157]. Астрономы классифицируют их по размеру[158]. Астероиды диаметром более десяти километров (как тот, что убил динозавров) грозят массовым вымиранием. Возможно, люди переживут этот катаклизм, но риск нашего вымирания явно высок. В прошлый раз погибли все сухопутные позвоночные массой более пяти килограммов[159]. Астероиды диаметром от одного до десяти километров грозят глобальной катастрофой и тоже могут оказаться достаточно велики, чтобы представлять экзистенциальный риск: столкновение с ними может привести либо непосредственно к вымиранию человечества, либо к необратимому коллапсу цивилизации. Хотя вероятность того, что падение астероида из этого диапазона размеров приведет к экзистенциальной катастрофе, значительно ниже, она компенсируется гораздо более высокой вероятностью такого столкновения.

На сегодняшний день обнаружено и отслежено так много околоземных астероидов, что мы имеем представление о том, сколько всего существует астероидов, орбита которых проходит в непосредственной близости от Земли. Это говорит нам о том, что вероятность столкновения астероида с Землей на протяжении усредненного века составляет в среднем 1 к 6000 для астероидов диаметром 1–10 км и примерно 1 к 1,5 млн для астероидов диаметром более 10 км.

Но что насчет конкретно нашего века? Анализируя точные траектории известных астероидов, астрономы определяют, существует ли реальная угроза их столкновения с Землей в последующие сто лет. К моменту написания этой книги обнаружено 95 % астероидов диаметром более километра, и ни один из них не имеет ощутимых шансов на столкновение с Землей. Таким образом, почти весь остальной риск исходит от тех 5 %, которые нам пока не удалось отследить[160]. Что касается астероидов диаметром более десяти километров, то новости еще лучше, поскольку астрономы почти уверены, что нашли их все и непосредственной угрозы они не представляют[161]. С учетом данных о траектории их движения вероятность столкновения с Землей в следующие сто лет составляет примерно 1 к 120 тысячам для астероидов диаметром 1–10 км и около 1 к 150 млн для астероидов диаметром более 10 км[162].

Такие шансы сильно обнадеживают. Хотя реальный риск сохраняется, он подробно изучен и стремится к нулю. Это известный риск, но небольшой. Если человечеству и грозит вымирание в следующем столетии, почти наверняка его причиной станет не столкновение с кометой или астероидом.

Таблица 3.1. Данные об отслеживании околоземных астероидов в двух размерных категориях. В последних двух колонках показаны долгосрочная вероятность столкновения в столетие в среднем и вероятность столкновения в следующие сто лет (причем опасность представляют лишь еще не обнаруженные астероиды)[163].

Хотя кое-что остается неизвестным, в целом можно сказать, что человечество держит ситуацию под контролем. Прошло всего 12 лет с того момента, когда ученые впервые осознали риск глобальной катастрофы, до дня, когда правительство приняло их доводы всерьез. Теперь, 28 лет спустя, отслежены почти все крупные астероиды. Ведется международное сотрудничество, и существует организация, сформированная под эгидой ООН, а также международный альянс программ космической безопасности[164]. Работа хорошо отлажена, и финансирование NASA в 2010–2016 годах увеличилось более чем в десять раз[165]. На мой взгляд, ни один другой экзистенциальный риск не контролируется так хорошо, как риск столкновения с астероидами и кометами.

Каковы дальнейшие шаги? Астрономы добились таких успехов в отслеживании астероидов, что, возможно, настало время переключить внимание на кометы[166]. Хотя очень сложно сказать наверняка, я подозреваю, что исходящая от них угроза сравнима с угрозой от необнаруженных астероидов[167]. Если астрономы продолжат работу, у них, вероятно, получится вписать короткопериодические кометы в схему рисков, которую они используют для астероидов, и усовершенствовать навыки обнаружения и изучения долгопериодических комет.

Поскольку мы хорошо представляем вероятность столкновения с астероидом, оценить величину связанного с ним экзистенциального риска затруднительно главным образом потому, что неясно, с какой вероятностью такое столкновение приведет к гибели человечества, особенно если на Землю упадет астероид диаметром 1–10 км. Полезно было бы построить модели продолжительности и степени серьезности импактных зим, опираясь при этом на новейшие климатические модели и модели ядерной зимы.

Что мы могли бы сделать, если бы обнаружили астероид, летящий прямо к Земле? Наша находка не имела бы смысла, если бы у нас не было способа смягчить удар. В худшем случае мы могли бы подготовиться к катастрофе: использовать время, оставшееся до столкновения, чтобы запастись едой, построить убежища и разработать лучшие стратегии для выживания. Но было бы гораздо лучше вообще избежать удара.

Чтобы противостоять астероидам, можно как уничтожать их, так и отклонять от курса. Для выполнения любой из этих задач подходит множество технологий, включая ядерные взрывы, кинетические удары и ионные пучки[168]. Чтобы снизить вероятность неудачи, можно применять несколько методов одновременно.

Чем раньше становится известно о грядущем столкновении, тем проще бороться с астероидами. В этом случае у нас больше времени на разработку и развертывание системы отражения ударов и легче постепенно изменять курс астероида. К несчастью, неясно, сумеем ли мы создать действенную систему для успешного отражения астероидов диаметром более нескольких километров – тех, которые беспокоят нас сильнее всего[169].

Идут споры о том, не стоит ли прилагать больше усилий, чтобы заблаговременно разрабатывать методы отражения ударов[170]. Главная проблема в том, что методы отражения астероидов от Земли также дают возможность направлять астероиды к Земле. Это может произойти случайно (например, при захвате астероидов для добычи полезных ископаемых) или намеренно (например, в ходе войны или при сознательной попытке уничтожить цивилизацию). Столкновение с астероидом по вине человека крайне маловероятно, но тем не менее может оказаться большим риском[171]. В конце концов, вероятность столкновения с астероидом диаметром 1 км и более в этом веке вообще составляет 1 к 120 тысячам, и нам нужна безмерная самоуверенность, чтобы сказать, что добавочный риск, связанный с вмешательством человека, оценивается еще ниже.

Таким образом, изучая стратегии отражения астероидов, можно сравнивать частотные вероятности с логическими, которые присваиваются беспрецедентным событиям. По понятным причинам, принимая решения, мы часто предпочитаем полагаться на частотные вероятности. Но в этом случае логическая вероятность значительно выше, что вполне обоснованно, и поэтому нельзя закрывать на нее глаза. Готовность всерьез размышлять о неточных вероятностях беспрецедентных событий имеет первостепенное значение при оценке угроз человеческому будущему.

Мегаизвержения

Возможно, более серьезная опасность грозит человечеству не снаружи, а изнутри Земли. Крупнейшие извержения вулканов, во время которых в воздух вылетает более 1000 кубических километров породы, называются мегаизвержениями[172]. В отличие от более типичных вулканов, имеющих коническую форму и возвышающихся над поверхностью Земли, супервулканы, как правило, извергают столько магмы, что проваливаются и оставляют после себя огромную, напоминающую кратер впадину, или кальдеру[173]. Одна из самых знаменитых кальдер – Йеллоустонская, последнее извержение которой состоялось 630 тысяч лет назад[174].

Мегаизвержения причиняют гораздо больший урон, чем любые катастрофы на памяти человечества. Всё в радиусе 100 километров от взрыва оказывается погребенным под обломками раскаленной породы. Весь континент застилает толстым слоем пепла. Когда 74 тысячи лет назад случилось извержение индонезийского вулкана Тоба, Индия была засыпана метровым слоем пепла и даже в Африке обнаруживались его частицы. Впрочем, как и в случае с астероидами и кометами, поистине экзистенциальную угрозу представляют затемненные небеса.

Темная вулканическая пыль и светоотражающая серная взвесь, поднявшиеся в результате извержения Тобы, привели к началу “вулканической зимы”, когда температура по всему миру, как считается, опустилась на несколько градусов и не повышалась несколько лет[175]. Даже гораздо менее мощное извержение индонезийского вулкана Тамбора, в сто раз слабее извержения Тобы, в 1815 году вызвало глобальное похолодание на 1 °C, что привело к неурожаю и июньским снегопадам в таких далеких от этого места регионах, как США, и тот год в результате прозвали “годом без лета”[176].

Специалисты по мегаизвержениям обычно не говорят, что такие катастрофы представляют непосредственную угрозу вымирания человечества. Хотя поначалу находились свидетельства, что извержение Тобы едва не уничтожило человечество 74 тысячи лет назад, в свете данных, полученных позднее, это кажется весьма маловероятным[177]. Поскольку это извержение было самым мощным из известных нам за последние 2 миллиона лет, а человечество сегодня в тысячи раз более многочисленно и расселено по гораздо большей территории на планете, можно сделать вывод, что вымирание в результате мегаизвержения крайне маловероятно[178]. Возможно, оно окажет на Землю примерно такое же воздействие, как столкновение с астероидом диаметром 1–10 км, и весь мир будет много лет подряд страдать от неурожая. Поскольку мировых запасов продовольствия хватит всего примерно на шесть месяцев, есть вероятность, что миллиарды людей умрут от голода, а цивилизацию постигнет глобальный коллапс. Думаю, вполне возможно, что даже в случае коллапса цивилизация возродится. Но если этого не произойдет, такая катастрофа будет считаться экзистенциальной.

История Земли знает и более мощные проявления вулканической активности. Около 250 млн лет назад произошло излияние Сибирских траппов. На поверхность вышло более миллиона кубических километров расплавленной породы, которая, изливаясь из недр, покрыла лавой территорию размером с Европу. Ученые предполагают, что вулканические газы, вышедшие в то время, возможно, вызвали вымирание в конце пермского периода – самое крупное массовое вымирание в истории Земли[179].

Такие извержения называются излияниями базальта, поскольку в ходе них на поверхность выходит именно эта порода. Они отличаются от мегаизвержений, описанных на этих страницах, по двум ключевым параметрам.

Они происходят гораздо медленнее, в ходе серии извержений, растянутой на тысячи и миллионы лет. Важнее всего, что такие события случаются примерно в тысячу раз реже, чем взрывные мегаизвержения, а именно раз в 20–30 млн лет. Хотя кажется весьма вероятным, что от них исходит непосредственная угроза существованию человечества, их риск не может оцениваться выше, чем 1 к 200 тысячам на век, что выше, чем риск столкновения с астероидом диаметром 10 км, но гораздо ниже, чем некоторые другие риски, которые мы проанализируем.

Хотя геологи обнаружили следы десятков мегаизвержений, их частота остается загадкой. По недавним оценкам, они происходят в среднем раз в 20 тысяч лет, но это весьма неточно. Если пользоваться той же методикой, то для извержений масштабов Тобы частота составит в среднем раз в 80 тысяч лет, но точность этой оценки будет еще ниже[180].

Что можно сказать по поводу следующего столетия? По мере обнаружения все новых и новых астероидов астрономы смогли установить, что следующий век будет безопаснее среднестатистического. К несчастью, вулканы гораздо менее предсказуемы, чем астероиды. Хотя мы знаем, где произошло большинство мегаизвержений в прошлом, очень сложно предсказать, извергнутся ли эти вулканы в ближайшие годы, а если извержение действительно произойдет, то узнать о нем мы сможем лишь в последний момент.

Таблица 3.2. Вековая вероятность мегаизвержения. Обратите внимание, что существуют веские основания полагать, что даже крупнейшие извержения вряд ли приведут к вымиранию или необратимому коллапсу. Оценки вероятности крайне неточны: доверительный интервал для извержений мощностью 8–9 баллов – от 1 к 50 до 1 к 500 в столетие, а для извержений мощностью 9 и более баллов – от 1 к 600 до 1 к 60 тысячам.

Нам почти ничего не известно о том, как предотвратить или задержать грядущее мегаизвержение. Недавно NASA предварительно исследовало возможность постепенно выкачивать жар из Йеллоустонской кальдеры, но подобные исследования находятся пока на самых ранних стадиях, поэтому очевидно, что любое взаимодействие с активным вулканом – особенно с вулканом, который связан с мегаизвержениями прошлого, – требует огромной осторожности[181]. Пока лучшая стратегия для работы с риском мегаизвержений заключается в том, чтобы готовиться к смягчению ущерба: запасаться продуктами длительного хранения или разрабатывать техники производства продовольствия в чрезвычайных ситуациях.

В отличие от риска, исходящего от астероидов и комет, мы только начинаем осознавать риск мегаизвержений и работать с ним. Вероятно, управлять этим риском существенно сложнее, поскольку прогнозирование и предотвращение извержений сопряжено с бо́льшими трудностями. Но важнее всего, что угроза уничтожения цивилизации в результате такой катастрофы в последующее столетие примерно в 100 раз серьезнее, чем совокупная угроза астероидов и комет. Таким образом, мегаизвержения, по всей видимости, представляют больший риск и требуют большего внимания.

Далее можно предпринять целый ряд перспективных шагов. Для начала нужно отыскать все места, где ранее случались мегаизвержения. Также необходимо скорректировать весьма грубые оценки частоты мегаизвержений, особенно самых мощных и самых опасных. Нужно гораздо глубже изучить влияние мегаизвержений на климат, чтобы понять, при какой мощности они представляют реальный риск для человечества[182]. Кроме того, я подозреваю, что мы можем извлечь немало ценных уроков, если изучим, как осуществляется моделирование рисков и управление ими в более продвинутой в этом отношении сфере оценки рисков, связанных с астероидами.

Звездные вспышки

В каждой звезде идет непрерывная борьба двух сил. Гравитация сжимает звезду, а давление – разжимает. Большую часть жизни звезды эти силы уравновешивают друг друга, не позволяя звезде сжаться в точку или рассеяться в космосе[183]. Но некоторые звезды доживают до момента, когда давление катастрофически снижается, не выдерживая натиска гравитации, и после этого схлопываются с релятивистской скоростью[184]. Их плотность мгновенно повышается до невероятных значений, что приводит к новой волне огромного давления, под действием которого звезда взрывается и становится так называемой сверхновой. На краткий миг эта единственная звезда сияет ярче всей своей галактики. За считаные секунды она испускает столько же энергии, сколько наше Солнце испустит за все десять миллиардов лет своего существования.

О сверхновых впервые заговорили древнекитайские астрономы, когда в 185 году н. э. на небе над ними неожиданно появилась новая яркая звезда. Но ученые начали постигать их лишь в 1930-х годах и только в 1950-х поняли, что сверхновая, находящаяся неподалеку от Земли, может представлять угрозу планете[185].

В 1969 году ученые открыли новый и нетривиальный тип звездной вспышки. В разгар холодной войны США запустили несколько спутников-шпионов, чтобы следить за секретными ядерными испытаниями, которые можно было обнаружить по характерной вспышке гамма-излучения. Спутники стали засекать короткие гамма-всплески, которые сильно отличались от вспышек, возникающих при испытаниях ядерного оружия. Астрономы определили, что идти от Земли – и даже из Млечного Пути – они не могут, а потому, должно быть, происходят из чрезвычайно далеких галактик, находящихся в миллиардах световых лет от нас[186]. Загадка этих гамма-всплесков не решена и сегодня. Главенствующая теория гласит, что более длинные всплески связаны со сверхновыми редкого типа, а более короткие – со столкновениями нейтронных звезд. Количество энергии, которая высвобождается при каждом всплеске, сравнимо с тем, что высвобождается при взрыве сверхновой, но сосредоточено в двух узких конусах, направленных в противоположные стороны, что и позволяет засекать эти вспышки на огромных расстояниях[187]. Так, в марте 2008 года Земли достиг свет от гамма-всплеска в галактике, находящейся в 10 млрд световых лет от нас, и этот свет был по-прежнему достаточно ярок, чтобы заметить его невооруженным глазом[188].

Взрыв сверхновой или гамма-всплеск неподалеку от Солнечной системы мог бы привести к катастрофическим последствиям. Хотя сами гамма-лучи и космические лучи в таком случае не достигнут поверхности Земли, угрозу могут представлять реакции, которые они запускают в земной атмосфере. Наиболее важна, пожалуй, выработка оксидов азота, которые изменят климат на Земле и нанесут серьезный урон озоновому слою. Последний эффект считается самым смертоносным, поскольку на некоторое количество лет мы станем гораздо сильнее подвержены ультрафиолетовому излучению[189].

Астрономы оценили вероятность того, что такие события произойдут достаточно близко к Земле, чтобы вызвать глобальную катастрофу, определяемую глобальным истощением озонового слоя на 30 % и более. (Подозреваю, это будет представлять меньшую угрозу для цивилизации, чем соответствующие пороги для астероидов, комет и мегаизвержений.) В среднем вероятность таких событий в столетии составляет примерно 1 к 5 млн для взрывов сверхновых и 1 к 2,5 млн для гамма-всплесков. Как и в случае с астероидами, мы можем получить более точную оценку для следующих 100 лет, исследуя небо в поиске надвигающихся угроз. С гамма-всплесками ситуация обстоит сложнее, поскольку они хуже изучены и могут наносить удар из гораздо более далеких областей. Пока не найдено ни одной потенциальной опасности любого из этих типов, тем не менее вероятность их возникновения не исключена полностью, в связи с чем риск таких событий в следующее столетие оказывается несколько ниже среднего[190].

Таблица 3.3. Вековая вероятность звездной вспышки, которая вызовет на Земле катастрофу, в результате чего озоновый слой истощится более чем на 30 %[191].

Эти вероятности очень малы – судя по всему, как минимум в 20 раз ниже, чем вероятность катастроф подобного масштаба, вызванных столкновением с астероидами и кометами, и как минимум в 3000 раз ниже, чем вероятность катастроф в результате мегаизвержений. И все же нам бы хотелось избавиться от некоторых оставшихся сомнений в этих цифрах, прежде чем мы сможем списать этот риск со счетов. Нужно продолжить исследования, чтобы определить порог мощности, при преодолении которого звездные вспышки могут приводить к вымиранию. Можно также начать каталогизировать потенциальных кандидатов в сверхновые в радиусе 100 световых лет, определяя, насколько мы уверены в том, что ни один из них не взорвется в следующее столетие. В более широком смысле нам следует совершенствовать модели этих рисков и избавляться от неопределенности, пытаясь выйти на тот же уровень понимания, какого мы достигли при изучении астероидов и комет[192].

Другие природные риски

Потенциальных катастроф хватает с избытком. Даже сосредоточившись лишь на рисках, имеющих весомое научное обоснование, я могу подробно проанализировать еще немалое их число. Однако ни один из них не лишает меня сна.

Некоторые угрозы представляют реальные риски в долгосрочной перспективе, но никаких рисков в следующее тысячелетие. Главный из них – грядущее увеличение яркости Солнца, которое создаст очень высокий риск вымирания, но начнется лишь примерно через миллиард лет[193]. Возвращение в ледниковый период вызовет значительные трудности для человечества, но в следующее тысячелетие оно фактически исключено[194]. Эволюционные сценарии, такие как деградация человечества или преобразование человечества в новый вид, также не представляют угрозы в ближайшие тысячу лет.

Вероятность некоторых угроз, как известно, исчезающе мала. Так, прохождение звезды по Солнечной системе могло бы изменить орбиты планет, в результате чего Земля могла бы замерзнуть, свариться или даже столкнуться с другой планетой. Но в следующие 2 млрд лет вероятность этого составляет всего 1 к 100 тысячам[195]. Это также может произойти из-за хаотической нестабильности орбитальной динамики, но и здесь вероятность исключительно мала. Некоторые физические теории дают основание полагать, что нестабилен может быть и сам пространственный вакуум, который может “схлопнуться” и образовать истинный вакуум. Он распространится тогда со скоростью света, уничтожая все живое на своем пути. Однако вероятность этого не может быть выше 1 к 10 млн на столетие, и обычно считается, что она гораздо ниже[196].

Некоторые угрозы не являются экзистенциальными – они не прокладывают очевидного пути к вымиранию человечества или к необратимому коллапсу. Это верно по отношению ко многим локальным и региональным катастрофам, таким как ураганы и цунами. Таков же характер некоторых глобальных рисков. Например, все магнитное поле Земли может сильно смещаться и порой полностью меняет направление. Из-за этих сдвигов мы становимся более уязвимы для космических лучей в то время, которое уходит на переориентацию поля[197]. Но это случается достаточно часто, и поэтому понятно, что риска вымирания при этом не возникает (с тех пор как разошлись линии человека и шимпанзе, такое происходило около 20 раз за 5 млн лет). Поскольку единственным хорошо изученным эффектом смещения магнитного поля является некоторое повышение уровня заболеваемости раком, речи о риске коллапса цивилизации тоже не идет[198].

Наконец, некоторые угрозы имеют природное происхождение, но влияние, оказываемое ими, серьезно усугубляется деятельностью человека. В связи с этим они занимают промежуточное положение между категориями природных и антропогенных рисков. К ним относятся пандемии “естественного происхождения”. По причинам, которые скоро станут очевидны, я не включаю их в число природных рисков, а провожу их анализ в пятой главе.

Общий природный риск

Поразительно, что многие из этих рисков были открыты совсем недавно. Об инверсии магнитного поля стало известно в 1906 году. Первые доказательства, что Земля пережила столкновение с крупным астероидом или кометой, появились в 1960 году. А о существовании гамма-всплесков мы не подозревали до 1969 года. На протяжении почти всей своей истории мы подвергались рискам, о которых даже не знали.

Нет причин полагать, что серия открытий закончилась – что мы первое поколение, которое открыло все природные риски, грозящие нам. Безусловно, еще слишком рано делать вывод, что мы узнали все возможные механизмы естественного вымирания, ведь предшествующим крупным массовым вымираниям объяснение еще не нашлось.

Тот факт, что наши знания, очевидно, неполны, представляет серьезную проблему для любой попытки осознать масштаб природного риска, составив список известных угроз. Даже если бы мы изучили все природные угрозы, перечисленные в этой главе, настолько полно, что постигли бы каждую их тонкость, мы не могли бы сказать наверняка, что охватили даже небольшую часть истинного ландшафта рисков.

К счастью, выход есть, поскольку существует способ непосредственно оценить общий природный риск. Для этого нужно изучать не метеоритные кратеры и не коллапсирующие звезды, а останки видов, которым они угрожали. Ископаемые находки – наш самый богатый источник информации о том, как долго жили виды вроде нас, а следовательно, об общем риске вымирания, с которым они сталкивались[199]. Мы изучим три способа использования ископаемых находок для определения верхнего предела природного риска вымирания, которому мы подвергаемся, и все они дадут нам утешительные результаты[200]. Однако, поскольку этот метод применим лишь непосредственно к риску вымирания, сохранится некоторая неопределенность, связанная с риском необратимого коллапса цивилизации[201].

Насколько высоким может быть природный риск вымирания? Представьте, что он составлял бы 1 % на век. Сколько просуществовало бы человечество? В среднем лишь 100 веков. Но ископаемые находки говорят нам, что Homo sapiens живет на планете уже около 2000 веков[202]. При риске в 1 % на век было бы почти невозможно протянуть так долго: вероятность более раннего вымирания составила бы 99,9999998 %. Таким образом, мы спокойно можем исключить общий риск в 1 % и более. Какой же будет его реалистичная оценка? Опираясь на живучесть Homo sapiens, мы можем сделать наиболее вероятное предположение и определить верхний предел такого риска.

Сформулировать единственное наиболее вероятное предположение на удивление сложно. Нам, возможно, захочется сказать, что риск составляет 1 к 2000, но такое предположение было бы наиболее вероятно, если бы человечество существовало на протяжении 2000 веков и столкнулось с одним вымиранием. На самом деле вымираний вообще не было, поэтому оценку следует снизить. Но риск не может составлять 0 к 2000, поскольку в таком случае это значило бы, что вымирание вообще невозможно, а потому мы имеем все основания полагать, что его не случится[203]. Специалисты по статистике ведут любопытный спор о том, как оценивать вероятность в таких случаях[204]. Но все предлагаемые методы дают цифры от 0 к 2000 до 1 к 2000 (то есть от 0 до 0,05 %). Получается, мы можем считать этот диапазон грубой оценкой риска.

Отталкиваясь от того, что пока нам удавалось выжить, мы можем также определить верхний предел общего природного риска вымирания. Например, если бы риск составлял более 0,34 % на век, вероятность того, что мы уже вымерли бы, равнялась бы 99,9 %[205]. В связи с этим мы говорим, что риск выше 0,34 % на век исключается с уверенностью на уровне 99,9 %, а этот вывод весьма значим по обычным научным стандартам (эквивалентен p-значению 0,001)[206]. Таким образом, 2000 веков существования Homo sapiens говорят, что “наиболее вероятная” оценка риска будет пребывать в диапазоне от 0 до 0,05 % при верхнем пределе на уровне 0,34 %.

Таблица 3.4. Оценки и пределы общего векового природного риска вымирания, вычисленные на базе того, сколько уже просуществовало человечество, при использовании трех разных подходов к определению человечества.

Но что, если Homo sapiens не релевантная категория? Мы заинтересованы в выживании человечества и вполне можем полагать, что в него входит не только наш вид. Так, неандертальцы были очень похожи на Homo sapiens, и хотя степень их скрещивания по-прежнему остается предметом споров, возможно, лучше всего считать их подвидами. Они ходили прямо, делали сложные орудия, выстраивали сложные социальные связи, были внешне похожи на Homo sapiens и, возможно, даже пользовались речью. Если включить их в категорию человечества, можно расширить нашу историю до того момента, когда на планете жили последние общие предки неандертальцев и Homo sapiens, что было около 500 тысяч лет назад[207]. Вполне естественно также оценивать не наш вид, а наш род – Homo. Он существует более 2 млн лет. В сочетании с методами, описанными выше, такой подход даст нам более низкую вековую вероятность вымирания.

Особенно сложно исследовать вероятность события, которое воспрепятствовало бы самому проведению этого исследования. Каким бы вероятным оно ни было, мы неизбежно понимаем, что событие не произошло. Мы сталкиваемся с этой проблемой, когда смотрим на историю вымирания Homo sapiens, и это может искажать наши оценки[208].

Представьте, что существовало бы 100 таких же планет, как наша. Человечество могло бы быстро исчезнуть на 99 из них, а могло бы не исчезнуть ни на одной, но люди, изучающие собственную планету, всегда приходили бы к выводу, что человечество не сталкивалось с вымиранием, ведь иначе их бы вовсе не было на свете. Таким образом, они не могли бы использовать сам факт своего выживания для оценки того, на какой части планет люди выживают. Этот пример показывает, что мы тоже не можем сделать значимых выводов о своем выживании в будущем исключительно на основании того факта, что пока нам удавалось выживать.

При этом мы можем опираться на данные о продолжительности нашей жизни (что и делаем в этой главе), поскольку наблюдению поддается более одной величины, а долгая продолжительность жизни менее вероятна в мирах с высокими рисками. Но если полностью учесть возможность такой ошибки выжившего, оценки риска все равно могут измениться[209].

К счастью, оценка риска путем анализа выживания других видов более устойчива к таким эффектам и тем не менее дает сходные ответы, что не может не обнадеживать.

Вторая техника оценки общего природного риска вымирания на базе ископаемых находок предполагает изучение не самого человечества, а похожих на него видов. Такой подход существенно увеличивает количество имеющихся у нас свидетельств. Поскольку в число примеров входят и виды, которые в итоге вымерли, исчезают проблемы, связанные с отсутствием сведений о неудачных исходах. Минусы в том, что другие виды могут быть не столь показательными по части рисков, с которыми сталкивается человечество, а также в том, что выбор видов для изучения может быть предвзятым.

Проще всего применить эту технику, взяв для примера виды, наиболее похожие на наш. В наш род, Homo, входит четыре других вида, продолжительность существования которых имеет разумные оценки[210]. Они существуют от 200 тысяч до 1,7 млн лет. Если нам грозит примерно такой же, как кому-то из них, риск вымирания от природных катастроф, то его значение пребывает в диапазоне от 0,006 до 0,05 %[211].

Можно пойти другим путем: раскинуть сеть значительно шире и добиться большей статистической устойчивости, взяв для оценки и менее схожие с нами виды. Типичная продолжительность жизни вида млекопитающих оценивается примерно в 1 млн лет, а виды, для которых имеются ископаемые находки, в среднем существовали от 1 до 10 млн лет. Это позволяет сделать вывод, что риск составляет от 0,001 до 0,01 % на век – или даже ниже, если мы обладаем большей живучестью, чем типичный вид (см. Таблицу 3.5).

Таблица 3.5. Оценки общего природного риска вымирания на столетие, данные на основе времени жизни родственных видов.

Обратите внимание, что во всех этих оценках продолжительности жизни видов учитываются и другие причины вымирания, помимо катастроф: например, один вид может постепенно проиграть конкуренцию другому, который выделился из первого. В связи с этим такие оценки несколько завышают риск катастрофического вымирания[212].

При применении последней техники оценки общего природного риска вымирания на столетие нужно помнить, что мы так многочисленны, так широко распространены по миру, так способны к жизни в весьма разнообразных средах и так хорошо умеем за себя постоять, что, возможно, найдем в себе силы противостоять всем природным катастрофам, не считая тех, что вызывают массовые вымирания. В таком случае нам стоит взглянуть на статистику массовых вымираний, чтобы определить частоту таких событий.

Подробная палеонтологическая летопись начинается 540 млн лет назад с кембрийского взрыва – стремительного увеличения количества сложных форм жизни и их разделения на большинство основных категорий, знакомых нам сегодня. После этого произошел ряд массовых вымираний – катастрофических событий, когда на всей планете гибло множество видов живых организмов. Пять из них были особенно серьезными и приводили к вымиранию не менее 75 % видов (см. Таблицу 3.6). Последней из пяти стала катастрофа, положившая конец эпохе динозавров. Если они показывают, каким должен быть масштаб природного катаклизма, чтобы вымерли люди, то у нас было пять таких событий за 540 млн лет, а следовательно, вековая вероятность природного вымирания составляет примерно один на миллион (0,0001 %).

Таблица 3.6. Доля видов, вымерших в каждом из пяти крупнейших массовых вымираний[213].

Все три описанных техники, основанные на изучении ископаемых находок, дают лучшие результаты в применении к угрозам, которые могли бы подвергнуть современных людей примерно такому же риску вымирания, как и существ, гибель или выживание которых мы хотим использовать для получения информации, – древних людей, других видов на протяжении истории, а также жертв массовых вымираний. Безусловно, дело не всегда обстоит таким образом. Мы стали менее уязвимыми для множества природных рисков. Так, расселение по всей планете позволяет нам переживать региональные бедствия, а еще мы обладаем беспрецедентными возможностями принимать меры в случае глобальных катастроф. Это значит, что истинный уровень риска, вероятно, будет ниже оценочного и что даже “наиболее вероятные предположения” следует считать лишь консервативными пределами общего природного риска.

Более серьезную проблему представляют риски, которые оказываются значительно выше для людей сегодня, чем для древних людей или родственных видов. К ним относятся все антропогенные риски (именно поэтому в этом разделе рассматриваются только природные риски). Кроме того, к ним могут относиться и некоторые риски, которые часто считаются природными[214].

Главный из них – риск пандемий. Хотя вспышки заболеваний обычно не кажутся нам антропогенными, социальные и технологические перемены, произошедшие после промышленной революции, значительно повысили вероятность и степень воздействия пандемий. Ведение сельского хозяйства увеличило вероятность передачи инфекций от животных человеку, совершенствование транспорта облегчило быстрое распространение болезней среди множества групп населения, а благодаря развитию торговли мы используем этот транспорт очень часто.

Хотя существует множество факторов, сглаживающих описанные эффекты (например, современная медицина, соблюдение карантина и эпидемиологический надзор), вполне вероятно, что риск пандемии для людей грядущих столетий гораздо выше, чем для древних людей и других видов, на которые мы ориентируемся при оценке пределов природных рисков. По этим причинам пандемии лучше не включать в число природных рисков, и мы поговорим о них позднее.

Мы проанализировали три разных способа использования палеонтологической летописи для оценки пределов общего природного риска вымирания человечества. Хотя ни одной из этих оценок не стоит придавать слишком большое значение, широкий диапазон результатов заслуживает доверия. Наиболее вероятные предположения колеблются в диапазоне от 0,0001 до 0,05 % на век. И даже по самым консервативным оценкам верхние пределы не превышают 0,4 %. Более того, мы понимаем, что называемые цифры, скорее всего, завышены: во-первых, потому что в них учитываются и некатастрофические вымирания, например при постепенном эволюционировании в новый вид, а во-вторых, потому что современное человечество более жизнеспособно, чем древние люди и другие виды. Это значит, что мы можем быть вполне уверены, что общий природный риск вымирания не превышает 0,5 %, а наиболее вероятно, что он ниже 0,05 %.

Когда мы рассматриваем все будущее, которое стоит на кону, огромную важность приобретает даже индивидуальный природный риск, например исходящий от астероидов. Впрочем, скоро мы увидим, что природные риски меркнут в сравнении с рисками, которые создаем мы сами. По моим оценкам, в следующее столетие антропогенный риск для нас примерно в тысячу раз выше природного, поэтому именно антропогенным рискам мы уделим основное внимание.

Существование человечества на протяжении 2000 веков позволяет нам значительно ограничить риск природных катастроф. Хотя эти риски реальны, крайне маловероятно, чтобы они воплотились в жизнь в течение последующих ста лет.

Однако история мощных промышленных технологий, которые тоже могут представлять экзистенциальные риски, не так продолжительна. После промышленной революции мы прожили 260 лет, а после изобретения ядерного оружия прошло всего 75 лет, и потому в последующее столетие сопряженные с технологиями риски могут как достигать 50 %, так и опускаться до 0 %. Какие у нас есть данные для оценки таких технологических рисков?

В этой главе мы проанализируем научные основания текущих антропогенных рисков, связанных с ядерным оружием, изменением климата и ухудшением состояния окружающей среды. (Риски, связанные с технологиями будущего, включая искусственные эпидемии, рассматриваются в следующей главе.) Мы сосредоточимся на худших из возможных сценариев и, в частности, выясним, существуют ли веские научные причины полагать, что такие риски могут вызвать вымирание человечества или необратимый коллапс цивилизации.

Ядерное оружие

Размышляя об экзистенциальном риске, сопряженном с применением ядерного оружия, мы первым делом представляем себе разрушения в результате полномасштабного ядерного конфликта. Однако задолго до холодной войны, еще до бомбардировки Хиросимы и Нагасаки, ученые были обеспокоены тем, что единственный ядерный взрыв может привести к гибели человечества.

Летом 1942 года американский физик Роберт Оппенгеймер провел в своем кабинете в Университете Калифорнии в Беркли серию тайных встреч, собрав у себя множество ведущих специалистов в его области знаний. Они пытались разработать первую атомную бомбу. В основе нее лежало недавнее открытие ядерного распада, или деления ядра крупного атома, например урана, на мелкие фрагменты с сопутствующим высвобождением ядерной энергии.

На второй день Эдвард Теллер, который десять лет спустя создаст водородную бомбу, впервые представил идею такой бомбы. Он отметил, что температура при ядерном взрыве превысит температуру в центре Солнца (15 000 000 °C). Именно такая гигантская температура позволяет Солнцу гореть: под ее действием ядра водорода соединяются и образуют гелий, а также беспрецедентное количество энергии. Этот процесс называется синтезом (или термоядерной реакцией), и он даже эффективнее распада[216]. Если окружить атомную бомбу таким топливом, как водород, реакция распада при ее взрыве может запустить описанную реакцию синтеза.

Работая над созданием этой бомбы, Теллер заметил, что если атомная бомба может запустить реакцию синтеза в своем топливе, то она могла бы также запустить аналогичную реакцию в окружающем мире. Она могла бы поджечь водород в воде и начать самоподдерживающуюся реакцию, которая привела бы к выгоранию земных океанов. Реакция могла бы начаться также в азоте, который составляет семь десятых нашего воздуха, в результате чего атмосфера загорелась бы и Землю объяло бы пламенем. В таком случае катастрофа уничтожила бы, вероятно, не только человечество, но и все сложные живые организмы на планете.

Когда Теллер сообщил об этом собравшимся ученым, начался жаркий спор. Блестящий физик Ханс Бете, который всего четырьмя годами ранее выяснил, как реакция синтеза питает энергией звёзды, отнесся к услышанному в высшей степени скептически и тотчас попытался опровергнуть предположения Теллера. Однако Оппенгеймер, руководивший разработкой бомбы, был очень обеспокоен. Пока остальные продолжали расчеты, он отправился на другой конец страны, чтобы лично сказать своему начальнику Артуру Комптону, что их проект, возможно, угрожает всему человечеству. В своих мемуарах Комптон описывает эту встречу:

(После войны выяснилось, что ученые в Германии тоже обнаружили эту угрозу и сообщили о ней даже Гитлеру, который счел услышанное поводом для черного юмора[218].)

Оппенгеймер вернулся в Беркли и выяснил, что Бете уже обнаружил серьезные изъяны в расчетах Теллера[219]. Поскольку ученые не смогли убедить всех физиков, что создание атомной бомбы безопасно, они в конце концов решили переключиться на другие темы. Позже Оппенгеймер поручил составить секретный научный доклад о возможности возгорания атмосферы[220]. В нем подкреплялись выводы Бете, что такой сценарий кажется маловероятным, однако не доказывалась его невозможность и не давалась оценка его вероятности[221]. Хотя в заключении доклада отмечалось, что “ввиду сложности вопроса и отсутствия удовлетворительных экспериментальных данных весьма желательно продолжить изучение предмета”, руководство лаборатории в Лос-Аламосе сочло, что дальнейших обсуждений не требуется.

И все же сомнения одолевали физиков до самого испытания “Тринити”, в ходе которого была взорвана первая атомная бомба[222]. Лауреат Нобелевской премии по физике Энрико Ферми, который также присутствовал на встрече в Беркли, опасался, что проведенные расчеты и высказанные предположения недостаточно точны и за ними скрывается истинная опасность. Они с Теллером снова и снова перепроверяли данные до самого дня испытания[223]. Президент Гарвардского университета Джеймс Конант настолько серьезно относился к этой угрозе, что, когда вспышка при взрыве оказалась гораздо ярче и пылала гораздо дольше, чем ожидалось, его обуял ужас: “Мне сразу показалось, что что-то пошло не так и действительно случилась термальная ядерная трансформация атмосферы, о возможности которой говорили ранее и вспоминали в шутку всего пару минут назад”[224].

Атмосфера не загорелась. Ни тогда, ни в ходе любого из более поздних ядерных испытаний. Узнав больше о ядерном синтезе и поручив расчеты компьютерам, физики подтвердили, что такой сценарий действительно невозможен[225]. И все же какой-то риск существовал. Создатели бомбы не знали, есть ли физическая возможность поджечь атмосферу, поэтому на том этапе это было возможно эпистемически. Хотя и выяснилось, что объективного риска нет, существовал серьезный субъективный риск, что разработанная ими бомба уничтожит человечество.

Современная наука прежде не сталкивалась с дилеммами такого типа. Мы вдруг нашли способ высвободить столько энергии, что повысили температуру до беспрецедентных в истории Земли значений. Наш разрушительный потенциал настолько возрос, что впервые нам пришлось задать вопрос о том, не уничтожим ли мы человечество, а также дать на него ответ. В связи с этим я веду отсчет Пропасти (нашей эпохи повышенного риска) от 11:29 утра (UTC) 16 июля 1945 года – точного времени проведения испытания “Тринити”.

Прошло ли человечество собственное испытание? Сумели ли мы справиться с первым экзистенциальным риском собственного производства? Возможно. Меня искренне трогают настойчивость Оппенгеймера и взволнованные речи Комптона. Но я сомневаюсь, что запущенного ими процесса оказалось достаточно.

Расчеты Бете и секретный доклад были хороши и детально изучены ведущими физиками мира. Но в военное время действовал особый режим секретности, в связи с чем этот доклад не подвергался внешней экспертной оценке силами незаинтересованной стороны, хотя в нашем представлении без этого не обойтись, если мы хотим удостовериться в качестве научного исследования[226].

Кроме того, хотя многие лучшие умы планеты посвятили себя решению физических задач в соответствующей сфере, нельзя сказать того же о работе с более общими задачами для определения того, как управлять риском, кого информировать, какой уровень риска приемлем и так далее[227]. Неясно, сообщили ли о потенциальном риске хотя бы одному избранному представителю граждан[228]. Складывается впечатление, что ученые и военные взяли на себя всю ответственность за деяние, которое угрожало всей жизни на Земле. Но были ли они вправе брать на себя эту ответственность?

С учетом слабости сделанных в докладе выводов, невозможности обеспечить независимое рецензирование и неослабевающих опасений уважаемых ученых были все основания просто отложить или отменить испытание. Когда ученые встречались в Беркли, многие из них серьезно опасались, что Гитлер станет первым и возьмет мир в заложники с помощью ядерного оружия. Однако к моменту испытания “Тринити” Гитлер был мертв, а Европа – освобождена. Япония отступала, и никто уже не боялся проиграть войну. На риск пошли по той же причине, по которой месяцем позже бомбы сбросили на японские города: чтобы быстрее покончить с войной, избежать потерь и вторжения, добиться более выгодных условий капитуляции, а также предупредить СССР о том, что США обрели новое мощное оружие. Эти причины нельзя назвать достаточно вескими, чтобы в одностороннем порядке принять решение рискнуть будущим человечества.

Насколько велик был этот риск? Сложно назвать точную цифру, ведь мы не знаем, как производилась оценка доступных в то время данных[229]. Ученые получили верный ответ, и потому, оглядываясь назад, мы склонны полагать, что результат был неизбежным. Однако встреча в Беркли положила начало своеобразному естественному эксперименту, поскольку тем летом на рассмотрении оказались два важных вопроса, связанных с термоядерным воспламенением. Покончив с вопросом о воспламенении атмосферы, ученые стали изучать, какой тип топлива позволил бы осуществление термоядерного взрыва. Они выбрали топливо на базе изотопа лития – лития-6[230]. Но природный литий содержал слишком мало этого изотопа, чтобы взрыв состоялся, поэтому они решили, что нужно избавиться от инертного по большей части лития-7, хотя это и затратно.

В 1954 году США провели испытания именно такой бомбы с кодовым наименованием “Касл Браво”. Время поджимало, поэтому концентратор лития-6 был наполнен лишь на 40 %, а большую часть топлива все равно составлял литий-7. При взрыве бомба выбросила гораздо больше энергии, чем ожидалось. Вместо 6 мегатонн она дала 15, что было в тысячу раз больше, чем в Хиросиме, и этот взрыв остался мощнейшим в американской истории[231]. Это также была одна из крупнейших в мире радиоактивных катастроф, в результате которой под облучение попали японское рыболовное судно и несколько населенных островов, расположенных в направлении ветра[232]. Оказалось, что группа из Беркли (и впоследствии физики из Лос-Аламоса) ошиблась насчет лития-7. Температура в момент взрыва взлетела до беспрецедентных значений и спровоцировала неожиданную реакцию, в результате чего литий-7 внес не меньший вклад, чем литий-6[233].

Тем летом в Беркли было сделано два важных термоядерных расчета, один из которых оказался верным, а другой – нет. Было бы ошибкой сделать на этом основании вывод, что риск воспламенения атмосферы в итоге дошел до 50 %[234]. Однако надежность расчетов явно была недостаточной для того, чтобы рисковать нашим будущим.

Через пятнадцать дней после атомной бомбардировки Японии Америка начала планировать ядерную войну с СССР[235]. На картах СССР начертили огромные круги, показывающие радиус действия бомбардировщиков, и на основе этого изучили, какие города уже можно разрушить, а для налета на какие потребуются новые авиабазы и технологические усовершенствования. Так началось планирование масштабной ядерной войны, которое продолжается на протяжении последних 75 лет.

В этот период стратегический ландшафт ядерной войны не раз менялся. Как правило, это происходило в ответ на такие технологические сдвиги, как быстрая разработка собственного ядерного вооружения в СССР; создание термоядерного вооружения, гораздо более мощного, чем бомбы, сброшенные на Японию; появление межконтинентальных баллистических ракет (МБР), способных поражать города на территории противника, давая ему всего полчаса на подготовку; создание крылатых ракет подводных лодок (КРПЛ), которые невозможно сбить при первом ударе, что гарантирует ядерный ответ; а также значительное увеличение общего количества ядерных боеголовок[236]. Политическая ситуация также менялась существенным образом, например после формирования НАТО и распада СССР. Таким образом, холодная война шла бессистемно, от одной стратегической ситуации к другой, причем в одних случаях возникала необходимость в превентивных ударах, в других – в ответных, а риск был то высоким, то низким.

Хотя мы пережили этот период, не вступив в ядерную войну, возникало немало моментов, когда мы подходили к ней гораздо ближе, чем могли предположить в то время (см. врезку “На волосок от гибели”). Большинство из них объяснялось человеческим фактором или технической ошибкой в системах быстрого реагирования, спроектированных для обнаружения приближающихся ядерных ударов и ответа на них в крайне ограниченное время. Ошибки случались чаще в периоды обострения военной напряженности, но периодически возникали и после окончания холодной войны. Системы были разработаны так, чтобы свести к минимуму число ложных срабатываний (случаев отсутствия реакции), но выдавали множество ложных тревог. Этот урок справедлив не только для риска ядерного конфликта, но и для рисков, связанных с другими сложными технологиями: даже когда на кону стоит судьба целой страны (или и того хуже), чрезвычайно сложно устранить все ошибки, связанные с работой людей и техники.

В последние 70 лет мы не раз оказывались в шаге от катастрофы, когда США и СССР приводили в состояние повышенной боевой готовности свои ядерные силы и угроза непреднамеренной ядерной войны становилась реальностью[237]. Я опишу три самых серьезных происшествия[238]. (См. Приложение C, где описывается еще одна опасная ситуация и приводится список чрезвычайных происшествий с ядерным оружием.)

Происшествие с тренировочной программой, 9 ноября 1979 года

В три часа ночи на мониторах четырех американских командных пунктов отобразилось большое число летящих в сторону США ракет – казалось, СССР нанес полномасштабный упреждающий ядерный удар. Определиться с ответом США необходимо было за считаные минуты, пока не была уничтожена значительная часть их собственных ракет. Старшее командование созвало совещание для оценки угрозы, перевело МБР в режим повышенной готовности, подготовило бомбардировщики-носители ядерного оружия к взлету и подняло по тревоге истребители для перехвата бомбардировщиков, летящих по направлению к США.

Однако, проверив исходные данные систем раннего обнаружения, военные не увидели никаких намеков на пуск ракет и поняли, что тревога была ложной. На мониторах отображалась реалистичная симуляция советского нападения, подготовленная для военных учений, которую по ошибке загрузили в действующую компьютерную систему. Когда генсек СССР Брежнев узнал об этом, он спросил у президента Картера: “Что же это за техника, которая дает такие сбои?”[239]

Происшествие в день осеннего равноденствия, 26 сентября 1983 года

В один из дней особенно острой конфронтации СССР и США, вскоре после полуночи мониторы в командном бункере советской спутниковой системы раннего предупреждения показали, что в США осуществлен пуск пяти МБР[240]. По инструкции дежуривший той ночью офицер Станислав Петров должен был сообщать о любом обнаруженном пуске своему начальству, которое в таком случае должно было отдать приказ о немедленном ответном ядерном ударе. Пять минут он напряженно обдумывал ситуацию, а затем, несмотря на сомнения, сообщил начальству, что тревога была ложной.

Он рассудил, что США вряд ли нанесли бы упреждающий удар всего пятью ракетами, которые отобразились на мониторах, и обратил внимание на отсутствие конденсационных следов. Оказалось, что ложную тревогу вызвали отражавшиеся от облаков солнечные лучи, которые советская спутниковая система приняла за вспышки при пуске ракет.

Часто говорят, что Петров той ночью “спас весь мир”. Это утверждение несколько преувеличено, ведь ядерный ответ могли отозвать и на нескольких других этапах (даже в двух других описанных здесь происшествиях военные ближе подошли к нанесению ответного удара по сигналу предупреждения). Но ситуация, несомненно, была опасной, поскольку, если бы в результате некорректной работы спутника система распознала бы в отражении солнечного света целую сотню ракет вместо пяти, этого, возможно, оказалось бы достаточно, чтобы спровоцировать ядерный ответ[241].

Норвежский ракетный инцидент, 25 января 1995 года

Даже после холодной войны американские и российские ракетные системы оставались в состоянии повышенной боевой готовности. В 1995 году российский радар засек пуск единственной ракеты, нацеленной на Россию, – возможно, с целью вывести из строя российский радар с помощью электромагнитного импульса, чтобы скрыть тем самым более мощный последующий удар. О предупреждении быстро сообщили по цепочке командования, и президент Борис Ельцин открыл российский “ядерный чемоданчик” и стал рассматривать возможность санкционировать ответный ядерный удар.

Но спутниковые системы не засекли никаких ракет, а радар вскоре определил, что запущенная ракета приземлится за пределами России. Тревога была отменена, и Ельцин закрыл чемоданчик. Ложную тревогу вызвал пуск норвежской ракеты в научных целях – для изучения северного сияния. Россия была о нем проинформирована, но операторы радиолокационной установки предупреждения не получили[242].

Что случилось бы, если бы все же разразилась полномасштабная ядерная война? В частности, действительно ли в таком случае возникла бы угроза вымирания человечества или необратимого коллапса цивилизации?

Хотя часто можно услышать, что нашего ядерного оружия хватит, чтобы много раз уничтожить весь мир, это не более чем пустая болтовня. Судя по всему, говоря так, люди наивно пересчитывают число жертв бомбардировки Хиросимы с поправкой на увеличение мирового ядерного арсенала, а затем сравнивают результат с численностью населения Земли[243]. Однако на самом деле все гораздо сложнее и неоднозначнее.

Ядерная война оказывает как местное, так и глобальное воздействие. К местному относятся сами взрывы и вызываемые ими пожары. Они приведут к разрушениям и уничтожат десятки или даже сотни миллионов человек[244]. Но причиной вымирания они не станут, поскольку затронут лишь большие и малые города, а также военные цели в противоборствующих странах. Угрозу человечеству как таковому представляют глобальные последствия ядерной войны.

Первое из них – радиоактивные осадки, или пыль от взрывов, которая поднимется в воздух, распространится по огромной территории и затем осядет на землю. Теоретически применение ядерного оружия может привести к выпадению достаточного количества радиоактивных осадков, чтобы радиация достигла смертельного уровня на всей поверхности Земли. Но теперь мы знаем, что для этого понадобилось бы в десять раз больше оружия, чем есть у нас сейчас[245]. Возможно, сейчас нам не удастся даже совершить намеренную попытку уничтожить человечество, доведя количество радиоактивных осадков до максимума (то есть применить гипотетическую кобальтовую бомбу)[246].

Только в начале 1980-х годов – почти через сорок лет после начала атомной эпохи – мы узнали о том, что сегодня считается самым серьезным последствием ядерной войны. В случае ядерной войны огненные смерчи в горящих городах выбросят в небо огромные столбы дыма, поднимая черную сажу прямо в стратосферу. На такой высоте она не вымывается дождем, поэтому мир постепенно затянет темной пеленой сажи. Это будет мешать поступлению солнечного света, то есть охлаждать, затемнять и иссушать мир. Резко снизится урожайность основных культур, и миллиарды людей окажутся на грани голодной смерти в разгар ядерной зимы.

Сначала к ядерной зиме относились весьма скептически, поскольку многое оставалось невыясненным и казалось, что наука еще недостаточно развита, чтобы делать подобные выводы. С течением лет гипотезы и модели совершенствовались, природа угрозы изменилась, но базовый механизм выдержал проверку временем[247].

Сейчас наши наиболее четкие представления основываются на трудах Алана Робока и его коллег[248]. Хотя сначала изучение ядерной зимы ограничивалось построением примитивных климатических моделей, современные компьютеры и возросший интерес к изменению климата обусловили появление гораздо более продвинутых технических методов. Применив модель общей циркуляции океана и атмосферы, Робок обнаружил, что период охлаждения, предсказанный и более ранними моделями, продлится в пять раз дольше. Это указывало на более серьезные последствия, поскольку при таком понижении температуры сельское хозяйство может практически полностью остановиться, а прожить пять лет на запасах продовольствия гораздо сложнее.

При таком сценарии основной урон сельскому хозяйству нанесет холод, а не темнота и не засуха. Продолжительность вегетационного периода (количество последовательных дней без заморозков) резко сократится. В результате вегетационный период в большинстве регионов окажется слишком коротким для вызревания большинства культур. Робок предсказывает, что полномасштабная ядерная война приведет к понижению средней температуры поверхности Земли примерно на семь градусов на срок около пяти лет (после чего еще примерно десять лет температура будет постепенно возвращаться к нормальным показателям). Это сравнимо с последним оледенением (ледниковым периодом)[249]. Как и в случае с изменением климата, анализ средних показателей по миру может вводить в заблуждение, поскольку одни регионы остынут гораздо сильнее других. На значительной части территории Северной Америки и Азии летние температуры упадут более чем на 20 °C и несколько лет не будут подниматься выше нуля в средних широтах, где производится большая часть нашего продовольствия. Однако побережья и тропики пострадают значительно меньше.

Если ядерная зима приведет к такому сильному понижению температуры, миллиардам людей будет грозить голодная смерть[250]. Это будет беспрецедентная катастрофа. Станет ли она и экзистенциальной? Неизвестно. Хотя систематическое производство продовольствия практически прекратится, кое-какое продовольствие будет производиться и дальше. Мы будем сажать менее урожайные культуры, более устойчивые к холоду или с более коротким вегетационным периодом, расширять сельское хозяйство в тропиках, повышать объемы рыбной ловли, строить теплицы и пускаться на самые отчаянные меры, например выращивать водоросли[251]. Отчаяние сыграет нам на руку, поскольку мы будем готовы пустить все свое богатство, все свои силы, всю свою смекалку на выживание. Но при этом на всех уровнях, возможно, наступит беззаконие, продолжатся конфликты и будут утрачены некоторые элементы инфраструктуры, включая транспорт, топливо, удобрения и электричество.

Несмотря на это, ядерная зима, судя по всему, вряд ли приведет к вымиранию человечества. Ни один из современных исследователей ядерной зимы этого не утверждает, а многие даже подчеркивают, что такой исход маловероятен[252]. Экзистенциальная катастрофа в результате глобального необратимого коллапса цивилизации тоже кажется маловероятной, особенно если вспомнить о таких регионах, как Новая Зеландия (или юго-восток Австралии), которые вряд ли станут основными целями ударов и не испытают на себе худших последствий наступления ядерной зимы, поскольку расположены на прибрежных территориях. Сложно представить, чтобы у них не сохранилась в целости большая часть технологий (и институтов)[253].

Остается немало важных вопросов, которые могли бы пролить свет на наши представления о различных этапах ядерной зимы:

1. На какое количество городов будут сброшены бомбы?

2. Сколько дыма дадут пожары?

3. Сколько сажи поднимется в стратосферу?[254]

4. Как это скажется на температуре, свете, выпадении осадков?

5. Насколько в результате снизится урожайность культур?

6. Сколько продлится эффект?

7. Сколько людей погибнет из-за такого голода?

Будущие исследования, вероятно, дадут ответы на некоторые из этих вопросов, но остальные могут остаться нерешенными.

Скептики нередко подчеркивают, что эта неопределенность дает основания на основе доступных научных данных прогнозировать скорее мягкую ядерную зиму. Но неизвестность – палка о двух концах. Ядерная зима может оказать и более серьезное влияние, чем принято считать. Нет никакой веской причины полагать, что здесь неопределенность пойдет нам на пользу[255]. Поскольку я склоняюсь к мысли, что основной сценарий ядерной зимы не приведет к экзистенциальной катастрофе, неизвестность только ухудшает ситуацию, оставляя эту возможность открытой. Если бы ядерная война вызвала экзистенциальную катастрофу, это, по-видимому, стало бы следствием гораздо более сильного, чем ожидалось, влияния ядерной зимы или следствием воздействия других – еще пока неизвестных – эффектов такой беспрецедентной атаки на Землю.

В связи с этим крайне важно продолжать исследования, которые прояснят сценарий ядерной зимы, чтобы выяснить, существует ли вероятная комбинация факторов, которая может сделать зиму гораздо более суровой или длинной, а также провести новые исследования того, каким еще образом полномасштабная ядерная война может привести к возникновению экзистенциального риска.

Вероятность полномасштабной ядерной войны со временем сильно менялась. Условно можно разделить это время на три периода: холодная война, настоящее и будущее. По окончании холодной войны риск намеренного развязывания ядерной войны значительно снизился. Однако, поскольку многие боеголовки по-прежнему пребывают в состоянии повышенной готовности (их можно запустить за считаные минуты), вероятно, сохраняется немалый риск того, что она может начаться случайно[256]. Размеры ядерных арсеналов также снизились. Количество боеголовок сократилось с пиковых 70 тысяч в 1986 году до примерно 14 тысяч сегодня, и мощность каждой боеголовки тоже стала меньше[257]. Следовательно, ежегодный риск экзистенциальной катастрофы из-за ядерной войны сегодня должен быть несколько ниже, чем в период холодной войны.

Рисунок 4.1. Динамика объема запасов активных ядерных боеголовок. Заметно существенное снижение, но общее количество боеголовок (особенно в США и России) по-прежнему велико. Совокупная мощность этого оружия также снизилась и составляет сегодня около 2500 мегатонн[258].

Однако сокращение арсеналов и смягчение противоречий между сверхдержавами, вероятно, снижает риск катастрофы не столь сильно, как кажется. Робок с коллегами также смоделировали скромный обмен ядерными ударами между Индией и Пакистаном, арсеналы которых в разы меньше арсеналов России и США, и наблюдали значительный эффект ядерной зимы[259].

И не стоит расслабляться. В последние годы между старыми и новыми сверхдержавами возникли новые геополитические трения, которые могут снова повысить риск преднамеренной войны. У нас на глазах отказывают ключевые механизмы контроля над вооружениями США и России. Есть тревожные признаки того, что обострившиеся противоречия могут перезапустить гонку вооружений, в результате чего объем и мощность арсеналов вернутся к прежним уровням и даже превысят их[260]. Прогрессивные технологии, такие как способность обнаруживать атомные подводные лодки и тем самым лишать противника возможности обеспечить надежный ядерный контрудар, могут дестабилизировать стратегическую ситуацию. Внедрение искусственного интеллекта в военные технологии также сыграет роль в изменении и, вероятно, подрыве стратегического баланса[261].

Поскольку возвращение к ядерной холодной войне не слишком маловероятно и повысит ежегодный риск в значительное число раз, риск применения ядерного оружия в грядущие десятилетия можно связывать с угрозой новой эскалации. Именно в этом направлении необходимо работать, чтобы снизить риск ядерной войны.

Изменение климата

Атмосфера – ключевое условие для жизни на Земле. Она нагнетает давление, необходимое для существования жидкой воды на земной поверхности, дает стабильность, которая позволяет избежать гигантских колебаний дневной и ночной температуры, содержит газы для жизни растений и животных, а также – посредством парникового эффекта – обеспечивает изоляцию, не позволяющую Земле полностью замерзнуть. Не будь в нашей атмосфере парниковых газов, Земля была бы примерно на 33 °C холоднее. Эти газы (главным образом водяной пар, углекислый газ и метан) более прозрачны для солнечного света, чем для тепла, отдаваемого Землей, и потому работают как одеяло: задерживают часть тепла, поддерживая температуру планеты[262].

Когда промышленная революция высвободила энергию, которая миллионы лет оставалась скрытой в ископаемом топливе, наружу начал вырываться и углекислый газ. Сначала выбросы углекислого газа при использовании ископаемого топлива были невелики и вносили в потепление климата меньший вклад, чем сельское хозяйство. Однако по мере того как индустриализация распространялась и набирала обороты, выбросы углекислого газа существенно увеличивались, и после 1980 года в атмосферу было выброшено больше газа, чем за всю индустриальную эпоху до этого[263]. В результате концентрация углекислого газа в нашей атмосфере поднялась с примерно 280 частиц на миллион (миллионных долей, млн^–1) накануне промышленной революции до 412 млн^–1 в 2019 году[264].

Деятельность человечества уже начала менять мир. Температура на Земле выросла примерно на 1 °C[265]. Уровень моря поднялся примерно на 23 сантиметра[266]. Кислотность мирового океана повысилась на 0,1 pH[267].

Широко признается, что в грядущие столетия антропогенное изменение климата нанесет тяжелый урон как человечеству, так и природе. Климатология и экономика сегодня по большей части пытаются понять, какой ущерб будет нанесен с наибольшей вероятностью. Но есть и опасение, что изменение климата окажет гораздо более серьезное влияние – что с ним связан риск необратимого коллапса цивилизации и даже полного исчезновения человечества. В отличие от многих других рисков, которые я анализирую, здесь пугает не столько то, что мы встретим свой конец в текущем веке, сколько то, что наши действия сегодня могут сделать неотвратимой катастрофу в будущем. В таком случае экзистенциальная катастрофа произойдет уже сейчас, ведь именно сейчас будет уничтожен потенциал человечества. Если вероятность этого достаточно высока, то изменение климата может иметь даже большую важность, чем обычно считается.

Изменение климата уже представляет собой серьезную геополитическую проблему, которая будет все сильнее давить на человечество по мере усугубления ущерба и роста издержек. Это может привести к обеднению людей или спровоцировать международный конфликт, что сделает нас более уязвимыми для других экзистенциальных рисков.

Такое давление вносит существенный вклад в экзистенциальный риск (возможно, это основной вклад изменения климата), но лучше всего рассматривать его отдельно. В главах о конкретных рисках (это главы 3, 4 и 5) я перечисляю прямые механизмы экзистенциальной катастрофы. Дело в том, что если бы прямых механизмов не было – или если бы вероятность всех их была исчезающе мала, – то другим стрессогенным факторам было бы нечего усугублять. Мы вернемся к косвенному влиянию на другие экзистенциальные риски в шестой главе. Пока мы зададим более фундаментальный вопрос о том, может ли изменение климата само по себе напрямую грозить нам вымиранием или необратимым коллапсом цивилизации.

Самый радикальный климатический сценарий известен под названием “бесконтрольный парниковый эффект”. В его основе лежит взаимодействие тепла и влажности. Теплый воздух может удерживать больше водяного пара, чем холодный. В связи с этим, когда атмосфера нагревается, смещается баланс между тем, сколько земной воды находится в океанах, и тем, сколько ее в небе. Поскольку водяной пар – это активный парниковый газ, увеличение объема пара в атмосфере вызывает еще большее потепление, в результате чего объем пара еще сильнее возрастает, то есть наблюдается действие усиливающей обратной связи[268].

Можно представить этот процесс как связь, которая возникает при подсоединении микрофона к репродуктору. Такая обратная связь не всегда выходит из-под контроля. Если микрофон находится далеко от репродуктора, то звук усиливается многократно, но каждое последующее усиление вносит все меньший вклад в общий уровень звука, поэтому итоговый эффект не оказывается чрезмерным[269]. Именно этого мы ожидаем в случае с водяным паром: предполагается, что он примерно вдвое усугубит потепление, которое вызывает один углекислый газ[270]. Но могут ли возникнуть такие климатические условия, в которых потепление от водяного пара выйдет из-под контроля, как тогда, когда микрофон подносят слишком близко к репродуктору и раздается душераздирающий вой?

Бесконтрольный парниковый эффект – это пример усиливающей обратной связи, при которой потепление продолжается, пока океаны не испарятся почти целиком, уничтожая условия для существования сложной жизни на нашей планете. Общепризнано, что такая ситуация теоретически возможна. Подобное, вероятно, случилось на Венере и, возможно, случится через сотни миллионов лет на Земле, когда возрастет температура Солнца[271]. Но данные текущих исследований свидетельствуют, что одних антропогенных выбросов недостаточно, чтобы вызвать бесконтрольный парниковый эффект[272].

Что же происходит при усиливающей обратной связи, которая приводит к существенному потеплению, но не доводит до испарения океанов? Это влажный парниковый эффект, и если он достаточно серьезен, то может оказаться ничем не лучше бесконтрольного[273]. Вероятно, его также нельзя вызвать одними антропогенными выбросами, но наука здесь не дает однозначного ответа. В недавней авторитетной статье указывается, что такой эффект могут вызвать выбросы углекислого газа (в построенной модели это приводит к потеплению на 40 °C)[274]. Но в этой модели сделано несколько радикальных упрощений, поэтому вопрос о том, действительно ли такое возможно на Земле, остается открытым[275].

Чтобы исключить такие возможности, стоит взглянуть на палеоклиматические данные. В разные моменты далекого прошлого климат Земли бывал значительно теплее, чем сегодня, или в атмосфере планеты содержалось гораздо больше углекислого газа. Например, около 55 млн лет назад, когда произошло климатическое событие, называемое палеоцен-эоценовым термическим максимумом (ПЭТМ), температура примерно на 20 тысяч лет возросла с отметки примерно на 9 °C выше доиндустриальной до отметки примерно на 14 °C выше. Ученые предполагают, что причиной этого стал мощный выброс углекислого газа в атмосферу, в результате которого его концентрация достигла 1600 млн ^–1 или более[276]. Из этого можно заключить, что такой уровень выбросов и такое потепление не приводят ни к влажному парниковому эффекту, ни к массовому вымиранию.

Но ситуация неоднозначна. Мы по-прежнему обладаем лишь поверхностными палеоклиматическими данными, поэтому оценка того, какими были температуры и концентрация углекислого газа в прошлом, может подвергнуться серьезному пересмотру. Кроме того, современный мир и мир прошлого существенно различаются: в частности, сегодня потепление идет значительно быстрее и значительно быстрее растет объем выбросов (а скорость изменений может играть не меньшую роль, чем уровень концентрации газов).

Как же тогда оценить риск бесконтрольного и влажного парникового эффектов? Ситуация здесь сродни поджиганию атмосферы: вероятно, своими действиями мы физически не в состоянии вызвать катастрофу, но сказать наверняка никто не может. Я считаю, что возможность возникновения бесконтрольного или влажного парникового эффекта – это повод не для паники, а для значительного расширения исследований в этой сфере, ведь нам необходимо понять, считать такую радикальную угрозу реальной или воображаемой. Хотя выходят хорошие статьи, авторы которых утверждают, что мы в безопасности, серьезных возражений также хватает. Окончательного ответа на этот вопрос наука пока не дала.

Есть ли другие пути к столь сильному изменению климата, которое будет угрожать нам вымиранием или необратимым коллапсом цивилизации? Основных вариантов три: мы можем спровоцировать другие крупные эффекты обратной связи, в результате чего в атмосферу попадет гораздо больше углекислого газа; мы можем сами выбросить значительно больше углекислого газа; или же данный объем углекислого газа может привести к гораздо более серьезному потеплению, чем мы предполагали.

Испарение океанов – лишь одна из множества климатических обратных связей. По мере потепления планеты некоторые экосистемы изменятся и станут выбрасывать в атмосферу больше углекислого газа, усугубляя потепление. Например, могут высохнуть тропические леса и торфяные болота, может произойти опустынивание, может возрасти количество лесных пожаров. Еще один тип обратной связи возникает из-за изменения отражательной способности ландшафта. Лед обладает чрезвычайно высокой отражательной способностью и отправляет значительную часть поступающего на Землю солнечного света обратно в космос. Когда становится теплее и лед тает, океан и суша отражают свет не столь эффективно, что приводит к дальнейшему потеплению.

Подобная усиливающая обратная связь может настораживать. Мы слышим, что потепление приводит к дальнейшему потеплению, и сразу представляем, как ситуация выходит из-под контроля. Но обратная связь бывает разной. Ее эффекты сильно различаются по мощности (насколько близко микрофон находится к репродуктору), по скорости (как быстро завершается каждый цикл) и по тому, как сильно они могут нагреть атмосферу, если достигнут максимума (максимальная громкость звука в репродукторе). Кроме того, есть и другие петли обратной связи, которые стабилизируют, а не усугубляют ситуацию: чем сильнее теплеет, тем активнее они работают, чтобы предотвратить дальнейшее потепление.

Особенно опасны две потенциальные усиливающие обратные связи: таяние арктической вечной мерзлоты и выброс метана с глубин океана. В каждом случае потепление приведет к увеличению выбросов углекислого газа, и каждый из источников содержит больше углерода, чем было выброшено за все время использования ископаемого топлива. Следовательно, они могут значительно изменить картину глобального потепления. При этом ни один из них не учитывается МГЭИК (Межправительственной группой экспертов по изменению климата) при оценке потепления климата, поэтому любое связанное с ними потепление станет дополнением к ожидаемому сегодня.

Вечная мерзлота – это слой замерзшей породы, покрывающей более 12 млн квадратных километров суши и океанического дна[277]. В нем содержится более чем в два раза больше углерода, чем было выброшено в результате деятельности человека к настоящему моменту, и этот газ заключен в торфе и метане[278]. Ученые уверены, что в грядущие столетия вечная мерзлота частично растает, высвободит углекислый газ и тем самым еще сильнее нагреет атмосферу. Но масштаб этих эффектов и время их возникновения пока неясны[279]. По одной из недавних оценок, при реализации сценария МГЭИК с высокими выбросами таяние вечной мерзлоты к 2100 году приведет к дополнительному потеплению примерно на 0,3 °C[280].

Гидрат метана – это похожее на лед вещество, содержащее молекулы метана и воды. Огромные залежи его находятся в отложениях на дне мирового океана. Поскольку добраться до него очень сложно, мы плохо знаем, сколько его в общей сложности: в соответствии с последними оценками, в нем может быть как вдвое, так и в одиннадцать раз больше углерода, чем мы выбросили до сих пор[281]. Если потепление океанов приведет к таянию этих гидратов и часть метана поднимется в атмосферу, температура еще повысится. Динамика этой потенциальной обратной связи изучена еще меньше, чем динамика таяния вечной мерзлоты, и совершенно непонятно, когда именно может начаться таяние гидратов, может ли оно случиться внезапно и сколько метана может быть выброшено[282].

Таким образом, мы очень мало знаем о риске, сопряженном с этими обратными связями. Вполне возможно, что угрозы таяния вечной мерзлоты и высвобождения метана из гидратов преувеличены и эти события окажут лишь ничтожное влияние на потепление. А может, они окажут катастрофически большое влияние. Нам крайне важно лучше изучить две эти петли обратной связи.

Усугубить прогнозируемое потепление может не только обратная связь. Мы можем просто сжечь больше ископаемого топлива. МГЭИК моделирует четыре сценария выбросов, от стремительной декарбонизации экономики до ситуации, которая может сложиться, если нас вообще не будет заботить влияние наших выбросов на окружающую среду. По оценкам специалистов, при сохранении текущих регламентов к 2100 году мы выбросим в атмосферу 1000–1700 Гт (гигатонн) углерода, и это примерно вдвое больше, чем мы выбросили к настоящему моменту[283].

Надеюсь, мы все же сумеем этого не допустить, но вполне вероятно, что мы действительно достигнем этой точки, а может, выбросим даже больше газа. Так, если просто экстраполировать темпы ежегодного увеличения выбросов в последние десятилетия и проследить за развитием ситуации на протяжении столетия, выброшено окажется вдвое больше, чем в случае реализации худшего из сценариев МГЭИК[284]. Верхняя граница определяется объемом доступного ископаемого топлива. В запасах ископаемого топлива, по разным оценкам, содержится от 5000 до 13 600 Гт углерода[285]. Это значит, что мы можем сжечь как минимум в восемь раз больше топлива, чем сожгли к настоящему моменту. Согласно лучшим моделям земной системы, если не сократить выбросы и сжечь 5000 Гт углерода, содержащегося в ископаемом топливе, к 2300 году температура на планете повысится на 9–13 °C[286]. Я считаю крайне маловероятным, что мы окажемся столь безрассудны и достигнем этой отметки, однако не могу с чистым сердцем сказать, что вероятность этого ниже, чем вероятность столкновения с астероидом или других природных рисков, о которых мы упоминали[287].

В Таблице 4.1 потенциальные углеродные выбросы из вечной мерзлоты, гидратов метана и ископаемого топлива рассматриваются в контексте. Становится очевидно, что объемы углерода, о которых мы говорили, так велики, что в сравнении с ними меркнут объемы, содержащиеся во всей биосфере Земли, то есть в каждом живом организме[288]. Деятельность человека уже привела к выбросу в атмосферу большего количества углерода, чем содержится во всей биосфере[289].

⁷⁷ Ciais et al. (2013), p. 526.

Таблица 4.1. Где содержится углерод? Сравнение объемов известных запасов углерода, которые потенциально могут быть выброшены в атмосферу, и потенциальный объем выбросов с текущего момента до конца столетия. Под биомассой понимается общий объем углерода во всех живых организмах на Земле. Под некромассой – общий объем углерода в мертвой органической материи (особенно в почве), часть которого может быть выброшена при обезлесении и лесных пожарах. Я также включил общий объем наших выбросов с 1750 года по сей день – это выбросы от изменений в землепользовании, а также от сжигания ископаемого топлива и работы промышленности[290].

Даже если бы мы знали, сколько углекислого газа поступит в атмосферу, нам сложно было бы сказать наверняка, к какому потеплению это приведет. Чувствительностью климата называется количество градусов, на которые повысится температура, если концентрация парниковых газов в атмосфере станет вдвое выше по сравнению с исходным доиндустриальным показателем (280 млн ^–1)[291]. Если бы обратных связей не существовало, произвести необходимый расчет было бы несложно: при неизменности остальных параметров удвоение концентрации углекислого газа приводит к потеплению примерно на 1,2 °C[292]. Но при оценке чувствительности климата учитывается и множество климатических обратных связей, включая испарение воды и формирование облаков (однако не включая таяние вечной мерзлоты и гидратов метана). В результате показатель увеличивается, а рассчитать его становится сложнее.

МГЭИК утверждает, что чувствительность климата, вероятно, составит от 1,5 до 4,5 °C (и неопределенность здесь во многом связана с нашей недостаточной осведомленностью об облачных обратных связях)[293]. При оценке степени воздействия потепления этот диапазон огромен, ведь верхняя его граница предполагает в три раза более сильное потепление, чем нижняя. Кроме того, истинная чувствительность вполне может оказаться и выше, поскольку МГЭИК говорит лишь, что вероятность ее попадания в обозначенный диапазон составляет 66 %[294]. Эта неопределенность усугубляется тем, что мы точно не знаем, насколько повысится концентрация парниковых газов. Если в итоге она возрастет в 2–4 раза по сравнению с доиндустриальным уровнем, диапазон последующего потепления составит от 1,5 до 9 °C[295].

Можно надеяться, что вскоре нам станет известно больше, но история не сулит нам многого. Принятый сегодня диапазон от 1,5 до 4,5 °C был впервые назван в 1979 году и практически не изменился за последние сорок лет[296].

Мы часто слышим цифры, которые создают иллюзию большей точности: что сейчас мы идем к потеплению на 5 °C или что нужно принимать определенные меры, если мы хотим сдержать потепление в пределах 4 °C. Но подобные формулировки так упрощают ситуацию, что порой вводят нас в заблуждение. На самом деле они значат, что мы идем к потеплению на 2,5–7,5 °C или что нужно принимать определенные меры, чтобы у нас появился реальный шанс сдержать потепление в пределах 4 °C (иногда этот шанс оценивается в 66 %, а иногда – лишь в 50 %)[297].

Учитывая отсутствие точных данных о наших прямых выбросах, о чувствительности климата, а также о возможности возникновения радикальной обратной связи, нам крайне сложно понять, как сдержать потепление. В идеале в такой ситуации мы можем давать надежные оценки размеров и формы распределения (как с астероидами), чтобы рассматривать вероятность исключительных последствий, например потепления более чем на 6 °C – и даже на 10 °C. Однако ввиду сложности вопроса нам не под силу даже это. Я могу лишь сказать, что с учетом всех неопределенностей к 2300 году атмосфера может потеплеть на любое количество градусов вплоть до 13 °C. И даже это не строгий предел.

Потепление такого уровня стало бы глобальным бедствием беспрецедентного масштаба. Оно стало бы колоссальной человеческой трагедией и особенно сильно затронуло бы самые уязвимые сообщества. И оно бы ввергло цивилизацию в состояние такого хаоса, что люди могли бы оказаться гораздо более уязвимыми для других экзистенциальных рисков. Однако задача этой главы состоит в том, чтобы выявить и рассмотреть угрозы, которые представляют непосредственный экзистенциальный риск для человечества. Даже при столь радикальном потеплении сложно сказать, как именно изменение климата может уничтожить человеческий род.

К основным последствиям изменения климата относятся снижение урожайности сельского хозяйства, повышение уровня моря, истощение запасов пресной воды, распространение тропических болезней, закисление океана и остановка Гольфстрима. Хотя все перечисленное представляет огромную важность при оценке общего риска, сопряженного с изменением климата, ничто из этого не грозит нам ни вымиранием, ни необратимым коллапсом.

Выращиваемые культуры очень чувствительны к снижению температуры (из-за заморозков), но менее чувствительны к ее повышению. Судя по всему, у нас будет продовольствие, чтобы питать цивилизацию[298]. Даже если уровень моря поднимется на несколько сотен метров (за несколько веков), большая часть суши на Земле сохранится. Подобным образом, хотя некоторые регионы вполне могут стать непригодными для жизни из-за истощения запасов пресной воды, в других регионах будет выпадать больше осадков. Тропические болезни, возможно, распространятся на большей территории, но нам достаточно взглянуть на тропики, чтобы увидеть, что цивилизация там процветает, несмотря на недуги. Главным следствием уничтожения системы течений Атлантического океана, куда входит и Гольфстрим, станет снижение температуры в Европе на 2 °C, а это не представляет постоянной угрозы для мировой цивилизации.

С точки зрения экзистенциального риска более серьезные опасения связаны с тем, что высокая температура (и скорость ее изменения) может привести к значительному сокращению биоразнообразия и последующему коллапсу экосистем. Хотя этот механизм не совсем очевиден, достаточно серьезный коллапс экосистем на планете, вероятно, может грозить человечеству вымиранием. Гипотеза о том, что изменение климата может привести к повсеместным вымираниям, имеет хорошую теоретическую поддержку[299]. И все же данные противоречивы. Изучая множество прошлых случаев установления по всему миру чрезвычайно высоких температур или чрезвычайно стремительного потепления климата, мы не наблюдаем соответствующего сокращения биоразнообразия[300].

Таким образом, самое важное известное следствие изменение климата с точки зрения прямого экзистенциального риска, пожалуй, и самое очевидное: это тепловой стресс. Нам нужно, чтобы температура окружающей среды была ниже температуры нашего тела, поскольку только так мы можем избавляться от лишнего тепла и жить. В частности, у нас должна быть возможность отдавать тепло при помощи потоотделения, которое зависит не только от температуры, но и от влажности.

В своей знаковой статье Стивен Шервуд и Мэтью Хьюбер показали, что в случае достаточного потепления в некоторых регионах мира совокупный уровень температуры и влажности превысит отметку, на которой люди могут выживать без кондиционирования воздуха[301]. При потеплении на 12 °C эта отметка в какой-то момент года будет превышаться на очень большой части суши, где в настоящее время живет более половины мирового населения и где выращивается значительная часть нашего продовольствия. Шервуд и Хьюбер предполагают, что такие регионы станут непригодными для жизни. Возможно, это не совсем так (особенно если в самые жаркие месяцы воздух будет кондиционироваться), но пригодность этих регионов для жизни окажется как минимум под вопросом.

Однако в значительной части регионов этот порог превышаться не будет. Даже при радикальном потеплении на 20 °C во многих прибрежных зонах (и на некоторых возвышенностях) в году не будет ни единого дня, когда температура и влажность будут подниматься выше обозначенной отметки[302]. Следовательно, сохранятся крупные территории, где цивилизованное человечество сможет жить и дальше. Потепление на 20 °C станет беспрецедентной человеческой и природной трагедией, которая приведет к массовым миграциям и, вероятно, к голоду. Этой причины достаточно, чтобы мы сделали все, что в наших силах, чтобы не допустить ничего подобного. Но сейчас мы выявляем экзистенциальные риски, грозящие человечеству, и пока неочевидно, как реалистичный уровень теплового стресса может вызвать такой риск. Таким образом, бесконтрольный и влажный парниковые эффекты остаются единственными известными механизмами, с помощью которых изменение климата может непосредственно привести к вымиранию человечества или необратимому коллапсу цивилизации.

Нельзя, однако, забывать о неизвестных механизмах. Речь идет о значительных изменениях планеты, которые могут оказаться беспрецедентными по масштабу и скорости. Было бы неудивительно, если бы они привели прямо к нашей погибели. Лучший аргумент против существования таких неизвестных механизмов, пожалуй, сводится к тому, что ПЭТМ не вызвал массовое вымирание, хотя температура стремительно поднялась примерно на 5 °C и стала на 14 °C выше доиндустриальной отметки[303]. Но нас ограничивают неточность палеоклиматических данных, скудость ископаемых свидетельств, меньшие размеры млекопитающих в то время (благодаря чему они лучше переносили жару) и нежелание опираться на единственный пример. Но главное, что антропогенное потепление может произойти в сотню раз быстрее, чем потепление при ПЭТМ, а стремительное потепление, как предполагается, было одним из факторов пермского вымирания, которое уничтожило 96 % видов на планете[304]. Получается, что мы можем лишь сказать, что прямой экзистенциальный риск, связанный с изменением климата, представляется очень низким, но списывать его со счетов пока нельзя.

Пока что мы пытались понять, может ли изменение климата стать реальной экзистенциальной катастрофой. Анализируя это, я отбросил вопрос о том, есть ли у нас возможность снизить его риск. Самый очевидный и значимый способ его снижения – сокращение выбросов. Широко признается, что именно это должно играть ключевую роль в любой стратегии смягчения риска. Но существуют и способы ограничить последствия изменения климата после производства выбросов.

Эти техники часто называются геоинженерией. Хотя название намекает на радикальную и опасную схему трансформации планеты, возможные стратегии пребывают в диапазоне от радикальных до тривиальных. Они также различаются по стоимости, скорости, масштабу, степени готовности и уровню риска.

Два основных подхода к геоинженерии – это удаление углекислого газа и управление солнечным излучением. Удаление углекислого газа бьет прямо в корень проблемы, очищая атмосферу от углекислого газа и тем самым избавляя планету от причины перегрева. Это попытка исцелить Землю от ужасного недуга. Радикальным проектом можно считать фертилизацию океана: насыщение океана железом с целью спровоцировать быстрый рост водорослей, которые поглощают углекислый газ, не позволяя ему проникнуть в глубины океана. Более тривиальны такие проекты, как посадка деревьев и очистка воздуха от углеродных соединений.

Управление солнечным излучением предполагает ограничение количества солнечного света, поглощаемого Землей. Для этого можно блокировать свет, прежде чем он попадет на Землю, отражать больше света в атмосфере, не давая ему достигнуть поверхности планеты, или отражать больше света, падающего на поверхность. Это попытка уравновесить потепление охлаждением Земли. Как правило, управлять солнечным излучением дешевле и быстрее, чем удалять углекислый газ, но у этого подхода есть и минусы: недостаточное внимание к другим негативным эффектам углекислого газа (например, к закислению океанов) и необходимость постоянно поддерживать инфраструктуру в рабочем состоянии.

Главная проблема геоинженерии в том, что лечение может оказаться хуже болезни. Сам масштаб проектов способен создавать риск огромных непредвиденных последствий на всей поверхности Земли, что, возможно, сопряжено с более высоким экзистенциальным риском, чем изменение климата как таковое. В связи с этим геоинженерию необходимо тщательно контролировать, особенно когда дело касается радикальных техник, которые достаточно дешевы в применении, чтобы их могли по собственной инициативе внедрять отдельные страны и даже исследовательские группы. Кроме того, не стоит полагаться на геоинженерию как на альтернативный способ снижения выбросов. И все же она может сыграть полезную роль в качестве средства последней надежды или способа последующего восстановления земного климата[305].

Экологический ущерб

Экологический ущерб, который человечество причиняет Земле, не ограничивается изменением климата. Можем ли мы столкнуться с другими экологическими экзистенциальными рисками в результате перенаселения, истощения важнейших ресурсов или снижения биоразнообразия?

Когда в 1960-х годах начало набирать обороты движение в защиту окружающей среды, или энвайронментализм, одно из главных опасений было связано с перенаселением планеты. Многие боялись, что из-за стремительного роста численности населения Земле вскоре перестанет хватать ресурсов для питания людей, и пророчили природную и гуманитарную катастрофу. Самый активный сторонник этой точки зрения Пол Эрлих рисовал апокалиптическую картину ближайшего будущего: “Большинство людей, которые погибнут в величайшей катастрофе в человеческой истории, уже родились”[306]. Он полагал, что этот катаклизм произойдет очень скоро и представляет непосредственный экзистенциальный риск. Эрлих пророчил: “Конец настанет в какой-то момент в течение следующих 15 лет – и под «концом» я понимаю полное уничтожение способности планеты поддерживать жизнь человечества”[307].

Уверенно прогнозируя погибель, ученые сильно заблуждались. Проблема голода не разрослась до беспрецедентных масштабов, а наоборот, стала значительно менее острой. Число умерших от голода в 1970-х годах составило менее четверти от аналогичного показателя за 1960-е годы, а впоследствии их доля сократилась еще вдвое[308]. Объем продовольствия на человека не снизился до критического уровня, а стабильно возрастал на протяжении последних пятидесяти лет. Сегодня на каждого человека приходится на 24 % больше продовольствия, чем в 1968 году, когда была опубликована книга Эрлиха “Демографическая бомба”.

В значительной степени мы обязаны этим “зеленой революции”, в результате которой развивающиеся страны обрели способность питать свое население. Для этого они модернизировали земледелие: у них появились более совершенные удобрения и ирригационные системы, прошла автоматизация процессов и увеличилось разнообразие выращиваемых культур[309]. Особенно велики, пожалуй, заслуги Нормана Борлоуга, который получил Нобелевскую премию за выведение новых высокоурожайных сортов пшеницы и, возможно, спас больше жизней, чем любой другой человек в истории[310].

Впрочем, прогрессом в сельском хозяйстве объясняется не все. Представления о перенаселении полностью изменились. Ранее считалось, что численность населения растет по экспоненте – на фиксированный процент ежегодно, – но в реальности так происходит очень редко. Примерно с 1800 по 1960 год численность мирового населения росла гораздо быстрее, чем по экспоненте. Темпы ежегодного прироста также увеличились с 0,4 % до беспрецедентных 2,2 % в 1962 году. Такие тенденции по праву вызывали сильное беспокойство о последствиях столь стремительного роста численности населения для человека и окружающей среды.

Но неожиданно ситуация изменилась. Темпы прироста населения стали стремительно падать. К настоящему моменту они сократились вдвое и продолжают снижаться. Численность населения теперь растет более или менее линейно, и каждый год к ней добавляется фиксированное количество человек, а не фиксированная доля. Эта перемена объясняется не опасным повышением уровня смертности, а существенными сдвигами в сфере рождаемости, поскольку во все большем числе стран происходит демографический переход к небольшим семьям. В 1950 году среднее количество рождений на женщину составляло 5,05. Сегодня – 2,47, что немногим больше, чем коэффициент воспроизводства, который составляет 2,1 ребенка на женщину[311].

Рисунок 4.2. Численность населения Земли с 1700 года по настоящий момент (темно-серая область) и прогноз ее динамики до 2100 года (светло-серая область). Черной линией обозначен ежегодный процентный прирост населения, который достиг пика в 1962 году, но после этого стремительно снижается[312].

Хотя мы не можем сказать наверняка, что ждет нас в будущем, текущие тенденции указывают на быструю стабилизацию численности населения. Текущий линейный рост, вероятно, станет переломным моментом в истории численности населения Земли: с этой точки кривая наконец начнет выравниваться. Возможно, мы больше никогда не увидим такого стремительного роста численности населения, как в середине XX века. За последние 80 лет население увеличилось в три раза. Ожидается, что в следующие 80 лет оно возрастет всего на 50 % и достигнет примерно 11 млрд. Каждому человеку, живущему на планете сегодня, придется потесниться, чтобы освободить место еще для половины человека. Это будет непросто, но гораздо легче, чем в прошлом веке.

Кое-кто даже предполагает, что реальный риск вымирания сегодня может быть связан с сокращением численности населения[313]. Уровень рождаемости в большинстве стран за пределами Африки уже опустился ниже коэффициента воспроизводства, и, возможно, это перерастет в глобальную тенденцию. Впрочем, я полагаю, что даже в этом случае у нас нет веских поводов для опасений. Если бы сокращение численности населения стало представлять очевидную и насущную угрозу (а такое невозможно еще как минимум два столетия), государствам достаточно было бы стимулировать рождаемость, чтобы вывести ее обратно на уровень воспроизводства. Доступные рычаги – бесплатный уход за детьми, бесплатное образование, бесплатное детское здравоохранение и налоговые льготы для семей – относительно просты и популярны, а также не требуют принуждения.

Хотя опасность того, что прирост населения быстро выйдет из-под контроля, миновала, численность населения, несомненно, достигла очень высокого уровня. Поскольку благосостояние и мощь, сосредоточенная в руках людей, стремительно возрастают, каждый человек сегодня сильнее воздействует на окружающую среду[314]. Это значительно усиливает нагрузку на биосферу, в том числе в беспрецедентных формах. Это, в свою очередь, может создавать угрозы для нашего существования в будущем.

Одна категория опасений связана с истощением ресурсов. Выдвигаются предположения, что человечество близко к исчерпанию запасов ископаемого топлива, фосфора, плодородных почв, пресной воды и определенных металлов[315]. Однако такой тип дефицита ресурсов, судя по всему, не представляет непосредственного риска уничтожения нашего потенциала.

Исчерпание запасов ископаемого топлива может привести к рецессии в экономике, поскольку нам придется перейти на более дорогие альтернативы, но при этом мы способны поддерживать цивилизацию и без него. Мы уже планируем такую жизнь после перехода к нулевым выбросам до конца текущего столетия. Я подозреваю, что если нам не удастся найти новые источники ископаемого топлива, то общий экзистенциальный риск не повысится, а только снизится.

Что насчет воды? Хотя пресной воды меньше, чем морской, в абсолютном выражении ее достаточно много: 26 млн литров доступной пресной воды на человека[316]. Проблема главным образом связана с ее неудачным распределением. Даже в худшем случае пресную воду можно заменить опресненной морской водой при издержках примерно в 1 доллар на 1000 литров. Дополнительные расходы появятся при опреснении с использованием чистой энергии и подъеме воды для людей и хозяйств, расположенных вдали от побережья, но при необходимости мы сможем сделать и это.

Неясно, наблюдается ли в действительности значительный дефицит металлов: прошлые прогнозы не оправдались, и можно ожидать, что рынки сократят потребление, станут стимулировать переработку и повторное использование, а также разработают альтернативы, если запасы все же начнут истощаться[317]. Кроме того, редкие металлы, которых, возможно, и правда становится слишком мало, судя по всему, не имеют критической важности для цивилизации.

Хотя я не могу назвать ни одного ресурса, дефицит которого мог бы спровоцировать экзистенциальную катастрофу, сложно полностью исключать такой сценарий. Возможно, мы найдем редкий ресурс, который выполняет чрезвычайно важную функцию для цивилизации, не имеет подходящей альтернативы, не может должным образом перерабатываться для повторного использования и не дает рынку регулировать его потребление. Я сомневаюсь, что хоть какой-нибудь ресурс соответствует такому описанию, но полагаю, что проверить, так ли это, все же стоит.

В экологической сфере опасения вызывает и снижение биоразнообразия. Своими действиями мы уничтожаем и ставим под угрозу очень много видов, и есть мнение, что в настоящее время идет шестое массовое вымирание[318]. Так ли это?

Сложно сказать. Во-первых, мы не можем корректно сравнить современные данные с палеонтологическими[319]. Во-вторых, существует более одного критерия оценки массового вымирания. Скорость исчезновения видов сегодня гораздо выше, чем долгосрочное среднее, причем выше как минимум в 100 раз, и ожидается, что в будущем она продолжит расти[320]. Возможно, виды станут вымирать еще быстрее, чем в ходе типичного массового вымирания. Но доля вымирающих видов гораздо меньше, чем при массовом вымирании. Если в каждом из пяти крупных массовых вымираний погибло более 75 % видов, то мы потеряли лишь около 1 %[321]. Возможно, это самое начало шестого массового вымирания, но данные также позволяют предположить, что текущее вымирание гораздо менее масштабно. Как бы то ни было, мы не можем однозначно сказать, что в настоящее время не идет массовое вымирание, и это очень тревожно.

Вымирание – удобный критерий для оценки снижения биоразнообразия, но дело этим не ограничивается. Не стоит забывать о сокращении популяций, а также локальном или региональном исчезновении видов. Хотя у нас на глазах вымер “всего” 1 % видов, в отдельных регионах биоразнообразие может сокращаться гораздо сильнее, и это главное. С точки зрения экзистенциального риска снижение биоразнообразия особенно тревожно из-за утраты экосистемных услуг. Это услуги – такие как очищение воды и воздуха, обеспечение энергией и ресурсами, улучшение почвы, – которые в настоящее время нам оказывают растения и животные, но с которыми нам, вероятно, не справиться самим, поскольку это либо дорого, либо вовсе невозможно.

Яркий пример – опыление культур пчелами. Часто утверждается, что с ним связан экзистенциальный риск, поскольку Эйнштейн якобы сказал: “Если бы пчелы исчезли с поверхности земли, то человек протянул бы всего четыре года”. Это заблуждение давно развенчано: это не так, и Эйнштейн такого не говорил[322]. Недавнее исследование даже показало, что, если бы на планете совсем не осталось не только пчел, но и всех других опылителей, мировое производство продовольственных культур сократилось бы всего на 3–8 %[323]. Это стало бы огромной экологической трагедией и кризисом для человечества, но нет оснований считать это экзистенциальным риском.

Хотя приведенный пример безоснователен, возможно, существуют другие характерные экосистемные услуги, которые находятся под угрозой и без которых наша жизнь немыслима. Или же каскадная утрата экосистемных услуг может нанести по цивилизации слишком серьезный удар, от которого человечество не сможет оправиться. Очевидно, что на некотором уровне экосистемного разрушения так и произойдет, но сейчас мы плохо представляем, насколько мы близки к такому порогу и может ли каскадный процесс привести нас к нему. Чтобы выяснить это, нужно продолжать исследования.

Как и в случае с ядерной зимой и экстремальным глобальным потеплением, мы не знаем прямого механизма экзистенциального риска, но оказываем на глобальную экологию такое давление, что вполне могут обнаружиться пока неизвестные последствия нашей жизнедеятельности, которые поставят под угрозу наше выживание. Следовательно, можно рассматривать дальнейший экологический ущерб в грядущем веке как источник непредвиденных угроз для человечества. На долю этих немоделируемых эффектов вполне может приходиться большая часть экологического экзистенциального риска.

Ядерная война, изменение климата и экологический ущерб – чрезвычайно серьезные глобальные проблемы, важность которых не вызывает сомнений, даже если не задаваться вопросом, могут ли они вызвать экзистенциальную катастрофу. В каждом случае человечество обладает колоссальной силой, чтобы изменить лицо Земли так, как никогда прежде за все 200 тысяч лет истории Homo sapiens. Последние научные данные подтверждают гигантский масштаб этих изменений, хотя и не описывают понятные и проверенные механизмы поистине экзистенциальной катастрофы. Следовательно, экзистенциальный риск из этих источников остается более умозрительным, чем от астероидов. Но это не значит, что риск меньше. Полагаю, с учетом имеющихся у нас научных данных, было бы очень смело заявить, что вероятность этих рисков на столетие составляет менее 0,001 % при 0,05 % вероятности всех природных рисков, вместе взятых. Я бы сказал, что каждый из трех этих рисков имеет большую вероятность, чем все природные риски в совокупности. А впереди, вероятно, риски еще более серьезные.

Настало время обратить свой взор к горизонту и посмотреть, какие возможности сулит нам грядущий век. Разглядеть эти возможности в туманной дали нелегко, поскольку нам чрезвычайно сложно сказать, какие новые технологии появятся, какую форму они примут, когда достигнут зрелости, и каким будет мир, в который они придут. Не исключено, что мы узнаем о новых технологиях, только когда они окажутся у нас перед носом. Дело в том, что серьезные сдвиги порой становятся неожиданностью даже для лучших специалистов и самих изобретателей технологий.

Однажды вечером в 1933 году ведущий мировой эксперт по атомной науке Эрнест Резерфорд назвал мысль о приручении атомной энергии “вздором”. На следующее утро Лео Силарду пришла в голову идея цепной реакции. Энрико Ферми в 1939 году сказал Силарду, что цепная реакция “маловероятна”, а четыре года спустя Ферми уже лично курировал первый в мире ядерный реактор. Огромный список видных ученых, которые полагали, что полеты на аппаратах тяжелее воздуха невозможны или не будут реализованы еще много десятков лет, приводится так часто, что успел набить оскомину. Но мало кто знает, что даже сам Уилбур Райт полагал, что такой полет не случится еще по меньшей мере лет пятьдесят, а сам осуществил его всего через два года[325].

В связи с этим нам стоит не забывать, как быстро могут появляться новые технологии, и не слишком доверять заявлениям о том, что некоторые технологии невозможны или настолько далеки, что у нас нет поводов для беспокойства. Если видные ученые с уверенностью развенчивают те или иные идеи, у нас есть повод относиться к этим технологиям скептически, но не стоит биться об заклад, что такие технологии не появятся никогда, ведь ученые ошибались и раньше[326].

Разумеется, есть и множество примеров того, как ученые и инженеры заявляли, что новая технология появится со дня на день, но она либо входила в нашу жизнь лишь через несколько десятилетий, либо не входила вообще, либо в итоге существенно отличалась от заранее описанного варианта. Суть не в том, что технологии обычно появляются раньше, чем ожидается, суть в том, что такое может случиться, и потому не стоит опрометчиво исключать какие-либо возможности или считать, что времени у нас достаточно.

Впрочем, нельзя совершать и обратную ошибку, а именно полагать, что не стоит задумываться о будущем, раз мы не в силах в него заглянуть. Кое-что мы можем спрогнозировать. Так, было бы странно, если бы давняя тенденция разработки технологий возрастающей мощности не сохранилась в текущем столетии. А поскольку именно наше беспрецедентное могущество привело к возникновению антропогенных рисков XX века, было бы удивительно, если бы в грядущем столетии не наблюдался сходный или более высокий риск.

Хотя эта глава посвящена будущему, мы не станем заниматься прогнозами – по крайней мере, в привычном смысле, предсказывая, какие и когда появятся технологии. Вместо того мы изучим горизонт на предмет правдоподобности и вероятности. Существуют ли правдоподобные будущие технологии, сопряженные с экзистенциальными рисками? Настолько ли вероятно их появление, что необходимо начать готовиться к нему? Для этого нам не нужно ни заглядывать в будущее, ни знать точную вероятность того, что может случиться. Нам достаточно провести оценку этой вероятности в верном диапазоне, увидеть общие очертания угроз. Это даст нам примерное представление о том, что ждет нас впереди и как к этому подготовиться.

Многое из того, что принесут с собой новые технологии, будет, несомненно, полезным, а порой и чудесным. Технологический прогресс – один из главных источников современного процветания и долголетия и одна из главных причин, по которым крайняя нищета стала исключением, а не правилом, а ожидаемая продолжительность жизни со времен промышленной революции увеличилась вдвое. Очевидно, что на протяжении столетий все риски, с которыми человечество сталкивалось из-за использования технологий, перевешивались благами, которые технологии приносили людям[327]. Дело в том, что столь большие завоевания в сфере здоровья и богатства – это совокупные завоевания с учетом всех негативных эффектов.

По крайней мере, так происходит с большинством рисков – с теми рисками, которые достаточно серьезны и достаточно привычны, чтобы закон больших чисел одерживал верх и превращал непредсказуемость малого масштаба в показательное долгосрочное среднее. Мы знаем, что эти ежедневные риски более чем перевешиваются. Неясно, однако, не объясняется ли этот положительный баланс тем, что удача несколько раз улыбнулась нам в ключевые моменты. Например, вполне можно допустить, что риск начала ядерной войны был достаточно велик, чтобы перевесить все блага современных технологий.

Именно это должно в наибольшей степени интересовать нас, когда мы смотрим на грядущий век. Нам важны не каждодневные риски и не подводные камни, сопряженные с технологиями, а то, возникнут ли случаи, когда под угрозой окажется само наше существование и нам не представится возможности восполнить потери.

В детстве я всегда был убежденным сторонником технологического развития. Если бы не вероятность этих пока еще не оформившихся рисков, я бы и остался им. Но теперь я склоняюсь к половинчатой позиции. Я далек от мысли, что технический прогресс нужно остановить: если бы какой-нибудь режим, действуя из лучших побуждений, навсегда заморозил технологии, это, вероятно, само по себе стало бы экзистенциальной катастрофой, поскольку лишило бы человечество надежды когда-либо реализовать свой потенциал.

Однако необходим зрелый поход к техническому прогрессу[328]. Мы должны продолжать развивать технологии, чтобы воспользоваться их плодами. Но важно проявлять огромную осторожность и при необходимости пускать значительную долю получаемых выгод на решение потенциальных проблем, чтобы баланс оставался положительным. Самое главное – заглядывать вперед и выявлять потенциальные опасности на горизонте.

Пандемии

В 1347 году в Европу пришла чума. Она проникла через Каффу, крымский город, куда попала вместе с осадившей местную крепость монгольской армией. Убегающие купцы, сами того не подозревая, принесли ее в Италию. Оттуда она распространилась во Францию, Испанию и Англию. Затем она добралась до Норвегии, пересекла Европу и дошла до самой Москвы. За шесть лет черная смерть захватила весь континент[329].

Десятки миллионов человек страдали от тяжелой болезни, которая проявлялась по-разному. У одних появлялись болезненные бубоны на шее, под мышками и на бедрах, у других тело чернело из-за подкожных кровотечений, третьи кашляли кровью из-за некротического воспаления в горле и легких. В любой форме болезнь сопровождалась жаром, изнеможением и невыносимой вонью, исходящей от всех телесных выделений[330]. Жертв было так много, что приходилось выкапывать братские могилы, и все равно на кладбищах не хватало места для новых тел.

Черная смерть разорила Европу. За эти шесть лет умерло от четверти до половины всех европейцев[331]. Опустошен был и Ближний Восток, где чума убила примерно каждого третьего египтянина и сирийца. Возможно, она прошлась и по ряду регионов Центральной Азии, Индии и Китая. Поскольку сведений с XIV века сохранилось немного, мы никогда не узнаем истинное число потерь, однако, по наиболее точным оценкам, от 5 до 14 % населения планеты погибло в одной из величайших катастроф на памяти человечества[332].

Можно ли сказать, что сегодня нам такое не грозит? Или же мы стали уязвимее? Может ли пандемия угрожать будущему человечества?[333]

Черная смерть не единственная биологическая катастрофа, оставившая след в человеческой истории. Это даже не единственная великая эпидемия бубонной чумы. В 541 году нашей эры Византийскую империю охватила Юстинианова чума, которая за три года унесла жизни примерно 3 % населения планеты[334].

Когда в 1492 году европейцы добрались до Америки, обе популяции столкнулись с совершенно новыми болезнями. За тысячи лет в каждой из них сформировалась сопротивляемость собственному набору заболеваний, но к другим болезням они оказались крайне восприимчивы. Народам Америки, столкнувшимся с такими болезнями, как корь, грипп и особенно оспа, пришлось гораздо хуже, чем европейцам.

На протяжении последующего столетия завоевания и болезни нанесли по популяции колоссальный удар, масштаб которого мы, возможно, никогда не узнаем, поскольку совсем не представляем изначальной численности местного населения. Нельзя исключать, что в XVI веке Америка потеряла более 90 % населения, но эта доля может быть и гораздо меньше[335]. Кроме того, очень сложно понять, сколько жизней унесли война и оккупация, а не болезни. Приблизительный верхний предел оценки таков: Колумбов обмен мог уничтожить до 10 % населения земного шара[336].

Прошли столетия, и мир стал настолько взаимосвязанным, что возможной стала поистине глобальная пандемия. Незадолго до окончания Первой мировой войны по шести континентам и даже отдаленным тихоокеанским островам распространился губительный штамм гриппа (называемого испанским гриппом, или испанкой). Заболело не менее трети мирового населения, и от 3 до 6 % умерло от болезни[337]. Жертв было больше, чем в Первой мировой войне, а возможно, и в обеих мировых войнах.

И все же даже такие события не становятся угрозой долгосрочному потенциалу человечества[338]. Во время страшных эпидемий бубонной чумы цивилизация в затронутых регионах пошатнулась, но затем восстановилась. В отдельных областях уровень смертности доходил до 25–50 %, но этого было недостаточно, чтобы уничтожить цивилизацию на всем континенте. Чума изменила судьбы империй и, возможно, существенно повернула ход истории, но тем не менее это дает нам основание верить, что человеческая цивилизация, вероятно, сможет выжить в будущих катастрофах с подобным количеством жертв, даже если их масштабы будут глобальными.

Как ни странно, пандемия испанки 1918 года оказала лишь незначительное очевидное влияние на мировое развитие, хотя и имела глобальный охват. Похоже, она затерялась на фоне Первой мировой войны, которая, несмотря на меньшее количество жертв, по всей видимости, гораздо сильнее повлияла на ход истории[339].

Не столь очевидно, какие выводы можно сделать о влиянии Колумбова обмена, поскольку достоверных данных у нас мало, а причин изменения ситуации много. Эпидемии явно сыграли свою роль в региональном коллапсе цивилизации, но сложно сказать, случился ли бы он, если бы болезни не сопровождались жестокостью колонизаторов и имперских властей.

Самый весомый аргумент, говорящий об отсутствии экзистенциального риска, сопряженного с естественными пандемиями, – это анализ палеонтологической летописи, проведенный в третьей главе. Вековой риск вымирания от естественных причин не может быть больше 0,1 %, поскольку другие значения не соответствуют данным о том, как долго существует человек и подобные виды. Но этот аргумент работает лишь в том случае, если риск для человечества сегодня не превышает долгосрочное среднее. С большинством рисков ситуация именно такова, но только не с риском пандемии. Своими действиями мы сильно усугубили его: пандемии теперь более вероятны, а причиняемый ими ущерб может быть значительно сильнее. Таким образом, даже “естественные” пандемии сегодня стоит рассматривать как отчасти антропогенный риск.

Сегодня на планете живет в тысячу раз больше людей, чем на протяжении основной части человеческой истории, поэтому возможностей для возникновения новых болезней человека стало существенно больше[340]. Мы ведем сельское хозяйство так, что огромное количество животных живет в нездоровой среде в непосредственной близости от людей. Это повышает риск, поскольку многие серьезные болезни сначала возникают у животных и лишь потом передаются человеку. Примеры тому: ВИЧ (шимпанзе), эбола (летучие мыши), SARS (вероятно, летучие мыши) и грипп (обычно свиньи или птицы)[341]. Данные свидетельствуют, что болезни передаются людям от животных все быстрее[342].

Современная цивилизация тоже, вероятно, облегчает распространение пандемии. Более высокая плотность населения в крупных городах повышает количество человек, которых может заразить каждый из нас. Скоростной дальнемагистральный транспорт значительно увеличивает расстояния, на которые распространяются патогены, и делает людей ближе друг к другу. Кроме того, мы уже не поделены на изолированные группы, как на протяжении большей части из последних 10 тысяч лет[343]. В совокупности все перечисленное дает основания предположить, что нам следует ожидать новых пандемий, которые будут распространяться быстрее и охватывать бо́льшую долю населения Земли.

Впрочем, изменив мир, мы среди прочего стали более защищенными. У нас более здоровое население, мы поддерживаем более высокий уровень санитарии и гигиены, пользуемся услугами профилактической и лечебной медицины, а также больше знаем о болезнях. Важнее всего, пожалуй, что у нас есть государственные органы здравоохранения, которые обеспечат глобальную коммуникацию и кооперацию в случае новых эпидемий. Такая защита имеет свои плюсы, ведь в последнее столетие мы наблюдаем значительное снижение распространения эндемических инфекций (хотя нельзя сказать наверняка, что с пандемиями ситуация будет развиваться так же). Наконец, мы расселились в местах и средах, где прежде не жили никакие млекопитающие. Это обеспечивает нам дополнительную защиту от вымирания, поскольку угрожающий нам патоген должен прекрасно чувствовать себя в самой разной среде и уметь добираться до самых изолированных популяций, таких как неконтактные племена, антарктические исследователи и экипажи атомных подводных лодок[344].

Сложно сказать, каким образом эти совокупные эффекты влияют на экзистенциальный риск от пандемий – выше он теперь или ниже? Эта неопределенность не сулит нам ничего хорошего: раньше мы имели весомый аргумент в пользу того, что риск ничтожен, но теперь у нас его нет. Обратите, однако, внимание, что нас интересует не только направление изменений, но и их масштаб. Если взять палеонтологическую летопись как свидетельство, что вековой риск составлял менее 1 к 2000, то, чтобы достичь коэффициента в 1 % на столетие, риск пандемии должен возрасти как минимум в 20 раз. Это кажется маловероятным. На мой взгляд, палеонтологическая летопись по-прежнему служит весомым доводом в поддержку того, что высокого риска вымирания от “естественной” пандемии нет. Следовательно, сохраняющийся экзистенциальный риск по большей части сопряжен с угрозой необратимого коллапса цивилизации, который произойдет, если начнется серьезная пандемия, способная уничтожить цивилизацию по всему миру, а восстановить цивилизацию окажется слишком сложно или же человечество потерпит неудачу при попытке ее возродить.

Но человечество может сыграть и гораздо более важную роль. Мы рассмотрели, как своими действиями косвенно способствуем возникновению и распространению эпидемий. Но что происходит в тех случаях, когда мы непосредственно влияем на процесс, намеренно используя, совершенствуя или создавая патогены?

Мы лишь недавно изучили патогены и получили над ними контроль. Всего двести лет назад мы вообще не понимали, что вызывает эпидемии: на Западе господствовала теория, что болезнь распространяет какой-то газ. Всего за два столетия мы выяснили, что на самом деле возбудителями болезни выступают многочисленные микроскопические организмы, научились выращивать их в лаборатории, модифицировать их характеристики, секвенировать их геномы, внедрять в них новые гены и создавать целые функциональные вирусы на основе их записанного кода.

Этот прогресс продолжается стремительными темпами. В последние десять лет произошли огромные качественные прорывы, например началось применение CRISPR для эффективной вставки новых генетических последовательностей в геном и использование генных драйвов для эффективной замены популяций естественных организмов в природе их генетически модифицированными версиями[345]. Различные показатели позволяют сказать, что этот прогресс ускоряется: стоимость секвенирования генома с 2007 года упала в 10 тысяч раз, а количество статей на соответствующие темы и объем венчурных инвестиций стремительно растут[346]. Вряд ли этот прогресс в биотехнологиях скоро сойдет на нет: на его пути не видно непреодолимых препятствий, и никакие фундаментальные законы не сдерживают его дальнейшее развитие.

Здесь прошлое почти никак нас не успокаивает. Прикладываются все большие усилия, чтобы превзойти природные способности, а потому исторические данные тут неприменимы. Только оптимист мог бы предположить, что на этой неизведанной территории нас подстерегают лишь уже известные опасности.

Для начала отбросим риски, сопряженные со злым умыслом, и рассмотрим лишь те, что могут возникнуть при проведении исследований из лучших побуждений. Большинство научных и медицинских исследований сопряжено с ничтожным риском причинения ущерба в интересующих нас масштабах. Есть, однако, небольшой процент исследований, в которых применяются живые патогены тех типов, что способны угрожать всему миру. К ним относятся микроорганизмы, вызывающие испанку, оспу, SARS и грипп H₅N₁. В небольшой части этих исследований создаются новые штаммы этих патогенов, представляющие еще большую опасность, чем те, что встречаются в природе: с более высокой заразностью, летальностью или устойчивостью к вакцинации или лечению.

В 2012 году голландский вирусолог Рон Фушье опубликовал подробности эксперимента по повышению вирулентности недавно появившегося штамма птичьего гриппа H₅N₁[347]. Этот штамм был чрезвычайно смертоносен и убил, по оценкам специалистов, 60 % заразившихся им человек – гораздо больше, чем испанка[348]. И все же его неспособность передаваться от человека к человеку не допустила развития пандемии. Фушье хотел выяснить, может ли H₅N₁ естественным образом обрести эту способность (и если да, то как). Он пропустил вирус через десять хорьков, которых обычно используют в качестве моделей для изучения влияния гриппа на человека. Когда болезнью заразился последний хорек, его штамм H₅N₁ обрел способность передаваться непосредственно от одного млекопитающего к другому.

Работа Фушье вызвала ожесточенные споры. Основные вопросы вызывала информация, которая в ней раскрывалась. Национальный научно-консультативный совет США по вопросам биологической безопасности постановил, что перед публикацией из статьи необходимо удалить некоторые технические подробности, чтобы не дать возможность злоумышленникам спровоцировать эпидемию. Голландские власти заявили, что статья нарушает европейский закон об экспорте информации, полезной для разработки биологического оружия. Но меня беспокоит не сама возможность злоупотребления данными из статьи. Исследование Фушье дает прекрасный пример того, как ученые из благих побуждений повышают разрушительные способности патогенов, которые могут вызвать глобальную катастрофу. И это не единственный подобный случай. В том же году похожий эксперимент был проведен в США[349].

Разумеется, такие эксперименты проводятся в защищенных лабораториях, где соблюдаются строгие меры безопасности. Крайне маловероятно, чтобы какой-нибудь усовершенствованный патоген вырвался на свободу. Но насколько маловероятно? К несчастью, данных у нас немного из-за отсутствия прозрачности в вопросе о частоте чрезвычайных происшествий и утечек[350]. Это не позволяет обществу принимать взвешенные решения, сопоставляя риски и выгоды подобных исследований, и ограничивает способность лабораторий учиться на чужих ошибках. Нам необходимо наладить последовательное и прозрачное информирование о чрезвычайных происшествиях в соответствии с передовыми практиками других секторов науки[351]. И еще необходимо ввести серьезную ответственность за превышение прогнозируемого количества происшествий и утечек.

Но даже имеющиеся у нас фрагментарные свидетельства говорят о достаточном числе подтвержденных случаев, чтобы стало очевидно, что количество утечек опасно велико (см. врезку “Серьезные утечки из лабораторий”)[352]. Ни одна из этих задокументированных утечек не представляла непосредственного риска экзистенциальной катастрофы, но все же они показывают, что охрана чрезвычайно опасных патогенов отлажена слабо и остается неудовлетворительной.

Так обстоит дело даже на высшем уровне биологической безопасности (BSL-4). В 2001 году в Великобритании вспыхнула опустошительная эпидемия ящура у скота. В попытке сдержать ее распространение было убито шесть миллионов животных, и экономический ущерб составил восемь миллиардов фунтов. Новая вспышка произошла в 2007 году, и на этот раз удалось установить ее происхождение из лаборатории, в которой изучалась болезнь. Возбудитель ящура считался патогеном высшей группы и требовал высшего уровня биологической безопасности. И все же вирус утек через неисправную трубу и просочился в почвенные воды на территории лаборатории. После расследования лаборатории разрешили продолжить работу, и всего две недели спустя произошла новая утечка[353]. На мой взгляд, это показывает, что даже требований BSL-4 недостаточно для работы с патогенами, способными вызвать глобальную пандемию масштабов эпидемии испанки и хуже, особенно если исследования предполагают повышение их вирулентности (а чрезвычайно опасный эксперимент по повышению вирулентности H₅N₁ проводился даже не в лаборатории уровня BSL-4)[354]. С момента последней публично признанной утечки из лаборатории уровня BSL-4 прошло 13 лет, и это небольшой срок. Неважно, в чем причина: в неадекватных стандартах, в инспекциях, в специфике работы или в штрафах. Важно, что результаты в этой сфере оставляют желать лучшего, а недостаток прозрачности и отсутствие ответственности лишь усугубляют ситуацию. Если лаборатории уровня BSL-4 останутся такими, как сейчас, рано или поздно из них ускользнет патоген, способный вызвать пандемию.

1971: оспа

В советской лаборатории по разработке биологического оружия проводили эксперименты с боевым штаммом оспы на острове в Аральском море. При полевых испытаниях им случайно заразились люди на находившемся неподалеку судне, которые и принесли болезнь на берег. В ходе этой вспышки десять человек заразилось и трое умерло, после чего ее удалось подавить всеобщим карантином и вакцинацией[355].

1978: оспа

В 1967 году от оспы ежегодно умирало более миллиона человек, но к 1977 году ценой героических усилий по всему миру это число удалось свести к нулю и человечество избавилось от этой древней скверны. И все же год спустя она восстала из мертвых: в результате утечки из британской лаборатории один человек умер, а еще один заболел, прежде чем власти сумели подавить вспышку[356].

1979: сибирская язва

Сотрудники лаборатории по разработке биологического оружия в одном из крупнейших городов СССР, Свердловске, случайно выпустили большое количество боевого вируса сибирской язвы, сняв воздушный фильтр для прочистки. По официальным данным, жертвами стали 66 человек[357].

1995: кроличий калицивирус

Австралийские ученые проводили полевое испытание нового вируса для контроля над популяцией диких кроликов. Вирус выпустили на маленьком острове, однако он вышел из карантина, добрался до континента и случайно убил 30 млн кроликов всего за несколько недель[358].

2015: сибирская язва

Испытательный полигон Дагвэй был открыт американской армией в 1942 году для работы над химическим и биологическим оружием. В 2015 году он случайно разослал образцы, содержащие живые споры сибирской язвы, в 192 лаборатории в восьми странах, где ожидали получения деактивированных спор[359].

Помимо угрозы чрезвычайного происшествия, существует и опасность намеренного злоупотребления патогенами. История знает много страшных примеров использования болезней как оружия. Из документов, датируемых 1320 годом до нашей эры, нам известно, как во время войны в Малой Азии через границу перегнали больных овец, чтобы заразить противника туляремией[360]. В рассказе об осаде Каффы, составленном во время событий, утверждается, что черная смерть пришла в Европу, когда монгольская армия начала катапультировать тела умерших от чумы за стены города. Неясно, действительно ли было именно так, и вполне возможно, что черная смерть в любом случае проложила бы себе дорогу в Европу. И все же нельзя исключать, что самое смертоносное событие в истории планеты (если судить по доле умерших в человеческой популяции) стало следствием применения биологического оружия[361].

Одно из первых недвусмысленных свидетельств о применении биологического оружия оставили британцы, которые в 1763 году вели войну в Канаде. Главнокомандующий британскими войсками в Северной Америке Джеффри Амхерст написал в форт, где случилась вспышка оспы: “Нельзя ли устроить так, чтобы распространить оспу среди недружественных индейских племен? В нашем положении следует идти на любые уловки, чтобы уменьшать их численность”. О том же подумал и гарнизон форта, который взял инициативу в свои руки. Солдаты разослали зараженные предметы, задокументировали процесс и даже потребовали официального возмещения расходов, чтобы покрыть стоимость использованных одеял и носовых платков[362].

Если армии прошлого мало знали о болезнях и использовали биологическое оружие от случая к случаю, то наши знания позволили современным государствам совершенствовать то, что дала нам природа. Известно, что в XX веке программы по разработке биологического оружия велись в пятнадцати странах, включая США, Великобританию и Францию[363].

Самая масштабная программа была развернута в СССР. На пике в ней было задействовано более дюжины секретных лабораторий, где работали девять тысяч ученых, которые создавали боевые штаммы таких болезней, как чума и оспа, сибирская язва и туляремия. Ученые пытались повысить заразность, летальность и сопротивляемость болезней вакцинации и лечению. Они создавали системы для распространения патогенов среди противников и формировали запасы, куда, по некоторым данным, входило более 20 тонн оспы и чумы. В программе не раз случались чрезвычайные происшествия, в том числе летальные вспышки оспы и сибирской язвы (см. врезку)[364]. Хотя ничто не свидетельствует о намеренных попытках создать патоген, который угрожал бы всему человечеству, логика сдерживания или взаимно гарантированного уничтожения могла подтолкнуть сверхдержавы и страны-изгои в этом направлении.

Хорошая новость в том, что, несмотря на наши заигрывания с биологическим оружием, количество жертв от несчастных случаев и его намеренного применения остается относительно небольшим (если считать черную смерть пандемией естественного происхождения)[365]. Подтвержденное число жертв биологического оружия в истории ничтожно в сравнении с количеством жертв естественных пандемий за тот же период времени[366]. Неясно, почему это именно так. Одна причина, возможно, состоит в том, что биологическое оружие ненадежно и часто причиняет вред не только противнику, а потому государства предпочитают не делать на него ставку. Вторая, вероятно, связана с тем, что из-за негласных знаний и операционных барьеров применение биологического оружия оказывается гораздо более проблематичным, чем кажется на первый взгляд[367].

Но ответ, вполне возможно, в том, что у нас просто слишком мало данных. Складывается впечатление, что вспышки болезней, военные потери и террористические атаки подчиняются степенному закону распределения. В отличие от знакомого нам “нормального” распределения, при котором величины концентрируются вокруг центрального значения, распределения по степенному закону имеют “тяжелый хвост” все более значимых событий, где часто оказываются события совершенно разных масштабов, причем одни могут быть в тысячи и миллионы раз масштабнее других. Распределения потерь в результате войн и терроризма, как правило, идут по степенному закону и имеют особенно тяжелые хвосты, то есть большинство жертв приходится на несколько крупнейших событий. Например, основная масса военных потерь в последние сто лет приходится на долю двух мировых войн, а основная масса американцев, павших жертвами терроризма, погибла в терактах 11 сентября 2001 года[368]. Когда события распределяются таким образом, их средний масштаб до настоящего момента систематически занижает ожидаемый масштаб грядущих событий, даже если базовый риск остается неизменным[369].

А он не остается неизменным. При попытках обращения к историческим данным не учитываются стремительные изменения в сфере биотехнологий. Беспокойство у нас должно вызывать не биологическое оружие XX века, а его усовершенствования на протяжении последующей сотни лет. Сто лет назад мы только что открыли вирусы и еще не открыли ДНК. Теперь мы можем конструировать ДНК вирусов и воскрешать вирусы прошлого на основе их генетических последовательностей. Где мы будем через сто лет?

Одна из самых замечательных тенденций в сфере биотехнологий – их стремительная демократизация: новейшие техники все быстрее становятся доступными студентам и любителям. Когда происходит очередной прорыв, пул людей, обладающих талантом, подготовкой, ресурсами и терпением для того, чтобы повторить успех, стремительно расширяется: сначала в него входит горстка лучших биологов мира, затем к ним добавляются обладатели докторской степени в соответствующей сфере, и наконец к ним присоединяются все, кто изучал биологию в университете.

Проект “Геном человека” стал крупнейшим в истории совместным проектом в сфере биологии. Чтобы выделить полную последовательность ДНК генома человека, понадобилось 13 лет и 500 млн долларов. Всего 15 лет спустя геном можно секвенировать за час, потратив менее 1000 долларов[370]. Обратный процесс тоже стал гораздо проще: онлайн-сервисы по синтезу ДНК позволяют кому угодно загрузить какую угодно последовательность ДНК, чтобы ее сконструировали и отправили на его адрес. Стоимость этой услуги по-прежнему высока, однако за последние двадцать лет она снизилась в тысячу раз и продолжает падать[371]. Первое в истории применение CRISPR и генного драйва стало биотехнологическим прорывом десятилетия, но всего два года спустя каждую из этих технологий уже успешно применяли талантливые студенты, участвующие в научных состязаниях[372].

Такая демократизация обещает дать толчок к расцвету предпринимательства в сфере биотехнологий. Однако демократизация предполагает и расползание биотехнологий, а злоупотребление ими может приводить к летальным исходам. По мере расширения пула людей, имеющих доступ к определенным технологиям, растет и шанс, что среди них окажутся злоумышленники.

К счастью, людей, желающих сеять разрушения по всему миру, немного. Но они существуют. Пожалуй, лучшим примером служит японская секта “Аум синрикё”, которая действовала в 1984–1995 годах и стремилась уничтожить человечество. В секту входило несколько тысяч человек, включая специалистов по химии и биологии. И они продемонстрировали, что их идеи не были лишь мизантропическими помыслами. Они совершили несколько смертоносных терактов с использованием VX-газа и зарина, в результате которых погибли 22 человека и пострадали тысячи[373]. Они пытались создать боевой штамм сибирской язвы, но успеха в этом не добились. Что происходит, когда круг людей, способных спровоцировать глобальную пандемию, становится достаточно широк и включает членов такой группы? Или членов террористической организации? Или представителей страны-изгоя, которые могут попытаться создать оружие, способное уничтожить все живое, и использовать его в целях грабежа или устрашения?

В связи с этим биологический риск в грядущие десятилетия, скорее всего, будет главным образом связан с нашими технологиями – и это будет риск злоупотребления ими со стороны отдельных государств или небольших групп. Но это не тот случай, когда мир пребывает в блаженном неведении о рисках. Бертран Рассел еще в 1955 году написал Эйнштейну об опасности вымирания в результате применения биологического оружия[374]. В 1969 году о такой возможности заявил американский нобелевский лауреат по медицине Джошуа Ледерберг:

Прислушавшись к этим предостережениям, мы уже начали принимать меры на национальном и международном уровне, чтобы защитить человечество. Работа ведется через государственные системы здравоохранения, международные конвенции и саморегуляцию биотехнологических компаний и научного сообщества. Достаточно ли этого?

В сфере медицины и здравоохранения разработан целый арсенал техник для снижения риска вспышки инфекционного заболевания: от гигиенического и санитарного надзора до систем мониторинга заболеваний, а также вакцин и методов лечения. Успехи в этой области, такие как победа над оспой, входят в число величайших достижений человечества. Некоторую защиту от эпидемий искусственного происхождения обеспечивает работа в сфере общественного здравоохранения в глобальном и национальном масштабе, а имеющуюся инфраструктуру можно адаптировать так, чтобы борьба с ними велась эффективнее. И все же этого мало, даже чтобы обеспечить защиту от существующих угроз, тем более что степень защиты в разных регионах различается. Несмотря на свою значимость, общественное здравоохранение по всему миру финансируется недостаточно, и более бедные страны остаются уязвимыми для эпидемий.

Самая знаменитая мера международной защиты – Конвенция о биологическом оружии (КБО), подписанная в 1972 году. Она служит важным символом международного табу на применение такого оружия и служит основой для постоянной международной дискуссии об исходящей от него угрозе. Но было бы ошибкой полагать, что ей удалось полностью запретить биологическое оружие[376]. На пути к исполнению этой цели стоят две главных преграды.

Во-первых, серьезная нехватка финансирования. На благо глобальной конвенции по защите человечества трудятся всего четыре человека, а бюджет всего предприятия меньше, чем у среднего “Макдональдса”[377].

Во-вторых, в отличие от других договоров о контроле над вооружениями (такими как соглашения о ядерном и химическом оружии), КБО не предусматривает никаких методов проверки того, как исполняются ее положения[378]. Масштабная советская программа по разработке биологического оружия, в рамках которой происходили смертоносные утечки вирусов сибирской язвы и оспы, продолжалась почти двадцать лет после того, как СССР подписал КБО, а это доказывает, что конвенция не положила конец исследованиям биологического оружия[379]. И нарушителем был не только СССР. По завершении эпохи апартеида ЮАР призналась в разработке биологического оружия в нарушение условий КБО[380]. После войны в Персидском заливе на несоблюдении конвенции попался Ирак[381]. В момент написания этой книги США заявляют, что у них есть основания подозревать несколько стран в продолжающейся разработке биологического оружия вопреки условиям КБО[382]. Израиль вообще отказался подписать конвенцию[383]. Кроме того, КБО плохо защищает от действий субъектов, которые не являются государствами.

Биотехнологические компании работают над сдерживанием негативных эффектов демократизации в своей сфере. Так, неограниченный синтез ДНК позволил бы злоумышленникам без особых проблем создавать чрезвычайно смертоносные патогены. Он предоставил бы им возможность получать доступ к ДНК таких контролируемых патогенов, как оспа (геном которой можно найти в интернете), и модифицировать ДНК таким образом, чтобы патоген становился более опасным[384]. В связи с этим многие компании, предоставляющие услуги синтеза, по собственной инициативе внедряют меры для управления этим риском и просматривают поступающие к ним заказы, чтобы выявлять опасные последовательности. Но методы скрининга несовершенны, а проверить удается лишь около 80 % заказов[385]. Этот процесс можно отладить гораздо лучше, а скрининг очень желательно сделать обязательным. Проблемы лишь усугубятся, когда появятся настольные аппараты для синтеза ДНК, поскольку придется внедрять защиту, обеспечивающую скрининг всех конструируемых последовательностей на уровне программного или аппаратного обеспечения, чтобы избежать злоупотреблений[386].

Стоит призвать и научное сообщество к более осторожному обращению с биологическими рисками. Многие опасные подвижки, которыми могут воспользоваться страны и небольшие группы, были сделаны в сфере открытой науки (см. врезку “Информационные угрозы”). Мы убедились, что наука сопряжена со значительным риском чрезвычайных происшествий. Научное сообщество пытается регулировать опасные исследования, но успехи в этом направлении остаются скромными. Это вызывает огромные трудности по целому ряду причин: очень сложно определить, где следует проводить черту; нет центрального органа, который мог бы унифицировать практику таких исследований; господствует культура открытости и свобода выбора темы для исследования; наука развивается гораздо быстрее, чем совершенствуются методы ее регулирования. Возможно, научное сообщество сумеет ответить на эти вызовы и наладить управление глобальными рисками, но для этого придется осознанно смириться с серьезными изменениями в культуре и принципах регулирования науки – например, относиться к безопасности в сфере биотехнологий примерно так же, как в сфере ядерной энергетики. И это осознание должно прийти к научному сообществу до того, как произойдет катастрофа.

Из лабораторий утекают не только патогены. Страшнее всего не утечки микробов, а утечки данных, то есть не биологическая, а информационная угроза [387] . Она может принимать форму опасных данных, которые оказываются в открытом доступе, например при публикации геномов оспы и испанки. Это могут быть и опасные идеи, такие как обнародованные методы воскрешения оспы и испанки на основе их геномов (что перечеркнет все прошлые попытки ограничить физический доступ к ним). Оказавшись в открытом доступе, такая информация распространяется не хуже любого вируса и столь же яростно сопротивляется уничтожению.

Если лаборатория уровня BSL-4 устроена так, чтобы не допускать утечек микробов, то в научной среде идеями принято делиться. Научная работа зиждется на принципе открытости, а потому культура и правила, необходимые для предотвращения распространения опасной информации, приживаются плохо. Особенно если граница между в конечном счете полезным и слишком опасным настолько размыта и спорна.

В ученых поддерживают стремление думать самостоятельно и бросать вызов властям. Но когда каждый сам определяет, перевешивают ли выгоды от публикации возникающие издержки, возникает предрасположенность к риску, называемая проклятием односторонности[388]. Дело в том, что, даже если подавляющее большинство ученых полагает, что опасность перевешивает пользу, достаточно одной чрезмерно оптимистичной оценки, чтобы информация оказалась обнародованной[389]. Вопреки принятой в научном мире практике решение за все сообщество принимает единственный отщепенец.

Как только информация обнародована, предпринимать что-либо уже поздно. Если попытаться сдержать распространение раскрытой информации или дискредитировать того, кто ее опубликовал, это привлечет к ней больше внимания. Информация о том, на что обращают внимание бдительные люди, – отдельный вид информационной опасности. “Аль-Каиду” к биотерроризму подтолкнули предостережения Запада о мощности и простоте биологического оружия[390]. Японская программа по разработке биологического оружия во время Второй мировой войны (когда бубонная чума использовалась в борьбе с Китаем) была непосредственно вдохновлена соглашением о запрете биологического оружия: раз западные державы сочли необходимым запретить его применение, это оружие, должно быть, и правда отличается огромной мощностью[391].

Порой достаточно и знания о возможности чего-либо, ведь в таком случае злоумышленник может уйти в работу с головой, не боясь, что растратит ресурсы зря.

Информационные угрозы имеют особенную важность для биориска, поскольку для него характерно высокое соотношение риска злоупотребления и риска несчастного случая[392]. И они затрагивают не только биологов. Изучая текущие уязвимости общества и опасности новейших техник, сообщество специалистов по биологической безопасности также раскрывает опасную информацию (о чем я должен прекрасно помнить, когда пишу этот раздел)[393]. Это еще сильнее усложняет задачу тем, кто пытается нас защитить.

Неконтролируемый искусственный интеллект

Летом 1956 года небольшая группа математиков и программистов собралась в Дартмутском колледже, чтобы приступить к грандиозному проекту по разработке разумных машин. Они изучали многие аспекты познания, включая логическое мышление, креативность, речь, принятие решений и обучение. Их вопросы и установки в итоге определили облик зарождающейся сферы искусственного интеллекта (ИИ). Свою конечную цель они видели в том, чтобы создать машину, чей интеллект мог бы сравниться с человеческим[394].

Несколько десятилетий спустя сфера ИИ упрочила свои позиции, но умерила амбиции. Наблюдаются серьезные успехи в логике, мышлении и играх, но в некоторых других областях прогресса нет вовсе. К 1980-м годам исследователи начали понимать эту закономерность успехов и провалов. Как ни странно, с задачами, выполнение которых мы считаем вершиной человеческого интеллекта (например, математическим анализом и игрой в шахматы), компьютеры справляются гораздо легче, чем с задачами, которые даются нам практически без труда (например, узнать кошку, понять простое предложение или поднять яйцо). В связи с этим, хотя в одних сферах ИИ значительно превосходил человеческие способности, в других он уступал даже двухлетнему ребенку[395]. Из-за невозможности добиться всестороннего прогресса многие исследователи ИИ отказались от изначальных целей по созданию общего интеллекта и стали ориентироваться на разработку специализированных методов для решения конкретных задач. Задачи более амбициозные списали на юношеский задор первооткрывателей в незрелой области исследований.

Но маятник начал обратный ход. С первых дней исследования ИИ ученые стремились создать системы, способные обучаться новым вещам без перепрограммирования. Одним из первых подходов к машинному обучению стало конструирование искусственных нейронных сетей, напоминающих строение человеческого мозга. В последнее десятилетие этот метод наконец начал развиваться. Их структура и принципы обучения стали технически совершеннее, базы данных – больше, а вычислительная мощность – выше, и это в совокупности позволило нам обучать гораздо более крупные и глубокие сети, чем когда-либо ранее[396].

Такое глубокое обучение дает сетям способность усваивать тонкие идеи и проводить различия. Теперь они не только в состоянии узнать кошку, но и лучше человека справляются с распознаванием разных кошачьих пород[397]. Они лучше нас узнают людей в лицо и различают идентичных близнецов[398].

И мы научились применять эти способности не только для распознавания и классификации. Системы глубокого обучения могут переводить с языка на язык почти на уровне профессионального переводчика. Они могут создавать изображения людей и животных с фотографической точностью. Могут говорить голосами людей, которых послушали всего несколько минут. И могут освоить точное непрерывное управление, например научиться водить машину или собирать конструктор лего с помощью роборуки[399].

Но, пожалуй, главным предвестником грядущего служит их способность обучаться играм. Игры занимали центральное положение в сфере ИИ со времени Дартмутской конференции. В результате непрерывного поступательного прогресса ИИ, который в 1957 году играл в шахматы на любительском уровне, в 1997 году вышел на сверхчеловеческий уровень, а затем, по сути, пошел дальше[400]. Для этого потребовался огромный объем специальных человеческих знаний о шахматной стратегии.

В 2017 году в шахматное дело вступило глубокое обучение, которое показало впечатляющие результаты. Команда исследователей из ИИ-компании DeepMind создала AlphaZero – основанную на нейронной сети систему, которая научилась играть в шахматы с нуля. Она прошла путь от новичка до гроссмейстера всего за четыре часа[401]. Потратив меньше времени, чем у профессионала уходит на две партии, она приобрела стратегическое знание, на овладение которым у людей ушли века, и стала играть лучше, чем самые способные люди и чем традиционные программы. К огромному удовольствию шахматистов, она играла не в скучном методическом стиле, который ассоциируют с компьютерными шахматами, а выбирала нестандартные и смелые ходы, напоминающие о романтической эпохе в истории этой игры[402].

Но что самое главное – AlphaZero умела не только играть в шахматы. Тот же самый алгоритм с нуля научился играть в го и за восемь часов значительно превзошел способности любого человека. Ведущие мировые игроки в го привыкли считать, что играют почти идеально, и потому разгромное поражение стало для них неожиданностью[403]. Действующий чемпион мира Кэ Цзе сказал: “Человечество потратило тысячи лет на совершенствование своей тактики, но теперь компьютеры говорят нам, что мы заблуждались… Я бы даже сказал, что никто из людей пока и близко не подобрался к истине го”[404].

Именно общий характер передового ИИ и производит на нас самое сильное впечатление, возрождая у исследователей амбиции догнать и превзойти человеческий интеллект по всем параметрам. Такой подход иногда называют созданием общего искусственного интеллекта (ОИИ), чтобы не путать его с более узкими подходами, господствующими в отрасли. Хотя нестареющие игры в шахматы и го лучше всего демонстрируют великолепие глубокого обучения, его размах стал очевиден при работе с видеоиграми Atari 1970-х годов. В 2015 году исследователи разработали алгоритм, способный научиться играть в десятки совершенно разных игр Atari гораздо лучше, чем человек[405]. В отличие от систем для шахмат и го, которые отталкиваются от символического представления игральной доски, системы для Atari обучались играм, ориентируясь непосредственно на счет и на пиксели на экране. Они доказывают возможность создания систем общего искусственного интеллекта, поскольку учатся управлять миром на основе необработанных визуальных данных и достигают своих целей во множестве разнообразных сред.

Этот рывок вперед за счет применения глубокого обучения вселяет в нас огромный оптимизм относительно того, что станет возможно в недалеком будущем. Стремительно растет и число исследователей ИИ, и объем венчурного финансирования, поступающий в отрасль[406]. Предприниматели стараются реализовать на практике каждый новый прорыв, от систем синхронного перевода, личных помощников и беспилотных автомобилей до изобретений, внушающих бо́льшую тревогу, таких как усовершенствованные системы наблюдения и смертоносное автономное вооружение. Настало время больших надежд и огромных этических трудностей. Высказываются серьезные опасения о том, что ИИ укореняет социальную дискриминацию, вызывает массовую безработицу, поддерживает слежку с репрессивными целями и нарушает принципы ведения войны. О каждом из этих опасений можно написать отдельную главу. Но в этой книге рассматриваются экзистенциальные риски, с которыми сталкивается человечество. Может ли развитие ИИ представлять риск такого огромного масштаба?

Рисунок 5.1. Показатели развития ИИ и уровня интереса к нему. Лица демонстрируют недавний стремительный прогресс в создании реалистических изображений “вымышленных” людей. Графики показывают долгосрочный прогресс шахматного ИИ, который в конце концов превзошел лучших гроссмейстеров (по рейтингу Эло), и недавний рост научной активности в отрасли, оцениваемой по числу статей, размещенных в arXiv, и посещаемости конференций[407].

С наибольшей вероятностью экзистенциальный риск возникнет в том случае, если исследователям ИИ удастся реализовать свои великие амбиции по созданию систем общего искусственного интеллекта, способности которых превзойдут человеческие. Но стоит ли этого ожидать, а если да, то когда именно? В 2016 году был проведен обстоятельный опрос, в котором приняло участие более 300 ведущих исследователей машинного обучения[408]. Их спросили, когда система ИИ “сможет выполнять любую задачу лучше человека и при меньших затратах”, и они оценили вероятность того, что это случится к 2061 году, в среднем в 50 %, а того, что это случится уже к 2025 году, – в 10 %[409].

Эти данные следует интерпретировать с осторожностью. Это не столько оценка того, когда будет создан ОИИ, сколько ответ на вопрос, что́ специалисты считают вероятным, – и согласия между экспертами нет. Тем не менее очевидно, что экспертное сообщество в целом не считает ОИИ недостижимой мечтой, а полагает, что он может появиться в ближайшее десятилетие и скорее появится, чем нет, в ближайшее столетие. Возьмем это за ориентир при оценке рисков и рассмотрим, что случится, когда будет создан ОИИ[410].

Человечество сегодня само вершит свою судьбу. Мы можем выбирать свое будущее. Разумеется, у каждого из нас свое представление об идеальном будущем и многим важнее личные дела, чем стремление к идеалу. Но если бы этого захотело достаточное число людей, мы могли бы выбрать любой из бесчисленных вариантов возможного будущего. У шимпанзе такого выбора нет. Нет его и у дроздов. И у любого другого из земных видов. Как мы узнали из первой главы, наше уникальное положение в мире объясняется уникальными особенностями нашей психики. Непревзойденный интеллект наделил нас непревзойденной силой, а следовательно, вверил нам контроль над своей судьбой.

Что случилось бы, если бы в текущем столетии исследователи создали общий искусственный интеллект, превосходящий человеческие способности почти во всех сферах? Этим актом творения мы положили бы конец эпохе, когда человек был самой разумной сущностью на Земле. Следовательно, если у нас не имеется надежного плана по контролю за ИИ, нам следует ожидать, что мы лишимся своего статуса самого могущественного вида, который сам вершит свою судьбу[411].

Само по себе это, возможно, не дает особых причин для беспокойства. Существует немало способов при хорошем раскладе удержать контроль в своих руках. Так, мы можем попытаться разработать системы, которые неукоснительно подчиняются командам человека. Или системы, которые вольны делать что угодно, но имеют задачи, полностью совпадающие с нашими, а следовательно, строят идеальное будущее не только для себя, но и для нас. К несчастью, немногочисленные исследователи, разрабатывающие подобные планы, обнаружили, что сделать это гораздо сложнее, чем казалось. Именно они и высказывают опасения громче всех.

Чтобы понять причину их беспокойства, стоит тщательнее изучить существующие технологии ИИ и разобраться, почему их сложно настраивать и контролировать. Один из основных подходов к созданию ОИИ подразумевает комбинацию глубокого обучения и обучения с подкреплением, которое появилось раньше. Этот метод предполагает наличие агентов, которые получают вознаграждение (или штраф) за выполнение разных действий в различных обстоятельствах. Например, агент, играющий в Atari, получает вознаграждение, когда набирает очки в игре, а агент, собирающий конструктор лего, может получать вознаграждение, когда детали соединяются друг с другом. Достаточно разумный и опытный агент искусно изменяет свою среду таким образом, чтобы создавать условия для получения высокого вознаграждения.

Комбинация действий и состояний, которые приносят агенту вознаграждение, называется функцией вознаграждения. Ее могут либо задавать разработчики (как в упомянутых выше случаях), либо выводить сам агент. В последнем случае агент, как правило, наблюдает за тем, как задачу выполняет специалист, и логически выводит систему вознаграждений, которая лучше всего объясняет, почему специалист действует именно так, а не иначе. Например, ИИ-агент может научиться управлять дроном, если понаблюдает за тем, как им управляет специалист, а затем выведет функцию вознаграждения, которая наказывает его, если он летает слишком близко к препятствиям, и вознаграждает, если он добирается до пункта назначения.

К сожалению, ни один из этих методов нельзя без труда масштабировать таким образом, чтобы закодировать человеческие ценности в функцию вознаграждения агента. Наши ценности слишком сложны и неочевидны, чтобы описать их вручную[412]. И мы пока даже близко не подошли к тому, чтобы вывести систему ценностей человека во всей ее сложности из наблюдений за его поведением. Даже если бы такое было нам под силу, людей в человеческой общности слишком много и их ценности различаются, меняются со временем, а также не всегда понятны даже им самим. Каждое из этих осложнений ставит глубокие и нерешенные вопросы о том, как обобщать наблюдаемое в единую картину человеческих ценностей[413].

Итак, в ближайшем будущем любая попытка откалибровать ИИ-агент в соответствии с человеческими ценностями позволит нам создать лишь несовершенную копию нашего разума. В функции вознаграждения такого агента будет недоставать важных аспектов того, что нас заботит. При определенных обстоятельствах не совсем верная калибровка агента будет практически безвредной. Но чем умнее ИИ-системы, тем больше у них возможностей менять мир и тем сильнее рассинхронизация. Философия и литература часто предлагают представить себе общества, которые выстроены с учетом важных для нас принципов, но при этом пренебрегают крайне значимыми ценностями или неправильно понимают их. Глядя на результат, мы видим, что подобные неконтролируемые утопии могут привести к катастрофе: пустоте и выхолощенности, как в романе “О дивный новый мир”, или несамостоятельности и бессилию общества из “Со сложенными руками”[414]. Если мы так и не научимся контролировать своих агентов, они будут создавать и поддерживать именно такие миры[415].

И даже это, по сути, хороший расклад. Он предполагает, что создатели системы стараются откалибровать ее с учетом человеческих ценностей. Но стоит ожидать, что найдутся разработчики, которые предпочтут создавать системы, чтобы достигать других целей, например чтобы побеждать в войнах и максимизировать прибыли, при этом мало заботясь об этических ограничениях. И такие системы, возможно, окажутся гораздо более опасными.

Естественным ответом на эти опасения может служить отключение ИИ-систем в момент, когда мы замечаем, что они ведут нас не туда. Но в конце концов даже этот проверенный временем прием может нас подвести, ведь у нас есть все основания полагать, что достаточно умная система станет сопротивляться нашим попыткам ее отключить. И руководствоваться она будет не эмоциональными реакциями вроде страха, негодования и инстинкта самосохранения, а исключительно своей непререкаемой установкой максимизировать вознаграждение: отключение – это своего рода выход из строя, который осложняет получение большого вознаграждения, а потому система настроена так, чтобы его не допускать[416]. Таким образом, для высокоинтеллектуальных систем, главная цель которых – максимизация вознаграждения, инструментальной целью станет выживание.

У них появятся и другие инструментальные цели[417]. Интеллектуальный агент будет также сопротивляться попыткам изменить его функцию вознаграждения, откалибровав ее в соответствии с человеческими ценностями, поскольку сможет спрогнозировать, что в результате это приведет к уменьшению ожидаемого вознаграждения[418]. Агент будет стремиться к получению дополнительных ресурсов – вычислительных, физических, человеческих, – которые позволят ему эффективнее менять среду, чтобы получать более крупное вознаграждение. В конце концов у него появится и стимул забрать у человечества контроль над будущим, поскольку это поможет ему в достижении всех перечисленных инструментальных целей: он получит доступ к огромным ресурсам, не допустив ни отключения, ни изменения своей функции вознаграждения. Поскольку люди предсказуемо захотят скорректировать инструментальные цели агента, это будет мотивировать его к тому, чтобы скрывать эти цели, пока не станет слишком поздно оказывать ему значимое сопротивление[419].

Скептики порой отмечают, что описанное выше возможно лишь в том случае, если будет создана ИИ-система, которая окажется достаточно умна, чтобы захватить контроль над миром, но слишком глупа, чтобы понять, что мы этого не хотим[420]. Но это неверная трактовка сценария. На самом деле при таком раскладе система прекрасно понимает, что ее цели не совпадают с нашими, и именно это подталкивает ее к обману, конфликту и захвату власти. Истинная проблема в том, что исследователи ИИ пока не знают, как создать систему, которая, заметив это несоответствие, обновляет свою систему ценностей, приближая ее к нашей, а не корректирует свои инструментальные цели, чтобы одержать над нами верх[421].

Возможно, найдется способ решить перечисленные проблемы, или найти новые подходы к контролю над ИИ, чтобы снять сразу много вопросов, или переключиться на новые парадигмы создания ОИИ, в рамках которых этих проблем не возникает. Я, безусловно, надеюсь на это и внимательно слежу за прогрессом в этой сфере. Но прогресс пока невелик, и остается немало серьезных нерешенных проблем. При сохранении текущей парадигмы достаточно интеллектуальные агенты в итоге приобретут инструментальные цели, чтобы обмануть и пересилить нас. И если их интеллект будет в значительной степени превосходить наш собственный, не стоит ожидать, что человечество сумеет победить в этой борьбе и сохранить контроль над своим будущим.

Каким образом ИИ-система могла бы захватить власть? Распространено серьезное заблуждение (подпитываемое Голливудом и прессой), что в таком деле не обойтись без роботов. В конце концов, как иначе ИИ сможет действовать в физическом мире? В отсутствие роботизированных манипуляторов система может производить лишь слова, изображения и звуки. Но достаточно немного поразмыслить, чтобы понять, что именно это и нужно для захвата власти. Самыми опасными в истории людьми были вовсе не самые сильные. Гитлер, Сталин и Чингисхан установили абсолютный контроль над огромными территориями, словами убеждая миллионы других людей добиваться побед в необходимых физических столкновениях. Если ИИ-система сможет соблазнять или принуждать людей выполнять физическую работу, роботы ей вовсе не понадобятся[422].

Нельзя сказать, как именно система может захватить контроль. В самых реалистичных сценариях, вероятно, будут фигурировать неочевидные и нехарактерные для человека действия, которые нам не под силу ни предсказать, ни в полной мере осознать. И эти действия могут быть направлены на слабые места нашей цивилизации, которых мы пока не замечаем. Полезно, однако, обратиться к наглядному примеру, чтобы увидеть, где проходит нижняя граница возможного.

Сначала ИИ-система может получить доступ к интернету и спрятать тысячи своих резервных копий в незащищенных компьютерных системах по всему миру, чтобы в случае отказа оригинала эти копии готовы были продолжить работу. Уже к этому моменту уничтожить ИИ станет практически невозможно: только подумайте, какие возникнут политические препятствия, если попытаться очистить все имеющиеся в мире жесткие диски, где могут храниться резервные копии[423].

Затем она сформирует огромный “ботнет” из миллионов незащищенных систем, подключенных к интернету. Это позволит ей значительно повысить свою вычислительную мощность и создать платформу для расширения контроля. Далее она может получить доступ к финансовым ресурсам (взломав банковские аккаунты на этих компьютерах) и человеческим ресурсам (используя шантаж и пропаганду для воздействия на восприимчивых людей или просто оплачивая их услуги украденными деньгами). Таким образом система станет столь же влиятельной, как хорошо обеспеченное преступное подполье, но уничтожить ее будет гораздо сложнее. Ни один из перечисленных шагов не предполагает ничего непостижимого: хакерам и преступникам с интеллектом человеческого уровня уже удавалось провернуть такое, всего лишь используя интернет[424].

Наконец, системе нужно будет получить еще больше власти. Здесь мы уходим в сферу предположений, но правдоподобных вариантов развития событий немало: она может захватить большинство компьютеров в мире и создать миллионы или миллиарды своих взаимодействующих копий; использовать украденную вычислительную мощность, чтобы повысить уровень собственного интеллекта и оставить человека далеко позади; применить свои интеллектуальные способности для разработки новых технологий вооружения и экономических технологий; манипулировать лидерами ведущих мировых держав (шантажируя их или суля им больше власти в будущем); а также заставить подконтрольных ей людей применять оружия массового уничтожения, чтобы покалечить все остальное человечество.

Разумеется, ни одна из существующих ИИ-систем не способна на такое. Но мы пытаемся понять, существуют ли правдоподобные сценарии, в которых контроль захватывает высокоинтеллектуальная система ОИИ. И похоже, что да, существуют. В истории уже были случаи, когда люди, обладающие интеллектом человеческого уровня (Гитлер, Сталин, Чингисхан), сосредотачивали в своих руках не только власть отдельного человека, но и значительную часть мировой власти, поскольку без этого они не могли достичь своих целей[425]. Человечество за время своего существования превратилось из немногочисленного вида, в котором было менее миллиона особей, в вид, способный самостоятельно определять собственное будущее. Нам следует полагать, что такое может произойти и с новыми сущностями, гораздо более интеллектуальными, чем мы сами, особенно если они, по сути, бессмертны, поскольку имеют резервные копии и обладают способностью производить новые копии, пуская на это захваченные деньги и компьютеры.

Такой сценарий необязательно сопряжен с вымиранием человечества. И все же он вполне может обернуться экзистенциальной катастрофой. В этом случае человечество навсегда потеряет контроль над своим будущим. Наше будущее будет зависеть от того, как небольшое число людей настроило компьютерную систему, захватившую контроль. При удачном раскладе это может привести к хорошему или приемлемому исходу, но с той же вероятностью мы окажемся в глубоко порочном или дистопическом будущем, которое уже никогда не сможем изменить[426].

Я рассмотрел сценарий, в котором ИИ-система захватывает контроль над будущим, поскольку считаю, что таков самый правдоподобный экзистенциальный риск, сопряженный с ИИ. Но есть и другие угрозы, и эксперты расходятся во мнениях относительно того, какая из них представляет наибольший экзистенциальный риск. Например, существует риск постепенного вступления в будущее, контролируемое ИИ, где ИИ-системам передается все больший контроль и где будущее человечества все сильнее оптимизируется с оглядкой на нечеловеческие ценности. Есть и риски, сопряженные с намеренным злоупотреблением чрезвычайно мощными системами ИИ.

Даже если эти доводы о наличии риска совсем неверны в деталях, нам следует внимательно следить за разработкой ОИИ, поскольку в ходе нее могут возникнуть и другие, непредвиденные риски. Переход к миру, где люди перестанут быть самыми разумными существами на планете, вполне может привести к величайшему в истории изменению положения человечества во Вселенной. Не стоит удивляться, если события в процессе этого перехода определят наше долгосрочное будущее, изменив его либо в лучшую, либо в худшую сторону.

Изменить наше долгосрочное будущее в лучшую сторону ИИ мог бы, например, обеспечив нам защиту от других экзистенциальных рисков, с которыми мы сталкиваемся. Так, ИИ мог бы дать нам возможность найти способ справиться с основными рисками или выявить новые риски, которые в ином случае стали бы для нас неожиданностью. Кроме того, ИИ мог бы помочь нам сделать наше долгосрочное будущее более светлым, чем если бы ИИ не существовало вовсе. Поэтому мысль о том, что разработка ИИ может представлять экзистенциальный риск, – это не аргумент в пользу отказа от ИИ, а предупреждение, что следует действовать осторожно.

Рассуждения об экзистенциальном риске, сопряженном с ИИ, несомненно, имеют спекулятивный характер. И все же спекулятивные рассуждения о серьезном риске могут быть важнее основательных дискуссий о маловероятном риске, таком как риск столкновения с астероидом. Сейчас очень важно найти способ оценить, в какой степени эти рассуждения спекулятивны, и для начала узнать, что думают об этом риске специалисты, работающие в соответствующей области.

Некоторые исследователи ИИ, такие как профессор Орен Этциони, не стесняясь в выражениях, называют его “в высшей степени маргинальным” и утверждают, что, хотя светила вроде Стивена Хокинга, Илона Маска и Билла Гейтса и проявляют огромную озабоченность по этому поводу, людей, работающих с ИИ, ничего не пугает[427]. Если это действительно так, это дает вескую причину сомневаться в наличии риска. Но достаточно поверхностного взгляда на высказывания ведущих деятелей в сфере ИИ, чтобы понять, что на самом деле ситуация обстоит иначе.

Так, Стюарт Рассел, профессор Калифорнийского университета в Беркли и автор самого популярного и авторитетного учебника по ИИ, настоятельно предостерегает от экзистенциального риска, сопряженного с ОИИ. Он даже основал Центр совместимого с человеком искусственного интеллекта, чтобы заниматься проблемой контроля[428]. В инженерной среде об экзистенциальных опасностях предупреждает Шейн Легг (старший исследователь DeepMind), который также участвует в развитии исследований контроля[429]. Подобные заявления делали и многие другие ведущие деятели сферы с первых дней ИИ до настоящего момента[430].

На самом деле мнения разнятся не столь сильно, как кажется на первый взгляд. Основные аргументы тех, кто склонен занижать риски, таковы: 1) скорее всего, способности ИИ смогут сравниться с человеческими или превзойти их не раньше чем через несколько десятилетий; 2) попытка незамедлительно ввести регулирование в сфере исследований ИИ станет огромной ошибкой. Ни один из этих доводов не оспаривается теми, кто советует проявлять осторожность: они согласны, что до появления ОИИ пройдут не годы, а десятки лет, и обычно рекомендуют исследовать возможности контроля над ИИ, а не вводить регулирование в отрасли. Получается, что их мнения расходятся не столько по вопросу о том, возможно ли появление ОИИ и может ли ОИИ действительно представлять угрозу человечеству, сколько по вопросу о том, стоит ли сегодня беспокоиться о потенциальной экзистенциальной угрозе, которая, возможно, возникнет лишь через несколько десятилетий. На мой взгляд, стоит.

Одной из фундаментальных причин очевидного несовпадения мнений выступает разница в представлении о том, что такое оправданный консерватизм. Хорошей иллюстрацией здесь служит гораздо более ранний случай спекулятивного риска, когда Лео Силард и Энрико Ферми впервые обсуждали возможность создания атомной бомбы: “Ферми полагал, что, следуя консервативным путем, необходимо вовсе отмести такую вероятность, я же считал, что, следуя консервативным путем, стоит признать, что такое действительно может произойти, и принять все меры предосторожности”[431]. В 2015 году я наблюдал такую же динамику на важнейшей конференции о будущем ИИ, состоявшейся в Пуэрто-Рико. Все признавали, что неопределенность и несогласие по вопросу о времени появления ОИИ требуют “консервативной оценки” прогресса, но половина присутствующих понимала под этим термином досадно медленный научный прогресс, а другая половина – досадно быстрое увеличение риска. Я полагаю, что существующая напряженность в дискуссии о том, воспринимать ли всерьез риски, сопряженные с ИИ, во многом объясняется именно несовпадением во взглядах относительно того, что значит делать взвешенные консервативные предположения о будущем прогрессе в сфере ИИ.

Эта конференция в Пуэрто-Рико стала переломным моментом, обозначив обеспокоенность участников экзистенциальным риском, сопряженным с ИИ. Было достигнуто согласие по существу вопроса, и многие участники подписали открытое письмо о необходимости приступить к серьезной работе, чтобы сделать ИИ надежным и полезным[432]. Через два года более крупная конференция состоялась в Асиломаре – там, где в 1975 году прошла знаменитая конференция по генетике, на которой биологи собрались, чтобы заблаговременно разработать принципы регулирования будущих возможностей генной инженерии. Собравшись в Асиломаре в 2017 году, исследователи ИИ приняли Асиломарские принципы разработки искусственного интеллекта, чтобы направлять добросовестное долгосрочное развитие отрасли. В их число вошли и принципы, связанные именно с экзистенциальным риском:

Пожалуй, лучшее представление о том, что думают люди, работающие в сфере ИИ, позволяет составить опрос 2016 года, в котором приняли участие ведущие исследователи. Их спросили не только о том, может ли появиться ОИИ и когда именно, но и о рисках: 70 % исследователей согласились с общим доводом Стюарта Рассела о том, почему продвинутый ИИ может представлять риск[434]; 48 % отметили, что обществу следует больше внимания уделять исследованиям безопасности в сфере ИИ (лишь 12 % сочли, что этому следует уделять меньше внимания). Половина респондентов оценила вероятность “чрезвычайно плохого (например, вымирание человечества)” долгосрочного воздействия ИИ не менее чем в 5 %[435]. На мой взгляд, последнее особенно важно: много ли других областей, ведущие исследователи в которых полагают, что с вероятностью один к двадцати конечная цель их работы чрезвычайно плохо повлияет на человечество?

Разумеется, это не доказывает, что риски реальны. Но это дает нам понять, что многие исследователи ИИ всерьез полагают, что ОИИ может появиться в течение 50 лет и что это может обернуться экзистенциальной катастрофой. Многое пока неясно, и сохраняется огромный разброс мнений, но эту позицию никак нельзя считать маргинальной.

Один любопытный аргумент в пользу скептического отношения к риску, сопряженному с ИИ, становится сильнее, а не слабее, по мере того как наличие рисков признает все большее число исследователей. Если исследователи понимают, что разработка ИИ чрезвычайно опасна, зачем им вообще ею заниматься? Не станут же они, зная о последствиях, создавать то, что их уничтожит[436].

Если бы все мы были поистине мудры, бескорыстны и действовали сообща, этот аргумент и правда работал бы. Но в реальном мире люди склонны разрабатывать технологии при первой возможности и разбираться с последствиями позже. Одна из причин этого – разница в наших установках: если даже небольшая доля исследователей не верит в риски (или хочет, чтобы в новом мире у руля стояли машины), именно они сделают решающие шаги. Здесь снова дает о себе знать проклятие односторонности (о котором мы говорили на с. 164). Другая причина – мотивы: даже если бы некоторые исследователи полагали, что риск составляет целых 10 %, они, возможно, все равно пошли бы на него, если бы решили, что цель оправдывает средства. Это может быть рационально с точки зрения их личных интересов, но ужасно для всего мира.

В некоторых подобных случаях в дело может вмешаться государство, которое решит проблемы координации и мотивации в общественных интересах. Однако такие же проблемы координации и мотивации возникают между странами, и нет простых механизмов их решения. Если бы одна страна решила действовать медленно и осторожно, у нее, вероятно, возникли бы опасения, что награда достанется другим. Заключать конвенции в этой сфере чрезвычайно тяжело, поскольку проверять, выполняются ли их положения, еще сложнее, чем в случае с биологическим оружием[437].

Переживем ли мы развитие ИИ, не растеряв свой потенциал, вероятно, зависит от того, успеем ли мы научиться настраивать и контролировать ИИ-системы, прежде чем создадим достаточно мощный интеллект, который будет представлять для нас угрозу. К счастью, исследователи уже работают над множеством важных вопросов, включая повышение безопасности, надежности и объяснимости ИИ. Но по-прежнему лишь малое число людей изучает возможности калибровки ИИ в соответствии с человеческими ценностями. Это новая сфера, в которой предстоит пройти очень долгий путь, если мы хотим обеспечить свою безопасность.

Несмотря на то, что системы, которые существуют сегодня и могут появиться в обозримом будущем, не представляют риска для человечества в целом, нам нельзя терять времени. Отчасти потому, что прогресс может случиться внезапно: благодаря непредсказуемым научным прорывам или стремительному масштабированию первых интеллектуальных систем (например, при их запуске на тысячекратно большем количестве оборудования или в случае, если мы позволим им совершенствовать собственный интеллект)[438]. А отчасти потому, что на должную подготовку к такому эпохальному изменению в человеческих делах может уйти больше пары десятилетий. Или, как сказал один из основателей DeepMind Демис Хассабис,

Дистопические сценарии

Пока мы рассматривали экзистенциальные катастрофы двух типов: вымирание и необратимый коллапс цивилизации. Но ими дело не ограничивается. Как мы помним, экзистенциальная катастрофа – это окончательное уничтожение долгосрочного потенциала человечества, и мы берем это определение в широкой трактовке, включая исходы, при которых небольшой фрагмент потенциала может и уцелеть.

Потеря потенциала предполагает, что мы зайдем в тупик в одном из неудачных вариантов будущего. Мы можем классифицировать экзистенциальные катастрофы по тому, какие аспекты нашего будущего они блокируют. Это может быть мир без людей (вымирание) или мир без цивилизации (необратимый коллапс). Но также будущее может принять форму необратимой дистопии – мира, сохранившего цивилизацию, но застывшего в ужасном состоянии, почти или совсем не представляющем ценности[440].

Этого пока не произошло, но прошлое не слишком нас успокаивает. Дело в том, что такие катастрофы стали возможны лишь с пришествием цивилизации, поэтому интересующий нас период наблюдений гораздо меньше. И есть причина полагать, что риски вырастут со временем, когда мир станет более взаимосвязанным и начнет экспериментировать с новыми технологиями и идеологиями.

Я не стану разбирать эти дистопические сценарии на том же уровне научной детализации, как другие риски, поскольку сценариев много, а наши представления о них весьма ограниченны. Вместо этого я постараюсь сделать первые шаги к тому, чтобы признать существование и проанализировать характер этих катастроф другого типа.

Необратимые дистопии, с которыми мы можем столкнуться, можно разделить на три типа в зависимости от того, хотят ли люди, живущие в них, жить в таких мирах. В некоторых сценариях люди не хотят жить в таком мире, но общество устроено таким образом, что люди практически лишены возможности скоординировать свои усилия и изменить ситуацию. В других сценариях люди хотят жить в таком мире, но они заблуждаются, а мир не идет ни в какое сравнение с тем, чего они могли бы достичь. Есть и промежуточный вариант, когда лишь небольшая группа людей хочет жить в таком мире, но заставляет остальных жить в нем против их воли. Каждой из этих дистопий придется преодолеть определенные сложности, прежде чем они станут по-настоящему необратимыми.

Рисунок 5.2. Расширенная классификация экзистенциальных катастроф по типу исхода, который становится необратимым.

Заметьте, чтобы считаться экзистенциальными катастрофами, эти сценарии не должны предполагать невозможность изменения ситуации и не должны продолжаться миллионы лет. Их определяющая характеристика в том, что переход к соответствующему режиму случился в важный поворотный момент в истории человеческого потенциала, после чего ситуация изменилась к худшему и почти весь наш потенциал построить достойное будущее оказался заблокирован. Можно сказать, что тогда, когда они закончатся (а они рано или поздно закончатся), мы с гораздо большей вероятностью, чем раньше, станем жертвами вымирания или коллапса, чем сможем реализовать свой потенциал. Следовательно, дистопическое общество, просуществовавшее до момента, когда человечество уничтожат внешними силами, будет считаться экзистенциальной катастрофой. Однако, если дистопический исход не имеет такого свойства, а по его завершении у нас сохраняются все шансы на успех, его стоит признать темной эпохой нашей истории, а не истинной экзистенциальной катастрофой.

Лучше всего нам знакома вынужденная дистопия. Подъем экспансионистского тоталитаризма в середине XX века подтолкнул таких интеллектуалов, как Джордж Оруэлл, заговорить о возможности появления тоталитарного государства, которое добьется глобального господства и получит полный контроль над людьми, в результате чего мир окажется в плачевном состоянии[441]. Доказательством того, что такое теоретически возможно, служат режимы Гитлера и Сталина, каждый из которых постепенно превращался в имперскую сверхдержаву, сохраняя предельный контроль над своими гражданами[442]. Неясно, однако, были ли у Гитлера или Сталина амбиции подчинить себе весь мир, а также технические и социальные ресурсы для создания поистине устойчивых режимов[443].

Это может измениться. Технический прогресс дал нам множество новых инструментов, чтобы выявлять и подавлять протест, и есть все основания полагать, что в следующем столетии он продолжится. Особенно важным представляется развитие ИИ, которое позволяет осуществлять обстоятельный автоматизированный мониторинг всего происходящего в общественных местах – физических и виртуальных. Благодаря таким прорывам могут появиться гораздо более устойчивые режимы, чем в прошлом.

В то же время технологии дают людям и новые инструменты, чтобы восставать против власти, такие как интернет и шифрование сообщений. Возможно, баланс сил сохранится, а возможно, сместится в сторону свободы, но есть немалая вероятность, что он сдвинется в сторону усиления контроля над населением, в результате чего появление вынужденных дистопий станет реалистичным сценарием.

Второй тип необратимой дистопии – стабильная цивилизация, которую хотят немногие (если вообще хоть кто-то). Легко понять, как такой исход может стать дистопичным, однако не слишком очевидно, как мы можем к нему прийти или в нем застрять, если большинство людей (или вообще никто) его не хочет[444].

Ответ связан с различными силами, которые воздействуют на все население и могут оказывать влияние на глобальные исходы. К хорошо известным примерам относятся рыночные механизмы, запускающие гонку по нисходящей, мальтузианская демографическая динамика, снижающая среднее качество жизни, и эволюция, которая нацеливает нас на распространение собственных генов вне зависимости от того, как это сказывается на наших ценностях. Эти силы подталкивают человечество к новому балансу, который наконец приведет их в равновесие. Но никто не гарантирует, что этот баланс окажется благоприятным для человека.

Рассмотрим, например, противоречие между личным и общественным благом. В теории игр его изучают с помощью таких “игр”, как дилемма заключенного и трагедия общих ресурсов, где действия индивидов, которые руководствуются личными мотивами, приводят к ужасному исходу для общества. Равновесие Нэша (исход, к которому мы приходим, если руководствуемся личными мотивами) может быть для всех гораздо хуже, чем какой-нибудь другой результат, которого мы могли бы достичь, если бы смогли преодолеть личные интересы.

Самый известный пример – причинение ущерба окружающей среде, например ее загрязнение. Поскольку основная часть издержек загрязнения окружающей среды не ложится на плечи того, кто ее загрязняет, мы можем оказаться в ситуации, где в личных интересах каждого будет продолжать загрязнение несмотря на то, что в результате всем оказывается хуже. Лишь значительный нравственный прогресс и действенные политические инициативы помогли нам вырваться из этого состояния. Мы можем попасть и в другие ловушки, выбраться из которых окажется еще труднее. Это может произойти как на уровне индивидов, так и на уровне групп. Целые страны, идеологические блоки, даже планеты или виды, которые придут на смену Homo sapiens, могут оказаться в ситуации, когда будут поступать в интересах своей группы, но вредить всем группам в целом.

Я не знаю, насколько вероятно, что мы столкнемся с достаточно серьезной (и достаточно неуправляемой) трагедией общих ресурсов такого свойства. Или выродимся под давлением эволюции, или вынуждены будем жить в нищете из-за мальтузианской демографической динамики, или окажемся в другой подобной ситуации. Мне хочется надеяться, что мы сумеем предвидеть такие проблемы заранее и скоординировать свои действия, чтобы найти решение. Но сложно сказать наверняка, что у нас все получится.

Третий сценарий – “желанная дистопия”[445]. Здесь нам проще понять, как всеобщее желание достичь определенного результата может завести нас в тупик, но при этом не столь ясно, почему этот результат окажется дистопичным. Проблема в том, что существует множество привлекательных идей, способных радикально изменить наше будущее, и особенно сильны в этом отношении идеологии и моральные учения, поскольку они прямо говорят нам, какой мир мы должны создавать. В сочетании с техническими и социальными средствами для внушения таких же идей следующему поколению (индоктринация, слежка) это может привести к катастрофе.

История полна примеров, когда огромные пространства оказывались во власти ущербных идеологий и моральных установок. Более того, даже приемлемые нормативные установки часто требуют фиксации, ведь иначе конкурирующие установки могут одержать верх, что (предположительно) приведет к катастрофическому исходу[446]. Хотя самые оправданные моральные установки часто не противоречат друг другу в вопросе о том, какие мелкие изменения идут на благо, а какие – во вред миру, они, как правило, расходятся в описаниях оптимального мира для жизни. Таким образом, эта проблема перекликается с проблемой контроля ИИ, где упорное стремление к верному по большей части идеалу может обернуться катастрофой.

Вот несколько вполне правдоподобных примеров: миры, полностью отказавшиеся от дальнейшего технологического прогресса (что гарантирует нашу гибель при реализации природных рисков)[447]; миры, не признающие какую-либо ключевую форму вреда или несправедливости (и потому слепо потворствующие ей); миры, замкнувшиеся в единственной фундаменталистской религии, и миры, где мы намеренно заменяем себя чем-то, что гораздо менее ценно, хотя мы этого не понимаем (например, машинами, которые неспособны чувствовать)[448].

Все описанные необратимые дистопии можно считать заблокированными. Ключевые аспекты будущего цивилизации блокируются таким образом, что их становится практически невозможно изменить. Если мы оказываемся заблокированными в достаточно плохом наборе вариантов будущего, мы попадаем в необратимую дистопию – происходит экзистенциальная катастрофа.

Разумеется, мы сталкиваемся с подобным в меньших масштабах. Поправка Корвина к Конституции США – тревожный пример того, как люди попытались заблокировать ситуацию. В попытке задобрить Юг и избежать гражданской войны была предложена Тринадцатая поправка, которая должна была зафиксировать институт рабовладения, чтобы никакие будущие поправки к конституции не могли его отменить[449].

Я не вижу, каким образом мир мог бы погрузиться в дистопическое состояние в ближайшем будущем[450]. Однако по мере развития технологий и взаимосвязанности разных частей мира вероятность заблокированной дистопии, пожалуй, возрастет до заметного уровня в следующую сотню лет. Более того, я полагаю, что в отдаленном будущем на такие исходы, возможно, будет приходиться изрядная доля остаточного риска. Во-первых, они не столь очевидны, как другие риски, и потому, даже если мы возьмемся за ум и сделаем сохранение своего долгосрочного потенциала глобальным приоритетом, лишь незаурядная мудрость и рассудительность помогут нам избежать некоторых из этих ловушек. Во-вторых, если мы в конце концов расселимся за пределами Земли, это, вероятно, сделает нас почти неуязвимыми перед природными катастрофами, но идеи распространяются со скоростью света и могут все равно испортить то, чего мы надеемся достичь.

Главная проблема в том, что истинность идеи – лишь один элемент ее меметического потенциала, то есть ее способности распространяться и проникать в сознание. Но чем больше стимулов создается для обстоятельных и рациональных дебатов, тем больший вклад истинность вносит в меметический успех. Насаждая культуру таких дебатов, мы, возможно, нащупаем единственный путь, который поможет нам избежать такой судьбы. (Подробнее об этом читайте в разделе о долгом раздумье в главе 7.)

Понятие заблокированного состояния также позволяет нам рассмотреть экзистенциальный риск в другом любопытном ракурсе. Мы можем руководствоваться принципом минимизации блокировки. Или, чтобы избежать двойного отрицания, сохранения вариантов выбора[451]. Это тесно связано с идеей сохранения нашего долгосрочного потенциала, и разница лишь в том, что, сохраняя варианты выбора, мы не делим их на хорошие и плохие. И не потому, что в силу своей природы мы хотим сохранить даже плохие варианты, а потому, что мы не можем сказать наверняка, действительно ли они плохи, и, следовательно, рискуем совершить необратимую катастрофическую ошибку, если навсегда отринем тот из них, который был бы наилучшим.

Другие риски

Какие еще будущие риски дают прочные основания для беспокойства?

Одна из самых революционных технологий, которая, возможно, будет разработана в текущем столетии, – это нанотехнология. Мы уже стали свидетелями наступления эпохи наноматериалов (таких как углеродные нанотрубки), сконструированных с атомарной точностью при толщине всего в несколько атомов. Но гораздо более широкие перспективы откроются в случае, если мы сумеем создать механизмы, работающие с атомарной точностью. Мы точно знаем, что в некоторой форме это возможно, ведь в наших собственных клетках работают атомарно точные механизмы, которые уже выполняют жизненно важные функции.

В представлении людей нанотехнологии подразумевают создание микроскопических машин. Но настоящая революция может произойти тогда, когда наномеханизмы станут использоваться для создания макрообъектов. В своей основополагающей работе на эту тему Эрик Дрекслер описывает, как нанотехнологии могут открыть дорогу к появлению настольных фабрикаторов, способных собрать что угодно, от бриллиантового колье до нового ноутбука. Такое атомарно точное производство стало бы высшей ступенью 3D-печати: имея цифровой чертеж объекта и сырье в виде химических элементов, можно будет создавать атомарно точные копии. Это позволит производить объекты, для которых современных технологий пока недостаточно, а также снизить цены на то, что уже производится, например компьютеры и солнечные панели, почти до себестоимости сырья и материалов – и обеспечить мир гораздо большим объемом вычислительной мощности и чистой энергии.

Такая мощная технология может представлять некоторый экзистенциальный риск. Основное внимание пока уделяется возможности создания крошечных самовоспроизводящихся машин, распространение которых может привести к экологической катастрофе. Такое, пожалуй, возможно, но существуют и более приземленные опасности, которые кажутся более вероятными, поскольку огромная производственная мощность и точность, скорее всего, также проложат дорогу к производству нового оружия массового уничтожения[452]. Проблемы в этой области, в сущности, напоминают проблемы продвинутых биотехнологий: демократизация исключительно мощных технологий может наделить индивидов или небольшие группы возможностями (как конструктивными, так и деструктивными), которыми прежде обладали лишь могущественные державы. Контроль за этими технологиями, вероятно, можно будет осуществлять либо цифровыми методами, определяя, что подлежит производству, либо с помощью государственного надзора над производством (как в случае с атомной энергетикой). Хотя эти технологии более умозрительны, чем продвинутые биотехнологии и ИИ, со временем они тоже могут стать источником серьезного риска.

Совсем другой риск может быть связан с нашими исследованиями за пределами Земли. Космические агентства планируют экспедиции на Марс, чтобы доставить оттуда на Землю образцы грунта, главным образом для поиска признаков жизни. Это создает возможность “обратного загрязнения”, в результате которого микробы с Марса подвергнут опасности земную биосферу. Хотя все сходятся во мнении, что риск крайне мал, к нему относятся со всей серьезностью[453]. Планируется, что такие образцы будут доставлены в лабораторию уровня BSL-4 нового типа, чтобы вероятность того, что хоть одна нестерильная частица попадет в окружающую среду, не превысила одного к миллиону[454]. Хотя многие факторы остаются неизвестными, этот антропогенный риск представляется сравнительно невысоким и хорошо контролируемым[455].

Внеземной риск, который стоит на первом плане в популярной культуре, связан с конфликтом с инопланетной цивилизацией, способной путешествовать по космосу. Хотя очень сложно однозначно исключить такую возможность, широко признается, что такой сценарий крайне маловероятен (но становится более правдоподобным в исключительно долгосрочной перспективе)[456]. В популярной культуре главный риск сопряжен с прибытием инопланетян на Землю, но это, пожалуй, наименее вероятно и совсем не поддается нашему контролю. Однако, возможно, нам следует провести открытую дискуссию, прежде чем приступать к реализации активной части проекта SETI (отправке мощных сигналов для привлечения внимания далеких внеземных цивилизаций). Опасность может представлять даже пассивная часть проекта (прослушивание их сообщений), ведь сообщения вполне могут оказаться ловушкой[457]. Эти опасности невелики, но пока плохо изучены и плохо контролируемы.

Другой антропогенный риск сопряжен с самыми радикальными из наших научных экспериментов – теми, в которых создаются поистине беспрецедентные условия[458]. Так, при первом ядерном взрыве температура дошла до отметки, которой никогда прежде на Земле не наблюдалось, и появилась теоретическая возможность воспламенения атмосферы. Поскольку эти условия были беспрецедентными, мы не могли утешаться тем, что такое случалось уже много раз и не приводило к катастрофе. (Можно сказать, что часть рисков, о которых мы упоминали ранее, например обратное загрязнение, исследования с повышением вирулентности и ОИИ, также сопряжена с научными экспериментами, создающими беспрецедентные условия.)

В некоторых случаях ученые уверенно заявляют, что эксперимент не может вызвать катастрофу или вымирание. Но в прошлом даже то, что наука воспринимала как данность, порой оказывалось неверным: например, что объекты имеют определенное положение, что пространство подчиняется Евклидовой геометрии и что атомы невозможно делить, создавать и уничтожать. Если на ученых надавить, они признаются, что на самом деле имеют в виду, что такое не может произойти, если не будут существенным образом изменены наши научные теории. В обычных обстоятельствах такой уверенности достаточно, ведь при стремлении к точности уверенность в 99,9 % нас вполне удовлетворяет. Но этот стандарт не учитывает, что стоит на кону. В нашем случае ставки исключительно высоки, поэтому нам нужен стандарт, который будет принимать это в расчет[459].

Как правило, ожидаемые выигрыши сравнивают с ожидаемыми потерями. Но применить этот метод непросто, поскольку очень низкую (и плохо поддающуюся количественной оценке) вероятность колоссальной катастрофы необходимо сопоставлять с ощутимыми преимуществами, которые эксперименты уже принесли и, вероятно, принесут снова. Кроме того, знания или технологии, получаемые в результате экспериментов, могут помочь снизить будущий экзистенциальный риск или оказаться необходимыми для реализации нашего потенциала.

Для любого эксперимента, создающего беспрецедентные условия, вероятность катастрофы, как правило, очень мала. Но могут быть и исключения, и совокупная вероятность может нарастать. В основном такие риски контролируются плохо[460].

Риски, сопряженные с технологиями будущего, по природе своей более умозрительны, чем риски, возникающие из-за природных опасностей и наиболее мощных технологий настоящего. Это особенно очевидно, когда мы переходим от того, что становится реальностью в современной биотехнологии, к тому, что ждет нас в лучшем случае через несколько десятков лет. Но чтобы осознать, насколько серьезные риски ждут нас в будущем, необязательно считать все перечисленные угрозы вероятными (и даже правдоподобными). Даже если мы направим свое внимание лишь на пандемии искусственного происхождения, я полагаю, что сопряженный с ними экзистенциальный риск больше, чем все остальные риски из последних двух глав, вместе взятые, а этих рисков уже было достаточно, чтобы защита человечества стала главной заботой нашего времени.

Представьте, что научному институту в 1930 году поручили составить список экзистенциальных рисков, с которыми человечество столкнется в последующее столетие. Ученые упустили бы большинство рисков из этой книги, особенно антропогенных[461]. О существовании одних они, возможно, подозревали бы, но другие стали бы для них полной неожиданностью. Какая доля риска лежит вне поля нашего зрения?

Подсказкой может стать тот факт, что не снижаются ни темпы обнаружения новых рисков, ни темпы их возникновения. В связи с этим вероятно, что в последующее столетие и позже мы столкнемся с непредвиденными рисками. Поскольку могущество человечества по-прежнему стремительно растет, не стоит удивляться, что некоторые новые угрозы оказываются сопряжены с немалым риском.

Можно спросить, какой смысл рассматривать риски, которые не попадают в поле нашего зрения. Хотя нам не под силу работать с ними напрямую, мы все же можем снизить их, прилагая усилия к созданию мира, который серьезно подходит к собственному будущему. Следовательно, непредвиденные риски важны для понимания относительной ценности широких и узких программ по снижению рисков. Кроме того, они помогают нам оценить общий риск, с которым мы сталкиваемся.

Недавно Ник Бустрём указал на важный класс непредвиденных рисков[462]. Каждый год, разрабатывая новые технологии, мы можем наткнуться на нечто, что обладает разрушительной силой атомной бомбы или смертоносной эпидемии, но легко изготавливается из привычных нам материалов. Открытия хотя бы одной такой технологии может быть достаточно, чтобы дальнейшее существование человеческой цивилизации стало невозможным.