На краю пропасти. Экзистенциальный риск и будущее человечества

1

Blanton, Burr & Savranskaya (2012).

2

Ellsberg (2017), pp. 215–217.

3

McNamara (1992).

4

Ошибки, разумеется, на моей совести. Обновляемый список замеченных ошибок можно найти на странице theprecipice.com/errata. Я говорю спасибо за профессиональные консультации Фреду Адамсу, Ричарду Элли, Тацуе Амано, Сету Бауму, Нилу Боуэрмену, Майлзу Брандейджу, Каталине Кангеа, Пауло Чеппи, Кларку Чепмену, Дэвиду Кристиану, Аллану Дефо, Ричарду Данцигу, Бену Дэю, Дэвиду Денкен-бергеру, Дэниелу Дьюи, Эрику Дрекслеру, Дэниелу Эллсбергу, Оуэну Эвансу, Себастиану Факуару, Владу Фирою, Бену Гарфинкелю, Тиму Геневейну, Гудвину Гиббонсу, Тору Грепелю, Джоанне Хей, Алану Харрису, Хиски Хауккале, Айре Гельфанду, Говарду Херцогу, Майклу Дженнеру, Риа Каллури, Джиму Кастингу, Яну Лейке, Роберту Лемперту, Эндрю Левану, Грегори Льюису, Марку Липсичу, Розали Лопес, Стивену Луби, Энджелу Лужнице, Дэвиду Манхейму, Йохему Маротцке, Джейсону Матени, Пирсу Миллетту, Майклу Монтегю, Дэвиду Моррисону, Кэссиди Нельсон, Клайву Оппенгеймеру, Рэймонду Пьерхумберту, Максу Поппу, Дэвиду Пайлу, Майклу Рампино, Джорджии Рэй, Кэтрин Роудс, Ричарду Роудсу, Карлу Робишо, Тайлеру Робинсону, Алану Робоку, Луизе Родригес, Максу Розеру, Джонатану Ружье, Эндрю Рашби, Стюарту Расселлу, Скотту Сагану, Андерсу Сэндбергу, Хауке Шмидту, Рохину Шаху, Стиву Шервуду, Льюису Смиту, Джейкобу Стейнхардту, Шелдону Штерну, Брайану Томасу, Брайану Туну, Филу Торресу, Мартину Вайцману, Брайану Уилкоксу, Алексу Вону, Лили Ся и Дональду Йомансу.

5

Я также взял на себя дополнительное обязательство оставлять себе всего 18 тысяч фунтов в год и отдавать все остальное на благотворительность. Эта сумма корректируется с учетом инфляции (в настоящее время она составляет 21 868 фунтов) и не включает в себя расходы на моего ребенка (несколько тысяч фунтов в год). Пока мне удалось пожертвовать более четверти всех денег, которые я заработал в течение жизни.

6

К моменту создания этой книги члены Giving What We Can пожертвовали 100 млн фунтов эффективным благотворительным фондам (Giving What We Can, 2019). Средства были направлены во множество разных организаций, поэтому оценить эффект пожертвований непросто. Однако одни только 6 млн, которые пошли на закупку москитных сеток, обеспечили более 3 млн человеко-лет защиты и тем самым спасли более 2000 жизней (GiveWell, 2019).

7

Фактически в примечаниях читателям, желающим узнать больше, предлагается такой объем информации, которого хватило бы и на вторую книгу. Если вы любопытны, я советую вам использовать две закладки, чтобы без труда обращаться к примечаниям в ходе чтения. Я приложил все усилия, чтобы в среднем качество примечаний было высоким, а вам не было бы жалко потраченного на них времени (в них редко приводятся лишь ссылки на источники). Поскольку я старался не отступать от темы в основной части книги, все любопытные дополнения спрятаны в примечаниях. Вас, возможно, также заинтересуют приложения, список литературы для дополнительного чтения (с. 333) и сайт книги theprecipice.com, где содержится еще больше информации и ведутся обсуждения.

8

Разумеется, даже после тщательной проверки фактов наивно полагать, что в текст не закралось ни предубеждений, ни ошибок, поэтому я надеюсь, что читатели помогут мне найти и исправить оставшиеся несовершенства.

9

Sagan (1994), pp. 305–306; перевод О. Сивченко. [Extract from Pale Blue Dot copyright © 1994 Carl Sagan. Originally published in Pale Blue Dot by Random House. Reprinted with permission from Democritus Proper-ties, LLC. All rights reserved this material cannot be further circulated without written permission of Democritus Properties, LLC.]

10

Многие даты, упоминаемые в этой главе, известны лишь приблизительно или относятся к переходам, которые растянулись на много лет. Вместо того чтобы засорять текст диапазонами оценок и часто прибегать к словам “примерно” и “приблизительно”, я использую принятые в науке цифры, округленные таким образом, чтобы отразить степень их точности.

Невозможно достоверно сказать, когда началась история Homo sapiens. Существуют останки возрастом 200 тысяч лет, которые, как считается, принадлежат анатомически современным людям. При этом ведутся ожесточенные споры о том, относить ли найденные позже окаменелости возрастом около 300 тысяч лет к останкам вида Homo sapiens (Galway-Witham & Stringer, 2018). Еще важнее, что непонятно, кого считать “человеком” и что мы вообще подразумеваем, употребляя это понятие. Нашему роду Homo от 2 до 3 млн лет, а если мы будем называть людьми всех наших предков, которые изготавливали орудия труда, то в их число войдут и австралопитеки, жившие более 3 млн лет назад (Antón, Potts & Aiello, 2014). Я главным образом рассматриваю свидетельства, полученные при изучении окаменелостей, а не с помощью молекулярной филогенетики (которая обычно дает более долгие оценки продолжительности жизни), поскольку первая методика получает более широкое признание.

11

В то время современный континент Австралия и современный остров Новая Гвинея были объединены в более крупный континент, который иногда называют Сахулом. От Азии его отделяло не менее 160 км открытого моря, преодолеть которые тогда было непросто (Christian, 2004, p. 191). Когда люди впервые ступили в этот новый мир с его уникальными животными и растениями, они оказались на земле, которая сегодня принадлежит Новой Гвинее.

12

Мы также адаптировали под свои нужды окружающую среду. Еще до распространения сельского хозяйства мы с помощью огня меняли облик континентов, создав таким образом множество диких пастбищ, которые сегодня считаем существовавшими во все времена (Kaplan et al., 2016).

13

Рисунки 1.1 и 1.2 в модифицированном виде взяты из книги Christian (2004), pp. 193, 213 с разрешения автора.

14

Возможно, Homo sapiens и наши близкие родственники обладают некоторыми уникальными физическими характеристиками, такими как проворные руки, прямохождение и звучные голоса. Но одним лишь этим успех вида не объяснить. В совокупности с интеллектом эти характеристики повысили нашу способность к коммуникации, а также к освоению и созданию технологий.

15

Рассуждения о том, как все люди чем дальше, тем больше сотрудничали друг с другом, могут показаться наивными и идеалистическими, поскольку порой под сотрудничеством понимается совместная работа из альтруистических побуждений. Но я использую это слово в более широком смысле, имея в виду, что люди согласовывали свои действия, чтобы добиваться желаемого, если в одиночку достичь цели было невозможно. Порой они действовали из альтруистических побуждений (и даже в одностороннем порядке), но движущей силой кооперации могли служить и разные формы обмена.

О том, насколько важную роль социальное обучение сыграло в нашем успехе, пишет, например, Henrich (2015).

16

Разумеется, выбор количества переходных периодов и их отличительных черт в некоторой степени произволен. Если бы я решил назвать лишь два перехода, то выбрал бы неолитическую революцию и промышленную революцию (возможно, определив последнюю более широко, чтобы включить в нее научную революцию). Если бы я решил назвать четыре сдвига, то, пожалуй, разбил бы неолитическую революцию на две части: переход к земледелию и подъем цивилизации (который я бы в таком случае связал с появлением городов около 5000 лет назад).

Скрупулезное описание общей картины развития человечества можно найти в книге Дэвида Кристиана Maps of Time (2004).

17

В некотором отношении понятие “революция” некорректно: она не была ни быстрой, ни повсеместной. Переход от собирательства к земледелию растянулся на тысячи лет, и лишь еще тысячи лет спустя возникли города, появилась письменность и другие вещи, которые, по нашему мнению, характеризуют цивилизацию. Некоторые народы продолжали заниматься собирательством даже в этот период. (Подобные замечания можно сделать также в отношении промышленной революции, которая произошла в десять раз быстрее.) Однако по стандартам развития человечества в предыдущие 200 тысяч лет неолитическая революция была стремительной и привела к появлению совершенно нового образа жизни.

18

Здесь я использую понятие “сила” в физическом смысле: количество энергии за единицу времени. Использование тяглового скота радикально повысило количество энергии, которой один человек располагал ежедневно.

19

Существуют свидетельства зарождения сельского хозяйства в зоне Плодородного полумесяца (12 тыс. лет назад), в бассейне Янцзы и Хуанхэ (10–6 тыс. лет назад), в Папуа – Новой Гвинее (10–7 тыс. лет назад), в Центральной Мексике (10 тыс. лет назад), в Южной Америке (9–5 тыс. лет назад), на востоке Северной Америки (5–4 тыс. лет назад), а также в Черной Африке (4–2 тыс. лет назад).

20

В эпоху собирательства для пропитания одного человека, как правило, требовалось около 25 квадратных километров земли (Christian, 2004). Чтобы обеспечивать себя пропитанием, группе приходилось часто передвигаться по площади в несколько сотен квадратных километров. Количество земли, необходимой для пропитания одного человека, так сильно сократилось, поскольку продуктивная способность почвы стала в гораздо большей степени использоваться для выращивания растений, пригодных в пищу человеку.

21

McEvedy & Jones (1978), p. 149.

22

Durand (1960). Вскоре после этого такой же численности достигло население Римской империи, и большая часть людей на планете жила в одном из этих государств.

23

Как и сельское хозяйство, каждое из этих новшеств независимо появилось в нескольких регионах мира.

24

Другие ученые порой называют эту революцию эпохой Просвещения или объединяют ее с промышленной революцией.

25

Среди прочих заметный след оставил ученый Ибн аль-Хайсам (ок. 965–1040), который применил в сфере оптики экспериментальные методы, оказавшие влияние на исследования Роберта Гроссетеста и Роджера Бэкона в XIII веке. Идея о постепенном углублении наших представлений о мире восходит к работе Сенеки “Вопросы естествознания”, написанной в 65 году нашей эры (Seneca, 1972; см. с. 64).

26

Трактат Фрэнсиса Бэкона “Новый органон” (1620) – классическое введение в научный метод, появление которого считается точкой отсчета научной революции. Ведутся споры о том, почему более ранние успехи за пределами Европы не привели к началу устойчивого накопления знаний, которое продолжается с XVII века. См., например, Sivin (1982).

27

Поскольку лишь крошечная доля организмов превратилась в ископаемое топливо, энергия, заключенная во всех мировых запасах ископаемого топлива, не соответствует объему солнечной энергии, которая поступала на Землю на протяжении миллионов лет. Энергии ископаемого топлива хватит “всего” на 20–200 лет роста растений на планете, а это лишь 4–40 дней солнечного света, перехватываемого Землей (по подсчетам автора). Тем не менее ископаемые виды топлива дали гораздо больше энергии, чем можно было бы получить при использовании водяных мельниц и сжигании дерева. Возможно, человечество сумело бы в конце концов выйти на текущий уровень совокупного богатства без ископаемого топлива, но неясно, был ли у него шанс разорвать связь между увеличением доходов и ростом численности населения, чтобы повысить уровень благосостояния на душу населения.

Поразительно, но это свидетельствует, что Солнце обладает потенциалом производить в год больше энергии, чем содержится во всех запасах ископаемого топлива, когда либо существовавших в мире.

28

В особенности это относится к усовершенствованной паровой машине Джеймса Уатта, сконструированной в 1791 году. Более ранние машины были настолько неэффективными, что с финансовой точки зрения использовать их было целесообразно лишь для выполнения небольшого числа задач. Следующим подобным прорывом более 100 лет спустя стал дизельный двигатель.

29

Важную роль играют и многие другие факторы, в частности политическая, экономическая и финансовая системы.

30

Mummert et al. (2011).

31

Условия работы и жизни в промышленной Англии, в частности, ярко описаны Энгельсом (1892).

32

Van Zanden et al. (2014). См. Milanovic (2016) – целую книгу, посвященную исследованию внутри- и межстранового неравенства в последние два столетия.

33

В этой книге я использую слово “история” в его широком обиходном смысле, подразумевая все, что случилось в прошлом (в нашем случае – с человечеством). Это классическое словарное определение, которое соответствует универсальному характеру этой книги. Историки, напротив, обычно называют “историей” лишь события, которые случились тогда и там, где их могли зафиксировать письменно, и потому относят происходившее в Месопотамии более 6 тысяч лет назад и в Австралии до 1788 года к “доистории”.

34

Примерно такова концепция мальтузианской ловушки. [Томас Мальтус (1766–1834) – английский ученый, выдвинувший идею о том, что рост человечества (в геометрической прогрессии) всегда будет опережать рост производства (в арифметической прогрессии) и, следовательно, последовательное обнищание человечества неизбежно. – Прим. науч. ред.] Стоит отметить, что очень сложно сравнивать доходы в разные времена. Определив “прожиточный минимум”, можно понять, какая доля дохода необходима, чтобы человек сумел прожить, но при этом не получится учесть изменения в качестве и разнообразии потребляемой пищи, или в качестве того, что можно приобрести на скромную оставшуюся сумму, или в любом другом аспекте качества жизни. В связи с этим положение отдельного человека (или общества) может становиться лучше (или хуже), даже если доходы не вырастают выше прожиточного минимума. С учетом всего этого момент, когда человечество вырвалось из мальтузианской ловушки, стал очень важным сдвигом в его истории.

35

Источником данных, в соответствии с которыми черта бедности определяется жизнью на два доллара в день, стал ресурс Our World in Data: Global Extreme Poverty (Roser & Ortiz-Ospina, 2019a). Наблюдаются значительные улучшения и если провести черту бедности выше. Я выбрал уровень в два доллара в день не потому, что он достаточен, а потому, что он показывает, что до промышленной революции доходы у всех были крайне недостаточными. Речь не о том, что сегодня все в порядке, но о том, что раньше ситуация была ужасной.

Жители более богатых стран порой не верят этой статистике, поскольку не могут представить, чтобы кто то в их городе вообще мог прожить всего на два доллара в день. Но статистика, увы, не врет и даже учитывает, что в более бедных странах денег порой тратится даже меньше. Дело в том, что людям, живущим за чертой бедности, приходится жить в таких плохих условиях и потреблять такую плохую пищу, что эквивалентных предложений в более богатых странах просто не существует.

36

Хотя всеобщее школьное обучение стало важным фактором, стоит обратить внимание на то, что положительная тенденция к повышению уровня грамотности началась еще до промышленной революции, накануне которой уровень грамотности в Великобритании составлял 50 %. Вероятно, значительный вклад в это также внесла научная революция. Данные об уровне грамотности взяты с ресурса Our World in Data: Literacy (Roser & Ortiz-Ospina, 2019b).

37

Обратите внимание, что данные об ожидаемой продолжительности жизни в прошлом с трудом поддаются интерпретации, поскольку показывают средний возраст людей на момент смерти, а не типичный возраст на момент смерти. И раньше были люди, которые доживали до появления внуков, но в то же время очень многие умирали в младенчестве или детстве, значительно снижая средний показатель.

38

Данные об ожидаемой продолжительности жизни в долгосрочной перспективе взяты из книги Cohen (1989), p. 102. Данные об ожидаемой продолжительности жизни в Исландии в доиндустриальную эпоху – с сайта Gapminder (2019). Данные о текущей ожидаемой продолжительности жизни – из доклада ВОЗ “Мировая статистика здравоохранения” за 2016 год (WHO, 2016).

39

Взято с изменениями из Roser (2015).

40

Один из самых ранних текстов, представляющих интерес в этом отношении, – Кодекс Хаммурапи (XVIII век до н. э.). Хотя это юридический текст, он позволяет понять, какие нравственные нормы лежали в его основе, и показывает, как сильно они изменились с тех пор. См. любопытную дискуссию у Harari (2014), pp. 117–122.

41

См. множество примеров в книге Пинкера “Лучшее в нас” (2012). Обратите, однако, внимание, что свидетельств о снижении уровня насилия становится меньше всего, когда речь заходит о насилии в масштабах государств (войны и геноциды) в XX веке.

42

Так, рассказ о столетиях, которые ушли у Западной Европы на восстановление после краха античной цивилизации, занимает важное место в большинстве западных исторических нарративов, но стоит взглянуть на всю планету, включая Китай, Индию, исламский мир, Америку и даже Византию, как станет ясно, что общая тенденция была не такой уж негативной.

Полезно провести аналогию с рынком акций. В масштабе дней и месяцев отдельные акции примерно с одинаковой вероятностью могут как подорожать, так и подешеветь. Однако, если взглянуть на рынок в целом в масштабе десятков лет, восходящий тренд окажется очевидным и устойчивым на протяжении столетий. Или, как Томас Маколей отметил в 1830 году, “одна какая нибудь волна может отойти назад, но самый прилив явно подвигается далее” (1900, p. 542).

По мере поступления новой информации становится все очевиднее, что считать разговоры о прогрессе недопустимыми в историческом анализе – значит игнорировать ключевой аспект человеческой истории. Если профессиональные историки хотят ограничить свои изыскания и аналитику дескриптивными вопросами, решать им. Но нам необязательно следовать их примеру. Некоторые из наиболее важных событий нашего прошлого имеют значимые оценочные и нормативные последствия, которые необходимо обсуждать, если человечество хочет извлекать уроки из собственной истории.

43

Скепсис ученых порой объясняется нежеланием вообще давать оценку прошлому, поскольку часто это делается некачественно, поскольку это не работа историка или поскольку этому противоречат философские установки.

44

Оценить число людей, которые когда либо жили на планете, непросто, поскольку у нас нет данных о численности населения для большей части истории человечества. Этот показатель особенно чувствителен к оценкам ожидаемой продолжительности жизни в долгосрочной перспективе. Haub & Kaneda (2018) называют цифру 108 млрд человек. Если прибавить соответствующие величины к более ранним оценкам Gold-berg (1983) и Deevey (1960), то получится 55 млрд и 81 млрд соответственно (по подсчетам автора). В целом 100 млрд – надежная медианная оценка при реалистичном диапазоне 50–150 млрд.

45

Macaulay (1900), p. 544.

46

Оценки средней продолжительности существования видов млекопитающих варьируются в диапазоне от 0,6 млн лет (Barnosky et al., 2011) до 1,7 млн лет (Foote & Raup, 1996).

Старейшие окаменелости, которые принято связывать с Homo erectus, были найдены при раскопках Дманиси на территории современной Грузии; их возраст составляет 1,8 млн лет (Lordkipanidze et al., 2006). Самые молодые окаменелости были обнаружены на территории современной Индонезии; их возраст – 0,1 млн лет (Yokoyama et al., 2008).

47

В масштабе такой жизни весь XXI век уложился бы в три дня – три судьбоносных дня, ради которых под угрозу была поставлена вся жизнь человечества.

48

Мы можем достаточно уверенно сказать, что бесконтрольный и влажный парниковые эффекты (подробнее о них – в главе 4) ограничивают возможную продолжительность существования жизни на Земле, но нам сложно сказать наверняка, когда они дадут о себе знать, поскольку наши климатические модели, как известно, несовершенны. Wolf & Toon (2015) полагают, что “влажный парник” возникнет примерно через 2 млрд лет, но Leconte et al. (2013) считают, что это случится раньше, уже через 1 млрд лет.

Открытым остается вопрос, не приведет ли снижение концентрации углекислого газа и повышение температуры к тому, что Земля станет непригодной для жизни еще до возникновения влажного и бесконтрольного парниковых эффектов. Rushby et al. (2018) считают, что снижение концентрации углекислого газа произойдет примерно через 800 млн лет для С₃ фотосинтеза и еще примерно через 500 млн лет для C₄ фотосинтеза.

Поскольку сроки очень велики, нельзя не учитывать, что эволюция может привести к появлению новых форм жизни, способных существовать в климате, непригодном для уже существующих форм жизни. Не стоит забывать, что первые растения с C₄ фотосинтезом появились около 32 млн лет назад (Kellog, 2013).

49

Эти слова приписывают Константину Циолковскому (Siddiqi, 2010, p. 371).

50

Сложно сказать, когда именно началась новая эпоха. Я выбрал первый взрыв атомной бомбы, поскольку он принес возможность разрушить весь мир, накалив атмосферу (см. подробнее в главе 4). Можно выбрать и более позднюю дату, когда ядерные арсеналы стали достаточно велики, чтобы угроза наступления ядерной зимы оказалась действительно реальной. Если расширить идею от вымирания до экзистенциального риска (см. главу 2), то можно, вероятно, начать отсчет эпохи на несколько лет раньше и связать датировку с угрозой глобального тоталитаризма, которую принесла с собой Вторая мировая война.

51

Это было испытание “Айви Майк”, проведенное в США в 1952 году. Мощность взрыва составила 10,4 мегатонны (в тротиловом эквиваленте, который используется в качестве стандартной единицы взрывной мощности), в то время как совокупная мощность взрывчатки, использованной за всю Вторую мировую войну (включая бомбардировку Хиросимы и Нагасаки), составила около 6 мегатонн (Pauling, 1962). Но лишь через несколько лет термоядерное оружие удалось уменьшить в достаточной степени, чтобы его смог поднять бомбардировщик.

52

Обратите внимание, что многие уважаемые ученые самоуверенно заявляли о неминуемом уничтожении человечества в XX веке. См. Pinker (2018, p. 309).

53

Это вовсе не доказано. Даже сегодня существует слишком мало исследований на тему того, что именно станет главным разрушительным механизмом в случае ядерной войны.

54

По шкале DEFCON определялся уровень готовности войск к боевым действиям, но расшифровка уровней в период холодной войны менялась. Чем меньше цифра, тем более вероятна война. Самым высоким из достигнутых уровней стал DEFCON 2, который был зафиксирован позже во время Карибского кризиса, а также в ходе первой войны в Персидском заливе в 1991 году.

55

Здесь нельзя не задаться вопросом, насколько опаснее стал бы кризис, если бы у власти в то время пребывали другие люди. Сумели ли бы наши действующие лидеры обеспечить мирное разрешение конфликта?

56

Около 100 из этих боеголовок состояли на вооружении во время кризиса: 92 единицы тактического ядерного оружия и 6–8 баллистических ракет средней дальности. Все цифры взяты из работы Norris & Kristen-sen (2012). Численность советских войск также значительно превышала ожидания: на Кубе были дислоцированы не 7 тысяч, а 42 тысячи человек (Ellsberg, 2017, p. 209).

57

Кастро сказал это на саммите, устроенном по случаю 40 летней годовщины Карибского кризиса, о чем Роберт Макнамара сообщает в документальном фильме “Туман войны” (Morris, 2003). После этого было обнародовано письмо Кастро Хрущеву. В пятницу Кастро написал: “Я полагаю, что агрессия империалистов чрезвычайно опасна, и если они действительно осуществят жестокое вторжение на Кубу в нарушение принципов международного права и морали, настанет момент навсегда положить конец этой угрозе посредством совершенно законного оборонительного выступления; каким бы жестким и ужасным ни был этот шаг, другого выхода не существует”. В воскресенье, выступив с заявлением, что боеголовки (о которых стало известно) будут вывезены с Кубы, Хрущев ответил: “Естественно, если начнется вторжение, необходимо будет дать отпор любыми средствами” (Roberts, 2012, pp. 237–238).

58

Дэниел Эллсберг, занимавший пост военного советника во время Карибского кризиса, говорит так: “Вторжение почти наверняка спровоцировало бы двусторонний обмен ядерными ударами, который с огромной вероятностью вылился бы в массированный ядерный удар США по СССР” (Ellsberg, 2017, p. 210).

59

Главная трудность в том, что не совсем понятно, о чем вообще идет речь. Мы можем рассуждать о степени уверенности, которую ключевые участники событий ощущали в то время (от 10 до 50 %). Мы также знаем, случилось ли возможное в итоге (в нашем случае нет, или 0 %). Но чувствуется, что можно оценить вероятность объективнее, чем в первом случае, но при этом не ограничиваться вариантами 0 % и 100 %, как во втором. В частности, мы хотели бы учесть информацию, которая стала известна позже, например о присутствии на Кубе тактического ядерного оружия, а также о событиях на подводной лодке Б-59. Мы хотели бы получить ответ примерно на такой вопрос: если бы случилось 100 подобных кризисов, сколько из них привело бы к ядерной войне? Но трактовать слово “подобных” очень сложно. Подозреваю, существует реальная и полезная оценка вероятности для нашего случая, но вряд ли она была должным образом объяснена, поэтому, рассуждая об этом, мы рискуем запутаться.

60

Слова Джона Ф. Кеннеди цит. по: Sorenson (1965), p. 705.

61

Ellsberg (2017), p. 199. Не давая оценку вероятности, Макнамара позже сказал: “Помню, как я вышел из Белого дома тем субботним вечером. Стоял чудесный осенний день. Я тогда подумал, что этот закат вполне может стать для меня последним” (Ellsberg, 2017, pp. 200–201).

62

В свете всех последних открытий оценка Дэниела Эллсберга такова: “Гораздо больше, чем один к ста, в тот день даже больше, чем один к десяти, как считал Нитце” (Ellsberg, 2017, pp. 220).

63

Я особенно удивился в январе 2018 года, когда “Бюллетень ученых-атомщиков” выставил на своих знаменитых “часах Судного дня” время 23:58, поскольку мир “столь же опасен, как после Второй мировой войны” (Mecklin, 2018). Основной причиной для перевода стрелок стало усиливающееся ядерное напряжение между США и КНДР. Часы должны показывать, насколько мы близки к коллапсу цивилизации, но при этом не было предпринято никаких попыток объяснить, почему ситуация опасна для человеческой цивилизации и почему угроза сегодня серьезнее, чем во время Карибского кризиса и других кризисов холодной войны.

64

США по прежнему располагают 450 ракетами шахтного базирования и сотнями ракет подводного пуска, приведенными в состояние повышенной боевой готовности (UCS, n. d.).

65

Это связано с “проблемой темпов” (pacing problem), знакомой всем, кто изучает регулирование технологической сферы. Проблема темпов заключается в том, что технологические инновации все сильнее обгоняют способность законов и норм эффективно регулировать эти технологии. Ларри Даунс (2009) отметил: “Технологии меняются экспоненциально, а социальные, экономические и правовые системы – поступательно”.

Ключевое различие между двумя контекстами состоит в том, что проблема темпов связана со скоростью технологических изменений, а не с их растущей способностью менять мир.

66

Sagan (1994), pp. 316–317; перевод О. Сивченко.

67

Barack Obama, Remarks at the Hiroshima Peace Memorial (2016). Обратите также внимание на слова Джона Ф. Кеннеди, сказанные по случаю двадцатой годовщины с момента первой ядерной цепной реакции (всего через месяц после окончания Карибского кризиса): “Мы добились огромных успехов в применении науки, но наши успехи в налаживании отношений невелики” (Kennedy, 1962).

68

В своем стремлении к установлению мира после Карибского кризиса Кеннеди (1963) выразился так: “Проблемы, с которыми мы столкнулись, возникли по вине человека, поэтому и решить их может сам человек. Человек может быть великим настолько, насколько он этого пожелает. Нет такой проблемы в судьбе человечества, которую человечество не могло бы разрешить”.

Разумеется, теоретически можно столкнуться с проблемами, возникшими по вине человека и уже прошедшими точку невозврата, но с теми проблемами, которые рассматриваются в этой книге, такого пока не произошло. Мы могли бы предотвратить их даже простым бездействием: перестав делать то, что грозит бедой.

69

Проблема здесь особенно очевидна, поскольку, описывая степень серьезности риска словами, мы часто учитываем и вероятность его наступления, и размер ставок. Проиграть в карты с вероятностью 1 % не так уж страшно, а потерять ребенка с такой же вероятностью – весьма. Аналогичная проблема возникает, когда МГЭИК применяет качественные термины, описывая вероятность различных сценариев изменения климата (Mastrandrea et al., 2010), что, на мой взгляд, ошибочно.

70

Точное определение “экзистенциального риска” см. на с. 47. Это понятие включает в себя риск вымирания, а также риск иными способами навсегда лишить человечество его потенциала, например в результате непоправимого коллапса цивилизации.

71

См. главу 6, где проводится сравнение с уровнем естественного риска.

72

Об этом говорит Bostrom (2013).

73

Существуют несколько сценариев, которые могут к этому привести, но я считаю их маловероятными. Так, уровень риска может дойти примерно до одного к шести, но при этом нам посчастливится прожить еще десяток, а то и больше таких столетий. Или, например, нам лишь с переменным успехом удастся контролировать упомянутые риски, в результате чего уровень риска вернется к значениям XX века, но больше не снизится, и тогда мы сможем прожить еще сотню и даже больше веков в таких условиях.

74

В мае 2019 года Рабочая группа по антропоцену при Международной комиссии по стратиграфии проголосовала за выделение новой эпохи антропоцена с началом в середине XX века. Официально предложение будет внесено к 2021 году, и тогда будет названа возможная точка отсчета эпохи (Subramanian, 2019). [В конце 2022 года это предложение еще не было принято. – Прим. науч. ред.] В 2017 году рабочая группа отметила, что наиболее вероятным маркером станут отметки, оставленные при испытаниях ядерного оружия (Zalasiewicz et al., 2017).

75

Baier (1981).

76

См. Bostrom (2002b; 2013).

77

Бустрём (2013) определил экзистенциальный риск как риск, “который грозит преждевременным вымиранием возникшей на Земле разумной жизни или необратимым и радикальным уничтожением ее потенциала для желаемого развития в будущем”. Мое определение (и пояснения ниже) соответствует второй половине определения Бустрёма. Я не повторил первую часть, поскольку логически необходимость в ней отсутствует (наше “преждевременное вымирание” само по себе стало бы “необратимым и радикальным сокращением”), а потому она только отвлекает внимание от сути вопроса – от уничтожения нашего долгосрочного потенциала.

Обратите внимание, что в соответствии с моими определениями экзистенциальный риск – это просто риск экзистенциальной катастрофы. Я мог бы так и написать, но хотел, чтобы определение было самостоятельным.

78

Я намеренно не указываю, как именно совокупность возможных вариантов будущего определяет наш потенциал. Проще всего сказать, что ценность нашего потенциала соответствует ценности лучшего из открытых для нас вариантов будущего, то есть экзистенциальная катастрофа происходит, когда лучший из оставшихся вариантов будущего оказывается во много раз менее ценным, чем лучший из вариантов, который был у нас ранее. Можно также учесть сложность реализации каждого из возможных вариантов будущего, например определив ценность нашего потенциала как ожидаемую ценность нашего будущего в том случае, если мы пойдем лучшим из имеющихся путей. Но над этим еще предстоит поработать.

Определяя, считать ли катастрофу экзистенциальной, я ориентируюсь на уничтожение потенциала человечества, вместо того чтобы сделать акцент на необратимости итога, по двум основным причинам. Во-первых, такое определение удобнее для выявления набора рисков, которые имеют сходные механизмы работы и предполагают сходные стратегии для их предотвращения. Во-вторых, я смотрю на человечество с оптимизмом. Учитывая, что достаточно долгое время наш потенциал оставался невредим, я полагаю, что у нас есть очень большая вероятность его реализовать, а откаты назад будут лишь временными, если только не уничтожат нашу способность к восстановлению. В таком случае вероятность того, что человечество не сможет достичь великого будущего, главным образом связана именно с уничтожением его потенциала, то есть с экзистенциальным риском.

79

Потенциал можно определять и иначе – например, в более узком смысле, учитывая только то, на что мы способны сегодня или, вероятно, будем способны завтра. Потенциал такого типа можно увеличить, если работать над расширением своих способностей. Однако в этой книге я рассматриваю только наш долгосрочный потенциал (вкладывая в это понятие тот смысл, который описан в основном тексте). Когда я говорю просто “потенциал” (ради краткости), речь идет о “долгосрочном потенциале”.

80

Если остается слабая надежда на восстановление, то некоторые из моих прямолинейных утверждений нельзя воспринимать буквально. Например, утверждение о том, что после экзистенциальной катастрофы “нет пути назад”. Это досадно, но я считаю, что игра стоит свеч.

Я оставляю слабую надежду на восстановление, чтобы мне не могли возразить, что шанс на возрождение всегда есть, пусть даже бесконечно малый. Следовательно, строго говоря, потенциал не может быть уничтожен полностью. Однако от такого строгого прочтения мало пользы. Чтобы сделать выбор, нам не нужно знать, каким именно будет шанс на восстановление при реализации определенного сценария – ровно 0 % или 0,1 %. Обе ситуации почти одинаково плохи в сравнении с текущей, и плохи они по одной причине: их чрезвычайно сложно обратить вспять, и они (почти полностью) уничтожают наш долгосрочный потенциал. Более того, в обоих случаях нам следует действовать схожим образом: принимать предупредительные меры, а не учиться на ошибках. Ситуации, в которой у человечества в буквальном смысле “нет пути назад”, стоит избегать по тем же причинам, что и ситуации, когда “практически нет пути назад”. Таким образом, лучше всего включить почти необратимые ситуации в определение наравне с совершенно необратимыми.

81

Если наш потенциал значительно превосходит текущее состояние цивилизации, то событие, которое просто законсервирует текущее положение вещей, будет считаться экзистенциальной катастрофой. Примером может служить перманентная остановка технического прогресса.

Может показаться странным, что мы называем катастрофой сценарий, который просто крайне далек от оптимального. Мы привыкли считать, что потенциал уничтожают такие события, которые вызывают страдания незамедлительно, а не такие, которые разрушают чей либо потенциал, не меняя качества жизни в настоящий момент. Но рассмотрим, например, решение родителей не давать образование своему ребенку. Оно не вызовет страданий немедленно, но может привести к катастрофическому исходу для ребенка в отдаленном будущем.

82

В некоторых случаях идеи и методики из этой книги могут также применяться к таким местным “экзистенциальным угрозам”, поскольку они имеют определенные сходства (в миниатюре).

83

Здесь тоже есть свои проблемы. Так, порой нам придется говорить, что нечто было риском в прошлом (насколько нам известно), но больше риском не является. Например, раньше были опасения, что ядерное оружие подожжет атмосферу (см. с. 108). Но обратите внимание, что такое случается с рисками любого типа: так, на прошлой неделе мы могли полагать, что существует риск падения лифта из за потертости троса, но теперь этот риск снизился до нуля, поскольку у нас появились новые данные (мы проверили трос и обнаружили, что с ним все в порядке). Подробнее об объективной и логической вероятности при определении экзистенциального риска пишут Bostrom & Сirkovic (2008) и Bostrom (2013).

84

Часто появляются списки потерпевших крах цивилизаций прошлого, таких как Римская империя и цивилизация майя. Но в этой книге, говоря о (глобальном) коллапсе цивилизации, я имею в виду другое. Статистика небольших коллапсов практически бесполезна при определении того, ждет ли нашу цивилизацию глобальный коллапс.

Погибшие цивилизации были в высокой степени локализованы, поэтому их коллапс был скорее сравним с коллапсом отдельной страны, а не глобальной цивилизации. Так, даже Римская империя в период своего расцвета была гораздо меньше современной Бразилии и по площади, и по численности населения. Эти небольшие цивилизации были гораздо более уязвимы для региональных климатических эффектов, для действий единственного плохого правительства и для нападений внешних врагов. Кроме того, их коллапсы были вовсе не столь разрушительны, как тот, о котором я веду речь: часто целые города и деревни переживали “коллапс”, но народы не возвращались в состояние, в котором пребывали до перехода к сельскому хозяйству, а многие аспекты культуры продолжали развиваться.

85

Или если произойдет событие, которое более непосредственным образом воспрепятствует развитию цивилизации и ведению сельского хозяйства: например, будет нанесен исключительный ущерб окружающей среде или начнется длительная эпидемия болезни с тяжелыми последствиями.

Возможно, хрупкость мира возросла и сегодня он менее устойчив к коллапсу, чем средневековая Европа, а следовательно, коллапс может произойти и при потере менее 50 % населения. Впрочем, я сомневаюсь на этот счет и полагаю, что такой сценарий не более вероятен, чем сценарий, при котором даже потеря 90 % населения не приведет к полной утрате цивилизации.

86

С точки зрения новейшей истории эти неолитические революции происходили в разные времена, и тысячелетия форы сыграли большую роль в развитии некоторых цивилизаций и определении их веса на мировой арене. Но если смотреть шире, разные регионы независимо друг от друга перешли к сельскому хозяйству практически одновременно: в диапазоне нескольких тысяч лет в масштабах истории, которая тянется сотни тысяч лет. Это позволяет предположить, что сельское хозяйство было не маловероятным техническим прорывом, а достаточно типичным решением общей проблемы. Наиболее вероятным толчком к нему стало завершение великого “ледникового периода”, случившееся в промежутке от 17 до 10 тысяч лет назад, прямо в период зарождения сельского хозяйства. Оно оказало огромное влияние на окружающую среду, сделав мир менее подходящим для охоты и более подходящим для земледелия.

87

Общая тенденция такова, что доступ к ресурсам затрудняется, поскольку первым делом мы добываем то, что добыть легко. Так происходит с нетронутыми ресурсами в земных недрах. Но в результате люди забывают об огромном объеме ресурсов, которые уже извлекаются, отправляются на хранение и остаются среди руин цивилизации. Например, одна угольная шахта открытого типа в Вайоминге дает 100 млн тонн угля ежегодно, и остаток запасов в ней составляет 1,7 млрд тонн (Peabody Energy, 2018). На момент написания этой книги в резервах у угольных электростанций в США находится 100 млн тонн готового к использованию угля (EIA, 2019). В стратегических резервах хранится около 2 млрд баррелей нефти (IEA, 2018, p. 19), а количество используемого в нашей глобальной цивилизации железа составляет около 2000 кг на душу населения (Sverdrup & Olafsdottir, 2019).

88

Хотя в главе 4 мы увидим, что даже экстремальная ядерная зима или изменение климата вряд ли причинят окружающей среде по всему миру достаточный ущерб, чтобы это произошло.

89

Вопрос о минимальной жизнеспособной популяции также встает, когда речь заходит о космических путешествиях, во время которых сменяются поколения. Marin & Beluffi (2018) полагают, что достаточно начальной популяции размером 98 человек, в то время как Smith (2014) считает минимальной гораздо более крупную популяцию размером от 14 до 44 тысяч человек. Возможно, выжить сумеют и меньшие популяции – все зависит от того, какие генетические технологии они смогут применять для минимизации рисков инбридинга и дрейфа генов.

90

Полагаю, это стало одной из причин, почему люди считают возможность вымирания человечества казенным штампом, а не серьезной угрозой. Когда этот риск используют в качестве двигателя сюжета в подобных фильмах, он действительно превращается в штамп. Однако не стоит совершать ошибку и позволять этому штампу заслонять реальную угрозу для нашего будущего.

91

Мы редко встречаем и серьезные эмоциональные рассуждения на эту тему, такие как песни Let Me Die in My Footsteps (1963) Боба Дилана и Eve of Destruction (1965) Барри Макгуайра.

92

См. Slovic (2007).

93

Parfit (1984), pp. 453–454.

94

Как мы увидим далее, эта количественная разница также играет решающую роль при анализе представлений о нашем прошлом, наших добродетелях и нашей космической значимости.

95

Schell (1982), p. 182.

96

На этом стоит остановиться подробнее. По примеру Parfit (1984) разделим все, что может быть потеряно, на две группы.

В первую войдет то, чем мы могли бы стать. Окажутся потеряны все люди, которые могли бы появиться на свет. У нас никогда не будет ни детей, ни внуков: не будет миллионов поколений человечества, в каждое из которых входят миллиарды людей, живущих гораздо лучше, чем мы сами. Не будет никого. Катастрофа не убьет этих людей, но перечеркнет саму возможность их существования. Она не сотрет их со страниц истории, а вообще не позволит им оказаться туда вписанными. Мы потеряем ценность всего, что делает хорошей жизнь каждого из этих людей, будь то их счастье, свобода, успех или добродетель. Мы потеряем и самих людей. И еще мы потеряем всю ценность, которая заключена в их взаимоотношениях и самой структуре их общества, – любовь, дружбу, гармонию, равенство и справедливость.

Во вторую группу войдет все, что мы могли бы сделать. Взгляните на наши величайшие достижения в искусстве и науке и обратите внимание, какое большое их число приходится на последние два столетия. Если мы проживем еще два века, не растеряв свой потенциал, вероятно, мы достигнем еще больших высот. Мы можем добраться до одной из главных вершин науки: полностью описать фундаментальные законы, управляющие реальностью. И мы продолжим расширять диапазон своего прогресса, исследуя все новые и новые территории.

Важнее всего, пожалуй, потенциальные достижения в области морали. Хотя за века и тысячелетия мы проделали в этой сфере немалый путь, прогресс в ней шел значительно медленнее, чем в других областях, и был менее стабильным. Человечество обладает потенциалом построить поистине справедливый мир, и исполнение этой мечты стало бы огромным достижением.

Мы можем очень многим стать и очень многое сделать, впереди у нас множество вариантов благополучного будущего и множество достижений, и потому, какого бы представления о ценности мы ни придерживались, нам почти всегда найдется о чем горевать, если мы потерпим неудачу и растеряем свой потенциал. Поскольку масштабы благополучия и достижений чрезвычайно велики, защита нашего потенциала имеет первостепенное значение.

97

Таким образом, масштаб нашего будущего не просто важен с точки зрения консеквенциализма. Он также подкрепляет аргументы в пользу снижения экзистенциального риска, проистекающие из соображений о справедливости или законности.

98

Говоря, что жизни людей “важны в равной степени”, я имею в виду, что все хорошее и плохое в их жизнях одинаково важно вне зависимости от того, когда они живут.

В среднем люди сегодня живут лучше, чем тысячу лет назад, поскольку хорошего в их жизни больше, а кроме того, наша жизнь, вероятно, важнее как инструмент, так как мы живем в более судьбоносное время. В этом смысле наша жизнь, вероятно, имеет большее значение, но здесь нет противоречия с тем типом временно́й нейтральности, которого я придерживаюсь.

99

Об этом говорили J. J. C. Smart (1984, pp. 64–65) и G. E. Moore (1903, § 93).

100

Новые поколения столкнутся с новыми рисками и смогут помочь их снизить, но только мы можем снизить риски, которые возникают сегодня и возникнут в грядущие десятилетия.

101

Это название предложили мы с Уильямом Макаскиллом. В основе этих идей – рассуждения наших коллег Nick Beckstead (2013) и Nick Bostrom (2002b, 2003). В настоящее время Макаскилл работает над полноценной книгой, в которой их рассматривает.

102

В Приложении E мы увидим, что помимо защиты человечества существуют и другие способы оказывать устойчивое влияние на отдаленное будущее.

103

При ставке дисконтирования 0,1 % в год (низкой по стандартам экономистов) разница в миллион лет делает страдания через миллион лет более чем в 10434 раз важными, чем аналогичные страдания через два миллиона лет.

104

Можно трактовать это по разному в зависимости от ваших представлений о ценности. Одни сосредоточатся на том, насколько плох сам факт смерти целой группы или вида, человечества. С точки зрения других, хуже станет отсутствие человеческих жизней в будущем, а вместе с этим и всего хорошего, что в них могло бы быть.

105

С этим могут возникнуть серьезные сложности, если культура другого времени (или места) сильно отличается, но в нашем примере это не имеет значения.

106

Представьте, что бы мы подумали, если бы узнали, что наше правительство не стало принимать в расчет риск ядерной войны на том основании, что, если мы все умрем, плохого в этом не будет.

107

Если же, даже проявив должный скепсис, мы все равно склоняемся к одной из таких теорий, нужно с огромной осторожностью следовать ее рекомендациям в конкретной сфере, где она сильнее всего расходится с нашей интуицией и другими теориями, которые представляются нам правдоподобными, а именно в вопросе о ценности нашего долгосрочного будущего. См. Beckstead (2013, p. 63).

108

Мы действительно окажемся почти в таком же состоянии, как наши древнейшие человеческие предки (и нас будет гораздо меньше).

109

Burke (1790), para. 165; перевод Е. Гельфанд. В своей знаковой книге о правах будущих людей Annette Baier (1981) выражает похожую мысль: “Ключевая роль, отведенная нам как существам моральным, – это роль членов межпоколенческого сообщества, сообщества существ, которые смотрят назад и вперед, трактуют прошлое в свете настоящего, считают будущее продолжением прошлого, чувствуют свою принадлежность к непреходящим семьям, народам, культурам, традициям”. Об этом говорит и Джон Ролз в “Теории справедливости” (1971, § 79): “Реализация возможностей человеческих индивидов, живущих в любое данное время, требует кооперации многих поколений (или даже обществ) на протяжении долгого периода времени” (перевод В. В. Целищева).

110

Seneca (1972), pp. 279–291; перевод Т. Бородай. Шестнадцать веков спустя, в 1704 году, Исаак Ньютон сделал подобное замечание (Newton & McGuire, 1970): “Объяснить всю природу – слишком сложная задача для любого человека или даже для одного века. Гораздо лучше сделать немного, но достоверно, а остальное оставить тем, кто придет за вами” (перевод С. И. Вавилова).

В 1755 году Дени Дидро выразил связанные идеи в своей “Энциклопедии” (Diderot, 1755, pp. 635–648A): “…задача энциклопедии состоит в том, чтобы собирать знания, рассеянные по миру; излагать их общую систему для людей, с которыми мы живем, и передавать их тем, кто придет после нас, чтобы работа прошедших веков не лишилась смысла в грядущие столетия; и чтобы наши потомки, став более учеными, стали бы также более добродетельными и счастливыми, а мы не прожили бы жизнь, не оказав услугу всему роду человеческому”.

111

Пожалуй, еще поразительнее, что некоторые тайны комет, глубина которых вдохновила Сенеку написать этот фрагмент, были открыты лишь недавно и непосредственным образом повлияли на наши представления об экзистенциальном риске: “Когда нибудь явится человек, который точно опишет, где пролегают пути комет, почему они блуждают в стороне от прочих звезд” (Seneca, 1972, p. 281; перевод Т. Бородай).

Природа их в высшей степени причудливых орбит и их размер стали ключевыми аспектами нашего текущего представления о рисках, которые кометы представляют для цивилизации и человечества. Дальнейший анализ обеих этих характеристик существенно поможет снизить риски, связанные со столкновениями с объектами из космоса. См. главу 3.

112

См. работу Scheffler (2018), где подробнее разбирается вопрос о принципе взаимности, лежащем в основе некоторых причин заботиться о будущих поколениях, и приводятся другие соображения, не упоминаемые на этих страницах.

113

Sagan (1983, p. 275) написал так: “Существует множество других критериев для оценки потенциальных потерь, включая культуру и науку, эволюционную историю планеты и смысл жизни всех наших предков, которые сделали свой вклад в будущее своих потомков. Вымирание – это крах главного проекта человечества”.

114

Cм., например, работы Cohen (2011), Scheffler (2009), Frick (2017).

115

Ник Бустрём (2013) развил эту мысль: “Вероятно, мы обязаны также, подобно архивистам, хранить наследие человечества, переданное нам предками, и невредимым передавать его потомкам. Мы не хотим оказаться слабым звеном в цепи поколений и не должны ни стирать, ни забывать великую историю человеческой цивилизации, над которой человечество трудилось на протяжении тысяч лет, ведь совершенно ясно, что рассказ еще не доведен до логического конца”.