На краю пропасти. Экзистенциальный риск и будущее человечества

Будущее человечества находится под угрозой, которая становится все серьезнее. В дополнение к природным рискам, существовавшим испокон веков, появились антропогенные, а на горизонте маячат новые опасности, и с каждым шагом мы оказываемся все ближе к краю пропасти.

Подробно рассмотрев каждый из рисков, мы наконец можем взглянуть на ситуацию шире и увидеть общую картину. Мы можем изучить весь ландшафт экзистенциального риска и понять, как риски соотносятся друг с другом, что у них общего и какие риски требуют нашего внимания в первую очередь.

Количественная оценка рисков

Как выглядит рисковый ландшафт? Какие риски формируют этот ландшафт, а какие – остаются лишь деталями? Теперь мы в состоянии ответить на эти вопросы.

Для этого необходимо провести количественную оценку рисков. Люди часто сомневаются в том, стоит ли оценивать катастрофические риски количественно, и предпочитают качественные характеристики, такие как “невероятный” и “крайне маловероятный”. Но в результате возникают серьезные проблемы во взаимодействии, поскольку понимать друг друга становится сложнее. Важнее всего, что такие фразы крайне неоднозначны и по-разному воспринимаются разными людьми. Например, “крайне маловероятным” одни считают риск с вероятностью один к четырем, а другие – один к пятидесяти[464]. Таким образом, работа, проведенная для точной оценки риска, немедленно идет насмарку. Кроме того, смысл этих фраз определяется тем, что стоит на кону: если риск “крайне маловероятен”, значит, он “достаточно низок, чтобы мы могли не принимать его в расчет” – и не привязан к нейтральной оценке степени вероятности[465]. Это приводит к проблемам при обсуждении рисков высокой важности, где даже малые вероятности могут иметь огромное значение. Наконец, без цифр не обойтись, если мы хотим обоснованно сравнивать вероятности разных рисков или классов рисков.

Так, завершая обсуждение экзистенциальных рисков в книге “Просвещение продолжается”, Стивен Пинкер обратился к природным рискам: “Наши предки ничего не могли противопоставить этим смертельным угрозам; мы же с вами, благодаря технологиям, живем не в самое опасное, а в самое безопасное время в истории”[466]. Хотя Пинкер прав в том, что мы сталкиваемся со множеством природных угроз, а технологии снизили сопряженный с ними риск, нельзя из этого сделать вывод, что наше время стало исключительно безопасным. Понять почему поможет количественная оценка рисков.

Чтобы наше время стало исключительно безопасным, мы должны были бы снизить природный риск сильнее, чем повысили антропогенный. Однако, как мы увидели в главе 3, несмотря на огромное число смертей в результате природных катастроф, их совокупная вероятность, по-видимому, всегда оставалась крайне низкой (иначе вид вроде нашего просто не смог бы просуществовать так долго). Реалистичная оценка векового природного экзистенциального риска находится в диапазоне от 1 к 1 000 000 до 1 к 2000. Следовательно, нашим технологиям почти нечего снижать. Даже при самой высокой из этих оценок технологии не могут снизить природный риск сильнее, чем на одну двадцатую процентного пункта. И лишь невероятный оптимизм при взгляде в будущее может дать нам основания полагать, что антропогенный риск, с которым мы сталкиваемся, менее серьезен. Можем ли мы ожидать, что проживем еще 2000 таких веков, как этот? Можем ли мы быть на 99,95 % уверены, что протянем еще сто лет?

Таблица 6.1. Мои лучшие оценки вероятности экзистенциальной катастрофы по каждой из перечисленных причин в последующие 100 лет (если катастрофа имеет отложенный эффект, как в случае с изменением климата, я оцениваю вероятность того, что в ближайшие 100 лет будет пройдена точка невозврата). Погрешность этих оценок достаточно велика: их следует считать указанием на верный порядок величин, но каждая при этом вполне может оказаться в 3 раза выше или ниже. Обратите внимание, что цифры не совсем согласуются друг с другом, потому что иначе могло бы возникнуть ложное ощущение точности оценок, а также по неочевидным причинам, описанным в разделе “Объединение и сравнение рисков”.

В связи с этим я присвою рискам количественные вероятности и поясню, как их трактовать. В научном контексте количественные оценки порой безосновательно кажутся людям объективными или точными[467]. Не считайте эти цифры совершенно объективными. Даже с таким хорошо изученным риском, как столкновение с астероидом, научные данные дают нам лишь часть информации: мы неплохо знаем, какова вероятность столкновения, но плохо представляем, какова вероятность того, что определенное столкновение уничтожит наше будущее. Не считайте оценки точными. Они нужны, чтобы показать верный порядок величин, а не более точную степень вероятности.

Цифры показывают мою степень уверенности в том, что каждая из катастроф случится в текущем столетии. Это значит, что в них находят отражение не только сведения и доводы из глав о рисках, но и вся совокупность знаний и суждений о каждом из рисков, которую невозможно в сжатой форме изложить на нескольких страницах. Их никак нельзя считать окончательными – скорее эти цифры представляют собой краткий конспект всего, что я знаю о рисковом ландшафте.

Одна из самых удивительных характеристик этого рискового ландшафта – огромная разница между вероятностями разных рисков. Одни риски в миллионы раз вероятнее других, и мало какие из рисков имеют вероятности одного порядка. Такая разница наблюдается и между разными классами рисков: по моим оценкам, антропогенные риски более чем в 1000 раз вероятнее природных[468]. Из антропогенных рисков, на мой взгляд, риски, сопряженные с технологиями будущего, примерно в 100 раз серьезнее рисков, сопряженных с существующими технологиями, а следовательно, риски в третьей, четвертой и пятой главах расположены по мере роста их вероятности.

На первый взгляд такая неоднородность может показаться неожиданной, но в науке на удивление часто встречается подобное распределение, включающее цифры различных порядков, где основной вклад в целое вносят максимальные величины. Из-за этой неоднородности нам крайне важно отдавать приоритет работе с нужными рисками. Кроме того, именно поэтому наша оценка общего риска сильно зависит от оценки нескольких самых серьезных рисков (которые входят в число самых слабо изученных). В связи с этим ключевой задачей становится более глубокое изучение этих рисков и более точная их оценка.

На мой взгляд, самый серьезный риск для человеческого потенциала в ближайшее столетие представляет неконтролируемый искусственный интеллект, которому я присвоил вероятность 1 к 10. Может показаться странным, что вероятность такого умозрительного риска столь высока, поэтому не помешает объяснить, чем я руководствовался.

При оценке вероятности беспрецедентного события, способного потрясти весь мир, принято проявлять скепсис: начинать с исключительно низкой вероятности и увеличивать ее лишь в том случае, когда появляется большое количество объективных данных в поддержку такого решения. Я не согласен с таким подходом. Я полагаю, что правильнее начинать с вероятности, которая отражает наши общие впечатления, а затем корректировать ее с учетом научных данных[469]. Когда данных много, эти подходы соединяются. Но когда данных мало, нам не все равно, с чего начинать.

В случае с искусственным интеллектом никто не спорит, что данные и доводы пока далеки от однозначности, но возникает вопрос: что нам это дает? Если не вдаваться в подробности, в своем анализе я отталкиваюсь от общего мнения экспертного сообщества, согласно которому вероятность того, что в ближайшее столетие появятся агенты ИИ, способные превзойти человека в выполнении практически любой задачи, составляет примерно 1 к 2. Если это случится, не стоит удивляться, что агенты, превосходящие нас по всем фронтам, в итоге, возможно, унаследуют наше будущее. Особенно если, рассматривая ситуацию в деталях, мы предвидим серьезные трудности при настройке таких агентов на соответствие нашим ценностям.

Одни мои коллеги присваивают этому риску большую вероятность, чем я, а другие – меньшую. Но в целом наши цифры сходятся. Допустим, вы более скептически подходите к оценке этого риска и присваиваете ему вероятность 1 к 100. С информационной точки зрения эти оценки не так далеки друг от друга: нужно не так уж много данных, чтобы перейти от одной из них к другой. С практической точки зрения они тоже, скорее всего, не слишком различаются: экзистенциальный риск, имеющий любую из этих вероятностей, стал бы проблемой первостепенной важности во всем мире.

Порой я представляю рисковый ландшафт, ориентируясь на пять серьезных рисков: ядерной войны, изменения климата, другого экологического ущерба, пандемий искусственного происхождения и неконтролируемого ИИ. Хотя я считаю последние два особенно важными, на мой взгляд, каждый из них с вероятностью не менее 1 к 1000 может в текущем столетии уничтожить потенциал человечества, а потому каждому из них необходимо противостоять силами всего мира, учитывая их вклад в общий уровень экзистенциального риска (в дополнение к другим убедительным причинам).

В целом я считаю, что вероятность экзистенциальной катастрофы в последующее столетие составляет примерно 1 к 6. Это не малая статистическая вероятность, которую нам следует держать в голове, как, например, вероятность погибнуть в дорожной аварии, а серьезная цифра, свидетельствующая о том, что действительно может произойти, сопоставимая с вероятностью выпадения любого из чисел на игральной кости или вероятностью неудачи в русской рулетке.

Риск велик, но наше положение вовсе не безнадежно. Оценка подразумевает, что в пяти случаях из шести человечество сумеет прожить следующую сотню лет, не растеряв свой долгосрочный потенциал. В связи с этим, хотя я считаю, что управление некоторыми рисками (скажем, рисками с вероятностью 1 к 1000 и выше) следует признать глобальной задачей первостепенной важности, я не говорю, что этот век станет для нас последним.

Что насчет более отдаленной перспективы? Если бы я был вынужден сделать прогноз, я бы сказал, что вероятность того, что человечество избежит всех экзистенциальных катастроф и реализует свой потенциал, то есть построит будущее, которое будет наиболее близко к наилучшему из возможных вариантов, составляет примерно 1 к 2[470]. Из этого следует, что в моем представлении около трети экзистенциального риска для всего нашего будущего приходится на текущее столетие. Это показывает, что я оптимистично оцениваю вероятность того, что появится цивилизация, которая возьмется за ум, и того, что мы и станем такой цивилизацией – возможно, даже в этом веке.

В моих оценках, приведенных выше, действительно учитывается возможность, что мы возьмемся за ум и начнем со всей серьезностью подходить к этим рискам. Будущие риски часто оцениваются исходя из предпосылки, что жизнь продолжится “в привычном режиме”: что уровень нашего беспокойства и объем ресурсов, выделяемых на работу с рисками, останутся такими же, как сегодня. Если бы я допустил, что жизнь пойдет в привычном режиме, я бы присвоил рискам значительно более высокую вероятность. Но я думаю, что такие оценки были бы недостоверными и завышали бы истинную вероятность экзистенциальной катастрофы[471]. В связи с этим я учел, что мы, скорее всего, примем меры в ответ на растущие риски и приложим значительные усилия, чтобы их снизить.

Таким образом, цифры отражают мои лучшие предположения о вероятности наступления рисков с учетом наших ответных мер. Если человечество превзойдет мои ожидания, остаточный риск может оказаться и меньше, чем оценочный. Пожалуй, можно сказать, что мы играем в русскую рулетку, положив в барабан два патрона, но я подозреваю, что мы успеем вынуть один из них, прежде чем настанет время спустить курок. Возможно, при должных усилиях мы успеем вынуть и последний патрон. Таким образом, главной цифрой, вероятно, должен стать не риск, который, как я полагаю, сохранится, то есть около 1 к 6, а риск 2 к 6, чтобы в этих оценках нашла отражение разница между малоэффективной работой человечества по его сдерживанию и героическими усилиями в борьбе с ним.

Указанные вероятности позволяют составить представление о рисковом ландшафте, но их нельзя назвать ни исчерпывающими, ни финальными. Даже полностью объективные, точные и выверенные оценки покажут лишь то, насколько серьезны различные риски, но ничего не скажут о том, насколько они поддаются снижению и насколько сильно ими пренебрегают. Следовательно, одних вероятностей мало, чтобы определить, какие риски требуют повышенного внимания и какое именно внимание необходимо им уделять. В этой и следующей главах мы начнем задавать такие вопросы и описывать инструментарий, необходимый для противостояния угрозам нашему будущему.

Учитывая разнородность рискового ландшафта, полезно классифицировать риски, выделив их сходства. Это поможет нам прочертить линии атаки, которые позволят бороться с несколькими рисками одновременно.

Мои коллеги из Института будущего человечества предлагают классифицировать риски вымирания человечества по трем последовательным этапам, которые должны наступить, прежде чем мы вымрем[472].

Происхождение. Что провоцирует катастрофу?

Одни катастрофы начинаются под действием сил природы, а другие имеют антропогенный характер. Антропогенные риски полезно разбить на группы в зависимости от того, был ли ущерб намеренным, предвиденным или непредвиденным. Далее можно разбить эти группы на подгруппы в зависимости от того, малое (как в случае с авариями и терроризмом) или большое (как в случае с изменением климата и ядерной войной) число людей в них вовлечено.

Разрастание. Как катастрофа приобретает глобальный масштаб?

Катастрофа может иметь глобальный характер с самого начала (как изменение климата), а может разрастись под действием некоторого механизма. Например, при распространении в земной атмосфере не пропускающих солнечный свет частиц, попавших туда при столкновении с астероидом, при извержении вулкана или в результате ядерной войны. Пандемии разрастаются по экспоненте, когда каждая жертва заражает еще несколько человек.

Исход. Как катастрофа доводит дело до конца?

Каким образом она убивает всех, где бы они ни были? Подобно пыли, поднятой астероидом, смертоносное вещество может распространяться в окружающей среде; подобно пандемии, оно может переноситься людьми, которые перемещаются с места на место; а если вызвать вымирание было у кого-то в планах, катастрофу можно специально нацеливать на уничтожение всех горсток выживших до единой.

Мы можем противостоять риску на любом из этих этапов: предупреждение может не допустить его происхождения, реакция – ограничить его разрастание, а устойчивость – помешать наступлению исхода. В зависимости от риска мы можем или направлять свои усилия на самый эффективный для борьбы с ним этап, или придерживаться стратегии глубокой обороны и работать со всеми этапами одновременно.

Такая классификация позволяет нам представить вероятность вымирания как произведение (1) вероятности того, что вымирание начнется, (2) вероятности того, что, начавшись, оно разрастется до глобальных масштабов, и (3) вероятности того, что, разросшись до глобальных масштабов, оно вызовет вымирание:

P _{вымирания} = P _{происхождения} × P _{разрастания} × P _{исхода.}

Предупреждение, реакция и устойчивость помогают снизить каждый из факторов риска в соответствии со своей направленностью. Поскольку вероятности перемножаются, некоторому снижению одного фактора сопутствует пропорциональное снижение всех остальных факторов. Таким образом, по общему правилу приоритетным должен становиться тот фактор, который легче всего уменьшить наполовину в текущий момент[473].

Существуют и другие полезные способы классификации рисков. Так, Шахар Авин и его коллеги из кембриджского Центра изучения экзистенциального риска (CSER) классифицируют риски по тому, какой из важнейших систем они угрожают, будь то система окружающей среды, человеческого организма или социума[474].

Объединение и сравнение рисков

Рисковый ландшафт образован множеством разных экзистенциальных рисков. Пока мы в основном рассматривали каждый из них по отдельности. Однако, если мы хотим понять, как риски объединяются и соотносятся друг с другом, нам нужно изучить принципы их взаимодействия. Важным образом взаимодействуют даже статистически независимые друг от друга риски: стоит одному риску уничтожить нас, как другие лишаются этой возможности.

Для начала разберемся, что такое общий экзистенциальный риск. Это риск того, что человечество рано или поздно столкнется с экзистенциальной катастрофой любого типа[475]. Он учитывает все риски: природные и антропогенные, известные и неизвестные, близкие и далекие. Все пути к тому, чтобы катастрофа навсегда уничтожила потенциал человечества.

Это чрезвычайно полезное понятие, поскольку в его рамках все риски приводятся к общему знаменателю, которым становится их вклад в общий риск. Но для этого приходится вводить упрощающее предположение о том, что ставки по разным рискам примерно одинаковы, а различия между рисками определяются главным образом различиями в их вероятностях. Это не всегда так, но это служит хорошей отправной точкой[476].

Как отдельные риски объединяются в общий риск? Допустим, во всем нашем будущем лишь два риска с вероятностями 10 % и 20 %. Каков при этом общий риск? Возникает желание просто сложить вероятности, но обычно это дает неверный результат. Ответ зависит от взаимосвязи этих рисков (см. Рис. 6.1).

Рисунок 6.1. Риски могут сочетаться множеством способов, от идеальной антикорреляции (А) до идеальной корреляции (Б). Промежуточное положение занимает важный случай взаимозависимости (В). Общий риск зависит от того, сколько риска “теряется” при наложении их друг на друга – в той области, где катастрофа все равно случится, даже если мы уничтожим один из рисков. Большое наложение снижает общий риск, но также ограничивает преимущества уничтожения одного из рисков.

Хуже всего, когда они находятся в идеальной антикорреляции (например, как вероятность того, что случайное число в интервале от 1 до 100 меньше либо равно 10, и того, что такое число больше 80). В таком случае общий риск представляет собой сумму двух его факторов: 30 %. Лучше всего, когда риски находятся в идеальной корреляции, например 10 %-ный риск наступает только в тех случаях, когда наступает и 20 %-ный (например, как вероятность того, что случайное число в интервале от 1 до 100 меньше либо равно 10, и вероятность того, что такое число меньше либо равно 20)[477]. В таком случае общий риск равен более высокому из двух: 20 %. Если риски статистически независимы друг от друга (например, риски в двух отдельных лотереях), вероятность оказывается промежуточной. В таком случае она составит 28 %. (Проще всего понять это, представив вероятность того, что не случится ни одна из катастроф: 90 % × 80 % = 72 %. Если мы вычтем это произведение из 100 %, получится 28 %.)

Чего нам ожидать на практике? В целом, полагаю, нам следует ожидать некоторой положительной корреляции между большинством пар рисков в силу существования общих причин и общих решений[478]. Так, серьезная мировая война может повысить многие экзистенциальные риски, а успешная деятельность общемирового института по управлению экзистенциальным риском может многие из них снизить. Это умеренно хорошая новость, поскольку из-за этого риски чаще накладываются друг на друга, а общий риск становится чуть ниже, чем если бы риски просто суммировались или считались бы независимыми[479]. Если связь между рисками не видна, логично сначала предположить, что такие риски независимы, а затем проверить, что изменилось бы, если бы между ними наблюдалась корреляция или антикорреляция.

Как ни странно, такие проблемы возникают не только при объединении рисков, но и при сопоставлении их важности. Насколько 20 %-ный риск важнее 10 %-ного? Очевидный ответ “вдвое” почти никогда не оказывается верным (для этого риски должны состоять в идеальной антикорреляции). Чтобы получить верный ответ, нужно учесть, что важность устранения риска определяется тем, какая доля общего риска исчезнет с его устранением. После этого можно проверить, чему равна эта доля.

Например, на Рис. 6.1 мы увидели, что независимые 10 %-ный и 20 %-ный риски дают общий 28 %-ный риск. Следовательно, устранение 10 %-ного риска снизит общий риск на 8 % (с 28 до 20 %), а устранение 20 %-ного риска снизит его на 18 % (с 28 до 10 %), что более чем вдвое больше. 20 %-ный риск окажется в 2,25 раза более важным, чем 10 %-ный, и, как правило, более высокие риски важнее, чем можно подумать. Эти неочевидные эффекты (и не только они) становятся тем значимее, чем сильнее корреляция рисков и чем выше общий риск. Они приобретают особенную важность, если риск в этом столетии выше, чем я предполагаю, или если высок общий риск для всего нашего будущего (некоторые неожиданные следствия этого рассматриваются в Приложении D).

Факторы риска

В главах 3–5 мы рассмотрели многие характерные экзистенциальные риски. Вооружившись понятием общего риска, мы могли бы рассматривать эти главы как разбивку общего риска на набор отдельных рисков, каждый из которых имеет собственный механизм для разрушения нашего потенциала. У нас могло бы возникнуть желание рассматривать этот набор как перечень важнейших тем, которые встают перед человечеством: как меню, из которого начинающий альтруист может выбрать себе дело всей жизни. Но это было бы преждевременно. Дело в том, что существуют и другие способы разбить общий экзистенциальный риск на отдельные элементы.

Рассмотрим возможность войны между некими мощными силами в текущем столетии. Иными словами, войны между любыми из самых могущественных в мире стран или блоков[480]. Война такого масштаба определила первую половину XX века, а ее угроза определила большую часть второй половины столетия. Хотя международная напряженность снова нарастает, кажется практически немыслимым, чтобы в текущем десятилетии любые из великих держав вступили в войну друг с другом, и в обозримом будущем это тоже представляется маловероятным. Но век – это долгое время, и, несомненно, существует риск, что между великими державами снова случится война.

Мы могли бы посчитать войну между великими державами экзистенциальным риском, но только с натяжкой. Сама по себе война не может выступать в роли механизма, уничтожающего человечество или наш потенциал, поскольку не она наносит нам решающий удар. И все же война между великими державами повысит экзистенциальный риск. Она повысит риски, связанные с различными технологиями вооружения: ядерным оружием, пандемиями искусственного происхождения, а также всеми новыми типами оружия массового уничтожения, изобретенными к ее началу. Кроме того, она косвенно поспособствовала бы повышению вероятности других рисков: подрыв международного доверия и сотрудничества усложнил бы управление изменением климата и безопасную разработку ОИИ, что увеличило бы сопряженные с ними опасности. В дополнение к этому войны между великими державами могут ускорять появление новых экзистенциальных рисков. Не забывайте, что ядерное оружие появилось во время Второй мировой войны, а его разрушительная сила была существенно увеличена во время холодной войны, когда изобрели водородную бомбу. История показывает, что войны такого размаха искушают человечество заглядывать в самые темные глубины технологий.

С учетом всего этого угроза войны между великими державами может (косвенно) представлять значительную долю экзистенциального риска. Например, складывается впечатление, что львиная доля экзистенциального риска в прошлом столетии объяснялась угрозой масштабной войны. Вспомните собственную оценку экзистенциального риска в последующее столетие. В какой степени она уменьшилась бы, если бы у вас была уверенность, что великие державы в этот период не вступят друг с другом в войну? Точно сказать невозможно, но я подозреваю, что оценка риска на этот период сократится существенно – примерно на десятую долю. Поскольку я считаю, что экзистенциальный риск в грядущем веке составляет примерно 1 к 6, по моим оценкам, масштабная война вносит более одного процентного пункта в общий экзистенциальный риск в последующее столетие. Таким образом, ее вклад в общий риск оказывается больше, чем вклад большинства отдельных рисков, которые мы рассматривали.

Хотя вы вольны не соглашаться с моими оценками, я полагаю, что с уверенностью можно сказать, что война между великими державами вносит в общий экзистенциальный риск больший вклад, чем все природные риски, вместе взятые. Следовательно, молодому человеку, выбирающему карьерный путь, филантропу, выбирающему дело для поддержки, и государству, желающему сделать мир безопаснее, лучше сосредоточиться на предотвращении масштабной войны, чем на обнаружении астероидов и комет.

Такой альтернативный способ разбивки экзистенциального риска вдохновлен грандиозным исследованием в сфере всемирного здравоохранения “Глобальное бремя болезней”, которое проводится с целью изучить общее состояние здоровья людей по всему миру и дает мне важный стимул для работы в соответствующей сфере[481]. Его авторы классифицировали все проблемы со здоровьем в мире по причине их возникновения, будь то болезнь или травма. Взяв подытог для каждой болезни и травмы, они суммировали показатели и получили общее бремя болезней и травм. Но они хотели узнать ответы и на другие вопросы, например сколько проблем со здоровьем вызывает курение. Само по себе курение не болезнь и не травма, но оно вызывает заболевания сердца и легких. Ученые назвали курение “фактором риска” и пояснили: “Фактор риска – это атрибут или условие, которое приводит к повышению вероятности болезни или травмы”. Это позволяет проводить чрезвычайно полезный междисциплинарный анализ причин возникновения проблем со здоровьем и дает нам возможность оценивать, в какой степени можно было бы улучшить ситуацию, если проводить кампании по борьбе с такими факторами риска, как курение, отсутствие доступа к чистой питьевой воде и дефицит витаминов.

Давайте назовем то, что повышает экзистенциальный риск, фактором экзистенциального риска (ради краткости можно опускать слово “экзистенциальный”, поскольку нас в любом случае интересует только этот тип факторов риска)[482]. Если разбивку общего риска на отдельные составляющие можно сравнить с выделением отдельных вертикальных ячеек, то факторы экзистенциального риска разрезают эти ячейки поперек. Понятие фактора экзистенциального риска имеет общий характер и может применяться на любом уровне, но больше всего оно пригодится при анализе связанных факторов, оказывающих существенное влияние на экзистенциальный риск. Если выделение отдельных рисков в главах 3–5 было попыткой разбить общий риск на набор рисков, которые не накладываются друг на друга, то с факторами риска таких ограничений нет: они могут накладываться друг на друга, а один из них может даже включать в себя другой – главное, чтобы они оставались полезными для нас. Следовательно, вклад отдельных факторов в экзистенциальный риск даже примерно не “складывается” в общий риск.

Простой способ найти факторы экзистенциального риска – изучить факторы стресса для человечества и нашей способности принимать взвешенные решения. К ним относятся глобальная экономическая стагнация, экологическая катастрофа и разрушение миропорядка[483]. Действительно, даже угроза таких вещей может считаться фактором экзистенциального риска, поскольку может посеять в мире хаос и вызвать панику.

Многие риски, которые грозят нам (неэкзистенциальной) глобальной катастрофой, также выступают факторами экзистенциального риска, поскольку после глобальной катастрофы человечество может стать более уязвимым. Аналогична ситуация со многими экзистенциальными угрозами: если они способны вызвать глобальные катастрофы, повышающие нашу уязвимость для последующих экзистенциальных рисков, то они также выступают в качестве факторов риска[484]. Иногда они представляют значительно больший косвенный риск, чем прямой.

В четвертой главе мы видели, что ядерной зиме или изменению климата сложно полностью уничтожить потенциал человечества. Но они вполне могут вызвать серьезные катастрофы, после которых мы станем более уязвимыми для других экзистенциальных рисков. В четвертой главе ядерная война и изменение климата рассматривались в качестве экзистенциальных рисков (поскольку очень важно понять, способны ли они действительно стать механизмами разрушения нашего потенциала), но, возможно, они играют даже более важную роль в качестве факторов риска. Весьма полезно изучить, как именно они повышают другие риски, поскольку в конечном счете нам необходимо понять, насколько они повышают общий риск[485].

Мы можем точнее описать факторы риска, пользуясь языком теории вероятностей. Пусть F – это фактор риска (например, изменение климата или война великих держав), а f – количественная мера этого фактора риска (например, количество градусов, на которое теплеет климат, или вероятность войны между великими державами). Обозначим ее минимально достижимое значение f_min, текущее значение – f_sq, а максимально достижимое значение – f_max.[486] Как мы помним, Pr (P) – это вероятность того, что событие P случится, а Pr (P|Q) – вероятность того, что событие P случится, если случится событие Q. Наконец, обозначим Х экзистенциальную катастрофу.

Разницу между Pr (X|f = f_sq) и Pr (X|f = f_min) можно назвать вкладом, который F вносит в экзистенциальный риск. Она показывает, насколько снизился бы общий экзистенциальный риск при устранении этого фактора. Этот показатель позволяет в сопоставимых величинах сравнить размер факторов риска и размер экзистенциального риска. По аналогии разницу между Pr (X|f = f_sq) и Pr (X|f = f_max) можно назвать потенциалом F. Она показывает, насколько мог бы возрасти экзистенциальный риск при усугублении этого фактора[487].

При приоритизации факторов риска нам особенно важна крутизна кривой на отметке f_sq. Она дает нам понять, какую защиту мы можем обеспечить путем незначительного изменения фактора риска[488].

Дискуссия о факторах риска поднимает вопрос о возможности существования других факторов, которые снижают риск[489]. Их можно назвать факторами экзистенциальной безопасности[490]. К ним относятся, например, функционирование хорошо развитых институтов для снижения экзистенциального риска, повышение нравственного уровня цивилизации и мир между великими державами. Как показывает последний пример, если что-то считается фактором риска, то противоположное ему будет фактором безопасности.

Многое из того, что мы привыкли считать общественным благом, вероятно, можно отнести к факторам экзистенциальной безопасности. Такие вещи, как образование, мир и процветание, возможно, помогут нас защитить. Многие болезни общества могут оказаться факторами экзистенциального риска. Иными словами, стремление снизить экзистенциальный риск может стать стимулом для проведения политики, основанной на знакомых принципах здравого смысла.

Но я хочу подчеркнуть, что в этом наблюдении таится опасность. Дело в том, что так можно ненароком скатиться к благостной самоуспокоенности и заменить защиту будущего другими целями, возможно лишь условно с нею связанными. Если экзистенциальный риск снижается при движении к другой цели, это не значит, что такая стратегия – самый надежный способ сберечь наше будущее. Если эта другая цель важна с точки зрения здравого смысла, то вполне вероятно, что на ее реализацию уже выделяется гораздо больше ресурсов, чем на непосредственную работу с экзистенциальным риском. В таком случае у нас гораздо меньше возможностей сдвинуться с мертвой точки. На мой взгляд, вполне вероятно, что существует лишь несколько факторов экзистенциального риска и экзистенциальной безопасности (таких как война великих держав), которые действительно сопоставимы с самыми значимыми экзистенциальными рисками с точки зрения того, насколько эффективно дополнительная работа с ними помогает нам сберечь свое будущее. Очень важно выявить эти факторы.

Какие риски?

Как ни печально, большинству экзистенциальных рисков, которые мы рассмотрели, уделяется гораздо меньше внимания, чем они заслуживают. Хотя ситуация меняется, скорее всего, пройдет не один десяток лет, прежде чем на борьбу с серьезными рисками будут выделены достаточные ресурсы. Тем из нас, кто хочет сберечь наше будущее, необходимо расставлять приоритеты, то есть определить, на что именно направлять свои ограниченные силы и ресурсы.

Для этого логично было бы сравнивать риски по вероятности их наступления, а точнее, по размеру их вклада в общий риск. Поскольку ставки по большинству экзистенциальных рисков примерно равны (бо́льшая часть потенциальной ценности будущего), можно подумать, что этим дело и ограничивается: приоритетность рисков следует определять по тому, насколько они повышают общий риск.

Но это не так. Дело в том, что работать с некоторыми рисками проще. Например, мы можем снизить небольшой риск с 5 до 1 %, задействовав те же ресурсы, которые понадобились бы, чтобы снизить более серьезный, но более неподатливый риск с 20 до 19 %[491]. В таком случае, направив эти ресурсы на меньший риск, мы смогли бы снизить общий экзистенциальный риск сильнее.

Наша конечная цель – потратить ресурсы, выделенные на работу с экзистенциальным риском, таким образом, чтобы снизить общий риск как можно сильнее. Можно представить распределение ресурсов, имеющихся у человечества, как портфель инвестиций, состоящий из вложений в разные способы предотвращения разнообразных рисков. Сформировать весь портфель очень сложно, и часто мы в силах лишь вносить незначительные коррективы в распределение мировых ресурсов, поэтому для простоты представим, что мы вносим незначительные изменения в существующий портфель. Учитывая всю остальную работу, которая ведется для предотвращения рисков в настоящее время, какую задачу следует считать самой неотложной? Куда следует направить дополнительные ресурсы (например, время и деньги), чтобы сильнее всего снизить общий риск?

Дать точный ответ на этот вопрос крайне сложно. Но некоторые эвристические принципы помогут нам ограничить количество вариантов. Один из них таков: чем важнее проблема, чем более она податлива и чем сильнее ею пренебрегают, тем более она затратно-эффективна, а следовательно, тем выше ее приоритет[492]. Важность проблемы определяется тем, насколько высокую ценность имеет ее решение. В случае с экзистенциальным риском мы можем, как правило, приравнять важность к тому вкладу, который он вносит в общий риск. Податливость – мера того, насколько просто решить проблему. Чтобы точно определить это, можно спросить, какая доля риска была бы устранена, если бы мы удвоили ресурсы, которые в настоящее время брошены на работу с ним. Наконец, проблемой пренебрегают, если на нее направляется мало ресурсов. Здесь действует закон убывающей отдачи: как правило, дополнительные ресурсы приносят тем больше пользы, чем меньше ресурсов было затрачено на решение проблемы раньше[493].

Мой коллега из Института будущего человечества Оуэн Коттон-Баррат продемонстрировал, что, когда эти условия должным образом сформулированы, затратную эффективность работы над конкретной проблемой можно выразить очень простой формулой[494]:

Хотя очень сложно назвать точные цифры для любого из этих показателей, эта модель все же позволяет сделать полезные выводы. Так, она показывает, почему в идеальном портфеле, как правило, ресурсы распределяются между несколькими рисками, а не направляются на один: чем больше мы вкладываем в конкретный риск, тем меньше мы пренебрегаем им, и привлечение дополнительных ресурсов на борьбу с ним перестает быть приоритетным. Через некоторое время оказывается, что дополнительные ресурсы выгоднее направлять на работу с другим риском.

Кроме того, эта модель позволяет нам понять, как находить компромиссные соотношения этих показателей. Например, при выборе между двумя рисками, вероятности которых различаются в пять раз, эта разница в вероятности того, что они наступят, может быть превзойдена десятикратным увеличением объема финансирования. Модель предлагает руководствоваться таким общим принципом:

Но это не значит, что вам лично следует распределять свои ресурсы между ними пропорционально их вероятностям. Индивиду или группе следует вкладывать свои ресурсы так, чтобы способствовать приведению мирового портфеля в идеальное состояние. Часто это предполагает необходимость направить все силы на один риск – особенно учитывая, насколько ценна возможность посвятить ему свое безраздельное внимание.

Этот анализ дает нам отправную точку: предварительную оценку ценности выделения новых ресурсов на работу с риском. Но часто встречаются ресурсы, которые гораздо ценнее в применении к одному риску, чем к другому. Это особенно верно в отношении людей. Биологу гораздо логичнее работать с риском пандемий искусственного происхождения, чем переучиваться для работы с риском ИИ. Получается, что в идеальном портфеле учитываются сравнительные преимущества людей. Кроме того, порой возникают подкрепленные ресурсами возможности помочь с конкретным риском. Каждый из этих показателей (соответствие профилю и подкрепленность ресурсами) может легко изменить ценность возможности в десять (и более) раз.

Рассмотрим еще три эвристических принципа для расстановки приоритетов: фокус на рисках, которые наступают рано, внезапно и резко. Эти категории не конкурируют с важностью, податливостью и пренебрежением, а проливают на них новый свет.

Допустим, один риск наступает рано, а другой – поздно. При прочих равных в приоритете должен быть тот риск, который наступает рано[496]. Одна причина в том, что с рисками, которые наступают позже, работать можно и позже, но с теми, что наступают раньше, это не получится. Другая – в том, что на работу с рисками, наступающими позже, вероятно, будет выделено больше ресурсов, поскольку человечество продолжит наращивать свою мощь и все больше людей будет понимать, в какой ситуации мы оказались. В результате рисками, наступающими позже, будут меньше пренебрегать. Наконец, нам понятнее, что делать с рисками, которые вот-вот наступят, в то время как с рисками, наступающими позже, мы вполне можем выбрать неправильный путь. Непредвиденные события в области технологий и политики в период до наступления риска могут изменить его природу, предложить более эффективные способы работы с ним или устранить его вообще, и тогда мы зря потратим свои силы на ранних этапах. Таким образом, риски, наступающие позже, в текущий момент характеризуются меньшей податливостью, чем риски, наступающие раньше.

Что, если один риск наступает внезапно, а другой – постепенно? При прочих равных в приоритете должен быть тот риск, который наступает внезапно. Риск, наступающий постепенно, с большей вероятностью привлечет внимание общественности и традиционных структур управления. В результате в долгосрочной перспективе им, скорее всего, будут меньше пренебрегать.

Некоторые экзистенциальные риски грозят нам катастрофами разных масштабов. В пандемиях могут гибнуть тысячи, миллионы или миллиарды человек, а диаметр астероидов варьируется от метров до километров. В каждом случае риски, судя по всему, распределяются по степенному закону, где катастрофы становятся значительно более редкими по мере увеличения масштабов. Это значит, что, скорее всего, мы столкнемся с пандемией или астероидом, которые убьют одну сотую населения Земли, прежде, чем с пандемией или астероидом, которые убьют одну десятую населения, а катастрофа, которая уничтожит одну десятую населения, будет предшествовать той, в которой погибнут почти все люди[497]. Другие риски, например риск, сопряженный с неконтролируемым искусственным интеллектом, могут, напротив, угрожать полным исчезновением человечества. Давайте называть небольшую катастрофу “предупредительным выстрелом”, если она с большой долей вероятности может подтолкнуть человечество к серьезным полезным действиям ради устранения будущего риска такого типа. При прочих равных в приоритете должны быть внезапные риски, то есть те, перед которыми вряд ли прозвучат предупредительные выстрелы, поскольку эти риски с большей вероятностью не будут получать должного внимания в долгосрочной перспективе[498].

Хотя я представил этот анализ как разбор того, какие риски должны рассматриваться в приоритетном порядке, те же принципы можно применить при расстановке приоритетов среди разных факторов риска и факторов безопасности. Кроме того, они могут помочь установить приоритетный порядок применения различных способов защиты нашего потенциала в долгосрочной перспективе, таких как содействие укоренению норм, работа в существующих институтах и создание новых. Но главное, что описанные принципы можно использовать при расстановке приоритетов не только в рамках этих сфер, но и между ними, поскольку все показатели выражаются в общих единицах степени снижения общего экзистенциального риска.

В этой книге мы рассмотрели немало подходов к снижению экзистенциального риска. Самый очевидный из них – непосредственная работа с конкретным риском, например с риском ядерной войны или пандемии искусственного происхождения. Но воздействовать на риски можно и опосредованно: работать с факторами риска, такими как война великих держав, или с факторами безопасности, такими как создание нового международного института для снижения экзистенциального риска. Возможно, существуют и более опосредованные методы. Надо полагать, что риск будет ниже в период стабильного экономического роста, чем в период кризиса, вызванного глубокой рецессией. Кроме того, он снизится, если население будет лучше образовано и лучше информировано.

Некоторые из крупнейших рисков, которые нам грозят, по-прежнему едва маячат на горизонте. В состоянии ли мы принимать эффективные меры по борьбе с ними, пока угроза так далека? Как нам действовать сейчас, если мы еще не совсем уверены в том, какую форму примут эти риски, какими будут технологии и каким предстанет стратегический ландшафт, когда они наступят?

Это важные вопросы, которые следует задавать при любой попытке работать с будущими рисками. В вопросах времени мы близоруки, поэтому велик шанс, что наши старания пойдут прахом. Но не стоит отчаиваться. Есть способы существенно повысить пользу заблаговременной работы с риском.

Превентивные меры лучше всего подходят для смены курса. Когда мы движемся в неверном направлении, лучше скорректировать курс на ранних этапах. А значит, если мы хотим увести технологию (или страну) с опасного пути, сейчас у нас для этого больше сил и возможностей, чем будет потом.

Превентивные меры лучше всего стимулируют самосовершенствование, поскольку у нас появляется больше времени, чтобы пожинать плоды своих трудов. Если необходимы исследования, образование или влияние, начинать лучше как можно раньше.

Превентивные меры лучше всего способствуют росту. Если кто-то хочет превратить инвестиции в состояние, статью – в область исследований, а идею – в движение, лучше приступать к делу как можно скорее.

Превентивные меры лучше всего подходят и для задач, предполагающих множество последовательных этапов. Если ваше решение структурировано именно так, реализовать его, возможно, не получится, если не начать работу необычайно рано.

Иными словами, превентивные меры – более эффективный инструмент, но он с большей вероятностью может оказаться бесполезным. Эти меры более действенны, но менее точны. Если мы приступаем к делу задолго до наступления риска, нам нужно выбирать такие методы, которые используют преимущество описанного рычага, но при этом остаются устойчивыми к нашей близорукости[499]. Часто это предполагает необходимость сосредоточиться на накоплении знаний и расширении компетенций, вместо того чтобы действовать напрямую.

Философ Ник Бекстед предлагает различать целевое и общее вмешательство[500]. Если мы сосредоточены на защите человечества, это не значит, что внимания заслуживают только узкие целевые меры, например установление контроля над опасной технологией. Экзистенциальный риск можно снижать и путем более общего вмешательства, которое позволяют нам становиться мудрее, учиться принимать взвешенные решения и налаживать международное сотрудничество. Неизвестно, какой из этих подходов эффективнее. Бекстед полагает, что лонгтермистам прошлых веков лучше было бы сосредоточиться на общих мерах, чем на целевом вмешательстве.

Быть может, Бекстед и прав насчет прошлых веков, но главным образом потому, что экзистенциальный риск был крайне низок, пока в XX веке мы не обрели достаточную мощь, чтобы стать угрозой для самих себя. С этой точки зрения первые лонгтермисты, включая Бертрана Рассела и Альберта Эйнштейна, поступали правильно, посвящая столько внимания целевым мерам по снижению угрозы ядерной войны.

На мой взгляд, можно попробовать разрешить проблему выбора между целевыми и общими мерами, приняв во внимание фактор пренебрежения. В настоящий момент триллионы долларов ежегодно расходуются на общие меры, например образование, в то время как на целевые меры по снижению экзистенциального риска идет менее одной десятитысячной от этой суммы[501]. Следовательно, общими мерами пренебрегают в значительно меньшей степени. Это дает нам веское основание полагать, что сегодня активизация целевого вмешательства окажется более эффективной (а из общих мер эффективнее всего будут те, которые получают меньше всего внимания).

Но если бы объем ресурсов, направляемых на целевые меры по снижению экзистенциального риска, радикально увеличился, ситуация начала бы меняться. Сегодня мы тратим на них менее одной тысячной процента валового мирового продукта. Ранее я предложил увеличить это хотя бы в 100 раз, чтобы достичь отметки, в которой мир станет тратить на сохранение своего потенциала больше, чем на мороженое, а хорошей долгосрочной целью, пожалуй, станет доведение этого показателя до целого процента[502]. Но при увеличении вложений в дело вступит закон убывающей отдачи, и вполне возможно, что даже в том случае, если мир будет интересовать только снижение экзистенциального риска, будет лучше, чтобы совокупный бюджет целевых мер не превышал совокупный бюджет общих мер.

Теперь у нас есть набросок карты рискового ландшафта и необходимые интеллектуальные инструменты, чтобы найти перспективные пути вперед. Пора применить наши знания и начать разрабатывать план защиты человечества – от общей стратегии до конкретных рекомендаций того, что может сделать каждый из нас.

Нам решать, каким станет наше будущее. Принимая решения, мы определяем, будем мы жить или умрем, реализуем свой потенциал или упустим свой шанс прийти к величию. Мы не заложники судьбы. Хотя внешние силы – неожиданная болезнь, война – могут перевернуть жизнь каждого из нас, будущее человечества практически всецело пребывает в руках людей. Основная часть экзистенциального риска сопряжена с деятельностью человека – деятельностью, которую мы можем прекратить или начать эффективно регулировать. Даже природные риски дают нам достаточно времени, чтобы защититься задолго до того, как разразится буря.

Нам необходимо взять на себя ответственность за свое будущее. Живущие сегодня люди – единственные, кто может бороться с существующими в настоящее время угрозами, единственные, кто может построить сообщества, разработать нормы и основать институты, которые позволят нам сберечь свое будущее. В зависимости от того, сумеем ли мы ответить на эти вызовы, нас будут вспоминать как поколение, которое совершило поворот к светлому и безопасному будущему, либо не будут вспоминать вообще.

На мой взгляд, при изучении этих вопросов наше положение полезно рассматривать с точки зрения человечества: считать человечество целостным агентом и анализировать стратегические решения, которые оно принимало бы, будь оно достаточно рациональным и мудрым. Или, иными словами, что делали бы все люди, если бы мы были в достаточной мере скоординированы и руководствовались долгосрочными интересами человечества.

Такой расклад сильно идеализирован. Он скрывает проблемы, которые возникают из-за нашей разобщенности, и значимость поступков отдельных личностей, способных наставить все человечество на верный путь. Но при этом он проливает свет на более серьезные вопросы, которые до сих пор почти полностью игнорируются. Это вопросы об общей стратегии человечества и о том, как гарантированно построить прекрасное будущее, даже если мы пока не знаем точно, каким именно оно будет. Отвечая на них, я делюсь своим смелым видением человечества, которое наводит порядок в своем доме, – и это видение, я надеюсь, поможет нам пройти через грядущие десятилетия, даже если реальность станет еще более сумбурной и непростой.

Я буду давать как рекомендации по разработке высокоуровневой стратегии и выбору конкретных мер, так и советы, адресованные отдельным людям, которые узнают о перспективных карьерных путях и о том, что может сделать каждый на своем месте. Поскольку люди лишь недавно начали размышлять о том, как сберечь человеческий потенциал, подобное руководство к действию следует считать предварительным, ведь оно пока не прошло проверку временем.

Но тот факт, что мы находимся на столь раннем этапе размышлений о долгосрочном будущем человечества, дает нам повод для оптимизма в начале нашего пути. Это не проторенная дорожка, где перспективные идеи давно изучены и признаны несостоятельными, а неизведанная территория. Вполне возможно, она богата идеями для первооткрывателей, которые стремятся их найти.

Общая стратегия человечества

Как человечеству с наибольшей вероятностью реализовать свой потенциал? Думаю, на высшем уровне нам нужно придерживаться стратегии, состоящей из трех этапов[504]:

1. Обеспечение экзистенциальной безопасности.

2. Долгое раздумье.

3. Реализация нашего потенциала.

С этой точки зрения первая важная задача человечества – обеспечить безопасность, то есть достичь точки, где экзистенциальный риск низок и не растет. Я называю это состояние экзистенциальной безопасностью.

Оно состоит из двух элементов. Очевидно, нам необходимо сохранить потенциал человечества, то есть вызволить себя из непосредственной опасности, чтобы с нами ничего не случилось, пока мы не наведем у себя порядок. Это подразумевает непосредственную работу над насущными экзистенциальными рисками и факторами риска, а также быстрые изменения наших норм и институтов.

Но нам необходимо и защитить потенциал человечества, то есть разработать надежные гарантии безопасности, чтобы оградить человечество от опасностей долгосрочного будущего и сделать крах почти невозможным[505]. Если сохранение нашего потенциала сродни ликвидации очередного пожара, то защита потенциала – это внесение изменений с целью сделать так, чтобы огонь больше никогда не представлял для нас серьезной угрозы[506]. Это подразумевает серьезную перестройку наших норм и институтов (чтобы человечество запаслось благоразумием и терпением, которые ему необходимы), а также повышение нашей общей устойчивости к катастрофам. Для этого нет надобности прямо сейчас спрогнозировать все будущие риски. Достаточно и того, чтобы наставить человечество на верный путь, где мы будем принимать новые риски всерьез: успешно управлять ими с момента их появления или вообще обходить их стороной.

Обратите внимание, что обеспечение экзистенциальной безопасности не требует снижения всех рисков до нуля. Достичь такой цели невозможно, и все попытки это сделать оказались бы тщетными. Человечеству необходимо снизить риск до очень низкого уровня, а затем постепенно снижать его дальше на протяжении столетий. Таким образом, даже если в каждом веке будет сохраняться некоторая доля риска, общий уровень риска в нашем будущем можно поддерживать невысоким[507]. Это можно считать формой экзистенциальной устойчивости. Варианты будущего, где аккумулированный экзистенциальный риск достигает 100 %, неустойчивы. Следовательно, нам нужно разработать строгий рисковый бюджет на все свое будущее, тщательно распределив этот невозобновляемый ресурс между будущими поколениями.

В конечном счете экзистенциальная безопасность предполагает снижение общего экзистенциального риска на как можно большее число процентов. Сохраняя потенциал, мы снижаем долю общего риска, которая приходится на несколько последующих десятилетий, а защищая его, снижаем долю, которая приходится на более долгий срок. Мы можем работать над этими элементами параллельно, направляя часть усилий на снижение ближайших рисков, а часть – на создание институтов, наращивание компетенций, накопление знаний и обретение воли к тому, чтобы свести будущие риски к минимуму[508].

Необходимость экзистенциальной безопасности основана в первую очередь на том, что никаких серьезных препятствий к бесконечно долгому существованию человечества нет, если только это станет приоритетом для всего мира. Как мы увидели в третьей главе, у нас достаточно времени, чтобы защититься от природных рисков: даже если бы у нас ушли целые тысячелетия на то, чтобы справиться с угрозами, исходящими от астероидов, супервулканов и сверхновых, мы приняли бы на себя менее одного процента общего риска.

Больший риск (в более сжатые сроки) представляют антропогенные угрозы. Однако, поскольку их производит само человечество, контроль над ними тоже в наших руках. Будь мы достаточно терпеливы, благоразумны и скоординированы, мы бы просто перестали подвергать себя таким рискам. Мы учли бы скрытые издержки углеродных выбросов (или ядерного оружия) и поняли, что выгоды в них нет. Мы бы выработали более зрелый подход к наиболее радикальным новым технологиям, посвящая заблаговременному анализу и регулированию не меньше сил, чем технологическому развитию.

В прошлом выживание человечества не требовало приложения такого количества сознательных усилий: поскольку оно было достаточно коротким, мы смогли избежать природных угроз, а создать антропогенные риски мы были еще не в силах. Но теперь нам нужно сделать сознательный выбор, чтобы выжить в долгосрочной перспективе. И мы придем к нему, когда еще больше людей поймет, что этот выбор необходим. Непросто будет заставить их заглянуть так далеко в будущее и отвлечься от текущих локальных конфликтов. Но логика здесь ясна, а моральные аргументы убедительны. Правильный выбор возможен.

Если мы обеспечим экзистенциальную безопасность, нам станет легче дышать. Обезопасив долгосрочный потенциал человечества, мы преодолеем Пропасть и сможем рассмотреть весь диапазон вариантов будущего. Мы также сможем не торопясь поразмыслить о том, чего действительно хотим: какой из вариантов позволит нам лучше всего реализовать свой потенциал. Этот период мы назовем долгим раздумьем[509].

Мы редко думаем таким образом. Мы направляем внимание на здесь и сейчас. Даже тем из нас, кто глубоко озабочен нашим долгосрочным будущим, нужно в первую очередь сосредоточиться на том, чтобы у нас вообще было будущее. Однако, обеспечив экзистенциальную безопасность, мы дадим себе время проанализировать различные доступные варианты будущего и решить, какой из них подходит нам лучше всего. До сих пор философия морали главным образом рассматривала негативные ситуации: как избежать неверных действий и плохих исходов. Изучение позитивных ситуаций только начинается[510]. В период долгого раздумья нам нужно будет разработать состоятельные теории, которые позволят нам сравнить потенциальные великие достижения наших потомков в масштабах эпох и галактик.

Живущим сегодня людям, включая меня, вряд ли суждено узнать итоги этого раздумья[511]. Но у нас есть уникальный шанс претворить его в жизнь.

В ходе долгого раздумья нам нужно будет найти окончательный ответ на вопрос о том, какое будущее оптимально для человечества. Это может быть как истинный ответ (если категория истинности применима к моральным вопросам), так и ответ, к которому мы все придем по итогам идеального процесса размышления. Возможно, прийти к одному ответу окажется невозможно и сохранится ряд спорных моментов и неоднозначностей, которые нельзя будет логически разрешить. В таком случае нашей целью станет поиск будущего, которое лучше всего примирит между собой оставшиеся варианты[512].

Нам не нужно будет доводить этот процесс до конца, прежде чем двигаться вперед. Главное – достаточно точно понять, чего примерно мы хотим, прежде чем предпринимать смелые и потенциально необратимые шаги, каждый из которых вполне может закрепить важные аспекты траектории нашего будущего развития.

Например, лучший из возможных вариантов будущего может предполагать физическое усовершенствование человечества путем улучшения нашей биологии на генетическом уровне. А может, в нем люди получат свободу принимать поразительное количество новых биологических форм. Но если мы слишком рано пойдем по любому из этих путей, могут возникнуть сопряженные с этим экзистенциальные риски.

Если мы радикально изменим собственную природу, то заменим человечество (или, по крайней мере, Homo sapiens) чем-то новым. Возникнет риск потерять самое ценное, что есть в человечестве, даже не успев это постичь. Если мы разнообразим свои формы, то человечество окажется разделенным на части. Мы можем лишиться неотъемлемого единства человечества, которое позволяет нам прийти к согласию при выборе лучшего из вариантов будущего, и вместо этого ввязаться в бесконечную борьбу или вынужденно пойти на неудовлетворительный компромисс. С подобными рисками могут быть сопряжены и другие смелые шаги: например, если мы расселимся за пределами Солнечной системы и создадим федерацию независимых миров, каждый из которых пойдет в собственном культурном направлении.

Я не хочу сказать, что нужно противиться таким изменениям в положении человечества, ведь вполне возможно, что без них мы не сможем в полной мере реализовать свой потенциал. Я просто отмечаю, что таким смелым шагам должно предшествовать долгое раздумье[513]. Или, по крайней мере, раздумье достаточное, чтобы мы могли осознать последствия конкретных перемен. Нам не стоит спешить при выборе пути. Обеспечив экзистенциальную безопасность, мы практически гарантируем себе успех, если пойдем вперед медленно и осторожно: это наша игра, и ошибки в ней могут быть только невынужденными.

Что мы можем сказать о процессе долгого раздумья? На мой взгляд, оно станет не единственной задачей человечества в этот период – будет и много других прекрасных проектов: мы будем дальше накапливать знания, повышать благосостояние и укреплять справедливость. Многие люди того времени проявят лишь сдержанный интерес к долгому раздумью. Но именно долгое раздумье сильнее всего повлияет на характер нашего будущего, а потому оно и станет определяющей приметой времени[514].

Возможно, процесс пойдет главным образом в интеллектуальных кругах, а возможно, в него будет вовлечена и более широкая общественность. В любом случае нам нужно будет проявлять огромную осторожность, чтобы на него не повлияли предрассудки и предвзятость участников. Как Джонатан Шелл сказал о подобном предприятии, “даже если бы к такому начинанию привлекли всех до последнего жителей Земли, в нем оказалась бы задействована лишь бесконечно малая доля людей из поколений прошлого и будущего, а следовательно, им следовало бы действовать с осторожностью и скромностью небольшого меньшинства”[515]. Хотя в обсуждении должны учитываться все точки зрения, еще важнее, чтобы оно было прямым и четким. Не стоит забывать, что главная его цель не в том, чтобы просто получить благосклонность живущих, а в том, чтобы вынести вердикт, который выдержит проверку вечностью.

Хотя философия морали будет играть главную роль, долгое раздумье потребует вклада от представителей многих дисциплин. Нужно будет определить не только то, какие варианты будущего лучше всех, но и прежде всего то, какие из них реалистичны и какие стратегии с наибольшей вероятностью приведут к их реализации. К этому необходимо подключить естественные науки, инженерию, экономику, политологию и другие сферы.

Можно считать, что первые два шага – обеспечение экзистенциальной безопасности и долгое раздумье – создадут конституцию для всего человечества. Обеспечить экзистенциальную безопасность – все равно что вписать в эту конституцию необходимость беречь наш потенциал. А затем долгое раздумье поможет воплотить конституционные принципы на практике, определив, в каком направлении и в каких границах будет разворачиваться наше будущее.

Но конечной нашей целью, разумеется, станет последний шаг: полная реализация потенциала человечества[516]. Это можно отложить до тех пор, пока мы не определили, какой из вариантов будущего лучший, и не поняли, как прийти к нему, не совершив какой-либо роковой ошибки. Хотя приступить к раздумьям можно и сейчас, это не самая срочная задача[517]. Чтобы максимизировать наши шансы на успех, нужно прежде всего защитить себя, то есть обеспечить экзистенциальную безопасность. Именно эта задача стоит перед нами сейчас. Остальное может подождать.

Многие из тех, кто писал о рисках вымирания человечества, полагают, что если мы доживем до момента, когда сумеем расселиться по космосу, то будем в безопасности: сейчас мы храним все яйца в одной корзине, но, став межпланетным видом, положим конец этому периоду уязвимости[518]. Так ли это? Будет ли обеспечена экзистенциальная безопасность, если мы колонизируем другие планеты?

В основе этой идеи лежит важная статистическая истина. Если бы количество локаций, которые необходимо уничтожить, чтобы погубить человечество, увеличивалось и если бы вероятность того, что каждая из них столкнется с катастрофой, существовала независимо от того, произойдет ли это с остальными, то человечество вполне могло бы существовать бесконечно[519].

К несчастью, этот довод применим лишь к статистически независимым рискам. Многие риски, например риски болезни, войны, тирании и вечной приверженности плохим ценностям, на разных планетах коррелированы: если с ними сталкивается одна из них, то вероятность того, что с ними столкнутся и другие, несколько повышается. Некоторые риски, например неконтролируемый ОИИ и схлопывание вакуума, состоят почти в полной корреляции: если с ними сталкивается одна планета, то, скорее всего, с ними столкнутся и все остальные[520]. Предположительно, некоторые еще не выявленные риски также окажутся в корреляции в наших колониях.

Следовательно, наличие космических колоний может способствовать обеспечению экзистенциальной безопасности (путем устранения некоррелированных рисков), но одних колоний точно недостаточно[521]. Стать межпланетным видом – амбициозная цель и, вероятно, необходимый шаг на пути к реализации потенциала человечества. Но нам все-таки необходимо непосредственно заняться проблемой экзистенциального риска и сделать защиту своего долгосрочного потенциала одной из своих приоритетных задач.

Беспрецедентные риски

Человечество никогда не сталкивалось с экзистенциальной катастрофой, и остается надеяться, что столкнуться с ней в будущем ему не придется. Катастрофы таких масштабов беспрецедентны в нашей долгой истории. Поэтому у нас возникают серьезные трудности, когда мы пытаемся изучить, спрогнозировать и предотвратить такие бедствия. Более того, эти трудности никуда не денутся, поскольку экзистенциальные риски заведомо беспрецедентны. Когда у нас появится прецедент, станет слишком поздно, ведь мы уже лишимся будущего. Чтобы сберечь долгосрочный потенциал человечества, мы вынуждены строить планы и воплощать их в мире, никогда не видевшем событий, которых мы надеемся избежать[522]. Рассмотрим три связанных с этим трудности и попытаемся понять, как их преодолеть.

Во-первых, нельзя полагаться на свои интуитивные знания и институты, сформировавшиеся для работы с рисками малого и среднего масштабов[523]. Наше интуитивное чувство страха ни в эволюционном, ни в культурном плане не приспособлено к работе с рисками, грозящими большим, чем гибель отдельно взятых людей, – с рисками катастроф, которые нельзя допускать даже раз в тысячу лет в мире, населенном миллиардами людей. Это относится и к нашему интуитивному представлению о вероятности крайне редких событий и слишком высоких рисков. Эволюция и культурная адаптация помогли нам относительно неплохо усвоить ответы на эти вопросы в повседневной жизни (когда безопасно переходить дорогу, покупать ли детектор дыма), но плохо справляются с работой с рисками, угрожающими сотням людей, не говоря уже о рисках, которые угрожают миллиардам и всему будущему человечества.

С нашими институтами происходит то же самое. Существующая система законов, норм и организаций для работы с риском ориентирована на риски малого и среднего масштабов, с которыми мы сталкивались в прошлых веках. Она плохо справляется с колоссальными рисками, способными разорить страны по всему миру, с серьезными рисками, при наступлении которых не остается ни одного юридического института, чтобы покарать виновных.

Во-вторых, у нас вообще нет права на ошибку. Это лишает нас возможности учиться на своих промахах. Как правило, человечество управляет рисками методом проб и ошибок. Мы увеличиваем вложения или усиливаем регулирование, ориентируясь на причиненный ущерб, и ищем способы предотвращать новые пожары, ходя по пепелищу.

Но в случае с экзистенциальным риском пассивный метод проб и ошибок не оправдывает себя. Нам необходимо будет принимать упреждающие меры: иногда сильно заранее, иногда ценой немалых издержек, иногда даже в моменты, когда еще непонятно, реален ли риск, а если да, то помогут ли эти меры его устранить[524]. Для этого нужны институты, имеющие доступ к новейшей информации о приближающихся рисках, способные к решительным действиям и готовые к тому, чтобы перейти к ним на практике. При работе со многими рисками многие (а может, и все) страны мира должны будут действовать слаженно. Возможно, принимая те или иные меры, мы будем понимать, что никогда не узнаем, принесут ли они пользу, несмотря на все издержки. В конце концов для этого понадобятся новые институты, где будут работать умные и здравомыслящие люди, располагающие немалым бюджетом и оказывающие реальное влияние на политику.

Это очень сложные обстоятельства для определения программно-нормативных установок – возможно, с ними не справятся даже лучшие из институтов, существующих сегодня. Но сейчас ситуация именно такова, и мы должны отдавать себе в этом отчет. Чтобы соответствовать этим требованиям, необходимо срочно улучшить наши институциональные возможности.

Весьма непросто будет и понять, когда таким институтам необходимо будет приступить к действию. С одной стороны, они должны быть в состоянии предпринимать решительные шаги, даже если данные не соответствуют высочайшим научным стандартам. С другой стороны, может возникнуть риск, что мы начнем гоняться за призраками – по просьбе (или по принуждению) идти на большие жертвы, не имея достаточно данных. Эта проблема усугубляется, когда риск связан с засекреченными сведениями или информационными опасностями, к анализу которых нельзя привлечь широкую публику. Похожие трудности возникают из-за того, что власти наделены правом объявлять чрезвычайную ситуацию: в разгар реального кризиса без чрезвычайных полномочий не обойтись, но ими очень легко злоупотреблять[525].

Третий вызов связан с недостатком знаний. Как прогнозировать, измерять и осознавать риски, которые никогда не наступали? Крайне сложно предсказать риск, сопряженный с новыми технологиями. Представьте момент, когда на наши дороги впервые выехали автомобили. Было совсем непонятно, насколько это опасно, но теперь, когда это случилось и позади остались миллионы километров, мы легко определяем риски, анализируя статистические частоты. Это позволяет нам понять, перевешивают ли выгоды эти риски, что именно нам могут дать очередные усовершенствования в сфере безопасности и какие усовершенствования будут особенно полезны.

Мы не располагаем такими данными об экзистенциальном риске и не можем рассчитать вероятности на основе длительных наблюдений за частотами. Нам приходится принимать чрезвычайно важные решения в отсутствие надежной информации о вероятностях сопряженных с ней рисков[526]. Оценка вероятностей тех событий, на которые мы ориентируемся при принятии решений о работе с экзистенциальным риском, сопряжена с серьезными трудностями[527]. Эта проблема уже наблюдается в исследованиях климатических изменений и вызывает серьезные трудности при выработке политики в этой области – особенно если это приводит к возникновению явных или неявных систематических ошибок при интерпретации неоднозначных данных.

В период холодной войны беспокойство об экзистенциальном риске, сопряженном с ядерной войной, часто списывалось со счетов по причине того, что серьезность риска не была доказана. Но для экзистенциального риска такой стандарт недостижим. Научные доказательства предполагают многократное повторение экспериментов, и при разработке этих требований подразумевалось, что такие эксперименты возможны и не слишком затратны. Ни одна из этих посылок, однако, не верна. Как метко отметил Карл Саган, “теории, предполагающие конец света, не поддаются экспериментальной проверке – по крайней мере, их нельзя проверить дважды”[528].

Даже не имея исторических данных об экзистенциальной катастрофе, мы можем оценивать сопряженные с ней вероятности или определять границы этих вероятностей. Например, в третьей главе мы научились ориентироваться на продолжительность существования людей и подобных животных, чтобы получить достаточно грубую оценку общего природного риска. Мы также можем учитывать случаи, когда нам едва удалось избежать гибели: как крупнейшие из случившихся катастроф (например, черную смерть), так и едва не случившиеся экзистенциальные катастрофы (например, в ходе Карибского кризиса). Это поможет нам понять, насколько общество устойчиво к крупным катастрофам и как из-за неполноты информации страны порой оказываются гораздо ближе к войне с фатальными последствиями, чем планировали. Нам нужно извлекать как можно больше уроков из таких случаев, даже если они не являются точными аналогиями для новых рисков, с которыми мы сталкиваемся, поскольку других данных у нас попросту нет.

В некоторой степени использование данных о едва не случившихся катастрофах систематизировано в сфере анализа рисков. Существуют методы для оценки вероятности беспрецедентных катастроф на основе прецедентных просчетов, которые должны необходимо случиться, чтобы катастрофа действительно произошла. Например, методика анализа дерева ошибок была разработана для оценки надежности стартовых комплексов ядерных ракет и регулярно помогает при управлении такими низкочастотными рисками, как авиакатастрофы и ядерные аварии[529].

Особенно сложно оценивать риски вымирания человечества. Вне зависимости от вероятности такого события найти в прошлом его прецедент невозможно. Вариация этого эффекта отбора может искажать исторические данные о некоторых катастрофах, связанных с вымиранием, даже если они вызывают его не всегда. Например, у нас, вероятно, нет возможности непосредственно применить имеющиеся данные о столкновениях с астероидами и полномасштабной ядерной войне. Насколько нам известно, такие эффекты отбора не слишком искажают исторические данные, но статей по этой теме мало, а некоторые методологические проблемы еще не решены[530].

Наконец, трудность возникает и при работе со всеми маловероятными рисками с высокими ставками. Допустим, по оценкам ученых, беспрецедентный технологический риск может с чрезвычайно малой вероятностью вызвать экзистенциальную катастрофу. Пусть вероятность этого составляет один на триллион. Можем ли мы использовать эту конкретную цифру в своем анализе? К сожалению, нет. Вероятность того, что ученые некорректно оценили эту вероятность, во много раз выше, чем один на триллион. Как мы помним, они не сумели оценить масштаб колоссального ядерного взрыва “Касл Браво”[531], а если бы просчет был настолько маловероятен, таких примеров не было бы. Следовательно, если катастрофа все-таки происходит, гораздо вероятнее то, что в расчеты закралась ошибка и реальный риск был серьезнее, чем то, что произошло событие с вероятностью один на триллион.

Это значит, что число один на триллион не может быть точкой отсчета при принятии решений, а те, кто их принимает, должны учитывать это и ориентироваться на более высокую вероятность[532]. Не очень понятно, как именно это делать. Общая установка состоит, в частности, в том, что неопределенность физической вероятности события не может быть причиной игнорировать риск, поскольку истинный риск может быть как выше, так и ниже. Более того, если изначальная оценка вероятности очень низка, корректный учет неопределенности часто ухудшает ситуацию, поскольку истинная вероятность может быть существенно выше, а может быть и значительно ниже[533].

Трудности, связанные с экзистенциальным риском, неординарны, но они разрешимы. Для этого необходимо расширить наши теоретические знания о том, как оценивать риски, беспрецедентные по своей природе. Нужно научиться лучше сканировать горизонт и прогнозировать появление подрывных технологий, а также более эффективно внедрять эти методы и идеи в процесс принятия стратегических решений.

Международная координация

Защита человечества – общественное благо мирового масштаба. Как мы увидели ранее, даже в такой влиятельной стране, как США, живет всего одна двадцатая часть населения Земли, а следовательно, на долю США придется лишь одна двадцатая часть выгод от предотвращения катастрофы. Если страны не пытаются скоординировать свои усилия, возникает проблема коллективных действий. У отдельных стран недостаточно стимулов для того, чтобы совершать определенные действия по снижению риска и избегать действий, ведущих к возникновению риска, и все стараются выехать за счет других. Поэтому следует ожидать, что действия по снижению риска будут недостаточны, а действия, ведущие к его повышению, – избыточны.

В связи с этим возникает необходимость международной координации в сфере экзистенциального риска. Мотивы отдельной страны совпадают с мотивами человечества лишь в том случае, если мы делим издержки на внедрение соответствующих мер точно так же, как делим выгоды. Иногда страны все же действуют в общих интересах человечества, но это скорее исключение, чем правило. Совместными усилиями мы можем справиться с этой трагедией общих ресурсов, если будем делать ставки не на альтруизм стран, а на их благоразумие: пусть не идеальный, но все же более приемлемый вариант.

Полезно было бы и централизовать часть международной работы по защите человечества. Это поможет объединять накопленный опыт, делиться знаниями и облегчит координацию. Кроме того, станет проще принимать меры там, где необходимо выступить единым фронтом, меры, эффективность которых завязана на самом слабом из звеньев цепи: например, при введении мораториев на опасные типы исследований или в сфере регулирования применения геоинженерии.

Для координации наших действий необходимы международные институты, работающие с экзистенциальным риском. Но пока совсем неясно, какими они должны быть. Нужно решить, как проводить эти изменения – плавно или резко, какими сделать институты – консультационными или регуляторными, а также какой сделать их сферу ответственности – узкой или широкой. Спектр возможностей широк: от того, чтобы постепенно улучшать небольшие агентства, до радикальной трансформации важнейших институтов, таких как Совет безопасности ООН, и вплоть до создания совершенно новых органов для урегулирования важнейших мировых вопросов.

Несомненно, многие сочтут такие серьезные сдвиги в международном управлении ненужными или нереалистичными. Вспомните, однако, как создавалась ООН. Организацию основали в рамках массивного переустройства миропорядка в ответ на трагедию Второй мировой войны. Полное уничтожение потенциала человечества гораздо хуже Второй мировой, а следовательно, сравнимая по масштабам перестройка международных институтов вполне оправданна. Хотя сейчас мы не видим такого запроса, он может появиться в ближайшем будущем, если риск повысится настолько, что станет реальной угрозой в глазах широкой общественности, или если произойдет глобальная катастрофа, которая послужит предупредительным выстрелом. Все это означает, что нужно начать проектировать новые идеальные международные институты, одновременно проводя изменения меньшего масштаба в уже существующих[534].

Точно так же стоит подходить к выработке нашей стратегии. Поняв, в какой ситуации мы оказались, и признав, что человечество уязвимо, мы столкнемся с огромными трудностями. Но, вероятно, у нас появятся и новые стратегические возможности. Ответ на вызовы, который сначала казался невозможным, может стать реальным, а со временем даже неизбежным. Ульрих Бек сформулировал это так: “Можно сделать два диаметрально противоположных утверждения: глобальные риски внушают парализующий ужас или глобальные риски открывают новое пространство для маневра”[535].

Рассматривая наше текущее положение, можно сказать, что в существующем миропорядке человечество разделено на множество государств, каждое из которых достаточно устойчиво внутренне, но состоит лишь в слабых связях с остальными. Такая структура не лишена преимуществ даже с точки зрения экзистенциального риска, поскольку она позволяет сводить к минимуму риск того, что одно скверное правительство заведет человечество в ловушку ужасного исхода, не подлежащего изменению. Однако по мере того как одной стране – или даже небольшой группе в одной стране – становится проще угрожать всему человечеству, этот баланс может начать меняться. В мире 195 стран, и это потенциально дает 195 шансов, что неадекватное руководство приведет к уничтожению человечества.

Некоторые из влиятельных пионеров экзистенциального риска полагали, что в свете растущей вероятности экзистенциальной катастрофы человечеству необходимо сформировать мировое правительство[536]. Так, в 1948 году Эйнштейн написал:

Идея о мировом правительстве расплывчата, поскольку разные люди по-разному понимают этот термин. Иногда, например, им обозначают ситуацию, в которой государства лишены возможности объявлять друг другу войну. Это практически равноценно миру во всем мире и приближено к идеалу (хотя добиться этого поразительно нелегко). Но мировым правительством называют и политически гомогенизированный мир с одним органом управления (грубо говоря, страну размером с мир). Такая ситуация гораздо более противоречива и может повышать общий экзистенциальный риск, если в такой стране установится глобальный тоталитаризм или навсегда закрепятся плохие ценности.

На мой взгляд, чтобы достигнуть экзистенциальной безопасности, лучше ввести на международном уровне минимальные ограничения, которые не позволят деятелям одной-двух стран поставить под угрозу будущее всего человечества. Возможно, с этой целью стоит разработать для человечества конституцию, где будет обозначена первостепенная необходимость оберегать наше будущее, а также будут описаны механизмы финансирования и исполнения этой задачи. С такой конституцией мы выйдем за рамки существующего международного права и институтов, но при этом не станем замахиваться на создание мирового правительства.

Что насчет более мелких изменений – улучшений международной координации, которые при низких издержках значительно укрепляют безопасность? В истории есть прекрасный пример: горячая линия Вашингтон – Москва (в народе – “красный телефон”)[538]. В разгар Карибского кризиса на получение и расшифровку сообщений Кеннеди и Хрущева нередко уходило по несколько часов[539]. Но события на месте развивались гораздо быстрее, из-за чего дипломатические решения (и объяснения действий, которые можно было истолковать как враждебные) задерживались[540]. По завершении кризиса Кеннеди и Хрущев создали горячую линию, чтобы наладить между лидерами оперативную и прямую коммуникацию и более не доводить напряжение до предела. Это оказалось простым и действенным способом снизить риск ядерной войны (и вообще войны между великими державами) при небольших финансовых и политических издержках. Наверняка возможны и другие подобные решения, их только нужно изобрести или реализовать.

Можно сделать и более очевидные вещи – просто укрепить существующие институты, работающие с экзистенциальными рисками. Так, Конвенцию о биологическом оружии можно привести в соответствие с Конвенцией о химическом оружии: увеличить ее бюджет с 1,4 млн до 80 млн долларов, наделить сотрудников соответствующего органа правом расследовать вероятные нарушения и увеличить численность ее аппарата с жалких четырех человек до более адекватной[541]. Мы также могли бы повысить способность Всемирной организации здравоохранения реагировать на зарождающиеся эпидемии, обеспечив эффективный эпидемиологический надзор, быструю диагностику болезней и контроль заболеваемости. Для этого необходимо увеличить финансирование и расширить полномочия ВОЗ, а кроме того, активизировать исследования и разработки нужных технологий. Не менее важно гарантировать, что все продукты синтеза ДНК проходят скрининг на наличие опасных патогенов. Компании, оказывающие услуги по синтезу, уже неплохо продвинулись в этом направлении: в настоящее время осуществляется скрининг 80 % заказов[542]. И все же 80 % недостаточно. Если не получится довести этот показатель до 100 % на добровольной основе, потребуется международное регулирование.

Важнейшая международная координация порой налаживается в двусторонних отношениях между странами. Очевидным первым шагом к ней могло бы стать возобновление действия Договора о ликвидации ракет средней и меньшей дальности (ДРСМД). По нему были уничтожены 2692 ядерные боеголовки из арсеналов США и России, но в 2019 году соблюдения обязательств по договору были приостановлены, после того как на протяжении десяти лет возникали подозрения в нарушении его условий[543]. Необходимо продлить и договор СНВ-III, действие которого истекает в 2021 году, поскольку он способствует значительному сокращению количества ядерного оружия.

Хотя вопросы в ядерной сфере часто решаются двусторонними или многосторонними соглашениями, в интересах всего мира могут приниматься и односторонние меры. Например, если США выведут свои МБР из состояния боевой готовности, вероятность случайного начала ядерной войны снизится, хотя сдерживающий фактор останется практически неизменным, поскольку разрушительные радиоактивные снаряды по-прежнему можно будет запустить с атомных подводных лодок. Такой шаг снизил бы общий риск ядерной войны.

Еще один перспективный путь к постепенным изменениям – прямой запрет на намеренные или неосторожные действия, вызывающие неоправданный риск вымирания, и введение наказания за них[544]. Лучше всего сделать это в рамках международного права, поскольку совершать такие действия вполне могут правительства и лидеры стран, которые обладают неприкосновенностью в рамках своих национальных законов.

Идея о том, что вызывать риски для всех живущих на планете людей и для всего нашего будущего – тяжкое преступление, логично вписывается в общую канву идей о правах человека и преступлениях против человечества. Согласование этой идеи с существующими правовыми нормами и определение порога, за которым наступает ответственность, скорее всего, вызовут серьезные практические трудности[545]. Но оно того стоит – и наши потомки сильно удивятся, когда узнают, что когда-то в том, чтобы угрожать будущему человечества, не было ничего противозаконного[546].

По некоторым признакам можно предположить, что такие меры могут найти поддержку на международном уровне. Так, в 1997 году ЮНЕСКО приняла Декларацию об ответственности нынешних поколений перед будущими поколениями. В ее преамбуле отмечается, что существование человечества может находиться под угрозой и что работать с этим риском – одна из задач ООН:

В статьях декларации перечисляются идеалы, которых следует придерживаться международному сообществу. В статье 3 говорится: “Нынешним поколениям надлежит в духе должного уважения к достоинству человеческой личности стремиться обеспечивать сохранение человечества на вечные времена”. Эта декларация явно не изменила мир, но она задала направление для выражения этих идей в контексте международных прав человека и обозначила, что они котируются на самом высоком уровне[547].

В последние тридцать лет некоторые страны предприняли незаурядные шаги, чтобы приспособить свои демократические институты к нуждам будущих поколений[548]. Они сделали это в ответ на критику стандартных форм демократии за то, что они не представляют интересы людей будущего, тех, кто может ощутить на себе негативные последствия сегодняшних решений[549]. Можно считать это тиранией настоящего над будущим. Разумеется, эту проблему нельзя решить, просто дав людям будущего право голоса по вопросам, которые их касаются, поскольку эти люди еще не родились[550]. Но иногда мы ясно понимаем, как бы они отнеслись к какой-нибудь из мер, а потому, прислушиваясь к их мнению, можем представлять их опосредованно: например, через омбудсмена, комиссию или парламентский комитет. Их можно наделить консультативными полномочиями, а можно и реальной силой[551].

Пока эксперименты с формальным представительством будущих поколений проводились главным образом при рассмотрении экологических и демографических вопросов. Но эта идея, несомненно, применима и к экзистенциальному риску. С ней мы можем добиться определенного успеха на национальном уровне, но еще лучше выйти с ней на мировую арену, объединив межпоколенческую и международную координацию. Подходить к ее внедрению можно как поэтапно, так и посредством радикальной трансформации.

Технологический прогресс

Поразительный технологический прогресс человечества стал одной из важных тем этой книги. Именно он позволил людям строить деревни, города и государства, создавать величайшие произведения искусства и жить гораздо дольше, получая поразительно разнообразный опыт. Технологический прогресс играет ключевую роль в нашем выживании: если он остановится, мы в конце концов окажемся во власти природных рисков, таких как, например, столкновение с астероидом. Я думаю, что лучшие из доступных для нас вариантов будущего – те, где мы действительно реализуем свой потенциал, – предполагают применение технологий, которые мы пока не успели разработать: дешевой чистой энергетики, продвинутого искусственного интеллекта и возможности продолжать исследования космоса.

Следовательно, хотя крупнейшие риски, с которыми мы сталкиваемся, имеют технологический характер, отказ от дальнейшего технологического прогресса не выход. Может, стоит его замедлить? Решит ли это нашу проблему? Это, конечно, отсрочит наступление технологических рисков. Если бы мы на сто лет отложили появление новых рискованных технологий, это защитило бы всех живущих сегодня людей от гибели в экзистенциальной катастрофе. С точки зрения настоящего это стало бы большим плюсом, но с точки зрения нашего будущего, нашего прошлого, наших добродетелей и нашей космической значимости ничего бы нам не принесло. На это указывал один из первых философов, размышлявших об экзистенциальном риске, Дж. Дж. К. Смарт:

Я утверждаю, что мы оказались в текущей ситуации, поскольку человечество наращивает свою мощь гораздо быстрее, чем накапливает мудрость, что происходит, напротив, медленно и неровно. Если это действительно так, то замедление технологического прогресса должно дать нам пространство для маневра, чтобы мудрость получила шанс угнаться за мощью[553]. Если замедлить все аспекты нашего прогресса, то это, вероятно, лишь отложит катастрофу, но если сделать так, чтобы наша мощь росла медленнее по сравнению с мудростью, то это может существенным образом нам помочь.

На мой взгляд, более терпеливое и благоразумное человечество точно попыталось бы уменьшить этот разрыв. Главное, оно попыталось бы увеличить свою мудрость. Однако, если бы существовали пределы того, насколько быстро человечество может с этим справиться, было бы разумно замедлить рост его мощи – для этого необязательно нажимать на тормоз, достаточно немного ослабить давление на газ.

Мы убедились, что человечество напоминает подростка: его физические способности стремительно растут, но ему не хватает мудрости и самоконтроля, оно мало думает о своем долгосрочном будущем и имеет нездоровую тягу к риску. Когда речь идет о наших детях, общество специально ограничивает им доступ к сопряженным с риском технологиям: например, детям нельзя водить машину, пока они не достигнут определенного возраста и не сдадут экзамен на права.

Можно представить, как применить подобный подход к человечеству. Не запрещать определенные типы технологий, а применять их лишь после того, как мы докажем, что готовы к этому, поскольку выполнили заранее оговоренное условие. Например, не применять ядерные технологии, пока не пройдет сто лет с последней крупной войны. К несчастью, это очень трудно. В отличие от примера с детьми, здесь нет мудрых взрослых, которые устанавливают правила. Человечеству надо самому устанавливать правила для себя. Но те, кому недостает мудрости, обычно этого не понимают, а те, кому недостает терпения, вряд ли станут откладывать удовольствие до тех пор, пока не станут мудрее.

Хотя я считаю, что более зрелый мир действительно ограничил бы рост своих разрушительных способностей тем уровнем, на котором ими можно управлять, я не вижу смысла призывать к этому в настоящий момент. Чтобы предпринимать значительные усилия по замедлению прогресса, необходимо заключать международные соглашения между всеми ведущими игроками, поскольку в ином случае в наименее добросовестных странах работа просто продолжится. Мир очень далек от заключения таких соглашений, и потому немногочисленным людям, которых беспокоит экзистенциальный риск, нет смысла настаивать на замедлении, поскольку их усилия окажутся тщетными (а возможно, и контрпродуктивными).

Вместо этого нам стоит направить силы на лоббирование ответственного применения новых технологий и ответственного управления ими. Мы должны пояснить, что беспрецедентная власть, которую дают нам новые технологии, требует беспрецедентной ответственности: и для исполнителей, и для тех, кто отвечает за процесс.

Технологии колоссально повысили качество нашей жизни, но за это приходится платить. Они принесли с собой теневые издержки в форме риска[554]. Мы обращаем внимание на видимые выгоды, но накапливаем скрытый долг, который нам однажды, вероятно, нужно будет вернуть[555]. Если мы не замедлим темп технологического развития, то можем хотя бы пустить часть благ, которые оно дает нам, на обслуживание своего долга. Например, расходовать хотя бы 1 % выгод, которые приносят нам технологии, чтобы гарантировать, что дальнейший технологический прогресс не уничтожит потенциал человечества.

Осуществлять управление технологиями можно на многих уровнях. Очевиднее всего вверить его людям, которые и так управляют: политикам, гражданским службам и гражданскому обществу. Но мост можно строить с двух сторон, учитывая ценный вклад людей, работающих в соответствующих сферах науки и технологий: в университетах, в профессиональных обществах, а также в технологических компаниях. Те, кто занимаются технологиями на практике, могут уделять гораздо больше времени размышлениям об этических аспектах своей работы и работы своих коллег[556]. Они могут разработать собственные руководства и внутренние правила. Кроме того, они могут сотрудничать с чиновниками, чтобы обеспечивать научную и технологическую состоятельность национальных и международных регламентов[557].

Хорошим примером успешного регулирования служит Монреальский протокол, который определил сроки снятия с производства химических веществ, разрушающих озоновый слой. Его разработка шла очень быстро при тесном сотрудничестве ученых, чиновников и ведущих компаний, и Кофи Аннан назвал его “возможно, самым успешным международным соглашением на сегодняшний день”[558].

Другой пример – Асиломарская конференция о рекомбинантной ДНК, на которой ведущие ученые отрасли рассмотрели новые опасные возможности, открывшиеся в ходе их работы. В результате они составили новые требования к безопасности дальнейших исследований и полностью запретили некоторые их направления[559].

Любопытная, хотя и обойденная вниманием, сфера технологического регулирования – технологическое развитие[560]. Хотя предотвратить разработку рискованной технологии порой слишком сложно, мы можем попробовать снизить экзистенциальный риск, ускорив развитие защитных технологий в противовес опасным. Здесь в игру могут вступить спонсоры исследований, которые будут придерживаться этого принципа при объявлении конкурсов на финансирование и распределении грантов, добавляя веса защитным технологиям. Кроме того, это было бы полезно и для ученых, выбирающих из нескольких перспективных исследовательских программ.

Если человечество каждое столетие сталкивается с серьезным риском, наше положение неустойчиво. Не стоит ли попытаться преодолеть этот рискованный период как можно скорее? Ответ зависит от того, с риском какого типа мы имеем дело.

Некоторые риски связаны с пребыванием в уязвимом состоянии. Назовем их рисками состояния[561]. В эту категорию входят многие природные риски. Человечество остается уязвимым для астероидов, комет, мегаизвержений, взрывов сверхновых и гамма-всплесков. Чем дольше мы пребываем в состоянии, где мы уязвимы и находимся под угрозой, тем выше совокупная вероятность того, что нам не удастся устоять. Вероятность нашего выживания на протяжении длительного времени описывается падающей экспонентой, и период, за который она уменьшается вдвое, определяется уровнем годового риска[562]. В случае с рисками состояния чем раньше мы справимся со своей уязвимостью, тем лучше. Если для этого нам необходимы технологии, нужно как можно быстрее их разработать.

Но существуют и другие риски[563]. Есть риски переходного периода, которые возникают в процессе перехода к новому технологическому или общественному режиму. Например, таковы риски, связанные с разработкой и применением прогрессивного ОИИ, а также риски изменения климата при переходе нашей цивилизации в высокоэнергетическое состояние. Ускорение перехода никак не может способствовать снижению этих рисков, зато легко может их повысить. Но если переход необходим или весьма желателен, нам, возможно, придется в какой-то момент его совершить, поэтому попытка оттянуть его не решит проблему, а возможно, даже усугубит. Как правило, при работе с такими рисками рекомендуется не спешить, но и не медлить, проявляя дальновидность и осмотрительность.

Мы сталкиваемся с целым рядом рисков, включая риски состояния и риски переходного периода[564]. Однако, если я прав, риски переходного периода гораздо выше, чем риски состояния (главным образом потому, что в первую категорию входит больше антропогенных рисков). Это позволяет сделать вывод, что ускорение общего технологического прогресса неоправданно. В целом баланс определяется нашим желанием обеспечить экзистенциальную безопасность, вызвав как можно меньше кумулятивного риска. Я подозреваю, что для этого нам лучше всего ускорить развитие именно тех областей науки и техники, которые помогут нам справиться с крупнейшими рисками состояния, а также проявлять дальновидность и осторожность, направляя скоординированные усилия на работу с крупнейшими рисками переходного периода.

Хотя сейчас наше положение неустойчиво, это не значит, что решение проблемы в том, чтобы как можно скорее снизить годовой риск до приемлемого уровня. Наша главная цель – устойчивость в долгосрочной перспективе: мы должны защитить потенциал человечества, чтобы обеспечить себе максимальные шансы реализовать его в грядущие эпохи. Следовательно, правильная устойчивость не означает, что нужно как можно быстрее прийти в устойчивое состояние, – нужно встать на устойчивую траекторию, где риски, возникающие на пути, будут уравновешиваться защитой, которую мы в итоге обретем[565]. Вероятно, для этого придется идти на дополнительные риски в краткосрочной перспективе, но только если они в достаточной степени снижают риски в долгосрочной перспективе.

Исследования экзистенциального риска

Исследования экзистенциального риска находятся в зачаточной стадии. Мы только начинаем понимать, с какими рисками сталкиваемся и как лучше с ними работать. Что же касается концептуальных и моральных принципов, а также общей стратегии человечества в этом вопросе, мы находимся на еще более ранней стадии. Таким образом, мы пока не готовы к решительным действиям для защиты своего долгосрочного потенциала. В связи с этим очень важно продолжать исследования экзистенциального риска. Они помогут нам определить, какие из доступных мер следует принимать, и открыть абсолютно новые способы борьбы с риском, те, что мы прежде даже не рассматривали[566].

Часть исследований необходимо посвятить конкретным темам. Нам нужно лучше изучить экзистенциальные риски: узнать, насколько они вероятны, каковы их механизмы и как лучше всего снижать их. Хотя ведутся масштабные исследования ядерной войны, изменения климата и биологической безопасности, лишь малая их часть посвящена самым радикальным событиям в каждой сфере – событиям, которые представляют угрозу для всего человечества[567]. Точно так же необходимо значительно расширить технические исследования того, как настраивать ОИИ в соответствии с человеческими ценностями.

Кроме того, нужно лучше изучить, как работать с основными факторами риска, такими как война между великими державами и с основными факторами безопасности. Например, понять, как создавать более эффективные институты, которые смогут осуществлять международную координацию и представлять интересы будущих поколений. Или как повышать свою стойкость, чтобы увеличивать вероятность восстановления после несмертельных катастроф. Необходимо и искать новые факторы риска и безопасности, чтобы у нас появилось больше способов работы с экзистенциальным риском.

Параллельно исследованию множества конкретных тем нужно изучать и абстрактные вопросы. Нам следует лучше разобраться в том, что такое лонгтермизм, потенциал человечества и экзистенциальный риск: доработать концепции, сделав их максимально убедительными; выяснить, на какие этические основания они опираются и какие этические обязательства предполагают; и глубже изучить ключевые стратегические вопросы, стоящие перед человечеством.

Может показаться, что эти области слишком огромны и неприступны, но прогресс в них возможен. Вспомните идеи, которые мы обсуждали на страницах этой книги. Некоторые из них имеют весьма общий характер: обзор истории человечества на протяжении столетий, Пропасть и важность защиты будущего. Но многие можно свести к емким и четким тезисам. Например, что катастрофа, в которой погибнет 100 % населения, может быть гораздо хуже, чем катастрофа, в которой погибнет 99 % населения, поскольку в первом случае человечество лишится будущего; продолжительность существования человечества как вида свидетельствует, что вероятность природных рисков не слишком высока; что снижение экзистенциального риска, как правило, будет недополучать ресурсы, поскольку это межпоколенческое всеобщее общественное благо; или что риски состояния отличаются от рисков переходного периода. Уверен, со временем появится еще немало подобных идей. Чтобы прийти к ним, специальные знания, как правило, не нужны – достаточно аналитического ума, который ищет закономерности, инструменты и объяснения.

Возможно, это удивит вас, но для многих исследований экзистенциального риска уже доступно финансирование. Некоторые дальновидные филантропы воспринимают экзистенциальный риск всерьез и недавно начали спонсировать первоклассные исследования основных рисков и путей их устранения[568]. Так, проект “Открытая филантропия” профинансировал недавнее моделирование ядерной зимы, а также исследования безопасности технического ИИ, готовности к пандемии и изменения климата – и все с особенным вниманием к самым неблагоприятным сценариям[569]. На момент написания этой книги спонсоры проекта готовы финансировать и множество новых исследований, и сдерживают их не деньги, а недостаток хороших исследователей, желающих заняться соответствующими вопросами[570].

Открылось и несколько научных институтов для исследования экзистенциального риска. Например, кембриджский Центр изучения экзистенциального риска (CSER) и оксфордский Институт будущего человечества (FHI), где работаю я[571]. Такие организации позволяют ученым-единомышленникам, представляющим разные дисциплины, вместе разрабатывать научные, этические и стратегические аспекты защиты человечества.

В этой главе говорится о том, что делать, чтобы защитить наше будущее. Но ничуть не менее полезно узнать, чего делать не стоит. Вот несколько примеров.

Не спешите с регулированием. В нужное время регулирование может стать весьма полезным инструментом для снижения экзистенциального риска. Но пока мы слишком плохо понимаем, как именно его осуществлять. Введение плохо продуманного регулирования стало бы большой ошибкой.

Не совершайте необратимых действий в одиночку. Некоторые контрмеры могут только усугубить наше положение (например, радикальная геоинженерия или публикация генома оспы). Не стоит забывать о проклятии односторонности (с. 164), когда возможность предпринимать действия в одностороннем порядке склоняет к действию людей, которые оценивают ситуацию наиболее оптимистично.

Не распространяйте опасную информацию. Изучать экзистенциальный риск – значит исследовать уязвимости нашего мира. Порой это рождает новые опасности. Если недостаточно осторожно обращаться с такой информацией, мы рискуем стать еще более уязвимыми (см. врезку “Информационные угрозы”, с. 164).

Не преувеличивайте риски. Заявления об экзистенциальном риске часто считают преувеличенными. Свою роль в этом играет и тенденция завышать риски, из-за которой людям становится значительно труднее разглядеть на общем фоне данные, полученные в ходе трезвого и взвешенного анализа.

Не проявляйте фанатизма. Защита нашего будущего имеет исключительное значение, но это не единственная важная задача, стоящая перед человечеством. Мы должны проявлять сознательность и нести в мир добро. Утомлять других бесконечными разговорами о риске нецелесообразно. Уговаривать их, что этот вопрос важнее любого другого, который кажется важным им, и того хуже.

Не проявляйте племенных инстинктов.Защита нашего будущего не прерогатива левых или правых, богатых или бедных, Востока или Запада. Эта задача лишена идеологической окраски. Если представлять ее как политический вопрос, стоящий по одну из сторон спорного водораздела, это может обернуться катастрофой. В будущем всем есть что терять, поэтому мы должны защищать его вместе[572].

Не забывайте о добросовестности. Когда на кону стоит нечто невероятно важное, а остальные не торопятся ничего предпринимать, людям кажется, что у них есть право добиваться успеха любыми способами. Нам ни в коем случае нельзя поддаваться такому соблазну. Единственный недобросовестный человек может испортить дело и перечеркнуть все, чего мы надеемся достичь.

Не отчаивайтесь. Отчаяние лишает нас сил, затуманивает наш разум и прогоняет всех, кто пытается нам помочь. Отчаяние – это самоисполняющееся пророчество. Хотя риски реальны и значительны, нам не известно ни одного риска, который мы были бы не в состоянии устранить. Только с высоко поднятой головой можно добиться успеха.

Не забывайте о хорошем. Хотя риски – главные трудности, с которыми сталкивается человечество, нельзя, чтобы наша жизнь сводилась только к ним. Нас ведет вперед надежда на будущее. Если ориентироваться на нее, у нас – и у остальных – появится необходимый стимул защищать свое будущее[573].

Что можете сделать вы

В этой главе в основном рассматривались системные вопросы о том, как человечеству в целом преодолеть Пропасть и реализовать свой потенциал. Но среди этих масштабных вопросов и тем у каждого есть шанс сыграть свою роль в защите будущего.

Один из самых надежных способов трудиться на благо мира – делать это в рамках своей профессиональной деятельности. Работая, мы посвящаем около 80 тысяч часов решению некой проблемы, большой или маленькой. Это настолько огромная часть нашей жизни, что если мы сможем посвятить ее одной из самых важных проблем, то внесем колоссальный вклад в общее дело.

Если вы трудитесь в сфере информатики или программирования, возможно, вы сумеете переключиться на работу с экзистенциальным риском, сопряженным с ИИ: например, проводя весьма востребованные исследования контроля ИИ или работая инженером над ИИ-проектом, где риски воспринимаются всерьез[574]. Если ваша сфера – медицина или биология, вы можете помочь с рисками, сопряженными с пандемиями искусственного происхождения. Если вы занимаетесь климатом, то можете расширять наши представления о вероятности и последствиях реализации радикальных климатических сценариев. Если ваша работа связана с политологией или международными отношениями, вы можете налаживать международную кооперацию в сфере экзистенциального риска, обеспечивать будущим поколениям право голоса в демократии или предотвращать войны между великими державами. Если вы работаете в правительстве, то можете помочь защитить будущее, повышая стандарты безопасности и создавая новые технологические регламенты.

Возможности не ограничиваются непосредственной работой с экзистенциальным риском. Ваш вклад может подкреплять усилия тех, кто выполняет непосредственную работу. Сегодня многие безотлагательные задачи связаны не с риском как таковым, а скорее со стратегическим планированием, координацией и выделением грантов. Когда человечество начнет ответственно подходить к защите собственного будущего, важно будет распределять ресурсы между проектами и организациями, формирующими и поддерживающими сообщество исследователей и разрабатывающими стратегию. Важно как можно скорее усовершенствовать структуру и расширить полномочия организаций, работающих с экзистенциальным риском. Многие из них ищут квалифицированных людей, действительно понимающих суть необычной миссии. Если у вас есть какие-либо из этих навыков – например, если у вас есть опыт работы в стратегическом планировании, управлении, регулировании, медиа, операционной сфере или административной поддержке, – вы можете присоединиться к одной из организаций, которые в настоящее время занимаются экзистенциальным риском[575].

Если вы студент, у вас есть замечательная свобода маневра – вы можете направить свою карьеру в такое русло, чтобы десятки тысяч часов вашей работы внесли наибольший вклад в общее дело. Даже если вы уже определились со своей стезей или перешли в магистратуру, сменить направление на удивление легко. Чем дальше вы проходите по карьерному пути, тем труднее становится с него свернуть. Но даже в таком случае сменить род занятий порой бывает целесообразно. Возможно, вы потеряете несколько лет на переподготовку, но это позволит вам посвятить в несколько раз больше лет работе в той сфере, где вы принесете гораздо больше пользы. Я знаю это по собственному опыту. Сначала я изучал информатику, но затем перешел к этике. Позднее, уже работая в сфере этики, я лишь недавно переключился с изучения бедности в различных странах мира на исследование совсем других вопросов, связанных с экзистенциальным риском.

Что делать, если ваша профессия не подходит для работы с риском, но у вас не получается ее сменить? В идеале – найти способ превратить деятельность, с которой вы справляетесь лучше всего, в работу, отчаянно необходимую для защиты нашего потенциала. К счастью, такой способ есть: благотворительность. Жертвуя деньги на какое-либо дело, вы фактически превращаете собственный труд в дополнительную работу в соответствующей сфере. Если вам больше подходит ваша профессия, а делу не хватает финансирования, пожертвования могут принести даже больше пользы, чем непосредственная работа.

Я полагаю, что пожертвования – прекрасный способ помочь, который доступен почти каждому, и сам регулярно прибегаю к нему, чтобы отдавать свой долг миру[576]. Часто люди забывают, что к некоторым из величайших достижений человечество привела именно благотворительность.

Противозачаточные таблетки, которые входят в число наиболее революционных изобретений XX века, появились благодаря одному-единственному филантропу. В 1950-х годах, когда государства и фармацевтические компании не видели смысла работать в этом направлении, филантроп Катарина Маккормик практически в одиночку профинансировала исследования, которые привели к созданию первого противозачаточного препарата[577].

Примерно тогда же случился ряд прорывов в агрономии, впоследствии названных “зеленой революцией”, и сотни миллионов человек перестали голодать благодаря выведению высокоурожайных сортов основных сельскохозяйственных культур. Норман Борлоуг, стоявший у истоков этой революции, в 1970 году получил за свои труды Нобелевскую премию мира. Работу Борлоуга и внедрение новых технологий в развивающихся странах финансировали частные благотворители[578].

Наконец, есть и способы, которыми внести свой вклад в общее дело может каждый из нас. Нам необходимо начать общественную дискуссию о долгосрочном будущем человечества: о головокружительных масштабах того, чего мы можем достичь, а также о рисках, которые угрожают всему этому и всем нам.

Нам нужно обсуждать эти вопросы в университетах, в правительстве, в гражданском обществе; размышлять в серьезных художественных произведениях и в медиа; говорить об этом с друзьями и родственниками. В этой дискуссии нельзя поддаваться соблазну делиться на противоборствующие лагеря и проявлять фанатизм, как нельзя и фокусироваться на поиске виновных. Разговор должен быть зрелым, взвешенным и конструктивным: мы должны посвятить его изучению проблем и поиску их решений. Нам нужно вдохновить своих детей и себя самих на тяжелую работу, которая потребуется для защиты будущего и преодоления Пропасти.

Вы можете обсуждать важность будущего с близкими вам людьми. Вы можете взаимодействовать с растущим сообществом единомышленников: в своем городе, на работе, в учебном заведении или в интернете. Вы также можете стремиться быть осведомленным, ответственным и бдительным гражданином, держать руку на пульсе и призывать своих политических представителей к действию, когда представится необходимость.

(Конкретные отправные точки перечислены в разделе “Интернет-ресурсы” на с. 325.)

Чего мы можем достичь? Что пережить? Кем стать? Если человечество преодолеет трудности, возникающие перед ним, разберется с рисками грядущих веков и окажется в безопасности, что с ним будет дальше?

В прошлых главах мы изучили Пропасть, рассмотрели ее вызовы и продумали, как защититься от угроз. Но что ждет нас впереди? Давайте окинем взглядом бескрайний горизонт, который открывается перед нами. Издалека деталей нам не различить, но нам видны очертания холмов и долин, поэтому мы можем понять, какой потенциал скрыт в этом ландшафте – потенциал человеческой цивилизации, достигшей зрелости. Именно потому, что этот потенциал так огромен и прекрасен, ставки экзистенциального риска столь высоки. Оптимизм подчеркивает остроту проблемы.

В этой главе я расскажу о нашем потенциале, не делая пророчеств. Речь пойдет не о том, чего мы обязательно добьемся, но о том, чего мы можем добиться, если правильно разыграем свои карты и будем терпеливы, благоразумны, отзывчивы, честолюбивы и мудры. Я опишу тот холст, на котором мы будем работать: назову время, имеющееся в распоряжении у человечества, опишу масштаб нашего космоса и расскажу, к какому качеству жизни мы в итоге сможем прийти. Эта глава – об очертаниях края, куда мы жаждем попасть и где будет написана основная часть истории человечества.

Сроки

История Homo sapiens насчитывает 200 тысяч лет, а история цивилизации – 10 тысяч лет[580]. Длительность этих отрезков превосходит все, с чем мы сталкиваемся в повседневной жизни. Цивилизация непрерывно существует на протяжении сотни веков, а человечество – на протяжении тысяч. Но Вселенная, в которой мы обитаем, в тысячи раз старше человечества. Она существовала миллиарды лет до нас, и миллиарды лет ждут ее впереди. В нашей Вселенной время не в дефиците.

Поскольку времени у нас предостаточно, продолжительность нашего существования ограничивается главным образом экзистенциальными катастрофами, которые мы стремимся предотвратить. Если мы возьмемся за ум и сделаем защиту человечества краеугольным камнем нашей цивилизации, у нас не будет никаких причин не стать свидетелями того, как история Вселенной разворачивается на протяжении целых эпох. Мысль о таких промежутках времени сбивает с нас спесь, когда мы рассматриваем свое место во Вселенной. Но если подумать о скрытом в них потенциале нашего развития, можно найти в них источник вдохновения.

Как мы убедились, палеонтологическая летопись многое сообщает о том, на какую продолжительность жизни может рассчитывать типичный вид. В среднем млекопитающие существуют около миллиона лет, а виды вообще – от одного до десяти миллионов[581]. Если мы сумеем справиться с угрозами, которые представляем сами себе, то есть с антропогенными экзистенциальными рисками, то нам стоит ожидать, что мы просуществуем примерно столько же. Что это значит? Что может случиться за период, который в десять тысяч раз длиннее нашего века?

Этого времени достаточно, чтобы устранить ущерб, который мы нанесли Земле, пока не достигли зрелости. Через тысячи лет разложатся почти все отходы нашей эпохи. Если мы сможем остановить дальнейшее загрязнение, океаны и леса снова очистятся. За 100 тысяч лет природные системы Земли выведут из нашей атмосферы более 90 % выброшенного нами углерода, и климат будет по большей части восстановлен и заново сбалансирован[582]. Если мы научимся заботиться о своем доме, темные пятна нашего прошлого можно будет стереть в рамках жизни типичного вида, и мы можем надеяться, что большую часть жизни мы проведем в мире, который не будет обезображен шрамами от ран, нанесенных нами в период своей незрелости.

Ожидается, что примерно через десять миллионов лет не останется и следа даже от того урона, который мы нанесли биоразнообразию. Именно столько времени ушло на полное восстановление разнообразия видов после прошлых массовых вымираний, и, по нашим оценкам, столько же понадобится природе, чтобы оправиться от последствий нашей текущей деятельности[583].

Я надеюсь и верю, что мы можем справиться с загрязнением окружающей среды и снижением биоразнообразия гораздо быстрее – что рано или поздно мы примемся активно работать над очисткой среды и сохранением видов, находящихся под угрозой исчезновения. И все же мысль о том, что даже в худшем случае Земля сама сумеет восстановиться после нанесенного ущерба, несет успокоение.

За это время примерно половина земных видов вымрет от естественных причин, и на смену им придут новые виды. Если нам суждено прожить так долго, мы увидим, как эволюция происходит у нас на глазах, и будем считать такую изменчивость естественным состоянием мира. Нам кажется, что виды в природе стабильны, но это лишь потому, что мы ведем наблюдения сравнительно недолго. Тем не менее, если мы посчитаем нужным, мы сможем специально сохранять последних представителей видов, не допуская их естественного вымирания, и помещать их в заповедники и другие места, где виды будут существовать и дальше, став, однако, не столь многочисленными. Это будет сродни скромной пенсии, но такой удел, на мой взгляд, лучше забвения.

Период от одного до десяти миллионов лет – время существования типичного вида, но это ни в коем случае не предел. К тому же человечество во многих смыслах нетипично. Возможно, мы просуществуем гораздо меньше, если уничтожим себя сами. Но если мы избежим этого, то, вероятно, сможем прожить гораздо дольше. Мы расселились по всему земному шару, и это защищает нас от любой региональной катастрофы. Благодаря своей изобретательности мы научились питаться сотнями растений и животных, что оберегает нас от разрыва пищевой цепи. Способность размышлять о собственной гибели – готовиться к нештатным ситуациям, противодействовать угрозам по мере их возникновения – помогает нам защищаться от предсказуемых опасностей и рисков, которые наступают постепенно.

Многие виды оказались не полностью уничтожены, а уступили место своим родственникам и потомкам на эволюционном родословном древе. С нами может случиться так же. С точки зрения нашего наследия – того, что мы оставим будущему, – гибель нашего вида, возможно, не положит конец нам, нашим проектам и нашим стремлениям. Возможно, мы просто передадим эстафетную палочку дальше.

В таком случае человечество (или наши законные наследники) может намного пережить типичный вид. Сколько же у нас времени?

Мы знаем, что некоторые виды существуют сотни миллионов лет и почти не изменились за это время. В 1839 году швейцарский биолог впервые описал и присвоил имя целакантовым – древнему отряду рыб, которые появились 400 млн лет назад и исчезли из палеонтологической летописи вместе с динозаврами, 65 млн лет назад. Считалось, что целакантовые давно вымерли, но 99 лет спустя рыбак у побережья ЮАР поймал в свою сеть одну рыбу из этого отряда. Оказалось, что целакантовые по-прежнему живут в земных океанах, а их вид остался почти неизменным. Это древнейшие из известных позвоночных организмов, которые по-прежнему живут на Земле и существуют более двух третей от всего времени с момента появления позвоночных[584].

Есть и более древние виды. Мечехвост бороздит океаны еще дольше, и его родословная насчитывает 450 млн лет. Наутилус существует 500 млн лет, губки – около 580 млн лет. И это лишь нижние пределы продолжительности их жизни – как знать, сколько еще протянут эти крепкие виды? Древнейшим из известных видов земных организмов считаются цианобактерии (сине-зеленые водоросли), которым не менее двух миллиардов лет – гораздо больше, чем существует сложная жизнь, и более половины времени, прошедшего с момента зарождения жизни на Земле в целом[585].

Что увидит человечество, если мы (или наши потомки) проживем не меньше, чем скромный меченосец?

Такая продолжительность жизни выведет нас на геологическую шкалу времени. Мы увидим, как континентальный дрейф изменит привычные нам очертания земной поверхности. Первый значительный сдвиг произойдет примерно через 10 млн лет, когда Африка разделится надвое вдоль колыбели человечества – Восточно-Африканской рифтовой долины. Через 50 млн лет крупнейшая из двух африканских плит столкнется с Европой, после чего закроется средиземноморский бассейн и вырастет новая протяженная горная цепь. Примерно за 250 млн лет все наши континенты снова сойдутся и сформируют суперконтинент наподобие Пангеи, существовавшей 200 млн лет назад. За 500 млн лет они разойдутся и создадут новую незнакомую конфигурацию[586]. Если это кажется немыслимым, вспомните, что одна такая перемена уже произошла на памяти меченосца.

За такое время произойдут и перемены астрономических масштабов. Созвездия станут неузнаваемыми, поскольку ближайшие звезды разойдутся друг с другом[587]. За 200 млн лет притяжение Луны замедлит вращение Земли, в результате чего наши сутки увеличатся до 25 часов. Земле достаточно одного года, чтобы обернуться вокруг Солнца, а через 240 млн лет наше Солнце завершит оборот вокруг центра нашей галактики – закончится период, называемый галактическим годом.

Но самой важной астрономической переменой станет эволюция самого Солнца. Наша звезда пребывает в среднем возрасте. Она сформировалась около 4,6 млрд лет назад и становилась все ярче на протяжении большей части своего существования. В конце концов у Земли возникнут серьезные проблемы из-за его нарастающей яркости. Астрономическая эволюция хорошо изучена, однако, поскольку наиболее значимые аспекты ее воздействия на нашу биосферу беспрецедентны, ученым еще многое неясно.

Часто можно услышать, что Земля будет пригодной для жизни еще один-два миллиарда лет. Эта оценка основывается на прогнозируемом времени испарения океанов при возникновении бесконтрольного или влажного парникового эффекта из-за растущей яркости Солнца. Однако Земля может стать непригодной для сложной жизни и раньше: либо на более раннем этапе потепления, либо под действием другого механизма. Например, ученые ожидают, что увеличение яркости Солнца также замедлит движение земных тектонических плит и снизит вулканическую активность. Знакомая нам жизнь нуждается в такой активности, ведь вулканы поднимают в атмосферу незаменимый углекислый газ. Сейчас у нас слишком много углекислого газа, но небольшое его количество необходимо растениям для фотосинтеза. По оценкам ученых, в отсутствие углекислого газа из вулканов примерно через 800 млн лет 97 % растений лишатся способности к фотосинтезу, что вызовет катастрофическое массовое вымирание. Еще через 500 млн лет углекислого газа станет так мало, что погибнут и оставшиеся растения, а вместе с ними и вся многоклеточная жизнь[588].

Может быть, этого и не случится. А может быть, это не случится в обозначенное время. В этой сфере наука не дает однозначных ответов, отчасти потому, что мало кто изучал соответствующие вопросы. Но главное, что такого массового вымирания, вероятно, можно избежать, причем силами человечества. Это даже может стать одним из величайших человеческих достижений, к которому есть смысл стремиться. Из бесчисленного множества видов, населяющих Землю, лишь мы в силах спасти биосферу от воздействия разгорающегося Солнца. Даже если в вашей картине мира человечество занимает очень скромное положение, а большая часть внутренней ценности мира приходится на остальные элементы нашей экосистемы, инструментальная ценность человечества может оказаться колоссальной. Дело в том, что если мы сумеем продержаться достаточно долго, то у нас появится шанс в буквальном смысле спасти мир.

Добавляя в атмосферу достаточный дополнительный объем углекислого газа, чтобы поддерживать его концентрацию на неизменном уровне, мы можем предотвратить конец фотосинтеза. Или же мы найдем способ заблокировать одну десятую часть поступающего на планету света (например, собирая солнечную энергию) и сумеем избежать не только этого, но и других эффектов повышения яркости Солнца, например излишнего потепления климата и испарения океанов[589]. Возможно, проявив смекалку и ответственность, мы сможем на миллиарды лет увеличить время, отведенное на существование сложной жизни на Земле, и таким образом более чем искупить грехи безрассудной юности нашей цивилизации. Я не знаю, добьемся ли мы этого, но это достойная цель и ключевой элемент нашего потенциала.

Через 7,6 млрд лет Солнце станет таким огромным, что выйдет за пределы земной орбиты и либо поглотит нашу планету, либо оттолкнет ее гораздо дальше. В любом случае через 8 млрд лет само Солнце умрет. Его внешние слои разлетятся между планетами, сформировав призрачные планетарные туманности, а внутренние схлопнутся в шар размером с Землю. В этом крошечном остатке звезды будет содержаться примерно половина изначальной массы Солнца, но новой энергии он больше никогда не произведет. Он станет просто медленно остывающим угольком[590].

Даже если Земля не будет уничтожена в описанном процессе, в отсутствие Солнца в центре Солнечной системы человечеству придется искать счастья в других местах. Предположительно, в технологическом отношении нам будет легче покинуть родную систему, чем остаться в ней.

Рисунок 8.1. Хронология, показывающая масштабы прошлого и будущего. В верхнем ряду показан прошлый век (на странице слева) и грядущий век (справа), и наше время находится посередине. В каждом следующем ряду масштаб увеличивается, а сроки становятся в 100 раз больше, пока перед нами не оказывается вся история Вселенной.

Отправившись к другим звездам, мы, возможно, спасем не только себя, но и значительную часть нашей биосферы. Мы можем взять с собой запас семян и клеток, чтобы сохранить земные виды и озеленить галактические пустоши. В таком случае благо, которое мы можем принести земной жизни, станет поистине великим. Без нашего вмешательства наша биосфера вступает в средний возраст. У простейших организмов, судя по всему, впереди примерно столько же времени, сколько и позади; у сложной жизни – немного больше. После этого, насколько нам известно, жизнь во Вселенной может полностью исчезнуть. Но если человечество выживет, то даже в этом отдаленном будущем жизнь, возможно, останется в зачаточном состоянии. Когда я раздумываю, сколько может просуществовать земная жизнь, то понимаю, что сильнее всего ее продолжительность возрастет, если человечество перестанет ее уничтожать и превратится в ее спасителя.

Как мы увидим, главная сложность на пути к тому, чтобы покинуть Солнечную систему, сопряжена с необходимостью прожить достаточно долго. Нам нужно время, чтобы разработать технологии, накопить энергию, совершить перелет и построить новый дом в конечном пункте. Но у цивилизации, существующей миллионы веков, времени будет достаточно, поэтому нас не должна пугать эта задача.

Наша галактика останется пригодной для жизни на почти непостижимое время. Некоторые из ближайших звезд будут светиться гораздо дольше Солнца, кроме того, ежегодно появляется по десять новых звезд. Отдельные звезды существуют триллионы лет – в тысячи раз дольше Солнца. И миллионам поколений таких звезд еще только предстоит родиться[591]. Это огромное время. Если наша жизнь растянется в таких космологических масштабах, будет казаться, что текущая эпоха наступила поразительно скоро после возникновения Вселенной. Нам неизвестно ничего, что сделало бы такую продолжительность жизни невозможной или хотя бы нереалистичной. Нам нужно только навести порядок в своих делах.

Масштабы

Люди во все времена восхищались звездным небом[592]. Это темное небо, усыпанное искрящимися белыми точками, раскрыло нам немало секретов. Ими оказались не тайны, связанные с мифами и мистикой, которые будоражили наше воображение вначале, а глубокие знания о природе реальности. Мы наблюдали за тем, как некоторые из этих огоньков перемещаются по небу, и траектории их движения помогли нам понять, что Земля и небеса подчиняются одним физическим законам. Другие огоньки двигались на крошечные расстояния, измеримые лишь самыми точными инструментами. По этому почти неразличимому движению мы рассчитали практически невообразимое расстояние до звезд.

Огоньки были не совсем белыми, а разных оттенков. Когда мы разложили этот слабый звездный свет через призму, недостающие цвета показали нам, из чего состоят звезды. Некоторые огоньки были даже не точками, а дисками, облаками, завихрениями – небесными телами совсем других типов и другого происхождения. Мы обнаружили и множество бледных точек, которые было не различить невооруженным глазом. По этим мельчайшим признакам мы вывели фундаментальные законы природы и проверили их, мы услышали эхо Большого взрыва, мы увидели, как расширяется пространство.

Но, пожалуй, самым важным, что мы узнали у неба, стало то, что наша Вселенная гораздо больше, чем мы могли представить. Планеты – это другие земли. Звезды – другие солнца, многие с собственными планетами. В млечной полосе на небе больше солнц, чем различимо глазом: более 100 миллиардов солнц из этой галактики сливаются в наших глазах в единую белую массу. Бледные завихрения – это целые галактики, и по небу их раскидано сотни миллиардов[593]. Всякий раз, когда нам казалось, что мы изучили пределы творения, оно выходило за пределы наших карт. Наша Земля – лишь островок в обескураживающе огромном архипелаге, одном из миллиардов подобных.

Открытие истинных масштабов нашего космоса существенно расширяет потенциал человечества. Когда-то мы полагали, что привязаны к Земле, но теперь понимаем, что у нас гораздо больше возможностей и ресурсов. Мы, конечно, получим к ним доступ не сразу: на изучение всей нашей галактики уйдет не менее 100 тысяч лет, а достичь самых дальних уголков Вселенной мы сумеем лишь по прошествии миллиардов лет, – но нельзя не задаться вопросом о том, чего мы можем добиться за такое огромное время.

Всего за пять столетий мы пришли от смутного представления об устройстве Солнечной системы, когда у нас не получалось даже достойно изобразить Солнце, Луну, Землю и блуждающие огоньки, называемые “планетами”, к поразительно четким снимкам всех планет с их спутниками. Мы отправили в космос блестящие корабли, которые прошли между лунами Юпитера, пролетели сквозь кольца Сатурна и добрались до поверхности всех планет земной группы. На Луну мы высадились лично.

Планеты с их спутниками – гордость Солнечной системы: величественные, загадочные. Теоретически мы могли бы колонизировать их, но даже если мы преодолеем ужасные трудности, совокупная площадь поверхности всех остальных твердых планет и спутников превышает земную лишь чуть более чем в два раза[594]. Это будет захватывающим и смелым предприятием, но наш потенциал радикально не возрастет, а наша история не претерпит кардинальных изменений. Мы можем попробовать использовать их материальные ресурсы, но ресурсов на обозримое будущее достаточно на миллионах известных астероидов, в то время как в отдаленном будущем ресурсами нас обеспечат миллиарды планет, которые, как теперь известно, существуют в других уголках нашей галактики. Главная причина для колонизации других планет – обеспечение дополнительной защиты от экзистенциальных рисков, но это не так надежно, как можно подумать, поскольку некоторые риски окажутся в корреляции между планетами. Возможно, мы оставим собственные планеты нетронутыми, как памятники, как сокровища. Чтобы исследовать их и беречь. Чтобы черпать в них вдохновение для дальнейших путешествий.

Главный вклад Солнечной системы в наш потенциал – это наше Солнце и колоссальный объем чистой энергии, который оно предлагает. В солнечном свете, ежедневно падающем на поверхность Земли, содержится в пять тысяч раз больше энергии, чем требуется современной цивилизации. За два часа на планету попадает столько энергии, сколько мы используем за год. Благодаря обилию солнца появилось большинство остальных наших источников энергии (уголь, нефть, природный газ, ветер, вода, биомасса), но солнечной энергии гораздо больше[595].

Вот только она в массе своей растрачивается впустую. Солнечный свет не падает на листья и солнечные панели, а уходит в черноту космоса. Земля перехватывает менее одной миллиардной его доли, а все тела в нашей Солнечной системе в совокупности получают менее одной миллионной солнечного света.

В будущем мы могли бы собирать эту энергию, построив солнечные коллекторы на орбите вокруг Солнца. Такой проект прекрасно поддается масштабированию[596]. Мы могли бы начать с малого и доступного, а затем, используя часть полученной энергии, выйти на любой желаемый уровень. В одном поясе астероидов более чем достаточно сырья для осуществления такого проекта[597]. В конце концов мы бы увеличили количество доступной нам чистой энергии даже в миллиард раз только за счет света, который иначе растрачивался бы зря. Кроме того, с помощью такой структуры можно было бы контролировать растущую яркость Солнца и создавать тень, благодаря которой сложная жизнь на Земле могла бы просуществовать в десять раз дольше.

Выбрав этот путь, мы получили бы доступ к огромному объему чистой энергии. У нас пропала бы нужда в источниках грязной энергии[598] и решились бы многие проблемы, связанные с энергетическим дефицитом, например производство продовольствия, очистка воды и конфликты из-за нефти. Мы бы быстро очистили атмосферу от прошлых углеродных выбросов, используя установки для очистки воздуха, число которых сегодня ограничено из-за недостатка дешевой и чистой энергии. Кроме того, сбор солнечной энергии открыл бы нам дверь к звездам.

Можем ли мы и вправду преодолеть гигантские расстояния до звезд? В некоторых отношениях ответ на этот вопрос уже получен. Завершив свои миссии среди планет, зонды “Пионер-10”, “Вояджер-1” и “Вояджер-2” преодолели притяжение Солнечной системы и вышли за ее пределы. В конце концов они доберутся до ближайших к нам звезд, и это доказывает, что мы можем покрывать такие расстояния даже с использованием технологий, разработанных в 1970-е годы. Но одного этого недостаточно, чтобы сильно расширить наш потенциал, поскольку “Вояджер-1” достигнет ближайшей к нам звезды лишь через 70 тысяч лет, причем прекратит функционировать задолго до этого[599].

Сейчас разрабатываются более совершенные технологии. В рамках проекта Breakthrough Starshot, о запуске которого было объявлено в 2016 году, планируется отправить флот небольших беспилотных космических кораблей к альфе Центавра, находящейся от нас в четырех световых годах. Корабли полетят к ней со скоростью, равной примерно одной пятой скорости света. Если проект пойдет как задумано, запуск может состояться уже в 2036 году[600].

Чтобы действительно расширить наш потенциал, нужно, чтобы космический корабль добрался до другой звезды, остановился и пустил местные ресурсы на постройку колонии, которая могла бы превратиться в новый бастион цивилизации[601]. В таком путешествии необходимо пройти четыре сложных фазы: ускориться, пережить перелет, затормозить и основать базу. Эти фазы взаимосвязаны. Роботизированные миссии облегчают путешествие, но затрудняют постройку базы (по крайней мере пока). В быстрых миссиях пережить перелет легче, но ускорение и торможение требуют гораздо большего объема энергии и использования более совершенных технологий.

На текущем уровне нашего технологического развития эти требования невыполнимы, и не стоит ждать появления нужных технологий в ближайшие несколько десятков лет. Но никаких непреодолимых барьеров на пути к их созданию мы пока не обнаружили, а технологический прогресс идет быстро. На мой взгляд, самое сложное – прожить на Земле еще столетие-другое, пока не появятся нужные технологии.

Хотя к межзвездным полетам часто относятся скептически, при ближайшем рассмотрении оказывается, что сомнения вызывает либо возможность путешествовать на такие расстояния в обозримом будущем, либо возможность летать, не прилагая усилий, как в фильмах вроде “Звездных войн” и “Звездного пути”, где люди запросто перемещаются среди звезд с относительным комфортом. Я разделяю этот скепсис. Но расширение человеческого потенциала не требует ничего подобного. Хватит и того, чтобы мы прожили достаточно долго и приложили достаточно усилий, чтобы в конце концов добраться до соседней звезды, основать там базу и построить новую процветающую колонию, откуда мы сможем отправиться дальше.

Размышляя о космических путешествиях, мы должны представлять не комфортные и легкие прогулки на океанском лайнере, а смелые вылазки находчивых и стойких полинезийских моряков, которые тысячу лет назад преодолели огромные расстояния в Тихом океане, нашли раскиданные по нему острова и завершили последний этап заселения Земли. Если смотреть на вещи под таким углом – и видеть в них огромный вызов для человечества, – мне думается, что мы сможем колонизировать ближайшие к нам звезды, если сумеем продержаться на Земле достаточно долго.

Что ждет нас по прибытии? Есть ли в нашей Вселенной другие миры, где зародилась простейшая жизнь? А сложная жизнь? А инопланетные цивилизации? Или же нам суждено увидеть лишь безжизненные пустыни, ожидающие искру жизни, принести которую можем только мы? Может, жизнь проста и вездесуща? Или же путь от безжизненной планеты к появлению обладающих самосознанием наблюдателей предполагает крайне маловероятные шаги? Одни ли мы в своей звездной области? В своей галактике? В наблюдаемой Вселенной?[602]

Чувствительность наших инструментов непрерывно растет, однако пока они не выявили никаких признаков жизни за пределами Земли: ни химических сигнатур, ни радиосигналов, ни следов масштабных инженерных сооружений, ни визитов в наши края. Но поиски инопланетной жизни только начинаются, и мы вполне можем не заметить в объективе телескопа цивилизацию вроде нашей, даже если она живет на расстоянии не более 100 световых лет от Земли. Правда в том, что мы пока не знаем, существует ли другая жизнь во Вселенной, и, вероятно, в этом веке узнать об этом нам не суждено. В своем обзоре нашего потенциала я исхожу из предположения, что мы одни во Вселенной. Но если мы обнаружим другую жизнь – и особенно если она окажется разумной, – наше будущее может в корне измениться[603]. Возможно, именно расстояние до наших ближайших разумных соседей, а не предел возможностей наших космических кораблей определяет масштаб того, чего мы сможем достичь в небесах.

Наша звездная область – это случайным образом организованная россыпь звезд, которая более или менее равномерно простирается во всех направлениях. При увеличении масштаба принцип их распределения сохраняется, пока у нас на виду не оказываются 15 млн звезд, находящихся в пределах 1000 световых лет от Земли. Только в таком огромном масштабе появляются признаки общей структуры нашей галактики. Выше и ниже галактических дисков звезды расположены реже, а если еще сильнее увеличить масштаб, то покажется изгиб рукава Ориона, где находится наше Солнце, после чего возникнут очертания других рукавов и светящаяся выпуклость в центре галактики. Наконец, мы увидим знакомый вихрь своей спиральной галактики диаметром 150 тысяч световых лет, где находится более 100 млрд звезд, по большей части со своими планетами.

Но если мы сумеем добраться хотя бы до одной соседней звезды и основать там поселение, нам откроется вся галактика. Ведь потом процесс можно будет повторить, используя ресурсы новой колонии для постройки космических кораблей, работающих на солнечной энергии. Если мы найдем способ перемещаться всего на шесть световых лет за раз, почти все звезды в нашей галактике окажутся в пределах досягаемости[604]. Каждой звездной системе, включая нашу, нужно будет колонизировать лишь несколько ближайших звезд, и вся галактика в итоге наполнится жизнью[605].

Поскольку решающее расстояние в шесть световых лет лишь немногим больше, чем дистанция до ближайшей к нам звезды, если у нас появится возможность добираться до отдельных звезд, то наверняка появится и шанс в дальнейшем исследовать всю галактику. И поскольку новые поселения могут возникать во всех направлениях, мы сумеем обжить галактику относительно быстро по меркам известной нам истории жизни. Даже если скорость нашего космического корабля не превысит 1 % от скорости света, а на основание нового поселения потребуется 1000 лет, вся галактика может быть колонизирована за 100 млн лет – задолго до того, как Земля станет непригодной для жизни. Когда процесс начнется, его не смогут остановить ни локальные происшествия, ни допущенные просчеты, ни естественные препятствия.

Нашу галактику окружает облако примерно из пятидесяти соседних галактик, называемое местной группой. На первом плане среди них находится красивая спиральная галактика Андромеды – единственная в нашей группе, превосходящая по размерам нашу. Под действием гравитации две галактики сближаются друг с другом, и через четыре миллиарда лет (до смерти Солнца) они столкнутся и объединятся. Поскольку звезды в каждой из галактик находятся на огромном расстоянии друг от друга, это столкновение почти не скажется на положении звезд и их планет. Главным образом оно разрушит сложные спиральные структуры галактик и, вероятно, объединит их в единую эллиптическую галактику, которая окажется примерно втрое больше любой из них. В конце концов (через сотни миллиардов лет) все остальные галактики нашей группы тоже сольются и сформируют единую гигантскую галактику[606].

Если снова увеличить масштаб, мы увидим многие другие группы, часть из которых включает в себя до тысячи галактик[607]. В конце концов эти группы превратятся в более крупную структуру – космическую сеть, состоящую из длинных толстых волокон, называемых нитями. Эти нити пересекают пространство, формируя трехмерную сеть, словно кто-то отметил в космосе случайные точки и соединил каждую из них с несколькими ближайшими соседями. На пересечении нитей космос светится, полный галактик[608]. Между нитями находятся темные пустые пространства, называемые космическими пустотами, или войдами. Насколько мы можем судить, космическая сеть бесконечна. По крайней мере, она есть везде, где мы видим и куда можем добраться.

Именно эти пределы наших знаний и действий определяют конечный масштаб нашей Вселенной. Нам уже почти сто лет известно, что Вселенная расширяется, в результате чего группы галактик расходятся в разные стороны. Двадцать лет назад мы узнали, что расширение Вселенной ускоряется. Космологи полагают, что это устанавливает жесткий предел того, что мы когда-либо сможем увидеть и на что когда-либо сможем повлиять[609].

В настоящее время мы видим вокруг себя сферу, которая простирается на 46 млрд световых лет во всех направлениях. Она называется наблюдаемой Вселенной. Свет галактик, находящихся за пределами этой сферы, еще не успел до нас дойти[610]. Через год мы увидим чуть больше. Радиус наблюдаемой Вселенной увеличится на один световой год, и нам покажутся еще примерно 25 галактик. Но в соответствии с господствующей сегодня космологической теорией темпы появления новых галактик в зоне видимости будут снижаться и галактики, которые сейчас находятся на расстоянии более 63 млрд световых лет от нас, никогда не будут видны с Земли. Регион в пределах этого радиуса можно назвать окончательно наблюдаемой Вселенной[611].

Но гораздо важнее, что ускорение расширения Вселенной устанавливает пределы того, на что мы когда-либо сможем повлиять. Если сегодня направить в космос луч света, он может достичь любой галактики, которая в настоящий момент находится не более чем в 16 млрд световых лет от нас. Но галактики, которые находятся дальше, утягиваются прочь так быстро, что ни свет, ни любой другой сигнал с Земли никогда до них не дойдет[612].

Через год эта влияемая Вселенная сожмется на один световой год. Еще три галактики навсегда выйдут из сферы нашего влияния[613]. В конце концов пространства между группами галактик станут так велики, что ничто больше не сможет их преодолеть и каждая группа галактик останется в одиночестве в пустоте, навсегда изолированная от остальных. Это разделит время на две базовые эпохи: в эпоху связи достижимы будут миллиарды галактик, а в эпоху изоляции – в миллион раз меньше. Как ни удивительно, эта коренная перемена в причинной структуре Вселенной должна произойти гораздо раньше, чем погаснут звезды, примерно через 150 млрд лет. Ближайшая к нам звезда проксима Центавра к тому времени не проживет и десятой доли своей жизни.

Итак, 16 млрд световых лет представляются максимальным расстоянием, на которое может продвинуться человечество, а 150 млрд лет – максимальным временем, выделенным на это. Я не знаю, станут ли межгалактические путешествия реальностью. Их можно осуществлять по тому же принципу, что и межзвездные полеты: продвигаться все дальше и дальше, от одной галактики к другой, но расстояния в этом случае в миллион раз больше, и это сопряжено с особыми трудностями[614]. И все же пока мы не знаем никаких фундаментальных физических препятствий, которые не позволили бы цивилизации, уже изучившей собственную галактику, сделать следующий шаг. (См. Приложение G, где подробнее говорится о том, каких масштабов может достичь цивилизация.)

Всего существует 20 млрд галактик, до которых теоретически могли бы добраться наши потомки. Семь восьмых из них находятся более чем на полпути к границе влияемой Вселенной – так далеко, что если мы долетим до них, то уже никогда не сможем отправить сигнал на Землю. Следовательно, расселившись в этих далеких галактиках, мы сформируем последнюю диаспору, а каждая группа галактик станет отдельным царством, которое вскоре окажется изолированным от остальных. Эта изоляция не подразумевает одиночества – в каждую группу войдут сотни миллиардов звезд, – но может принести свободу. Отдельные колонии могут быть частью общего проекта и подчиняться одной конституции, а могут оставаться независимыми и самостоятельно выбирать свой путь.

Поскольку каждый год из сферы нашего влияния пропадают целые галактики, можно подумать, что промедление недопустимо – человечеству нужно как можно скорее разработать технологии для межгалактических полетов. Но относительная скорость ежегодных потерь довольно мала – примерно одна часть на пять миллиардов, – а важно именно относительное снижение нашего потенциала[615].

В текущем контексте особенно ценны благоразумие и мудрость, поэтому осторожность сегодня важнее спешки. Если бы в стремлении разработать эти технологии на столетие раньше мы снизили собственные шансы на выживание даже на одну часть из 50 миллионов, это оказалось бы нецелесообразно. И еще много лет дополнительное столетие, в которое мы сможем поразмыслить о том, что делать с нашим будущим, прежде чем принять окончательное решение, вероятно самое важное в истории человечества, будет обладать большей ценностью, чем расширение пределов достижимой Вселенной всего на одну часть из 50 миллионов. Следовательно, лучше всего делать ставку на вдумчивость и предусмотрительность, соразмеряя степень своей осторожности с медленным ходом часов космологического расширения[616].

Это кажется нереальным. Как правило, в повседневных размышлениях и даже при более глубоком анализе наших перспектив и нашего потенциала мы, оглядываясь вокруг, видим лишь Землю. Мы редко поднимаем глаза к небесам и звездам, мерцающим в ночи. Если нас спросить с пристрастием, мы признаем, что планеты, звезды и галактики реальны, но мы редко ощущаем это и не рассматриваем их как важный элемент нашего будущего потенциала.

Со всей серьезностью к звездам подходил Фрэнк Рамсей, блестящий экономист и философ, карьера которого оборвалась, когда он умер в возрасте всего 26 лет в 1930 году. Он придерживался стратегии героического неповиновения:

В этом есть доля правды. Особенными, выдающимися и достойными защиты нас делает нечто трудноуловимое: материя, из которой мы состоим, так аккуратно скомпонована, что у нас есть способность думать, любить, творить и мечтать.

Прямо сейчас нам кажется, что остальная Вселенная лишена таких качеств. Рамсей, возможно, прав, что по ценности звезды сравнимы с трехпенсовыми монетами. Но если мы отправимся дальше и оживим бесчисленные миры, наполнив их любовью и мыслью, то даже по критериям Рамсея космос станет полноценным и достойным восхищения. Поскольку одни мы, похоже, в состоянии сделать Вселенную полноценной в этом смысле, мы можем обладать огромной инструментальной ценностью, что помещает нас в центр такого представления о космосе. В этом отношении наш потенциал взаимосвязан с потенциалом, заключенным в самих масштабах нашей Вселенной.

Качество

Мы увидели, что будущее – это огромный холст, который простирается далеко во времени и пространстве. От того, что мы напишем на нем, зависит, насколько он будет красив. Триллионы лет и миллиарды галактик мало чего стоят, если не превратить их в нечто ценное. Но и здесь у нас есть повод для огромного оптимизма. Дело в том, что потенциальное качество нашего будущего также невообразимо высоко.

Как мы узнали, сегодня люди в целом живут гораздо лучше, чем когда-либо раньше. Болезни, голод и столкновения друг с другом пугают нас меньше, чем наших предков. Мы победили полиомиелит и оспу. Мы создали вакцины, антибиотики и анестетики. Люди сегодня реже, чем когда-либо в истории цивилизации, живут в рабстве и нищете, страдают от голода, подвергаются пыткам, получают увечья и становятся жертвами убийств. Мы более свободны в выборе возлюбленных, убеждений, лидеров и жизненного пути. Многим из наших детей открыты возможности, поразившие бы наших предков, – возможности учиться, играть и экспериментировать, путешествовать, читать величайшие романы, стихи и философские трактаты; слушать музыку, любоваться видами и ощущать вкусы, разнообразия которых хватит на целую жизнь; а еще познавать о космосе такие истины, которые не были известны даже самым образованным из наших предков.

И все же человеческая жизнь, при всех ее радостях, может стать гораздо лучше, чем сегодня. Мы сильно преуспели в борьбе с насилием и болезнями, но нам есть куда расти, ведь многие жизни по-прежнему ломаются и обрываются слишком рано. Благодаря разработке анестетиков и обезболивающих мы стали значительно меньше страдать от сильной физической боли, но ненужных мучений в нашей жизни все равно немало. Мы прошли большой путь, спасая людей от абсолютной нищеты, но десятая доля населения по-прежнему влачит жалкое существование. И мы еще очень далеки от избавления от относительной бедности, тяжелой депрессии, расизма и сексизма.

Многие из самых страшных проявлений несправедливости по отношению к другим людям остались в прошлом. Хотя порой бывает сложно сказать, улучшается или ухудшается ситуация от года к году, в масштабе столетий становится очевидно, что преследований и нетерпимости становится все меньше, а личных свобод и политического равенства – все больше. И все же даже в самых прогрессивных странах мы пока далеки от идеала, а некоторые регионы и вовсе только начинают свой путь.

Кроме того, миллиарды животных становятся жертвами несправедливого обращения в современной мясной промышленности, а также в природе. Нас лишь недавно стала заботить судьба животных и окружающей среды, которым наша промышленность в XX веке нанесла серьезный ущерб. И все-таки мы уже чаще замечаем урон, который причиняем, и начали борьбу с этими новыми формами несправедливости.

Мы должны прекратить пагубно воздействовать на мир. И нам это под силу – если, конечно, мы выживем. Сталкиваясь с преследованиями и работая в условиях неопределенности, благороднейшие из наших предков старались построить лучший и более справедливый мир. Если мы поступим так же – и дадим шанс поступить так и своим потомкам, – то расширение знаний, появление новых изобретений, укрепление сотрудничества и рост изобилия позволят нам приблизиться к реализации отчаянной надежды, пронизывающей многие аспекты человеческой жизни: надежды покончить с пороками нашего мира и построить поистине справедливое и гуманное общество.

Но даже такие огромные достижения, возможно, станут лишь этапом на пути к тому, что нас ждет впереди. Полный потенциал нашего процветания и вовсе невообразим.

Вспомните периоды, когда вы были поистине счастливы. Годы, месяцы и дни, когда у вас получалось абсолютно все и вы понимали, насколько богаче и лучше может стать ваша жизнь. У меня последним таким периодом стали две недели после рождения моего ребенка: я делился радостью с друзьями, шел по новому пути вместе с женой, по-новому узнавал своих родителей и гордился тем, что стал отцом.

Вспомните лучшие моменты своей жизни. Отдельные мгновения, когда вы чувствуете себя особенно хорошо, когда вас переполняет восторг, любовь или чувство прекрасного. На текущем этапе моей жизни это в основном моменты общения с моей дочерью. Стоит ей увидеть, как я вхожу в детскую, как у нее загораются глаза, она мчится ко мне сломя голову и крепко-крепко обнимает. Подумайте, во сколько раз такие мгновения лучше обычных переживаний вашего дня. У меня дни проходят совсем неплохо, но я бы обменял сотни, может, даже тысячи обычных моментов на лучшие.

Большинство ярких впечатлений меркнет слишком быстро. Мир успокаивается, мы возвращаемся к рутине, наши воспоминания затуманиваются. Но, достаточно повидав, мы понимаем, что жизнь способна предложить нам нечто гораздо большее и гораздо более яркое, чем стандартный набор. Если человечество выживет, возможно, однажды мы научимся подключаться к источнику этой живительной силы, стряхивать с себя пыль и поселиться среди красот нашего мира. Оставаться на такой высоте может быть непросто. Возможно, нам придется перестроить свою психологию, а заниматься этим нужно осторожно. Но теоретически на нашем пути нет никаких преград, и многое, напротив, подталкивает нас к дальнейшим исследованиям.

Лучшие моменты – это не просто потенциальные счастливые воспоминания. Они также дают представление о тех переживаниях и образе мыслей, которые нам пока недоступны. Подумайте, например, как мало мы знаем о том, каким щегол видит ультрафиолетовое излучение, как летучая мышь или дельфин воспринимают эхолокацию, как лисица или почтовый голубь ощущают магнитное поле Земли. Эти неизведанные впечатления наполняют умы, которые устроены гораздо проще вашего. Какие же впечатления, возможно огромной ценности, могут быть доступны более совершенному разуму? Мыши почти ничего не знают о музыке, искусстве и юморе. В каких сферах мы оказываемся не более сведущи, чем мыши? Каких красот мы просто не замечаем?[618]

Нашим потомкам будет гораздо проще ответить на эти вопросы. По крайней мере, они наверняка смогут развить и расширить человеческие возможности – умение сопереживать, интеллект, память, концентрацию, воображение. Благодаря этому, возможно, появятся совершенно новые формы человеческой культуры и познания: новые игры, танцы, истории, новые взаимодействия мыслей и эмоций, новые формы искусства. У нас будут миллионы – а может, миллиарды и триллионы – лет, чтобы продвинуться гораздо дальше и исследовать самые дальние рубежи того, что вообще можно познать, почувствовать, создать и понять.

В этом отношении возможное качество нашего будущего сопоставимо с его возможными продолжительностью и масштабом. Мы увидели, что человеческая цивилизация опробовала лишь малую долю из того, что возможно во времени и пространстве. В каждом из этих измерений мы можем увеличить масштаб до головокружительного уровня, и тогда нам предстанут едва поддающиеся воображению просторы, которые ждут первооткрывателей и исследователей. Такие масштабы знакомы современной науке. Наши дети очень рано узнают, что житейский опыт знакомит нас лишь с крошечной частью материального мира.

Менее распространена, но ничуть не менее важна идея о том, что пространство возможного опыта и образа жизни, а также уровень процветания, доступный в зависимости от них, может быть не менее огромным и что обычная жизнь дает нам представление лишь о сравнимо ничтожной их части. В этом смысле исследование процветания на текущем этапе истории может быть сродни астрономии до изобретения телескопа: когда видно немногое, легко подумать, что Вселенная невелика и ориентирована на человечество. И все же было бы странно, если бы этот единственный вид приматов, который эволюция наделила ограниченным набором сенсорных и когнитивных способностей, всего через несколько тысяч лет существования цивилизации приблизился к максимально возможному качеству жизни. На мой взгляд, гораздо вероятнее, что мы только начинаем свое восхождение.

Скорее всего, реализовав свой потенциал и придя к истинному процветанию, мы уже не будем такими, как сегодня. Не забывайте, что эволюция не остановилась на человеке. Существовало много видов рода Homo, и можно ожидать, что за 1–2 млн лет мы постепенно станем другим видом в сравнении с сегодняшним Homo sapiens. Это в конце концов случится, если мы никак этому не помешаем. Генетические технологии нашего века предоставят нам инструменты, чтобы трансформироваться гораздо быстрее, если мы того захотим. На горизонте маячат и другие пути трансформации, например импланты для цифрового расширения нашего ума и разработки в сфере искусственного интеллекта, позволяющие нам создавать совершенно новые типы существ, которые присоединятся к нам или придут нам на смену.

Такая трансформация сопряжена с серьезными рисками: могут возникнуть неравенство и несправедливость, единое человечество может расколоться на части, а непредвиденные последствия могут сказываться на нас на протяжении огромного времени. Некоторые из этих рисков экзистенциальные. Если мы заменим себя чем-то, что будет значительно хуже, или чем-то, что вообще окажется лишенным ценности, над нашим будущим нависнет угроза, и так же произойдет, если какое-либо усовершенствование приведет к масштабному конфликту или общественному коллапсу. Но если мы попытаемся навсегда сохранить человечество таким, как сейчас, мы тоже можем растратить свой потенциал, отказавшись от большей его части.

В связи с этим я смотрю на возможность трансформировать самих себя с осторожным оптимизмом. Если мы зрело подойдем к преодолению трудностей, такая трансформация предоставит нам ценный шанс расширить границы своих возможностей и гораздо лучше изучить, как прекрасна может быть жизнь. Я люблю человечество не потому, что мы принадлежим к виду Homo sapiens, а потому, что мы умеем добиваться успеха и можем привести к процветанию весь окружающий мир. В этом смысле – что, пожалуй, важнее всего – наши потомки, как бы сильно они от нас ни отличались, могут достичь таких высот, до которых нам сегодня никак не дотянуться.

Решения

Я перечислил три критерия человеческого потенциала и описал горизонты времени, пространства и опыта, которые открываются нам в будущем. Мне важно было не столько нарисовать детальную картину, сколько в целом убедить вас, что впереди нас ждет нечто чрезвычайно огромное и значимое – нечто такое, в сравнении с чем история человечества до настоящего момента покажется лишь прелюдией, затравкой, пробой пера. Пока мы можем очертить лишь примерные контуры будущего и больше нам почти ничего неизвестно. Саму его суть сотворят наши потомки.

Если мы сумеем защитить человечество, у нас появится время подумать. Время убедиться, что мы принимаем мудрые решения; что мы готовы сделать все, что в наших силах, чтобы принести пользу нашей части космоса. Мы редко размышляем об этом. Редко представляем, чего мы могли бы достичь, если бы все человечество сосредоточилось на том, чтобы идти к цели, освободившись от материальных затруднений и внутренних конфликтов. Философия морали занята более насущным вопросом о том, как быть терпимыми друг к другу в мире, где ресурсы ограничены. Но, возможно, уже довольно скоро настанет время, когда мы наведем порядок в своих делах и серьезно задумаемся о том, куда двигаться дальше. И тогда мы, вероятно, зададимся грандиозным вопросом о наших главных ценностях. Это будет долгое раздумье.

Я не знаю, что из всего этого получится. Какие идеи выдержат испытание временем и тщательную проверку со стороны всевозможных мыслителей, которые постараются избежать предвзятости, чтобы не растратить наш потенциал. Я не знаю, как на общей картине будущего будут распределены доли между процветанием, благочестием, справедливостью и успехом, и не знаю, какую форму приобретет каждый из этих аспектов. Я не знаю, не выйдет ли наша картина будущего за рамки наших разных представлений о благе.

Наше положение можно сравнить с положением людей, живших 10 тысяч лет назад, когда только зарождалось сельское хозяйство. Представьте, как они сеяли свои первые семена и размышляли, какие возможности откроются им благодаря земледелию и каким может быть идеальный мир. Они не могли бы вообразить почти ни одно достижение современной глобальной цивилизации – точно так же, как мы сегодня едва ли можем понять, как идеальным образом реализовать наш потенциал.

В этой главе я рассказал о потенциале человечества – о масштабах того, чего мы однажды могли бы достичь. Реализовать свой потенциал нам будет весьма непросто. На выполнение этой задачи будут направлены огромные силы. Но с этим можно и подождать. В этих битвах сразятся наши потомки. Но только мы в состоянии преодолеть текущий опасный период, отойти от края Пропасти и оказаться в безопасности, то есть открыть своим детям страницы, на которых они напишут наше будущее.