Глубокая утопия. Жизнь и смысл в решенном мире

@importknig

Перевод этой книги подготовлен сообществом "Книжный импорт".

Каждые несколько дней в нём выходят любительские переводы новых зарубежных книг в жанре non-fiction, которые скорее всего никогда не будут официально изданы в России.

Все переводы распространяются бесплатно и в ознакомительных целях среди подписчиков сообщества.

Подпишитесь на нас в Telegram: https://t.me/importknig

Ник Бостром

«Глубокая утопия. Жизнь и смысл в решенном мире»

Оглавление

ПРЕДИСЛОВИЕ

ПОНЕДЕЛЬНИК

ВТОРНИК

ПАМЯТКА 1. КОСМИЧЕСКИЙ ФОНД

ПАМЯТКА 2. НЕКОТОРЫЕ ВОЗМОЖНОСТИ НА УРОВНЕ ТЕХНОЛОГИЧЕСКОЙ ЗРЕЛОСТИ

ПАМЯТКА 3. ОГРАНИЧЕНИЯ, ВЫТЕКАЮЩИЕ ИЗ ПРИРОДЫ НАШИХ ЦЕННОСТЕЙ

ПАМЯТКА 4. ВАКАНСИИ

ПАМЯТКА 5. ПОТЕНЦИАЛЬНЫЕ ПРЕПЯТСТВИЯ ДЛЯ АВТОМАТИЗАЦИИ

СРЕДА

ПАМЯТКА 6. КНИГИ

ПАМЯТКА 7. МИКЕЛАНДЖЕЛО И МАЙКЛ КЭРРОЛЛ

ПАМЯТКА 8. ЛИШНИЙ ЧЕЛОВЕК

ПАМЯТКА 9. ЧТО ДЕЛАТЬ, КОГДА НЕЧЕГО ДЕЛАТЬ

ПАМЯТКА 10. ЗАГРУЗКА И РЕДАКТИРОВАНИЕ МОЗГА

ПАМЯТКА 11. ОПЫТ МАШИНОСТРОЕНИЯ

ЧЕТВЕРГ

ПАМЯТКА 12. УТОПИЧЕСКАЯ ТАКСОНОМИЯ

ПАМЯТКА 13. ECCE HOMO

ПАМЯТКА 14. ХРАНЕНИЕ ПАМЯТИ ДЛЯ ДЕЙСТВИТЕЛЬНО ДОЛГОЖИВУЩИХ ЛЮДЕЙ

ПАМЯТКА 15. ОБ ОПТИМАЛЬНОМ ВРЕМЕНИ ДЛЯ ТРАНСЦЕНДЕНЦИИ

ПАМЯТКА 16. ВОПРОС ДОМАШНЕГО ЗАДАНИЯ

ПЯТНИЦА

ПАМЯТКА 17. ДАР ПРЕДНАЗНАЧЕНИЯ

ПАМЯТКА 18. НЕКОТОРЫЕ ЗАДАЧИ ВЫСОКОГО УРОВНЯ ТЕХНОЛОГИЧЕСКОЙ ЗРЕЛОСТИ

ПАМЯТКА 19. ИСТОЧНИКИ ЧЕЛОВЕЧЕСКОГО ПРЕДНАЗНАЧЕНИЯ В УТОПИИ

СУББОТА

ПАМЯТКА 20. НЕКОТОРЫЕ КАТЕГОРИИ ВОЗМОЖНЫХ ЗНАЧЕНИЙ

ПРЕДИСЛОВИЕ

Как дети, открывающие глаза новому дню, ложась спать накануне вечером, когда начали падать хлопья снега, мы бросаемся к окну и поднимаемся на кончики пальцев ног, чтобы увидеть преображенный пейзаж: зимнюю страну чудес, сверкающую возможностями для открытий и игр. Даже ветви деревьев, прежде такие скучные и голые, превратились в нечто прекрасное и волшебное. Нам кажется, что мы попали в сказку или игровой мир, и очень хочется немедленно надеть сапоги и варежки и выбежать на улицу, чтобы увидеть это, потрогать, испытать и играть, играть, играть...

ПОНЕДЕЛЬНИК

Горячие источники отложены

Тессиус: Эй, посмотрите на этот плакат. Ник Бостром читает здесь, в аудитории Энрон, цикл лекций на тему "Проблема утопии".

Фирафикс: Бостром - он еще жив? Он, должно быть, стар, как холмы.

Тессиус: Это все те зеленые овощные эликсиры, которые он делал.

Фирафикс: Они работали?

Тессиус: Вовсе нет, но на какое-то время они стали очень популярны. Именно так он заработал свои деньги - на книге рецептов. Потом он смог позволить себе антивозрастные процедуры, которые появлялись по мере их появления.

Тессиус: Он начался десять минут назад. Может, зайдем?

Фирафикс: Конечно, почему бы и нет.

Кельвин: Мы можем принять ванну после ужина. Они открыты допоздна.

Бостром: - Лейкемия. Очень важно найти лекарство или хотя бы способ облегчить ее страдания. В более широком масштабе у нас есть крайняя бедность, лишения, недоедание, душераздирающие физические и психические расстройства, разрушающие семьи дорожные аварии, алкоголизм, угнетение, убийство и калечение мирных жителей в зонах военных действий... В настоящее время проблем более чем достаточно, чтобы обеспечить значимые вызовы даже для самых находчивых и предприимчивых из нас.

Тессиус (шепотом): Старый вершитель судеб в отличной форме. Я уже чувствую себя хуже!

Фирафикс: Шшш.

Бостром: Возможно, эти гуманитарные задачи кажутся значимыми только тем, кто заботится о других настолько, что искренне хочет помочь. Но в современном мире даже эгоисты с булыжником на сердце имеют богатый выбор негативных обстоятельств, которые они стремятся исправить или предотвратить их усугубление. Один человек может бороться с лишним весом, другой - с поиском работы, третий - с социальной изоляцией, четвертый - с трудными отношениями. Редко можно услышать, как люди жалуются: "Единственная проблема, которая у меня есть, - это то, что у меня нет проблем, - жизнь, знаете ли, просто слишком идеальна, и это меня очень раздражает!".

Короче говоря, похоже, что горе нам не грозит. Насколько хватает глаз, в мире существует огромное количество реальных и потенциальных печалей, которые не дают мельнице беспокойства крутиться и предоставляют альтруистам и эгоистам множество возможностей для достойных стремлений.

Тем не менее, в этих лекциях я хочу поговорить о проблеме утопии: проблеме, с которой мы столкнемся после того, как решим все остальные проблемы.

Это может показаться не самым насущным приоритетом в нашей нынешней ситуации... Есть, надо признать, и другие причины и задачи, наиболее законно претендующие на наше внимание. И все же я не думаю, что для нашей цивилизации было бы недостойно хотя бы бросить взгляд на то, что ждет нас впереди, если все пойдет хорошо: подумать о том, к чему мы в конце концов придем, если продолжим идти по нынешнему пути и полностью преуспеем в том, чего пытаемся достичь...

Можно сказать, что смысл технологии в том, чтобы позволить нам добиваться большего с меньшими усилиями. Если экстраполировать эту внутреннюю направленность до ее логического конца, то мы придем к состоянию, в котором мы сможем достичь всего, не прилагая никаких усилий. За тысячелетия наш вид уже проделал изрядный путь к этой цели. Скоро поезд машинного сверхинтеллекта (разве мы уже не слышали свисток кондуктора?) сможет промчать нас оставшуюся часть пути.

И что тогда с нами будет?

Что придаст нашей жизни смысл и цель в "решенном мире"?

Чем бы мы занимались весь день?

Эти вопросы имеют непреходящий интеллектуальный интерес. Концепция глубокой утопии может служить своего рода философским ускорителем частиц, в котором создаются экстремальные условия, позволяющие нам изучить элементарные составляющие наших ценностей. Но эти вопросы могут иметь и огромное практическое значение, когда телос технологии будет фактически достигнут или достаточно близко приближен - по моим оценкам, очень возможно, что уже при жизни многих из вас, присутствующих здесь.

Тессий: Может, присядем?

Вон там есть несколько мест.

Фирафикс: Да, я хочу это услышать. Я буду стоять здесь.

Бостром: В любом случае, проблема утопии находится в воде. Разве мы не чувствуем ее - некое полузастенчивое скрытое беспокойство? Сомнение, таящееся в глубине под нами? Слабая тень, падающая на наше представление о том, для чего все это нужно?

Argumentum ad opulentium

А иногда это беспокойство прорывается на поверхность сознания, и мы видим приближение финала... Например, Билл Гейтс писал:

"Это правда, что по мере того, как искусственный интеллект становится все более мощным, мы должны убедиться, что он служит человечеству, а не наоборот. Но это инженерная проблема... Меня же больше интересует то, что можно назвать проблемой цели. ...Если бы мы решили такие большие проблемы, как голод и болезни, а мир продолжал бы становиться все более мирным: Какая цель была бы тогда у людей? Какие задачи нас бы вдохновляли на решение?"

И Элон Маск в интервью CNBC:

"Как найти смысл жизни, если искусственный интеллект может сделать вашу работу лучше, чем вы сами? Если я буду думать об этом слишком много, то, честно говоря, это будет удручающе и демотивирующе. Потому что я вложил много крови, пота и слез в создание компаний, а потом я думаю: "А должен ли я этим заниматься?". Потому что если я жертвую временем с друзьями и семьей, которое я бы предпочел, то в конечном итоге все эти вещи может сделать ИИ. Имеет ли это смысл? Не знаю. В какой-то степени мне приходится сознательно отстраняться от неверия, чтобы оставаться мотивированным".

Может быть, в каком-то смысле беспокойство о цели - это проблема роскоши? Если так, то можно ожидать, что утопическое процветание увеличит ее распространенность. Но в любом случае, как мы увидим, проблема гораздо глубже, чем просто избыток денег и материальных благ.

Некоторые из моих друзей любят, чтобы существовала модель воздействия - история о том, почему из всех вещей, над которыми можно было бы работать, то, что они предлагают сделать, окажется самым влиятельным и полезным. Они стремятся к наибольшей ожидаемой полезности.

Если бы я попытался написать такую историю для наших сегодняшних событий, она могла бы выглядеть следующим образом. Наша цивилизация, похоже, приближается к критической точке, учитывая грядущее развитие сверхразума. Это означает, что в какой-то момент кто-то из нас или все мы можем оказаться перед выбором, какого будущего мы хотим, причем варианты будут включать в себя очень разные траектории, некоторые из которых приведут нас в радикально незнакомые места. Такой выбор может иметь серьезные последствия. Но, возможно, некоторые из этих выборов должны быть сделаны под давлением времени, потому что мир отказывается ждать, или потому что мы сами с каждой неделей становимся все безумнее, или потому что промедление означает опережение со стороны более решительных игроков, или потому что мы не хотим останавливаться, опасаясь, что потом никогда не сможем начать двигаться снова. Или, возможно, не существует дискретного времени, когда эти решения принимаются, а вместо этого они принимаются и будут приниматься постепенно с течением времени, но таким образом, что более ранние частичные решения ограничивают диапазон более поздних возможных исходов. В любом случае, может оказаться полезным, если вы направите себя в позитивное русло скорее раньше, чем позже. И если в действительности существует отдельный период решающих обсуждений, было бы полезно подготовить к нему подходящий материал - ну, знаете, снабдить участников обсуждений некоторыми соответствующими концепциями и идеями и помочь им настроиться на нужный лад.

Делайте с этой "историей влияния" что хотите. Еще одно возможное объяснение того, почему я читаю эти лекции, заключается в том, что я согласился на это давным-давно, в момент слабости.

Позвольте мне сказать, чем не является этот цикл лекций. Это не попытка "обосновать" что-то. Напротив, это исследование. При изучении такой глубокой и сложной темы, как та, что находится перед нами, хочется привлечь внимание к множеству соображений, проследить различные направления мысли, приложить руку к конкурирующим оценочным концепциям, позволяя ощутить притяжение каждой мысли и каждой склонности как можно острее и сочувственнее. Не стоит преждевременно отвергать естественную перспективу, даже ту, от которой в итоге придется отказаться. Ведь ценность мнения в подобном вопросе зависит от того, насколько великодушно человек позволил альтернативам играть со своей душой.

Стены из сосисок

Сначала рассмотрим самый простой вид утопии: утопию материального изобилия.

Примером этой утопической концепции является миф о Кокейне, или Стране изобилия. Он был важной частью средневекового воображения и часто находил отражение в народном искусстве и письменности, а также в устной традиции:

"Целый день ничего не делается,

Любой человек - старый, молодой, слабый или сильный.

Там никто не испытывает дефицита;

Стены сделаны из сосисок".

Кокейн - это, по сути, мечта средневекового крестьянина. В стране Кокейн нет изнурительного труда под палящим солнцем или в ночную стужу. Нет черствого хлеба, нет лишений. Вместо этого, как нам говорят, вареная рыба выпрыгивает из воды, чтобы приземлиться у ног человека; зажаренные свиньи ходят с ножами в спине, готовые к разделке; сыры сыплются с неба. По земле текут реки вина. Здесь вечная весна, прекрасная и мягкая погода. Вы зарабатываете деньги, пока спите. Сексуальные табу были ослаблены - мы находим описания монахинь, перевернутых вверх ногами и показывающих свою нижнюю часть. Болезней и старения больше нет. Непрерывные пиры, много танцев и музыки, а также много времени для отдыха и расслабления.

Подобные фантазии встречаются и во многих других традиционных обществах. Например, в классической древности Гесиод писал о счастливых жителях воображаемого ранее Золотого века:

"И жили они как боги, ни о чем не заботясь,

Ничего общего с тяжелой работой или горем,

И жалкой старости для них не существовало.

От пальцев до пальцев ног они никогда не старели,

И наступили хорошие времена. А когда они умерли

Казалось, что сон просто сгреб их.

У них было все хорошо. Земля приносила им плоды.

Все свое, и много чего еще. Веселый народ..."

Во многих отношениях мы сейчас живем в Золотом веке, или в Кокейне, или в Авалоне, Счастливом охотничьем угодье, Земле предков, Острове блаженных, Цветущем персиковом источнике, Большой скале Конфетной горы. "Мы" здесь, конечно, не включает в себя те сотни миллионов людей, которые до сих пор живут в крайней нищете, а также подавляющее большинство сельскохозяйственных и диких животных. Но если мы используем термин "мы" для обозначения людей в этой комнате (мы, счастливые немногие), то, кажется, будет справедливо сказать, что с нашими переполненными холодильниками и круглосуточными службами доставки мы на самом деле достигли довольно хорошего приближения к жареным свиньям, разгуливающим по улицам, и вареным рыбам, прыгающим к нашим ногам. Мы также добились вечной весны - по крайней мере, в наших кондиционированных зданиях и транспортных средствах. Фонтан молодости еще предстоит найти, но болезни значительно сократились, а продолжительность жизни увеличилась. Кроме того, я знаю, что если кто-то хочет посмотреть на женские попки, в том числе на попки явных монахинь, то поиск в Интернете не разочарует.

Тем не менее, мы по-прежнему много работаем. Наша работа в целом менее изнурительна, чем у средневековых крестьян, но все же немного удивительно, что мы продолжаем работать столько часов, сколько работаем.

Предсказание Кейнса

Это утопическое видение Кокейна предвосхищает концепцию прогресса, которую мы находим в современной экономике. В последней идеал выражается более абстрактным лексиконом "производительности", "дохода" и "потребления", а не колбасными изделиями. Но основная идея счастья через изобилие остается прежней.

Так что это может быть хорошим местом для начала нашего исследования - рассмотреть землю и ее ограничения в бинокль экономики и эволюции; а завтра мы также рассмотрим некоторые конечные технологические ограничения. Но я хочу сказать, что, если вы останетесь на весь цикл лекций, вы обнаружите, что направление нашего исследования будет постепенно меняться. Мы спустимся от внешних перспектив и холодных абстракций мрачных наук в долины, где получим более гуманистический и внутренний взгляд на проблемы глубокой избыточности. И он снова изменится, когда мы начнем углубляться в философскую мантию, пытаясь добраться до ядра - ядра наших ценностей, сердца проблемы утопии.

Так что держитесь!

Возможно, я мог бы подробнее рассказать о том, что именно я подразумеваю под проблемой утопии и как планирую к ней подойти. Но я думаю, что будет лучше, если мы просто перейдем к делу, и мы сможем разобраться с любыми дефиниционными или аргументативно-структурными вопросами по мере их возникновения.

Знаменитый экономист Джон Мейнард Кейнс рассматривал цель материального изобилия в своем широко известном эссе "Экономические возможности для наших внуков". В эссе, опубликованном в 1930 году, утверждается, что человечество находится на пути к решению своей "экономической проблемы". Кейнс предсказал, что к 2030 году накопленные сбережения и технический прогресс увеличат производительность труда по сравнению с его временем от четырех до восьми раз. Такой резкий рост производительности труда позволит удовлетворять человеческие потребности с гораздо меньшими затратами, и, как следствие, средняя продолжительность рабочей недели сократится до 15 часов. Такая перспектива обеспокоила Кейнса. Он опасался, что избыток свободного времени приведет к своего рода коллективному нервному срыву, поскольку люди будут сходить с ума, не зная, чем занять все свое свободное время.

По мере приближения к 2030 году первая часть предсказания Кейнса подтверждается. Производительность труда с 1930 года выросла более чем в пять раз, а ВВП на душу населения - более чем в семь раз. Таким образом, за час работы мы получаем гораздо больше, чем наши прабабушки и прадедушки.

Вторая часть предсказания Кейнса, с другой стороны, похоже, не оправдается, если экстраполировать тенденции. Несмотря на то, что за последние девяносто с лишним лет продолжительность рабочего дня значительно сократилась, мы еще не приблизились к 15-часовой рабочей неделе, которую ожидал Кейнс. С 1930 года типичная рабочая неделя сократилась примерно на четверть, до 36 часов. Доля нашей жизни, проведенной на работе, сократилась несколько сильнее: мы позже вступаем в ряды рабочей силы, дольше живем после выхода на пенсию и берем больше отпусков. Да и работа у нас в среднем менее напряженная. Однако в большинстве своем мы используем возросшую производительность труда не для отдыха, а для потребления. Жадность одержала победу над ленью.

Но, возможно, Кейнс просто ошибся со временем? Оживший Кейнс - мы можем представить его выходящим из крионического дьюара, его шапка и усы покрыты инеем - может утверждать, что нам нужно лишь немного подождать, пока производительность труда вырастет, чтобы его пророчество о 15-часовой рабочей неделе стало реальностью. Если историческая тенденция сохранится, то в ближайшие 100 лет производительность труда вырастет еще в 4-8 раз, а к 2230 году - в 16-64 раза. Будут ли люди в таком мире по-прежнему тратить значительную часть своей жизни на работу?

Рассмотрите две возможные причины для работы:

Чтобы получить доход

Потому что работа - это занятие, имеющее внутреннюю ценность

Мы вернемся к (2) в последующих лекциях, поэтому пока оставим это в стороне. Но если бы производительность выросла еще в 8 раз или даже в 64 раза, воплотилось бы в жизнь видение Кейнса об обществе досуга?

Возможно, а возможно, и нет. Есть причины для скептицизма. В частности, могут быть изобретены новые потребительские товары, которые будут стоить очень дорого, или мы можем предпринять очень дорогостоящие социальные проекты. Мы также можем оказаться вынужденными тратить больше на произвольно дорогие символы статуса, чтобы сохранить или повысить свое относительное положение в крысиных гонках с нулевой суммой.

Эти источники мотивации могут продолжать действовать даже при очень высоком уровне доходов. Давайте рассмотрим каждый из них по очереди.

Новые потребности и приятности

Во-первых, могут появиться новые потребительские товары. Можно представить себе, что существует бесконечная череда все более изысканных и все более дорогих рыночных товаров, повышающих досуг; так что независимо от того, насколько высока ваша почасовая зарплата, стоит выделить треть или более часов бодрствования на работу, чтобы иметь возможность наслаждаться оставшимися часами на более высоком уровне потребления. Этой линии придерживался Ричард Познер, выдающийся американский ученый-юрист; мы вернемся к нему позже.

Однако такая точка зрения крайне неправдоподобна в современном мире, где предельная полезность денег резко снижается, а многие из лучших вещей в жизни действительно бесплатны или очень дешевы. Увеличение вашего годового дохода с 1 000 до 2 000 долларов - это большая удача. Повышение его с 1 000 000 до 1 001 000 долларов или даже, я думаю, до 2 000 000 долларов - едва заметно.

Но все может измениться. Технологический прогресс может создать новые способы конвертации денег в качество или количество жизни, способы, которые не будут иметь такой круто убывающей отдачи, как сегодня.

Например, предположим, что существует ряд постепенно дорожающих медицинских процедур, каждая из которых добавляет некоторый интервал к продолжительности здоровой жизни или делает человека умнее или физически привлекательнее. За один миллион долларов вы можете прожить пять дополнительных лет в полном здравии; утроив эту сумму, вы сможете добавить еще пять здоровых лет. Потратив еще немного, вы сделаете себя невосприимчивым к раку, повысите интеллект себе или одному из своих детей или улучшите свою внешность с семерки до десятки. При таких условиях - которые, вероятно, могут быть вызваны технологическим прогрессом - могут сохраниться сильные стимулы для продолжения долгой работы даже при очень высоком уровне дохода.

Так что у будущих богачей могут быть куда более привлекательные способы потратить свои доходы, чем заполнять свои дома, доки, гаражи, запястья и шеи все большим количеством сегодняшних довольно жалких предметов роскоши. Поэтому мы не должны безоговорочно считать, что деньги не будут иметь значения после какого-то определенного уровня. Биомедицинские усовершенствования, о которых я только что упомянул, - один из примеров того, что при высоком уровне расходов может продолжать приносить пользу. А если мы представим себе - как я склоняюсь к этому - будущее, населенное преимущественно цифровыми разумами, то конвертируемость богатства в благосостояние станет еще более очевидной. Цифровые разумы, будь то искусственный интеллект или загружаемые устройства, нуждаются в вычислениях. Больше вычислений означает более долгую жизнь, более быстрое мышление и потенциально более глубокий и обширный опыт сознания. Больше вычислений также означает больше копий, цифровых детей и всевозможных отпрысков, если они того пожелают.

Кривая отдачи от затрат на инфраструктуру для цифрового разума зависит от того, чего именно вы хотите достичь. За определенной скоростью вычислений предельные затраты на дальнейшее ускорение реализации разума могут резко возрасти или достигнуть жесткого предела. С другой стороны, некоторые алгоритмы хорошо распараллеливаются, а если они инстанцируют что-то ценное, то отдача от вычислений может быть близка к линейной. Конечно, если вы счастливы, просто создавая копии себя, вам не нужно видеть убывающую отдачу даже при очень высоких уровнях затрат.

Социальные проекты

Во-вторых, если мы выйдем за рамки эгоистичных поблажек, то увидим множество дополнительных возможностей преобразовать огромное количество ресурсов в ценные результаты, прежде чем наступит обескураживающая убывающая отдача. Например, вы можете захотеть создать ветеринарную систему для животных, которые болеют или получают травмы в дикой природе. [У людей, которым небезразличны такие амбициозные проекты, могут быть причины продолжать работать долгое время, даже если их производительность и почасовая зарплата взлетят до стратосферных высот, потому что они смогут продолжать увеличивать масштабы своего воздействия. Пока на каждом холме и в каждой долине, в каждом кусте и в каждом кустарнике не появится клиника, население будет оставаться неохваченным.

На самом деле альтруистическая причина для работы в дополнительные часы теоретически может быть тем сильнее, чем выше зарплата человека. Если ваша почасовая ставка составляет тысячу долларов, то за дополнительный час работы может быть профинансировано больше дополнительных палат для диких животных, чем если бы вы получали минимальную зарплату.

Я говорю "теоретически может стать сильнее", потому что по мере роста уровня благосостояния общества возможно, что самые низко висящие или самые сочные плоды на дереве альтруистических возможностей истощатся. Однако дерево большое, и на нем постоянно растут новые плоды: пока вы можете зарабатывать деньги, вы, скорее всего, сможете продолжать делать добро. В этом можно убедиться, если рассматривать альтруистические причины не только для устранения негатива из мира, но и для добавления позитива, например, для появления новых счастливых людей. Вы всегда можете создать больше, и их количество линейно растет с увеличением ресурсов.

Кстати, есть ли у вас вопросы? Не стесняйтесь перебивать в любой момент, если что-то непонятно. -Да, вы там, в проходе, с кнопками?

Студент: Вы хотите сказать, что мы должны иметь как можно больше детей? Разве это не эгоистично?

Бостром: Нет, в данный момент я не высказываю никаких моральных взглядов. Я обсуждаю некоторые возможные мотивы, которые могли бы побудить некоторых людей продолжать долго работать за деньги, даже если они могли бы покрыть все свои обычные потребности, работая всего один или два часа в неделю. Один из таких возможных мотивов - альтруизм: зарабатывать больше, чтобы больше отдавать нуждающимся. Хорошо, но тогда что произойдет, если общество станет настолько богатым и утопичным, что в нем больше не будет нуждающихся? Я указывал на то, что даже в этом случае некоторые люди могут быть мотивированы продолжать зарабатывать, чтобы создать больше людей. Независимо от того, насколько все обеспечены - на самом деле, особенно если все очень богаты - вы, в принципе, можете создать дополнительное счастье, создав дополнительных счастливых людей. Конечно, есть люди, которые считают, что это было бы хорошо, например тотальные утилитаристы, и которые, таким образом, могут оставаться мотивированными. Есть и другие, конечно, у которых нет желания максимизировать какую-либо меру совокупной полезности. Это не курс по этике народонаселения, и нам не нужно беспокоиться о том, какие аргументы или оправдания могут быть для этих различных взглядов. Хотя я могу отметить для протокола, что я не являюсь полным утилитаристом или вообще каким-либо утилитаристом, хотя меня часто принимают за него, возможно, потому, что в некоторых моих работах анализируются последствия таких агрегированных следственных предположений. (На самом деле мои взгляды сложны, неопределенны и плюралистичны, и пока не получили должного развития). Помогает ли это?

Другой студент: А как же глобальное потепление?

Тессиус (шепотом): Некоторые из них особенно легко автоматизировать.

Бостром: Ну, я думаю, мы должны сделать некоторые постулаты, чтобы сфокусировать наши исследования на главном вопросе, который мы будем изучать в этом цикле лекций. Это означает, что мы полностью отбросим ряд практических вопросов, чтобы добраться до философской сути. Если говорить более конкретно, мы проводим мысленный эксперимент, в котором предполагаем, что технологические и политические трудности каким-то образом преодолеваются, чтобы мы могли сосредоточиться на проблеме того, что я называю "глубокой утопией". Я планировал поговорить о технологических граничных условиях завтра, так что, надеюсь, тогда все станет немного яснее.

Так что, как я уже говорил, всегда можно создать больше людей, особенно цифровых. Количество цифровых умов, которые вы можете создать, пропорционально количеству вычислительных ресурсов, которые вы можете задействовать, а это, как мы можем предположить, пропорционально количеству денег, которые вы можете потратить.

Конечно, этот тип масштабируемой альтруистической мотивации предназначен только для моральной элиты. Если вы не заботитесь о том, чтобы в мире появилось больше радостных существ, и у вас нет достаточной универсальной заботы о благополучии и страданиях других разумных существ, которые уже существуют, и у вас нет какого-то другого бесконечно амбициозного неэгоистического проекта, которым вы могли бы увлечься, то вы не сможете пить из этого фонтана и вам придется искать другие способы утолить жажду цели. -Давайте зададим еще один вопрос.

Еще один студент: Что вы имеете в виду под "цифровыми умами"?

Бостром: Разум, реализованный в компьютере. Например, это может быть загрузка человеческого или животного разума или ИИ такой конструкции и сложности, которая делает его моральным пациентом, то есть тем, чье благосостояние или интересы имеют значение сами по себе. Я думаю, что в случае с сознательным цифровым разумом это было бы prima facie аргументом, хотя я не считаю, что сознание необходимо для морального статуса. Для целей данной дискуссии, вероятно, ничего существенного от этого не зависит.

Ладно, давайте продолжим. Нам нужно многое успеть.

Стремление к большему

Я уже упоминал третью причину, по которой мы можем продолжать упорно трудиться даже при очень высоком уровне дохода: а именно, что наши аппетиты могут быть относительными, что делает их коллективно ненасытными.

Предположим, мы хотим, чтобы у нас было больше, чем у других. Мы можем желать этого либо потому, что ценим относительное положение как конечное благо, либо, наоборот, потому, что надеемся получить преимущества от своего возвышенного положения - например, преимущества, связанные с высоким социальным статусом, или безопасность, которую можно надеяться обрести, имея больше ресурсов, чем у противников. Такие относительные желания могут стать неисчерпаемым источником мотивации. Даже если наши доходы вырастут до астрономического уровня, даже если у нас будут полные бассейны наличности, нам все равно нужно больше: ведь только так мы сможем сохранить свое относительное положение в сценариях, где доходы наших соперников растут соразмерно.

Заметьте, кстати, что в той мере, в какой мы жаждем положения - будь то ради него самого или как средство достижения других благ, - мы все могли бы выиграть, если бы скоординировали свои усилия. Мы могли бы создать государственные праздники, законодательно установить 8-часовой или 4-часовой рабочий день. Мы могли бы ввести круто прогрессивные налоги на трудовые доходы. В принципе, такие меры могли бы сохранить рейтинг всех участников и достичь тех же относительных результатов при меньшей цене пота и труда.

Но если такой координации нет, мы можем продолжать упорно работать, чтобы не отстать от других людей, которые продолжают упорно работать; и мы застряли в крысиных бегах миллиардеров. Вы просто не можете позволить себе халтурить, чтобы ваш чистый капитал не застрял в десятизначной цифре, в то время как у вашего соседа он взлетел до одиннадцати...

Представьте, что вы стоите на палубе своей мегаяхты SV Sufficiens. Вы скользите по океану, делая хорошие успехи со своей спутницей, которая впечатлена. Вы придвигаетесь ближе, готовясь к поцелую, и... в следующий момент вы позорно сваливаетесь на борт гигаяхты вашего коллеги, NS Excelsior, которая с ревом проносится мимо вас. А вот и он, на корме своего куда более грандиозного судна, покровительственно ухмыляется вам вслед и размахивает своей дурацкой капитанской фуражкой! Момент испорчен.

Также возможно стремление к улучшению как таковому: желание, чтобы завтра у нас было больше, чем сегодня. Это может показаться странным желанием. Но оно отражает важное свойство человеческой аффективной системы - тот факт, что наш механизм гедонистической реакции привыкает к достижениям. Мы начинаем воспринимать свои новые приобретения как должное, и первоначальный восторг проходит. Представьте, как бы вы сейчас радовались, если бы такого привыкания не происходило: если бы радость, которую вы испытали, получив свой первый игрушечный грузовик, не ослабевала до сих пор, а все последующие радости - ваша первая пара лыж, первый велосипед, первый поцелуй, первое повышение - продолжали складываться друг на друга. Вы были бы на седьмом небе от счастья!

Лимбическая система (этот старый хитрец) не дает нам покоя. Гедонистическая беговая дорожка постоянно проседает под нашими ногами, заставляя нас продолжать бежать, но не давая нам добраться до какого-нибудь принципиально более веселого места.

Но как это стимулирует к работе в мире радикального экономического изобилия? Мы можем жаждать улучшений как ради них самих, так и в качестве средства получения вознаграждения, но все равно кажется, что эта жажда зависит от наличия других желаний, определяющих, что считать улучшением. Я имею в виду, что если бы вы не хотели игрушечный грузовик с самого начала, то его получение не было бы улучшением и не принесло бы вам радости. Значит, нам нужно какое-то базовое благо, которое вы можете продолжать накапливать и получать больше. Если такое благо есть - возможно, это биомедицинские усовершенствования или альтруистические инициативы, о которых я говорил ранее, - то желание, чтобы все улучшалось, может служить усиливающим фактором, давая нам еще более веские причины продолжать работать сверх тех, что дает нам желание получить само базовое благо.

Вот вам и стремление к совершенствованию как таковому. Но давайте вернемся к желанию иметь больше, чем другие люди, - больше денег или больше эксклюзивных символов статуса. Это желание, кажется, может существовать само по себе, не предполагая, что есть какое-то другое, более базовое желание, определяющее беспредельную метрику совершенства. (Строго говоря, если то, что мы хотим иметь больше, чем другие, - это социальный статус, то конструкция может потребовать существования дополнительных желаний в том смысле, что мы особенно хотим иметь больше, чем другие люди, чего-то, чего они также жаждут: но предмет, о котором идет речь, в корне произволен и не должен быть желанным для кого-то ради него самого, кроме той роли, которую он играет как фокус такого социального противостояния - это может быть NFT или кофе циветты или что-то еще, чего вряд ли кто-то захочет, если другие не захотят этого тоже).

Таким образом, стремление к относительному положению - многообещающий источник мотивации, который может подтолкнуть к работе и напряжению даже в условиях, когда "экономическая проблема человека" решена. При условии, что доходы других людей будут расти примерно одновременно с нашими собственными, тщеславие может помешать нам бездельничать независимо от того, насколько богатыми мы станем.

Стремление к относительному положению имеет еще одну особенность, которая позволяет ему быть мотиватором в эпоху изобилия. Ранжирование в значительной степени носит порядковый характер. Иными словами, важно то, у кого больше, чем у кого, а не то, насколько больше. Так, если яхта вашего соперника имеет длину 10 метров, то важно, чтобы ваша яхта была не менее 11 метров. Аналогично, если его яхта 100 метров, важно, чтобы ваша была длиннее - но не обязательно на 10 %, чтобы сохранить преимущество; достаточно 101 метра. Это удобно, потому что означает, что в той степени, в какой мы жаждем такого рода порядкового социального ранга, объективные достижения, которые мы делаем, не должны быть пропорциональны нашим совокупным предыдущим достижениям, чтобы оставаться значимыми. Небольшие инкрементные достижения могут оставаться очень привлекательными, если они способны изменить наш ранг в соответствующей группе сравнения.

Совершенная или несовершенная автоматизация

Разве мы не можем работать только потому, что нам нравится работать? Ну, я не буду считать работу работой, если мы занимаемся ею просто потому, что нам это нравится. Но что, если мы получаем удовольствие, потому что это полезно? Тогда, кроме удовольствия, должна быть еще какая-то причина, например, одна из тех, которые мы обсуждали. Повторим, что три типа потребительских желаний, которые могли бы побудить людей работать даже при очень высоком уровне производительности и дохода, были следующими: приобретение новых товаров и услуг, которые обеспечивают некоторую несравнимую личную выгоду; реализация амбициозных социальных проектов; и приобретение позиционных товаров, которые помогают обрести статус.

Теоретически, они могут отсрочить приход общества досуга на неопределенный срок, гарантируя, к лучшему или худшему, что "экономическая проблема человека" никогда не будет полностью решена, и что пот с наших бровей будет продолжать течь.

Да, но есть одна загвоздка! Все предыдущие рассуждения о том, будут ли люди продолжать работать, основываются на одном предположении: работа для людей по-прежнему будет существовать.

Точнее, в нашем обсуждении предполагалось, что доход, который можно получить, продавая свой труд, остается значительным по сравнению с доходом, получаемым из других источников, таких как владение капиталом и социальные трансферты.

Вспомните миллиардера с мегаяхтой: как бы сильно он ни завидовал гигаяхте декабиллионера, он не станет продавать свой труд, если самое большее, что он может заработать, - это минимальная зарплата или какая-то другая сумма, которая ничтожна по сравнению с тем, что он зарабатывает на своих инвестициях (или по сравнению с тем, что он может позволить себе потратить до конца жизни, медленно высасывая свои сбережения).

Здесь мы подходим к тому моменту, когда необходимо учитывать, что воздействие передового ИИ на рынок труда может быть иным и более трансформирующим, чем то, к которому приводит даже очень значительное увеличение производительности труда, вызванное накоплением капитала и техническим прогрессом, как это предполагал Кейнс в своем сочинении.

Исторически сложилось так, что труд в чистом виде был дополнением к капиталу. На совокупном уровне это верно с момента появления орудий труда и на протяжении всех последующих эпох технологических изменений и экономического роста.

Вы все знаете, что такое дополнения и заменители в экономике, верно? Мы говорим, что X является дополнением к Y, если наличие большего количества Y делает дополнительные единицы X более ценными. Левый ботинок является дополнением к правому ботинку. Если же, наоборот, наличие большего количества X делает Y менее ценным, мы говорим, что X и Y - это заменители. Зажигалка - это заменитель коробка спичек.

Получается, что труд и капитал дополняют друг друга. Каждый из них повышал ценность другого. Конечно, если мы увеличим масштаб, то увидим, что некоторые виды труда стали менее ценными в результате технических инноваций, в то время как другие виды стали более ценными. Но общий эффект пока заключается в том, что труд стал более ценным, чем раньше. Именно по этой причине заработная плата сейчас выше, чем сто лет назад или в любой другой период истории человечества.

До тех пор пока человеческий труд остается чистым дополнением к капиталу, рост запасов капитала должен приводить к росту цены труда. Растущая заработная плата может побудить людей продолжать работать так же усердно, как они работают сейчас, даже если они станут очень богатыми, при условии, что у них есть такие ненасытные желания, которые я только что описал. На самом деле постоянно растущая заработная плата, вероятно, заставит людей работать немного меньше, поскольку они предпочтут использовать часть прироста производительности для увеличения досуга, а часть - для увеличения потребления. Но в любом случае, степень, в которой труд является дополнением к капиталу, зависит от технологии. При достаточно развитой технологии автоматизации капитал становится заменителем труда.

Рассмотрим крайний случай: представьте, что вы можете купить умного робота, который может делать все, что умеет делать человек. И предположим, что купить или арендовать этого робота дешевле, чем нанять человека. В этом случае роботы будут конкурировать с людьми и оказывать понижательное давление на заработную плату. Если роботы станут достаточно дешевыми, люди будут полностью вытеснены с рынка труда. Наступит нулевая рабочая неделя.

Если мы рассмотрим менее экстремальный сценарий, картина усложнится. Предположим, что роботы могут делать почти все, что могут делать люди, но есть несколько задач, которые могут делать только люди или которые люди могут делать лучше. (Сюда можно отнести различные новые рабочие места, возникающие в богатых высокотехнологичных экономиках). Чтобы определить, каким будет результат для заработной платы людей в этом сценарии, нам нужно рассмотреть несколько эффектов.

Во-первых, как и прежде, на заработную плату оказывает понижающее давление конкуренция со стороны роботов.

Во-вторых, экономика в этом сценарии полной автоматизации, скорее всего, будет развиваться взрывными темпами, что приведет к росту среднего дохода. Это увеличит спрос на труд, поскольку более высокодоходные потребители будут тратить больше на товары и услуги, включая те, которые, как мы предполагали, могут производить только люди. Этот рост спроса создаст повышательное давление на заработную плату людей.

В-третьих, увеличение среднего уровня благосостояния в этом сценарии, скорее всего, приведет к сокращению предложения труда, поскольку более состоятельные люди предпочтут работать меньше при любом заданном уровне заработной платы. Такое сокращение предложения труда создаст повышательное давление на заработную плату.

Таким образом, существует как минимум три основных эффекта: один, который имеет тенденцию к снижению заработной платы, и два, которые имеют тенденцию к повышению заработной платы. Какой из этих эффектов доминирует, априори определить невозможно.

Поэтому, если последствия совершенной технологии автоматизации очевидны - полная безработица среди людей и нулевой трудовой доход - то последствия несовершенной технологии автоматизации для занятости людей и их заработной платы теоретически неоднозначны. Например, в этой модели возможно, что если бы роботы могли выполнять любую работу, кроме проектирования и надзора за роботами, то зарплата, выплачиваемая человеческим роботам-проектировщикам и роботам-надсмотрщикам, могла бы превысить общую зарплату, выплачиваемую рабочим сегодня; теоретически, общее количество отработанных часов также могло бы вырасти.

Если бы мы хотели получить более конкретные выводы из нашей модели, нам пришлось бы сделать целый ряд конкретных и довольно спекулятивных эмпирических предположений. В этом случае мы могли бы начать дезагрегировать влияние автоматизации и посмотреть не на общий уровень занятости, а на то, как пострадают отдельные сектора рынка труда. Несомненно, некоторые профессии будут работать лучше, а некоторые - хуже при таком сценарии частичной автоматизации. Но поскольку все это не имеет особого отношения к нашей теме, мы оставим нашим друзьям с экономического факультета разбираться в деталях.

Однако интересно взглянуть на то, что произойдет с заработной платой и рабочим временем, если мы начнем с несовершенного сценария автоматизации и постепенно превратим его в сценарий все более совершенной автоматизации. Если мы рассмотрим сценарий, в котором технология автоматизации практически совершенна - машины могут делать практически все, что может делать человек, лучше и дешевле, лишь за несколькими незначительными исключениями, - то я ожидаю, что люди будут работать совсем немного. Люди могут работать в среднем пару часов в неделю, делая те немногие вещи, которые не могут делать машины. Однако, что касается трудовых доходов, мы не можем даже заключить, что существует асимптотическая конвергенция к случаю совершенной автоматизации. Ведь вполне возможно, что почасовая оплата труда может вырасти настолько резко, что даже если люди будут работать всего два часа в неделю, они все равно будут зарабатывать больше, чем сейчас при сорокачасовой рабочей неделе. (Я думаю, что теоретически возможно, хотя эмпирически маловероятно, чтобы в таких сценариях увеличилась факторная доля труда).

Теперь вы можете задаться вопросом: Каковы пределы автоматизации? Насколько близко к совершенству роботы заменят человеческий труд? Это ключевой фактор, который определит, окажемся ли мы в кейнсианском обществе досуга или в еще более экстремальном сценарии, в котором люди полностью останутся без работы и в котором мы, следовательно, столкнемся со всей силой проблемы цели.

Мы вернемся к этому вопросу. Но прежде я хотел бы немного отвлечься и поговорить о том, как люди могли бы зарабатывать деньги, даже если бы замена была идеальной и для людей не было бы работы. Вполне разумно задаться вопросом о доходах, а не только о цели в будущем, когда ИИ будет полностью автоматизирован.

Простая трехфакторная модель

Рассмотрим очень простую трехфакторную модель, в которой экономический продукт производится путем объединения труда, капитала и того, что принято называть "землей". Под землей здесь понимаются любые нетрудовые ресурсы, которые мы не можем произвести в большем количестве, то есть не только площадь поверхности планеты, но и другие основные природные ресурсы. Мы рассмотрим экстремальный сценарий, в котором доля дохода, приходящаяся на труд, равна нулю, и, следовательно, совокупная доля капитала и земли составляет сто процентов.

Сначала рассмотрим, что произойдет, если предположить, что население не меняется, технологический прогресс отсутствует, а земли не увеличиваются, но происходит неожиданное потрясение, а именно внезапное изобретение дешевых роботов, которые идеально заменяют весь человеческий труд. Мы также предположим полностью конкурентную экономику без монопольной ренты и полностью надежные права собственности (и что роботы остаются под контролем человека).

Начнем с экономики с полной занятостью людей. Затем изобретаются совершенные роботы. Это приводит к притоку огромного количества капитала в сектор робототехники, и количество роботов быстро растет. Построить или арендовать робота дешевле, чем нанять человека. Поначалу роботов не хватает, поэтому они не сразу заменяют всех работников-людей. Но по мере того как их количество растет, а стоимость снижается, роботы повсеместно заменяют людей.

Тем не менее, средний доход людей высок и постоянно растет. Это происходит потому, что люди владеют всем, а экономика быстро растет благодаря успешной автоматизации человеческого труда. Капитал и земля становятся чрезвычайно производительными.

Капитал продолжает накапливаться, и в конце концов единственным дефицитным ресурсом становится земля. Если вы хотите представить себе это состояние, то вообразите, что каждый уголок заполнен разумными роботами. Роботы производят поток товаров и услуг для потребления людьми, а также строят роботов, обслуживают и ремонтируют существующий парк роботов. Когда земли становится мало, производство новых роботов замедляется, поскольку их негде разместить или нет сырья для их создания - или, что более реалистично, им нечего делать, чего не могли бы с равным успехом сделать уже существующие роботы. Нефизические капитальные блага могут продолжать накапливаться, такие как фильмы, романы и математические теоремы.

Здесь нет рабочих мест, люди не трудятся, но в совокупности они получают доход от аренды земли и интеллектуальной собственности. Средний доход чрезвычайно высок. Модель ничего не говорит о его распределении.

Даже если экономический труд для человека больше невозможен, между людьми может продолжаться переток богатства. Нетерпеливые люди продают землю и другие активы для того, чтобы спровоцировать всплеск потребления; в то время как более ориентированные на долгосрочную перспективу люди откладывают большую часть своего инвестиционного дохода, чтобы увеличить свое богатство и в конечном итоге насладиться большим общим объемом потребления. Другим способом подняться в рейтинге богатства в этом устойчивом состоянии экономики может быть кража собственности людей или стран или лоббирование правительств с целью перераспределения богатства. Подарки и наследство также могут способствовать перемещению богатства. А помимо этих источников экономической мобильности, всегда есть стол для игры в кости и рулетка.

Может быть, все это кажется немного диким?

Но обратите внимание, что если заменить слово "робот" на слово "фермер", то получится неплохое описание большей части человеческой истории.

В равновесном состоянии и фермеры, и роботы получают доход на уровне прожиточного минимума. В случае с фермерами это означает, что хлеба достаточно, чтобы вырастить двух воспроизводящихся детей на пару. В случае с роботами это означает, что доход, получаемый каждым роботом, равен затратам на его производство и эксплуатацию.

В этой аналогии землевладельцы-аристократы прошлого соответствуют богатому человеческому населению будущего, которое, как и их исторические собратья, извлекает ренту из своих земельных владений.

Что позволяет среднему доходу будущих людей в этой модели подняться выше прожиточного минимума, так это условие, что человеческая популяция ограничена. Если бы численность людей (как и численность роботов) могла свободно расти, то средний доход человека упал бы до уровня прожиточного минимума (как и доход роботов падает до уровня их прожиточного минимума), когда численность человеческой популяции достигнет своего эволюционного равновесия.

Тогда мы получим ситуацию, в которой будет огромное количество роботов, огромное количество людей, очень высокий мировой ВВП и средний доход на уровне прожиточного минимума. По сути, это будет просто увеличенная версия мрачной картины мира, которую представил Томас Мальтус.

Эта простая трехфакторная модель делает ряд предположений, которые, конечно, можно подвергнуть сомнению.

Предположения об отсутствии технологического прогресса и увеличении площади земли, на мой взгляд, менее шаткие, чем может показаться на первый взгляд. Я ожидаю, что скорость экономически значимого технологического прогресса в конечном счете будет асимптотична к нулю (когда большинство полезных изобретений уже будет сделано). Рост территории (за счет колонизации космоса) будет асимптотичен полиномиальной скорости, поскольку объем сферы, достижимой с Земли к определенному времени, ограничен скоростью света. В очень долгосрочной перспективе рост суши будет асимптотически равен нулю, поскольку расширение пространства означает, что достаточно удаленные галактики навсегда останутся недостижимыми с нашей точки отсчета. Но даже в течение длительного периода, когда полиномиальная скорость роста земли может поддерживаться, легко может произойти снижение среднего дохода до прожиточного минимума, поскольку население способно расти с экспоненциальной скоростью.

Предположение о том, что люди будут по-прежнему идеально контролировать роботов, определенно вызывает сомнения, хотя я и не собираюсь обсуждать его в этих лекциях. Если это предположение будет смягчено, то результат будет либо таким же, как и выше, только с несколько меньшей численностью людей и несколько большей численностью роботов в равновесии; либо, в случае более полного отказа контроля, человеческая популяция может исчезнуть совсем, а роботов станет еще больше.

Кстати, когда я говорю о "популяции роботов" или "количестве роботов", я имею в виду факторную долю сектора автоматизации в экономике. Вместо популяции, состоящей из определенного количества независимых роботов, это может быть одна интегрированная система искусственного интеллекта, которая управляет расширяющейся инфраструктурой производственных узлов и исполнительных механизмов.

Еще одно допущение в простой трехфакторной модели - полное сохранение прав собственности и отсутствие, например, программы перераспределения или системы социального обеспечения. И мы еще не рассматривали экономическое неравенство внутри человеческой популяции. Давайте потыкаем еще...

(Может показаться, что мы заходим немного в сторону, но если вы размышляете о возможном будущем, которое включает в себя понятия устойчивого изобилия, полезно знать об этих соображениях и ограничениях. Это также поможет нам прояснить прошлое состояние человека и тем самым создать фон, на котором утопические устремления будут выглядеть более рельефно. И это начинает иллюстрировать многочисленные и разнообразные способы, которыми стремление к лучшему миру и утопия часто парадоксальны).

Парадоксы мальтузианского мира

Мы часто думаем, что экономическое неравенство - это плохо. Однако в мальтузианском контексте у него есть и положительная сторона.

При неограниченном росте населения неравенство - единственный способ обеспечить хотя бы некоторую часть населения доходами, постоянно превышающими прожиточный минимум. Если вы считаете, что по своей сути важно, чтобы в жизни было хотя бы несколько человек, которые наслаждаются прекрасными вещами, то такое неравное положение можно считать лучшим, чем то, при котором существует несколько большее число людей, но все живут "музаком и картошкой" (если воспользоваться фразой Дерека Парфита). Исторически сложилось так, что наличие богатых людей, которые могли бы покровительствовать искусству и науке и создавать очаги привилегий, достаточно изолированные от непосредственной борьбы за выживание, чтобы можно было вкладывать деньги в новые вещи и пробовать их.

Вы можете подумать, что в мальтузианском равновесии средний доход, очевидно, будет выше при наличии неравенства - ведь если неравенства нет, то все получают прожиточный минимум, а если неравенство есть, то по крайней мере некоторые люди имеют доход выше прожиточного минимума. Однако все не так однозначно.

Подумайте о том, что при наличии неравенства классы, получающие доход выше прожиточного минимума, например, землевладельческая элита, воспроизводятся на уровне выше уровня воспроизводства. Поэтому некоторые из их детей должны покинуть класс, в котором они родились, и попасть в более низкую страту. Такая "утечка" населения из высших классов в низшие предполагает, что средний доход среди низших классов в устойчивом состоянии ниже прожиточного минимума, поскольку в противном случае общая численность населения увеличилась бы. Таким образом, в этой модели крестьянский класс имеет доход ниже прожиточного минимума, но его численность остается постоянной, поскольку он постоянно пополняется сверху за счет капель избыточного потомства, падающего из нижнего слоя землевладельческой элиты.

(Мы можем сравнить эту ситуацию с куском льда, плавающим в воде. Если у нас есть тонкий плоский лист льда - идеальное равенство - все кристаллы льда будут находиться у поверхности воды: на уровне голого пропитания. Если же мы имеем высокую и заостренную форму льда, айсберг, то некоторые его части могут торчать высоко над поверхностью, наслаждаясь экономическим изобилием; но это неизбежно угнетает другие части льда до уровня доходов ниже прожиточного минимума).

Однако неравенство может повысить средний доход в мальтузианском равновесии, если мы предположим, что связь между доходом и приспособленностью не линейна. Это легче всего понять, если рассмотреть экстремальный пример: король и королева имеют доход в 100 000 раз больше, чем крестьянская пара, но при этом у королевской пары не будет в 100 000 раз больше выживших детей. Таким образом, неравенство, вероятно, увеличит средний доход в мальтузианском устойчивом состоянии.

С другой стороны, неравенство может снижать среднее благосостояние, поскольку благосостояние человека не пропорционально его доходу, а, скорее, логарифму его дохода или другой подобной функциональной форме быстро убывающей отдачи. Если король и королева получили несколько новых данников и увеличили свой доход в десять раз, их ожидаемое благосостояние, предположительно, увеличится не в 10 раз, а гораздо меньше.

В реальности мальтузианское состояние было лишь приблизительно приближено. Оно часто нарушалось экзогенными потрясениями. Время от времени чума, голод, резня уничтожали стадо, тем самым увеличивая количество земли и капитала, доступных каждому из оставшихся в живых. На какое-то время даже большинство могло получать доходы, значительно превышающие прожиточный минимум. Улучшение комфорта привело к снижению детской смертности, в результате чего население снова выросло до такой степени, что земли снова стало не хватать, и доход среднего фермера вернулся к прожиточному минимуму - или чуть ниже, учитывая существование экономического неравенства.

Каково это - жить в мальтузианских условиях? Простые предположения, которые мы делали до сих пор, не позволяют нам вывести какое-либо общее утверждение на этот счет.

Например, вы можете создать модель колебаний удачи в течение жизни, в которой человек умирает, если в какой-то момент его удача опускается ниже определенного порога. В такой модели человеку может потребоваться высокий средний уровень благосостояния, чтобы выжить достаточно долго для успешного размножения. Таким образом, большинство периодов жизни будут временем относительного изобилия.

В этой модели изобретения, сглаживающие удачу в течение жизни, - например, зернохранилища, позволяющие сохранять излишки в хорошие времена и использовать их в трудные, - приводят к снижению среднего уровня благосостояния (при одновременном увеличении численности населения). Это может быть одним из факторов, из-за которого жизнь ранних фермеров была хуже, чем жизнь их предшественников-охотников-собирателей, несмотря на технологический прогресс, который представляло собой сельское хозяйство. Эти зернохранилища сглаживали потребление, позволяя фермерам выживать достаточно долго, чтобы размножаться, даже если их средний доход за всю жизнь был чуть выше прожиточного минимума. Без возможности хранить продукты питания средние условия должны были бы быть довольно хорошими, чтобы во время временных спадов можно было выжить.

Дело не только в зернохранилищах. Другие формы "прогресса", включая такие социальные институты, как программы социального обеспечения, которые уменьшают вариативность либо в популяции, либо в пределах продолжительности жизни отдельного человека, в мальтузианских условиях имели бы столь же парадоксальный эффект.

Например, мир. Рассмотрим идеологическое развитие, способствующее более мирным отношениям между группами и отдельными людьми: доктрину любви к ближнему; или усовершенствованные нормы разрешения конфликтов, позволяющие разрешать больше разногласий путем аргументированных дебатов и компромиссов, а не кулаком или мечом. Что может быть более благотворным? И все же... такие улучшения могли на самом деле негативно сказаться на среднем уровне благосостояния, поскольку равновесие установилось таким образом, что смерти, необходимые для поддержания численности человеческой популяции на заданном уровне, происходят от нищеты, хронического недоедания и физиологического истощения, а не от случайного удара топором по черепу людей, которые в остальное время живут в легкости и комфорте.

Подъем и спад на разных временных отрезках

В таком мальтузианском мире - мире наших предков на протяжении доисторического периода и большей части истории, а также наших собратьев по животному миру - многие наши интуитивные представления о том, что будет способствовать всеобщему счастью, ошибочны. Как утверждают ведьмы, "справедливое - плохое, а плохое - справедливое". И наивная доброжелательность сбита с толку и озадачена.

Однако мы можем добиться некоторого понимания, если разделим динамику, которая разворачивается в разных временных масштабах.

Краткосрочная перспектива

Меньше времени, чем требуется населению, чтобы перестроиться после шока; несколько поколений. Лучшее хранение продовольствия и разрешение конфликтов повышают среднее благосостояние. Справедливость есть справедливость.

Среднесрочная перспектива

Это временная шкала, неявно предполагаемая в нашем обсуждении выше. Через сто лет или около того после некоторого нововведения, уменьшающего дисперсию, например, улучшения хранения продовольствия, социального обеспечения или мирной идеологии, достигается новое, менее изменчивое мальтузианское состояние. В этом новом равновесии средний уровень благосостояния ниже, чем раньше. Справедливое - нечестное.

Однако население больше. Так что если вы являетесь абсолютным утилитаристом, вы можете быть довольны таким компромиссом - при условии, конечно, что средняя жизнь в этом состоянии выше нулевой линии (то есть, по крайней мере, достойна жизни) и что количество дополнительных людей, живущих теперь в крайней бедности, достаточно велико, чтобы компенсировать тот факт, что все живут в еще большей бедности, чем их (уже очень бедные) предшественники.

Долгосрочная перспектива

В более широком историческом плане кажется, что сельское хозяйство, хранение продуктов питания и механизмы разрешения локальных конфликтов (такие как государства) были на пути к промышленной революции. Промышленная революция очень важна, поскольку с этого момента экономический рост был достаточно быстрым, чтобы опережать рост населения, что позволило человечеству избежать мальтузианского состояния: очень большое благословение! Хотя мы провели в этом освобожденном состоянии всего несколько сотен лет - а во многих частях света и того меньше, - оно, тем не менее, определило жизненный опыт значительной и быстро растущей части всех людей, когда-либо рождавшихся на свет. Из примерно 100 миллиардов людей, которые когда-либо жили, более 10 миллиардов были постмальтузианцами. При стандартной демографической экстраполяции эта цифра будет стремительно расти, поскольку сейчас живы примерно 5 или 10 % всех людей, которые когда-либо рождались, и почти все современные человеческие популяции вырвались из мальтузианской ловушки.27 Таким образом, на сегодняшний день около 10% человеческих жизней были (или являются) постмальтузианскими; и эта доля увеличивается со скоростью около 10 процентных пунктов в столетие.

С этой долгосрочной точки зрения справедливость снова справедлива. По крайней мере, прошлые реформы и улучшения, которые могли снизить среднее благосостояние, были на пути к чему-то гораздо лучшему - миру, где много людей, но мало кто из них умирает от голода, и где большинство людей имеют доступ хотя бы к зачаткам достойного человеческого существования.

Еще более долгосрочная перспектива

А что касается того, что мы можем назвать "глубоким будущим"... что ж, жюри еще не определилось.

Я думаю, вы можете доказать, что мудрость и широкомасштабное сотрудничество - это два качества, которые в настоящее время наиболее необходимы для обеспечения великого будущего нашей цивилизации, движущейся по земному пути. Я также думаю, что богатство, стабильность, безопасность и мир лучше сочетаются с мудростью и глобальным сотрудничеством, чем с их противоположностями. И поэтому мы должны приветствовать прогресс в этих направлениях не только потому, что он полезен для нас сейчас, но и потому, что он полезен для будущего человечества.

Это не означает, что более ранний прогресс в этих направлениях был бы полезен для будущего человечества. Возможно, если бы мой вид дольше оставался в "бедных, мерзких, жестоких" условиях, в которых мои предки превратились в людей, прежде чем вступить в индустриальную эпоху, мы бы эволюционировали, генетически или культурно, чтобы стать "более человечными", чем мы есть на самом деле? Может быть, мы вышли из печи слишком рано? Может быть, мы были бы лучше подготовлены к последнему прыжку в эру машинного интеллекта, если бы провели еще несколько сотен тысяч лет, бросая копья и рассказывая сказки у костра?

Возможно, а возможно, и нет. Об этих вопросах известно очень мало. Мы все еще находимся в удивительном неведении относительно основной макростратегической направленности событий. Воистину, я задаюсь вопросом, можем ли мы вообще отличить верх от низа.

Превосходство

Следует также отметить, что даже если мы указываем уровень дохода, то еще вопрос, чему он соответствует с точки зрения материального благосостояния.

Ответ зависит от социально-экономического контекста. Рассмотрим охотника-собирателя, молодого, здорового, уважаемого члена своей группы, который по несколько часов в день работает на охоте, изготавливает стрелы и украшения, готовит еду и чинит крышу семейной хижины: он, вероятно, пользуется гораздо большим благосостоянием, чем, скажем, английский ребенок-рабочий времен ранней промышленной революции, который получает такой же доход, как и охотник-собиратель (то есть прожиточный минимум), но зарабатывает его, работая в угольной шахте по двенадцать часов в день и страдая от болезни черных легких.

Если говорить о материальном благополучии, то еще вопрос, чему оно соответствует с точки зрения субъективного благополучия. Здесь огромное влияние оказывает индивидуальная психология. Два человека могут жить практически в одинаковых условиях - иметь схожую работу, здоровье, семейное положение и так далее - и при этом один из них может быть гораздо счастливее другого. Одни люди по темпераменту свинцовые, тревожные или неспокойные, другие, наделенные природной жизнерадостностью, остаются веселыми и невозмутимыми, даже когда их объективные обстоятельства весьма плачевны.

Еще один вопрос - как уровень дохода может коррелировать с различными понятиями "объективного благополучия" (также называемого "процветанием" или "эвдаймонией"): то есть не только с тем, насколько человек удовлетворен своей жизнью или насколько приятны его душевные состояния, но и с тем, насколько богата его жизнь различными предполагаемыми объективными благами - такими как знания, достижения, красота, добродетель, дружба и т. д., - которые, как утверждают некоторые философы, вносят положительный вклад в то, насколько хорошо проходит для человека его жизнь и насколько эта жизнь благоразумно желательна. Некоторые из таких концепций объективного благополучия могут демонстрировать нелинейную зависимость от дохода; например, такую, при которой очень низкие доходы ассоциируются с меньшим объективным благополучием (поскольку крайняя бедность препятствует развитию и использованию человеческих способностей), но при этом чрезмерно высокие доходы также могут быть неблагоприятными (поскольку роскошь порождает упадок и порок).

Рассмотрим, например, перфекционистский взгляд на то, что делает жизнь прекрасной. Перфекционистские взгляды бывают разными; они могут, например, находить ценность в развитии ярко выраженных человеческих способностей, или в высоких достижениях в моральной, интеллектуальной, художественной или культурной сфере, или в целом в достижении или реализации "лучших вещей в жизни". В зависимости от того, какой версии перфекционизма придерживается человек, можно сделать особый акцент при оценке потенциала утопического видения на том, насколько оно хорошо с точки зрения производства великих людей или возможности достижения самых высоких вершин совершенства.

Непонятно, как с такой перфекционистской точки зрения следует относиться к прошлому прогрессу на пути к миру, равенству и процветанию. С одной стороны, он дал большему числу людей основные материальные потребности и предоставил им возможность попытаться стать великими; с другой стороны, он, возможно, лишил их безумной мотивации к этому. Вспоминаются знаменитые строки, произнесенные Гарри Лаймом в фильме "Третий человек":

"Знаете, что он сказал: в Италии в течение тридцати лет при Борджиа были войны, террор, убийства и кровопролитие, но они создали Микеланджело, Леонардо да Винчи и Ренессанс. В Швейцарии была братская любовь, пятьсот лет демократии и мира - и что же получилось? Часы с кукушкой".

Слова, которые, возможно, с удовольствием написал бы Ницше (хотя ему самому больше нравилось проводить время в швейцарских Альпах). И было бы справедливо отметить, что многие другие места, кроме Италии времен Борджиа, имели свою долю войн, террора, убийств и кровопролития, не породив никакого Ренессанса.

Я думаю, что подобные перфекционистские успехи и достижения действительно имеют значение.

Однако я также считаю, что мы склонны переоценивать их значение. Их привлекательность наиболее сильна, когда мы смотрим на вещи издалека и со стороны - как если бы мы были критиками, сидящими в зале и выносящими суждение о сценической постановке или фильме. Находясь в зрительском кресле, мы предпочитаем историю, полную волнений, кризисов, конфликтов и великих побед, а не ту, в которой все герои просто живут в легком довольстве. Но это не та перспектива, с которой следует оценивать утопию. Ведь вопрос заключается не в том, насколько интересна утопия с точки зрения взгляда, а скорее в том, насколько хорошо в ней жить.

Дисквилибрия

Как у меня со временем, дайте подумать; не очень... Ладно, на чем я остановился?

Студент: Третий человек - часы с кукушкой.

Бостром: Нет, до этого.

Кельвин: Автоматизация труда в рамках трехфакторной модели производства, а затем влияние зернохранилищ и других инноваций на среднее благосостояние людей в различных временных масштабах.

Бостром: Верно. Итак, мы говорили о простой экономической модели, в которой роботы могут более эффективно делать все, что может делать человек. Люди не получают никакого дохода, работая, но получают доход от земли. Этот доход был бы очень велик, и стены можно было бы строить из сосисок - настоящих, выращенных в чанах, как мы можем предположить.

Но, опять же, с этим выводом связаны определенные временные рамки.

Представьте, что все живут в роскоши, с доходами, намного превышающими прожиточный минимум. Это означает, что в конечном итоге - при отсутствии согласованных ограничений на рост населения - человеческая популяция увеличится, и средний доход человека снова опустится до уровня прожиточного минимума. Если существует неравенство, то могут сохраниться карманы привилегий, в которых некоторые люди будут получать доход выше прожиточного минимума; но обычный человек впадет в нищету. Эпоха изобилия закончится и, возможно, никогда не вернется. Всего лишь вспышка на сковороде в долгой темной ночи.

Есть вопросы по этому моменту? -Да, там.

Студент: Разве люди не заводят меньше детей, когда становятся богаче?

Бостром: Некоторые делают это, а некоторые нет. В этой модели будущее будет населено в основном потомками тех, кто решил иметь много детей, а не тех, кто ограничивает свою репродуктивную функцию. -Да, вы.

Другой студент: Я думал, что проблема в том, что люди не рожают достаточно детей, поэтому не будет достаточно молодых людей, чтобы заботиться о пожилых.

Бостром: Ну, это та проблема, о которой некоторые люди говорят сейчас. Еще не так давно люди говорили о проблеме перенаселения. Перенаселение занимало в нашем коллективном сознании то же место, что сегодня занимает изменение климата (соседствуя с ядерным Армагеддоном). Например, Пол Эрлих написал трактат "Населенческая бомба". Он был опубликован в 1968 году и разошелся тиражом более двух миллионов экземпляров. Он пользовался большим влиянием среди интеллигенции. До этого момента население планеты росло в геометрической прогрессии. По иронии судьбы, в том же году, когда вышел бестселлер Эрлиха, линия тренда пошла в обратную сторону, и с тех пор рост населения планеты замедлился - теперь, похоже, мы движемся к демографическому коллапсу.

Студент: Итак, теперь я запутался - вы говорите, что проблема в перенаселении или в недонаселении?

Бостром: Ну, они оба, кажется, могут быть проблемами?

Студент: Но их слишком много или слишком мало? О ком из них нам следует беспокоиться?

Бостром: Может быть, и то, и другое? Например, их может быть слишком много в одном месте и слишком мало в другом; слишком много в одно время и слишком мало в другое.

Даже если рассматривать население мира как единую переменную, мы все равно можем опасаться, что в какой-то момент оно катастрофически отклонится в одну или другую сторону. Как мяч, катящийся по узкой балке: мы можем быть уверены, что в конце концов он упадет, хотя и не знаем, будет ли проблема в том, что он отклонился слишком далеко влево или слишком далеко вправо.

Или, если можно предложить другую метафору, человечество едет на спине некоего хаотического зверя огромной силы, который брыкается, извивается, заряжается, брыкается, брыкается, брыкается. Этот зверь не представляет природу; он представляет динамику эмерджентного поведения нашей собственной цивилизации, опосредованное технологиями и культурой теоретико-игровое взаимодействие между миллиардами индивидов, групп и институтов. Никто не контролирует ситуацию. Мы держимся изо всех сил, пока можем: но в любой момент, возможно, если мы не так или не по той причине толкнем этот джаггернаут, он может бросить нас в пыль, быстро пожав плечами, и, возможно, покалечить или затоптать нас до смерти. Ситуация по своей сути рискованная и нервная, а не скучная.

Другой студент: Кажется, я понимаю, о чем вы говорите. Вы говорите, что мы не контролируем численность населения, поэтому оно может стать либо слишком большим, либо слишком маленьким?

Бостром: Да, такого контроля не хватает. Но проблема и гораздо более общая, и более глубокая. Более общая, потому что из-под контроля выходит не только численность населения, но и множество других критических параметров - например, наши военные вооружения, развитие технологий, загрязнение окружающей среды, наша меметическая экология. И проблема еще глубже, потому что даже если мы создадим некий глобальный механизм контроля над этими вещами, например, достаточно полномочное мировое правительство - тогда мы должны будем спросить о силах, контролирующих этот механизм: как они контролируются? Соревнуются ли различные фракции, идеологии и особые интересы за власть над румпелем? Какая вредная или опасная динамика может возникнуть в результате этой конкуренции?

Или предположим, что мы передали контроль над Землей в руки одного человека или какого-то другого единого субъекта? Нетрудно представить, что в этом случае может пойти не так.

В итоге получается, что если мы хотим постулировать утопическое состояние - а мы хотим это сделать, чтобы исследовать увлекательные проблемы цели и ценности, которые возникнут в таком состоянии, - то недостаточно предусмотреть значительный рост экономической производительности. Это может быть необходимым условием, но точно не достаточным. Недостаточно также, если мы предусмотрим повсеместный технологический прогресс. Важно, чтобы и в социальной, и в политической сферах все шло своим чередом. Без прогресса в том, как наша цивилизация управляет собой, рост нашей материальной мощи может легко ухудшить ситуацию вместо того, чтобы улучшить; и даже если утопическое состояние будет достигнуто, оно, скорее всего, будет нестабильным и недолговечным, если, как минимум, не будут решены самые серьезные из наших глобальных проблем координации.

-У нас есть еще один вопрос.

Какой-то студент: Не стоит складывать все яйца в одну корзину. Не лучше ли регулировать эти вещи на местном уровне? В каждой стране могли бы быть свои правила.

Бостром: Обычно это не работает при наличии глобальных внешних эффектов. Если одна страна в одностороннем порядке разоружится, она подвергнет себя риску оказаться под господством какой-нибудь другой страны, наращивающей свои вооруженные силы. Или, в случае проблемы перенаселения, которую мы обсуждали, экстерналии принимают форму моральной озабоченности: если одна страна попадет в мальтузианскую ловушку, это будет проблемой для других стран, поскольку они заботятся о благосостоянии людей, которые там живут.

В этом, кстати, заключается одна из асимметрий между проблемой перенаселения и проблемой недонаселения: в первом случае существуют люди, которым плохо живется, в то время как во втором случае не существует людей, которым было бы хорошо жить, если бы они родились. Нас чаще беспокоит первое, чем второе. Поэтому может показаться, что перенаселение с большей вероятностью будет иметь моральные внешние последствия.

Еще одна асимметрия между перенаселением и недонаселением заключается в том, что первое, но не второе, является эволюционным равновесием. Если не регулировать воспроизводство, можно ожидать, что рано или поздно появятся более плодовитые варианты, которые будут размножаться до тех пор, пока не восстановится мальтузианское состояние.

Можно представить, что культурные или технологические инновации на некоторое время избавят нас от этого призрака. Возможно, компьютерные игры станут настолько захватывающими, что мы не будем особо утруждать себя воспроизводством. Но, предположительно, некоторые группы решат завести детей. Возможно, они решат, что компьютерные игры - это табу. Эти группы или те из них, которые достигнут достаточно низкого уровня оттока людей из группы, станут наследниками будущего, и именно их поведение и ценности будут определять долгосрочную динамику численности населения. Таким образом, население Земли снова начнет расти, и Мальтус будет оправдан.

Переход к ИИ не обязательно устранит эту динамику. Биологические человеческие популяции могут продолжать расти по экспоненте, и, конечно, популяции цифровых разумов также могут расти по экспоненте и с еще более коротким временем удвоения. Похоже, что в конечном итоге только глобальная координация может решить эту проблему, так же как организму нужны средства защиты от рака, которые не зависят полностью от доброты клеток. То же самое можно сказать и о проблеме войны, и о других проблемах, которые могут возникнуть в результате ненаправленной конкуренции и оптимизации.

Экономия на масштабе

Чтобы устойчиво повышать уровень жизни животных в дикой природе и в нашем обществе, необходимо контролировать численность популяции. Вы можете помочь голодным голубям, покормив их. В следующем году голубей будет еще больше, а в следующем - еще больше. Вы не можете обогнать это. Но если число вылупляющихся голубей будет ограничено числом умирающих голубей, то все голуби смогут стабильно существовать на уровне выше прожиточного минимума.

То, что легко увидеть в случае с голубями, сложнее увидеть в случае с людьми по нескольким причинам (помимо культурно-специфических слепых пятен):

Цикл человеческих поколений длиннее, поэтому динамика разворачивается в более широком временном масштабе, что делает ее более сложной для восприятия.

Человеческая культура дает человеческим обществам больше степеней свободы, чем голубиным сообществам. И оказывается, что поначалу культурные явления - демографический переход - тормозят размножение человека, когда условия становятся изобильными. Культурному и генетическому отбору может потребоваться много поколений, чтобы преодолеть это первоначальное препятствие.

Экономическая производительность человека демонстрирует гораздо большую экономию от масштаба. Голубям выгодно быть частью стаи или колонии, потому что они могут узнать о местах и методах добычи корма и разделить труд по наблюдению за хищниками. Люди же могут учиться друг у друга практически неограниченному количеству знаний по широкому спектру экономически значимых предметов. Люди также способны извлекать гораздо больше выгоды из разделения труда. Эти огромные количественные различия в экономии от масштаба для людей и голубей скрывают основное качественное сходство: в конечном итоге, если технология будет стагнировать, земля должна стать ограничивающим фактором производства.

Первый из них очевиден, а второй мы уже обсудили. Я хочу немного остановиться на третьем.

Масштаб важен для экономики. На самом деле мы можем убедиться в важности масштаба уже на примере некоторых базовых физических процессов. Например, объем контейнера растет быстрее, чем площадь его стенки. Этот простой геометрический факт, известный как "закон квадратного куба", имеет множество последствий. Если вы хотите хранить какое-то количество вещей, то дешевле (с точки зрения количества необходимого материала) хранить их в одном большом контейнере, чем во множестве маленьких. Точно так же толстые трубы более эффективны, чем тонкие. Так же как и большие корабли: потери от сопротивления воды меньше на единицу груза для больших кораблей. Точно так же большие печи тратят меньше тепла. И так далее. Таким образом, масштабное производство ведет к снижению удельных затрат.

Более того, большие социальные масштабы позволяют повысить специализацию, что повышает эффективность. Рассмотрим глобальную цепочку поставок, необходимую для производства передового микропроцессора, и множество видов специализированных знаний и оборудования, которые в ней задействованы. Чтобы поддерживать все эти постоянные расходы, необходимо иметь большую клиентскую базу. Население планеты в сто миллионов человек может оказаться недостаточным для того, чтобы производство всех необходимых ресурсов стало возможным и выгодным.

Еще одно важное следствие масштаба заключается в том, что затраты на производство неисключительных товаров, таких как идеи, могут быть амортизированы на большую базу пользователей. Чем больше людей, тем больше мозгов, способных создавать изобретения, и тем выше ценность каждого конкретного изобретения, поскольку оно может быть использовано на благо большего числа людей.

Таким образом, чем больше население планеты, тем выше темпы интеллектуального и технологического прогресса, а значит, и темпы экономического роста.

Но это не совсем верно. Скорее, следовало бы сказать: чем больше население планеты, тем сильнее, по нашему мнению, должны быть движущие силы интеллектуального и технологического прогресса. Фактические темпы прогресса будут зависеть также от того, насколько трудно добиться прогресса. А это будет зависеть от времени. В частности, можно ожидать, что с течением времени это будет все труднее, поскольку в первую очередь срываются самые низко висящие плоды.

Таким образом, существуют два конкурирующих фактора. Население планеты начинается с малого: на дереве идей есть низко висящие плоды, но общее усилие, затраченное на их срывание, невелико. Позже население планеты становится намного больше: низко висящие плоды исчезают, но гораздо больше усилий прилагается для того, чтобы добраться до оставшихся плодов. Априори неясно, какой из двух факторов должен доминировать. Модель не предсказывает, ускоряется или замедляется технологический прогресс.

Если посмотреть на этот вопрос эмпирически, то мы увидим, что прогресс на самом деле ускорялся на макроисторических временных масштабах. Когда человеческий вид впервые эволюционировал, и в течение последующих сотен тысяч лет популяции были небольшими (может быть, полмиллиона), а прогресс был настолько медленным, что тысячелетия проходили практически без изменений в технологиях.

Затем, после сельскохозяйственной революции, человеческая популяция увеличилась, а темпы технологического прогресса стали намного выше: теперь мировая экономика удваивается примерно раз в 1000 лет. Это было резкое ускорение. Но по современным меркам прогресс все еще оставался ледниковым.

Он был настолько медленным, что современные наблюдатели не заметили его. Его можно было обнаружить, только сравнив технологические возможности за длительный период времени, но данных, необходимых для такого сравнения, - подробных исторических рассказов, археологических раскопок с углеродным датированием и тому подобного - не было. Поэтому в восприятии истории древними людьми не наблюдалось никакой тенденции к технологическому прогрессу. Как заметил историк экономической мысли Роберт Хейлбронер:

"На самой вершине первых стратифицированных обществ грезились династические мечты и видения триумфа или гибели; но в папирусах и клинописных табличках, на которых были записаны эти надежды и страхи, нет ни малейшего упоминания о том, что они предусматривали хоть в малейшей степени изменения в материальных условиях жизни широких масс или, тем более, самого правящего класса".

Если гипотезы о макротренде и выдвигались, то они обычно основывались на предпосылке об ухудшении. Здесь мы имеем дело с идеей "падения": изгнания из сада изобилия или светского упадка по сравнению с ранее вменяемым "золотым веком". Большая стрела истории воспринималась как ржавая и уходящая вниз. Или, наоборот (например, в древнеиндийской и китайской традициях), стрела истории загибается назад, образуя циклическую концепцию исторического времени, в которой уровень жизни растет и падает в постоянно повторяющейся волнообразной динамике.

Подобные представления о том, что мы находимся на склоне, могли отражать смутную коллективную память или, возможно, примитивный антропологический рассказ о том, что было потеряно при переходе от фуражировки к земледелию. Историю катастрофического падения уровня жизни в результате аграрной революции можно прочесть в скелетных останках тех ранних фермеров. Их кости свидетельствуют об отставании в росте и недостатке питательных веществ по сравнению с их палеолитическими предками.

Это, кстати, хорошая - и потому печальная - иллюстрация мальтузианской динамики, о которой мы говорили ранее: огромный экономический рост, который не привел к улучшению среднего благосостояния, поскольку увеличение производства съедалось ростом населения. На самом деле, это не только не улучшило положение людей, но даже ухудшило их жизнь. Причина очевидного ухудшения качества жизни могла заключаться в том, что условия стали менее изменчивыми и/или что наиболее экономически эффективные модели питания и поведения в новых условиях стали менее увлекательными, менее питательными и менее соответствующими нашей биологической природе.

Таким образом, идея материального прогресса - это удивительно современное изобретение. Тем не менее, оглядываясь назад, мы видим, что за многие века технологический прогресс действительно имел место, что привело к 200-кратному увеличению мирового ВВП и численности населения планеты - эти два показателя в мальтузианских условиях были эквивалентны - за последние 10 000 лет до начала промышленной революции; а затем к еще 100-кратному увеличению мирового ВВП и 10-кратному увеличению численности населения планеты - и, следовательно, 10-кратному увеличению среднего дохода - с начала промышленной революции до настоящего времени. Время удвоения мировой экономики составило около десятков тысяч лет для охотников-собирателей; около тысячи лет для земледельцев; и около тридцати лет для человечества индустриальной эпохи.

В последние несколько сотен лет, когда вокруг нас стало гораздо больше людей, чем когда-либо прежде, сплетенных торговлей и коммуникациями во взаимосвязанный мировой гобелен, изобретения стали появляться с бешеной скоростью. Мы склонны считать это состояние нормальным, но если мы увеличим масштаб, то увидим, что это самая удивительная аномалия. Как будто наша цивилизация - это пороховая бочка, и мы наблюдаем за ней в самый момент воспламенения.

Итак, давайте подведем итоги. Мы начали с рассмотрения самого основного типа утопии - материального изобилия - и обратились к знаменитому прогнозу Кейнса.

Нехватка времени

Студент: Профессор, кто-то стучит в дверь.

Бостром: О, точно. Мы не успеваем. Это, должно быть, класс "Гастроподы Дагестанской области", ожидающий входа... Ого, эти малакологи прямо-таки сгорают от нетерпения. Если вдруг среди вас есть те, кто не останется на это занятие, давайте постараемся уйти побыстрее. Увидимся завтра!

В баню

Фирафикс: Профессор Бостром, извините, мы, вроде как, провалили лекцию... Есть ли шанс, что мы прослушаем курс, хотя мы не зарегистрированы?

Бостром: Нет, вы должны удалить из своей памяти все, что слышали и видели.

Фирафикс: -

Бостром: Конечно, приглашаем вас! Думаю, у меня осталось несколько копий завтрашнего чтения, если хотите. Это из переписки Федора Лиса. Вы читали ее? Дает представление о некоторых вещах, о которых мы сегодня говорили. [Должна быть здесь. Где-то... Здесь! Спасибо, что пришли, увидимся в следующий раз.

Фирафикс: Спасибо!

Тессиус: Мне нужно бежать. Завтра в то же время?

Кельвин: Я не смогу прийти. У меня похороны.

Тессиус: О, простите.

Это не тот, кого я знал. Это друг моего отца, но он хочет, чтобы я поехал с ним.

Тессий: Понятно. Ну, тогда в среду?

Фирафикс: Да, я уверена, что мы будем ходить на все лекции.

Кельвин: Ладно, поехали.

Фирафикс: Пока.

А теперь: горячие источники!

Федор Лис

Это было здорово.

Фирафикс: Я чувствую себя отдохнувшей и расслабленной.

И чисто. Хочешь заценить эту штуку с Федором Лисом?

Фирафикс: Да. Может, поднимемся на тот небольшой холм? Это будет хорошее место для чтения, и кажется, что там есть хорошая сочная трава.

Послание XII

Дорогой дядя Пастернаут,

Прошу простить, что с момента моего последнего письма прошло больше времени, чем обычно. Меня тяготит чувство вины и раскаяния за то, что я пренебрег нашей перепиской, тем более что, вернувшись домой, я обнаружил, что меня ждут несколько ваших писем, в которых выражается все возрастающая степень беспокойства и озабоченности моим благополучием. Я так недостойна такой заботы! Я очень сожалею, что причинил вам беспокойство, - это очень плохой и постыдный способ отплатить за ту доброту, которую вы мне оказали. Я могу только надеяться, что ваше щедрое сердце и впредь будет жалеть меня, и вы снова не будете обращать внимания на мои недостатки, как делали это всегда. Вы должны знать, что все обязательства, которые вы когда-то могли испытывать по отношению ко мне в память о моем отце, уже давно сняты, а все долги, которые вы когда-то могли иметь, выплачены с ростовщическими процентами.

Я попытаюсь ввести вас в курс дела. Вы помните, в каком мрачном настроении и смятенных мыслях я пребывал, как застопорилась моя учеба, как я забросил попытки освоить композицию, как я совершенно бесполезно философствовал. Со времени последнего письма со мной произошли странные вещи. Я отправился в путешествие - как в географическом смысле, так и в духовном.

Я не стану перечислять все ее повороты и изгибы - это в любом случае было бы недостойно вашего внимания. Я лишь попытаюсь набросать его общие очертания, несколько вех - некоторые детали которых настолько прочно запечатлелись в моей памяти, что мне кажется, будто я вижу их прямо перед собой, стоит мне поднять глаза от этого листа бумаги...

Это началось через несколько дней после встречи выпускников. Задумчивые размышления не давали мне покоя. Я ходил по комнате, садился и снова вставал. Я пытался сочинять, но мои мысли встречались в другом месте и отказывались приходить на вечеринку: лист оставался пустым. Вопросы, которые меня волновали, продолжали витать в воздухе, но я не мог добиться ни малейшего прогресса. Я задавался вопросом, почему меня создали с душой, способной удивляться, но не способной узнать; почему я вижу так много неправильного и при этом не могу ничего с этим поделать; почему я лис, а не червяк или утка; почему я жив сейчас, а не в какое-то другое время; и почему вообще существует хоть что-то, а не так, что ничего никогда не существовало, ни леса, ни Земли, ни Вселенной, что, как мне казалось, было бы гораздо более естественным состоянием, не говоря уже о том, что избавило бы всех от множества проблем. Я был озабочен такими немыслимыми вещами. И я не мог отбросить это, не мог успокоиться.

Однажды утром, после ночи, в течение которой мне едва удалось поспать, я принял решение: раз уж я не могу разобраться во всем сам, мне придется обратиться за помощью к кому-то другому - это был единственный вариант действий, который имел хоть малейший шанс на успех. Шансы были невелики, подумал я, ибо где я найду человека, с которым можно было бы поговорить об этих вещах, не говоря уже о том, кто все понял и смог бы объяснить это человеку с таким ограниченным интеллектом, как у меня? Перспективы казались не очень хорошими, но оставаться дома, похоже, было совсем не вариант.

Поэтому на следующий день я отправился в путь. Я решил разыскать старую ворону, которая живет у дуба на южном болоте, и спросить, не знает ли она кого-нибудь, с кем я мог бы поговорить. Я легко нашел ее, но она сказала, что не знает ни одного мудреца или мученицы. Однако она посоветовала мне пойти и поговорить с бобром Эгоном. Она рассказала мне, что он знаком со многими водоплавающими птицами, которые прилетают и улетают с его озера, и сплетничает с ними. В результате он обзавелся сетью знакомых, которая охватывает весь лес и не только. Говорят, что у него даже много друзей, которые живут в чужих краях, далеко-далеко.

Я отправился к Эгону, и действительно, старый ворон оказался прав! Эгон сказал, что знает одного человека - вернее, слышал о нем - который, как считается, обладал самым высоким интеллектом, пожалуй, во всем мире. Его звали Свинья Пигнолиус, и его мудрость была широко известна. Услышав это, я так обрадовался, что едва смог заставить себя спросить, где он живет. А вдруг он живет слишком далеко, даже в другой стране? Сердце заколотилось от страха: представить себе, что существует это существо, которое, возможно, поможет мне в моих поисках и объяснит, что к чему, и в то же время знать, что я никогда не смогу до него добраться! Это была почти невыносимая мысль. Должно быть, у меня на много секунд открылся рот, прежде чем я сумел прошептать единственное слово: "Где?".

Представьте себе мою радость и облегчение, когда Эгон сказал мне, что он живет довольно далеко, но не слишком! Идти придется долго, около двадцати дней, но это возможно. Он был в радиусе моего действия! Я от всего сердца поблагодарил Эгона и сказал, что если он встретит кого-нибудь, кто едет в том направлении, то может попросить передать Пиньолю, что кто-то едет к нему, чтобы он был предупрежден о моем приближении. Мне показалось, что, поскольку я приду без приглашения, было бы вежливо хотя бы заранее уведомить. Я не знал, как он отреагирует на то, что незнакомец явится к нему без предупреждения, - может быть, меня прогонят?

Следующие недели были физически напряженными. Я значительно похудел, а ноги и ступни болели от ходьбы. Но моя душа чувствовала странную легкость - такого ощущения я не испытывал уже давно. Хотя путешествие было сложным, я была уверена, что поступаю правильно, что это необходимо. Я не сомневался в себе. У меня была цель - пусть промежуточная, временная, но все же настоящая цель. Удивительно, как это меняет дело.

В конце концов я добрался до места, на которое указал Эгон, и стал расспрашивать, не знает ли кто-нибудь, как добраться до места, где живет Пигнолиус. Это было несложно, похоже, все знали, что это за свинья. Вскоре я уже шел по тропинке, и вот он, прямо передо мной! Принимает грязевую ванну! Я испугался, что пришел в неподходящий момент, и приготовился повернуть назад, но он, казалось, был совершенно не обеспокоен моим приближением, хотя и видел, что я иду. Я не знал, подойти или уйти, и в результате выбрал худший вариант из всех - неловкий компромисс: я просто стоял и смотрел на него, разинув пасть.

Как долго длилась эта неловкость, я не знаю и не хочу вспоминать. Через некоторое время Пиньолиус позвал меня спуститься. Тогда я подошел, и у нас состоялся следующий разговор. Слова, как мне кажется, близки к тем, что были произнесены; моя память обычно хорошо сохраняет записи, и этот эпизод я репетировал про себя больше раз, чем могу сосчитать.

Федор: Многоуважаемый Пиньолиус, я прибыл издалека, чтобы попросить у вас совета. Вот вам небольшой подарок. Не окажете ли вы мне невероятную привилегию - позволить задать вам несколько вопросов? Я слышал, что вы - свинья великой мудрости.

Пиньолиус: О, очень большая мудрость. И очень недостаточная. Но каштаны принимаются с благодарностью. Можете бросить их сюда.

Федор: Там?

Пиньолиус: Яволь! Бросайте их!

Федор: Чтобы уважить ваше драгоценное время, я сразу перейду к делу. Я вижу, что в мире так много неладного, так много страданий... крошечная капля которых недавно выпала на мою долю, но... я чувствую, что так больше продолжаться не может. Люди умирают, болеют, голодают, их преследуют и едят, терпят всевозможные лишения и невзгоды. Я хочу посвятить себя тому, чтобы что-то с этим сделать. Но мне нужен план - план не то слово: идея, какой-то принцип, видение, направление, которому я мог бы следовать, которое хотя бы надолго даст надежду на достижение лучшего состояния. Пожалуйста, Пиньолиус, освети своей мудростью мою жалкую шкурку и скажи мне: Что я могу сделать, чтобы мир стал лучше?

Пиньолиус: Не очень.

Федор: Но что-то должно быть.

Пиньолиус: Эта мысль приходила мне в голову однажды, в юности, да.

Федор: И?

Пиньолиус: К счастью, после размышлений выяснилось, что я мало что мог сделать; и я подозреваю, что в вашем случае ситуация была бы такой же.

Федор: К счастью?

Пиньолиус: Если бы я мог многое сделать, я бы, возможно, почувствовал себя обязанным это сделать. Несомненно, это потребовало бы упорного труда и самопожертвования. Но, к счастью, оказалось, что в схеме вещей я был почти совсем бессилен. Я благодарю Готта за то, что в каждое утро, когда я не буду храбриться для Рёмского Рейха!

Дядя Пастернаут, я был ошарашен. Поначалу я не был уверен, что шокирует меня больше: то, что величайший из известных нам умов, интеллектом намного превосходящий мой собственный, считал, что ничего нельзя сделать, чтобы мир стал лучше, - или то, что он, похоже, был доволен тем, что так оно и есть!

Я продолжал, спотыкаясь, пытаться встать на ноги:

Федор: Но-но, какая тогда надежда? Ради чего жить?

Пиньолиус: Эта грязевая ванна очень приятная. Как раз подходящая температура.

Очень хорошо подходит для вашей кожи.

Федор: Но должно быть что-то еще!

Пиньолиус: Ну да, должен сказать, что я тоже очень люблю Фарфор, особенно некоторые его части... Но вы знаете, иногда она может быть немного чересчур. В то время как эта грязь всегда великолепна, за исключением зимы. А каштан никогда не перестает радовать. Нам-нам-нам-нам о да!

О Пастернак, сейчас великий мыслитель наедался каштанами, которые я ему принес, и, вероятно, таким же количеством грязи, когда он вгрызался в них прямо там, где они лежали, в луже мутной воды. Для меня все это было слишком. Я быстро поблагодарил его за совет и ушел.

Следующее, что я помню, - это как я бродил один в ночи. Холодный ветер пронизывал все вокруг. Я слышал, как он завывает в темноте, раскачивая верхушки деревьев. Мир словно стонал и охал, крутился и вертелся, отчаянно тянулся к чему-то - к решению, которого не существовало.

Я подумал обо всех существах в мире, которые страдают, и мне стало грустно и тоскливо. Но когда я подумал о людях, которым удается найти в жизни хоть какое-то удовольствие - мирный ужин в кругу семьи, - вот тогда у меня потекли слезы: такими безнадежными казались их попытки сделать что-то хорошее в этом мире, такими трогательно наивными; и их положение было еще более шатким, потому что им было что терять.

Мне казалось, что мир беспокойно крутится и вертится, протестуя против собственного существования, и я почувствовал глубокое сострадание ко всему живому. Мне хотелось обхватить их своим маленьким пушистым телом, чтобы согреть. Я хотел принести им утешение и хорошие новости.

Пока я размышлял об этом, холодный, голодный и несчастный, мои шаги возвращались к дому Пиньолиуса. Не потому, что идти туда казалось хорошей идеей, и не потому, что для этого были какие-то причины - я ничего не собирался там делать, - но я не мог придумать ничего другого. Идти было больше некуда. Придя туда, я лег у порога и, обессиленный, заснул.

Когда я проснулся, было, должно быть, уже близко к полудню, потому что солнце стояло высоко, и его лучи несли тепло. Когда я начал приводить себя в порядок, ко мне подошел Пиньолиус и сказал: "Ты вернулся".

"Я подумала, что могу задать вам еще несколько вопросов", - ответила я.

По правде говоря, я ничего не думал. Но причины легко всплывают в голове, когда их отсутствие кажется неловким, и вылетают из наших уст раньше, чем мы успеваем опомниться.

Пиньолиус: Я буду рад поговорить. Но сначала давайте пообедаем. У меня здесь есть отличная морковь.

Я с благодарностью принял предложение. Никогда еще морковь не была такой вкусной.

После того как мы закончили трапезу, разговор продолжился:

Пиньолиус: И что?

Федор: Я хочу извиниться за свою вчерашнюю вспыльчивость. Я пришел без приглашения, не имея права навязываться вам. Я задал вам вопрос, на который вы любезно ответили. Но ответ мне не понравился, и я поспешил уйти, полный досады и самодовольного негодования. Теперь я вернулся, чтобы попросить вас подробнее остановиться на вашем ответе и объяснить, почему невозможно улучшить мир. Это неразумная просьба, но я в затруднении.

Пиньолиус: Я не говорил, что это невозможно. Я сказал, что вы или я, похоже, мало что можем сделать. Но мало - это не то же самое, что ничего. Например, я думаю, что вы сделали мир немного лучше, вернувшись, чтобы мы могли продолжить разговор!

Федор: Моя выгода достаточно велика, чтобы перевесить вашу невыгоду?

Пиньолиус: Думаю, выгода обоюдная.

Федор: Вы великодушны. Но в более широком масштабе, то есть на структурном уровне, почему вы говорите, что мы не можем улучшить мир?

Откуда ты знаешь, где кончается твоя смекалка?

Федор: Что?

Пиньолиус: Ваши умственные способности. Вы сказали, что находитесь в их конце. Откуда вы знаете, где это?

Федор: ?

Пигнолиус: Хорошо, допустим, вы столкнулись с какой-то проблемой...

Федор: Допустим.

Пиньолиус: Вы столкнулись с проблемой, которую не знаете, как решить. Вы перепробовали множество способов, но ни один из них не помог, и вы не можете придумать, что еще попробовать. И вот вы уже в полной растерянности. Верно?

Федор: Да, я там.

Пиньолиус: Но откуда вы знаете, что завтра вам не придет в голову попробовать что-то новое?

Федор: Ну, наверное, я не могу быть абсолютно уверенным. Но в реальности я не думаю, что это произойдет.

Пиньолиус: Почему?

Федор: Полагаю, индукция. Я имею в виду, что я очень долго пытался найти решение, так что кажется маловероятным, что завтра я добьюсь успеха там, где я терпел неудачу все эти дни. Вот почему я...

Пиньолиус: Подождите... подождите... Ха, джа! Каштан! Должно быть, остался со вчерашнего дня. Нам-нам-нам. Как вкусно! Простите, вы хотели сказать?

Федор: Мои прошлые попытки решить эту проблему не увенчались успехом, а я очень старался. Поэтому я пессимистично оцениваю свои возможности в одиночку и пришел к вам за советом.

Пиньолиус: Ну да. Но причину, по которой вы считаете, что не можете решить проблему самостоятельно, можно обобщить до причины, по которой никто другой тоже не может решить проблему.

Федор: Как?

Пиньолиус: Если бы эту проблему можно было решить, разве кто-нибудь уже не решил бы ее? Подумайте о шансах. За те века, что существует этот лес, за все поколений лис, свиней и других животных, которые здесь жили, наверняка у людей время от времени возникала мысль, что было бы неплохо исправить мир и привести все в порядок?

Федор: Это кажется вероятным.

Пиньолиус: Несомненно. И среди тех, кто получил эту идею, кто-то наверняка попытался бы действовать в соответствии с ней, верно?

Федор: Точно.

Пиньолиус: И теперь мы наблюдаем результат всех этих попыток: мир по-прежнему разрушен! Так почему же, во имя азартных обезьян, вы думаете, что ваши собственные попытки - или наши совместные попытки, или чьи бы то ни было попытки - окажутся лучше?

Федор: Согласен, шансы невелики.

Пиньолиус: Они не кажутся хорошими. Может быть, нам следует установить вероятность успеха примерно равной единице по отношению к числу предыдущих неудачных попыток?

Федор: Сколько было предыдущих попыток?

Пигнолиус: Я полагаю, что она уходит в бесконечность.

Федор: Я тоже всегда так считал; но что вы думаете о новой теории Риса Проныры?

Пиньолиус: Какая новая теория? У него есть новая теория?

Федор: Он якобы обнаружил, что мир начался определенное время назад.

Пиньолиус: Что!?

Федор: Конечно, он живет за рекой, поэтому навестить его невозможно. Но я слышал несколько твитов о его находке от одной птицы, которая там побывала. Видимо, это вызвало большой переполох среди ворон на другом берегу. У Риса очень сильная репутация.

Пиньолиус: Я знаю, я знаю, что он обнаружил, что мир начался определенное время назад?

Феодор: Так говорят.

Пиньолиус: Как... как... как он рассуждает? Как он пришел к такому выводу?

Федор: Не знаю. Других подробностей птица не помнила. Это был стриж.

Пигнолиус: Если в прошлом был лишь конечный период неудач, то наши надежды на будущее систематическое улучшение имеют лишь конечные, а не бесконечные плохие шансы, что может вас порадовать. Как давно, по его словам, начался мир?

Федор: Очень давно, но я не знаю его точной оценки.

Пиньолиус: Примерно?

Федор: Свифт мог только сказать: "Очень давно, но недолго".

Пиньолиус: Если Риз прав, то нам, возможно, придется все переосмыслить. Но не исключено, что в эту довольно хрупкую линию передачи могла закрасться ошибка в интерпретации. Досадно, что мы не знаем никаких подробностей.

Федор: Как вы думаете, если мы узнаем больше подробностей об этом, это поможет нам найти способ улучшить мир?

Пиньолиус: Кто знает.

Федор: У меня есть идея. Предположим, мы объединим наш труд и накопим небольшой излишек. На эти деньги мы наймем хорошую птицу, которая полетит туда с нашими вопросами, вернется и доложит нам.

Пиньолиус: Вы имеете в виду отказ от пищи ради знаний?

Федор: Птице достаточно совсем немного.

Пиньолиус: О, я не знаю; они едят больше, чем вы думаете. Федор, ты никогда не задумывался, почему нас так мало?

Федор: Что значит мало нас?

Пиньолиус: Немногие из нас, кто интересуется подобными вещами - истиной, добром?

Федор: Да, кажется странным, что всем так неинтересно, но к настоящему времени я уже смирился с этим.

Пиньолиус: Вот почему нас так мало. Отказываться от пищи ради знаний, растрачивать свою энергию на абстрактные фантазии! У тех, кто занимается подобными извращениями, уровень смертности выше, а уровень рождаемости ниже; они оказываются вне конкуренции, маргинализируются и уничтожаются. Это временные промахи, самокорректирующиеся ошибки природы. -Давайте сделаем это!

Дорогой дядя Пастернак, при этих словах я понял, что нашел родственную душу и что каков бы ни был исход наших будущих начинаний, увенчаются ли они успехом или провалом, мой долгий и трудный путь в эту долину не был напрасным.

Я постараюсь написать вам снова в ближайшее время, хотя думаю, что ближайшие дни будут напряженными. Сейчас странные и удивительные времена.

Как всегда, я остаюсь вашим глубочайшим племянником,

Федор

Outro

Фирафикс: Что вы думаете?

Кельвин: Мне понравилось, хотя не совсем понятно, как это связано с лекцией.

Фирафикс: Может быть, связь появится в следующем послании? Но уже темнеет, и нам пора возвращаться домой.

Кельвин: Да, пойдемте.

ВТОРНИК

Остановка экзекуции

Фирафикс: Здравствуй, Тессиус.

Тессиус: Эй! Кельвин, я думал, ты идешь на похороны?

Кельвин: Его отменили.

Тессиус: Правда?

Кельвин: Да.

Тессий: Аллилуйя?

У катафалка спустило колесо. Его перенесли на четверг после обеда.

Тессиус: Ну, по крайней мере, вам не придется пропускать лекции.

Фирафикс: Он выглядит привлекательно в этом костюме, не так ли?

Тессий: Подходит для человека с такими мрачными мыслями.

Рекапитуляция

Бостром: Давайте начнем. Я вижу здесь сегодня много новых лиц, так что, возможно, было бы неплохо начать с краткого обзора.

Вчера мы начали с того, что простые утопии, представляющие материальное изобилие, расслабленность и социальную свободу, пользуются большой популярностью среди людей с тяжелым трудом, о чем свидетельствует популярность европейской средневековой крестьянской фантазии о Кокейне и многих других сказок о золотых веках, садах наслаждений и островных раях.

Затем мы сделали обязательную ссылку на статью Джона Мейнарда Кейнса, в которой предсказывалось, что 15-часовая рабочая неделя уже почти наступила после столетия активного экономического прогресса. Однако, хотя производительность труда выросла в соответствии с прогнозом Кейнса, это привело лишь к умеренному увеличению часов отдыха. Жадность, в основном, устояла в борьбе с ленью.

Затем мы определили три типа потребительских возможностей, которые теоретически могут отсрочить наступление общества досуга на неопределенный срок, даже если почасовая заработная плата будет продолжать расти.

Во-первых, могут быть изобретены новые рыночные товары, не имеющие резко убывающей отдачи. Мы уже упоминали о том, что дорогостоящие биоулучшения могут принести людям существенную пользу даже при очень высоком уровне расходов. Дохода в 500 000 в год может не хватить на самые блестящие усовершенствования. А для цифрового разума одним из способов конвертировать практически неограниченные экономические ресурсы в личное благосостояние может стать модернизация оборудования.

Во-вторых, некоторые люди могут быть заинтересованы в амбициозных безличных проектах, таких как программы по защите диких животных. [Они могут поглотить огромное количество капитала.

И в-третьих, мы могли бы вывести бесконечный мотив увеличения доходов из относительных предпочтений, таких как стремление к социальному статусу. Мы заметили, что эти достижения не обязательно должны быть пропорциональны кумулятивным предыдущим достижениям, чтобы оставаться значимыми, если то, чего мы жаждем, - это порядковый ранг. Я также заметил, что если мы хотим сэкономить себе много сил, мы можем попытаться координировать свои действия, чтобы препятствовать конкуренции за статус. В качестве альтернативы мы могли бы координировать свои соревновательные порывы, чтобы перенаправить их не на арены с отрицательными внешними эффектами, такие как военные состязания и расточительные формы показного потребления, а на арены нейтральные или создающие положительные внешние эффекты, такие как эффективная благотворительность и некоторые виды предпринимательских, моральных и интеллектуальных достижений.

Так что, по крайней мере, в принципе, эти три вида потребления могут предотвратить нехватку вещей, на которые мы можем потратить дополнительные деньги. Но есть и другой вариант возникновения общества досуга, помимо того, что мы станем слишком богатыми, чтобы работать, - а именно, если для нас не будет работы. Конечно, это станет серьезной возможностью только в случае резкого прогресса в технологии автоматизации.

Мы отметили, что исторически капитал был чистым дополнением к труду, то есть человеческий труд становился более ценным по мере роста запасов капитала. Однако можно предположить, что при достаточном прогрессе машинного интеллекта капитал станет чистым заменителем человеческого труда.

В экстремальном сценарии, когда машины могут дешевле делать все, что может делать человек, запас машинного капитала будет накапливаться, а человеческая рабочая сила будет вытеснена с рынка труда.

В менее экстремальном сценарии, когда остается несколько задач, которые могут выполнять только люди, ситуация более сложная. Влияние на заработную плату людей будет зависеть от баланса нескольких противоположных сил - давления на заработную плату в сторону понижения из-за конкуренции со стороны роботов и давления на заработную плату в сторону повышения, вызванного как повышением спроса в результате экономического роста, так и сокращением предложения труда в результате роста доходов, не связанных с оплатой труда. Результат действия этих сил не может быть определен априори.