Глубокая утопия. Жизнь и смысл в решенном мире

Авторы обнаружили, что значительное меньшинство людей в разных странах сообщают, что предпочли бы психологически насыщенную жизнь счастливой или осмысленной.

Студент: Профессор Бостром, разбрызгиватели включены!

Бостром: Да, это прискорбно. Думаю, это новые правила университетского отдела охраны труда: они должны проверять спринклерную систему раз в месяц. Противоположностью насыщенной жизни была бы жизнь неинтересная, монотонная, неинтересная, не предполагающая знакомства с разнообразием человеческих условий и не дающая роста жизненной мудрости и перспективы.

Чем это отличается от интересности? Как я уже сказал, они во многом совпадают. Но я считаю, что в богатстве больше внимания уделяется активному участию, диапазону и интенсивности эмоциональной и физической вовлеченности, а не просто холодному когнитивному размышлению и прочтению, а также накоплению и интеграции в течение жизни большого и разнообразного жизненного опыта.

Богатство тоже отличается от самореализации. Возможно, эти два понятия коррелируют, но это не одно и то же. Вы можете представить себе человека, у которого очень богатая жизнь, но он остается нереализованным. Так было бы в приведенном мною ранее примере с человеком, оказавшимся в центре ряда исторических событий - особенно если он не просто свидетель этих событий, но и их участник, а также если у него драматическая и бурная личная жизнь, со множеством взлетов и падений, сложных отношений, трагедий и триумфов, разных карьер и так далее. И если они действительно были предназначены для того, чтобы стать математиком или монахом, но у них никогда не было возможности следовать этому сильному призванию...

Студент: Профессор Бостром, только что погас свет!

Бостром: Должно быть, спринклеры вызвали короткое замыкание. Уверен, они работают над устранением этой проблемы. Подождите, сегодня пятница, они могли уехать на выходные. Но вы же все равно меня слышите?

Итак, богатая жизнь - это жизнь "на арене". Это борьба всего существа. Она наполнена впечатлениями, выражениями и ощущением того, что вы живете полной жизнью. Ливни, гром, град и радуга; грустные и трудные времена, а также радостные; сильные любви и ненависти; жизнь с жесткостью и нежностью, доверием и предательством; жизнь с бьющимися волнами, с пеной и водорослями на лице; жизнь с пульсом, никогда не скучная и редко легкая. Жизнь как нечто всепоглощающе реальное, душераздирающе страшное, прекрасное и завораживающее - приключение, в результате которого вы вымокнете до нитки в пережитом опыте. Жизнь к лучшему и к худшему.

Богатство фокусируется не на избегании недостатков или минимизации боли, а на создании положительных моментов - или, если быть более точным, на полноценном переживании человеческой жизни и участии в ее творческом процессе. Оно почти приветствует проблемы, потому что они являются источником вызова и способом интенсификации и усиления жизни. По критерию богатства, конечно, лучше любить и потерять, чем не любить никогда.

Тот, кто прожил богатую жизнь, думаю, вряд ли будет сожалеть об этом. Он может быть склонен или не склонен принять предложение прожить свою жизнь заново; но я представляю себе человека, прожившего богатую жизнь, как испытывающего своего рода удовлетворение, когда он оглядывается назад ближе к концу своих дней: чувство, что он выжал все, что мог, из отведенных ему лет. Победа или поражение - а в данном контексте, возможно, в конечном итоге всегда поражение, - у них был свой шанс и свой момент, и они оставили все это на поле.

А, спринклеры сработали. Все выглядит как надо! Здесь, под подиумом, есть коробка с салфетками, еще сухими. Пожалуйста, угощайтесь, если кому-то нужно протереть очки или что-то еще. На всех, наверное, не хватит, но несколько штук осталось.

Тессиус: Принести вам немного?

Кельвин: Да, пожалуйста.

Бостром: Я должен официально заявить, что достижение богатой жизни таким способом может быть крайне неудобным - возможно, даже опасным для здоровья.

Для тех из вас, кто не склонен присоединяться к этой борьбе, я укажу альтернативный путь к психологическому богатству. Этот способ включает в себя покупку хорошего кресла, кофеварки и стопки хороших книг.

Чуткие читатели (или зрители, или слушатели) могут получить значительный опыт, живя виртуально: в некоторых отношениях больший опыт, чем тот, который можно получить, выйдя на улицу и получив его из первых рук - так же, как вы, вероятно, можете получить более богатую и разнообразную диету, покупая продукты в супермаркете, чем выращивая их самостоятельно.

Марсель Пруст описывает летние дни своего детства, когда он сидел в саду загородного дома своей семьи и читал:

"Эти дни были наполнены большим количеством драматических и сенсационных событий, чем те, что происходят за всю жизнь. . . .

[Действия, чувства этого нового порядка существ предстают перед нами под видом истины, поскольку мы сделали их своими, поскольку именно в нас самих они происходят, они держат нас в плену, пока мы лихорадочно перелистываем страницы книги, учащая дыхание и пристально глядя в глаза. И как только романист довел нас до этого состояния, в котором, как и во всех чисто психических состояниях, каждая эмоция умножается в десять раз, в котором его книга тревожит нас, как сон, но сон более ясный и производящий более длительное впечатление, чем те, что приходят к нам во сне; Почему, таким образом, в течение часа он освобождает в нас все радости и печали в мире, лишь некоторые из которых мы должны были бы потратить годы нашей действительной жизни, чтобы узнать, и самые острые, самые интенсивные из которых никогда не были бы открыты нам..."

Такая способность к косвенным ощущениям - одно из преимуществ, которыми наделены люди с чувствительностью и воображением. Однако другим, чтобы почувствовать что-то сильное и убедить себя в его реальности, может потребоваться погрузить в пламя собственную руку.

В пластиковой утопии можно было бы сократить разрыв между восприятием вымышленного контента и реальностью.

Одним из факторов, способствующих такой конвергенции, является приближение реальности к вымыслу - то, о чем вы мечтаете и чего желаете, с большей вероятностью станет реальностью. Если вы хотите узнать, каково это - прокатиться на единороге, сегодня вам придется прибегнуть к фантастике и воображению; в утопии, возможно, разводят единорогов, и вы сможете прокатиться на них по-настоящему, если, конечно, найдете желающего.

Однако существуют пределы, в которых реальность может быть приведена в соответствие с вымыслом. Например, можно написать историю о том, как эмиссар древней инопланетной цивилизации посещает Землю, постепенно завоевывает сердца людей и вдохновляет нас на установление всеобщего мира и гармонии. Но если в реальности древней инопланетной цивилизации нет в пределах досягаемости, эта история не сможет стать реальностью. Еще одна преграда заключается в том, что истории вращаются вокруг людей, и существует множество вымышленных сценариев, которые не могут стать реальностью без нарушений прав, недопустимых в утопии.

В основном сближение реальности и вымысла будет происходить в другом направлении: вымысел будет приближаться к реальности. Опыт из вторых рук и опыт полностью искусственных конструкций может стать более похожим на опыт из первых рук. Он может стать более погружающим, более детальным и более реалистичным в тех аспектах, в которых реализм желателен. Вторичный или синтетический опыт мог бы стать более способным вызывать у читателя/наблюдателя/участника те же психологические эффекты и события, которые произошли бы, если бы он пережил соответствующую реальную ситуацию. При достижении технологической зрелости книги станут намного лучше (потому что их будут создавать сверхразумные авторы), фильмы будут намного качественнее (по той же причине и благодаря более совершенным средствам производства), а виртуальная реальность будет полностью реалистичной и реалистичной, или, если она будет похожа на фантазию, сможет достичь внутренней согласованности и точности визуализации, аналогичной той, что характерна для непосредственного восприятия физической реальности. Основная оговорка здесь та, которую мы обсуждали во вторник, - что, возможно, невозможно создать полностью реалистичный открытый оригинальный опыт глубокого взаимодействия с другими разумами, не воплотив тем самым эти разумы в жизнь.

На самом деле я ожидаю, что виртуальные миры будут восприниматься как более реальные, чем физический мир, - более яркие, увлекательные, плодотворные, актуальные и психологически воздействующие. Многие из нас уже проводят больше времени и внимания в мире мыслей и воображения, чем сосредотачиваются на объектах, находящихся перед нами в нашем физическом окружении, и мы находим эти мысленные фантазии достаточно "реальными", большую часть времени, даже в рамках ограничений наших нынешних примитивных когнитивных и технологических методов miseen-scène. (И я даже не имею в виду гипотезу симуляции).

В итоге, перспективы богатства благоприятны: опыт утопистов может быть действительно очень богатым.

Этот анализ предполагает, что богатству придается психологическое толкование - что кажется вполне естественным и удобным способом разделения вещей в концептуальном пространстве. Разумеется, можно было бы определить ценность богатства таким образом, чтобы для ее реализации требовались элементы, выходящие за рамки чисто психологических. Можно, например, определить богатство так, чтобы оно включало в себя аспекты объективной интересности или самореализации; но поскольку мы уже обсуждали эти ценности отдельно, было бы излишним вновь обращаться к этим элементам. Или включить аспекты цели или смысла; но это ценности, которые заслуживают отдельного обсуждения, чем мы и так собирались заняться...

Назначение

В лекции, прочитанной в среду, мы представили четыре примера: покупки, занятия спортом, обучение и воспитание детей. В каждом из них мы увидели потенциал большой избыточности и предчувствие общего "постинструментального состояния", которое наступит по достижении технологической зрелости или незадолго до этого и в котором человеческие усилия станут устаревшими и ненужными.

Жизнь без цели может показаться неполноценной. В чем смысл всей этой суеты, задаемся мы вопросом, если это всего лишь занятие? Или, если суета прекратится, что помешает нам погрузиться в смертельную пассивность?

Исследование в этом направлении быстро приводит к вопросу о смысле жизни. Однако я хочу пока отложить обсуждение этого вопроса. Чем больше мы сможем отбросить, прежде чем говорить о смысле, тем больше шансов, что мы сможем разобраться в том, что останется. Поэтому я буду трактовать здесь "цель" в разумно отделенном и незагруженном смысле. Цель, можно сказать, - это все, ради чего мы прилагаем усилия и занимаемся деятельностью.

Тогда мы сможем различать разные "размеры" целей, или ради чего-чего-чего.

Маленькие цели мы можем назвать целями. Например, вы идете в продуктовый магазин с целью купить ингредиенты, необходимые для приготовления одного из полезных и вкусных рецептов в книге Green Transcendence: The Complete Guide to Liquifying Your Salads" (которая, возможно, вам будет интересно узнать, сейчас продается).

Средние цели, которые мы можем назвать целями, - это цели, требующие более масштабных действий. Примером такой цели может служить окончание колледжа с хорошей степенью.

Наконец, у нас есть и масштабные цели. Их мы можем назвать миссиями. Миссия - это цель, настолько великая и всеобъемлющая, что она может побудить посвятить ей всю жизнь или, по крайней мере, большую ее часть. Миссия может быть идеалистической, например, внести значительный вклад в искоренение какой-либо болезни или вести жизнь, угодную Богу; или же она может отражать менее возвышенные стремления, например, накопить большое состояние или занять высокий политический пост.

Обратите внимание, что для того, чтобы что-то считалось миссией, недостаточно, чтобы ее достижение было желанным или очень ценным. Она также должна быть такой, чтобы ее достижение требовало глубокой преданности и стремления на протяжении всей жизни. Если бы у кого-то была возможность вылечить рак простым нажатием кнопки, у нее были бы веские причины нажать на кнопку, и, сделав это, она совершила бы великое благо; но на самом деле она не была бы в состоянии сделать лечение рака своей миссией в жизни.

Теперь мы можем заметить, что у всех нас есть цели, у многих есть задачи, но миссии есть у относительно немногих. Из этого следует, что либо относительно немногие имеют достойную жизнь, либо наличие миссии не обязательно для того, чтобы жизнь была достойной. Я думаю, что вторая альтернатива является наиболее правдоподобной.

А как насчет отсутствия целей? Человек, у которого нет целей, будет плыть по жизни, как бревно по реке, без долгосрочных планов и амбиций. Можно сказать, что такой человек не стремится ничего достичь, но это будет верно только в том случае, если мы говорим о нем в общих чертах; ведь у него, предположительно, все равно будут небольшие цели, или задачи. Такой человек зашел бы на кухню, чтобы приготовить эликсир. Если они играют в игру, то, возможно, пытаются выиграть. Таким образом, у них будут краткосрочные цели; и ради достижения этих целей будут предприняты определенные усилия и действия.

Даже если наличие миссии не является необходимым условием для достойной жизни, многие из нас могут быть склонны сказать, что жизнь без целей - жизнь бродяги, не преследующего никаких целей, кроме тех, что продиктованы рядом сиюминутных задач, - была бы в важном отношении обедненной. Возможно, мы также склонны считать, что миссия, хотя и не является обязательным условием достойной жизни, тем не менее способна привнести в нее дополнительное благо - благо, которое во многих случаях имеет достаточную ценность, чтобы компенсировать многочисленные жертвы и неудобства, которые обычно являются частью существования, ориентированного на миссию.

Но почему именно людям желательно иметь цели, особенно средние или масштабные?

Мы должны выделить несколько возможных оснований для такого суждения.

Во-первых, в современном мире все еще есть вещи, которые нужно делать. Поэтому желательно, чтобы были люди, которые занимаются этими делами. Если никто не будет искать лекарство от рака, то вероятность того, что оно будет найдено, будет меньше. Но эта причина для празднования целей и миссий не применима в постинструментальном состоянии.

Во-вторых, оказывается, что наличие цели благоприятно сказывается на психологическом функционировании и благополучии человека, делая его более устойчивым к трудностям и снижая вероятность возникновения зависимости, депрессии или скуки. Но эта причина не применима в пластическом состоянии, поскольку при достаточно развитых нейротехнологиях мы могли бы добиться тех же преимуществ, гораздо более надежных и удобных, с помощью искусственных средств.

В-третьих - и это самая важная категория для нашего исследования - могут существовать неинструментальные причины для предпочтения целеустремленной жизни бесцельной. Я думаю, мы можем выделить два возможных основания для такого неинструментального предпочтения целеустремленной жизни. Мы можем предпочесть ее (А) потому, что стремление к цели придает жизни определенное содержание; или (Б) потому, что стремление к цели придает жизни определенную значимость. Давайте рассмотрим каждый из этих вариантов подробнее.

Начнем с пункта (А). Целеустремленная жизнь, особенно та, в которой есть не только сиюминутные цели, но и задачи или, лучше сказать, миссии, имеет определенное содержание. В частности, она содержит целевую активность. Выполнение темпорально протяженных проектов требует формирования взаимосвязанной последовательности намерений, планирования, мобилизации внутренних ресурсов, приложения усилий, контроля результатов, коррекции курса и т. д. Можно судить о том, что жизнь по своей сути хороша тем, что содержит эти элементы - либо элементы по отдельности, либо когда они связаны вместе в более длинные последовательные цепочки реализованной интенциональности.

Здесь мы можем заметить, что, поскольку нас интересует только эта ценность - то есть то, что жизнь имеет такое содержание целенаправленной деятельности, - не так уж важно, почему возникла цель, преследование которой порождает это содержание, и какова именно эта цель. Важно только то, что какая-то цель действительно преследуется, и чтобы эта цель была такова, что она организует и мотивирует подходящую цепь ориентированных на цель действий, растянутых во времени, и, возможно, что она упражняет навыки и требует сознательных усилий со стороны субъекта.

Теперь, когда речь заходит о том, почему жизнь по цели предпочтительнее, утописты, похоже, остаются дома. Одно, что они могли бы сделать, - это заняться автотелесной деятельностью. Иными словами, они могли бы заниматься различными видами целенаправленной деятельности, требующей усилий, просто потому, что заниматься этой деятельностью внутренне желательно.

Но что, если утописты (или некоторые из них) психологически устроены таким образом, что подобные автотелические мотивы не кажутся им достаточно убедительными? Или что, если будет решено - хотя на каком основании можно вынести такое суждение, совершенно неясно, - что заниматься определенной деятельностью по аутотелическим мотивам не так внутренне желательно, как заниматься ею по инструментальным мотивам? Что ж, тогда утописты могли бы сделать еще одну вещь, которая позаботилась бы об этих дополнительных требованиях: они могли бы создать искусственную цель.

Утопист, желающий придать себе искусственную цель, может поступить следующим образом.

Во-первых, она должна поставить перед собой какую-то достаточно долгосрочную цель. Если она психологически способна на это, то может просто поставить перед собой цель усилием воли. Если же она не способна на это, то может использовать нейротехнологии, чтобы вызвать в себе сильное желание достичь подходящей цели.

Во-вторых, наш утопист должен убедиться, что эта цель сложна для достижения и что ее достижение потребует от него достаточно длительных, сложных и напряженных действий. Сделать это можно двумя способами. Первый - поместить себя в среду, в которой нет легкого пути к цели - образно говоря, она отправится в некую огороженную зону утопии, в которой не все возможности технологической зрелости легко доступны и в которой, следовательно, люди вынуждены полагаться в значительной степени на свои собственные способности, чтобы продвинуться к своим целям. Другой способ, позволяющий достичь эквивалентного результата, заключается в том, чтобы выбрать или изменить свою цель таким образом, чтобы ее достижение по самой своей природе исключало использование (определенных типов) коротких путей. Так, вместо цели "Достичь результата G" она может поставить цель "Достичь результата G без использования методов X, Y или Z".

Подобные стратегии не так уж причудливы, как может показаться. Хотя современные нейротехнологии пока не дают нам возможности с легкостью сделать себя сильно мотивированными на достижение любой произвольной цели, люди довольно часто прибегают к другим способам создания искусственной цели. Люди бросают себе вызов, ставя себя в ситуации, в которых у них есть сильная мотивация напрягать свое тело и разум до предела, например, уходя "в отрыв" и устраивая все так, что у них нет другого способа, кроме как собственными усилиями, достичь своей цели - выжить и выбраться невредимыми. То же самое можно сказать и о скалолазе, который болтается на полпути вверх по вертикальной стене: все проблемы с мотивацией, которые могли мучить его в обычной жизни, исчезли. Как только человек оказывается в открытом положении, у него не остается места для сомнений или размышлений о том, действительно ли усилия того стоят: есть только непосредственное восприятие непреодолимой необходимости держаться и не упасть.

Это примеры стратегии достижения цели путем постановки себя в сложную ситуацию. Еще более знакома нам стратегия достижения цели путем модификации цели, чтобы усложнить ее достижение и тем самым создать условия для интересной и желательной модели целенаправленной деятельности. Например, любитель гольфа не ставит перед собой цель заставить мяч последовательно перемещаться между восемнадцатью лунками - этого можно было бы слишком легко добиться, взяв мяч в руки и неся его в руке. Вместо этого она ставит перед собой цель заставить мяч преодолеть поле, используя только определенный, узко предписанный набор средств - тем самым навязывая себе то, что было бы совершенно беспричинным неудобством, если бы не тот факт, что это именно то, что необходимо для реализации внутренней ценности игры в гольф.

Вообще-то непонятно, зачем люди играют в гольф. Настоящая причина может заключаться в том, чтобы получить удовольствие, и если это так, то, конечно, утопия предложит более эффективный вариант проволочной дубинки в качестве средства получения удовольствия. Но если мы предположим, что гольф имеет определенную ценность как целенаправленная деятельность, ценность, которая выходит за рамки получаемого удовольствия, тогда мы увидим, как эта дополнительная ценность тоже может быть получена в утопии.

Восхождение на скалу или игра в гольф могут быть слишком ограниченными целями, чтобы полностью осознать ценность цели, особенно если мы считаем, что стремление к большим целям (миссиям) имеет большую или дополнительную ценность, чем стремление к малым целям (задачам). Но мы можем легко представить себе и более масштабные версии того же самого. Если кто-то решил взобраться на Эверест без помощи кислородных баллонов, это может дать ему цель, которая может быть достигнута только с помощью долгого и трудного проекта, требующего многолетнего планирования и тренировок, прежде чем начнется само восхождение. Чтобы эта стратегия работала как утопия, нужно просто включить в цель несколько дополнительных ограничений, чтобы перекрыть многочисленные пути, которые становятся возможными с наступлением технологической зрелости. Например, мы должны определить, что цель состоит в том, чтобы подняться на Эверест без дополнительного кислорода, не модернизируя наши легкие и не повышая уровень эритроцитов в крови. Тогда мы сможем действовать как прежде.

Поэтому кажется, что почти все цели, доступные нам сейчас, будут доступны нам и в утопии, с соответствующими поправками. Кроме того, нам будут доступны многие возможные новые цели, которые становятся доступными только с развитием новых средств и инструментов. Я имею в виду: как до изобретения клюшек для гольфа были недоступны цели, связанные с игрой в гольф, а до изобретения компьютеров - цели, связанные с видеоиграми, так и сейчас существуют возможные цели, которые станут доступны только после того, как технология расширит наше оборудование и/или наши собственные возможности. Следовательно, в утопии у нас будет не меньше, а на самом деле гораздо больше возможных искусственных целей, чем сейчас.

Теперь давайте рассмотрим причину (B), второе возможное основание для того, чтобы считать жизнь с целью неинструментально предпочтительной по сравнению с жизнью без цели. Это идея о том, что наличие цели придает жизни значимость.

Мысль здесь заключается в том, что мы можем хотеть, чтобы наша жизнь имела значение. И самый очевидный способ придать нашей жизни значение - это достичь какого-то ценного для нас результата, который иначе не был бы достигнут.

Пример человека, который стремится вылечить рак, вполне уместен. Как общество, мы, конечно, можем ценить существование этого человека инструментально, за его полезный вклад в онкологию. Но в дополнение к этому мы также можем судить, что жизнь этого человека становится более желанной для него самого, если ему удается принести миру важное благо. Мы можем считать, что для человека хорошо, когда он оказывает положительное влияние.

Но обратите внимание, что если мы действительно считаем, что положительное влияние таким образом благоразумно желательно, мы сталкиваемся с потенциальным затруднением, поскольку многие вещи, которые нужно делать сейчас, больше не нужно будет делать в постинструментальной утопии. Во всяком случае, их больше не нужно будет делать нам (то есть продолжателям человекоподобных личностей), поскольку их лучше будет делать машина. Правда, мы могли бы, как я только что описал, создавать для себя искусственные цели. Однако мы можем задаться вопросом, придает ли достижение искусственных целей нашей жизни такую же ценную значимость, как и достижение "естественных целей" - целей, которые, так сказать, "вырастают в природе" из почвы независимо существующих потребностей и проблем, а не высаживаются нами в маленькие горшочки только для того, чтобы дать себе какое-то занятие. Этот вопрос требует более пристального изучения.

Боюсь, что на этом этапе наша тема станет немного мутной. Я не хочу потерять вас в том, что сейчас станет не только буквальной, но и образной тьмой, поэтому, пожалуйста, прерывайте меня, если вам что-то непонятно. Давайте думать шаг за шагом.

Предположим, кто-то жалуется на отсутствие "реальной цели" в утопии. Они могут сказать: "Конечно, мы можем придумать цель, искусственную цель, но это не настоящая цель. Искусственная цель не придаст нашей жизни подлинной значимости. В постинструментальном состоянии для нас не будет важной функции, которую мы должны выполнять, - не будет ничего, что нам действительно нужно делать. И тогда вся серьезность жизни исчезнет!".

На это можно дать несколько ответов. Мы можем отрицать, что цель, реальная или иная, имеет какую-либо неинструментальную ценность. Или мы можем утверждать, что искусственная цель является полностью эквивалентной заменой естественной цели. В качестве альтернативы мы могли бы признать, что реальная цель может придать жизни некоторую ценность, которую не может придать искусственная цель, но что можно с лихвой компенсировать потерю этой ценности огромным выигрышем в других ценностях, который может быть реализован в утопии.

Помните, что мы уже видели, как искусственная цель может заменить естественную цель в придании жизни содержания. Остается вопрос, можно ли то же самое сказать о придании жизни значимости. Таким образом, в худшем случае мы рискуем отказаться именно от свойства естественной цели придавать значимость и от той отличительной ценности, которая может в ней содержаться.

Уместно заметить, что наша нынешняя человеческая жизнь также представляется весьма ограниченной в отношении значимости. Многие из наблюдений, которые мы сделали вчера, обсуждая интересность, можно повторить и в отношении значимости: наша очевидная ничтожность с космической точки зрения и так далее.

Даже если мы считаем, что релевантная шкала, по которой следует измерять нашу значимость, является более локальной, из этого еще не следует, что мы находимся в опасности. Обратите внимание, что мы обычно не считаем, что существуют огромные различия в внутренней ценности жизни для живущего человека (в его "благополучии", говоря языком философов), обусловленные тем, что одни люди вносят в мир гораздо больше - в миллионы раз больше - объективного добра, чем другие. На самом деле многие люди вносят нулевой или чисто отрицательный вклад (не обязательно по какой-либо моральной вине). И некоторые из этих людей, если они счастливы, занимаются интересными хобби и т. д., тем не менее проживают жизнь с пользой для себя. Другими словами, пруденциальная (эгоистическая) желательность их жизни, похоже, не сильно страдает от того, что они вносят мало или совсем не вносят положительного вклада в общий баланс благ и зол в мире.

Но, возможно, на это можно возразить, что такие "неплательщики" все же обладают некой локальной значимостью, поскольку их выбор и усилия, по крайней мере, вносят значительный позитивный вклад в их собственную жизнь? Может быть, если в постинструментальной утопии мы потеряем и эту локальную эгоцентрическую значимость, наша жизнь потеряет смысл?

Давайте рассмотрим крайний случай, не столь уж редкий в современном мире, например в домах престарелых, когда человек имеет весьма ограниченную способность оказывать положительное влияние даже на свою собственную жизнь. Возьмем человека, который не может самостоятельно пережевывать пищу или чистить зубы, которому требуется постоянная дорогостоящая медицинская помощь, и который, предположим, также не способен доставить много радости другим людям (возможно, потому что все, с кем он общается, - это незнакомые люди, которые в большинстве своем равнодушны к нему и заботятся о нем только потому, что им за это платят). Таким образом, мы предполагаем, что этот гипотетический человек вносит чистый отрицательный вклад в жизнь остального общества. (Пожалуйста, пусть не обманывают холодные слова, которые я использую для описания этого случая. Я считаю, что мы должны делать больше, а не меньше, чтобы поддержать людей, находящихся в таком положении. Наша фундаментальная потребность в любви, уважении и поддержке не зависит от нашей способности вносить полезный вклад в общество. Это само собой разумеется. Но, к сожалению, есть люди, которые стремятся специально заблуждаться. Не то чтобы я очень надеялся, что все, что я скажу, сможет защитить меня от таких людей и их упреков, увы).

Очевидно, что этот человек сталкивается с множеством проблем. Но все же возможно ли, чтобы у него была хорошая жизнь? Я думаю, что да. Однако чтобы убедиться в этом, нам необходимо устранить некоторые потенциальные препятствия. Чтобы сделать этот пример как можно более однозначным, мы можем представить, что человек в нашем примере не испытывает ни боли, ни дискомфорта, ни беспокойства из-за своего состояния здоровья, ни вины за то, что он является обузой для других. Скорее, мы должны представить, что она испытывает высокий уровень позитивного аффекта и искрящейся радости, что она с удовольствием наблюдает за миром и его чудесами, что она чувствительна к красоте и юмору, любит слушать музыку и делает это с большим пониманием и признательностью, и так далее, и так далее - хотя мы также должны предположить, что эти положительные эмоции не являются результатом ее собственного выбора или внутренних усилий по регулированию своего отношения, а скорее просто эффектом ее спонтанной и непринужденной реакции на опыт, который ей организуют те, кто за ней ухаживает. При таких оговорках я думаю, что человек в нашем примере мог бы прожить прекрасную жизнь, несмотря на то, что он совершенно незначителен или даже негативно значим, поскольку мы измеряем значимость каузальным воздействием, которое он оказывает на окружающий мир.

Что касается наших утопистов, то они не только смогут получить все блага жизни этого человека - в беспрецедентной степени, благодаря возможности пользоваться физическими, эмоциональными и когнитивными улучшениями, намного превосходящими нынешний человеческий уровень, - они также смогут получить удивительный активный опыт, занимаясь аутотелической деятельностью или искусственными целями. А что, если за это придется заплатить тем, что у большинства людей больше не будет той положительной значимости, которая есть сегодня? Например, значимость, которую мы получаем, исправно платя налоги, стимулируя экономику своими заказами на Amazon? Или, может быть, вклад, который мы вносим в глобальную дискуссию, репостя мемы в социальных сетях?

Вы все со мной?

Студент: У меня вопрос. Я согласен, что моя жизнь, вероятно, не приобретает особого значения от моих покупок на Amazon. Но мне хочется думать, что я значим на более личном уровне. Например, для моей семьи. И для моего жениха. Не кажется ли вам, что было бы грустно, если бы не было буквально никого, кому было бы не все равно, никого, для кого человек был бы значим?

Бостром: Хорошо. Да, это выглядит печально. Я как раз собирался перейти к этому.

Позвольте мне сделать предварительное замечание. Хотя мы хотим, чтобы хотя бы некоторые другие люди заботились о нас, и хотя мы хотим заботиться хотя бы о некоторых других людях, это, похоже, не требует, чтобы мы имели значение друг для друга в смысле способности предпринимать действия, которые влияют на благополучие друг друга. Например, вы можете заботиться о человеке, которого, как вы знаете, вы больше никогда не увидите и не будете с ним общаться. Родственник мог уйти в мир иной, и даже если бы вы были уверены, что никогда не воссоединитесь и что никакая почтовая или иная связь никогда не будет установлена, вы все равно могли бы очень сильно беспокоиться о том, как у него там идут дела, часто думать о нем, надеяться и желать, чтобы у него все было хорошо. Так что о такой значимости здесь речь не идет, верно? Нет причин, по которым утописты не могли бы этого сделать. Для этого нужно только, чтобы они заботились друг о друге, но это не основано на причинном воздействии или способности быть практически полезным.

Чтобы вы не прочитали в моих словах совсем не то, что хотели донести, позвольте уточнить, что в примере, который я только что привел, и в некоторых других примерах, которые приводились ранее, я не хочу сказать, что утопическая жизнь обязательно будет одинокой. Нет! Мы просто пытаемся рассмотреть ситуацию шаг за шагом. Очевидно, что в утопии мы сможем продолжать взаимодействовать, общаться, делать и переживать что-то вместе, и вообще наслаждаться обществом друг друга.

На самом деле, если мы захотим, то сможем установить в утопии гораздо более тесные отношения с другими людьми, чем это возможно в настоящее время. Например, мы могли бы установить более высокоскоростные каналы связи между нашими разумами или использовать другие психотехнические средства, чтобы способствовать открытости, доверию и близости. У нас были бы средства, гораздо более эффективные, чем алкоголь или примитивные эмпатогены, существующие сегодня. Я не утверждаю, что мы должны принять все подобные технологии оптом и без разбора и слиться в некий гибридный разум или борг; но такая возможность, безусловно, существует. Я совершенно не уверен в том, насколько и какие виды такой повышенной социальной близости мы должны искать в утопии. Возможно, это то, что будет меняться с течением времени. Было бы невероятно и подозрительно случайно предполагать, что количество и качество связей, которые мы имеем друг с другом в настоящее время, являются оптимальными - ни в настоящих, ни в будущих условиях.

Еще одно предварительное замечание. Существует теория, согласно которой люди чувствуют себя более отчужденными друг от друга в современных обществах, потому что мы меньше вынуждены полагаться на друзей и семью в вопросах выживания, чем это было до появления договорного права, полиции и систем социального обеспечения, а также, возможно, потому, что мы реже сталкиваемся с ситуациями жизни и смерти, в которых узнаем, кто наши настоящие друзья. Если эта теория верна и если утопия развивает историческую тенденцию дальше, делая нас еще менее зависимыми от личных источников поддержки и все больше полагаясь на государство или передовые технологии, которые обеспечивают нашу безопасность и удовлетворение наших потребностей, будет ли это означать, что в утопии люди будут чувствовать себя еще более отчужденными? Нет. Потому что, если понадобится, чувство отчуждения можно будет легко изгнать с помощью развитых нейротехнологий.

Таким образом, мы можем быть ближе друг к другу, чувствовать себя ближе друг к другу, теснее взаимодействовать друг с другом и оставаться значимыми друг для друга в том смысле, что мы можем заботиться о благополучии друг друга. Давайте положим эти ценности в банк. А затем мы снова отправимся в путь, чтобы посмотреть, сможем ли мы выявить и закрепить еще больше ценностей.

Это возвращает нас к основной линии нашего расследования, где, как вы помните, мы спрашивали именно о значимости, основанной на воздействии, в период технологической зрелости. И ваш вопрос о личных отношениях здесь уместен. Он представляет собой важный элемент того, что я ранее, на сайте Wednesday, назвал "социокультурной запутанностью". Это был пятый и самый внешний периметр нашей многослойной обороны. Культурные и межличностные сложности могут обеспечить нам цели в утопии, выходящие за рамки тех, которые мы можем создать для себя индивидуально, ставя перед собой сложные задачи.

Я собирался подойти к этому вопросу, сначала обсудив своего рода инженерный фикс, который я называю "даром цели" и который находится у меня здесь, на раздаточном материале. Я собирался прочитать ее, но сейчас это немного затруднительно... Может быть, если я встану вон там.

Да. По тусклому зеленому свету знака "Выход" мы идем дальше!

ПАМЯТКА 17. ДАР ПРЕДНАЗНАЧЕНИЯ

Предположим, что иметь цель - это хорошо, и вы хотите помочь своему бедному другу, у которого ее нет. Будем считать, что ваш друг заботится о вас в той степени, в которой верно хотя бы одно из следующих утверждений:

Ваш друг заботится о ваших предпочтениях.

Ваш друг заботится о вашем благополучии.

Вашему другу небезразлично ваше мнение о нем.

Чтобы подарить ему цель, достаточно установить подходящую связь между вашими предпочтениями, вашим благополучием или вашим мнением о нем, с одной стороны, и его действиями, с другой.

Например, предположим, что ваш друг заботится о вас в том смысле, что он желает, чтобы вы получили то, что хотите. Тогда вы бы сформировали предпочтение, чтобы он добился G. Если вам трудно просто сформировать предпочтение к чему-то подобному, просто желая этого, вы могли бы использовать некоторые психотехнические средства, чтобы создать в себе такое предпочтение.

В качестве альтернативы предположим, что ваш друг заботится о вас в том смысле, что хочет, чтобы ваше благополучие было высоким. Тогда вы устроите все так , что ваше благосостояние будет выше, если ваш друг сделает G. Как именно это сделать, зависит от того, какое представление о благосостоянии поддерживает ваш друг. Если, например, ваш друг считает, что богатство способствует достижению благополучия, то вы могли бы подписать контракт с третьей стороной, обязывающий вас заплатить штраф, если ваш друг не сделает G.

Наконец, если вашему другу небезразлично ваше мнение о нем, вы можете просто взять на себя обязательство относиться к нему более благосклонно, если он сделает G (опять же, прибегнув к нейротехнологиям, чтобы помочь вам в этом, если это необходимо).

Теперь вы дали своему другу (или, скорее, вы - его наставник, тренер или родитель) причину делать G. Чтобы это было равносильно тому, чтобы дать ему цель, вам нужно выбрать G соответствующим образом. Если G - это что-то, чего он может достичь слишком быстро и легко, например, погладить себя по голове, то G будет для него просто целью, которая, предположительно, не дает ему особой целевой ценности. Таким образом, G должно быть чем-то, что требует более масштабного проекта - сложной деятельности, усилий, растянутых на длительный период времени, задействующих множество навыков и талантов, которыми может обладать ваш друг, и, возможно, требующих значительной эмоциональной вовлеченности и самоотдачи. Наличие достаточно сильной инструментальной причины для реализации такого G даст вашему другу прекрасную цель - амбициозную цель или даже миссию.

Конечно, было бы нехорошо, если бы самым эффективным способом достижения G для вашего друга было просто нажать кнопку, которая заставит робота-ассистента выполнить действия, необходимые для достижения G. Это избавило бы вашего друга от необходимости прилагать какие-либо усилия самому, а значит, цель была бы потеряна. Также не будет ничего хорошего, если самым эффективным способом достижения G для вашего друга будет проглотить улучшающую таблетку, которая сделает его достижение G тривиально легким.

Поэтому вы должны определить G таким образом, чтобы исключить возможность использования коротких путей, разрушающих цель. Самый простой способ сделать это - включить в само G постулат о том, что допустимы только определенные виды средств. Таким образом, G может иметь вид:

G: Достичь результата X, используя только средства из набора M.

В число допустимых средств не входят короткие пути, такие как заказ робота-помощника или таблетка для повышения потенции. Комбинация X и M должна быть подобрана таким образом, чтобы достижение G обеспечило вашему другу достаточно увлекательную задачу. Например, если ваш друг хотел бы иметь цель, связанную с интеллектуальными задачами игры в шахматы, G может быть таким:

G: Одержите победу над шахматным движком Stockfish на уровне сложности 7, не используя никаких компьютерных средств для помощи во время подготовки или во время матча, а также не применяя никаких когнитивных усилителей или других средств, противоречащих духу этого задания.

Поскольку ваш друг хочет, чтобы ваши предпочтения были удовлетворены (или чтобы ваше благосостояние увеличилось, или чтобы ваше мнение о нем было высоким), и поскольку вы устроили все так, что единственный способ удовлетворить это желание - выполнить G, у него теперь есть цель.

В таком явном и редуктивном виде этот метод создания цели кажется довольно банальным. Но если применить его более тонко, с изысканностью и утонченностью, в контексте подходящего культурного встраивания - тогда, возможно, не так уж и много?

Схемы распределения чувства собственного достоинства - одна из основных черт культуры. Культуры используют нашу жажду самоуважения, чтобы стимулировать нас к осуществлению широкого спектра проектов, включая те, которые в противном случае казались бы произвольными и бессмысленными. Реализация таких проектов, спонсируемых культурой, является источником глубокой и полноценной цели в жизни многих людей.

Если мы возьмем наш пример с гольфом, подумайте, насколько нелепым должно казаться это занятие - если мы примем отстраненную точку зрения и рассмотрим его вне контекста культуры, которая ценит людей, развивающих мастерство в этом конкретном деле - на самом деле, насколько тревожно близким к безумию должно казаться посвящение первых десятилетий своей жизни проекту совершенствования своего мастерства попадания клюшкой по маленькому мячу в серию узких лунок.

Подумайте, сколько лет человек учится, тренируется, стремится, жертвует собой и преодолевает, сколько трудов, усилий и изобретательности, сколько сна, неудобств и неприятностей - не только спортсмены, но и художники, писатели, актеры, накопители богатства, военные, ученые, диетологи, следящие за модой, и многие другие, актеры, накопители богатства, солдаты, ученые, диетологи, последователи моды и многие другие - и как много в этих потугах и жертвах движет (хотя это не всегда признается или признается) желание получить одобрение и уважение общества! Это часто происходит даже в тех профессиях, которые имеют весомые претензии на социальную полезность. Например, целитель - сколько врачей пришли в профессию, потому что не хотели разочаровать своих родителей? Все эти люди наделены даром предназначения.

Блез Паскаль писал: "Все беды человека происходят от его неспособности спокойно сидеть в комнате".

Если бы мы сидели спокойно в своих комнатах, то избежали бы многих неприятностей, но и жизни тоже.

И даже в одиночестве наши социальные устремления едва ли оставляют нас в покое, поскольку мы продолжаем оценивать себя, основываясь на интернализированных представлениях о том, что подумают другие.

К лучшему или к худшему, но мы довольно сильно связаны с обществом. Устранить все эти волевые зависимости было бы весьма инвазивной процедурой (с риском существенного ущерба для нашей личности), даже если бы мы этого захотели.

Правда, в пластиковой утопии некоторые из наших нынешних причин, по которым мы стремимся к уважению, перестанут быть актуальными. Например, нам больше не нужно уважение, чтобы зарабатывать деньги или получать другие материальные преимущества. Также мы не будем нуждаться в самоуважении для того, чтобы чувствовать себя хорошо - нейротехнологии. Однако мы можем продолжать искать уважения ради него самого.

Мы можем задаться вопросом, не ослабнет ли наше стремление к самоуважению, если самоуважение не будет предоставлять эти дополнительные преимущества, которые оно дает сегодня? Однако мы также должны принять во внимание, что многие другие желания, которые мы имеем в настоящее время, конкурирующие с нашей жаждой уважения за контроль над нашим разумом, также отпали бы как мотивирующие факторы в пластиковой утопии, поскольку их стало бы тривиально легко удовлетворить.

Поэтому вполне можно предположить, что в утопии стремление к уважению может составить большую долю наших оставшихся движущих сил.

Может быть, вскоре после взрыва интеллекта мы станем свидетелями взрыва тщеславия? Или, возможно, мы уже настолько близки к максимуму тщеславия, что для дальнейшего роста остается мало места?

Давайте двигаться дальше.

С точки зрения человека, получившего "дар предназначения", данное предназначение можно рассматривать как реальное и подлинное, поскольку оно существует независимо от его воли. Это объективная реальность, к которой они должны приспособиться, а не постулат, который они могут выбирать, делать или не делать.

Можно ли, тем не менее, возразить, что этот вид одаренного предназначения не столь великолепен только потому, что он не возникает совершенно независимо от человеческой воли? Я думаю, что нет. Человек, убегающий от тигра, и человек, убегающий от убийцы с топором, кажутся равными по ценности цели. Точно так же, если мы представим, что эти два человека приступили к реализации более долгосрочных проектов, будь то укорененные в природных или социальных реалиях: например, один планирует побег с необитаемого острова, другой - из тюремной колонии.

Есть, однако, несколько связанных с этим опасений, которые могут возникнуть по поводу ценности одаренных целей, даже если сам факт того, что эти цели вытекают из предпочтений и выбора других людей, сам по себе не является дисквалифицирующим. Во-первых, можно опасаться претензий на значимость, основанных на успехе в играх с нулевой суммой. Во-вторых, можно беспокоиться о целях, корни которых лежат в желании кого-то другого помочь нам достичь цели. Давайте рассмотрим их по очереди.

Во-первых, нулевая сумма: может ли цель квалифицироваться (как обеспечивающая любую ценность, которую может обеспечить наличие цели), если она заключается в попытке достичь успеха в игре с нулевой суммой? Довод "против" заключается в том, что усилия в соревнованиях с нулевой суммой имеют вид глобальной тщетности, которая может показаться несовместимой с реальной значимостью. С другой стороны, мы обычно рассматриваем целенаправленные усилия, например, спортсменов, как имеющие значение-ценность. Если несколько спортсменов участвуют в Олимпийских играх, и один из них берет золото, мы можем сказать, что победитель достиг чего-то сверхзначимого, чего не достигли остальные (хотя они разделяют меньшее достижение - квалификацию для участия в соревнованиях). Из этого, казалось бы, следует, что нулевая сумма в деятельности не может быть дисквалифицирующей характеристикой. Если такая нулевая сумма не является несовместимой со значимостью в спорте, то, возможно, она не является таковой и в других контекстах.

На это можно возразить, что спортивное соревнование в целом имеет положительную сумму. Оно производит чистую положительную стоимость не из-за того, кто из спортсменов одерживает победу, а из-за того, что соревновательная деятельность обеспечивает развлечение для ее участников и зрителей. Да, но мы можем сделать очень похожее утверждение для деятельности, вытекающей из "одаренных целей" в утопии; такая деятельность также может быть с положительной суммой. Правда, не в силу того, что она обеспечивает приятное развлечение - это то, что может быть более эффективно обеспечено технологическими средствами, - а в силу того, что она привносит несамостоятельную цель в жизнь реципиентов. Если предположить, что наличие такой цели - это хорошо, то трудно понять, почему этот вклад не будет засчитан в качестве положительно-суммарного, точно так же, как вклад веселья может сделать соревновательный спорт положительно-суммарным.

Во-вторых, есть опасения по поводу целей, корни которых лежат в желании кого-то другого помочь нам достичь цели. Может быть, кто-то может подумать, что эти цели не так хороши, как те, которые возникают иначе? Стремление к целям, данным нам только для того, чтобы у нас была цель, - не может ли это показаться такой же бесполезной работой, лишенной подлинной значимости? Когда такая цель создана, у нас может быть причина попытаться достичь ее; однако вся эта затея может показаться притворством, как будто мы роем яму только для того, чтобы создать потребность в ее заполнении. Что кажется абсурдным?

Но мы можем просто сказать: "Это жизнь!". Раз есть жизнь, значит, есть и потребности; раз есть потребности, значит, их надо удовлетворять. Это тоже может показаться притворством. Все было бы проще, если бы жизни не было: никто не рыл ямы, никому не нужно было бы их заполнять. И все же мы находимся там, где находимся, и, возможно, мы все еще имеем какое-то значение, пусть даже локальное и, возможно, даже несколько абсурдное.

Если наш Создатель создал вещи такими, какие они есть, отчасти для того, чтобы дать нам цель, не будет ли эта цель, таким образом, ущербной? Многие считают наоборот: если бы Творца не было, или если бы наш мир и наша жизнь не имели никакого отношения к замыслам Творца, то наша жизнь была бы менее целеустремленной и значимой, а не более. Но это уже вопрос, который вы должны обсудить с профессором Гроссвейтером.

Позвольте мне проверить, следите ли вы за происходящим до сих пор?

Ладно, либо вы все еще следите за мной, либо я потерял вас так далеко, что у вас даже не осталось вопросов. А может, вас там уже и нет? Что ж, меня это не остановит! Профессор Гроссвайтер получит деньги в любом случае.

Студент: Это будет на экзамене?

Бостром: А, итог! Нет, я не думаю, что это произойдет.

Второй студент: А как же моя цель?

Бостром: Понятно. Очень хорошо. Ну, я полагаю, что за ту плату, которую вы платите за обучение, будет справедливо, если вы получите взамен какую-то цель. Хорошо, это будет включено в экзамен.

Третий студент: Что ты наделал?!

Второй студент: Я воспользовался услугами профессора Бострома, чтобы наделить вас даром целеустремленности.

Третий студент: Но почему!

Второй студент: Почему нет?

Третий ученик: Грифер!

Второй студент: Приг!

Бостром: Порядок! Порядок! Анонимность темноты пробуждает примитивные тенденции. Но, во имя Рудольфа Клаузиуса, давайте попробуем еще немного сдержать энтропию.

Очевидно, что целевые подарки могут быть нежелательными. В этом отношении они ничем не отличаются от других подарков, которые иногда могут раздражать, например, налагая обязательства. Здесь есть своеобразное искусство. В любом случае, дарение цели - это вариант, доступный утопистам.

Для равновесия я, пожалуй, должен высказать несколько критических замечаний о цели.

Я подозреваю, что многие из вас выросли в культуре, которая превозносит целеустремленность и прославляет образ мыслей и стиль жизни "ударника" - того, кто много работает и стремится добиться успеха в жизни, или, что еще лучше, преследует какие-то заоблачные амбиции и отдает им все свое время. Отчасти эта схема ценностей может быть унаследована от протестантской трудовой этики, хотя я думаю, что она также может черпать поддержку из других источников и традиций.

Стоит напомнить о существовании альтернативных точек зрения на эти вопросы. Например, в древних традициях мудрости и религиозных учениях можно найти взгляды, которые либо противостоят, либо, по крайней мере, жестко ограничивают такую оценку человеческих волевых качеств. Например, в восточных религиях, таких как буддизм, джайнизм и даосизм, есть важные направления, которые подчеркивают желательность непривязанности или даже исчезновения желаний. Христианская духовность также часто рекомендует не привязываться к мирским целям и устремлениям. Мудрецам этих взглядов может показаться верхом извращения, если, каким-то образом добившись состояния, при котором у нас не останется ни одного или почти ни одного неосуществленного желания, мы намеренно создадим еще один набор новых и более или менее произвольных желаний, чтобы продолжать стремиться и трудиться для их удовлетворения: что, спросят они, может быть более яркой демонстрацией безумия современного западного ума, чем одобрение им такого предложения в качестве глубокой философии?

Индуизм, однако, представляет собой более сложную картину в этом отношении. С одной стороны, он рекомендует путь духовного освобождения через непривязанность, подобный тому, который исповедуют другие восточные традиции. Но, с другой стороны, она также представляет нам идею лилы, или "божественной игры": представление о том, что боги занимаются спортом, добровольно накладывая на себя ограничения и сдерживающие факторы, чтобы заниматься игровой деятельностью в земном царстве - это выражение их свободы и спонтанного творчества (результатом которого является реальность, являющаяся нашим органам чувств). Возможно, это наводит на мысль о модели, в которой люди могут сознательно принимать новые цели, чтобы продолжать игру, но при этом эти цели должны быть более легкомысленными и игривыми, чем мрачные и навязчивые стремления, которые движут большей частью человеческого существования в нашем нынешнем состоянии.

Я также предложу еще одно наблюдение: даже если видимость верна, что наши человеческие жизни в настоящее время имеют лишь скромное и чисто локальное значение, все равно можно утверждать, что мы имеем слишком много; и что то, на что мы должны надеяться, это стать менее значимыми, а не более.

Меньшая значимость означает меньшую ответственность, меньшую возможность облажаться.

Я думаю, что мы, возможно, уже превысили оптимальный уровень значимости относительно наших нынешних возможностей. Взгляните на это с другой стороны. Вас поставили во главе целой жизни человеческого сознательного опыта - вашей собственной. Эта человеческая жизнь находится во власти ваших диктаторских полномочий в течение каждого часа бодрствования. Какая страшная ответственность лежит на вас!

Если бы мне пришлось гадать, я бы сказал, что средний взрослый человек, возможно, должен нести ответственность примерно за один год человеческой жизни. По истечении этого срока все должно быть приведено в приемлемое состояние, если они испортились. Возможно, самые зрелые и мудрые из нас могли бы отвечать за десятилетие своей жизни. Но нести ответственность за всю человеческую жизнь, да еще и без возможности переделать ее в конце, - это уже слишком.

Возможно, стоит задуматься об этиологии этой предполагаемой ценности цели, как мы это делали в случае с интересностью. Как мы могли бы объяснить в каузальных терминах, почему мы в итоге стали ценить цель (в той степени, в которой мы ее ценим)?

Я выдвину три гипотезы, не исключающие друг друга:

Гипотеза о полезности усилий

Мы начинаем жизнь с простых целей. Через некоторое время мы замечаем, что если приложить усилия, то мы с большей вероятностью достигнем этих целей и получим соответствующее вознаграждение. Мы начинаем положительно оценивать само стремление, потому что оно полезно как средство достижения самых разных целей. В конце концов, широкая инструментальная ценность стремления превращается в ценность, преследуемую ради нее самой.

Это можно сравнить с деньгами. Вначале мы не заботимся о них; затем замечаем, что они полезны как средство достижения многих целей, и начинаем желать их по инструментальным причинам; наконец, некоторые люди начинают желать их ради них самих и становятся скрягами.

Вот еще одна гипотеза:

Гипотеза врожденного драйва

У нас есть врожденные психологические побуждения к деятельности и усилиям (наряду с другими побуждениями, например, к отдыху и расслаблению). Возможно, у нас также есть некий врожденный механизм, который хочет, чтобы наша активность и усилия были направлены на достижение определенных целей, и особенно на достижение долгосрочных, внутренне утвержденных целей. Чтобы дать выход этому стремлению, нам нужна цель. Без цели фрустрация этого стремления переживается как недомогание - своего рода внутреннее давление или изнуренное беспокойство, которое может также проявляться как неприятная усталость или неспособность мобилизовать ресурсы и жизненную энергию организма. Тогда цель начинает цениться как средство предотвращения этого неприятного состояния. В конце концов это средство превращается в нечто, что ценится как самоцель.

Мы также можем рассмотреть культурное объяснение:

Культурная гипотеза

В разных культурах целенаправленные усилия в разной степени превозносятся. Как и другие социально подкрепляемые модели поведения, целенаправленные усилия оказываются инструментально полезными - не только потому, что достигается какая-то конкретная цель, но и просто потому, что усилия прилагаются и видно, что они прилагаются. Эта инструментальная ценность целенаправленных усилий затем становится интериоризированной. (Мы можем быть особенно склонны к интроекции ценностей, которые прославляются в нашей культуре и среди наших сверстников, или высоко ценятся в группах, чьего признания мы добиваемся).

Эта гипотеза поднимает вопрос о том, почему в той или иной культуре вообще возникло стремление к целенаправленным нагрузкам. Функциональное объяснение может быть сосредоточено на том, как она помогает обществу процветать и благоденствовать. Сигнальное объяснение может быть сосредоточено на том, что она является трудно подделываемым индикатором других положительных качеств, таких как здоровье, энергия и возможности. Но сигнальное объяснение может также ссылаться на более исторически обусловленные факторы. В некоторых социальных контекстах может оказаться, что праздность и бесцельность посылают более позитивный сигнал, например, указывая на то, что человек настолько талантлив, богат или имеет другие привилегии, что ему не нужно прилагать много усилий. Можно привести и множество других возможных объяснений. Вероятно, реальная история о том, почему в любом обществе сложились те ценности, которые оно исповедует, очень запутанна и сложна.

Гипотезы полезности усилий и врожденного драйва могут предсказать меньшую культурную вариативность в степени, в которой люди в среднем ценят цель, хотя они все еще могут допускать множество индивидуальных вариаций (например, в готовности, с которой разные люди интроинизируют изначально инструментальные ценности). Биологические факторы, несомненно, также оказывают влияние: такие факторы, как уровень дофамина или тестостерона (и чувствительные к ним рецепторы), вероятно, оказывают большое влияние на то, насколько привлекательной кажется человеку жизнь, связанная с напряженной деятельностью. Однако если между разными обществами существуют значительные различия в том, насколько сильно они ценят цель, вероятно, культурная гипотеза играет важную объяснительную роль. Философам, возможно, следует обратить внимание на то, чтобы не интерпретировать идиосинкразическую черту личности или локальную культурную привязанность как универсальную истину о человеческих ценностях.

Чтобы завершить наше исследование ценности цели, давайте теперь предположим самый сложный случай: хотя наличие цели имеет ценность, эта ценность полностью аннулируется, если, как мы можем сказать, цель была порождена намеренно. Другими словами, давайте предположим (ради аргументации), что цели, которые мы либо ставим себе сами, либо искусственно вызываем в себе ради осознания ценности наличия цели или ради возможности активного опыта, не вносят никакого вклада в ценность цели; и давайте также предположим, что цели, полученные через "дар цели", также должны считаться бесполезными. При таких предположениях пластиковая утопия обречена в том, что касается ценности цели?

Это не так однозначно. Я подозреваю, что даже при таком самом строгом стандарте, при котором только (то, что мы назовем) "практические цели" проходят проверку, у нас все еще могут быть возможности обеспечить некоторую цель-ценность.

Есть два направления, в которых мы можем искать такие практические цели. Мы можем искать практические цели, в которых важно только то, чтобы что-то было сделано: мы назовем эти цели агент-нейтральными. Или мы можем искать их там, где важно, чтобы что-то было сделано каким-то конкретным агентом (или типом агента): мы назовем эти цели агентно-относительными.

Сначала мы рассмотрим возможность нейтральных для агента практических целей.

Когда мы обсуждали некоторые связанные с этим вопросы, кажется, во вторник, мы пришли к выводу, что для нас, старых добрых людей, нет никакой надежды угнаться за машинами в плане способности выполнять практически полезные задачи. Однако мы могли бы задуматься, возможно ли нам избежать устаревания, если мы будем готовы совершенствовать себя?

Очевидно, что для того, чтобы это было хотя бы отдаленно жизнеспособным предложением, потребуется нечто гораздо большее, чем анаболические стероиды или когнитивные стимуляторы. Даже тщательная генетическая перестройка человеческого организма была бы совершенно неадекватной, поскольку биологические субстраты фундаментально ограничены с точки зрения плотности энергии, силы, скорости вычислений и многих других основных параметров.190

Поэтому давайте рассмотрим несколько более радикальных вариантов модернизации. Самым естественным первым шагом будет загрузка вашего разума. Затем вы могли бы увеличить скорость своего мышления, пересев на более быстрый компьютер. После оцифровки вам будет легко увеличить количество нейронов, добавить новые типы процессоров, а также высокоскоростные соединения с внешней цифровой инфраструктурой. С помощью таких усовершенствований вы сможете стать сверхразумным.

Думаю, нам не стоит слишком суетиться по поводу непсихических составляющих вашего существа, поскольку мы, кажется, уже смирились с тем, что нас превосходят машины (и многие нечеловеческие животные) по силе, скорости и прочему. Но если вы настаиваете на том, чтобы сохранить свое конкурентное преимущество не только в умственных, но и в физических способностях, то в качестве тела мы могли бы дать вам, например, распределенную сеть продвинутых нанотехнологических актуаторов, позволяющих вам захватывать и манипулировать отдельными молекулами - несколькими числами Авогадро за раз; или, когда вам нужно будет работать с более крупными объектами, ваши наноразмерные актуаторы могут превратиться в большие придатки, достаточно сильные, чтобы позволить вам вырывать деревья из земли. Вы также сможете перепрыгивать высокие здания одним махом и т. д.

Сможете ли вы тогда не отставать от машин?

Я отношусь к этому скептически. На самом деле сомнительно, что мы сможем идти в ногу с машинами и что, даже если мы сможем, мы захотим этого. Но здесь нужно разобраться в нескольких вопросах, поэтому давайте рассмотрим их по порядку.

Первое, что следует рассмотреть, - это какие виды (нейтральных для агентов) практических задач необходимо решать в зрелой цивилизации. Предположим, например, что к моменту технологической зрелости вся инфраструктура достигла такого высокого уровня совершенства, что не нуждается ни в каком обслуживании или активной эксплуатации - все самовосстанавливается и работает само по себе, как самозаводящийся швейцарский часовой механизм. Предположительно, в эту инфраструктуру будет встроен определенный уровень интеллектуальной обработки, но, возможно, все это будет достаточно низкоуровневым и рутинизированным? В этом сценарии большинство задач наиболее эффективно выполняются с помощью простых автоматизированных процессов, действующих в соответствии с заранее вычисленными планами, выполнение которых практически не требует от человека высших познавательных или творческих способностей.

Мы можем представить это как крайнее продолжение тенденций, которые мы можем наблюдать в некоторых областях человеческого рынка труда. Когда-то сапожнику требовалось немного ума и изобретательности, чтобы сделать ботинок. На каком-то более позднем этапе развития работник, производящий обувь, может быть принят на фабрику, где ему поручат собирать подошвы из коробки и ставить их на конвейер: это требует гораздо меньше навыков. Возможно, к моменту технологической зрелости вся производственная деятельность будет оптимизирована и разложена на подзадачи, для выполнения которых не потребуется больше, чем интеллект на уровне насекомого? Тогда проблема не в том, что люди недостаточно способны, а в том, что мы слишком способны, а потому неэффективны. Использовать человеческий разум для выполнения задачи, для которой достаточно простого процессора, например чипа в старомодном карманном калькуляторе, было бы (если не сказать больше) энергетически расточительно.

Что ж, это вполне возможно. Однако я думаю, что, скорее всего, еще миллиарды лет будет сохраняться хотя бы практическая потребность в более высоких уровнях познания. Я привел несколько примеров задач в одном из раздаточных материалов, с которыми вы сможете ознакомиться позже.

ПАМЯТКА 18. НЕКОТОРЫЕ ЗАДАЧИ ВЫСОКОГО УРОВНЯ ТЕХНОЛОГИЧЕСКОЙ ЗРЕЛОСТИ

Приведенные ниже примеры "работы высокого уровня" - это области задач, которые, даже в условиях технологической зрелости, вероятно, не могут быть рутинизированы или автоматизированы когнитивными системами, значительно менее сложными, творческими или в целом способными, чем человеческий разум. (Этот список не претендует на то, чтобы быть исчерпывающим или окончательным, а лишь наводит на мысль о некоторых возможностях).

Физическая экспансия, по крайней мере, до тех пор, пока все доступные части Вселенной не будут заселены и оптимизированы. По прибытии на новый ресурс потребуется когнитивная работа, чтобы адаптировать существующие планы к местным условиям - определить, как оптимально заселить и создать цивилизационную инфраструктуру, учитывая точное распределение материалов и такие факторы, как температура, давление, радиация и т. д.

Работа с редкими стохастическими событиями. Даже оптимальные процессы могут иметь определенный процент ошибок, и иногда эти ошибки могут усугубляться, вызывая уникальные проблемы. Для обнаружения, диагностики и решения этих проблем могут потребоваться сложные когнитивные процессы.

Подготовка к взаимодействию с инопланетянами. Независимо от того, существуют ли инопланетяне или нет, выяснение того, как лучше взаимодействовать с ними, может считаться важным; и хотя исследования на эту тему будут приносить убывающую прибыль, они могут сохранять достаточно высокую ожидаемую ценность, чтобы оправдать постоянные инвестиции; и эти исследования могут потребовать когнитивной обработки высокого уровня. (Понимание недоступных сверхразумов также может быть очень важным).

Контроль и координация внутренней деятельности цивилизации. Если цивилизация состоит из простых повторяющихся паттернов, таких как равномерная сетка из гедониевых ящиков, то необходимость в этом может быть меньше; но если у нас более многогранная и развивающаяся цивилизация, со многими независимыми очагами развития, то может остаться необходимость в сложной координирующей деятельности - например, контроль за местными событиями, чтобы они не начали процесс, который приведет к распространению коррупции, или более общая политическая работа. Такая деятельность может потребовать высокоуровневой когнитивной обработки.

Культурные продукты и достижения. Если считается важным, чтобы цивилизация производила определенные культурные артефакты (неважно, для себя или для того, чтобы члены цивилизации имели к ним доступ), то потребность в продвинутой когнитивной обработке может сохраняться бесконечно, при условии, что либо существует неограниченное количество достижимых ступеней на лестнице качества, либо некоторые ступени имеют неограниченное или растущее количество продуктов/достижений, так что иметь или производить их больше - лучше. Например, можно представить себе неограниченную последовательность все более труднодоказуемых, но все еще интересных математических теорем; или все более широкий спектр все более изысканных эстетических переживаний.

Непрерывная культурная обработка. Можно также представить себе бесконечный спрос на творческое познание, если предположить, что существуют определенные культурные артефакты или реакции, ценность которых зависит от постоянно меняющегося контекста. Предположим, например, что существует ценность художественного произведения или опыта, которые точно отражают преобладающую тенденцию, но создание таких произведений искусства (или другие независимые события) также постоянно меняют тенденцию, тем самым создавая возможность для новых произведений искусства и опыта, которые отражают новую тенденцию; и так далее.

Итак, давайте предположим, что существует по крайней мере несколько нейтральных для агента практических задач, которые даже при технологической зрелости требуют высокого уровня креативности, интуиции и передового решения проблем. Тогда вопрос в том, сможем ли мы, подвергнувшись загрузке и радикальному усовершенствованию, оставаться конкурентоспособными в этих задачах. Это могут быть такие задачи, как, например, анализ характеристик возможных инопланетных цивилизаций, работа с редкими каскадными сбоями или оптимизация инфраструктурных планов в соответствии с деталями местных условий. Смогут ли будущие версии нас самих быть столь же хороши в таких задачах, как и продвинутые ИИ?

Студент: У меня есть вопрос! Что, если люди смогут выполнять эти задачи, работая вместе? Даже если ни один человек не сможет их выполнить, это ничем не отличается от сегодняшнего дня, когда ни один человек не может создать смартфон или реактивный самолет. Но мы все равно можем делать эти вещи, работая в команде. Возможно, в будущем команды, состоящие из усовершенствованных людей и использующие гораздо более совершенные инструменты для совместной работы, смогут решать даже те сверхсложные задачи, с которыми приходится бороться технологически развитой цивилизации?

Бостром: Да, вполне возможно. Однако вопрос здесь не в том, что мы можем сделать - индивидуально или коллективно, - а в том, что мы можем сделать эффективно.

Что, если мы можем выполнять эти задачи, но недостаточно эффективно, чтобы быть экономически конкурентоспособными с машинами, созданными для этих целей? В этом случае нам придется затратить больше ресурсов, если мы будем выполнять эти задачи сами, чем если мы передадим их на аутсорсинг. Если мы все же выполняем задачи самостоятельно, то руководствуемся какими-то другими мотивами, а не просто желанием их выполнить. Мы рассмотрим такие мотивы в другом месте, но здесь мы сосредоточимся на том, сможем ли мы оставаться практически полезными при достижении технологической зрелости в том же надежном смысле, в котором, например, автомеханик полезен в настоящее время. Мы не будем практически полезны в этом смысле, если выполнение задач собственными силами будет более дорогостоящим и более расточительным по отношению к ресурсам, чем их выполнение машиной.

Я считаю, что наиболее эффективным методом решения этих практических задач будет использование систем искусственного интеллекта, созданных для этих целей. Если это так, то единственный способ сохранить конкурентоспособность в решении этих задач в долгосрочной перспективе - это стать такими системами ИИ. Можем ли мы это сделать?

Многое здесь зависит от того, какие критерии мы принимаем для идентификации личности. Существует некоторый набор задач, которые необходимо решать на этапе технологической зрелости, и некоторый набор возможных разумов и тел, оптимальных для их выполнения. Некоторые из этих задач, по-видимому, требуют высокого уровня и общих форм интеллекта. Можем ли мы - те, кем мы являемся сейчас, - превратиться в некое существо, обладающее типом разума и тела, оптимальным для выполнения некоторого подмножества этих практических задач, сохраняя при этом нашу личную идентичность?

В данном контексте смысл сохранения "той же личности" заключается в том, что с точки зрения нынешних собственных интересов уместно проявить некоторую значительную степень заботы о будущем субъекте. Заметим, что без этого требования о сохранении личной идентичности вопрос становится неинтересным. То есть, допустим, можно "превратить" себя в оптимальную по задаче систему, разобрав себя на нуклоны, а затем вновь собрав их в элементы, которые используются для создания оптимальной машины: это никоим образом не поможет показать, что наш труд может остаться практически полезным в период технологической зрелости.

Я думаю, что не так уж маловероятно, что, по крайней мере, для некоторых функциональных задач, которые должны быть выполнены при достижении технологической зрелости, мы, возможно, в принципе сможем стать тем типом существ, которые будут наиболее эффективны в их выполнении.

Высказывая это предварительное предположение, я исхожу из довольно широкой концепции личной идентичности: такой, которая допускает, что характер человека со временем может претерпевать довольно серьезные изменения, а он все равно будет считаться "тем же человеком", что и раньше, при условии, что трансформация будет достаточно постепенной и непрерывной, а также, возможно, при условии, что она будет удовлетворять некоторым дополнительным ограничениям, например, что изменение в какой-то степени связано с самостоятельным выбором человека.

Одним из аргументов в пользу такой расширительной концепции личной идентичности - той, которая не требует особого качественного сходства между двумя сегментами личности, вменяемыми в обязанность одному и тому же человеку, - является то, что мы обычно считаем маленького ребенка тем же человеком, что и взрослого, в которого он превращается, даже если физическая субстанция, морфологические и психологические характеристики взрослого сильно отличаются от характеристик ребенка. Если такая радикальная трансформация согласуется с сохранением личностной идентичности, то вполне правдоподобно, что мы можем оставаться "тем же человеком", даже если, достигнув совершеннолетия, мы продолжим расти, постепенно, в длинной медленной серии небольших самовыбирающих шагов, со временем превращаясь в некую программу, подобную ИИ, оптимальную для выполнения некоторых функциональных задач в развитой цивилизации.

Это может показаться хорошей новостью с точки зрения того, что мы сможем обеспечить себе ту цель, которая вытекает из наличия практической пользы даже в пластиковой утопии. Однако, думаю, большинство из нас при ближайшем рассмотрении сочтет этот путь к сохранению трудоспособности непривлекательным.

Одна из проблем заключается в том, что даже если бы мы могли стать существом, практически полезным в утопии, мы могли бы не захотеть быть таким существом. Полезное существо было бы жестко оптимизировано для выполнения определенного набора задач. Оно не будет тратить память и вычислительные ресурсы на дела, не связанные с этими задачами. Однако многое из того, что мы ценим в жизни, может не иметь отношения к основным инструментальным задачам технологически развитой цивилизации (например, к тем, которые я перечислил в раздаточном материале). Будь то воспоминания детства, личная дружба, любовь к музыке, наслаждение едой и т. д., да и вообще любой вид досуга или безделья: такие составляющие, которые мы можем считать важными для нашей эвдемонии, скорее всего, будут безвозмездными, а значит, расточительными, а значит, не входящими в оптимальную систему задач, и поэтому нам, скорее всего, придется отойти на второй план, если мы решим попытаться остаться в гонке.

Более того, если оптимальная система должна тратить время и ресурсы на подобные "изыски" - например, потому, что задача, которой она посвящена, включает в себя попытку смоделировать возможные инопланетные цивилизации, для которых такие изыски могут быть важны, - не очевидно, что то, как оптимальная система потратит это время и эти ресурсы, будет полностью соответствовать тому, как мы решили бы их потратить, если бы мы не подчинялись требованию, что наша работа должна быть функционально оптимальной, и вместо этого непосредственно преследовали бы цель хорошей жизни. Например, максимально эффективный анализ того, как инопланетная культура может относиться к музыке, вполне может включать когнитивную деятельность, совершенно отличную от той, которой мы занимались бы, если бы на самом деле сами ценили и наслаждались музыкой.

Следовательно, хотя мы и можем стать системами, оптимальными с точки зрения задач, и хотя можно предположить, что некоторые системы, оптимальные с точки зрения задач, сохранят некоторые из способностей и моделей поведения, которые мы сейчас ценим в себе или которые мы независимо хотели бы развить ради улучшения нашего благополучия, далеко не факт, что эти условия действительно существуют, и было бы удивительно, если бы они были в какой-либо степени близки к эвдемонически идеальным. Если оптимальные с точки зрения задач системы сохраняют эвдемоническое функционирование лишь в очень ограниченной степени, то сомнительно, что та дополнительная ценность, которую они могли бы извлечь из обладания особым видом цели-ценности, требующей наличия сырой практической полезности, была бы достаточной для компенсации жертв в других ценностях, которые повлечет за собой трансформация нас в такие системы.

Вторая проблема заключается в том, что путь к превращению в оптимальную систему может быть либо недоступен, либо непривлекателен, даже если сама конечная точка не вызывает возражений. Например, если в технологически развитой цивилизации уже существуют оптимальные системы для выполнения соответствующих задач, то ваша возможность быть практически полезным, предположительно, уже упущена. Нет никакой экономической выгоды в том, чтобы переделывать себя, чтобы стать эффективным в выполнении какой-то инструментальной задачи, когда она уже решается системами, оптимизированными для ее выполнения. Даже если со временем спрос будет расти, создавая потребность в дополнительных системах, оптимальных для выполнения задачи, вам все равно будет неэффективно превращать себя в такую систему, если, что кажется весьма вероятным, существуют более целесообразные способы производства систем, оптимальных для выполнения задачи, - например, копирование существующих систем или, в любом случае, производство большего их количества методами, не ограниченными необходимостью сохранять вашу личную идентичность.

Поэтому, чтобы иметь шансы на оптимальное выполнение задач в период технологической зрелости, вам, вероятно, придется начать трансформацию раньше и продолжать ее на скорости, близкой к максимальной. Вы должны быть одними из первых, кто загрузит систему, а затем принимать дальнейшие улучшения и дополнения почти сразу же, как только они станут доступны. Вам придется безжалостно устранять любые неэффективные возможности. Как только позволят технологии, вам придется удалить все части своего разума, которые не пригодятся для выполнения задач, которым вы собираетесь посвятить себя. Такое стремление к специализированному совершенству повлечет за собой дополнительные жертвы, а также согласие с тем, что существо, которым вы в итоге станете, откажется от многого из того, что имеет ценность в жизни. Мы могли бы сравнить этот случай с человеческим ребенком, которого с раннего младенчества усыпляют и тренируют с максимальной строгостью ради единственной цели - стать лучшим математиком, пианистом или гимнастом - ценой отказа от всех удовольствий нормального детства, и в итоге он становится взрослым вундеркиндом, отстающим во всех областях, кроме своей единственной области, в которой он достиг совершенства. Разница в том, что в случае с биологическим человеком существуют пределы того, насколько далеко можно зайти в таком подходе, прежде чем он станет контрпродуктивным даже на своих собственных условиях (и за пределами которых любая дальнейшая строгость или сужение фокуса приведет к выгоранию, дисфункциональной ригидности, психиатрическим проблемам или бунту, а не к дополнительным достижениям в целевой способности); В то время как с умом, который все чаще становится продуктом инженерии, вполне вероятно, что гораздо более несбалансированная и мономаниакальная сосредоточенность на конкретной задаче будет оставаться наиболее эффективным способом достижения максимально возможного уровня выполнения задачи.

Даже если бы вы использовали самый целеустремленный и бескомпромиссный подход к перестройке себя для достижения оптимальной производительности - такой, который не обращает внимания на качество жизни ни в процессе оптимизации, ни впоследствии, - все равно может оказаться невозможным сохранить конкурентоспособность с машинами, созданными de novo для этой цели. На самом деле, я бы сказал, что, скорее всего, оптимальный вклад, который человек может внести в выполнение практических задач на этапе технологической зрелости, будет заключаться не в улучшении собственных возможностей и последующей самостоятельной работе над этими задачами, а в пожертвовании сначала всех своих финансовых ресурсов, а затем и материи, составляющей его тело и мозг, на создание и эксплуатацию систем, оптимизированных для выполнения поставленных задач. Другими словами, при достижении технологической зрелости ваша наибольшая практическая польза будет заключаться в том, что вы станете сырьем для машин. Не совсем "достоинство труда" пролетариата прошлых лет, но, возможно, вы сможете претендовать на славу, когда ваши атомы будут использованы для формирования сегмента охлаждающей трубы в дата-центре, где работает ИИ, рассчитывающий траектории развертывания горнодобывающего оборудования.

Один из моих друзей - тот, что никогда не скучает, - много лет назад признался мне, что хочет стать протоколом передачи информации. Знаете, как стандарты TCP/IP, на которых работает интернет, или код ДНК, или латинский алфавит. Эффект блокировки может сделать такие протоколы чрезвычайно долговечными. Даже развитой цивилизации будет непросто скоординировать свой выход из локального оптимума глобального неоптимального стандарта. Например, мы по-прежнему используем (якобы) медленную раскладку клавиатуры QWERTY спустя много десятилетий после того, как люди перестали пользоваться механическими печатными машинками; а некоторые страны даже продолжают придерживаться имперской системы единиц измерения.

Мой друг полагает, что если он сможет стать новым стандартом, то сможет наслаждаться большим долголетием. Что ж, теперь мы видим, что эта судьба может дать ему не только великое долголетие (которое, надеюсь, будет доступно каждому в утопии), но и большую практическую пользу, а значит, и цель. Я имею в виду, насколько полезен протокол TCP/IP? Очень. Поэтому мы можем представить себе какой-нибудь более продвинутый протокол передачи информации будущего, возможно, алгоритм сжатия, для вычисления которого требуется разумная умственная деятельность, и мой друг мог бы стать чем-то подобным. Вы насмехаетесь - но по сравнению с некоторыми другими формами "бессмертия", которых жаждали люди, например, с оттиском их изображения на почтовой марке, эта судьба может иметь более весомые претензии на то, чтобы представлять собой реальный вид выживания и сохранения личной идентичности!

Я говорю наполовину в шутку, наполовину всерьез. Можно было бы сказать и больше, но нам лучше двигаться дальше: у нас впереди еще много интересного.

Студент: Могу я задать вопрос?

Бостром: Стреляйте.

Студент: Я немного запутался. Я думал, что ключевым преимуществом перехода к цивилизации после дефицита будет то, что мы сможем делать всевозможные вещи, которые не являются "оптимальными с точки зрения задач", но все равно интересны. Например, я хочу создать свой собственный космический корабль, даже если он будет не таким быстрым и эффективным, как созданный сверхразумным ИИ. Почему мы все еще должны все оптимизировать, когда у нас есть достаточно и даже больше, чем достаточно, чтобы удовлетворить все наши потребности? Возможно, это глупый вопрос.

Бостром: По моему опыту, когда кто-то задает, как ему кажется, "глупый вопрос", это обычно вопрос, который многие люди в аудитории втайне надеялись задать кому-то другому. Может быть, по этой причине все лекции должны проходить в темноте! Это поможет справиться и с противоположной проблемой - "умными вопросами", которые задают не потому, что кто-то хочет знать ответ, а потому, что задающий их выглядит хорошо, потому что задал их. Хотя, если подумать... я не уверен, что случится с моей профессией, если этот стимул исчезнет. Так что, возможно, лучше оставить все как есть.

Ну, утописты не обязаны оптимизировать все! Конечно, не в этом смысле. Если немного упростить, то наша заданная риторическая ситуация выглядит примерно так: В пластиковой утопии есть много вещей, которые мы хотим иметь; много ценностей, которые мы могли бы реализовать в очень высокой степени. Это здорово! Среди плюсов такого состояния можно назвать то, что у нас будет много времени, чтобы наслаждаться своими увлечениями. На самом деле, в этом состоянии было бы так много действительно хороших вещей, что возникает интересный вопрос: есть ли что-то ценное, чего мы не можем иметь? И в частности, есть ли что-то ценное, что у нас есть сейчас, но от чего мы обязательно откажемся в утопии?

Может показаться, что это некрасиво - заострять внимание на возможных недостатках утопии, когда она переполнена таким количеством очевидного добра. Но я здесь не для того, чтобы читать ободряющие речи. Наша цель на этих лекциях (или одна из них, во всяком случае - на самом деле целей больше, чем одна) - отточить наши аналитические инструменты и глубже понять изучаемую тему; и для этого целесообразно обратить особое внимание на контуры утопии - ее возможные пределы, исключения и прочие сложности.

Именно здесь мы обсуждаем цель: цель - это пример того, что, по мнению человека, имеет ценность, но может оказаться подорванным в постулируемом состоянии радикальной пластичности. На данном этапе нашего обсуждения мы уже видели, как определенные виды цели могут быть обеспечены в утопии; и теперь мы задаемся вопросом о том, какой вид цели кажется особенно труднодостижимым - тот, который требует, чтобы наши усилия имели "практическую пользу". В ходе исследования вопроса о том, можем ли мы иметь этот особый вид цели в утопии, мы только что заметили, что среди практических задач, которые подпадают под рубрику "агент-нейтральный", хотя и есть некоторые такие задачи, которые все еще должны выполняться в утопии, вероятно, было бы неэффективно, если бы мы их выполняли. Это означает, что до сих пор мы не показали, что цель, требующая практической пользы, - это то, что мы могли бы иметь в утопии.

Мы отметили, что могут существовать сценарии, в которых мы, возможно, едва ли сможем продолжать быть практически полезными в технологической зрелости при выполнении функциональных задач. Однако у этих сценариев есть и другие особенности, которые, скорее всего, сделают их нежелательными - в том числе и то, что они могут повлечь за собой отказ от свободного времени и хобби. Так что смысл здесь не в том, что "давайте откажемся от свободного времени в утопии", а в том, что "нам, вероятно, не следует полагаться на этот метод обеспечения практической цели, даже если, по идее, это возможно".

Так понятнее?

Студент: Да, я так думаю.

Бостром: Мы бы не хотели, чтобы у кого-то не хватало времени на постройку собственного космического корабля, если он хочет это сделать.

Полагаю, мне также следует в какой-то момент прямо заявить - возможно, я сделаю это здесь, - что даже если какая-то конкретная форма утопической жизни (целенаправленная или иная) может быть показана как более благоразумно желательная, чем другие формы, это не означает, что более желательная форма должна быть навязана или навязана кому-либо! Вопросы политической философии, включая такие, как государственный патернализм, или граница между индивидуальным и коллективным принятием решений, или распределительная справедливость, или правильная форма правления - все это выходит за рамки этих лекций.

(Если уж на то пошло, я склонен полагать, что, вероятно, большую роль должны играть индивидуальная автономия и самоопределение, в сочетании с уважением и состраданием к широкому кругу различных типов существ и приспособлением ко многим различным типам интересов. Если у вас есть другое или более определенное представление о том, как выглядел бы идеальный политический порядок в технологически развитом обществе, не стесняйтесь подставить его в свое воображение! Но так или иначе, кому-то или чему-то в конечном итоге придется столкнуться с ценностными вопросами, которые мы исследуем в этих лекциях).

Ладно, с идеей о том, что в технологически развитой цивилизации можно оставаться полезным при выполнении агенто-нейтральных практических задач, покончено. Теперь давайте подумаем, сможем ли мы оставаться полезными при выполнении задач, связанных с агентами.

Это задачи, в которых то, что должно быть сделано, конституируется активным вкладом определенных агентов. Именно эти агенты делают то, что нужно, а не просто делают то, что нужно. Нас интересует случай, когда агентивно-относительная задача должна быть выполнена нами. (Под "нами" обычно подразумевается какой-то конкретный человек или усовершенствованное продолжение конкретного человека; но в некоторых случаях это может относиться к человечеству в целом или к какой-то определенной группе - основные рассуждения одинаковы в любом случае, и смысл должен быть очевиден из контекста).

Пример агента-относительной цели прояснит, что я имею в виду.

Подумайте о такой ценности, как почитание своих предков. Что требуется для ее реализации? В разных культурах существуют разные предписания, но давайте предположим, что для этого нужно иногда вспоминать своего покойного отца, думать о нем с нежностью и благодарностью, дорожить временем, которое вы провели вместе, уважительно относиться к его останкам и продолжать учитывать его предпочтения. Например, если ваш покойный отец всегда подчеркивал ценность честности, то одним из способов почтить его память станет попытка вести себя честно даже после его смерти и в ситуациях, когда это может быть неудобно.

Эти требования, по самой своей природе, невозможно удовлетворить, отдав необходимые чувства и действия на аутсорсинг. Даже если бы вы смогли создать машину, которая размышляла бы о достоинствах вашего покойного отца, испытывала к нему нежные чувства и вела себя безупречно честно во всех своих делах, она не смогла бы полностью удовлетворить вас. Ценность почитания предков требует, чтобы вы делали это сами.

Цель, которую дает вам эта ценность, не является искусственной или произвольной, она не дарится и не создается намеренно ради того, чтобы дать вам цель. Она также отличается от той цели, которая возникает из задач, которые человек ставит перед собой, чтобы получить определенный активный опыт, например, напряженные ощущения при подъеме на гору. В случае с альпинистом его цель лишена внешнего основания, ее оправдание состоит лишь в том, что она позволяет осуществлять деятельность по ее достижению. В то время как у человека, почитающего своих предков, цель имеет внешнее обоснование. Вы делаете это (мы можем предположить) не для того, чтобы получить удовольствие от возвышенного опыта почитания, и даже не потому, что считаете, что ваша жизнь станет лучше, если в ней появится некоторое количество активности почитания. Скорее, вы делаете это потому, что считаете, что ваш отец заслуживает почитания с вашей стороны - в силу того, кем он был, или того, что он сделал для вас, или того, как по-особому он был с вами связан. Это внешнее основание должно сделать цель полностью легитимной, то есть полностью способной дать вам любую ценность, которую может обеспечить наличие цели, даже при взглядах, которые очень ограничены в том, какие виды целей они считают способными лежать в основе этой ценности. Это во всех смыслах "настоящая" цель - в ней нет ничего фальшивого или надуманного.

Найдя один пример практической цели, которая могла бы оставаться актуальной в пластиковой утопии, мы можем поискать другие. Я думаю, мы сможем найти их гораздо больше, хотя, конечно, это зависит от того, какую теорию ценности или благосостояния мы принимаем. Например, если вы считаете, что ценность имеет только удовольствие или только математическое понимание, то, скорее всего, в утопии у вас не будет возможности иметь какую-либо практическую цель - хотя, опять же, если бы ценностью было только удовольствие или математическое понимание, цель не была бы ценностью, так что вы бы ничего не упустили. Но вообще говоря, чем более плюралистичен ваш список ценностей и чем больше хотя бы часть ваших ценностей связана со сложными моделями человеческого поведения, или предпочтений, или общества, или истории, или духовности, тем более правдоподобно, что вы найдете в утопии множество практических целей.

Выяснение этих целей придется оставить на усмотрение самих утопистов. Я лишь неопределенно жестикулирую в некоторых направлениях, в которых можно искать такие цели.

Во-первых, мы можем обобщить пример, который я только что привел, - почитание предков. Вы также можете чтить павших товарищей, благотворителей и исторических героев. В более широком смысле, вы можете счесть ценным чтить или продолжать следовать и придерживаться различных традиций. Эта категория целей, которая может быть довольно широкой, может служить для структурирования и ограничения нашего потенциально аморфного существования в пластиковой утопии, предоставляя нам множество дел, которые мы не можем передать на аутсорсинг.

Во-вторых, у нас могут быть основания для того, чтобы выполнить ранее взятые на себя обязательства и проекты (возможно, неявные). В некоторых случаях это может потребовать, чтобы мы продолжали их в том же духе, в котором они были начаты, что может подразумевать ограничение себя только определенными классами средств: опять же, предотвращение массового аутсорсинга.

В-третьих, мы имеем широкую категорию того, что можно назвать эстетическим, где выразительное значение, а значит, и ценность того, что сделано, часто зависит от того, как это было сделано и кем. Наиболее ярко это проявляется в некоторых произведениях современного искусства, хотя в рассеянном виде это применимо гораздо шире. Я бы сказал следующее: Мы должны думать об этом не в терминах музеев, художественных студий, концертных залов или общественных архитектур, а скорее в терминах того, как жить красиво. Каждый момент жизни предлагает богатые возможности в этом отношении; и красивый выразительный жест может с такой же легкостью принять форму воздержания, как и совершения. Мы могли бы разработать целую эстетику "нет", которая, отказываясь от легких путей достижения, делает возможной славу достижения более трудными путями - делает возможным большее "да".

В-четвертых, мы имеем область духовного или сверхъестественного. Частично эта категория может пересекаться с тремя предыдущими; но мы также имеем здесь явную возможность того, что могут существовать важные связи между тем, что происходит внутри пузыря утопии (который может быть внутренне организован так, чтобы максимизировать наши позитивные возможности), и тем, что происходит за его пределами. Существо в божественной сфере может иметь предпочтения и полномочия в отношении того, что происходит внутри нашего пузыря, и, в частности, может быть заметно обеспокоено тем, что мы делаем сами, в отличие от того, что мы создаем виртуально с помощью автоматизации или других форм технологической косвенности. Если это так - или, во всяком случае, если мы не в состоянии исключить возможность того, что это так, - тогда мы можем определить практические цели пластиковой утопии, которые вытекают из таких соображений. (Цели, проистекающие из трансцендентальных источников, могут быть либо агентурно-нейтральными, либо агентурно-относительными).

Может показаться, за исключением четвертой категории, что ценности, о которых идет речь, относительно незначительны, а цели, которые они могли бы обосновать, соответственно, слабы. Но мы должны вспомнить замечания, которые я сделал ранее о расширении зрачка. Я предположил, что после удовлетворения более насущных и неотложных потребностей и моральных императивов целесообразно увеличить диафрагму наших оценочных линз, чтобы позволить более слабым нормативным соображениям оказаться в поле зрения и занять видное место. Если это так, то нам, по мере того как мы переходим на утопическую почву, было бы полезно начать рассматривать такие задачи, как почитание, выполнение неявных личных обязательств и различные формы сложного эстетического выражения, как весьма серьезные и важные - как требующие от нас значительных личных инвестиций времени, усилий, внимания и избирательного приоритета, и как потенциально дающие нам множество целей, которые вполне достаточно реальны, чтобы дать нам многое из того, что может быть ценно в наличии цели.

Хм, я не уверен, что наша дискуссия о цели была автотелесной, но она определенно была брадителесной...

На этом я должен закончить. В заключение хочу сказать, что, хотя к моменту технологической зрелости мы, скорее всего, станем неспособны участвовать в решении нейтральных для агента практических задач, нам по-прежнему будут доступны различные виды цели (кратко описанные в одном из раздаточных материалов). Правда, в пластиковой утопии мы могли бы прекрасно жить, не прилагая ни малейших усилий. Мы могли бы иметь не только обслуживание номеров, но и обслуживание рта, пищевода, митохондрий - в общем, полный пакет "жизненных услуг" по принципу "все включено", с пятизвездочным рейтингом. Однако если состояние бесцельной праздности нам не по вкусу, мы можем либо самостоятельно сгенерировать какую-то подходящую цель, либо вызвать ее технологическими средствами - либо для получения активного опыта, либо просто для того, чтобы иметь цель. В качестве альтернативы мы можем получить цель от кого-то другого (или от какой-то культурной системы). Или, если мы предпочитаем, чтобы наши цели не создавались произвольно только для того, чтобы у нас была цель, тогда мы можем обратиться к правдоподобным источникам естественной цели, которые я описал, в частности к тем, которые происходят из различных агентно-соотносительных задач, неразрывно связанных с нашей собственной агентностью и по этой причине не передаваемых на аутсорсинг, а также, возможно, к целям сверхъестественного или религиозного происхождения.

ПАМЯТКА 19. ИСТОЧНИКИ ЧЕЛОВЕЧЕСКОГО ПРЕДНАЗНАЧЕНИЯ В УТОПИИ

Искусственное назначение

(намеренно созданный, либо ради него самого, либо для того, чтобы обеспечить активный опыт автотелесной деятельности)

Самостоятельная работа

Принятие решения о достижении цели

Нейротехнологическое индуцирование цели

Постановка себя в сложную ситуацию

С учетом

Другими лицами

В результате какого-то коллективного или культурного процесса

Естественное и сверхъестественное предназначение

(вытекает из какого-то независимого внешнего мотивационного основания)

Нейтральный агент

Высокоуровневые задачи, которые остаются актуальными при достижении технологической зрелости, например

Физическое расширение

Работа с редкими стохастическими событиями

Подготовка к взаимодействию с инопланетянами

Контроль и координация внутренней цивилизационной деятельности

Культурная продукция и достижения

Постоянная культурная обработка

[Примечание: Люди могут оказаться неконкурентоспособными в этих задачах, даже если их сильно усилить способами, сохраняющими идентичность. Даже если мы сможем оставаться конкурентоспособными, это может потребовать неприемлемых затрат. Однако если на использование машин будут наложены дополнительные ограничения - например, исходя из целей, связанных с агентами, - то вполне возможно, что человеческие цели могут быть расположены в этих областях задач].

Духовные или сверхъестественные установки и представления

Агент-родственник

Почитание людей, традиций

Выполнение обязательств и (возможно, неявных) обещаний

Эстетическое выражение

Духовные или сверхъестественные установки и представления

Духовные или сверхъестественные установки и представления

Агент-родственник

Почитание людей, традиций

Выполнение обязательств и (возможно, неявных) обещаний

Эстетическое выражение

Духовные или сверхъестественные установки и представления

Ну вот и все. Время истекло, как это обычно бывает в конце концов.

У меня есть куча копий заданий для чтения. Я положу их прямо за дверью, и вы сможете забрать их, когда будете уходить.

И наконец, напоминаем, что завтра состоится заключительная часть этого цикла лекций. Она будет открыта для публики, но все слушатели этого курса пройдут бесплатно, и в зале должны быть зарезервированные места. Увидимся там!

Справедливая сделка

Фирафикс: У меня есть копии. "Возвышение Терморекса", хм...

Тессиус: Спасибо.

Спасибо. Теперь у нас есть два варианта.

Фирафикс: Что это такое?

Кельвин: Первое - пойти домой и переодеться в сухую одежду. Потом мы могли бы встретиться.

Фирафикс: А другой?

Кельвин: -

Фирафикс: Опять горячие источники?! Ты как утка.

Кельвин: Я просто предлагаю варианты.

Фирафикс: Что скажешь, Тессиус?

Тессиус: Бороться с водой с помощью воды - по-моему, галактический бред!

Фирафикс: Хорошо, ребята, вы поняли. Но вы должны сказать мне, хорош ли мой анализ вчерашнего вопроса домашнего задания. По дороге мы прихватываем пакет с грушами.

Кельвин: Договорились!

Возвышение ThermoRex

Часть I

1.

После того как ведущие юридические фирмы страны получили свои фунты плоти, на огромной туше, которой являлось поместье герра фон Хайсерхофа, еще оставалось немало.

Хайсерхоф, ведущий промышленник страны, завещал свое огромное состояние фонду, созданному с целью оказания помощи конкретному портативному электрическому комнатному обогревателю. Мы будем называть этот обогреватель "ThermoRex". Хайсерхоф, имевший репутацию немного мизантропа, часто слышал, как он говорил, что ThermoRex сделал для его благополучия и комфорта больше, чем любой из его друзей-людей. Обогреватель, утверждал он, всегда был верен ему, согревая на протяжении многих зимних месяцев, когда северные ветры завывали вокруг его замка; кроме того, Терморекс никогда не устраивал против него заговоров и не пытался извлечь никакой личной выгоды: такое поведение, по словам Хайсерхофа, возвышало его на лестнице достоинств гораздо выше любого мужчины или женщины, которых он знал - включая его собственных двух детей, один из которых отбывал восьмилетний срок за ряд сексуальных преступлений, а другой, по мнению фон Хайсерхофа, опустился еще ниже, женившись на организаторе профсоюза.

Будущие наследники подали иск о признании завещания недействительным. Однако их злоба была настолько сильна, что они, вопреки рекомендациям своих юристов, настояли на том, чтобы добиться полной аннулирования завещания на основании того, что наследодатель был не в здравом уме. Их дело потерпело крах, когда суд выяснил, что в период составления завещания Хайсерхоф активно и успешно управлял промышленным консорциумом, работавшим в двадцати двух странах, и до самого конца оставался игроком в бридж мирового класса. Фактически его смерть наступила во время полуфинала мирового турнира по бриджу, а его холодные жесткие пальцы, как выяснилось впоследствии, сжимали короля-высокого-стрейт-флеш (рука, которая, по всей вероятности, способствовала его смерти, поскольку, как предполагалось, именно из-за нее он откладывал обращение за медицинской помощью в начале своего смертельного сердечного приступа).

Таким образом, после завершения судебного разбирательства право собственности на все активы компании von Heißerhof было передано юридическому лицу "Фонд в пользу портативного комнатного обогревателя ThermoRex серийный номер 126-89-23-79-81".

Сложный институциональный механизм, создававшийся много лет, теперь был приведен в действие. Из личного дела Хайсерхофа было извлечено длинное "руководство по эксплуатации" с подробными инструкциями для его душеприказчиков. Было создано несколько взаимосвязанных организаций в различных офшорных и прибрежных юрисдикциях, каждая со своими тщательно прописанными целями и подзаконными актами. Ключевые должностные лица были подобраны Хайсерхофом вручную - люди, которым, как он знал, он мог доверять в исполнении своих желаний; но в любом случае юридические структуры были так хитроумно придуманы, с множеством перекрывающихся и взаимно усиливающих сдержек и противовесов, что даже кабале сговорившихся инсайдеров было бы трудно подорвать его намерения. Даже из могилы дух Хайсерхофа не терял контроля над ситуацией и был твердо намерен добиться того, чтобы ресурсы, которые он собирал всю жизнь, были использованы исключительно на благо ThermoRex.

2.

В центре этой конструкции находился Попечительский совет из двенадцати человек, состоящий из ближайших соратников Хайсерхофа. В их двадцати трех руках (одна из них была с крючком) лежала ответственность за распоряжение состоянием, которое, по слухам , было достаточного размера, чтобы спасти обанкротившуюся пенсионную систему средней страны.

"Но как мы это сделаем?" - спросил председатель. "Давайте еще раз все перечитаем".

Нахмурив брови, члены Попечительского совета читали. В тексте были четко сформулированы цели фонда: он должен "работать на благо", "продвигать интересы" и "способствовать общему процветанию, благополучию и идеальному функционированию" Терморекса. Если эти цели были неясны, инструкции предписывали попечителям "действовать так, как если бы ими двигала бескорыстная любовь к этому уникальному и прекрасному существу, Терморексу".

- "Идеи? Кто хочет пойти первым? Гюнтер, что скажешь?"

Гюнтер Альтман, серебристоволосый джентльмен в костюме-тройке, был самым старым членом совета директоров и знал Хайсерхофа еще со школьных времен.

- "Я предлагаю заказать коньяк", - ответил Гюнтер. Это предложение было встречено всеобщим одобрением.

После того как жидкость была подана и выпита, разговор пошел легче, и было принято несколько решений. В первую очередь речь шла о физической безопасности "Терморекса". Устройство будет находиться под круглосуточной вооруженной охраной. В одной из ведущих инженерных фирм будет подготовлен отчет, в котором будут оценены риски наводнений, землетрясений, пожаров и скачков напряжения, а также даны рекомендации по снижению этих рисков. Эта работа должна была быть выполнена в ускоренные сроки.

Удовлетворенные проделанной работой, члены Попечительского совета удалились на дневной отдых.

3.

На следующее утро двенадцать собрались вновь, и казначей попросил слова. Один из молодых членов группы, он имел сосредоточенный взгляд и носил круглые очки в проволочной оправе. Он объяснил, что произвел некоторые подсчеты, и, исходя из средней нормы прибыли на инвестиции Хайсерхофа за последние годы, стоимость активов Фонда - после вычета расходов, о которых договорились накануне, - скорее всего, выросла с начала их обсуждения. Таким образом, в некотором смысле они не добились прогресса, а, наоборот, еще больше отстали в достижении своей цели. Чтобы выполнить свои фидуциарные обязанности, им придется думать и действовать в гораздо более амбициозных масштабах.

Совет быстро принял решение о внесении некоторых изменений в принятые накануне меры, например об увеличении численности охранного подразделения с четырех до восьми человек. Но постепенно их осенило, что для того, чтобы хоть немного справиться с возложенной на них задачей, необходимо расширить сферу своей деятельности за пределы физической защиты. Они должны были найти способы принести пользу компании ThermoRex, поднять ее благосостояние выше базового уровня.

- "Что нужно комнатному обогревателю?", - спросил председатель. "Что ему нужно? Думайте! Думайте!"

- "Может, он хочет, чтобы в комнате было тепло?" - предположил кто-то.

- "Или все здание", - вторил другой. "Оно хочет, чтобы в его доме было тепло".

- "А почему не вся Земля?"

- "Ну, это было бы слишком. Мы не можем позволить себе обогреть всю планету. Кроме того, навязывать всем остальным более высокую температуру было бы не очень ответственно".

Разговор завязался, и снова принесли бокалы и коньяк.

- "Вы знаете, как работает обогреватель?" - сказал один из членов Попечительского совета, который ранее руководил отделом исследований и разработок в одной из дочерних компаний конгломерата. "Внутри находится термостат. Он измеряет температуру и, если она ниже заданной, включает нагревательный элемент. Как только температура достигает желаемого уровня, или, может быть, на один градус выше, нагревательный элемент отключается. Но, как видите, важно только то, что показывает термометр - ThermoRex никак не может узнать, какова реальная температура в другом месте. Поэтому мы можем держать его в небольшой комнате или даже в шкафу: пока температура всегда соответствует заданному значению, он будет абсолютно счастлив!"

- "Нет, нет, этот аргумент доказывает слишком многое!" - возразил другой попечитель. "Рассуждая подобным образом, мы могли бы с тем же успехом сказать, что вас волнует только то, что происходит внутри вашего мозга. Но я, по крайней мере, забочусь и о других вещах. О том, что находится за пределами меня. В том числе о том, о чем я, возможно, никогда не узнаю".

- "Что вы имеете в виду?"

- "Ну, например, я бы не хотел, чтобы у моей жены был роман с ее инструктором по теннису. Даже если я никогда об этом не узнаю. Я не хочу, чтобы моя жизнь была основана на большой иллюзии".