Глубокая утопия. Жизнь и смысл в решенном мире

Хорошо. Мы заходим в более глубокие воды. Я планирую вернуться к вопросам о цели и смысле в одной из последующих лекций, возможно, в пятницу. А пока я просто положу на стол возможность создания искусственной цели.

Я уже упоминал об одной из форм этого. Допустим, вы решили поиграть в футбол в качестве автотелесной деятельности. Для того чтобы заняться этой деятельностью, вы ставите перед собой цель выиграть матч. Если вы действительно принимаете эту цель - если, приняв ее, вы действительно хотите ее достичь - тогда возникает ощущение, что футбольный матч имеет для вас реальные ставки. Вы хотите выиграть. С этого момента вы оказываетесь во власти своего рода цели. Единственный способ получить то, что вы хотите, - это приложить усилия. Возможно, от исхода игры больше ничего не зависит, но ставка - это сам выигрыш или проигрыш.

Если вам трудно по-настоящему принять цель таким образом, используя только свою природную способность к вовлечению и приверженности, вы можете использовать для этого нейротехнологии. Решив, что игра в футбол обогатит вашу жизнь, и убедившись, что желание победить улучшит само занятие и опыт, вы можете запрограммировать свой разум на горячее желание помочь своей команде победить.

Другая форма искусственной цели - поставить себя в ситуацию, в которой только ваши собственные усилия могут позволить вам достичь какого-то результата, который вам уже небезразличен по независимым причинам. Вспомните скалолаза на полпути в гору: там у него нет иного выбора, кроме как под страхом смерти применить свою силу и мастерство. В утопии аналогичная возможность предполагает создание особой ситуации, в которой возможности технологической зрелости недоступны. Например, некоторые из ваших усовершенствований могут быть отключены и запрограммированы так, чтобы снова загружаться только через определенный период времени, а любая возможность спасения извне может быть запрещена указом. Теперь остаетесь только вы и неизбежная необходимость решить стоящую перед вами задачу.

На это предложение о создании искусственной цели можно возразить, что оно фактически равносильно приостановке утопии, по крайней мере локальной. Это наиболее очевидно в том случае, если искусственная цель создается путем перехода в "жесткий" режим, в котором убираются общедоступные средства автоматического достижения результатов, что создает очаг не утопической нехватки и опасности. Но, возможно, можно утверждать, что элемент отстранения будет присутствовать и в том случае, когда искусственная цель достигается путем вызывания особого желания, требующего приложения усилий, как, например, в случае с футболистом, у которого появляется желание помочь своей команде победить, используя только честные и справедливые средства.

Думаю, я бы предпочел сказать, что если бы подобные меры были необходимы для достижения наилучшей жизни, их можно было бы рассматривать как часть утопии. Вместо того чтобы говорить, что в утопическом сыре будут дырки, мы могли бы сказать, что на идеальном лице могут быть веснушки или пятна красоты: это не исключения из лица, а его неотъемлемая часть.

В любом случае, это оборонительная линия, поскольку, даже если и так, что очень желанная жизнь должна содержать деятельность с реальными ставками, это то, что может быть обеспечено в период технологической зрелости. И это можно сделать гораздо более оптимальным способом, чем в нашей нынешней цивилизации, где реальные ставки, конечно, существуют, но очень часто не очень тесно связаны с достойными формами стремления и достижения - например, когда того, кто все делал правильно, сбивает автобус или когда путь к достижению хорошего результата включает в себя долгие годы бездумной шлифовки.

Социокультурная запутанность

Наконец, мы подошли к пятому, самому крайнему палисаду.

Как мы уже говорили вчера, у автоматизации есть пределы. Я не имею в виду физические пределы. Физические пределы, конечно, существуют, но они не имеют значения для создания пространства для человеческих целей, поскольку то, что физически невозможно для машин, физически невозможно и для нас.

Важно то, что существуют также социальные и культурные ограничения на способность машин заменить человеческий труд. Например, некоторые потребители могут предпочесть, чтобы некоторые товары и услуги производились вручную. Они даже могут предпочесть, чтобы они производились вручную работниками, которые не пользуются преимуществами определенных форм улучшения или дополнения. Подобные ограничения могут возникнуть, возможно, даже более естественным образом в некоммерческой среде, где, например, можно сделать подарок своими руками, чтобы выразить эмоции или отношение к чему-либо, а покупной товар не сможет выполнить эту выразительную функцию. Или кто-то может захотеть, чтобы его любил и о нем заботился конкретный существующий человек - возможно, предпочитая это даже неотличимой любви и заботе со стороны роботизированной копии, - и это может создать для него возможности для достижения подлинных инструментальных благ (выгод для другого человека) посредством его собственных усилий и деятельности, труда, который в этом случае не может быть передан на аутсорсинг.

Существуют и более косвенные или социокультурно сложные возможности такого общего типа, обсуждение которых я, однако, отложу до следующей лекции.

В итоге получается, что если утопистам нужна цель, то она не должна полностью ограничиваться искусственной. Некоторые естественные цели могут оставаться для них даже при технологической зрелости.

Итак, таковы пять колец защиты (рассмотренные здесь лишь в общих чертах). Я полагаю, что они могут в достаточной степени отразить нападение проблемы цели, чтобы сохранить в своих счастливых пределах форму постинструментальной утопии, которая является чрезвычайно желанной. Даже если через них просачивается некоторое ощущение избыточности, оно кажется вполне терпимым: с ним можно жить - и жить хорошо.

Теперь я понимаю, что сегодня я также планировал обсудить мысленный эксперимент Роберта Нозика "машина опыта", но у нас закончилось время. Что ж, думаю, вам придется подумать об этом самостоятельно. Я могу дать вам подготовленную мной памятку - не знаю, будет ли она понятна сама по себе, но, возможно, она поможет вызвать некоторые размышления.

Давайте оставим паузу на этом. До завтра!

Знаки и наблюдения

Тессиус: Давай застегнемся.

Фирафикс: Туда?

Тессий: Да. Давайте посмотрим, сможем ли мы выбраться... Простите. Извините нас. Простите. Простите. Мы не студенты, а самозванцы. Простите. Простите.

Простите. Пардон.

Тессиус: Похоже, все они останутся.

Кельвин: Как овцы на стрижку.

Тессиус: Как студенты на бесплатные закуски.

Фирафикс: У меня есть раздаточный материал.

Тессиус: Позвольте мне показать вам... вот новая вывеска. Это настоящее золотое покрытие?

Менеджер по оборудованию: Он сертифицирован, добыт на кустарной шахте в Анголе. Он был вырублен из земли с помощью каменных инструментов ручной работы.

Тессиус: Ух ты.

Бостром: "Эксон Аудиториум", хм. -О, привет, Дэйв!

Привет! Я вижу, что университет получил очередное вливание капитала. Должно быть, у него уже довольно внушительный эндаумент-фонд.

Бостром: Я не уверен, что карманы без дна, но брюки, к сожалению, определенно без дна.

Это для хорошего дела.

Бостром: Как поживаешь, старик? Рад был тебя видеть.

Дэйв: Хотел бы я объявить о своем магнум опусе, но, к сожалению, моя слабая жизненная сила в последнее время не создала ни одного великого произведения. Я утешаю себя мыслью, что в других отраслях универсальной волновой функции есть версии Дэйва, которые публикуют том за томом, организуя ударные отряды глобальной биомедицинской революции счастья.

Бостром: Рон Хаббард райской инженерии, возможно?

Дэйв: Именно так! Но, увы, не в этой ветке. Полагаю, у вас есть кое-что на плите?

Бостром: Я работаю над книгой.

Отлично. Какая тема?

Бостром: Она будет основана на этом цикле лекций. Знаете, накормить двух зайцев одним рожком мороженого.

Дэйв: Вкусное веганское мороженое!

Бостром: Конечно. Хотя я думаю, что наши пернатые друзья с радостью обойдутся без мороженого - похоже, для них главное - рожок... Может, выпьем кофе?

Веди. Я буду в городе пару дней.

Тессиус: Ух ты, редкое зрелище. Вы ведь знаете, кто это был?

Фирафикс: Да. Он показался мне милым.

Кельвин: Если говорить о гедонистических императивах, то мы с Фирафиксом подумываем о том, чтобы принять ванну. Хочешь пойти с нами?

Тессиус: Горячие источники? Конечно! Когда мы едем?

Кельвин: Сразу же.

Обивка мечты

Фирафикс: Может быть, сначала мы прочитаем памятку о машине опыта, а потом поговорим о ней по пути туда?

Кельвин: Хорошо, давайте посмотрим.

Тессиус: Вы, ребята, такие великолепные ботаники! Мне это нравится.

ПАМЯТКА 11. ОПЫТ МАШИНОСТРОЕНИЯ

Нозик пишет:

"Предположим, что существует машина впечатлений, которая может дать вам любой опыт, какой вы только пожелаете. Суперпупернейропсихологи могли бы стимулировать ваш мозг так, чтобы вы думали и чувствовали, что пишете великий роман, или заводите друга, или читаете интересную книгу. Все это время вы будете плавать в аквариуме, а к вашему мозгу будут прикреплены электроды. Стоит ли вам подключаться к этой машине на всю жизнь, заранее программируя свой жизненный опыт?"

Нозик утверждает, что если мы отказываемся от предложения подключиться к сети, это говорит о том, что мы ценим не только (или в дополнение) субъективный опыт.

Но как именно будет работать такая машина? В философской литературе этот вопрос не получил широкого освещения.

(a) Если вы трус, как вы можете испытывать храбрость? Если вы не разбираетесь в математике, как вы можете переживать блестящие математические открытия? Возможно, в вашем мозге, как он есть, нет сенсорного сигнала, который мог бы вызвать эти переживания. Поэтому суперпуперученым придется напрямую перестраивать внутреннее устройство вашего мозга. Но при этом могут возникнуть проблемы с идентификацией личности. Если перепрошивка будет слишком обширной, слишком резкой и не будет связана с естественным развитием ваших способностей, то человек в танке, который в итоге получит опыт храбрости и математической гениальности, не будет вами. Это ограничивает возможные траектории опыта, которые вы могли бы получить в машине опыта. (Прямое редактирование мозга также потребуется для многих опытов, которые обычно зависят от наличия определенной истории и биографии, а также от наличия определенного профиля личности и способностей. То, что мы на самом деле испытываем, когда нас стимулируют определенным набором сенсорных входов, очень сильно зависит от того, что мы приносим с собой - наши концепции, наши воспоминания, наше отношение и настроение, наши навыки и т. д.)

(b) Если вы хотите получить опыт, связанный с приложением усилий, то, по сути, вы должны сами приложить к этому усилия. С учетом ограничений, указанных в пункте (а), ученые могут заставить вас приложить такие усилия; но стоит отметить, что такой опыт не будет получен "бесплатно". Предположим, вы хотите получить опыт восхождения на Эверест. Вы могли бы легко получить опыт, увидев ряд видов, которые открываются во время восхождения; а если вы посмотрите вниз, то увидите, как двигаются ваши ноги. Вы также можете почувствовать давление рюкзака на плечи и прохладный воздух, обжигающий щеки. Но без ощущения напряжения, необходимости копаться в себе, чтобы найти силы для продолжения, ваши ощущения будут лишь тенью опыта тех, кто покорял Эверест в реальной жизни. Если же ученые все же вызывают эти элементы, то вы платите за опыт огромную цену - цену дискомфорта, страха и затрат силы воли. Машина впечатлений, возможно, не даст вам столько преимуществ по сравнению с реальным восхождением на настоящую гору, хотя и защитит вас от риска физической травмы.

(c) Среди наших самых важных переживаний - те, которые связаны с взаимодействием с другими людьми. Как можно реализовать такой опыт? Рассмотрим следующие маршруты.

i. NPC. Для того чтобы генерировать сенсорный ввод, который вы получаете при взаимодействии с другими людьми, эти другие люди могут быть реализованы как NPC ("неигровые персонажи"), под которыми я подразумеваю конструкции, отображающие некоторые атрибуты разумного существа, но не обладающие при этом феноменальным опытом или другими основаниями, которые наделили бы это существо моральным статусом. Это, несомненно, возможно в случае относительно неглубоких взаимодействий. Например, если вы хотите получить опыт задавания незнакомцу нескольких вопросов типа "сколько будет два плюс два?" и получения в ответ ответа типа "четыре", то метафизически возможно осуществить необходимые вычисления, не создавая никакого морально значимого существа (кроме себя). Но менее очевидно, что метафизически возможно создать полностью реалистичный опыт долгого, глубокого и насыщенного взаимодействия с другим человеческим существом без выполнения вычислений, эффективно реализующих сложный цифровой разум, обладающий моральным статусом. Это подводит нас ко второму пути создания опыта взаимодействия...

ii. ВПЦ. Под VPC ("виртуальными персонажами-игроками") я подразумеваю искусственные вычислительные конструкции, обладающие моральным статусом, например, потому что они обладают сознательным цифровым разумом. Использование VPC открыло бы очень широкий спектр возможностей взаимодействия, хотя механика реализации остается сложной. Например, в реальной жизни вы можете пройтись по многолюдной площади и завязать разговор с любым из тысяч встречных - в принципе, глубокий разговор, который может привести к дружбе или отношениям на всю жизнь. Поэтому аппарат супер-пупер ученых может включать в себя VPC-симуляторы всех этих людей (с большими вычислительными затратами). В качестве альтернативы можно использовать процедурную генерацию для создания VPC по требованию: изначально анонимные люди в толпе могут быть представлены как NPC, но если вы начнете глубокое взаимодействие, недостающие детали их разума будут заполнены, чтобы представить их как VPC, которые могут отвечать вам в полностью реалистичной манере. Такая сублимация NPC в VPC потребует большого объема вычислений - возможно, придется смоделировать целые детские и личные истории, чтобы создать полностью реалистичные VPC, с которыми вы собираетесь вступить в разговор.

Несмотря на то, что VPC технически позволяют генерировать очень широкий спектр опыта взаимодействия, использование VPC влечет за собой моральные осложнения. Возможно, вы не сможете получить определенный опыт в машине опыта, не нарушив этических ограничений, как это было бы во внешней реальности.

iii. ПК ("персонажи игроков", симулированные или оригинальные). Дополнительные этические сложности возникают, если вы хотите получить опыт взаимодействия с конкретными людьми из реального мира. Необходимо будет либо создать точные симуляции этих людей, либо подключить реальных людей к машине опыта, чтобы вы могли с ними взаимодействовать. В любом случае можно предположить, что реальный человек, о котором идет речь, имеет моральное право высказаться по этому поводу; и некоторые люди, предположительно, не согласятся взаимодействовать с вами таким образом. Более того, даже если они будут взаимодействовать с вами, они могут взаимодействовать не так, как вы хотите. Например, вы можете захотеть, чтобы конкретный человек из реального мира погладил вас по волосам, но, как правило, нет никакой гарантии, что этот человек заинтересован в этом - ни оригинальный человек, ни его точная симуляция. В случае с симуляцией технически возможно изменить симуляцию таким образом, чтобы она захотела вступить в тот тип взаимодействия, который вы ищете; однако без предварительного согласия данного человека это, вероятно, будет недопустимо с моральной точки зрения.

Была предложена "многопользовательская" версия машины опыта (в том числе самим Нозиком), в которой множество людей вместе подключаются к машине опыта. Это позволило бы нам вступать в реальные взаимодействия с другими реальными людьми, в том числе с конкретными существующими людьми, которые важны для нас, что устранило бы одну общую причину для отказа от входа в машину опыта. Однако при таком раскладе вы уже не сможете полностью контролировать свой опыт, поскольку теперь он будет зависеть от независимого выбора других людей. Таким образом, этот сценарий нарушает ключевую предпосылку оригинального мысленного эксперимента.

iv. Записи. Представление о том, что вы попадаете в машину опыта, когда нейропсихологи стимулируют ваш мозг с помощью электродов, немного причудливо. Более правдоподобным и эффективным методом было бы сначала загрузить себя в компьютер, а затем взаимодействовать с виртуальной реальностью.117 Это дает нам, по крайней мере, один особый случай, в котором вы можете получить полностью реалистичный опыт глубокого взаимодействия без инстанцирования какой-либо морально значимой сущности (кроме вас самих), а именно: воспроизведение записей выходов других людей. Для этого сначала нужно выполнить один запуск, в котором вы взаимодействуете с VPC или PC (которые сами могут быть загруженными или биологическими). Суперпуперученые записывают историю взаимодействия между вами и этими другими людьми. Когда вы закончите делать все, что хотели, мы вернем ваш разум и окружающую среду в исходное состояние. Теперь у вас есть возможность снова насладиться тем же опытом, но на этот раз без инстанцирования реальных людей. Это будет сделано путем повторного запуска программы, которая реализует ваш разум, инициализированный в точной начальной конфигурации первого запуска; но вместо повторного запуска вычислений, соответствующих разумам ваших партнеров по взаимодействию (или физическому окружению), мы просто извлекаем соответствующую информацию из памяти. Поскольку вы проходите опыт во второй раз, вы можете сделать любой выбор: но поскольку мы уже знаем, какой выбор вы захотите сделать, и поскольку у нас есть запись того, как другие люди и окружающая среда реагировали на этот выбор, нам не нужно заново вычислять эти части и вместо этого мы можем использовать сохраненные данные для определения входных данных, которые получают ваши органы чувств. (Операции вашего собственного разума, конечно, нужно пересчитать, потому что, как мы полагаем, именно они порождают ваш опыт).

Этот трюк с записью все еще имеет ограничение: он требует первоначального запуска, в котором ваши партнеры по взаимодействию будут реализованы как реальные люди. Это влечет за собой моральные осложнения, которых мы, возможно, надеялись избежать (хотя если моральные нарушения и существуют, то эта процедура, по крайней мере, уменьшит количество случаев их совершения). Метод записи также имеет тот недостаток, что он ограничивает вас в повторении старого опыта (хотя, конечно, он всегда будет казаться таким же свежим и оригинальным, как и в первый раз).

v. Интерполяции. Воспроизведение точной записи - это предельный случай. Мы можем рассмотреть менее экстремальные случаи в том же измерении, в которых NPC реализованы таким образом, что в большей или меньшей степени полагаются на кэшированные вычисления и на сопоставление шаблонов с банком данных наблюдений о том, как люди реагируют в аналогичных ситуациях (в отличие от ab initio или полностью восходящего вычисления чьей-либо нервной системы). Вообще говоря, чем больше машина опыта полагается на запомненный материал для создания реакций других людей, которые мы испытываем при взаимодействии с ними, тем меньше вероятность того, что другой видимый человек станет реальным в этом процессе - "реальным" в смысле представляющим собой сущность, обладающую моральной терпимостью.

Трудно сказать, насколько далеко можно продвинуться в этом направлении. Возможно, для довольно простого разума, такого как человеческий, станет возможным создать библиотеку разумов и опыта, позволяющую генерировать вполне правдоподобные представления о большинстве типов взаимодействий, которые люди обычно хотят иметь с другими человекоподобными существами, не создавая тем самым никаких морально значимых существ.

vi. Управляемые сны. Нижнюю границу того, что возможно с помощью создания реалистичного опыта без взаимодействия с внешним миром или другими реальными людьми, дают сны (и галлюцинации). Для сновидца сны могут быть очень убедительными. Большинство людей мало контролируют то, что происходит в их снах, но, предположительно, уровень контроля может быть значительно увеличен с помощью передовых нейротехнологий. (Даже без технологических приспособлений некоторые "люцидные сновидцы" сообщают о способности в значительной степени управлять содержанием своих снов).

Возможно, стоит задаться вопросом, насколько убедительность сновидений является следствием того, что их эмпирическое содержание очень похоже на эмпирическое содержание аналогичного опыта бодрствования, а не следствием того, что наша способность обнаруживать несоответствия или эмпирические недостатки ослаблена, пока мы спим. Конечно, наши сновидения часто содержат аномалии, которые, будь у нас аналогичные переживания в бодрствующем состоянии, мы должны были бы заметить и расценить как необычные и причудливые. Однако сны - это спонтанные творения нашего скромного мозга, и весьма правдоподобно, что их реалистичность и согласованность можно искусственно повысить в период технологической зрелости. Если наши сны станут намного более подробными, реалистичными и связными, возникнет вопрос, не могут ли эти люди, когда мы видим во сне других людей, не вступить в реальное существование настолько, чтобы стать моральными пациентами. В таком случае было бы морально проблематично мечтать или фантазировать достаточно реалистично о других людях без их предварительного согласия (и без соблюдения различных других этических ограничений).

Фирафикс: Я закончил.

Кельвин: Ладно, пойдемте.

Фирафикс: Таким образом, он не дает точного ответа на вопрос, стоит ли входить в машину опыта или нет. Что вы думаете?

Тессиус: О, я бы рекомендовал.

Фирафикс: Вы примете предложение?

Тессиус: Уже. Здесь здорово!

Фирафикс: Что вы имеете в виду?

Тессий: Понюхайте эту сирень... разве она не прекрасна?

Мне кажется, он немного тянет тебя за ногу.

Тессиус: Что? Вы хотите сказать, что вы не просто воображаемые персонажи моего ведомого сна?

Фирафикс: Если это так, то у вас живое воображение! Потому что с моей точки зрения это выглядит вполне реально.

Тессиус: Всегда пожалуйста. Это за счет заведения.

Вымышленные персонажи

Фирафикс: Но если серьезно, вы никогда не задумывались, что мы можем быть героями романа или чего-то подобного?

Кельвин: Вымышленные персонажи не реализованы в достаточной неврологической детализации, чтобы иметь феноменальный опыт. Поскольку у нас есть феноменальный опыт, мы не являемся такими персонажами. Но даже если отбросить феноменальный опыт, мы знаем о многих вещах, о которых не сообщается ни в одном романе - например, о точной конфигурации вон тех деревьев.

Подумайте, сколько информации содержится в книге. Допустим, в ней 100 000 слов. В среднем слово состоит из 5 символов, а каждый символ - из 8 бит. Таким образом, это будет 4 мегабита. При сжатии это будет гораздо меньше. Невозможно представить все содержание всего нашего опыта, который мы пережили за свою жизнь, с помощью такого количества битов.

Тессиус: Может быть, это должен быть не весь опыт, который мы пережили за свою жизнь, а только тот, который мы переживаем в данный момент? Хотя это соответствовало бы книге, которая полностью посвящена деталям переживаний одного человека в один-единственный момент времени. Вероятно, таких книг не так уж много.

Кельвин: В человеческом мозге около 1014 синапсов, большинство из которых передают информацию в течение любого односекундного интервала. Даже если бы каждое синаптическое событие можно было представить только одним битом информации, это все равно было бы более чем в десять миллионов раз больше информации, чем содержится в несжатой книге. Грубые цифры, но это огромный разрыв.

Тессиус: Разве более фундаментальное возражение не состоит в том, что книга не обрабатывает информацию? Но я полагаю, что, возможно, обработка происходит в сознании читателя во время чтения... Но тогда, может быть, большая часть информации о вымышленном персонаже также поставляется сознанием читателя - например, он использует свой собственный опыт и заполняет скудные детали, представленные в тексте, чтобы создать более полноценного персонажа в своем воображении? -На самом деле я не думаю, что это работает, но интересно рассмотреть этот аргумент, чтобы понять, где он ошибается.

Кельвин: Я не думаю, что человеческий интеллект достаточно силен, чтобы создать воображаемый разум, просто подумав о нем. Для сверхинтеллекта это совсем другое дело. Он мог бы внутренне моделировать разумные существа. Но это совсем другое предположение, чем то, что литературные персонажи в романе обладают сознанием или что мы можем быть такими персонажами.

Тессий: Да, давайте сосредоточимся на случае литературных персонажей в обычных книгах, написанных человеком. Откуда нам знать, что при чтении романа человек не получает достаточно информации и вычислений, чтобы описанные персонажи ожили настолько, что мы не можем быть уверены, что мы не являемся такими персонажами? Мы явно не представляем разум, состоящий из ста триллионов синапсов, когда читаем роман; но не кажется очевидным, что явное представление с такой степенью детализации было бы необходимо для получения субъективного опыта, о котором идет речь.

Кельвин: Хм. Думаю, главное - уловить контрфактические модели поведения. Не похоже, что мы делаем это, когда читаем о ком-то в книге.

Фирафикс: Не хотите рассказать подробнее?

Кельвин: Для осуществления вычислений недостаточно иметь последовательность репрезентаций последовательных состояний рабочей памяти. Необходимо также, чтобы причинно-следственная структура была такова, что при изменении любого из этих промежуточных состояний последующие состояния разворачивались бы по-другому, соответствующим образом.

Тессиус: Это разница между воспроизведением фильма о вычислениях и реальной реализацией вычислений. В фильме каждый кадр может содержать изображение состояния ячеек памяти. Если вы воспроизведете фильм, то увидите последовательность картинок сменяющих друг друга состояний ячеек памяти. Но если во время воспроизведения фильма вы зашли и отредактировали один из кадров, последующие кадры не изменятся. Так, в фильме о простых арифметических вычислениях один кадр может изображать "2+2", а следующий - "4". Но если вы измените первый кадр на "2+3", то на втором кадре по-прежнему будет "4". Это противоположно тому, как если бы вы действительно выполняли вычисления. Если бы вместо кинокатушки вы использовали карманный калькулятор, который действительно реализует вычисления, то на временном шаге после редактирования ввода на экране появилось бы число "5".

Фирафикс: Понятно. А как это связано с тем, что происходит, когда мы читаем роман?

Кельвин: Когда мы читаем или воображаем одного из героев романа, представляем ли мы в достаточной степени все его контрфактические модели поведения?

Тессиус: Может быть, один из способов понять это: Предположим, вы читаете о вымышленном персонаже, который пилотирует самолет во время Второй мировой войны. Но вы, читатель, никогда не пилотировали самолет. Ваш мозг никак не сможет выполнить вычисления, которые потребуются для успешного управления истребителем времен Второй мировой войны. Так как же тогда можно реализовать необходимые вычисления, которые бы точно воспроизводили опыт такого пилотирования?

Фирафикс: Нет, наверное, это невозможно... Но что, если мы рассматриваем случай, когда читатель находится на том же уровне, что и вымышленный персонаж, обладает теми же навыками и так далее.

Тессиус: Вы утверждаете, что существуют читатели, которые находятся "на одном уровне" с нами? Я, например, объявляю себя оскорбленным и обиженным.

Фирафикс: Я в первую очередь думал о том, не являюсь ли я вымышленным персонажем! Но если мы вымышленные персонажи в вымышленном мире, может быть, в мире, где происходит чтение, есть очень умные читатели?

Кельвин: Если бы читатели были сверхразумными и если бы их "чтение" состояло, по сути, из детального внутреннего моделирования нейронных сетей персонажей, описанных в романах, тогда да. Но мы не говорим здесь о гипотезе симуляции. Вместо этого мы обсуждаем безумное предположение о том, что мы можем быть персонажами истории, написанной и прочитанной обычными человекоподобными существами, верно?

Фирафикс: Ну, может быть, есть читатели, которые чуть умнее обычных людей, но не сверхразумные? Но, возможно, лучше сосредоточиться на случае, когда у нас есть вымышленный персонаж с достаточно ограниченными способностями, чтобы существовало хотя бы несколько читателей-людей, которые могли бы делать все то, что может делать этот вымышленный персонаж. Если мои способности ограничены, как я могу знать, что я не вымышленный персонаж? Или, я полагаю, экземпляр такого вымышленного персонажа, о котором читает и воображает какой-то конкретный читатель? В отличие от реального существа из плоти и крови?

Тессиус: Нитпик: вымышленные персонажи - если только это не научно-фантастическая история об андроидах - обычно изображаются из плоти и крови. И особенно если... вообще-то, забейте, извините. Э-э, хм...

Предположим, что вымышленный персонаж вспоминает о своей покойной матери. Вы, читатель, не знаете мать этого персонажа: вы никогда не встречались с ней и, предположим, даже не читали о ней. Как же тогда вы можете мысленно представить себе, что испытывал бы этот вымышленный персонаж, если бы он действительно что-то испытывал? И наоборот, если вы думаете о чем-то, что не было описано ни в одном романе, то как мог писатель или читатель породить те мысли, которые у вас возникают? Но сейчас, когда я произношу эти слова, мне приходит в голову очевидное возражение: как я могу знать, о каких мыслях мог писать тот или иной писатель? И как я могу знать, что мои мысли, когда я думаю о своей матери, на самом деле не являются мыслями какого-то читателя, когда он думает о своей матери или о какой-то другой случайной фигуре, похожей на мать, которую он создает в своем воображении?

Фирафикс: Ну?

Тессиус: У меня очень много мыслей. Маловероятно, чтобы какой-нибудь писатель - по крайней мере, человек - мог обдумать все эти мысли и записать их; или чтобы какой-нибудь читатель вызывал все эти мысли в процессе чтения романа... И, если быть до конца честным, не исключено, что в какой-то момент у меня могла возникнуть мимолетная мысль, которая не заслуживает того, чтобы быть записанной... Итак, тот факт, что у меня были все эти мысли, включая те, которые авторы не сочли бы достаточно значительными, чтобы записать их в своих романах, а читатели - чтобы детально представить в своем воображении: этот факт доказывает, что я на самом деле не являюсь персонажем романа.

Кельвин: Конечно, это предполагает, что у вас на самом деле были все эти мысли, которые, как вы утверждаете, у вас были.

Фирафикс: Я не хочу сомневаться, что у вас было много мыслей!

Кельвин: Нет, но если бы мы были вымышленными персонажами, то в этом вымысле мы могли бы быть изображены как персонажи, у которых было много мыслей.

Тессий: Это не сделает все эти мысли реальными.

Кельвин: Верно. В рамках художественной литературы может быть правдой, что вымышленные персонажи имели огромное количество мыслей, а также что у них есть жизни, которые простираются как до, так и после событий, явно описанных в тексте.

Тессиус: Но как же тогда быть с вашим предыдущим замечанием о содержании информации? Если я не сильно ошибаюсь, я могу вспомнить множество конкретных деталей о своем прошлом, больше, чем любой романист захочет написать или читатель представить. На самом деле, это другая версия аргумента об информационном содержании, который вы изначально предлагали. Вы, кажется, предполагали, что того факта, что человеческий мозг содержит 1014 синапсов, может быть достаточно, чтобы установить, что вымышленные персонажи не являются разумными, поскольку книга не содержит достаточно информации, чтобы указать, что делают все эти синапсы в мозгу вымышленного персонажа. Но теперь идея состоит в том, что мозг читателя выполняет большую часть этой работы. Книга содержит некоторые подсказки и указатели, но мозг читателя заполняет большую часть необходимой информации - а именно, читатель использует свои собственные концепции, интуицию и воображение, чтобы представить себе опыт вымышленного персонажа, тем самым делая его реальным. А поскольку воображение читателя прибегает к услугам триллионов синапсов, нет никакого несоответствия между количеством информации и вычислений, необходимых для создания феноменального опыта, и количеством информации и вычислений, которые доступны в процессе чтения, чтобы совершить этот подвиг.

Но теперь новое возражение касается не количества синапсов. Оно касается всех конкретных подробных воспоминаний, которые у меня были. Если у меня действительно были все эти воспоминания, то я не могу быть вымышленным персонажем.

Если.

Тессиус: Ну, это было бы довольно радикальной формой скептицизма - думать, что все мои воспоминания могут быть поддельными. То есть возможно, да; но правдоподобно ли это?

Фирафикс: Это заслуживает доверия?

Тессиус: Судите сами. Но у меня есть и другой аргумент. Когда я читаю о персонаже, который собирается на вечеринку, это совсем другой опыт, чем тот, который я испытываю, когда иду на вечеринку. Может быть, есть некоторое сходство, но, с точки зрения реализма, это далеко не одно и то же. В одном случае там тихо, я расслаблен и, возможно, чувствую себя уютно под пледом на диване; в другом случае, , там громкая музыка, волнение и люди, сталкивающиеся со мной. Я могу потерять себя в романе, но у меня нет реальной возможности спутать эти два совершенно разных типа переживаний.

Да, да, тогда у нас есть два основания отвергнуть гипотезу о том, что мы - персонажи романа. Во-первых, потому что у нас есть огромное количество подробных воспоминаний о прошлом, которые не вошли бы ни в одну правдоподобную книгу или опыт чтения. Во-вторых, потому что реальный опыт, возникающий во время чтения, качественно очень заметно отличается от опыта, возникающего, когда человек находится вне мира и занимается реальными делами. QED?

Фирафикс: Что ж, спасибо, господа. Я рад, что мы не просто вымышленные персонажи. Хотя какая-то часть меня думает, что это не так уж и плохо - конечно, в зависимости от того, что это за роман.

Тессий: Придержите коня, я уверен, что возражения вот-вот поступят.

Кельвин: На самом деле мы не решили вопрос о том, можно ли доверять своим очевидно многочисленным воспоминаниям о прошлом.

Тессий: Что касается второго аргумента, я думаю, мы можем согласиться с тем, что опыт, который мы испытываем во время чтения, в целом отличается от опыта, который мы испытываем во время занятий теми видами деятельности, о которых мы, возможно, читаем. Но, возможно, нам следует рассмотреть другой способ, которым мы и наши переживания могут быть порождены в процессе чтения романа. Возможно, существует два разных опыта: собственный опыт читателя при чтении романа, а также второй набор опытов, которые принадлежат персонажам, о которых он читает?

Кельвин: Это не работает. У читателя только один мозг, и этот мозг имеет ограниченные возможности. Как вы не сможете написать два письма одновременно, одно левой рукой, другое правой, так и вы не сможете генерировать два отдельных потока опыта одновременно. По крайней мере, если бы каждый из этих потоков опыта был полноценным сложным опытом на уровне личности. Возможно, какая-то часть вашего мозга могла бы генерировать отдельные переживания, что-то вроде ограниченных интуитивных ощущений или чего-то подобного, в то время как основная часть мозга была бы занята генерированием переживаний, о которых вы можете сообщить. Но просто не хватит нейронных механизмов, чтобы одновременно обрабатывать два отдельных опыта на уровне личности, особенно если этот опыт включает в себя явные абстрактные рассуждения. Объем нашей рабочей памяти достаточен только для того, чтобы поддерживать одну линию сложного рассуждения за раз.

Фирафикс: Понятно.

Тессий: Но что, если два отдельных потока опыта не были совершенно несвязанными? То есть, я согласен, что мой мозг не способен думать одновременно о двух разных темах. Но если я думаю об одной теме, не может ли быть двух потоков опыта, связанных с этой темой - например, опыта рассмотрения ее под разными углами? Эти два опыта могут использовать перекрывающиеся нейронные механизмы, но в то же время каждый из них включает некоторые фрагменты отдельной нейронной обработки, которые делают их разными и отличительными друг от друга? Например, когда я читаю о персонаже, который собирается на вечеринку, может ли существовать один поток опыта, содержащий только те переживания, которые человек испытывает, находясь на вечеринке, - это переживания вымышленного персонажа, - и другой поток опыта, содержащий некую версию тех же самых переживаний, но с наложенным опытом мирного лежания на диване? Последний - это опыт читателя. Оба они будут генерироваться мозгом читателя, но он сможет подробно рассказать только о последнем?

Кажется надуманным.

Тессиус: Согласен, но было бы неплохо точно сказать, почему это не может произойти таким образом.

Кельвин: Каков будет принцип, объясняющий, как это работает? Полагаю, вы не хотите сказать, что для каждого подмножества нейронов в мозге существует отдельный поток опыта. Это означало бы, что если у одного человека на одну или две дюжины нейронов больше, чем у другого, то его мозг генерирует сверхастрономически большее количество опыта. Это имело бы радикальные последствия для этики, например, с точки зрения морального статуса.

Фирафикс: А вот тебе, с твоей большой головой, это может быть полезно.

Кельвин: Но если найдется другой человек с чуть большей головой, я получу практически нулевой вес, по крайней мере, с точки зрения опыта и утилитаризма.

Тессиус: Так какой же принцип исключает это... хм, дайте подумать. Есть аналогия с многомировой интерпретацией квантовой механики. Мы должны взвесить ветви с квадратами их амплитуд. Когда универсальная волновая функция расщепляется, или распадается, амплитуда делится между ветвями, и в сумме всегда получается 1. Но это не похоже на правильную модель. Если вы добавляете нейрон в мозг, то потоки опыта, которые ex hypothesi генерируются всеми подмножествами других нейронов, предположительно, не теряют каким-то образом то количество феноменального содержания, которое они имели раньше. Это было бы просто странно. Значит, что-то другое, хм...

Фирафикс: Могу ли я проверить, правильно ли я понимаю? Мы пытаемся определить, каковы критерии того, реализует ли мозг один поток сознательного опыта или несколько пересекающихся, но разных потоков опыта.

Тессиус: Верно... Может быть, предыдущий пункт о контрфактической независимости является здесь ключевым? Для того чтобы генерировались два разных потока сознательного опыта, должны существовать два разных вычислительных процесса. И каждый из них должен быть таким, что если бы кто-то вмешался и изменил какое-то промежуточное состояние, то последующие состояния разворачивались бы иначе и в соответствии с алгоритмом, который вычисляется. Верно. И чтобы существовало два вычислительных процесса, лежащие в их основе каузальные механизмы, которые их реализуют, должны, по сути, работать и меняться независимо друг от друга. Так что это объясняет, почему нормальный человеческий мозг не генерирует астрономическое количество отдельных потоков опыта, по одному на каждое подмножество нейронов: потому что эти подмножества перекрываются, поэтому они не могут меняться независимо друг от друга, и поэтому нет необходимого набора контрфактических зависимостей. Да, это, пожалуй, правильно.

Кельвин: Да.

Тессиус: Что возвращает нас к вопросу о том, может ли мозг читателя одновременно генерировать два потока опыта - свой собственный опыт и опыт вымышленного персонажа, о котором он читает. И я полагаю, мы бы утверждали, что в голове читателя недостаточно мозгов для этого. Не поможет и то, что два предполагаемых потока опыта будут иметь много общего, потому что для существования каждого из них необходимо иметь собственную независимую вычислительную реализацию, каузальную структуру с подходящими контрфактическими свойствами и способную изменяться независимо; тогда как в случае с читателем ресурсов коры головного мозга недостаточно для одновременной и независимой реализации двух вычислительных процессов на уровне человека.

Кельвин: Верно.

Тессиус: Кстати, может быть, это и в сторону, но меня несколько озадачивают сообщения о пациентах с расщепленным мозгом, чьи полушария, после того как большая часть их связи через корпусную каллозуму была разорвана, оказываются способными работать довольно независимо и, возможно, с мастерством на уровне человека. Можем ли мы действительно ходить с нейронной материей, достаточной для создания двух нормальных личностей, но в обычном режиме реализовывать только одну? Это кажется расточительством.

Кельвин: Размер мозга нормально развитого взрослого человека может отличаться почти в два раза. Мы также знаем, что можно удалить целое полушарие и продолжать функционировать, хотя и с нарушениями. Если полушарие удалено в молодом возрасте, пластичность мозга позволяет реорганизовать многие вычислительные функции, чтобы использовать оставшиеся ресурсы коры. Существует корреляция между размером мозга и когнитивной производительностью, и при прочих равных условиях как в биологических, так и в искусственных нейронных сетях наблюдается некоторое снижение способности к обучению при уменьшении количества настраиваемых параметров. Однако многие когнитивные задачи масштабируются очень нелинейно в зависимости от размера модели.

Тессиус: В любом случае, я не знаю никаких особых причин полагать, что даже если наш мозг действительно обладает такой квазиредундантностью, "запасная" способность к дополнительному сознательному опыту действительно будет задействована, пока мы читаем...

Кроме того, мы не очень хорошо умеем работать в режиме многозадачности. Если бы наш мозг иногда одновременно реализовывал сознательный опыт двух людей, используя отдельные части нейронных механизмов, то разве мы не могли бы использовать эту дублированную схему, скажем, для доказательства алгебраической теоремы, одновременно составляя сложное расписание для воссоединения семьи? Например, вы могли бы смоделировать воображаемого персонажа, который работал бы над доказательством теоремы в одной части вашего мозга (или в одном подмножестве ваших корковых микросхем), а в другой части (или в другом подмножестве ваших микросхем) вы бы занимались сложным планированием мероприятий. Но я, например, считаю это совершенно невозможным.

Кельвин: Да, это хорошая мысль.

Тессиус: Максимум, на что мы способны в условиях настоящей многозадачности, работая над задачей, требующей сложного абстрактного мышления, - это пассивно наблюдать за окружающей обстановкой, или, возможно, наше подсознание может одновременно обдумывать какую-то эмоциональную или творческую проблему на заднем плане: но наше сфокусированное сознательное мышление, похоже, является жестко ограниченным когнитивным ресурсом, позволяющим работать только с одним одновременным треком.

Фирафикс: Значит ли это, что мы не вымышлены?

Тессиус: Похоже, это и есть итог.

Фирафикс: Дайте-ка подумать, так это потому, что, во-первых, я могу верить, что у меня много подробных воспоминаний о моем прошлом, которые ни один романист или читатель не захочет представить во всей их исчерпывающей мелочи; и, во-вторых, потому, что я знаю, что в данный момент я испытываю опыт, качественно отличный от того, который человек испытывает во время чтения, а мозг человека-читателя не обладает достаточной мощностью, чтобы одновременно реализовать и опыт читателя, и опыт вымышленного персонажа, о котором он читает. Правильно ли я понял?

Тессиус: Вы попали в точку.

Кельвин: Есть еще несколько аргументов, которые вы, возможно, захотите рассмотреть.

Фирафикс: Да?

Кельвин: В среднем люди тратят гораздо больше времени на то, чтобы не читать, чем на чтение. Поэтому даже если бы во время чтения мозг читателя каким-то образом генерировал опыт вымышленного персонажа в дополнение к собственному опыту чтения, все равно опыт, принадлежащий вымышленным персонажам, составил бы малую долю от всего опыта. Так что если ваш текущий опыт типичен, он, скорее всего, не будет опытом вымышленного персонажа.

Тессиус: А как насчет того, чтобы испытать что-то вроде, ну не знаю, героического спасения прекрасной принцессы из лап злобного монстра или разъяренной толпы?

Кельвин: В таком случае этот аргумент неприменим. Большинство этих переживаний были бы побочными эффектами процесса чтения - если бы процессы чтения действительно порождали переживания вымышленных персонажей, о которых читают.

Тессиус: Я не буду отвлекать вас, но напомните мне позже, чтобы я рассказал вам о том, как несколько лет назад я катался на велосипеде по королевским садам.

Фирафикс: Я заинтригован! А как же опыт философской беседы с двумя превосходными и умными джентльменами?

Кельвин: Полагаю, это некий промежуточный случай. В зависимости от типа и качества разговора может оказаться, что большинство случаев - это чтение вымышленных рассказов, а может быть, что большинство - это реальные разговоры.

Фирафикс: Разговор, подобный этому?

Кельвин: [Пожимает плечами.] Не знаю.

Фирафикс: Если этот разговор вымышленный, значит ли это, что при чтении текста возникает четыре потока сознательного опыта? Поскольку разговаривают три человека, плюс опыт читателя, читающего книгу?

Кельвин: Скорее всего, нет. Это становится тем менее вероятным, чем больше людей - все более надуманным становится предположение, что мозг читателя обладает достаточным нейронным аппаратом, чтобы отдельно реализовать каждый из этих потоков опыта. Если бы вообще существовал какой-то опыт, помимо собственного опыта читателя, то, скорее всего, это были бы просто фрагменты опыта различных вымышленных персонажей. Возможно, во время разговора каждого человека, когда он находился на переднем плане сознания читателя, генерировались бы те переживания, которые он представляет как имеющий в этот момент.

Тессий: Конечно, не может быть такого, чтобы, когда вымышленный персонаж идет по переполненной комнате, все вымышленные персонажи в этой комнате были представлены в сознании читателя с достаточной степенью детализации, чтобы все их внутренние жизни действительно появились на свет во всех своих субъективных подробностях.

Фирафикс: Понятно. Итак, большинство впечатлений не будут похожи на впечатления от вымышленных персонажей, даже если чтение будет порождать такие впечатления. Но для особо "фантастических" переживаний баланс изменился бы в другую сторону.

Кельвин: Я бы сказал: может быть и наоборот. Но может случиться так, что даже большинство опытов по спасению девиц от драконов будут иметь не вымышленные персонажи, если, допустим, существует много симуляций таких сценариев и не так много симуляций людей, читающих о таких сценариях.

Фирафикс: Под "симуляциями", полагаю, вы имеете в виду что-то вроде идеи Бострома о компьютерных симуляциях, созданных сверхразумом, которые включают в себя детальное моделирование мозга людей?

Кельвин: Да. Они отличаются от случая, когда кто-то читает о вымышленном персонаже, потому что в симуляциях - он называет их "симуляциями предков", но они не обязательно должны быть симуляциями существ типа предков - есть симуляции мозга каждого испытуемого на нейронном уровне.

Фирафикс: Вы сказали, что есть еще несколько аргументов, которые я мог бы рассмотреть. Что это за аргумент?

Кельвин: Это скорее теоретическое или политическое решение.

Фирафикс: Да?

Кельвин: Предположим, есть вымышленный персонаж и не вымышленный, и у обоих есть отдельные сознания. Возможно, вы не уверены, кто из них вы. В этом случае вы можете утверждать, что вам следует вести себя так, как если бы вы были не вымышленным персонажем. Вымышленный персонаж, как правило, живет недолго, и его выбор имеет меньше возможностей иметь долгосрочные последствия. Заметьте, здесь важна не продолжительность их жизни и не их влияние, описанное в романе. В романе может быть сказано, что вымышленный персонаж спас мир и после этого счастливо прожил миллион лет. Но это не означает, что был спасен какой-то реальный мир или что какой-то вымышленный персонаж действительно имел миллион лет реального феноменального опыта. Даже если предположить, что чтение о вымышленном персонаже может перенести его опыт в реальность, это будет относиться только к тому опыту персонажа, который мозг читателя действительно моделирует достаточно подробно. Таким образом, максимальное количество субъективного опыта, которым может обладать вымышленный персонаж, - это количество опыта, которое человек может получить за десять часов или сколько бы времени ни заняло чтение книги.

Тессиус: А если книгу читает много людей? Бестселлер может быть прочитан миллион раз. Десять часов, умноженные на миллион, - это больше, чем обычная человеческая жизнь.

Кельвин: Да.

Тессиус: Так, может быть, мы должны вести себя так, как будто мы герои бестселлера? Или, может быть, мы даже должны вести себя так, чтобы повысить вероятность того, что книга, в которой мы находимся, станет бестселлером?

Кельвин: Да.

Тессиус: Нарратологический императив? Я думаю, мы только что доказали, что лучше всего для тебя было бы прилунить вон тех дам на автобусной остановке, Кельвин! Это может продать еще тысячу экземпляров... и в результате, сколько, десять часов умножить на тысячу: десять тысяч часов - это больше года, Кельвин. Может быть, разделить на нас троих. И все равно, четыре месяца жизни Кельвина того стоят!

Фирафикс: Не самая лучшая идея!

Тессиус: Ну, так что же?

Кельвин: Захотят ли потенциальные читатели книги, в которой будет представлен диалог, о котором мы только что говорили, читать подробный рассказ о том, как я выставляю свои задние проходы перед некоторыми дамами? Не думаю. В любом случае.

Тессиус: Мне кажется, на долю секунды он подсчитал ожидаемую полезность!

Кельвин: Существуют также деонтологические побочные ограничения.

Фирафикс: И порядочность.

Действительно.

Тессиус: Вы не были немного искушены?

Кельвин: Я не был.

Тессиус: Но подумайте о том, что многие читатели любят романтические романы. Может быть, мы находимся в одном из них - написанном для более разборчивых читательниц?

А ты не мог бы принять участие в команде, Кельвин... создать небольшой фриссон?

Нет? Ну что ж. Простите, читатели, я старался!

Фирафикс: Но в чем же тогда заключается моральный аргумент, на который вы ссылались, Кельвин?

Кельвин: Эх, вопрос спорный. Мы уже установили, что вы не генерируете никакого отдельного набора сознательных переживаний, когда читаете о вымышленных людях в книге.

Фирафикс: Хорошо, но мне все равно интересно.

Кельвин: Если бы вымышленные люди стали реальными, пока кто-то читает о них, они бы в среднем обладали меньшей силой влияния на мир, чем люди, которые были реальными все это время, непрерывно и суммарно в течение семи или восьми десятилетий. Возможно, есть вымышленные люди, которые оказывают влияние, но в основном миром управляют и формируют его не вымышленные люди. Кроме того, можно утверждать, что на каждого вымышленного персонажа, обладающего влиянием, влияет и тот, кто его написал, - автор. Кроме того, учитывая преобладающие в настоящее время моральные нормы, авторы могут свободно писать о персонажах, нарушающих моральные нормы, не испытывая угрызений совести. Это делает менее очевидным тот факт, что рекомендация вымышленным людям вести себя нравственно действительно увеличит частоту их поведения. Если какой-то вымышленный персонаж свободно решает поступить морально правильно, это может просто заставить авторов компенсировать это созданием персонажей, еще более склонных к правонарушениям, чтобы они все же достигли желаемого уровня порочности в своих романах. В общем, мне кажется, что наши моральные рассуждения должны быть в основном сосредоточены на возможности того, что мы не являемся вымышленными персонажами, поскольку именно при такой гипотезе наши действия, мотивированные смертностью, имеют наиболее значительные последствия.

Фирафикс: Хм.

Тессиус: Я думаю, что, возможно, существует недостающая этика написания художественной литературы. Эта идея о том, что авторы не должны испытывать никаких угрызений совести, создавая любого персонажа или делая с ним все, что им взбредет в голову: Я не уверен, что это правильно... На самом деле, даже если вымышленные персонажи, которых они пишут, не обладают сознанием, даже когда о них читают, у них могут быть другие атрибуты, которые могут обосновать хотя бы скромные претензии на моральный статус.

Фирафикс: Атрибуты, такие как?

Тессия: Такие атрибуты, как наличие предпочтений. Вымышленные персонажи могут иметь предпочтения, которые отличаются от предпочтений их читателей и писателей. Кроме того, у вымышленных персонажей могут быть социальные отношения, например, с другими вымышленными персонажами. У них может быть своеобразное представление о себе как об агентах, сохраняющихся во времени и имеющих долгосрочные цели. Они, безусловно, могут обладать каузальными способностями, даже если в среднем эти каузальные способности меньше, чем у не вымышленных персонажей... Теперь, когда я думаю об этом, я начинаю убеждать себя в этом.

Фирафикс: Как бы мы... то есть... если бы мы считали вымышленных персонажей обладающими каким-то моральным статусом, что бы мы с этим делали?

Тессиус: Я не задумывался над этим. Может быть, при прочих равных условиях нам следовало бы писать больше комедий и меньше трагедий. Больше хэппи-эндов. Мне нравится, что многие истории заканчиваются словами "и жили они долго и счастливо". Но, может быть, монстры тоже должны жить долго и счастливо?

Фирафикс: Мне это подходит. Я обычно предпочитаю читать счастливые истории. Но, возможно, у меня необычный вкус.

Кельвин: Есть определенная ценность в понимании плохих вещей, чтобы мы могли более эффективно противостоять им. Но да, в целом, вероятно, следует больше склоняться в сторону позитива. Для этого могут быть и другие причины . -Но мы здесь, так что давайте зайдем.

Фирафикс: Итак, подведем итог: вы установили (i) что мы не вымышленные персонажи, и (ii) что вымышленные персонажи заслуживают того, чтобы к ним относились с некоторой степенью морального уважения.

Тессий: Да. И надеюсь, что хотя бы один из этих выводов окажется верным!

Кельвин: Нам войти?

Тессиус: Было бы грубо заставлять ждать миллионы молекул воды.

Фирафикс: Я принесу чтение.

Федор Лис

Послание XXIII

Дорогой дядя Пастернак,

Спасибо за ваше терпение в последние пару месяцев. Теперь я наконец-то могу написать вам и ввести вас в курс дела, поскольку мои собственные усилия больше не являются столь ограничивающим шагом в происходящих событиях.

Вы помните, как мы с Пиньолиусом зашли в тупик и как мне приснился необычный сон, после которого я почувствовал, что мне нужно побыть одному, чтобы разобраться во всем.

Поэтому я отправился к морю. Этот водоем еще называют океаном, и мне говорили, что он большой, но пока не увидишь его, не сможешь представить, насколько он велик. На самом деле он кажется бесконечным, потому что, как бы вы ни напрягали глаза, вы не можете увидеть его конец, хотя ничто не загораживает вам обзор. Она начинается у ваших ног и продолжает подниматься вверх, пока не встретится с такими же бескрайними небесами, простирающимися сверху; а в середине их встречаются, без каких-либо разделительных зон или барьеров, Небо и Земля.

Все, что я могу сделать, - это описать внешние обстоятельства, а свое внутреннее состояние я не могу выразить словами.

Я остаюсь там на берегу моря на некоторое время. Сколько именно, я не знаю, но, возможно, несколько недель. И у меня начинают появляться идеи, и я кое-что обдумываю. Все вроде бы складывается в единое целое, хотя еще есть пробелы. Пробелы большие, и я не знаю, как их преодолеть. Но я начинаю понимать, что если бы их можно было преодолеть, эти конкретные три или четыре пробела, то, по крайней мере в принципе, можно было бы двигаться вперед. Теперь у проблемы есть структура, и над ней можно работать. Правильный ум, возможно, даже сможет ее решить.

В этот момент я готов начать обратный путь. Мой темп ускоряется по мере того, как я иду.

Вернувшись, я сразу же рассказываю Пиньолиусу о своих идеях. Он очень заинтересован. Мы обсуждаем пробелы. Я чувствую, как его ум захватывает задача. Во время разговора он как будто улавливает в воздухе слабые ароматы, которые я не чувствую. А потом он отправляется на свою интеллектуальную охоту за трюфелями. Я устал после этого путешествия и погрузился в глубокий сон.

Когда я просыпаюсь, солнце стоит высоко в небе, и уже почти полдень. Я слышу треск веток и шелест листьев на небольшом расстоянии. Пигнолиус вышагивает взад-вперед, взад-вперед. Я ускользаю и в одиночку съедаю завтрак: сушеного сверчка и немного кукурузы. Весь оставшийся день Пигнолиус работает, и я решаю его не беспокоить.

На следующий день все то же самое. Очевидно, он напряженно размышляет: то вышагивает взад-вперед по краю поляны, то откидывается в своем грязевом бассейне с отрешенным выражением в глазах.

На третий день он прервался и подошел ко мне, сияя. Он говорит: "Я думаю, что путь есть. Но он может вам не понравиться".

Затем он приступает к изложению плана.

Назвать это планом едва ли точнее, чем сказать, что у надежды есть крылья. Может быть, в этом выражении и есть какая-то поэтическая правда, но лучше не испытывать ее, например, прыгая с утеса Бигрока.

Однако именно этот "план" мы сейчас и реализуем. Мы хотели бы создать устойчивый социальный профицит, потому что только с дополнительными ресурсами можно добиться того, чтобы у всех было достаточно еды и свободного времени, чтобы внести свой вклад в общее благо. Придумать желаемые проекты несложно. Мы хотели бы построить инфраструктуру связи, систему здравоохранения, мы хотели бы иметь специалистов, проводящих исследования для улучшения здоровья и благосостояния, производства продуктов питания - и многое другое. Если бы у нас все это было, то качество жизни было бы лучше, и со временем оно бы еще больше улучшилось. Я не вижу никаких реальных пределов тому, насколько высоко оно может подняться. Однако мы не тратим много времени на размышления об этом, потому что трудность заключается не в этом. Сложность в том, что нет устойчивого профицита.

Мы замечаем, что избыток мог бы существовать, если бы на каждом участке земли жило меньше животных - тогда для каждого рта было бы больше еды, и чтобы набить брюхо, требовалось бы меньше времени. Мы также замечаем, что можно было бы сэкономить много времени и энергии, если бы вместо того, чтобы воевать друг с другом, мы сотрудничали. Олени могли бы спокойно пастись, не оглядываясь по сторонам в поисках волков. Птицы не тратили бы свою энергию, ссорясь из-за каждого лакомства.

Можно даже представить себе выгоду от сотрудничества между популяциями хищников и жертв. В настоящее время хищники съедают определенное количество добычи, но если бы добыча предлагала себя добровольно, хищники не тратили бы столько энергии, преследуя добычу, и им не нужно было бы так много есть. (Конечно, в долгосрочной перспективе было бы идеальнее, если бы все могли жить на растениях).

Дядя Пастернак, я вижу, как вы качаете головой: "Это утопия! Не в хорошем смысле, а в причудливом, безумном смысле". Выслушайте меня.

Я сказал, что если мы все будем сотрудничать, то сможем добиться устойчивого профицита, а с ним и повышения благосостояния, как в настоящем, так и в долгосрочной перспективе. Но как добиться сотрудничества? Вот вопрос, который так долго ставил нас в тупик. Теперь у нас есть несколько идей.

Представьте себе, что мы уже каким-то образом достигли высокой степени кооперации, и задача состоит в том, чтобы сделать ее стабильной. Мы думаем, что одним из способов сделать это была бы селекция на кооперативность. Так что если кто-то обманывает, ему не разрешается иметь потомство, но те особи, которые более полезны и кооперативны, чем в среднем, могут иметь больше потомства. Поскольку мы предполагаем, что у нас изначально высокая степень сотрудничества, люди будут в основном придерживаться этого соглашения, и они будут добровольно помогать его соблюдать, если появятся отступники. Каждое поколение будет лучше сотрудничать, чем предыдущее, и поэтому есть надежда, что соглашение сохранится. Конечно, наряду с кооперативностью могут существовать и другие желательные черты, на которые можно было бы провести отбор - ум, мудрость, способность питаться листьями и травой и так далее.

Альтернативой этому может быть нерегулируемое размножение, а только непродуктивное поведение. Животное можно было бы наказывать, если бы оно воровало еду у другого. Но это не поможет справиться с перенаселением. Кроме того, мы считаем, что такая система будет менее стабильной. Любое временное нарушение системы контроля вернет нас к естественному состоянию, в то время как если бы популяция была выведена для кооперации, эта черта не исчезла бы сразу, и поэтому естественно настроенные животные смогли бы восстановить кооперативный социальный порядок, прежде чем популяция вновь приобрела бы склонность к разбойничьему поведению, присущую их неодомашненным предкам. Есть и другие соображения, говорящие в пользу изменения нашей природы, а не только поведения, которые я не буду здесь подробно описывать.

Проблема с подходом, который я только что описал, заключается в том, что он предполагает, что высокий уровень сотрудничества уже существует и может каким-то образом поддерживаться достаточно долго, чтобы привести к требуемым изменениям в природе. Как долго это может продолжаться? Пигнолиус работал над некоторыми математическими моделями, но у нас нет достаточного количества данных, чтобы сделать точные оценки. Однако мы полагаем, что значительные эффекты должны проявиться уже через несколько поколений, исходя из того, что дети в среднем заметно больше похожи на своих родителей, чем на чужих, в плане темперамента, даже вскоре после рождения. Это означает, что задача поддержания сотрудничества должна стать легче уже через несколько поколений, хотя до полного решения проблемы пройдет гораздо больше времени.

Мы также подозреваем, что требуемое время зависит от вида. Те, которые изначально более просоциальны, могут достичь этого за меньшее количество поколений. Интересный вопрос возник в связи с волками - видом, о котором известно не так много. Я никогда не видел ни одного, но говорят, что, хотя они большие и страшные, они прекрасно уживаются друг с другом. Это заставило меня задуматься, могут ли они быть перспективными кандидатами на одомашнивание. Очевидно, что если бы нам удалось приручить несколько волков, они могли бы оказать большую помощь в поддержании порядка и защите территории. Но когда я предложил Пигнолиусу изучить этот вопрос, возможно, отправившись в Долину Рендера, чтобы обсудить его с некоторыми из волков, которые, как говорят, там водятся, и узнать их мнение, он не согласился, сказав, что боится, что его "крестец будет первым, что будет использовано в этом сценарии", и что он "не уверен, что они будут беспокоиться" о моем, "без обид". Не обижайтесь. Так что мы отложили вопрос о волках, хотя я все еще думаю, что в какой-то момент нам нужно будет найти способ привлечь их к делу, иначе они могут стать большой проблемой.

Голубь здесь - остальное объясню в следующем письме.

Ваш должник Ф.

Послание XXIV

Дорогой дядя Пастернак,

Прошу прощения за столь резкий отзыв в прошлый раз! Я хотел выложить его, так как прошло так много времени с моего последнего письма.

Могу сообщить, что Рей прибыл в целости и сохранности! Он и впрямь не промах. Мы слышим треск в кустах, и вот он - ясноглазый и кустистохвостый, без единого волоска, несмотря на долгий путь, который он только что проделал. Он рысью бежит прямо ко мне:

"Федя, меня дома ждут пять подруг, все сходят с ума от любовной тоски. Лучше бы это было важно!"

Затем он несколько долгих секунд внимательно изучает мое лицо, и я не знаю, что он там увидел, но он становится серьезным и говорит мне: "Что бы ты ни попросил меня сделать, брат, я сделаю это".

Какой экземпляр. Я знаю, что его было нелегко воспитывать, дядя, но, несмотря на все трудности, с которыми он столкнулся в детстве, я горжусь тем, что он из того же помета, что и он. Надеюсь, когда-нибудь мы сможем это исправить.

Ну, я начал объяснять наш план в своем последнем письме; позвольте мне продолжить с того места, на котором я остановился. Напомню, что у нас есть идея о том, что теоретически возможно превратить мир, или, по крайней мере, этот лес, из анархической зоны войны, полной страданий и отчаянной нужды, в кооперативную гражданскую структуру, обладающую достаточным резервом для реализации проектов по улучшению всеобщего благосостояния. Учитывая жестокость и недоверие, с которыми нам приходится работать, мы считаем, что для осуществления этой трансформации потребуется программа селекции, рассчитанная на несколько поколений, дополненная некоторыми институтами охраны порядка и обороны.

Теперь перед нами встала проблема: как мы, несколько идеалистов - вначале только Пигнолиус, Рей и я - можем надеяться осуществить программу требуемого масштаба и продолжительности? У нас едва хватает на то, чтобы продержаться в плохой год. А если мы и начнем что-то делать, то как это будет поддерживаться после нашего ухода? Даже если со временем станет легче, нужно будет создать первоначальный импульс, чтобы он продержался хотя бы несколько поколений.

Вот тут-то и пригодятся грибы. Пиньолиус не ошибся, когда предположил, что мне может не понравиться этот план, но лучшего у меня нет.

Как вы знаете, есть такой гриб, который нам запрещают есть, потому что он ядовит. Но время от времени какое-нибудь животное пренебрегает предупреждениями и откусывает кусочек. По-видимому, гриб обладает психологическим эффектом, вызывая альтруистическое состояние ума, "расширение чувства собственного достоинства, чтобы охватить заботу о благополучии других", и это состояние, как говорят, весьма приятно. Однако вскоре это удовольствие сходит на нет из-за сильных спазмов в желудке. Я никогда не слышал, чтобы кто-то ел этот гриб больше одного раза.

Мы думаем, что можно попробовать культивировать гриб, чтобы узнать, сможем ли мы сделать его менее токсичным и более психотропным. Грибы растут быстро, поэтому мы могли бы провести селекцию многих поколений за относительно короткий промежуток времени.

Вот как, по нашему мнению, это может быть реализовано. Если мы сможем вывести нетоксичный сорт, сохраняющий приятные и эмпатогенные свойства индигена, желательно в усиленной и улучшенной форме, то мы могли бы сделать сам гриб или его экстракт свободно доступным для всех животных в лесу. Многие предпочли бы использовать его из-за его эйфорической силы, и они стали бы более альтруистичными из-за его эмпатогенного эффекта. Будучи альтруистами, они готовы пойти на определенные усилия и жертвы ради общего блага, включая помощь в реализации долгосрочной программы селекции, необходимой для того, чтобы сделать нашу природу более сговорчивой и предотвратить развитие устойчивости к грибковым соединениям. Они также готовы помочь в реализации проекта по выращиванию грибов - это потребует гораздо меньших усилий, ведь вещество очень сильное, и небольшого сада хватит на весь лес.

Таким образом, мы считаем, что нашли способ, с помощью которого мы можем, в принципе, превратить небольшое первоначальное вложение ресурсов в большое постоянное улучшение мира - святой Грааль!

Остается вопрос первоначальных инвестиций. Их мы намерены обеспечить сами, предложив свой труд и скромные излишки. Но мы опасаемся, что этого может оказаться недостаточно. Сколько времени потребуется, чтобы вырастить достаточно эффективный гриб? Может быть, годы, может быть, десятилетие? Нам нужно собрать как можно больше образцов, чтобы получить разнообразную стартовую популяцию, и подготовить место, где мы сможем выращивать их, поддерживать влажность и защищать от плесени и личинок.

Нам также необходимо набрать добровольцев для употребления небольшого количества грибов, чтобы мы могли зафиксировать результаты и отобрать лучшие образцы для дальнейшего размножения.

Пиньолиус - гений, раз придумал этот план! Он также прилагает удивительно много усилий для его реализации. Он действительно хорошо вынюхивает грибы, но нам нужно гораздо больше образцов.

А я тем временем пахал, пытаясь соорудить грядку с системой орошения. Увы, мне не хватает средств для такой работы, и результаты свидетельствуют об этом. Но с приходом Рея дела пошли в гору. Он применяет себя везде, где это необходимо, и вообще берет все в свои руки. Он обладает удивительной способностью мотивировать людей - можно сказать, что его особым преимуществом является обаяние. Например, он уговорил бобра заглянуть к нам и оказать безвозмездную помощь с грядками. Как ему это удалось?! Бобры, надо сказать, удивительные существа: этот парень пришел, поработал, наверное, час и за это время добился такого же прогресса, как и я за предыдущую неделю!

И вот еще одна хорошая новость: Мы с Реем сравнили записи о наших путешествиях и уверены, что между этим местом и вашим существует более короткий путь - возможно, всего семь или восемь дней. Это означает, что, как только мы запустим программу выращивания и все войдет в более стабильное русло - до конца этого лета, - я смогу приехать к вам в гости. Было бы так здорово увидеть вас! Может быть, мы сможем подняться на тот холм, где раньше росла клубника, и посмотреть, сохранилась ли она там.

Ваш самый благодарный племянник,

Федор

ЧЕТВЕРГ

Интерстициальные возможности

Привет, Тессиус. Мы держали это место для тебя.

Тессиус: Спасибо. Кажется, с каждой лекцией здесь становится все больше людей. Я слышал, что вы, ребята, оттуда - вы все еще говорите о вымышленных персонажах?

Кельвин: Я думаю, что Фирафикс все еще не уверена на 100%, что она не вымышленный персонаж.

Фирафикс: Я просто заметил, что некоторые персонажи основаны на реальных людях, и спросил Кельвина, может ли это означать, что эти вымышленные персонажи могут как бы заимствовать некоторую реальность у своих реальных двойников.

Тессиус: Все вымышленные персонажи в той или иной степени основаны на реальных людях.

Фирафикс: Как это?

Тессиус: Как автор придумывает персонажа? Один способ - сшивать вместе фрагменты из собственного опыта - воспоминания о различных личностях и сценах, свидетелями которых они были. Другой способ - сгенерировать их на основе своей интуитивной модели человеческой психологии: но обучающие данные, которые использовались для построения этой модели, - это опять же опыт общения с реальными людьми. Некоторые авторы также могут создавать своих персонажей на основе фрагментов, прочитанных ими в других книгах, но это лишь отодвигает процесс создания на один шаг назад. В любом случае, все это основано на наблюдениях за реальными людьми, а также на комбинациях и экстраполяции этих наблюдений.

Фирафикс: Понятно. Может быть, это связано с тем, что было у Бострома в его раздаточном материале, о том, что интерполяция - один из способов создания социальных взаимодействий в машине опыта? Но мне интересно... О, он сейчас начнет.

Пластичность

С возвращением! И приветствую всех новых лиц, которых я здесь вижу.

Позвольте мне начать с завершения таксономии, которую я начал набрасывать вчера. Нам придется действовать быстро, так как нам предстоит еще многое сделать.

Вы помните, что мы представили утопии управления и культуры, утопии пост-ущерба и утопии пост-работы. Мы увидели, что проблема, подстерегающая нас по мере приближения к технологической зрелости, - проблема глубокой избыточности - выходит за рамки трудностей, подразумеваемых стандартной экономической утопией "после работы". Ведь в таких условиях избыточным становится не только экономический труд человека, но и другие формы человеческих усилий. Мы рассмотрели покупки, занятия спортом, обучение и воспитание детей как примеры деятельности, которая становится ненужной (с некоторыми оговорками в случае с воспитанием детей). Я предположил, что этот анализ можно расширить и получить аналогичные результаты в отношении многих других сфер человеческой деятельности.

Что же нас ждет?

Это приведет нас к состоянию, в котором, по крайней мере в первом приближении, все человеческие усилия, предпринимаемые в качестве средства для достижения какой-то цели, становятся ненужными. Другими словами, это привело бы нас в эпоху постинструментализма.

Теперь я хочу отметить, что у технологической зрелости есть еще одно важное следствие, помимо сокращения человеческих усилий. Технологически зрелый мир пластичен. Я имею в виду, что он обладает возможностями, которые позволяют легко достичь любой предпочтительной локальной конфигурации.

Допустим, у нас есть некоторое количество базовых физических ресурсов: комната, полная различных видов атомов, и некоторый источник энергии. У нас также есть некоторые предпочтения относительно того, как эти ресурсы должны быть организованы: мы хотим, чтобы атомы в комнате были расположены таким образом, чтобы составить стол, компьютер, хорошо сделанный камин и щенка лабрадудля. В полностью пластичном мире можно было бы просто произнести команду - предложение на естественном языке, выражающее желание, - и, вуаля, содержимое комнаты будет быстро и автоматически реорганизовано в желаемую конфигурацию. Возможно, вам придется подождать двадцать минут, возможно, через стены будет уходить немного тепла: но, открыв дверь, вы обнаружите, что все расставлено именно так, как вы хотели. На столе даже стоит ваза со свежесрезанными тюльпанами - то, о чем вы не просили, но что каким-то образом подразумевалось в вашей просьбе.

Аутопотенция

Важным частным случаем пластичности является то, что вы обладаете способностью изменять себя так, как вам хочется. В одной из своих ранних работ я назвал эту способность аутопотенцией. Автопотентное существо - это существо, обладающее полной властью над собой, включая свои внутренние состояния. У него есть необходимая технология и ноу-хау, чтобы использовать ее, чтобы изменить себя так, как оно считает нужным, как физически, так и ментально. Так, человек, обладающий автопотенцией, может с легкостью изменить себя так, чтобы испытывать мгновенную и непрерывную радость, или увлечься коллекционированием марок, или принять облик льва.

У этих понятий, пластичности и автопотенции, есть крайние случаи, которые я, несмотря на свою педантичность, не буду пытаться здесь точно очертить, поскольку они не имеют отношения к настоящему исследованию. Эта задача будет оставлена будущим экспликаторам.

Тессиус [шепчет]: Ваш пример с числом омега Хайтина указывает на один крайний случай, верно? Невозможно организовать нейроны для регистрации первой тысячи цифр, хотя сама констелляция, очевидно, физически возможна. Так скажем ли мы, что существо может быть совершенно автопотентным, не имея практической возможности достичь этой конкретной локальной конфигурации, или вместо этого мы скажем, что ни одно мирское существо не может быть совершенно автопотентным?

Кельвин [шепотом]: Ага.

Тессиус: Или, может быть, есть какой-то смысл, в котором эта конфигурация на самом деле не является физически возможной или диахронически осуществимой, в конце концов?

Агентурные осложнения и удача

Бостром: Условие пластичности не подразумевает, что каждый человек имеет неограниченную власть над своим окружением и самим собой. Это было бы невозможно в среде, населенной множеством агентов, поскольку иногда они могут иметь противоречивые предпочтения. Скорее, пластичность означает власть над природой. Она выражается в безусловной способности добиваться любого физически возможного результата в локальной среде только при отсутствии противодействия со стороны других наделенных властью агентов.

В мире, где существует множество агентов, преследующих порой противоположные цели, общее повышение пластичности не обязательно сделает кого-то лучше. Технологический прогресс может ухудшить положение всех нас, например, позволив легче и масштабнее совершать злодеяния.

Даже в отсутствие конфликтов или злонамеренности рост власти не является аксиомой. Власть можно использовать неосмотрительно. Я думаю, если мы хотим определить набор цивилизационных свойств, близкий к аксиоматически выгодному, он должен включать в себя по крайней мере три атрибута: не только власть над природой, но и сотрудничество с другими существами, а также мудрость.

И даже тогда это не является аксиомой. При большой мудрости и сотрудничестве технологический прогресс все равно может оказаться вредным, если нам не повезет. Мы можем с умом пойти на риск, который до этого стоил того, чтобы на него пойти, а после обнаружить, что это было ошибкой.

В зависимости от того, сколько морального содержания мы вкладываем в понятие мудрости, возможен и другой вариант плохого исхода событий, даже при наличии мудрости и сотрудничества, - если люди достаточно злы: тогда они могут успешно работать вместе, чтобы достичь какого-то злого результата.

Третий, более тонкий способ, с помощью которого максимальные технологии, мудрость и сотрудничество могут оказаться неоптимальными, - это если некоторые важные ценности сами требуют ограничения наших возможностей: например, если смысл нашей жизни будет в достаточной степени подорван условием пластичности. Но об этом подробнее позже.

Надежные траектории

Тем не менее, кажется правдоподобным, что общество, обладающее максимальными технологическими возможностями, максимальным сотрудничеством и максимальной мудростью, будет очень хорошим - уже утопическим или быстро приближающимся к этому, при условии, что оно не будет подвергаться внешней угрозе.

Мы можем считать, что эти три атрибута определяют трехмерное пространство, в котором наилучшая утопия находится в дальнем верхнем углу, где все три атрибута реализованы в полной мере. Наше нынешнее положение в этом пространстве находится где-то посередине - хотя, если исходить из некой абсолютной шкалы, мы, вероятно, должны считать себя гораздо ближе к origo, чем к утопическому пределу.

Следует отметить, что это пространство не является выпуклым по отношению к благости. Под этим я подразумеваю, что приближение к утопии с нашей нынешней позиции не обязательно сделает вещи лучше. Например, легко может оказаться, что некоторые передовые технологические возможности будут полезны только тогда, когда мир достигнет достаточного уровня сотрудничества, чтобы не использовать их для войны и угнетения. Аналогичным образом, некоторые передовые возможности сотрудничества могут быть полезны только в обществах, превышающих некий минимальный порог мудрости, без которого возникшее в результате кооперативное равновесие может служить лишь для укрепления каких-то преобладающих предрассудков или заблуждений и навсегда закрепить ущербный статус-кво.

Следует также отметить, что пути, ведущие к наиболее быстрому росту благосостояния, могут отличаться от путей, которые в конечном итоге, наиболее быстро или с наибольшей уверенностью, ведут к утопии. То есть возможно, что путь наиболее быстрого улучшения ведет лишь к локальному оптимуму. В этом случае может возникнуть противоречие между интересами относительно примитивного поколения, такого как наше, и интересами будущих утопистов, появление которых на свет может потребовать от их предков определенных жертв и терпения.

В целом люди, похоже, не готовы идти на большие жертвы ради потомков. Но мы можем надеяться, что либо (а) создать утопию легко, либо (б) шаги, необходимые для ее достижения, совпадают с некоторыми шагами, которые люди мотивированы предпринять по другим причинам, либо (в) мы уже в утопии, либо (г) мы получим помощь извне, либо (д) мы найдем способ объединить и аккумулировать те части нашей воли, которые разделяют любовь к утопии. Возможно, эти части, хотя и слабые по отдельности, при правильном механизме могут быть конструктивно объединены (между людьми и с течением времени) таким образом, что это позволит им оказывать большее влияние на наше общее будущее, чем близорукие, эгоистичные и предвзятые желания, которые в основном управляют настоящим.

Например, предположим, что каждый человек, который любит утопию и не является фрирайдером, кладет небольшую крупицу золота в огромный кувшин. В конце концов кувшин наполняется, и создание утопии финансируется.

Возможно, это уже произошло бы, если бы не некоторые проблемы. Одна из них заключается в том, что по мере наполнения кувшина он становится заманчивым призом для грабителей. Мы можем вспомнить, например, экспроприацию церковных земель светскими властями в Европе во время Реформации, захват и перераспределение исламских религиозных наделов (вакфов) правительством Ататюрка в Турции в 1920-х годах, конфискацию имущества буддийских, даосских и конфуцианских храмов во время движения за земельную реформу в Китае. Мы также можем задуматься о том, сколько благотворительных фондов было перевербовано для достижения целей, совершенно отличных от тех, которые преследовали их первоначальные благотворители.

Но и без помощи внешних экспроприаторов или лазутчиков долгосрочники могут добиться своего. Например, они могут разделиться на фракции с разными приоритетами и тратить накопленные ресурсы на борьбу друг с другом. Где есть воля, там есть и путь... А сколько воль, столько и путей.

Поскольку конфликты и неправильное управление могут разрушить и без того благоприятную ситуацию, многие знакомые вопросы управления и сотрудничества остаются актуальными в период технологической зрелости, хотя, конечно, в этом контексте они могут принимать иные формы, чем в более традиционных утопиях управления и культуры.

Таксономия

Утопии, таким образом, не образуют строгой иерархии "уровней". Одна утопия может быть более радикальной по одному измерению, другая - по другому. Они используют разные наборы допущений и фокусируются на разных проблемах.

Для вашего удобства я записал краткие характеристики различных типов утопий, которые я представил. Я оставлю вас здесь на пару минут, чтобы дать вам возможность изучить это, пока я сбегаю за чашкой кофе.

ПАМЯТКА 12. УТОПИЧЕСКАЯ ТАКСОНОМИЯ

1. Управление и культурная утопия

Традиционный тип, то, что мы могли бы также (оптимистично) назвать утопией "после господства". Законы и обычаи идеальны, общество хорошо организовано. Это по определению не означает, что оно скучное и унылое, хотя это и является распространенной формой неудач. Другой распространенный способ провала - основываться на ложных представлениях о человеческой природе или допускать грубые ошибки в экономике или политологии. Еще один типичный недостаток - неспособность признать моральное терпение и потребности какой-либо угнетенной группы, например, животных. Бывает разным - феминистским, марксистским, научно-технологическим, экологическим, религиозным. (А теперь, совсем недавно, крипто?)

2. Утопия после дефицита

Изобилие материальных благ и услуг - еды, электроники, транспорта, жилья, школ, больниц и т. д. Каждый может иметь много всего (за важным исключением позиционных благ). Многие управленческие и культурные утопии в той или иной степени также относятся к постнехватке. В действительности, если мы сосредоточимся только на людях, Земля уже прошла примерно две трети пути по сравнению с исходным уровнем типичных предков охотников-собирателей.

3. Утопия после работы

Полная автоматизация. Это означает отсутствие необходимости в экономическом труде человека, хотя попытки представить себе такое состояние часто носят половинчатый характер и предполагают, что человеческий труд по-прежнему необходим для производства культуры. В утопии после дефицита существует изобилие, но его производство может требовать труда. В утопии после работы человек почти или совсем не работает, либо потому, что машины обеспечивают нам изобилие без усилий, либо потому, что мы выбираем экономную жизнь с максимальным досугом. Неясно, насколько далеко мы продвинулись к состоянию после работы, учитывая компромиссы между доходом и досугом. Многие люди, вероятно, могут найти способ обеспечить себе материальное благополучие на уровне охотников-собирателей, почти не работая, хотя, возможно, и не без значительных жертв в плане социального статуса или участия в жизни общества. Те, у кого есть несколько миллионов в инвестиционном портфеле, могут позволить себе гораздо больше, но при этом часто продолжают работать, в основном ради социального вознаграждения.

4. Постинструментальная утопия

Отсутствие инструментальной необходимости в каких-либо человеческих усилиях. Подразумевает пост-работу, но идет дальше, предполагая отсутствие инструментальной необходимости и в любой неэкономической работе - например, не нужно заниматься спортом, чтобы поддерживать форму; не нужно учиться, чтобы получить знания; не нужно активно оценивать и выбирать, чтобы получить те виды пищи, жилья, музыки и одежды, которые вы предпочитаете. Это гораздо более радикальная концепция, чем три предыдущих типа утопии, и она гораздо менее изучена.

5. Пластиковая утопия

Любая предпочтительная локальная конфигурация может быть достигнута без особых усилий, за исключением тех случаев, когда ее блокирует какой-либо другой агент. Автопотенция - частный случай этого - способность существа изменять себя по своему усмотрению. Это выходит за рамки постинструментальности, которая подразумевает только то, что все, что может быть достигнуто, может быть сделано без усилий, но не обязательно влечет за собой какое-либо расширение того, что может быть достигнуто. В пластичном состоянии технологически возможное становится идентичным физически возможному (по крайней мере, локально). Важным следствием утопической пластичности является то, что она, скорее всего, приведет к метаморфическому человечеству: существам, которые благодаря технологическому прогрессу были глубоко преобразованы. Пластические утопии исследованы очень мало, за исключением теологических контекстов и некоторых произведений научной фантастики.

Тессиус: Вперед и вверх, к пластиковой утопии!

Студент: Это звучит как-то дешево.

Тессиус: Немного Барби?

Фирафикс: Ну, это не так уж плохо!

Кельвин: Дешевизна "пластика" на самом деле является полезной коннотацией. В таком состоянии многие вещи могут быть и дешевыми, и удешевленными.

Студент: Но это не очень вдохновляет.

Тессиус: Если вы потребитель, то дешево - это, как правило, хорошо.

Фирафикс: Мне нравится слово "метаморфический". Это неологизм для "трансчеловека" или "постчеловека"?

Кельвин: Эти термины относятся к существам с технологически расширенными возможностями. В памятке сказано, что метаморфические относятся к существам, которые были "глубоко преобразованы" с помощью своих технологий. Вы можете быть глубоко преобразованы не только за счет усиления, но и за счет уменьшения или изменения, так что это более широкая категория.

Бостром: Я под действием кофеина. Давайте нажимать!

Для каждой категории утопии существует соответствующая категория антиутопии. Та, что фокусируется на том же типе проблем, но характеризует его, рисуя негатив, показывая нам, как будет выглядеть провал. Обычно не как предсказание будущего, а как критика некой пагубной модели современного автору общества. Например, в классических антиутопиях об управлении и культуре проблемной моделью может быть деспотичный тоталитаризм ("Девятнадцать восемьдесят четыре") или дегуманизирующий консюмеризм ("Храбрый новый мир"). В антиутопиях после дефицита это может быть отчуждение или социальная разобщенность.

В антиутопии после работы речь может идти о нудности и праздности. В постинструментальных или пластиковых антиутопиях проблемой может быть ощущение бессмысленности или того, что мир становится неинтересным, произвольным и непривязанным.

Антиутопии обычно лучше подходят для сюжетов, потому что в них, по крайней мере, нет проблем. (Обычный совет писателям гласит: "Истории нужен конфликт".) Как минимум, антиутопический порядок сам по себе является большой проблемой, с которой протагонист может бороться. Но это справедливо только для первых трех типов антиутопий. Постинструментальность и пластичность создают трудности для всех попыток повествования, независимо от того, представлено ли окружение как позитивное или негативное. Это происходит потому, что подрываются условия для драматического агентства, а также потому, что реалистичное изображение персонажей и окружающей среды делает их несопоставимыми и непонятными для нас.

Проблема избыточности

Вполне естественно задаться вопросом, можно ли жить хорошо в технологической зрелости - ведь для чего нужны человеческие усилия и деятельность в мире, который полностью пластичен? А без цели возможна ли вообще достойная человеческая жизнь? Не будет ли любая жизнь в таких условиях радикально деградировать, возможно, даже до такой степени, что это будет недостойно людей и любых существ с душой и духом?

Проблема цели угрожает любому постинструментальному утопическому видению и грозит накрыть мрачной тенью радостную перспективу.

В конце вчерашней лекции я предложил многослойный ответ на эту проблему, состоящий из последовательных стен или палисадов, с которых можно противостоять умозаключениям о том, что жизнь на стадии технологической зрелости не может быть очень хорошей. Как вы помните, речь шла о пяти кольцах обороны: Гедонистическая валентность; Текстура опыта; Аутотелическая активность; Искусственная цель; Социокультурная запутанность.

В совокупности, утверждал я, эти пять соображений делают проблему цели вполне терпимой. Другими словами, существуют возможные варианты будущего, связанные с достижением технологической зрелости, желательность которых не сильно страдает от того, что человеческая целеустремленность уменьшится даже в результате крайнего прогресса в автоматизации.

Целеустремленность, однако, не единственное нормативное понятие, которое подвергается давлению в период технологической зрелости. Несколько смежных ценностей также подвергаются атаке в мире открытых степей, который становится гораздо более покорным нашим желаниям. Например, мы можем задаться вопросом, как в пластиковом состоянии

Может ли утопическая жизнь быть интересной?

Может ли утопическая жизнь быть полноценной?

Может ли утопическая жизнь быть осмысленной?

Поэтому вместо того, чтобы сосредоточиться на проблеме цели, мы примем несколько более широкую формулировку стоящей перед нами задачи:

Проблема избыточности

В пределе технологического прогресса, когда становится возможным создать почти идеально пластичный мир - удовлетворяющий наши прихоти и желания и не требующий от нас труда, - как можно придумать утопию, в которой такие ценности, как цель, интерес, богатство, реализация и смысл, не будут подорваны настолько, чтобы в значительной степени лишить полученное состояние желательности (и не жертвуя при этом неприемлемым количеством других ценностей)?

Так что давайте исследуем это. Некоторые из вопросов, с которыми нам предстоит столкнуться, немного запутаны с философской точки зрения, и все, что мы расскажем, будет скорее исследованием, чем изложением. Мы пробираемся через местность, которая в значительной степени является неизведанной и нетронутой. И хотя до настоящего момента мы добирались по относительно ровной дороге, в дальнейшем нам, возможно, придется спускаться и двигаться медленнее, когда мы достигнем особенно сложных или труднопроходимых участков. Возможно, мне даже придется попросить вас о помощи в продвижении вперед, если мы застрянем.

Те из вас, кто не берет этот курс для зачета, могут вместо этого вздремнуть, и мы можем договориться, чтобы вас разбудили, когда все закончится. (Интересно, кстати, сколько людей предпочли бы так относиться ко всей своей нынешней жизни, если бы такая возможность существовала?)

Но остальные, кто решил отложить дремоту, будь то ради зачета по курсу или ради еще более высоких устремлений (или потому, что на самом деле не против немного напрячься и грубовато развлечься): давайте продолжим.

Начнем с значения интересности. Мы будем долго с ней возиться. Ряд идей и маневров, разработанных при обсуждении интересности, найдут применение позже при работе с другими ценностными концепциями, что позволит нам быстрее разобраться с ними; но на этом начальном этапе нам понадобится немного терпения.

Разве не скучно было бы жить в идеальном мире?

Многие бромиды утверждают, что искать счастья, пытаясь достичь идеальных условий в этом мире, бесполезно либо потому, что совершенство недостижимо, либо потому, что оно не принесет нам счастья, даже если мы его достигнем. Поскольку предпосылкой наших лекций является рассмотрение того, что произойдет, если мы все-таки достигнем совершенства - в ограниченном смысле полностью развитой технологии и экономического изобилия в хорошо управляемом обществе, живущем в мире, - здесь уместна вторая альтернатива: что даже если мы достигнем совершенства, оно не сделает нас счастливыми. Может быть, было бы... скучно жить в идеальном мире?

Согласно буддийской мысли, мы обречены испытывать неудовлетворенность, даже если нам посчастливится жить в оптимальных материальных условиях - с богатым здоровьем, богатством, молодостью, репутацией и т. д. Согласно этой точке зрения, первопричиной неудовлетворенности является та роль, которую мы позволяем желаниям и привязанностям играть в нашем существовании. И единственный способ избавиться от страданий - это искоренить фундаментальные иллюзии относительно природы себя и реальности. Мы должны перестать отождествлять себя с нашими желаниями и отбросить привычку смотреть на мир через искажающую линзу эго: только тогда мы сможем увидеть и принять явления такими, какие они есть, и только тогда мы сможем освободиться от страданий и обрести внутренний покой.

Артур Шопенгауэр, великий немецкий пессимист XIX века, черпал вдохновение в ведической традиции, в частности в Упанишадах - основная часть его философии сосредоточена на базовом затруднении: дилемме между болью, возникающей из-за неудовлетворенных желаний, и скукой, которую мы испытываем в отсутствие неудовлетворенных желаний:

"Самый общий обзор показывает, что два врага человеческого счастья - это боль и скука. Мы можем пойти дальше и сказать, что в той степени, в какой нам посчастливилось избавиться от одного из них, мы приближаемся к другому. Соответственно, в то время как низшие классы ведут непрерывную борьбу с нуждой, другими словами, с болью, высшие ведут постоянную и часто отчаянную борьбу со скукой".

Таким образом, жизнь, по словам Шопенгауэра, "качается, как маятник, между болью и скукой". Если спроецировать нашу тему на эту модель, то состояние, в котором мы окажемся по достижении постинструментального возраста, будет соответствовать полюсу "скуки" в метафоре Шопенгауэра. Опасение заключается в том, что мы можем перемахнуть в сторону скуки и застрять там.

Субъективные ощущения в сравнении с объективными условиями

Однако в этот момент мы должны быть внимательны, чтобы не смешать два совершенно разных понятия, связанных со скукой. Мы должны различать скуку как субъективное психическое состояние и скуку как объективную характеристику человека, вещи, ситуации или деятельности. Эти две идеи имеют совершенно разные последствия для наших размышлений об утопии.

Рассмотрим сначала субъективное понятие скуки. Скука, в этом смысле, обозначает негативно окрашенное психическое состояние. Грубо говоря, это неприятная усталость или гнетущее чувство отсутствия интереса, которое мешает удерживать внимание на каком-либо занятии, зрелище или задаче. В технологической зрелости скуки в этом смысле, безусловно, можно избежать. Удовольствие, увлеченность, радостная поглощенность и другие психологические состояния, исключающие скуку, - это (как ни банально) то, что может породить процветающая технологически зрелая цивилизация. Это прямое следствие автопотенции.

Действительно, ментальные состояния, исключающие скуку, можно было бы генерировать в огромном количестве и степени с помощью нейротехнологических средств (таких как генная инженерия, стимуляция мозга, фармакологические вещества или наномедицина) или путем соответствующего проектирования или модификации цифрового разума. Таким образом, скука как субъективное переживание может быть полностью отменена при достижении технологической зрелости, если она не является неизбежным следствием технологического совершенства.

Теперь рассмотрим скуку как объективную атрибуцию. Мы можем сказать, что книга или вечеринка скучны, и подразумевать тем самым не то, что кому-то обязательно бывает скучно, а то, что данный объект обладает различными атрибутами, присутствие которых суммируется и выражается ярлыком "СКУЧНО". Хотя трудно дать точную характеристику этому свойству скуки, мы можем считать, что оно включает в себя дефицит таких характеристик, как новизна, актуальность, значимость и достойный вызов. Вопрос о том, может ли технологически зрелая цивилизация избежать этого свойства скуки и в какой степени - более сложный и тонкий, чем вопрос о том, может ли она избежать субъективного чувства скуки. Мы рассмотрим его подробнее в ближайшее время.

Хотя (субъективное ощущение) скуки и (объективное свойство) скуки - это разные понятия, между ними есть важные связи.

Инструментальная связь. Прежде всего, наша способность испытывать скуку может быть полезна как стимул, отталкивающий нас от условий, обладающих свойством скуки. Если мы считаем, что находиться в объективно скучных условиях плохо, это придает определенную инструментальную ценность нашей способности испытывать субъективную скуку.

Нормативная связь. Во-вторых, мы также можем считать, что существуют определенные ситуации или цели, на которые человек должен реагировать скукой - по основным нормативным, а не инструментальным причинам.

Мы еще вернемся к этому виду "подходящей реакции", но сначала давайте поговорим об инструментальной связи.

Вам никогда не бывает скучно?

Таким образом, к моменту технологической зрелости у нас будут средства для того, чтобы лишить нас способности испытывать скуку, однако можно опасаться, что это приведет к нежелательным последствиям из-за полезности скуки как стимула, толкающего нас прочь от скуки. Если мы считаем, что находиться в объективно скучных условиях плохо, это придает определенную инструментальную ценность нашей способности испытывать субъективную скуку.

Скука, как и все обычные человеческие эмоции, играет важную функциональную роль в нашей психологии. Скука отбивает желание повторять не вознаграждаемые действия и мотивирует нас искать ситуации с более плодотворными возможностями для использования своего времени и энергии. Если мы искореним эту эмоцию, то, возможно, станем более склонными к сбиванию с пути.

В небольших масштабах существует ситуативная скука. Мы покидаем скучную вечеринку раньше времени, потому что она нас утомляет. Выгода в том, что если бы мы не почувствовали скуку, то потратили бы весь вечер впустую.

В более широком смысле это эннуи или экзистенциальная скука. Это настроение указывает на то, что мы тратим свою жизнь впустую. Оно заставляет нас почти остро ощутить пустоту смысла, которая может возникнуть, если мы не посвящаем себя кому-то или чему-то достаточно важному для нас, или если мы начинаем подозревать, что движемся в тупик. В благоприятном случае эннуи заставляет нас пересмотреть свои приоритеты, отказаться от бесплодного жизненного пути и начать поиски более истинного призвания.

Можно подумать, что если утописты уничтожат в себе способность испытывать скуку, то они будут довольствоваться самыми простыми и однообразными занятиями, например наблюдением за высыханием краски; и тогда они не потрудятся сделать с будущим ничего более интересного, чем время от времени перекрашивать стену, чтобы посмотреть, как она высыхает; и тогда будущее будет состоять из группы людей, смотрящих на недавно перекрашенные стены. Это будущее, хотя и избавлено от скуки, будет полно скуки. Такое будущее будет казаться довольно скучным по сравнению с альтернативными возможностями, которые мы можем себе представить.

Но такой вывод был бы слишком поспешным.

Одна из причин заключается в том, что даже если бы утописты были невосприимчивы к скуке, у них могли бы быть другие ценности и заботы, которые заставили бы их создать будущее, более интересное, чем то, которое состоит из людей, наблюдающих за высыханием краски. Страх почувствовать скуку - не единственная возможная причина выбора сложности, оригинальности, драматизма, проектов и приключений, а также других качеств, которые противостоят скуке. Например, даже если утописты знали, что будут чувствовать себя вполне довольными, наблюдая за высыхающей краской, их может побудить к созданию более красивых результатов позитивная любовь к красоте. Они могут выбрать более социально насыщенное будущее из-за позитивного желания общаться с другими людьми. И они могут выбрать более информационно насыщенное будущее из-за страсти к обучению. Красивое, социально динамичное и информационно насыщенное будущее, кстати, тоже может быть весьма интересным, даже если оно не было сформировано с этой целью.

Некоторое подтверждение гипотезы о том, что скука не является необходимым условием интересной жизни, можно получить на основе наблюдений. Я знаю людей, которые, казалось бы, мало подвержены скуке и при этом живут интереснее многих. Мне на ум приходит один из моих коллег по академическому цеху. Этот человек интересуется всем, кроме спорта. За почти три десятилетия, что я его знаю, я ни разу не обнаружил ни малейшего намека на то, что он когда-нибудь почувствует скуку.

Изюминка таких людей не в том, что они особенно страдают от скучных ситуаций. Скорее (как мне кажется) причина в том, что они получают больше, чем обычно, удовольствия от обучения и творчества, и у них есть сильная тяга и энергия для этого. Если бы эти положительные черты распространились, то мир мог бы легко стать более интересным, даже если бы человеческая склонность к скуке была значительно снижена.

Аффективное протезирование

Вторая причина, по которой утописты могли бы избавиться от скуки без обязательного коллапса в скучное будущее, заключается в том, что они могли бы, так сказать, "передать" свою склонность к скуке какому-то внешнему механизму - протезу скуки.

Подумайте о человеке, который устроен таким образом, что ему вполне достаточно смотреть одну и ту же серию ситкома снова и снова, много лет подряд, потому что он совершенно не способен испытывать скуку. Теперь предположим, что мы возьмем экран этого человека и подключим его к телевизору его соседа, так что оба устройства всегда будут показывать один и тот же контент, выбранный соседом, который (предположим) обладает нормальным уровнем склонности к скуке. При прочих равных, казалось бы, потоки впечатлений этих двух людей теперь равны с точки зрения объективной скучности их просмотра. Но, конечно, вместо человека, выполняющего роль селектора, мы могли бы использовать неодушевленный механизм для выполнения этой работы.

Если немного прищуриться, то можно рассматривать современные потоковые сервисы и рекомендательные системы как (очень примитивные формы несколько неправильно настроенных) протезов от скуки. В идеальном случае они заставляют нас бесконечно потреблять персонализированный поток контента с подходящими интермедиями, в которых мы покупаем все то, что нам предлагают в рекламе. Механизм выбирает новый контент, чтобы предотвратить скуку, гарантируя, что мы остаемся "вовлеченными". Проблема в том, что хотя эти коммерческие системы могут быть несколько эффективны в предотвращении субъективной скуки, они, как правило, не предназначены для предотвращения объективной скуки. Напротив, их эффективность в соответствии с объективной функцией поставщика часто оптимизируется за счет того, что люди подсаживаются на бесконечную программу объективно неинтересных развлечений, возмущений и отвлечений, которые не намного лучше для наших душ, чем стальная приманка для лосося. Но эта проблема - условный факт, связанный с современными коммерческими стимулами. В принципе, такие системы можно было бы оптимизировать для достижения более назидательных целей.

Идея протеза скуки может быть обобщена до более универсального плана по избеганию неприятных психических состояний путем экспорта элементов их функциональности внешним механизмам.

Например, боль, которая служит предупреждающим сигналом о повреждении тела. Редко кто рождается без способности чувствовать боль, и это опасное состояние. Люди с врожденной анальгезией могут ходить по сломанным костям или сунуть руку в кипяток. Они часто идут на чрезмерный риск, не защищают свое тело и рано уходят из жизни.

Поэтому, если мы хотим избавиться от боли, нужно как-то решать эту проблему. К счастью, можно придумать несколько возможных решений.

Один из вариантов - спроектировать окружающую среду таким образом, чтобы она была безопасной даже для людей с ослабленной или отсутствующей ноцицепцией. В качестве альтернативы можно использовать более совершенную медицину для восстановления или регенерации поврежденных тканей и суставов, чтобы частые травмы стали менее опасными.

Но есть и другой подход - создать механизм, выполняющий ту же функцию, что и боль, но не причиняющий боли. Представьте себе "экзокожу": слой нанотехнологичных сенсоров, настолько тонкий, что мы не можем его почувствовать или увидеть, но который отслеживает поверхность нашей кожи на предмет раздражителей. Если мы положим руку на горячую плиту, в нашем зрительном поле вспыхнет ярко-красное предупреждение и раздастся громкий звук. Одновременно механизм сокращает наши мышечные волокна, чтобы заставить руку отдернуться, давая нам время обдумать свой следующий шаг. Другой компонент системы может следить за внутренними тканями и органами и отмечать любое состояние, требующее принятия мер.

Такая экзокожа в принципе не сильно отличается от привычных устройств, таких как детекторы угарного газа, носимые дозиметры и непрерывные мониторы глюкозы. Идея оснастить биологический организм целым набором искусственных датчиков вредного воздействия кажется несколько пародийной, хотя с развитыми нанотехнологиями ее можно было бы сделать совершенно незаметной. И конечно, если мы станем полностью цифровыми, многие вещи можно будет реализовать гораздо более элегантно.

Можно исследовать, можно ли приспособить аналогичные методы лечения, которые я предложил для скуки и боли, чтобы помочь нам избавиться от других функционально полезных, но внутренне нежелательных психологических динамик.

Обезьянничаем с человеческой природой

Здесь уместно вставить предостережение об изменении человеческой природы.

В принципе, существует огромная возможность улучшить наше существование, изменив и перестроив наши эмоциональные способности. На практике же существует значительная вероятность того, что мы погубим себя, если пойдем по этому пути слишком беспечно и без предварительного достижения более зрелого уровня проницательности и мудрости.

Это предостережение особенно касается модификаций эмоциональной или волевой природы, поскольку изменения, затрагивающие наши желания, могут легко стать постоянными. И не потому, что мы не сможем их изменить - с развитием технологий откат ранее сделанных изменений должен быть вполне возможен, - а потому, что мы можем не захотеть их менять. (Например, если вы изменили себя так, что не хотите ничего, кроме максимального количества скрепок, вы не захотите снова превращаться в существо, которое хочет других вещей, кроме скрепок, за исключением некоторых особых обстоятельств, когда вы ожидаете, что большее количество скрепок появится в зависимости от того, что вы таким образом изменили себя). Таким образом, подобное волевое изменение, даже если оно не является необратимым, может иметь тенденцию к тому, что оно никогда не будет обращено вспять.

Еще одна причина для сдержанности и осторожности в этой области заключается в том, что наши эмоции - даже те, которые мы считаем "негативными", то есть не только скука и боль, но и гнев, ненависть, ревность, зависть, печаль, страх и так далее - играют множество и порой весьма тонких ролей в нашей психической жизни. Они взаимодействуют между собой, формируя наши личности и поведение сложными и еще не до конца понятными способами. В настоящее время мы можем быть квалифицированы для того, чтобы внести некоторые скромные коррективы и исправить несколько вещей, которые явно сломаны. Но любая попытка кардинальной перестройки - особенно если прибегнуть к относительно новым инструментам, таким как фармакогенетика, а не (например) духовные методы - как можно предположить, несет в себе довольно высокий риск сделать нас менее, а не более удивительными. Иллюстрацию см. в раздаточном материале.

ПАМЯТКА 13.

ECCE

HOMO