Подобный довод применим и к инерциоиду — двигательной установке, нарушающей закон сохранения импульса. В стандартной модели импульс сохраняется для всех частиц и их взаимодействий. По математической индукции, импульс будет сохраняться для систем любого размера. Если вы можете представить две сталкивающиеся частицы, которые разлетаются с таким же суммарным импульсом, то вы поймёте, что увеличение системы до огромной машины из кучи шестерёнок ничего не изменит. Даже если составить систему из триллионов квадриллионов атомов, 0 + 0 + … + 0 = 0.
Но закон сохранения энергии сам по себе не может запретить преобразовывать тепло в работу. Вы можете сделать закрытую коробку, которая превращает кубики льда и запасённое электричество в тёплую воду. Это даже совсем не сложно. Нельзя создать или уничтожить энергию: изменение количества энергии при трансформации кубиков льда и электричества в тёплую воду должно равняться нулю. Поэтому, если бы вы провели обратную трансформацию, закон сохранения энергии тоже бы не нарушился.
Вечные двигатели второго рода, превращающие тёплую воду в электрический ток и кубики льда, запрещены вторым законом термодинамики.
Понять второй закон немного труднее, поскольку по своей природе он байесовский.
Я не шучу.
Второй закон термодинамики вытекает из теоремы, которую можно доказать в стандартной физической модели: при изменении любой замкнутой системы во времени объём её фазового пространства сохраняется.
Допустим, вы держите мяч высоко над землёй. Это состояние можно описать как точку в многомерном пространстве, в котором по крайней мере одно из измерений — высота мяча над землёй. Затем, когда вы отпускаете мяч, он начинает двигаться. Одновременно начинает двигаться и безразмерная точка в фазовом пространстве, которая описывает всю систему, состоящую из вас и мяча. Термин «фазовое пространство» в физике обозначает, что в нём есть измерения не только для координат частиц, но ещё и для импульсов. Например, система из двух частиц будет иметь 12 измерений: 3 измерения на координату частицы, и 3 измерения на импульс.
Если у вас есть многомерное пространство, в котором каждое измерение описывает положение соответствующей шестерёнки в огромном механизме, то, когда вы будете поворачивать шестерёнки, в многомерном фазовом пространстве будет метаться туда-сюда единственная точка. И раз мы можем представить большой сложный механизм в виде одной точки в многомерном пространстве, то законы физики, описывающие поведение механизма с течением времени, мы можем представить, как описывающие траекторию этой точки в фазовом пространстве.
Второй закон термодинамики — следствие теоремы, доказываемой в стандартной модели физики: если рассмотреть некоторый объём фазового пространства, который преобразуется во времени в стандартной модели, то его суммарный объём сохраняется.
Например:
Возьмём две системы, XX и YY, где XX имеет 8 возможных состояний, YY — 4 возможных состояния, а объединённая система (X,Y)(X,Y) — 32 состояния.
Преобразование объединённой системы с течением времени можно описать правилом, которое отображает начальные точки в будущие точки. Например, система может начать в состоянии X7Y2X7Y2, и за минуту перейти (под действием каких-то законов физики) в состояние X3Y3X3Y3. То есть, если XX находится в состоянии 7, Y — в состоянии 2, и мы проследим за ними одну минуту, то мы увидим переход XX в состояние 3 и YY в состояние 3. Таковы законы физики.
Далее, давайте выделим в объединённой системе подпространство SS. Пусть в SS ХХ всегда находится в состоянии 1, а YY — в состояниях 1-4 . Таким образом, общий объём SS будет равен 4 состояниям.
И давайте допустим, что состояния, изначально входящие в SS, под действиями управляющих системой (X,Y)(X,Y) законов физики, ведут себя следующим образом:
X1Y1→X2Y1X1Y1→X2Y1
X1Y2→X4Y1X1Y2→X4Y1
X1Y3→X6Y1X1Y3→X6Y1
X1Y4→X8Y1X1Y4→X8Y1
Это, в двух словах, описание работы холодильника.
Подсистема XX стартовала из узкой области пространства состояний (единственного состояния 1), а YY — из более широкой области, состояний 1-4. После взаимодействия систем друг с другом, система YY оказалась в узкой области, а XX — в широкой, но общий фазовый объём не изменился. 4 начальных состояния перешли в 4 конечных.
Очевидно, что пока физика не позволяет фазовому объёму изменяться с течением времени, невозможно сжать YY сильнее, чем расширить XX, и наоборот. Для каждой подсистемы, сжимаемой в пространстве состояний, какая-то другая подсистема должна расширяться в пространстве состояний.
Теперь допустим, что мы не уверены насчёт состояния системы (X,Y)(X,Y), и наша неопределённость описывается равновероятным распределением по SS. То есть, мы уверены, что XX находится в состоянии 1, но YY может находиться в любом из состояний 1-4. Через минуту мы ожидаем увидеть YY в состоянии 1, а XX — в любом из состояний 2-8. Фактически, XX может быть только в одном из состояний среди 2-8, но узнать конкретное состояние было бы слишком затратно, так что мы просто будем говорить 2-8.
Если рассмотреть энтропию Шэннона от нашей неуверенности о состояниях XX и YY, как о независимых системах, то XX начнёт с 0 бит энтропии, потому что имеет только одно определённое состояние, YY начнёт с 2 бит, потому что она с равной вероятностью может оказаться в любом из четырёх состояний. (Между XX и YY нет общей информации). Немного физики, и вот, энтропия YY стала 0, но энтропия XX стала равна log27=2,8битlog27=2,8бит. Таким образом, энтропия перешла из одной системы в другую и уменьшилась в подсистеме YY. Однако из-за каких-то сложностей мы не потрудились отследить часть информации, и, следовательно (с нашей точки зрения), общая энтропия увеличилась.
Предположим, существовал бы физический процесс, который преобразовывал бы прошлые состояния в будущие состояния следующим образом:
X2Y1→X2Y1X2Y1→X2Y1
X2Y2→X2Y1X2Y2→X2Y1
X2Y3→X2Y1X2Y3→X2Y1
X2Y4→X2Y1X2Y4→X2Y1
Такой физический процесс на самом деле уменьшал бы энтропию, потому что независимо от того, где бы вы начинали, вы оказывались бы в одном и том же месте. Законы физики с течением времени могли бы сжать фазовое пространство.
Однако существует теорема — она называется теоремой Лиувилля и её можно доказать для наших законов физики, — которая утверждает, что такого не может быть: фазовый объём сохраняется.
Второй закон термодинамики — это следствие теоремы Лиувилля. Не важно, насколько хитроумна ваша машина из колёс и шестерёнок. Всё равно вы никогда не сможете уменьшить энтропию в одной подсистеме, не увеличивая её где-то в другом месте. Когда фазовое пространство одной подсистемы сужается, фазовое пространство другой подсистемы должно расширяться, и совместное пространство будет иметь тот же объем.
Однако, изначально компактное фазовое пространство может со временем расползтись и рассредоточиться. Поэтому для того, чтобы нарисовать простую границу вокруг этого беспорядка, придётся описать гораздо большую область, чем в начале. Именно это создаёт впечатление, что энтропия увеличивается. (А в квантовых системах, где развитие разных вселенных идёт разными путями, энтропия действительно возрастает в любой локальной вселенной. Но пока что пропустим это усложнение.)
Второй закон термодинамики вероятностный по своей природе — если вы спросите насчёт вероятности того, что горячая вода спонтанно перейдёт в состояние «холодная вода и электричество», то ответ — такая вероятность действительно существует, просто она очень мала. Это не означает, что теорема Лиувилля с малой вероятностью нарушается, теорема — это теорема, в конце концов. Это означает, что если вы вначале находитесь в большом фазовом пространстве, но не знаете, где именно, вы можете оценить небольшую вероятность оказаться в каком-то конкретном объёме фазового пространства. Поэтому, с бесконечно малой вероятностью этот конкретный стакан горячей воды может быть таким, который самопроизвольно превратится в электрический ток и кубики льда. (Пренебрегая, как обычно, квантовыми эффектами).
Таким образом, второй закон термодинамики по своей природе действительно является байесовским. Когда мы рассуждаем о реальной термодинамической системе, второй закон термодинамики — абсолютно строгое утверждение о ваших убеждениях, касающихся этой системы, но вероятностное утверждение о самой системе.
«Постойте, — говорите вы. — На уроках физики меня учили по-другому. На лекциях нам рассказывали, что термодинамика — это вроде как о температурах. Неопределённость — это субъективное ощущение! Температура воды в стакане — объективное свойство воды! Какое отношение имеет тепло к вероятности?»
О, у вас маловато доверия.
С одной стороны, связь между теплотой и вероятностью относительно проста: если вы не знаете про стакан воды ничего, кроме его температуры, то у вас гораздо больше неопределённости насчёт стакана горячей воды, чем насчёт стакана холодной.
Тепло — хаотичное движение множества молекул, и чем горячее, тем быстрее движутся молекулы. Не все молекулы в горячей воде движутся с одинаковой скоростью: «температура» — это не равномерная скорость всех молекул, а средняя скорость, которая, в свою очередь, соответствует прогнозируемому статистическому распределению скоростей. Дело в том, что чем горячее вода, тем быстрее могут быть молекулы воды, и, следовательно, у вас больше неопределённости о скорости любой отдельной молекулы (и не забудьте о том, что скорость — это вектор) . Когда вы умножите свои неопределённости относительно всех отдельных молекул, вы получите экспоненциально большую неопределённость относительно всего стакана воды.
Теперь возьмём логарифм этого экспоненциального объёма неопределённости и назовём его энтропией. Как вы видите, всё сходится.
Если посмотреть с другой стороны, связь менее очевидна. Предположим, что о некотором стакане воды вы изначально знали только то, что его температура составляла 72 градуса. Затем, внезапно, Святой Лаплас раскрывает вам точные координаты и скорости всех атомов в воде. Теперь вы прекрасно знаете состояние воды, поэтому, по определению информационной энтропии, её энтропия равна нулю. Делает ли это его термодинамическую энтропию нулевой? Будет ли вода холоднее из-за нашего знания?
Игнорируя квантовые эффекты, ответ: да! Вода будет холоднее!
Максвелл однажды спросил: «Почему мы не можем взять сосуд с равномерно распределённым горячим газом, разделить его перегородкой на две части — A и B, и сделать так, чтобы из В в А переходили только быстрые молекулы, а из А в В — только медленные? Если построить такой разделитель, то на стороне А мы получим горячий газ, а на стороне В — холодный. Мы тогда смогли бы дёшево охлаждать продукты, верно?»
Агент, который проверяет каждую молекулу газа и решает, пропускать ли её, известен под именем «демон Максвелла». И причина, по которой вы не можете построить эффективный холодильник таким образом, заключается в том, что демон Максвелла генерирует энтропию, когда проверяет скорости молекул газа и решает, пропускать молекулу или нет.
Но предположим, что вы уже знаете, где находятся все молекулы газа.
Тогда вы действительно можете запустить демона Максвелла и извлечь из этого полезную работу.
Поэтому (опять же игнорируя квантовые эффекты на данный момент), если вы знаете состояния всех молекул в стакане горячей воды, в истинно термодинамическом смысле он холодный: вы можете забрать электричество из воды и оставить кубик льда.
Это не нарушает теорему Лиувилля, потому что если YY — это вода, и вы — демон Максвелла (обозначим как MM), физический процесс ведёт себя так:
M1Y1→M1Y1M1Y1→M1Y1
M2Y2→M2Y1M2Y2→M2Y1
M3Y3→M3Y1M3Y3→M3Y1
M4Y4→M4Y1M4Y4→M4Y1
Поскольку демон Максвелла знает точное состояние YY, это общая информация между MM и YY. Общая информация уменьшает энтропию связанной системы (M,Y)(M,Y): H(M,Y)=H(M)+H(Y)−I(M;Y)H(M,Y)=H(M)+H(Y)−I(M;Y). MM имеет 2 бита энтропии, YY тоже имеет 2 бита энтропии, и общая информация - 2 бита, поэтому (M,Y)(M,Y) имеет в сумме 2 + 2 - 2 = 2 бита энтропии. Физический процесс просто преобразует «холодность» (негэнтропию) общей информации, чтобы сделать холодной настоящую воду. После этого MM имеет 2 бита энтропии, YY имеет 0 бит энтропии, а общая информация равна 0. Как видите, всё в порядке!
И не говорите мне, что знание «субъективно». Знание представлено в мозге, и это делает его таким же физическим, как и всё остальное. Для того чтобы MM физически представлял точную картину состояния YY, физическое состояние MM должно коррелировать с состоянием YY. Вы можете воспользоваться этим термодинамическим преимуществом - оно называется двигателем Сцилларда.
Или как заметил Эдвин Томпсон Джейнс: «Старая поговорка „Знание - сила“ очень правдива, причём как в человеческих отношениях, так и в термодинамике».
И наоборот, одна подсистема не может увеличить общую информацию с другой подсистемой, без 1) взаимодействия с ней и без 2) выполнения термодинамической работы.
В противном случае, вы могли бы создать демона Максвелла и нарушить второй закон термодинамики, что, в свою очередь, нарушило бы теорему Лиувилля, а это невозможно в стандартной модели физики.
Таким образом, чтобы сформировать точные убеждения о чём-то, вам совершенно необходимо за этим наблюдать. Это очень физический, очень реальный процесс: любой рациональный разум «работает» в термодинамическом смысле, а не только в смысле умственных усилий.
(Иногда говорят, что термодинамическая работа требуется для стирания битов при подготовке к новому наблюдению, но это различие — всего лишь вопрос терминов, математика процесса однозначна.)
(Здесь я пока не буду рассматривать вопрос открытия логических «истин» — в некоторой степени потому, что я пока размышляю, как это точно формализовать. В термодинамике знание логических истин не считается негэнтропией, как можно было бы ожидать, поскольку компьютер, способный выполнять обратимые вычисления, смог бы вычислять логические истины с любыми произвольно низкими затратами. Вышенаписанное относится к разуму, который знает о логике всё. Любой более простой ум обязательно будет менее эффективным.)
«Для формирования точных убеждений требуется соответствующее количество доказательств» — это очень убедительная истина как в человеческих отношениях, так и в термодинамике. Если бы слепая вера действительно работала как метод исследования, вы могли бы превратить тёплую воду в электричество и кубики льда. Просто создайте Демона Максвелла, который слепо верит в точные значения скоростей молекул.
Двигатели познания не так сильно отличаются от тепловых двигателей, хоть они и манипулируют энтропией более тонким образом, чем сжигание бензина. Например, они схожи тем, что двигатели познания не являются абсолютно эффективными, они должны излучать лишнее тепло, как его излучает двигатель автомобиля или холодильник.
Фраза «холодная рациональность» правдива в таком смысле, о котором голливудские сценаристы даже не могли и подумать (и неверна в том смысле, который они имели ввиду).
Поэтому, если вы не можете сказать мне, какой именно шаг в вашем рассуждении нарушает законы физики, давая вам истинное знание незримого, то не ожидайте, что я поверю в то, что всё сложное умное рассуждение способно их нарушить.
Основы редукционизма
Как разобрать реальность на составные части? И как жить в такой вселенной, где мы всегда жили, но без разочарования из-за того, что сложные вещи состоят из простых вещей.
Эта цепочка продолжает цепочку «Таинственные ответы на таинственные вопросы»
Распутывание вопроса
Элиезер Юдковский
«Если никто не услышит, как в лесу упадёт дерево, будет ли звук?»
Я не отвечал на этот вопрос. Я не выбирал позицию «да» или «нет» и не защищал её. Вместо этого, я разобрался с тем, как человек обрабатывает слова, даже нарисовал схематическую иллюстрацию(english) нейронной сети. В конечном итоге, я надеюсь, не осталось не только вопроса, но даже чувства вопроса.
Множество философов, особенно философов-любителей и философов древнего мира, имеют опасный инстинкт: когда они слышат вопрос, они пытаются ответить на него.
Например: «Имеем ли мы свободу воли?»
Опасный инстинкт философии состоит в том, чтобы выдвинуть аргументы «в пользу» и «против», взвесить их, опубликовать их в престижном философском журнале и, в заключение, заявить: «да, мы должны иметь свободу воли» или «нет, мы не можем иметь свободы воли».
Некоторые философы достаточно мудры, чтобы вспомнить, что большинство философских диспутов в действительности являются спорами о смысле слова или вокруг путаницы, возникшей в результате использования разных смыслов одного слова в разных местах. Такие философы пытаются наиболее точно определить то, что они подразумевают под «свободой воли», и затем возвращаются к вопросу «Имеем ли мы свободу воли? Да или нет?».
Ещё более мудрый философ может заподозрить, что замешательство, вызванное словами «свобода воли» показывает, что понятие ущербно само по себе. И тогда он начинает следовать путём Традиционного Рационалиста: он начинает рассуждать о том, что понятию «свобода воли» присущи самопротиворечивость или бессмысленность, потому что она не имеет никаких проверяемых последствий. И затем он публикует эти разрушительные замечания в престижном философском журнале.
Но, доказывая, что вы в замешательстве, вы не устраните причину проблемы и не снимете замешательство. Доказательство бессмысленности вопроса поможет не более, чем ответ на него.
Инстинкт философа — найти и занять такую позицию в диспуте, которую проще всего защищать, опубликовать её и пойти дальше. Но «наивный», инстинктивный взгляд — это свойство человеческой психологии. Можно доказывать, что свобода воли невозможна, пока не погаснет Солнце, но это не объяснит того, что происходит в голове человека, который считает, что обладает свободой воли, если при этом свободы воли не существует. А это уже вопрос когнитивистики, и это уже не риторический вопрос!
Люди думают, что они обладают свободой воли — это факт человеческой психологии. Поиски позиции в диспуте, которую проще всего защищать, не изменят и не объяснят этот психологический факт. Философия может привести вас к отказу от концепции, но отказ от концепции — это не то же самое, что и понимание когнитивных алгоритмов, порождающих эту концепцию.
Если мы взглянем на Стандартный Диспут на тему «Если никто не услышит звук падающего в лесу дерева, будет ли звук?», то мы можем поступить в стиле Традиционного Рационалиста, то есть отметить факт, что спорщики не ожидают каких-либо расхождений в наблюдениях, и триумфально объявить, что спор бессмыслен. В данном случае это действительно так, но когнитивистика ставит другой вопрос: почему спорщики вообще сделали эту ошибку, откуда взялось несогласие?
Ключевая идея программы изучения эвристик и предвзятостей в том, что ошибки, которые мы делаем, чаще говорят гораздо больше о наших когнитивных алгоритмах, нежели о правильных ответах. Так (я однажды задал себе вопрос) каким должно быть устройство разума(english), чтобы впадать в ошибку спора о деревьях, падающих в заброшенных лесах?
Когнитивные алгоритмы, которые мы используем, являют собой наш способ воспринимать мир(english). И эти когнитивные алгоритмы могут не соответствовать реальности один в один. Они могут не соответствовать даже макроскопический реальности, не говоря уж об истинных кварках. Эти когнитивные алгоритмы могут порождать искажённое восприятие мира.
Например, может существовать обособленная часть(english) нейронной сети(english), которая не соответствует ни реальному явлению, ни какому-либо свойству реального явления, встречающемуся в реальном мире. Подобные обособленные части часто оказываются полезными как способ «срезать угол» на длинном пути вычислений. (Метафорически говоря. На самом деле, человеческая нейробиология гораздо сложнее(english).)
Эта обособленная часть порождает чувство нерешённого вопроса, даже после того, как были найдены ответы для всех запросов(english), для которых можно найти ответ. Не важно, насколько кто-то старается доказать вам, что ответ на вопрос никак не влияет на ожидаемый опыт — всё равно продолжаете задаваться вопросом «И всё же, падающее дерево производит звук или нет?».
Но все вопросы будут сняты, как только вы поймёте в деталях, почему и как ваш мозг создаёт это чувство вопроса, как только вы осознаете, что чувство неотвеченного вопроса соответствует иллюзорной центральной части нейронной сети, которая не знает, возбуждаться ей или нет, несмотря на то, что все окружающие её части уже выбрали для себя определённые состояния. Или ещё лучше, если вы поймёте принципы работы наивного байесовского метода(english). Не останется ни тянущегося чувства замешательства, ни неясного ощущения неудовлетворённости.
Если же тянущееся чувство наличия неотвеченного вопроса остаётся, или кажется, что вы заговариваете зубы сами себе, то это знак, что вы не разложили вопрос. Неясное ощущение неудовлетворённости тоже должно быть предупреждающим знаком сродни окрику. От вопроса, который действительно был распутан и разложен на составляющие, не остаётся ничего. Такой вопрос растворяется, как будто его и не было.
Триумфально-громогласное отрицание свободы воли, абсолютно неоспоримое доказательство того, что свобода воли не может существовать, кажется вполне удовлетворяющим — «гип-гип-ура»домашней команде(english). И в таком случае вы можете не заметить, что с точки зрения когнитивистики вы не имеете полного и удовлетворительного объяснения, описывающего по шагам как возникает каждое интуитивное ощущение.
Вы можете даже не хотеть признавать своё непонимание, потому что это будет восприниматься как очки не в пользу Вашей Команды. В процессе избавления ото всех глупых верований в свободу воли, признание того, что вы всё же что-то не объяснили, может выглядеть как уступка противоположной стороне.
И, таким образом, возможно, вы придёте к какому-нибудь «just-so»(english) объяснению из области эволюционной психологии. Например, к такому: охотники-собиратели, верившие в свободу воли, были более склонны иметь позитивные взгляды на мир и, таким образом, иметь большее потомство, чем другие охотники собиратели. Говоря это, вы будете доказывать, что мозг создаёт иллюзию свободы воли, не давая объяснения этой иллюзии. Таким образом можно попытаться победить оппозицию, дав объяснение причинам, породившим оппозицию, но это объяснение будет использовать иллюзию свободы воли как свершившийся факт. Вы не отбросили иллюзию, чтобы заглянуть внутрь и увидеть те пружины и шестерёнки, которые приводят её в действие.
Представьте, что в Стандартном Диспуте о дереве, падающем в заброшенном лесу, вы для начала доказали, что нет никакой разницы в ожиданиях, и затем начали выдвигать гипотезы: «Но, возможно, люди, говорящие о том, что аргументы не имели смысла, чувствовали, что им придётся согласиться с правотой оппонента, и таким образом снижать свой социальный статус. То есть мы наблюдаем рефлекторное поведение, выражающееся в доказывании того, что слова не имеют смысла». Это довод в пользу того, что возникает замешательство, и это попытка объяснить, почему оно возникает. Гляньте теперь на структуру нейронной сети в Почувствуй значение(english). Она объясняет, как возникает замешательство, разбирая замешательство на более мелкие части, каждая из которых не вызывает замешательства сама по себе. Видите разницу?
Нахождение хорошей гипотезы о когнитивных алгоритмах (или хотя бы гипотезы, которая не развалится за полсекунды) — гораздо более сложно, чем просто опровергнуть философское замешательство. В действительности, это совершенно иное искусство. Держите это в уме, и вы будете чувствовать меньшее смущение, когда вам придётся говорить «Я знаю, что то, что вы говорите, не может быть истиной, и я могу доказать это. Но я не могу написать блок-схему, которая покажет, как ваш мозг совершает ошибку — я ещё не закончил и продолжу исследования».
Я говорю это, потому что иногда мне кажется, что как минимум 20% реальной эффективности тренированного рационалиста проистекает из того, что он не останавливается слишком рано(english). Если вы продолжите задавать вопросы, то рано или поздно вы доберётесь до пункта назначения. И наоборот, вы не доберётесь, если слишком рано решите, что ответ найден.
Проблема прежде всего в том, чтобы заметить своё замешательство, даже если оно еле заметно, и даже если кто-то рядом с вами настаивает, что люди имеют свободу воли, ухмыляется, и то, что вы не знаете в точности, как работают когнитивные алгоритмы, не имеет ничего общего с раскрытием всей глупости его мнения.
Но, когда вы разобрали когнитивный алгоритм на детали в достаточной мере для того, чтобы проследить весь процесс мысли шаг за шагом и описать, как возникает каждое интуитивное восприятие, разобрать замешательство на более мелкие части, которые сами по себе не вызывают замешательства — если вы проделали всё это, то вы справились с вопросом.
Будьте готовы к тому, что вы можете поверить в то, что вы справились, когда всё, что вы имеете — это триумфальное отрицание ошибки.
Но когда вы действительно справитесь, вы узнаете об этом. Распутывание вопроса вызывает чувство, которое вы ни с чем не спутаете, после того как столкнётесь с ним впервые, и столкнувшись с ним, решите не попадать впросак снова. Спящие не знают, что они спят, но когда вы проснётесь, вы поймёте, что не спите(english).
То есть: когда вы справились с задачей, вы узнаете, что вы с ней справились, но, к сожалению, не наоборот.
И вот проблема в качестве домашнего задания: какой тип когнитивного алгоритма, как он чувствуется изнутри, породит рассмотренный спор о «свободе воли»?
Ваша задача не спорить о том, имеют ли люди свободу воли или нет.
Ваша задача не рассуждать о том, совместима ли свобода воли с детерминизмом или нет.
Ваша задача не доказывать, что вопрос плохо поставлен, или что концепция противоречива, или что нет проверяемых следствий.
Я не прошу вас изобрести эволюционное объяснение тому, как размножались люди, верившие в свободу воли, или рассуждать о том, что концепция свободы воли выглядит подозрительно совпадающей с искажением X. Всё это будет не более чем попыткой объяснить, почему люди верят в «свободу воли», а не то, как они это делают.
Ваше домашнее задание — выписать содержимое стека внутренних алгоритмов человеческого ума, когда они порождают интуицию, питающую весь этот чёртов философский спор.
Это одна из первых реальных проблем, с которой я, как целеустремлённый рационалист, когда-то столкнулся. Одна из более простых головоломок, относительно говоря. Она может точно так же послужить и вам.
Неверные вопросы
Элиезер Юдковский
Когда мозг вгрызается в проблему под неверным углом, он начинает задавать «неверные вопросы» — вопросы, на которые невозможно дать ответ в терминах вопроса. Такие вопросы можно лишь распутать, разложить на составляющие, выяснив какой когнитивный алгоритм порождает «ощущение» вопроса, и каким образом он это делает.
Отличным намёком на то, что вы столкнулись с «неверным вопросом» является то, что вы не можете даже представить какое-нибудь определённое специфическое устройство мира, которое бы дало ответ на этот вопрос. Когда такое случается, не видно самой возможности найти ответ.
Возьмите, например, Стандартный Спор об Определениях о дереве, падающем в заброшенном лесу. Можно ли представить себе какое-нибудь устройство этого мира, какое-нибудь положение дел, при котором слово «звук» действительно означает только акустические вибрации или действительно означает только пережитый опыт восприятия звука?
(Кто-то может сказать: «Да, это такое положение дел, при котором слово «звук» означает акустические вибрации». В таком случае, табуируйте слова «означает», «представляет» и все похожие синонимы, и попробуйте описать заново: каким должен быть мир, чтобы одна из сторон была бы права, а другая ошибалась?)
Или, если это кажется слишком просто, рассмотрите свободу воли: какое конкретное положение дел — в детерминированной физике или в физике со случайным компонентом — может соответствовать наличию свободы воли?
Если же и это выглядит слишком просто, то рассмотрите вопрос «Почему всё существует?» и расскажите мне, как может выглядеть удовлетворительный ответ на этот вопрос.
На всякий случай отмечу: я не знаю ответа на последний вопрос. Но (основываясь на моём предыдущем опыте столкновений с вопросами без ответов) я могу предположить. Ответ не включает в себя великую и триумфальную Первопричину. Вопрос растворится в результате какого-то озарения о том, как алгоритмы мышления проскочили мимо реальности, после чего я пойму, почему вопрос был ошибочным с самого начала; я увижу, как ошибка алгоритмов отразилась в вопросе.
Загадка существует в голове, вовсе не в реальности. Если я не знаю о каком-либо явлении, то это говорит о состоянии моего ума, не о самом явлении. И более того, если невозможно представить себе существование ответа, то это означает, что замешательство существует на карте, не на территории. Вопросы без ответов не отмечают те места, где магия проникает во вселенную. Они помечают места, где ваш разум «промахивается» мимо реальности, где он искажает её.
Некоторые вопросы должны быть распутаны. Плохие вещи случатся, когда вы пытаетесь ответить на них. Такие попытки неизбежно порождают наихудший сорт таинственных ответов на таинственные вопросы, тот, который даёт выглядящие сильными аргументы для вашего Таинственного Вопроса, но «ответ» не позволяет вам делать каких-либо новых предсказаний даже задним числом, и явление продолжает носить ту же священную необъяснимость, которую оно имело с самого начала.
Я могу предположить, как мог бы выглядеть ответ на загадку Первопричины: ничто не существует, сама концепция существования ошибочна. Но если вы искренне поверите в это, то уменьшит ли это ваше замешательство? Вряд ли. И мне тоже это не помогает.
Но у вопросов без ответа есть одно замечательное свойство: они всегда разрешимы (по-крайней мере все, с которыми я сталкивался, имели это свойство). Какая мысль первой пришла в голову Королеве Елизавете I, первая её мысль с утра, когда она проснулась в её сороковой день рождения? В то время, как я могу представить себе возможные ответы на этот вопрос, я с готовностью вижу, что я, быть может, никогда не смогу фактически на него ответить — истина была утеряна во времени.
С другой стороны, вопрос «Почему всё существует?» выглядит настолько невозможным, что я могу сделать вывод, что я в замешательстве, а значит, вероятно, истина далеко не столь переусложнена в абсолютном смысле, и я смогу её увидеть, как только озадаченность уйдёт.
Это может выглядеть контринтуитивным, если вам не доводилось решать вопрос без ответа, но я заверяю вас, что именно так всё и есть.
Ждите завтра: простой трюк для работы с «ошибочными вопросами».
Исправление неверного вопроса
Элиезер Юдковский
Когда вы сталкиваетесь с безответным вопросом — с вопросом, на который кажется невозможным даже представить ответ — существует простой приём, который может сделать вопрос решаемым.
Сравните:
Почему у меня есть свобода воли?
Почему я думаю, что у меня есть свобода воли?
У второго вопроса есть очень приятное свойство: он гарантированно имеет самый настоящий ответ, вне зависимости от того, существует ли свобода воли или нет. Задавая себе вопрос «почему у меня есть свобода воли?» или «есть ли у меня свобода воли», вы начинаете искать ответ в деталях физических законов, которые настолько удалены от макроскопического уровня, что вы даже не можете их увидеть невооружённым взглядом. То есть, вы спрашиваете «почему существует X», в то время как X может вообще не иметь отношения к делу, не говоря уж о том, что он может не иметь места.
В то же время, вопрос «почему я думаю, что у меня есть свобода воли» гарантированно имеет ответ. Вы в действительности верите в свободу воли. Эта вера выглядит гораздо более цельной и понятной, чем эфемерность свободы воли. И в действительностисуществует некая цельная цепочка когнитивных причин и следствий, ведущих к этой вере.
Если вы уже переросли вопросы свободы воли, то выберите что-нибудь на замену:
«почему время движется вперёд, а не назад» против «почему я думаю, что время движется вперёд, а не назад»
«почему я родился собой, а не кем-нибудь ещё» против «почему я думаю, что я родился собой, а не кем-нибудь ещё»
«почему я обладаю сознанием» против «почему я думаю, что обладаю сознанием»
«почему реальность существует» против «почему я думаю, что реальность существует?»
Прелесть метода в том, что он работает вне зависимости от того, содержит ли вопрос в себе замешательство или нет. Я набираю эти слова, и на моих ногах одеты носки. Я могу спросить «почему на моих ногах надеты носки» или «почему я думаю, что на моих ногах надеты носки». Допустим, я задал второй вопрос. Отслеживая назад причинно-следственную цепочку я выясню, что:
я думаю, что на моих ногах надеты носки, потому что я вижу носки на ногах;
я вижу носки, потому что моя сетчатка посылает сигналы о носках зрительной коре моего головного мозга;
моя сетчатка посылает сигналы о носках, потому что свет проецируется на сетчатку в форме носков;
свет проецируется на сетчатку в форме носков, потому что он отражается от носков, которые надеты на мои ноги;
он отражается от носков, потому что надеты носки;
носки надеты, потому что я их надел;
я надел носки, потому что полагал, что иначе моим ногам будет холодно;
и так далее.
Отслеживая назад причинно-следственную цепочку шаг за шагом, я выясняю, что моя вера в то, что на моих ногах надеты носки, полностью объясняется тем, что на моих ногах надеты носки. Это правильно, так и должно быть, потому что вы не можете получить информацию о чём либо, не взаимодействуя с ним(english).
С другой стороны, если я вижу мираж озера в пустыне, то правильное причинное объяснение моего видения не будет включать в себя факт наличия настоящего озера в пустыне. В этом случае, моя вера в существование озера не просто объясняется, но разобъясняется.
Но в любом случае вера оказывается реальным явлением, имеющим место в реальном мире: психологические события — тоже события, и их причинно-следственная история может быть отслежена назад к исходной причине, вызвавшей их.
Вопрос «откуда взялось озеро посреди пустыни» может остаться без ответа, если на самом деле нет никакого озера, которое нужно объяснять. Но «почему я ощущаю озеро посреди пустыни» всегда можно объяснить тем или иным образом.
Возможно кто-нибудь увидит возможность показаться умным и скажет «Хорошо. Я верю в свободу воли потому, что у меня есть свобода воли». Конечно же, всё не столь просто.
Моё восприятие носков на моих ногах — это событие в зрительной коре головного мозга. Работа зрительной коры может быть исследована когнитивистикой и не должна вызывать замешательства.
Моя сетчатка воспринимает свет, и это не какой-то мистический процесс возникновения ощущения, не магический детектор носков, который срабатывает в присутствии носков необъяснимым образом. Это работа механизмов, которые могут быть объяснены в рамках биологии. Фотоны падают на сетчатку, и это можно объяснить в рамках оптики. Отражение света носками можно объяснить в рамках электромагнетизма и химии. Охлаждение моих ног можно объяснить в рамках термодинамики.
Таким образом, всё несколько сложнее, чем заявить «я верю в свободу воли потому, что она у меня есть». Вам придётся разбить причинно-следственную цепочку на отдельные звенья, и объяснить каждое в терминах, которые сами по себе не вызывают замешательства.
Взаимодействие сетчатки с носками вполне понятно и может быть объяснено в терминах компонентов, типа фотонов и электронов, которые не вызывают замешательства. Где в мозге находится детектор свободы воли, и как он определяет наличие или отсутствие свободы воли? Как детектор взаимодействует с детектируемым событием и какова механика этого взаимодействия?
Если ваша вера не проистекает из действительных наблюдений реального явления, мы рано или поздно выясним этот факт, если начнём отслеживать причинно-следственную цепочку, ведущую к вашей вере.
Если вы действительно замечаете своё замешательство, то отслеживание причинно-следственной цепочки найдёт тот алгоритм, который искажает реальность.
В любом случае, вопрос гарантированно имеет ответ. Более того, есть отличное и вполне определённое место, с которого можно начать отслеживать свои убеждения, место, находящееся непосредственно в вашей голове.
Когнитивистика, быть может, не выглядит настолько возвышенно, как метафизика. Но, по-крайней мере, вопросы когнитивистики решаемы. Поиск ответа может не быть простым, но, по-крайней мере, ответ существует.
А, и да: мысль о том, что когнитивистика не столь возвышенна и восхитительна как метафизика элементарно не верна. Я надеюсь, что некоторые читатели начинают замечать это.
Ошибка проецирования ума
Элиезер Юдковский
В дни зарождения научной фантастики, инопланетные захватчики могли при случае похитить девушку в порванном платье и утащить её, с намерением изнасиловать, что было с любовью изображено на многих старых обложках журнала. Несколько странно, что при этом инопланетяне никогда не охотились за мужчинами в порванных рубахах.
Будет ли негуманоидный пришелец с совершенно иной эволюционной историей и эволюционной психологией(English) воспринимать человеческую самку сексуально привлекательной? Это выглядит, как минимум, весьма маловероятным.
Люди не совершают подобных ошибок когда делают выводы обдуманно. «Все возможные разумы скорее всего устроены в общем похожим образом, поэтому монстр с фасеточными глазами сочтёт человеческую самку привлекательной». Вероятно художник даже не задумался о вопросе, будет ли пришелец воспринимать человеческих самок привлекательными. Вместо этого: «человеческая самка в порванном платье сексуальна» — это им свойственно, это их существенное, неотъемлемое и врождённое свойство.
Тот, кто совершил ошибку, не думал об эволюционной истории пришельцев, они фокусировались на порванном платье женщины. Если бы платье не было бы порвано, то женщина была бы менее сексуальна, монстр-пришелец не заинтересовался бы ею.
Очевидно, что мы инстинктивно представляем Сексуальность как прямой атрибут объекта Женщина, типа Женщина.сексуальность, так же как и Женщина.высота, Женщина.вес.
Если мозг использует эту структуру данных или какую-то метафорически схожую, то внутри(English) он чувствует, будто сексуальность — это врождённое свойство женщины, а не свойство пришельца, который разглядывает женщину. Женщина привлекательна, а значит монстр будет испытывать влечение к ней — логично, не так ли?
Э. Т. Джейнс использовал термин ошибка проецирования ума, чтобы обозначить ошибку проецирования свойств ума наблюдателя на внешний мир. Джейнса — ныне покойного гроссмейстера Байесианского Заговора, — больше всего заботило неверное обращение с вероятностями как врождёнными свойствами объектов, нежели с состоянием частичного знания в некоем конкретном уме.
Но ошибка проецирования ума проявляет себя не только по отношению к вероятностям. Это аргумент против спора о настоящем значении слова «звук», против изображения на обложке журнала монстра несущего женщину в порванном платье, против заявления Канта о том, что пространство плоское по своей природе (space by its very nature is flat — в философии я нуль, если кто знает что имелось в виду, поправьте пожалуйста, прим. перев.), против определения, которое дал Юм априорным(English) идеям, которые «порождаются исключительно работой ума, вне зависимости от существания чего-либо во вселенной».
(Как-то раз я читал в научной фантастике рассказ про самца человека, который имел сексуальные отношения с разумным инопланетным растением, имеющим соответствующе мягкие листья, и впоследствии внезапно обнаружившем, что это был мужской экземпляр растения. Некоторое время мужчина переживал из-за этого, но в конечном итоге решил, что это уже не имеет никакого значения. И у Фоглио с Полоттой во «Внезапном вторжении» люди высаживаются на планету, населённую разумными насекомыми, и видят трейлер показывающий человека, который утаскивает жука в пикантном шёлковом платье. Просто вдруг вспомнилось.)
Вероятность находится в голове
Элиезер Юдковский
Вчера я говорил об ошибке проецирования ума, рассматривая пример монстра-пришельца, который уносил девушку в порванном платье, об ошибке, которую я приписал тому, что художник думал о сексуальности женщины как о свойстве самой женщины, женщина.сексуальность, а не о чём-то, что существует исключительно в голове наблюдателя и, вероятно, не существует в голове пришельца.
Термин «ошибка проецирования ума» был введён великим покойным мастером байесианства Э. Т. Джейнсом. Джейнс полагал, что вероятности существуют в уме — не в окружении, — что вероятности выражают незнание, состояние частичной информации, и если я не знаю что-либо о явлении, то это говорит о состоянии моего ума, и ничего не говорит о явлении.
Я не могу отдать должное этому древнему спору, оставаясь при этом кратким, но я приведу классический пример.
У вас есть монета.
Монета несимметрична.
Вы не знаете, какая именно сторона выпадает чаще и насколько чаще. Кто-то сказал вам о том, что монета несимметрична и ничего больше.
Больше никакой информации у вас нет.
Вы вытаскиваете монету, подкидываете её, ловите.
А теперь, прежде чем убрать руку и взглянуть на результат, можете ли вы сказать, что вы приписываете вероятность 0,5 тому, что монета упала орлом?
Частотник (сторонник частотного определения вероятности — прим. перев.) скажет: «Нет. Сказать, что вероятность равна 0,5, значит подразумевать, что монета имеет неотъемлемое свойство падать орлом так же часто, как и решкой, а значит, если мы подкинем монету бесконечное число раз, то отношение орлов и решек будет стремиться к 1:1. Но мы знаем, что монета несимметрична, поэтому она может иметь любую вероятность выпадения орла кроме 0,5».
Байесианец же скажет: «Неопределённость существует на карте, не на территории. В реальном мире монета выпадет либо орлом, либо решкой. Любой разговор о вероятности должен отражать ту информацию, которую я имею о монете — моё состояние частичного незнания и частичного знания, — а не какую-то там информацию о монете. Более того, у меня есть теоремы на любой вкус, показывающие, что если я не буду рассматривать моё частичное знание определённым образом(English), то я буду делать глупые ставки. Если мне придётся учитывать результат броска монеты при составлении плана, то я буду планировать исходя из состояния неопределённости 50:50, в котором я не могу сказать, что исходы, при которых выпадают орлы, имеют больший вес, чем исходы, при которых выпадают решки. Вы можете называть это число как угодно, но я не намерен подчиняться законам теории вероятностей из страха показаться глупым. Таким образом, я не испытываю ни малейшей нерешительности, когда называю такое взвешивание исходов вероятностью».
Я на стороне байесианцев. Вы могли это уже заметить.
Ещё до того, как симметричная монета подброшена в воздух, мнение о том, что она имеет неотъемлемую вероятность 50% упасть орлом может быть элементарно ошибочно. Может быть вы держите монету таким образом, что она гарантированно упадёт орлом или решкой, при данной силе, с которой вы подбрасываете её, и при данных движениях воздуха вокруг вас. Но если вы не знаете каким образом смещены вероятности монеты в данном конкретном случае, то что?
Если я не ошибаюсь, было судебное разбирательство, в котором истец предъявлял претензии организаторам лотереи: карточки с именами участников не были перемешаны достаточно тщательно и поэтому шансы были не равны. Судья выслушал и спросил: «Кто именно имел больше шансов?»
Чтобы сделать эксперимент с монеткой повторяемым, как того имеют обыкновение требовать частотники, мы можем создать автоматический подбрасыватель монет и убедиться, что результаты 50% орлов и 50% решек. Но, быть может, робот с особо чувствительными глазами и хорошим пониманием физики сможет, наблюдая за приготовлениями автоподбрасывателя, предсказать падение монеты заранее — пускай и не совершенно определённо, но, допустим, с точностью 90%. И чем тогда будет настоящая вероятность в этом случае?
Не существует «настоящей вероятности». Робот имеет какую-то частичную информацию. Вы имеете другую частичную информацию. Монета не имеет ума и не владеет никакой информацией, она не назначает никаких вероятностей, она просто взлетает в воздух, переворачивается несколько раз, сталкиваясь с каким-то количеством молекул воздуха, а затем приземляется либо орлом, либо решкой.
Это байесианская точка зрения, и я, пожалуй, покажу несколько классических головоломок, которые обретают свою головоломность из-за склонности думать о вероятностях как о неотъемлемых свойствах объектов.
Начнём со старой классики: вы встретили на улице математика и она случайно упомянула, что у неё два ребёнка. Вы спросили: «Хотя бы один из них мальчик?» Она ответила: «Да».
Какова вероятность того, что она родила двоих мальчиков? Если вы предположите, что вероятность того, что ребёнок — мальчик, равна 1/2, то вероятность того, что она имеет двух мальчиков равна 1/3. Априорные вероятности такие: 1/4 для двух мальчиков, 1/2 для мальчика и девочки, 1/4 для двух девочек. Ответ математика «да» имеет вероятность ~1 в первых двух случаях и ~0 в третьем. Перенормируя вероятности мы получаем 1/3 вероятности двух мальчиков, и 2/3 вероятности мальчика с девочкой.
Предположим теперь, что вы задали другой вопрос: «Старший ребёнок — мальчик?», и математик ответила: «Да». Тогда вероятность того, что у математика два мальчика будет равна 1/2. Поскольку старший ребёнок — мальчик, а младший может быть кем ему нравится.
То же самое, если бы вы спросили: «Младший ребёнок — мальчик?». Вероятность двоих мальчиков опять же 1/2.
В этом случае, если хотя бы один ребёнок — мальчик, то он должен быть либо старшим, либо младшим. Так каким образом ответ в первом случае отличается от ответа в двух других?
Есть другой похожий пример: допустим, у меня есть четыре карты — туз червей, туз пик, двойка червей и двойка пик. Я беру из них в руку две карты случайным образом. Вы спрашиваете меня: «Держишь ли ты хотя бы одного туза?» и я отвечаю: «Да». Какова вероятность того, что я держу пару тузов? Ответ: 1/5. Существует шесть различных комбинаций из двух карт с равной априорной вероятностью, и вы исключили возможность, что я держу пару двоек. Из пяти оставшихся комбинаций только одна является парой тузов. Таким образом ответ: 1/5.
Теперь предположим, что вы спросили меня: «Держишь ли ты туза пик?» Если я отвечу «да», то вероятность того, что другая карта — туз червей равна 1/3. (Вы знаете, что я держу туза пик, и существует три возможных варианта для другой карты, туз червей — ровно один из них.) Точно так же, если вы спросите меня «Держишь ли ты туза червей?» и я отвечу «да», то вероятность того, что я держу пару тузов равна 1/3.
Но как такое может быть, если в случае вопроса «Держишь ли ты по крайней мере одного туза?» и ответа «Да», вероятность того, что я имею пару была 1/5? Я должен был держать либо туза пик, либо туза червей, как вы знали; и в любом случае вероятность того, что я держу пару тузов равна 1/3.
Как такое может быть? Может я вычитал какие-то вероятности неверно?
Если вы хотите выяснить это самостоятельно, то сделайте это сейчас, потому что я собираюсь раскрыть…
Все указанные расчёты верны.
Что же до парадокса, то его нет. Видимость парадокса возникает из-за того, что вероятности рассматриваются как свойства карт. Туз, которого я держу, может иметь масть либо червей, либо пик; но это не означает, что ваше знание о моих карт должно быть одинаковым, если вы знаете, что я держу червей, или вы знаете, что я держу пики.
Тут может помочь теорема Байеса:
P(H|E) = P(E|H)P(H) / P(E)
Последняя часть, где вы делите на P(E) — это часть, где вы отбрасываете все остальные возможности, которые были исключены и перенормируете ваши вероятности к тому, что осталось.
Давайте рассмотрим вопрос «Держишь ли ты по крайней мере одного туза?». Прежде чем я ответил, ваша вероятность того, что я скажу «да» должна была быть 5/6.
Но если вы спросили меня «держишь ли ты туза пик?», то ваши априорная вероятность того, что я скажу «да», всего лишь 1/2.
То есть, как вы видите, вы узнаёте весьма разные вещи в этих двух разных случаях. Вам придётся исключать и перенормировать какие-то различные возможности, используя разную P(E). Если вы узнаете разные свидетельства, то вам не следует удивляться, если в результате вы приходите к разной частичной информации.
Точно так же, если я спросил математика: «Есть ли среди твоих детей мальчик?», то я ожидал услышать «Да» с вероятностью 3/4, но если бы я спросил: «Старший ребёнок — мальчик?», то я бы ожидал услышать «да» с вероятностью 1/2. Таким образом, совершенно неудивительно, что я пришёл к разному частичному знанию, зависящему от того, какой именно из этих двух вопросов я задал.
Единственная причина того, почему видится парадокс, в том, что вероятность пары тузов рассматривается как свойство карт которые имеют, по крайней мере, одного туза, или как свойство карт, которые, как выясняется, содержат туза пик. В этом случае, для набора карт, имеющего по крайней мере одного туза, было бы парадоксальным иметь прирождённую вероятность пары равную 1/5, в то время как наборы карт, имеющие одного туза пик, имеют прирождённую вероятность пары равную 1/3, и наборы карт, имеющие туза червей, имеют прирождённую вероятность пары 1/3.
Точно так же, если вы считаете о вероятности 1/3 того, что оба ребёнка мальчики, что это прирождённое свойство наборов детей, которые включают хотя бы одного мальчика, то это не совместимо с наборами детей, из которых старший — мальчик, имеющими прирождённую вероятность 1/2 того, что оба мальчики, также как и наборы детей, имеющие младшего мальчика, имеют врождённую вероятность того, что оба — мальчики. Это было бы тоже самое, что и сказать: «Все зелёные яблоки весят по фунту, все красные яблоки весят по фунту, и все яблоки, которые зелёные или красные, весят по полфунта».
Это то, что случается, когда вы начинаете думать о вероятностях как о чём-то, что содержится в вещи, вместо того, чтобы рассматривать вероятности как отражение частичной информации о вещи.
Вероятности описывают неопределённость. Но неопределённость существует лишь для агентов. Пустая карта не соответствует пустой территории. Незнание существует в голове.
Цитата — не референт
Элиезер Юдковский
В классической логике операциональное определение тождества означает, что если 'A=B' — теорема, то вы можете заменить 'B' на 'A' в любой теореме, где используется 'B'. Например, если (2 + 2) = 4 — теорема, и ((2 + 2) + 3) = 7 — теорема, то (4 + 3) = 7 — тоже теорема.
Это приводит к проблеме, которую обычно выражают словами: утренняя звезда и вечерняя звезда оказываются одним и тем же объектом, планетой Венера. Предположим, что Джон знает, что утренняя звезда и вечерняя звезда — это один и тот же объект. Мэри же полагает, что утренняя звезда — это бог Люцифер, а вечерняя звезда — это богиня Венера. Джон знает, что Мэри считает, что утренняя звезда — Люцифер. Должен ли Джон поэтому (по правилу подстановки) считать, что Мэри верит в то, что вечерняя звезда — это Люцифер?
Или даже более простая версия этой проблемы. 2 + 2 = 4 — это истина, то есть (((2 + 2) = 4) = ИСТИНА) — это теорема. Последняя теорема Ферма — тоже истина. Таким образом: я верю в то, что 2 + 2 = 4 => я верю в ИСТИНУ => я верю в последнюю теорему Ферма.
Да, я знаю, это выглядит очевидно неверным. Но представьте себе, что кто-то пишет программу логического вывода, использующую принцип «равные термины можно подставлять», и программа выдаёт такой результат. Теперь представьте, что программист пишет статью о том, как избежать этого. Теперь представьте, что кто-то ещё не соглашается с предложенным решением… Спор до сих пор продолжается.
Я лично сказал бы, что Джон совершает ошибку типизации, вроде попытки вычесть 5 граммов из 20 метров. «Утренняя звезда» — не то же самое, что утренняя звезда, хотя и одна и та же вещь. Убеждение — не планета.
утренняя звезда = вечерняя звезда
«утренняя звезда» ≠ «вечерняя звезда»
На мой взгляд, проблема проистекает из-за того, что не удалось корректно провести разницу между убеждениями и вещами. Исходная ошибка была в том, что ИИ хранит свои убеждения об убеждениях Мэри об «утренней звезде», используя то же представление, как и для убеждений об утренней звезде.
Если Мэри верит, что «утренняя звезда» — это Люцифер, это не означает, что Мэри верит в то, что «вечерняя звезда» — это Люцифер, потому что «утренняя звезда» ≠ «вечерняя звезда». Весь парадокс возникает из-за того, что в нужных местах не поставлены кавычки.
Вы, быть может, помните, что я не впервые говорю о введении дисциплины использования типизации — последний раз я об этом говорил, когда рассуждал об ошибке, к которой приводит неразличение выгоды и ожидаемой выгоды. При изучении физики безмерно полезно отслеживать единицы измерений — может выглядеть утомительным писать «см» и «кг», но только до тех пор, пока вы не заметите, что (а) ваш ответ выглядит ошибочным на порядок и (б) он выражен в секундах на квадратный грамм.
Точно так же, убеждения — это не то же самое, что и планеты. Если мы говорим о человеческих убеждений, то, как минимум, определённым является то, что убеждения находятся в голове, а планеты в космосе. Убеждения весят несколько микрограмм, планеты же весят гораздо больше. Планеты больше, чем убеждения… ну, вы поняли идею.
Кажется недостаточным заключить в кавычки «утреннюю звезду», чтобы предотвратить путаницу, потому что для людей текст будет выглядеть похожим. Поэтому, быть может, лучшим способом ввести типизационную дисциплину будет использование визуально различных способов кодирования:
утренняя звезда = вечерняя звезда
21.20.18.06.15.15.33.33.00.09.03.06.09.05.01 ≠ 03.06.25.06.18.15.33.33.00.09.03.06.09.05.01
Изучение математической логики также может помочь научиться различать цитату и референт. В математической логике |- P (P — теорема) и |- []'P' (доказуемо, что существует кодированное доказательство кодированного утверждения P в какой-то кодированной системе доказательств) — это очень разные утверждения. Если вы снизите уровень «цитирования» в математической логике, то это примерно то же, что и опустить единицу измерения — в результате вы можете получить нелепые результаты, типа «скорость света равна 299 792 458 метрам».
Альфред Тарский однажды попытался определить значение «истины», используя бесконечную последовательность предложений:
(«Снег — белый» — это истина) тогда и только тогда, когда (снег — белый)
(«Хорьки зелёные» — это истина) тогда и только тогда, когда (хорьки зелёные)
…
Когда предложения типа этих начнут выглядеть в ваших глазах осмысленными, вы начнёте различать закодированные утверждения и состояния окружающего мира.
Похожим образом, понятие истины весьма отличается от понятия реальности. Говоря «истина» мы сравниваем убеждение с реальностью. Но реальность не станет реальнее от того, что её сравнили с убеждением, ей вовсе не нужны никакие сравнения для того, чтобы быть реальной. Помните об этом, когда вам в следующий раз придётся услышать утверждение, что ничто не является истинным.
Качественное замешательство
Элиезер Юдковский
Я полагаю, что основной причиной путаницы между «убеждением», «истиной» и «реальностью» является качественное мышление об убеждениях.
Давайте рассмотрим типичную постмодернистскую попытку поумничать:
«Солнце вращается вокруг Земли» — истина для Ханги Охотника-собирателя, но «Земля вращается вокруг Солнца» — истина для Эмары Астронома! Разные общества имеют разные истины!
Нет. Разные общества имеют разные убеждения. Убеждения имеют другой тип, нежели истина, это как сравнивать яблоки с вероятностями.
Ах, но ведь нет никакой разницы между тем, как ты используешь слово «убеждение» и как ты используешь слово «истина»! Вне зависимости от того, говоришь ли ты «я убеждён, что снег белый» или «снег белый — это истина», ты выражаешь одно и то же мнение.
Нет. Эти предложения означают довольно-таки разные вещи, они передают разницу в том, как я ”ощущаю” вероятность того, что мои убеждения — ложь.
О… Ты утверждаешь, что ты ощущаешь, но ты не веришь в это. Как сказал Витгенштейн, «если бы существовал глагол, означающий „ошибочно верить“, то он бы не имел никакого значащего первого лица, настоящего времени изъявительного наклонения».
И вот как раз то, что я имею в виду, разговаривая о качественном рассуждении как об источнике проблемы. Дихотомия между верой и неверием, будучи двоичной, похожа на дихотомию между истиной и неистиной, и это приводит к путанице.
Но давайте попробуем использовать количественное рассуждение. Предположим, что я присваиваю 70% вероятности утверждению, что снег — белый. Это означает, что я думаю, что есть около 70% вероятности того, что предложение «снег белый» окажется истиной. Если это предложение — истина, является ли истиной моё присвоение 70% вероятности этому предложению? Оно более истинно, чем было бы, если бы я присвоил 60% вероятности, но не столь истинно, как если бы я присвоил 80%.
Говоря о соответствии между присвоением вероятности и реальностью, будет лучше использовать слово «точность» вместо слова «истина». «Точность» звучит более количественно, как стреляющий лучник: как близко к центру цели попадёт присвоение вероятности.
Короче говоря(English), существует весьма натуральный способ оценить точность присвоения вероятности при сравнении с реальностью: достаточно взять логарифм вероятности, которая была присвоена действительному положению дел.
Таким образом, если снег — белый, то моё убеждение «70%: снег белый» будет оцененокак −0,51 бит: log2(0,7) = −0,51.
Но что, если снег не белый, если я присвоил действительному положению дел 30% вероятности? Если «снег белый» — ложь, моё убеждение «30%: снег не белый» даст −1,73 бита. Отметьте: -0,51 > −1,73, то есть в этом случае моё предсказание хуже.
Как оценить точность моих убеждений? Мои ожидания можно оценить как 70% * −0,51 + 30% * −1,73 = −0,88 бит. Если снег белый, то мои убеждения окажутся более точными, чем я ожидал. Если снег не белый, то мои убеждения окажутся менее точными, но, в любом случае, мои убеждения не будут иметь такую же точность, как я ожидал в среднем.
И это ни в коем случае не стоит путать с выражением «я назначаю 70% убеждённости утверждению, что снег белый». Я могу быть убеждён, что это утверждение верно с вероятностью ~1, то есть я не сомневаюсь в этом, это факт о моей вере. И, таким образом, я буду ожидать, что моё мета-убеждение «~1: «я назначаю 70% убеждённости, что снег белый» получит ~0 бит точности, что фактически так и есть.
То, что я не уверен в цвете снега, не означает, что я не уверен в моих цитированных вероятностных убеждениях. Снег где-то там, а мои убеждения в моей голове. Я могу быть заметно менее не уверен в том, насколько я не уверен в цвете снега, чем я не уверен в цвете снега. (В то же время убеждения об убеждениях не всегда точны.)
Сравните эту вероятностную ситуацию с качественным рассуждением, в котором я просто верил, что снег белый, и верил, что я верю, что снег белый, и верил, что «снег белый — истина», и верил, что «моё убеждение, что „снег белый — истина“ — верно», и т.д. Поскольку все вовлечённые величины равны 1, их легко перепутать.
В то же время, вы можете легко упустить эти различия в качественном выводе, если начнёте думать «снег белый с вероятностью 70%» — истина», что является ошибкой типизации. Это истинный факт о вас, о том что вы верите в «70%: снег белый»; но это не означает, что присвоение вероятности является истинным. Вера наберёт либо −0,51, либо −1,73 бита точности, в зависимости от действительного положения дел в реальности.
Знатоки увидят в утверждении «снег белый с вероятностью 70%» — истина» ошибку мышления, выражающуюся в том, что вероятность находится в голове.
Изнутри наши убеждения о мире выглядят как мир, и наши убеждения о наших убеждениях — как наши убеждения. Когда вы смотрите на мир, вы ощущаете убеждение изнутри. Когда вы замечаете, что вы верите во что-то, вы ощущаете убеждение об убеждении. Таким образом, если ваши внутренние представления об убеждениях, и об убеждениях об убеждениях отличаются, то вы с меньшей вероятностью перепутаете их и ввалитесь в ошибку проецирования ума. Я надеюсь.
Когда вы думаете вероятностями, можно надеяться, что ваши убеждения и ваши убеждения о ваших убеждениях будут представляться достаточно различно, чтобы вы не путали убеждение и точность, или точность и реальность. Когда вы думаете вероятностями о мире, ваши убеждения будут представлены вероятностями ∈ (0, 1). В отличие от булевских значений утверждений, которые могут принимать значения {истина, ложь}. Точность же ваших вероятностных убеждений вы можете представлять числом из (−∞, 0). Ваши вероятности о ваших убеждениях будут, как правило, «впадать в крайности». А вещи при этом будут просто красными или синими, или весящими 20 фунтов, или ещё какими-нибудь.
Таким образом, у нас будет меньше возможности перепутать карту с территорией.
Различение типов может так же помочь нам помнить, что неопределённость — это состояние ума. Монетка не имеет врождённой неопределённости того, каким образом она приземлится. Монета — не процессор убеждений и не имеет частичной информации о себе. Мысля качественно, вы можете создать убеждение, которое прямо соответствует монетке, типа «монета всегда приземляется орлом». Это убеждение будет истиной или ложью в зависимости от монеты, и будет прозрачное соответствие от истинности или ложности убеждения к выпавшей стороне монеты.
Но, даже при качественном мышлении, сказать, что монета сама по себе является «истиной» или «ложью», будет серьёзной ошибкой типизации. Монета — не убеждение, она — монета. Территория — не карта.
Если монета не может быть истиной или ложью, может ли она присвоить себе 50% вероятности?
Думай как реальность
Элиезер Юдковский
Всякий раз, когда я слышу, как кто-то описывает квантовую физику как «странную» — всякий раз, когда я слышу, как кто-то сетует на таинственное действие наблюдения на наблюдаемое, или дикое существование нелокальных корреляций, или неимоверную невозможность одновременного знания координат и импульса — я думаю про себя: «Этот человек никогда не поймет физику, независимо от того, сколько книг он прочтет».
Реальность была вокруг задолго до того, как ты появился. Не следует называть ее отвратительными именами вроде «дикая» или «неимоверная». Вселенная распространяла комплексные амплитуды сквозь пространство конфигураций за десять миллиардов лет до того, как жизнь вообще появилась на Земле. Квантовая физика не «странная». Это ты странный. Это у тебя появилась абсолютно дикая идея, что реальность должна состоять из маленьких, танцующих вокруг бильярдных шариков, когда по факту реальность — это совершенно нормальное облако комплексных амплитуд в конфигурационном пространстве. Это твоя проблема, а не реальности, и именно ты должен измениться.
Человеческая интуиция была выработана эволюцией, а эволюция это хак. Тот же оптимизационный процесс, который создал твою сетчатку задом наперед и затем подвел оптический кабель через твое поле зрения, спроектировал твою видеосистему для обработки скачущих вокруг персистентных объектов в 3-х мерном пространстве, потому что это то, чем можно выслеживать тигров. Но «тигры» — протекающие поверхностные обобщения — появились постепенно в процессе эволюции, и они не абсолютно похожи один на другого. Когда ты опускаешься до фундаментального уровня, уровня, законы которого стабильны, глобальны и не имеют исключений, на нем нет никаких тигров. Фактически там нет никаких персистентных объектов, скачущих в трехмерном пространстве. Смирись с этим.
Называние реальности «странной» держит тебя внутри точки зрения, ошибочность которой уже доказана. Теория вероятности говорит нам, что удивление — мера некачественности гипотезы; если модель стабильно глупая(English) — стабильно натыкается на события, которым присваивает крошечные вероятности — тогда пришло время выкинуть эту модель. Хорошая модель делает реальность выглядящей совершенно нормально, а не странно; хорошая модель присваивает высокие вероятности тому, что на самом деле имеет место быть. Интуиция — это еще одна модель с другим именем: плохая интуиция будет шокирована реальностью, хорошая интуиция делает реальность выглядящей нормально. Ты хочешь перестроить свою интуицию так, чтобы реальность выглядела нормальной. Ты хочешь думать, как реальность.
Это конечное состояние нельзя утвердить насильно. Бесполезно делать вид, что квантовая физика естественна для тебя, когда на самом деле ты чувствуешь, что она странная. Так ты лишь откажешься признавать, что ты запутался. Это не поможет тебе распутаться. Но это также помешает тебе думать: «Как дико!» Трата эмоциональных сил на недоверчивость расходует зря время, которое можно было бы употребить на обновление. Оно опять и опять отбрасывает тебя в объятия старой, неверной точки зрения. Оно кормит твое чувство справедливого негодования на реальность, осмелившуюся противоречить тебе.
Этот принцип применим и за границами квантовой физики. Ловил ли ты когда-нибудь себя на том, что говорил что-то вроде «Я не понимаю, как дипломированный физик может верить в астрологию?» Ну, если ты действительно не понимаешь, это показатель проблем в твоей модели человеческой психологии. А может, ты просто возмущён — и хочешь выразить сильное моральное неприятие. Но если ты действительно не понимаешь, тогда твое возмущение не дает тебе придти к согласию с реальностью. Не должно быть трудно вообразить, как получается так, что дипломированный физик верит в астрологию. Люди разграничивают, вот и всё.
Теперь я стараюсь не использовать выражение «Я совершенно не понимаю, как …» для выражения возмущения. Если я искренне не понимаю, как, то моя модель удивлена фактами, и я должен выкинуть ее и найти лучшую модель.
Удивление существует на карте, а не на территории. Не бывает удивляющих фактов, бывают только модели, удивляющиеся фактам. Как и фактов, называемых такими отвратительными эпитетами, как «дикий», «невероятный», «невообразимый», «неожиданный», «странный», «аномальный», «чудной». Когда ты обнаруживаешь искушение воспользоваться такими эпитетами, может быть мудрее проверить, на самом ли деле предполагаемые факты реальны. Но если факты проверены, тогда проблема не в фактах, проблема в тебе.
Редукционизм
Элиезер Юдковский
Почти год назад, в апреле 2007, Мэттью C предложил следующую тему на Overcoming Bias:
«Как и почему царствующий в настоящее время философский гегемон (редукционный материализм) считается очевидно верным […], в то время как царствовавшие философские взгляды всех прошлых обществ и цивилизаций выглядят подозрительными…»
Я помню это, потому что взглянув на запрос и сочтя его уместным, я знал, что не смогу справиться с этой темой, до тех пор пока не начну цепочку Ошибка проецирования ума, но начинать её тогда было ещё рано…
Но теперь пришло время для этого вопроса. И хоть я ещё и не готов к «материализму», но мы можем начать с «редукционизма».
Во-первых, отмечу, что я действительно считаю, что редукционизм (в значении, которое я даю этому слову) действительно корректен; и пускай горят в аду все предыдущие цивилизации, которые несогласны.
Довольно сильное утверждение, не так ли? По-крайней мере первая его часть. Общая теория относительности хорошо поддерживается, и всё же, кто знает, но может быть физики будущего ниспровергнут её?
С другой стороны, мы никогда не вернёмся обратно к ньютоновской механике. Храповик науки вращается, но только в одном направлении. Бывали случаи в истории науки, когда теория получала удар или два, а затем возвращалась. Но когда теория получила столько стрел в грудь, сколько получила ньютоновская механика, то она останется мёртвой.
Вторая часть — «чёрт с тем, что думали прошлые цивилизации,» — тоже выглядит достаточно безопасной. Прошлые цивилизации верили во что-то, что было фальсифицировано и выкинуто на историческую свалку.
И редукционизм не столько позитивная гипотеза, сколько отсутствие веры — в частности, в форме ошибки проецирования ума.
Однажды мне пришлось столкнуться с человеком, который утверждал, что он служил артиллеристом ВМФ, и он говорил «Когда вы ведёте артиллерийский огонь, вам приходится высчитывать траектории согласно ньютоновской механике. Если вы высчитаете траектории используя теорию относительности, то вы получите неверный ответ».
И мы с ещё одним присутствующим человеком решительно ответили «Нет». Я добавил: «Быть может невозможно достаточно быстро рассчитать траектории согласно теории относительности — вы это имели в виду? Но релятивистский ответ всегда будет более точен, нежели ньютоновский».
«Нет,» — сказал он — «Я имею в виду, что теория относительности даст неверный ответ, потому что вещи, двигающиеся со скоростями артиллерийских снарядов, подчиняются ньютоновской механике, а не теории относительности».
«Если бы это было истиной,» — я ответил, — «вы могли бы опубликовать это в физическом журнале и получить Нобелевскую премию».
Стандартная физика использует одну и ту же фундаментальную теорию, чтобы описывать и полёт Боинга 747, и столкновения частиц в релятивистком коллайдере тяжёлых ионов (RHIC). Ядра атомов и самолёты похожи, согласно нашему пониманию, и подчиняются специальной теории относительности, квантовой механике и хромодинамике.
Но мы используем совершенно иные модели, чтобы понимать аэродинамику Боинга и столкновение ядер золота в RHIC. Компьютерное моделирование аэродинамики Боинга может не содержать ни единого символа, ни единого бита ОЗУ, который бы представлял кварк.
Так что же: Боинг сделан не из кварков? Нет, это мы моделируем его, используя такие элементы представления, которые никак не могут быть сопоставлены с кварками Боинга один к одному. Карта — это не территория.
Почему бы не промоделировать Боинг, используя хромодинамическое представление? Потому что получение ответа из такой модели потребует тьмаллион лет. Кроме того, эта модель не поместится в память всех компьютеров мира вместе взятых (на 2008 год).
Как говорится «Карта — это не территория, но невозможно сложить территорию и положить её в бардачок». Иногда приходится использовать меньшую карту, чтобы она помещалась в меньший бардачок. Но это никак не меняет территорию. Масштаб карты — это не свойство территории, это свойство карты.
Если было бы возможно построить и запустить хромодинамическую модель Боинга, то она бы давала точные предсказания. Более точные, чем аэродинамическая, на самом деле.
От точной модели Боинга, в принципе, не требуется, чтобы она содержала явные описания потока воздуха или высоты. Вовсе не обязательно выделять хотя бы один бит ОЗУ под положение крыльев. Возможно, в принципе, построить такую модель, которая не будет содержать ничего, кроме полей элементарных частиц и фундаментальных сил.
«Что?» — кричит антиредукционист, — «Вы говорите мне, что Боинг в действительности не имеет крыльев? Но я вижу крылья у Боинга!».
И вот тут есть некая едва уловимая тонкость. Объект может иметь разные описания на разных уровнях, но дело не только в этом.
Дело в том, что фраза «имеет разные описания на разных уровнях» произносится в Разговоре о Картах, а не в Разговоре о Территории.
Ни аэроплан, ни законы физики сами по себе не используют разные описания на разных уровнях, как думал тот артиллерист. Это мы, для нашего удобства, используем разные упрощённые модели на разных уровнях.
Чисто хромодинамическая модель, содержащая исключительно элементарные частицы и фундаментальные силы, будет содержать и все факты и о потоке воздуха, и о высоте, и о положении крыльев, но она будет содержать их неявно.
Вы, глядя на эту модель и думая о модели, сможете определить, где находятся крылья. Таким образом вы получите явное представление о положении крыльев, вы получите явный вычислительный объект в вашем нейронном ОЗУ. В вашем уме.
Вы действительно можете вывести все типы явных описаний самолёта на различных уровнях и даже явные правила того, как модели разных уровней взаимодействуют друг с другом, чтобы выдавать совместные предсказания…
И алгоритм изнутри чувствует, что самолёт как будто сделан из многих взаимодействующих между собой уровней.
Убеждение чувствуется изнутри таким образом, что вам кажется, что вы смотрите прямо на реальность. Когда же вам кажется, что вы смотрите на убеждение, в действительности вы ощущаете убеждение об убеждении.
Таким образом, когда ваш мозг одновременно верит явным описаниям со многих разных уровней и верит в явные правила перехода с одного уровня на другой, как в часть эффективной комбинированной модели, это ощущается как будто вы видите систему, которая сделана из разных уровней описания и их правил для взаимосвязи.
Но это просто попытка вашего мозга сжать объект, который он не может промоделировать на фундаментальном уровне. Самолёт слишком большой. Даже атом водорода будет слишком большим. Взаимодействия между кварками безумно взаимодействующие. Вы не можете справиться с истиной.
Но физика работает так, что, насколько мы видим, существует только один самый-самый базовый уровень — поля элементарных частиц и фундаментальные силы. Вы не можете справиться с сырой истиной, но реальность справляется с ней без всяких упрощений. (Я хотел бы знать, откуда Реальность взяла свою вычислительную мощь.)
Законы физики не содержат различных дополнительных временных сущностей, которые соответствуют высоте или крыльям самолёта, но мозг инженера содержит различные дополнительные когнитивные сущности, которые соответствуют высоте и крыльям самолёта.
Это, в моём понимании — тезис редукционизма. Редукционизм — не позитивная вера, а скорее неверие в то, что более высокие уровни упрощённой многоуровневой модели находятся снаружи, на территории. Понимая это на внутреннем уровне легко можно распутать вопрос «Как вы можете говорить, что самолёт в действительности не имеет крыльев, если я их вижу?». Достаточно обратить внимание на слова «в действительности» и «вижу.»
Объяснение против разобъяснения
Элиезер Юдковский
Поэма Ламия (Lamia) Джона Китса определённо заслуживает награды как Наиболее Знаменитая Раздражающая Поэзия:
…От прикосновенья
Холодной философии — виденья
Волшебные не распадутся ль в прах?
Дивились радуге на небесах
Когда-то все, а ныне — что нам в ней,
Разложенной на тысячу частей?
Подрезал разум ангела крыла,
Над тайнами линейка верх взяла,
Не стало гномов в копи заповедной —
И тенью Ламия растаяла бесследной.
пер. Сергей Сухарев
Мой обычный ответ на подобное заканчивается фразой: «Если мы не можем наслажаться просто реальностью, то наши жизни действительно пусты». Но это я объясню завтра.
Сегодня же я хочу поговорить о другом. Взглянем на эти строки:
гномы в копи
радуги, разложенные на тысячи частей
Что вызывает из памяти несколько другие стихи:
Одна из этих вещей
Отличается от остальных,
Одна из этих вещей
Не к месту
Наука избавила рудники от гномов, но радуга всё ещё здесь.
Я писал ранее:
«Отслеживая назад причинно-следственную цепочку шаг за шагом, я выясняю, что моя вера в то, что на моих ногах надеты носки, полностью объясняется тем, что на моих ногах надеты носки… С другой стороны, если я вижу мираж озера в пустыне, то правильное причинное объяснение моего видения не будет включать в себя факт наличия настоящего озера в пустыне. В этом случае моя вера в существование озера не просто объясняется, но разобъясняется».
Радуга была объяснена. Гномы же были разобъяснены.
Я думаю, что в этом как раз кроется тонкость, которую антиредукционисты не улавливают в редукционизме.
Вы можете наблюдать эту ошибку в классическом возражении против редукционизма:
Если редукционизм верен, то даже ваша вера в редукционизм — в сущности, результат движения молекул. И зачем тогда я буду слушать, что вы говорите?
Ключевое слово — «в сущности». Оно подразумевает, что если я принимаю редукционизм, то он разобъяснит все процессы рассуждения, которые ведут к моему принятию редукционизма, тем же способом, каким разобъясняются оптические иллюзии.
Но, тем не менее, возможно объяснить, как работает когнитивный процесс, не являющийся «сущностью»! Моя вера в то, что на мне одеты носки — это, в сущности, результат того, что моя зрительная кора получает нервные импульсы от моей сетчатки, которая получает фотоны, отражённые от моих носков… Короче говоря, в соответствии с научным редукционизмом, моя вера в то, что на мне одеты носки — это сущий результат того факта, что на мне надеты носки.
Что должно происходить в голове антиредукциониста, чтобы он помещал бы радуги и веру-в-редукционизм в одну категорию с гномами?
Одновременно происходит несколько вещей. Но сейчас давайте рассмотрим мысль, изложенную вчера: ошибку проецирования ума — многоуровневой карты на одноуровневую территорию.
(То есть: вы не можете промоделировать Боинг 747 покварково, поэтому вы вынужденыиспользовать многоуровневую карту с явными когнитивными представлениями крыльев, потока воздуха и всего прочего.)
Я думаю, что когда физики говорят: «На фундаментальном уровне радуги не существует», — антиредукционисты слышат: «Радуги не существует».
Если вы не видите разницы между многоуровневой картой и одноуровневой территорией, и кто-то пытается объяснить вам, что радуга не является фундаментальным понятием физики, то принятие этого утверждение воспринимается как стирание радуги из вашей многоуровневой карты, что воспринимается как стирание радуг из мира.
Когда наука говорит: «Тигры — не элементарные частицы, они сделаны из кварков», — антиредукционист слышит это, как отрицание типа такого: «Мы заглянули в ваш гараж и не нашли там никакого дракона, только пустой воздух».
То, что учёные сделали с радугами и с гномами, видимо, ощущается как одно и то же для Китса.
Чтобы поддержать этот подтезис, я намеренно использовал в обсуждении поэмы Китса несколько фраз, которые подвержены ошибке проецирования ума. Если вы не заметили, то это неплохая иллюстрация тому, что подобные ошибки легко проходят незамеченными.
Например:
Наука избавила рудники от гномов, но радуга всё ещё здесь.
В действительности, Наука избавила модель от веры в гномов. Наука в действительности не трогала реальных крыльев Ангела и не уничтожала их холодным прикосновением истины. В действительности никогда не было никаких гномов.
Другой пример:
То, что учёные сделали с радугами и с гномами, видимо, ощущается как одно и то же для Китса.
Учёные ничего не делали с гномами, только с «гномами». Цитата — не референт.
Но если вы допускаете ошибку проецирования ума (и, по умолчанию, наши убеждения ощущаются как способ существования мира), то во время T=0 рудники (видимо) содержат гномов, во время T=1 учёные пляшут на сцене, а во время T=2 рудники (видимо) становятся пустыми. Ясно, что гномы когда-то были, но учёные их всех убили.
Плохой учёный! Никаких поэм для тебя, убийца гномов!
Этот процесс ощущается таким образом, если вы эмоционально привязаны к гномам, а учёный говорит, что не существует никаких гномов. Требуется сильный разум, глубокая честность и сознательное усилие, чтобы сказать в этот момент: «То, что может быть разрушено истиной, должно быть разрушено», и «Учёные не забрали гномов от меня, они забрали моё заблуждение», и «У меня не было исключительного права на мою веру в гномов, я не лишился ничего, чем я бы владел по праву», и «Если гномы существуют, то я хочу верить, что гномы существуют, если гномы не существуют, то я хочу верить, что гномы не существуют, я не буду цепляться за веру, которой не хочу» и все остальные вещи, которые рационалисты должны говорить себе в подобных случаях.
Но с радугами нет никакой необходимости для всего этого. Радуги всё ещё здесь!
Лжередукционизм
Элиезер Юдковский
Дивились радуге на небесах
Когда-то все, а ныне — что нам в ней,
Разложенной на тысячу частей?
– Джон Китс, «Ламия»
пер. Сергей Сухарев
Я предполагаю – хоть это лишь предположение – что сам Китс не понимал принципов разложения радуги. Во всяком случае, понимал их не так, как Ньютон. Возможно, даже вообще не знал. Может быть, Китс просто прочитал где-то, что Ньютон объяснил радугу, сказав, что это «свет, отражённый от капель воды»…
…что на самом деле было известно ещё в XIII веке. Ньютон только уточнил объяснение, показав, что свет разбивается на цветные части, а не изменяет цвет. Радуга оказалась в заголовках новостей. И Китс с Чарльзом Лэмом, и Вильямом Вордсвордом, и Бэнджамином Хейдоном поднимали тост «За путаницу в память о Ньютоне», потому что «он разрушил поэзию радуги, редуцировав её в призму». Это одна из причин подозревать, что Китс не слишком глубоко понимал предмет.
Я предполагаю (хоть это лишь предположение), что Китс не мог показать на бумаге, как получается так, что радуга появляется только тогда, когда Солнце находится сзади, или почему радуга — дуга окружности.
Если так, то Китс имел лжеобъяснение. В данном случае — лжередукцию. Ему сказали, что радуга была редуцирована, но в модели мира Китса она не была редуцирована.
И это вторая тонкость, которую не улавливают антиредукционисты — разница между тем, чтобы озвучивать факт, что что-то редицируемо, и тем, чтобы понять это.
В этой ошибке антиредукционистов не стоит осуждать, поскольку это часть более общей проблемы.
Раннее я писал о том, что выглядит знанием, но им не является, и убеждениях, которые не о том, что в них говорится, но которые – записи для воспроизведения в классе, и словах, которые работают как семантические стоп-сигналы для любопытства, а не как ответы, и техноболтологии, которая лишь показывает принадлежность к литературному жанру «наука»…
Можно понять, откуда взялась радуга, или ставить эксперименты с призмами, чтобы подтвердить свойства радуги, или разбрызгивать воду, чтобы создать искусственную радугу.
И это сильно отличается от философа со строгим видом говорящего вам: «Нет, нет ничего особого в радугах. Вы не слышали? Учёные её разобъяснили. Что-то там происходит с дождевыми каплями или как-то так. Ничего удивительного».
Я думаю, что это отличие и приводит к тому, что за редукционизмом, как бы, тянется дьявольская смертельная экзистенциональная пустота.
Надо понимать, что «редукционизм» для антиредукционистов, вовсе не в том, что они на самом деле понимают как работает радуга, не в том, что они критично восклицают «Ага!», а в том, что им просто говорят, что загаданное слово — «наука». Эффект редукционизма для них сводится к тому, что радуга переходит в другой литературный жанр, в жанр, который их научили воспринимать как скучный.
Для них услышать слова «Наука объяснила радугу!» – повесить на радуге знак «Этот феномен помечен как СКУЧНЫЙ по приказу Совета Изощрённых Литературных Критиков. Не толпитесь. Проходите мимо».
И это всё, что говорит знак. Только это и ничего больше.
Таким образом, литературные критики были лишены гномов силой. Гномы не исчезли, благодаря озарению, но удалены по прямому приказу авторитета. Им не дано никакой красоты, которая могла бы заменить призраков или гномов, никакого подлинного понимания, которое могло бы быть интересно по-своему. Просто надпись, говорящая «Ха! Ты думал, что радуга красивая? Дурачок. Это часть литературного жанра науки, сухих и формальных непонятных слов».
Таким образом антиредукционисты воспринимают «редукционизм».
И… Не ругайте Китса, бедный парень, вероятно, не получил правильного воспитания.
Но он осмелился поднять тост «За путаницу в память о Ньютоне»?
Я предлагаю рационалистам тост «В память о путанице Китса». Аплодисменты.
Поэты саванны
Элиезер Юдковский
Поэты говорят, что наука лишает звёзды красоты, что звёзды — просто газообразные шары из атомов. Ничто не «просто». Я тоже могу видеть звёзды в ночи и чувствовать их, но вижу ли я меньше или больше?
Необъятность небес простирается в моём воображении, мой маленький глаз теряется в этой карусели и не может оторваться от света, которому миллионы лет. Безбрежное зрелище безбрежной Вселенной, частью которой я являюсь… Возможно, вещество моего тела было извергнуто из недр какой-то забытой звезды, так же как звёзды в небе сейчас извергают из себя вещество. Если взглянуть на них большим глазом Паломарской обсерватории, взглянуть как они разбегаются из какой-то общей стартовой точки в которой они, возможно, когда-то были вместе. Как это работает, в чём смысл всего этого. И почему? Мы знаем очень мало. Зная так мало, мы не можем причинить никакого ущерба таинству Вселенной.
Это гораздо более изумительно, чем истина, которую могли изобразить художники прошлого! Почему поэты современности не говорят об этом?
Что поэты за люди, если они говорят о Юпитере, если он как человек, но молчат, если он необъятный вращающийся шар из метана и аммиака?
- Ричард Фейнман, «Фейнмановские лекции по физике», Том I.
Задавал ли Фейнман этот вопрос риторически или нет, но это не риторический вопрос: что за поэт может писать о Юпитере как о боге, но не о Юпитере как о необъятном шаре?
Если Юпитер — как мы, он может влюбиться и потерять любовь, а затем обрести её вновь.
Если Юпитер — как мы, он может бороться, придти к власти и быть свергнутым.
Если Юпитер — как мы, он может смеяться, или плакать, или плясать.
Если же Юпитер — необъятный вращающийся шар из метана и аммиака, то поэту гораздо сложнее заставить нас чувствовать.
Существуют поэты и рассказчики, которые говорят, что Великие Сюжеты не подвержены влиянию времени и никогда не меняются, только пересказываются. Они с гордостью говорят, что Шекспир и Софокл повязаны узами искусства более сильными, чем просто столетия, что двух создателей пьес можно было бы поменять местами во времени без серьёзных потрясений.
Дональд Браун когда-то создал список более чем двух сотен «универсальных человеческих понятий», которые можно найти во всех (или практически во всех) изученных человеческих культурах, от Сан-Франциско до бушменов, живущих в пустыне Калахари. В списке есть супружество, и табу на инцест, и материнская любовь, и соперничество братьев и сестёр, и музыка, и зависть, и танцы, и истории, и эстетика, и ритуальная лечебная магия, и поэзия, читаемая вслух с театральными паузами…
Любой, кто знаком с эволюционной психологией, вряд ли будет отрицать это: наши самые сильные эмоции глубоко заложены в нас, в наши кровь и кости, в мозг и ДНК.
Можно ожидать, что история Гамлета (с небольшими изменениями) могла быть рассказана в обществе первобытных людей сидящих возле костра в саванне.
Таким образом, можно понять, почему Джон «Расплети радугу» Китс мог чувствовать, что что-то было потеряно, когда выяснилось, что радуга — это солнечный свет, разлетающийся из капель воды. Капли воды не танцуют танцы.
В Ветхом Завете написано, что Бог как-то разрушил весь мир потопом, который покрыл водой всю землю и утопил всех ужасно виновных мужчин и женщин мира, вместе с их ужасно виновными детьми, но Ной построил гигантский деревянный ковчег, и т.д. И после того, как большинство людей было уничтожено, Бог поместил на небо радугу, как знак того, что он не будет делать подобного снова. По крайней мере, не с помощью воды.
Вы можете понять, как Китс был шокирован, когда этот прекрасный рассказ вступил в противоречие с современной наукой. Особенно если (как я описывал вчера) Китс не понимал в действительности физику радуги, если не было никакого «Ага!», никакого озарения, которое было бы по-своему потрясающим и могло бы заменить потерянную драму…
Но, возможно, Китс был бы прав в своём разочаровании, даже если он знал бы математику. Библейская история радуги — это рассказ о кровожадном убийстве и об улыбающемся безумии. Неужели что-то там о каплях и преломлении может достойно заменить это? Капли не кричат, когда умирают.
Таким образом, наука убивает романтику (сказал поэт романтизма), и то, что она даёт взамен, никоим образом не соответствует драме оригинала…
(то есть, оригинальному заблуждению)
…даже если вы знаете уравнения, потому что уравнения не о сильных эмоциях.
И это самый сильный ответ, который я могу придумать для поэта Романтизма, отвечающего Фейнману. Хоть я и не могу вспомнить, чтобы кто-нибудь так ответил.
Вы, наверное, полагаете, что я не согласен с поэтами Романтизма. Моя собственная позиция такова:
Юпитеру вовсе не необходимо быть как человек, потому что есть достаточно людей, которые как люди. Если Юпитер — необъятный вращающийся шар из метана и аммиака, то это не значит, что любовь и ненависть исчезли из мира. Несмотря ни на что, в мире по-прежнему существуют любящие и ненавидящие умы. Мы.
Когда нас более чем шесть миллиардов по последним подсчётам, неужели Юпитеру действительно необходимо быть в списке потенциальных действующих лиц?
Нет никакой необходимости рассказывать Великие Сюжеты о планетах и радугах. Эти сюжеты ежедневно разыгрываются повсюду среди нас. Каждый день кто-нибудь убивает из мести, каждый день кто-нибудь убивает друга по ошибке, каждый день свыше сотни тысяч людей влюбляются. И даже если бы это было не так, вы всё равно могли бы написать рассказ о людях, а не о Юпитере.
Земля стара, она множество раз разыгрывала под Солнцем одни и те же сценарии. И думается мне, что быть может пришло время некоторым из этих Великих Сюжетов измениться. Во всяком случае для меня рассказ, называемый «Прощай», потерял привлекательность.
Великие сюжеты не неизменны, потому что человеческий вид не неизменен. Если вернуться достаточно далеко назад в эволюции человека, то никто не поймёт Гамлета.Если вернуться достаточно далеко назад во времени, то не удастся найти ни одного мозга вообще.
Великие Сюжеты не вечны, потому что человеческий вид, Homo sapiens sapiens, не вечен. Я искренне сомневаюсь, что у нас есть ещё одна тысяча лет на жизнь в нашей современной форме. И я не грущу об этом: я думаю, мы можем быть лучше.
Я бы не хотел, чтобы все Великие Сюжеты были бы окончательно утеряны в будущем. По-моему, этот исход слабо отличается от Солнца, падающего в чёрную дыру.
Но Великие Сюжеты в их современной форме уже были рассказаны, причём многократно. Я не думаю, что есть что-то плохое в том, чтобы некоторые из них изменили бы свою форму или обрели бы более разнообразные финалы.
«И с тех пор они жили счастливо» выглядит достойным, чтобы попытаться хотя бы раз.
Человечество развивается, и Великие Сюжеты могут и должны разнообразиться. Частью этой этики является идея, что когда мы находим странности, мы должны уважать их достаточно для того, чтобы рассказать их историю честно. Даже если это делает создание поэзии сложнее.
Если вы достаточно хороший поэт, чтобы написать оду необъятному вращающемуся шару из метана и аммиака, то вы можете написать что-то новое о новой открытой части настоящей Вселенной. Это может быть не столь драматично, не столь захватывающе, как Гамлет. Но легенда о Гамлете уже была рассказана. Если вы пишете о Юпитере как о человеке, то вы обедняете сложность карты нашего мира, вы впихиваете Юпитер в привычный шаблон историй, которые уже были рассказаны на Земле.
«Поэма, посвящённая памяти сэра Исаака Ньютона» Джеймса Томсона восхваляет радугу за то, что она такая, какая она есть. Можно спорить о том, захватывает ли поэма Томсона так же, как Ламия Джона Китса, кто любил и потерял. Но легенды о любви, и о потере, и о цинизме уже были рассказаны ещё в Древней Греции, и, без сомнения, ещё и раньше, и множество раз. До тех пор, пока мы не поймём радугу как явление, отличающееся от легенд о придуманной человеком магии, истинная история радуги не может быть поэтизирована.
Граница между научной фантастикой и космической оперой была обозначена следующим образом: если вы можете взять сюжет и перенести его на Дикий Запад или в Средние Века без изменений, то это не настоящая научная фантастика. В настоящей наука — неотделимая часть сюжета: вам не удастся без потерь перенести действие из космоса в саванну.
Ричард Фейнман спросил: «Что поэты за люди, которые могут говорить о Юпитере, если он как человек, но молчат если он необъятный вращающийся шар из метана и аммиака?».
Они поэты саванны, они могут рассказывать только те истории, которые могли бы иметь смысл возле костра десять тысяч лет назад. Поэты саванны, которые могут рассказывать только Великие Сюжеты в их классических формах, и ничего больше.
Наслаждение обыденностью
Обыденная магия
Элиезер Юдковский
Я считаю, что рационалисту следует эмоционально привязываться к редукционистскойвселенной — вселенной, которой полностью управляют строгие законы и в которой нет таких сверхъестественных сущностей, как душа или магия. Рационалисту стоит вкладывать всю свою надежду и всё своё внимание в эту обычную вселенную и её возможности, принимая её такой, какая она есть.
У буддистов есть старый трюк для борьбы с дуккха: надо составить список вещей, за которые ты благодарен, вроде крыши над головой.
Так почему бы не составить список способностей, которые есть у нас и которые были бы супер крутыми, если были бы магией или если бы ими обладали лишь избранные?
Например, предположим, что вместо одного глаза у нас во лбу был бы ещё магический второй глаз. И этот второй глаз позволял бы нам заглядывать в третье измерение — то есть, можно было бы легко сказать, насколько далеко находится тот или иной предмет, — в то время как один глаз позволял бы видеть только двумерную тень настоящего мира. Лишь те, у кого был бы такой второй глаз, могли бы точно целиться из легендарного оружия, убивающего на расстоянии, гораздо большем досягаемости меча. Или на полную мощь использовать сверхбыстрые механизмы, именуемые «автомобилями».
«Бинокулярное зрение» — не слишком интересное название для такой крутой способности. Она нас впечатлит, лишь если получит достойное, внушающее уважение имя. Например: «Мистический Глаз Глубокого Восприятия».
Вот вам список моих любимых магических способностей:
Вибрационная телепатия. Обладатели этой способности способны передавать невидимые вибрации через сам воздух, и это позволяет им делиться мыслями. Благодаря этому вибрационные телепаты создают друг с другом очень глубокие эмоциональные связи, недоступные другим приматам.
Психометрическое узорничество. Психометрический узорник оставляет на поверхностях небольшие аккуратные узоры и благодаря этому может оставлять впечатления об эмоциях, истории, знаниях, даже о структуре других заклинаний. Эта способность гораздо сильнее, чем вибрационная телепатия, так как узорник способен делиться мыслями давно умерших узорников, живших тысячи лет назад. Смотря на один узор и одновременно рисуя другой, узорник способен множить узоры, а эти узоры могут содержать подробное описание другой магии. Поэтому как маги-узорники владеют практически невообразимыми силами. Но если узорник попробует использовать сложный узор, который не в состоянии нарисовать сам, у него могут появиться проблемы.
Многомерный кинез. Простейшим, практически неосознаваемым волевым усилием кинетики направляют экстраординарно сложные силы сквозь крохотные щупальца в любой физический объект в пределах досягаемости. Кинетики способны не просто толкнуть объект, а произвести несколько разных толчков с различных направлений, что позволяет создавать вращающие моменты и искривления. Эта способность не так проста, как кажется. Кинетики используют ее не только для управления уже существующими объектами с потрясающей точностью, они ещё и заставляют силы изменять объекты так, что ими становится ещё проще управлять. Кинетики даже создают инструменты, увеличивающие силу их кинеза, которые, в свою очередь, позволяют создавать еще более точные и сложные инструменты. Надеюсь, вы понимаете, насколько впечатляющей является такая цепь положительной обратной связи.
Око. Владеющий этой способностью способен замечать мельчайшие движущиеся возмущения в Силе, что скрепляет материю — крохотные колебания, подобные дарящим жизнь силам Солнца, падающим на листву, но гораздо менее заметные. Носитель Ока может ощущать объекты, находящиеся на расстоянии, намного превышающем расстояние касания, благодаря мелким возмущениям в Силе, которые создают эти объекты. Носители Ока способны постичь горы, до которых нужно идти много дней, с той же лёгкостью, как если бы до них можно было достать рукой. Согласно носителям Ока, когда опускается ночь и гаснет свет солнца, они могут ощущать огромные пылающие огни на немыслимом расстоянии. Впрочем, никто не способен это проверить. Говорят, обладание Оком делает его носителя равным королям.
И наконец,
Абсолютная Сила. Обладающий этой способностью вмещает в себе крохотную, несовершенную копию всей вселенной, что позволяет ему выискивать пути в вероятностях к любому желаемому будущему. Если вам кажется, что эта способность могущественна до абсурда, вы правы. Если она появляется в какой-то игре, она рушит весь игровой баланс. Среди жизненных форм она встречается невероятно редко. Это воистину «тайная техника мира».
Ничто не может противостоять Абсолютной Силе, кроме другой Абсолютной Силы. Любая сила, не дотягивающая до абсолютной окажется просто «осмыслена» Абсолютной и рассеяна каким-нибудь непостижимым образом. Возможно, Абсолютная Сила даже поглотит её и она станет частью её могущества. Поэтому, Абсолютная Сила иногда зовется «Главной техникой техник» или «Козырем, который бьёт все другие козыри». «Осмысление» самых могущественных Абсолютов распространяется на галактические расстояния и целые временные эпохи. Такие Абсолюты способны постигнуть даже странные законы тайного «мира за миром».
Абсолюты погибают от крупных природных катастроф или от невероятно быстрых внезапных атак, которые не дают им возможности использовать свою силу. Но такие победы над Абсолютами, в сущности, вопрос удачи. Они не ставят под сомнения способность Абсолюта подчинять вероятности своей воле, и, если он переживет атаку, то начнёт подчинять само Время, чтобы избежать атак в будущем.
Однако Абсолютная Сила опасна сама по себе, и множество Абсолютов пали жертвой собственных сил – ошибки в их несовершенных внутренних копиях мира уничтожили их.
Абсолют остаётся одной из опаснейших жизненных форм на планете, даже если его лишить оружия и брони и запереть в клетке. Можно сломать меч, можно отрубить конечность, но Абсолютную Силу невозможно отобрать, не убив её носителя.
Возможно из-за того, что связь Абсолютов со своей Силой очень сильна, Абсолюты относятся к тем, кто утратил Абсолютную Силу без надежды на восстановление, как к «мёртвым, пусть и дышащим». Абсолюты утверждают, что именно Абсолютная Сила делает существо самим собой, что это не просто средство. Абсолюты даже настаивают на том, что те, кто не обладает Абсолютной Силой, не в состоянии по-настоящему её осмыслить, и, следовательно, не могут понять, почему она настолько необходима – подозрительно удобный аргумент, кстати.
Власть Абсолютов неоспорима, и другие формы жизни для них не более чем пешки.
Красота устоявшейся науки
Элиезер Юдковский
Фактам не нужно быть(english) необъяснимыми, чтобы быть красивыми; истина не становится менее достойна изучения(english) если кто-то другой ее уже знает; убеждения не становятся менее стоящими(english), если их разделяют другие…
…к тому же, если тебя волнуют только спорные научные вопросы, твоя голова в конце-концов окажется забита мусором.
СМИ считают, что только самые сенсационные научные открытия достойны репортажей. Как часто ты видишь заголовки наподобие «Общая теория относительности всё ещё управляет орбитами планет» или «Теория Флогистона остаётся ложной»? То есть, как только сенсационное открытие становится устоявшейся наукой, оно уже перестаёт быть горячей новостью. А «достойная репортажа» наука часто основана на мельчайшем количестве доказательств и в половине случаев ложна – если бы она не была спорой и не находилась на краю научного знания – она бы не была горячей новостью.
Научные споры - это проблемы настолько сложные, что даже люди, потратившие годы на изучение конкретно этой области, легко могут запутаться. Это и является причиной горячих обсуждений, которые привлекают всё внимание СМИ.
Что ещё хуже, если ты не являешься учёным этой области и не участвуешь в игре, эти споры даже не приносят тебе удовольствия.
Ну, конечно, ты можешь повеселиться, выбрав сторону в споре. Но то же самое ты можешь сделать и на футбольном матче(english). Это не то, в чём заключается удовольствие от науки.
Читая хорошо написанный учебник, ты получишь: Аккуратно сформулированные объяснения для начинающих учеников, шаг за шагом выведенную математику (где она используется), большое количество экспериментов процитированных в качестве наглядного материала (где они применяются), тестовые задания на которых ты можешь продемонстрировать только что полученные знания, а ещё достаточно хорошую гарантию того, что то, что ты учишь - на самом деле верно.
Читая пресс релизы, ты обычно получаешь: ложные объяснения, которые не дают тебе ничего кроме заблуждения об обсуждаемом результате, который к тому же вероятно никто ещё и не сможет повторить.
Современная наука построена на открытиях, построенных на открытиях, построенных на открытиях, и так далее, вплоть до людей вроде Архимеда, которые открыли факты, наподобие причины плавания кораблей. Вплоть до открытий, которые ты сможешь понять, даже ничего не зная о других открытиях. Самое лучшее место, с которого стоит начинать путешествие - это начало.
Не надо стесняться читать научные книги для начинающих. Если ты хочешь притвориться утончённым знатоком, пойди и почитай детектив. Если ты просто хочешь получить удовольствие - помни, что простота находится в самом центре научной красоты.
Думать, что ты можешь сразу же отправиться на границу существующих знаний, когда ты не знаком с устоявшейся наукой - это примерно как…
…как пытаться взобраться по верхней половине Эвереста (а это единственная его часть, которая тебе интересна) встав у подножия горы, приседая, и подпрыгивая очень старательно (чтобы пропустить все неинтересные части)
Я, на самом деле, не пытаюсь сказать, что на научные разногласия вовсе не надо обращать внимания. Если 40% онкологов считают, что белые носки вызывают рак, а другие 60% яростно с ними спорят - это важный факт и о нём стоит знать.
Просто не надо жить, думая, что наука должна быть спорной (controversial) для того, чтобы быть интересной.
Или, более того, что наука должна быть современной, для того, чтобы быть интересной. Стабильная подпитка научными новостями тебе вредит: ты - то, что ты ешь. И если ты потребляешь только новостные доклады о ненадёжных ситуациях, без добротных учебников время от времени, то мало того, что ты ничего особенно знать не будешь, тебе ещё и будет с каждым днём всё сложнее и сложнее что-нибудь настоящее узнать.
Часть подцепочки Удовольствие во «всего лишь» реальном, цепочки Редукционизм.
Священная обыденность
Элиезер Юдковский
Я читал (перевалив уже примерно за половину) книгу Адама Франка «Постоянный огонь» в подготовке к диалогу с ним на Bloggingheads. Его книга о восприятии священного. Я обычно не упоминаю об этом, но конечно же мне знаком опыт, о котором говорит Франк. Это то, что я ощущаю, когда смотрю видео о запуске космического шаттла; или то чувство — в меньшей степени, поскольку этом мире это слишком распространено — когда я смотрю на звезды в ночи и думаю, что они значат. Или о рождении ребенка, скажем. О том, что важно для Развертывающейся Истории.
Адам Франк считает, что такой опыт является тем, что является общим для науки и религии. В отличие от достоинства быть человеком, которое религия портит.
«Постоянный огонь» цитирует Уильяма Джеймса, Вариации Религиозного Опыта:
Религия…должна означать для нас ощущения, действия и опыт отдельных людей в их уединении; насколько они ощущают себя едиными с тем, что полагают как священное.
И эта тема развивается далее в мысль о том, что святость есть нечто личное и отдельное.
Что совершенно ошеломило меня. Предполагается, что у меня нет какого-либо чувства святости, если я один из множества людей, смотрящих о том, как космический корабль успешной стартует? Почему нет? Предполагается думать, что мой опыт святости должен как-то отличаться ото всех смотрящих это людей? Почему, когда у нас у всех мозги одной и той же модели? В самом деле, почему бы мне нужно верить, что я уникален? (но «уникален» это другое слово, которое использует Адам Франк; так-то «уникальный опыт святости».) Это ощущение личное в том же смысле, в каком мы испытываем трудности, передавая любой опыт? Тогда почему делать акцент на святости, а скажем не на насморке?
Озарение пришло ко мне, когда я понял что вижу трюк Эпистемологии Темной Стороны — если вы сделаете нечто личным, это защитит его от критики. Вы сможете говорить «Вы не можете критиковать меня, поскольку это личное для меня, внутренний опыт, к которому у вас никогда не будет доступа, чтобы вы могли поставить его под вопрос».
Но ценой такой защиты себя от критики является то, что вы впадаете в одиночество — то самое, которым Уильям Джеймс так восхищался в качестве ядра религиозного опыта, словно бы одиночество это хорошая штука.
Такие реликвии Эпистемологии Темной стороны — ключ к пониманию множества путей, которыми религия выворачивает опыт святости:
Загадочность — почему священное должно быть загадочным? Запуск космического шаттла обходится без этого. Насколько меньше бы я ценил звезды, если бы не знал что они такое на самом деле, если бы они были для меня всего лишь точками в ночном небе? Но если ваши религиозные убеждения ставятся под вопрос — если кто-то спрашивает «Почему Бог не вылечивает людей, которые потеряли конечности?» — тогда вы отступаете и говорите глубокомысленным тоном «Это священная тайна!». Есть вопросы, которые не стоит спрашивать, и ответы, которые не должны быть подтверждены, чтобы защитить ложь. Таким образом невозможность получить ответ начинает ассоциироваться со святостью. И цена защиты себя от критики здесь — отказ от подлинного любопытства, которое искренне желает найти ответы. Вы поклоняетесь собственному невежеству вопросов вашего поколения, на которые временно нет ответов — возможно включая те, ответы на которые уже есть.
Вера — в ранние дни религии, когда люди были более наивны, когда даже самые умные парни на самом деле верили во все это, религия основывала свою репутацию на доказательствах чудес в своих священных писаниях. Христианские археологи искренне ожидали найти остатки Ноева Ковчега. Но когда таковых не оказалось, религия сделала то, что Уильям Бартли называл убежищем в долге, «Верю, потому что верю!». Таким образом убеждение без хороших свидетельств стало ассоциироваться с опытом священного. И цена за защиту себя от критики здесь то, что вы принесли в жертву свою способность думать ясно о том, что является священным, и развиваться в своем понимании священного, отказываться от ошибок.
Эмпиризм — если раньше вы думали, что радуга это священный мост между Богом и человечеством, а потом начали понимать, что Бога не существует, тогда вы можете сделать отступление к чистому опыту — хвалить себя за переживание таких чудесных ощущений, когда вы думаете о Боге, в независимости от того, существует он или нет. Здесь ценой является солипсизм: ваш опыт лишен связей с чем-либо. Каким ужасным чувством пустоты должно быть наблюдать подъема космического шаттла на струе пламени и говорить себе «Но на самом деле не имеет значения, существуют ли шаттлы, пока я ощущаю, что да».
Отделение — если область священного не подпадает под обычные правила свидетельств или возможность исследования обычными средствами, тогда она должны быть различной по природе с обычной материей; и тогда мы менее склонны думать о космическом шаттле как о кандидате на священность, поскольку это работа обычных человеческих рук. Китс потерял свое восхищение радугой и низвел ее до «скучного перечисления обычных вещей» за преступление, что ее состав и стурктура известны. Цена этого способа защищать себя от критики — потеря священности всех более-менее обычных вещей.
Личный опыт — об этом я уже говорил.
Такие искажения это причина тому, что мы даже не должны пытаться спасать религию. Нет, даже в форме «духовности». Отбросить общественные институты и фактические ошибки, отказаться от церквей и писаний — и вы окажетесь с…со всей этой чепухой про загадочность, веру, солиптический опыт, личное одиночество и неоднородностью.
Изначальная ложь — только начало проблемы. Дальше у вас есть все плохие привычки мышления, которые эволюционировали для защиты этой лжи. Религия это кубок с ядом, из которого мы должны постараться не испить. Духовность — это тот же кубок, из которого вытащили остатки яда, и в котором остался только растворившийся яд — намного менее летально, но все еще лучше бы не пробовать.
ТЕЛЕГРАМКанал с обзорами, анонсами новинок и книжными подборками
Книжный Вестник
Бот для удобного поиска книг (если не нашлось на сайте)
Поиск книг
Свежие любовные романы в удобных форматах
Любовные романы
О психологии, саморазвитии и личностном росте
Саморазвитие
Детективы и триллеры, все новинки
Детективы
Фантастика и фэнтези, все новинки
Фантастика
Отборные классические книги
Классика
ВКОНТАКТЕБиблиотека с любовными романами, которая наверняка придётся по вкусу женской части аудитории
Любовные романы
Библиотека с фантастикой и фэнтези, а также смежных жанров
Фантастика
Самые популярные книги в формате фб2
Топ фб2
книги