Журнал «Компьютерра» №1-2 за 2006 год

Идеи: Верны, следовательно опасны

Почти двенадцать месяцев назад, в одном из первых номеров 2005 года, мы опубликовали подборку ответов американских ученых, писателей и журналистов на вопрос «Во что вы верите, хоть и не можете доказать свою правоту?». Вопрос был задан редактором американского сетевого альманаха Edge Джоном Брокманом (John Brockman), который выложил все ответы на сайте edge.org, а несколько месяцев спустя скомпилировал из них книгу «What We Believe But Cannot Prove: Today’s Leading Thinkers on Science in the Age of Certainty».

В этом году традиция новогодних опросов Edge была продолжена. На сей раз у участников (а точнее, соавторов специального выпуска Edge) спросили, в чем заключается их «опасная» идея. Понятно, что для каждого ученого опасной является ошибочная теория, способная подорвать его репутацию, но речь в данном случае идет о другом – о теориях, которые опасны именно потому, что верны. В чем заключается опасность, является ли она социальной или этической или еще какой-нибудь – должны были решать сами отвечающие.

Подборка ответов получилась очень любопытной. Во-первых, выяснилось, что физики – кто бы мог подумать – превосходно разбираются в биологии (по крайней мере, опасных идей на эту тему у них хватает), биологи – в психологии, а психологи, журналисты и писатели одинаково хороши почти на любом научном фронте. Во-вторых, некоторые «опасные» идеи нам опасными вовсе не показались – все-таки Россия гораздо менее религиозная страна, и предположения об отсутствии души или Великого Зодчего здесь вряд ли кого-то удивят (даже верующие неоднократно сталкивались с атеистической аргументацией). Точно так же далеки от нас и распри эволюционистов со сторонниками теории Разумного Творения (в ответах эти дебаты нашли свое отражение, но в нашей подборке для них места, к сожалению, не хватило).

С любезного разрешения редакции Edge мы публикуем сокращенный перевод некоторых ответов. Мы постарались сделать некий срез, публикуя как дополняющие реплики (Брукс и Девлин, Трехуб и Саббах), так и противоречащие друг другу оценки одних и тех же идей (Курцвайл и Холтон). Тем не менее полной картины эта публикация не дает; к тому же в некоторых случаях ради экономии нам пришлось урезать ответы, убрав из них аргументы и оставив только конечные выводы (Ширки). Поэтому всех заинтересовавшихся отправляем к полной версии, которая выложена на сайте Edge.

Родни Брукс (Rodney Brooks), директор лаборатории ИИ в МТИ

Больше всего меня тревожит то, что спонтанное превращение неживой материи в живую может оказаться крайне маловероятным событием. Нам известно, что однажды такое случилось, но что, если в ближайшие десятилетия мы получим доказательства, что этот переход случается очень редко?

Вряд ли нас слишком удивит то, что мы одни в Солнечной системе, но осознание нашего одиночества в Галактике или – того хуже – во всей Вселенной может ввергнуть нас в пучину отчаяния и снова заставит искать спасения в религии.

Кит Девлин (Keith Devlin), математик

Разумные живые существа не более чем сиюминутный каприз Вселенной. Возможно, во Вселенной и существует жизнь, но вряд ли она обладает саморефлексирующим сознанием. Нет ни Бога, ни Разумного Создателя, ни высшей цели, оправдывающей наше существование.

Лично меня наше одиночество не особенно угнетает, однако многие могут зайти очень далеко, убеждая себя в обратном.

Джон Аллен Паулос (John Allen Paulos), математик

Неверием в высший разум сегодня никого не удивишь. Куда радикальнее усомниться в собственном существовании – предположив, что мы всего лишь не очень хорошо интегрированные формальные сущности, использующие для удобства ярлыки типа «Миртл» или «Оскар». Довольно опасная идея. Конечно, первенство тут принадлежит Юму или Будде – они отрицали привычное нам понятие личности как чего-то неизменного и внутренне присущего человеку, предпочитая определять "я" как постоянно изменяющийся набор представлений, ощущений и предпочтений.

Если это представление станет общепринятым – возможно, благодаря исследованиям в нейробиологии, когнитологии, философии и т. п., – его эффект на общество трудно предсказать (по крайней мере, так кажется одному из наборов представлений, ощущений и предпочтений).

Хаим Харари (Haim Harari), физик

Возможно, будущие историки отметят, что демократия – всего лишь столетний эпизод в истории человечества. Она исчезает. Это печальная, действительно опасная, но очень реалистичная идея (или, точнее, предсказание).

Размывание границ, международная коммерция, слияние экономик, постоянный поток информации и множество прочих особенностей современного общества – все ведет к созданию наднациональных структур. Если экстраполировать этот необратимый тренд, то окажется, что целая планета станет единым политическим образованием. Но очевидно, что у антидемократических сил в этом образовании чистое большинство. И согласно демографическим паттернам, с каждым днем «антидемократов» будет все больше и больше. В демократических странах население растет медленно, а то и вовсе убывает, тогда как антидемократичные и необразованные общества растут очень быстро (тот же процесс происходит и на уровне семей в демократических странах – чем выше образование, тем меньше детей, и наоборот). Это означает, что и на индивидуальном, и на национальном уровне чем больше людей вы представляете, тем меньше реальных экономических сил стоит за вами. В экономике, основанной на знаниях, количество рабочих рук не имеет особого значения, и ситуация получается еще более недемократической, чем в индустриальную эпоху. Восходящая мобильность[Восходящая мобильность – изменение социального статуса в сторону повышения] – как людей, так и наций – пока нейтрализует этот фактор, однако если рассматривать планету в целом, то ясно, что демократия обречена.

Под силу ли нам придумать новую, лучшую систему? Возможно. Но этого не случится, пока мы не признаемся себе в возможности существования политической системы, лучшей, чем демократия. Нынешняя политкорректность не позволяет говорить такие вещи вслух. Из-за этого запрета мы можем прийти к некой форме тоталитаризма, которая, конечно, будет отличаться от империализма, колониализма или феодализма, но не станет более справедливой. С другой стороны, открытое и честное обсуждение этих вопросов может привести либо к мировой революции в образовании неимущих слоев населения (что сохранит демократию), либо к осторожному поиску справедливой (повторяю, справедливой) и лучшей системы.

Арнольд Трехуб (Arnold Trehub), психолог

Все, что составляет корпус современной науки, не более чем продукт биологии. И самые простые, и самые сложные научные идеи – относительность, квантовая теория, теория эволюции – порождены и неизбежно ограничены человеческой биологией. Это означает, что познание не безгранично.

Карл Саббах (Karl Sabbagh), писатель, телепродюсер

А с чего мы решили, что вообще способны понять, как возникла, развивалась и устроена Вселенная? Конечно, человеческий мозг сложно устроен и способен на многое, однако сложность Вселенной не идет ни в какое сравнение со сложностью нашего мозга; скорее, собачий мозг постигнет все детали мира кошек и сахарных косточек или динамику траектории брошенной палки. Собаки как-то справляются, как, впрочем, и мы, но почему мы считаем, что чем сильнее ломаем голову, тем ближе оказываемся к истине? Сейчас я стою напротив трехметровой модели Птолемеевой вселенной в Музее Истории Науки во Флоренции и вспоминаю, как прекрасно работала эта модель движения планет, пока не появились Коперник с Кеплером.

И даже если в каких-то областях мы на верном пути, как много мы действительно можем понять? Пятьдесят процентов? Пять? Моя опасная идея заключается в том, что мы понимаем, может быть, полпроцента, а все возможности нашего мозга и все компьютерные мощности, которые мы можем задействовать, способны помочь нам достичь планки в один-два процента, но не более того.

Эйлан Андерсон (Alun Anderson), старший консультант журнала New Scientist

Популярной метафорой для разума является мозг в стеклянной колбе. Предполагается, что этот ком нервной ткани и есть вы.

Это отталкивающий, но неверный образ. Куда опаснее идея, что мозг не может мыслить без тела, что ключевую роль в наших мыслительных процессах играет двухстороннее взаимодействие между разумом и телом, и мозг частично думает в терминах двигательных инструкций, которые он составляет для мышц.

Но если взаимодействие тела с мозгом так важно для человеческого разума, есть ли шансы на создание бесплотного «разума» внутри компьютера? Возможно, пройти тест Тьюринга сложнее, чем кажется. Мы, наверное, сможем создать компьютеры, понимающие речь, но не способные сказать хоть что-нибудь осмысленное – по крайней мере, до тех пор, пока мы не предоставим им «дополнительные тактильные ощущения». Другими словами, компьютеры не научатся мыслить, пока не начнут заниматься сексом.

Кевин Келли (Kevin Kelly), редактор журнала Wired

Модные алгоритмы и технологии позволяют сохранить анонимность в опосредованном окружении гораздо лучше, чем раньше. В то же время в реальном мире все эти технопримочки делают анонимность почти невозможной. Мир, в котором каждый человек может быть найден и взвешен, это мир без приватности, так что многие технократы отчаянно защищают возможность легкой анонимности как последнего прибежища для частной жизни.

Однако во всех виденных мною системах анонимность, возведенная в правило, приводила к разрушению системы.

В гомеопатических дозах анонимность только полезна, но стоит чуть переборщить – и система отравлена. Поэтому, как и в случае с токсинами, уровень анонимности в системе должен быть близок к нулю.

Клиффорд Пиковер (Clifford Pickover), писатель

Мы всё сильнее жаждем развлечений в виртуальной реальности. И как только наше понимание мыслительных процессов достигнет определенного уровня, мы начнем создавать воображаемые реальности и наборы воспоминаний для поддержки этих симулякров.

Если мы поймем, как наш разум убеждается в реальности происходящего, то сможем использовать это знание для создания, скажем, поддельного путешествия в Средние Века – вполне убедительного путешествия, даже если сама симуляция будет несовершенной. Для того чтобы созданная виртуальная реальность выглядела убедительной, необязательно вылизывать каждую мелочь. В конце концов, сны обычно кажутся реалистичными – лишь проснувшись мы отмечаем логические или структурные неувязки сновидений.

В будущем любой сможет создать для себя десяток «смоделированных» жизней. К примеру, днем вы работаете программистом для IBM. А после работы становитесь средневековым рыцарем в сверкающих доспехах, кутите на пирах и улыбаетесь прекрасным принцессам. А следующим вечером оказываетесь в эпохе Возрождения, в собственном доме на Амальфийском побережье в Италии.

Если оценка «одна настоящая жизнь к десяти смоделированным» в общем случае справедлива, то, значит, десять против одного, что вы не более чем виртуальное существо.

Джереми Бернштайн (Jeremy Bernstein), физик

Самая опасная из известных мне идей заключается в том, что мы понимаем плутоний. Плутоний – самый сложный элемент периодической таблицы. У него шесть кристаллических фаз между комнатной температурой и температурой плавления. Он склонен к спонтанному самовозгоранию в присутствии водяных паров, а если вы вдохнете немного плутония, то рак легких вам обеспечен. Это главный элемент для ядерных зарядов, в которых он сплавлен с галлием (для большей стабильности). Никто не знает, почему это работает и насколько стабилен этот сплав. Сегодня этим зарядам – а их тысячи! – уже десятки лет. И опасно думать, что они сохранят свою цельность при неограниченно долгом хранении.

Рэй Курцвайл (Ray Kurzweil), изобретатель, технолог

Эта идея кажется опасной, только если подходить к ней с сегодняшней меркой.

Причем большую опасность несут вовсе не очевидные ловушки, а те, что с первого взгляда не видны. Очевидно, что значительное сокращение смертности приведет к перенаселенности, а значит, к перерасходу энергетических и прочих ресурсов, что ускорит экологическое загрязнение. Однако всего 0,01% солнечного света хватит нам для покрытия всех энергетических нужд (к 2025 году – 0,03%). С этим вполне справятся солнечные нанопанели и топливные элементы, так что к концу 2020-х годов у нас будут экологически чистые источники возобновляемой энергии. Настольные молекулярные наноассемблеры будут производить все, что нам нужно. В результате бедность и загрязнение исчезнут из нашей жизни, несмотря на рост населения.

Я не слишком утопичен, поскольку вижу и минусы. Уже сегодня мы сталкиваемся с потенциальной угрозой биотерроризма. На самом деле, мы умеем с этим бороться (новые технологии вакцинации и РНК-интерференция уже доказали свою полезность в уничтожении биологических вирусов), однако это будет та еще гонка. Проблемы нам готовят и способные к воспроизводству наноустройства. Самое сложное – это справиться с возникающими угрозами, не сходя с основного курса.

Некоторым мои изыскания кажутся опасными, потому что они угрожают их представлениям о человеке. Но я считаю, что людьми нас делают вовсе не наши ограничения. Людьми нас делает желание и возможность их преодолевать.

Джеральд Холтон (Gerald Holton), физик

После того как в середине XIX века научный подход стал привычным для медицинских исследований, продолжительность жизни – по крайней мере, у белого населения промышленных держав – начала расти. Этот рост превратился в устойчивую тенденцию, и в итоге право человека на здоровье стали считать одним из основных прав человека. Но сейчас речь заходит о продлении жизни до двухсот лет и больше. И экономические, социальные и человеческие издержки, которые нам придется заплатить ради увеличившейся армии очень старых граждан, заметны уже сегодня.

Вот один из правдоподобных сценариев: с двухсотлетним матриархом на смертном одре решили попрощаться ее дети, сын и дочь (каждому, скажем, по 180 лет), плюс трое внуков 150–160 лет от роду, плюс все их потомки в возрасте от 120 до 130 лет и так далее… Трогательная картина. Но какой ценой?

Теренс Сейновски (Terrence Sejnowski), Computational Neuroscientist

Как соотносится коммуникационная мощность Интернета с мощностью коры головного мозга?

В коре содержится мощное запоминающее устройство. Под каждым квадратным миллиметром коры порядка миллиарда синапсов, что в сумме дает нам 1014 синапсов. Если принять, что один синапс эквивалентен одному байту (включая динамические и статические свойства), то для хранения нам потребуется порядка 1015 бит. Это вполне сравнимо с информационной мощностью Интернета; Google может хранить данные в терабайтовых дисковых массивах, дав возможность тысячам компьютеров одновременно обращаться к ним.

Так что Интернет и наши поисковые возможности практически вплотную подошли к коммуникационным возможностям головного мозга и преодолеют последние барьеры к 2015 году.

С момента своего появления в 1969 году Интернет рос не по дням, а по часам – в отличие от большинства спроектированных систем, которые разваливаются при масштабировании. Частично Интернет достиг такой масштабируемости потому, что регулировал себя сам, выбирая – в зависимости от загруженности трафика – оптимальные маршруты для пакетов. Как и у мозга, у Интернета есть циркадные (суточные) ритмы, зависящие от вращения нашей планеты вокруг солнца. Рост Интернета в последние несколько десятилетий гораздо больше похож на биологическую эволюцию, чем на инженерный процесс.

Как мы можем узнать, осознает ли Интернет себя? Проблема в том, что мы даже не знаем, осознают ли себя некоторые наши ближние. Но всё говорит о том, что Интернет уже осознает себя.

Карло Ровелли (Carlo Rovelli), физик

Это самая «опасная» научная идея современной физики. Ее потенциальный эффект сопоставим с идеями Коперника и Дарвина.

Возьмем квантовую механику. Если принимать ее всерьез, она полностью меняет наше представления о реальности. К примеру, мы не можем считать, что у объекта есть определенное положение в пространстве – оно есть лишь тогда, когда объект взаимодействует с «чем-то еще». И даже в этом случае его местоположение имеет смысл только по отношению к этому «чему-то»: для остального мира объект нигде не находится. Эта смена представлений куда серьезнее модели Коперника или Дарвина. Правда, всерьез квантовую революцию принимают пока немногие. Остальные, чтобы избежать опасности, предпочитают считать, что «квантовая механика применима только к атомам и прочим очень маленьким объектам». Мы до сих пор не усвоили, что мир устроен по законам квантовой механики, и необходима полная смена концепций, чтобы открытие квантовой механики обрело настоящий смысл.

Другой пример: теория относительности, которая делает вопрос «а что происходит прямо сейчас на Андромеде?» бессмысленным. Во Вселенной не существует никакого «прямо сейчас». Однако мы рассуждаем о Вселенной, словно предполагая, что где-то снаружи тикают часы, и нам очень трудно принять, что фраза «состояние Вселенной в настоящий момент» лишена физического смысла.

Мы развивались в очень специфичном окружении (низкие энергии, низкие скорости…) и полагаем, что весь остальной мир устроен так же. Мы словно муравьи, выросшие в маленьком саду с зеленой травой и небольшими камнями, неспособные представить, что реальность может состоять из чего-то еще, кроме травы и камней.

Я думаю, что в ближайшие двести лет опасная научная идея будет в том, что мир отличается от придуманной нами картинки. И физики ХХ века это уже показали, просто мы боимся принять их выводы.

Самое смешное, что многие современные «бесстрашные научные спекуляции» (дополнительные измерения, множественные вселенные и т. п.) не только не подтверждаются экспериментально, но и сформулированы людьми, которые оказались не способны переварить квантовую механику и относительность!

Клэй Ширки (Clay Shirky), исследователь топологии социальных сетей

Теоретический раздел между множеством людей, которым выдано по одинаковому пайку свободы воли, и необычайными исключениями оставался неприкосновенным в течение веков. Во многом из-за нашего невежества. Пока мы не могли обнаружить биологический источник свободы воли, нам казалось разумным считать, что все мы в равной степени управляем собственной жизнью. Это был лучший из возможных подходов. Однако теперь это бинарное представление размывается, так как улучшается наше понимание биологических поведенческих предпосылок.

В ближайшие десятилетия наша концепция свободы воли, основанная на незнании настоящих механизмов, будет уничтожена с помощью новых знаний о работе мозга. Мы можем подождать, пока это случится, а можем задуматься загодя о том, какие законодательные, политические и экономические системы нам понадобятся, когда привычная концепция свободы воли докажет свою несостоятельность.

Фримэн Дайсон (Freeman Dyson), физик

В ближайшие пятьдесят лет биотехнологии пройдут тот же путь, что прошли компьютеры за минувшие полвека.

Однако, во-первых, пытливые подростки или злоумышленники вполне могут найти пути применения биотехнологического инструментария для создания смертельно опасных микробов. Во-вторых, честолюбивые родители попытаются генетически модифицировать своих собственных детей. Вопрос, на который нет ответа: сможем ли мы удержать «одомашненные» биотехнологии в русле экспериментов над флорой и фауной, исключив возможность экспериментирования с микробами и людьми.

Пол Блум (Paul Bloom), психолог

Меня не слишком беспокоят все эти разговоры о том, что "я", свободная воля или сознание на самом деле не существуют. Независимо от справедливости подобных суждений они настолько интуитивно чужды, что никто, за исключением философов, не способен принять их всерьез. Так что вряд ли они как-то повлияют на мир – в опасном или еще каком смысле.

Куда интересней более умеренное предположение о том, что наша психика имеет исключительно материальную основу. Это опасная идея, поскольку она противоречит картезианскому дуализму. Если мы понимаем под «душой» нечто нематериальное и бессмертное, нечто существующее независимо от мозга, значит, души нет. Для многих психологов или философов это вчерашние новости. Однако отрицание нематериальности души противоречит интуиции, непопулярно, а для некоторых даже оскорбительно.

Перевод с английского Натальи Казаковой