«Искусственный интеллект – тот случай, когда нужно быть достаточно дальновидными в вопросах регулирования, иначе может оказаться слишком поздно».
Натан пробыл на острове уже три недели, но пока так и не смог привыкнуть к местному климату: ему все время было то слишком жарко, то слишком холодно. Жарко ему было снаружи, в джунглях, окружающих здания комплекса, а еще там было полно насекомых. Поэтому Натан старался там не показываться. А внутри комплекса была плохо налажена система кондиционирования, и ему все время было холодно. Но насекомые сюда не забирались и обычно сидели снаружи на стеклянных панелях. Один раз он увидел на окне палочника длиной с логарифмическую линейку и очень пожалел, что у него нет обратного билета в Джакарту.
Остров, как смог заключить Натан, разглядывая его в иллюминатор военного вертолета еще на подлете, был мили две-три в поперечнике и почти полностью зарос джунглями. Лишь с одной стороны золотился серп полоски пляжа и одиноко стоял пустой лодочный пирс, а за ним возвышались несколько светлых корпусов зданий. Сверху торчали трубы и антенны, а между зданиями расположились закрытые стеклянные переходы.
Сам комплекс состоял из нескольких соединенных корпусов, так что персонал мог, в принципе, вообще не выходить наружу и не соприкасаться с дикими джунглями. В центре располагалась небольшая электростанция, питавшая энергией все остальные сооружения, а рядом находился исследовательский корпус, который резиденты комплекса называли Хьюстон. Чуть в стороне стоял жилой корпус, и, кроме этого, рядышком были всякие вспомогательные постройки.
Внутри Хьюстона было всего четыре «точки интереса», также имевшие имена собственные: Комната Марии, Декартовский театр, Солярис и бар «Кики-Буба». Комната Марии представляла собой небольшое помещение с тремя креслами для погружения в виртуальную реальность. Сами кресла могли бы сойти за зубоврачебные, если бы не сферические капсулы для головы и не обилие проводов, струившихся от этих сфер к полу и уходивших куда-то в недра здания. Выглядело это как самая настоящая гигеровская биомеханика, и Натан был очень рад, что ему не предстоит подключаться к этим машинам. Тут же находился и симулятор, с помощью которого планировалось взаимодействовать с ИИ напрямую и реализовывать проекты научной группы доктора Рамачандряна. Какие именно – Натан все еще был в неведении.
Декартовский театр был рядом, отделенный от Комнаты Марии прозрачной стеклянной панелью. Конечно, необходимости в таких мерах предосторожности не было, но строители комплекса, вероятно, об этом не знали. А может быть, ориентировались на фантастические фильмы, где рабочая зона лаборатории всегда отделена от управляющего центра толстым бронированным стеклом. Из Декартовского театра ученые наблюдали за тем, что творилось одновременно в скромной физической ипостаси Комнаты Марии и в эпических виртуальных пространствах, которые создавали компьютеры, работавшие над симуляцией. Для этого на стенах Театра были установлены огромные экраны.
Солярисом называли всю центральную часть исследовательского корпуса, своим стеклянным куполом охватывавшую и Театр, и Комнату вместе. Так что, строго говоря, Комната Марии и Декартовский театр были всего лишь зонами внутри исследовательского корпуса Солярис. Последним, но самым важным для некоторых участников проекта объектом тут был импровизированный бар под названием «Кики-Буба», о чем посетителя извещала соответствующая рукописная табличка. На ней, кстати, было упомянуто, что бар работает «от рассвета и до последнего Тома Тагеля». Бар представлял собой обыкновенную стойку с рядами разнообразных напитков и автоматом с закусками, довольно плохо сочетающуюся с общим минималистичным стилем лаборатории. Почему-то Натан сразу понял, что наличие бара было специальным требованием Томаса Тагеля, это было вполне в его стиле.
Натан прилетел на остров последним, отдельно от всех, его привезли на вертолете не говорившие по-английски китайцы в форме частной военной компании с нечитаемым названием. Никакой вводной информации он не получил и даже круг своих обязанностей представлял крайне условно.
– Как называется остров? – крикнул, пытаясь прорваться сквозь гул моторов, Натан, обращаясь к сидящему напротив с абсолютно непроницаемым лицом китайцу.
К его удивлению, тот понял вопрос и быстро ответил:
– Сейчас никак. Никого нет. Раньше был Аставьястата.
– Аставьястата? – повторил Натан. – Это санскрит?
– Не знаю. Местные называли.
– А куда они подевались?
– Не знаю. Уехали все.
Остров действительно был необитаем, а население Соляриса делилось на две неравные группы: ученых и обслуживающий персонал комплекса. Этот персонал занимался настройкой оборудования и ведением всего хозяйства, что вполне соответствовало его названию. Они все были китайцами, которые по-английски общались только на технические темы, а от любых общих вопросов просто уходили. Уходили не фигурально выражаясь, а физически – ногами. Сколько им за это заплатили, Натан даже не догадывался, но разговорить их было нереально. Они все были в медицинских масках и одинаковых комбинезонах с номерами, поэтому Натан никого из них так и не запомнил. Ели и жили они тоже отдельно от ученых. Никакой связи с «большой землей» у комплекса не было предусмотрено. В научном центре был свой интранет, а внешняя связь глушилась; кроме этого, ученым не разрешили взять с собой даже мобильники (у Натана телефон забрали суровые китайцы еще в вертолете). Натан подозревал, что связь должна быть в кабинете у доктора Рамачандряна, но пока не мог подтвердить или опровергнуть свою догадку.
На данном этапе научная команда проекта состояла из пяти человек, включая самого доктора Рамачандряна. Из них Натан знал только Тома Тагеля и был шапочно знаком с антропологом Саулом Рипке (они пару раз пересекались на конференциях и, кажется, даже один раз были на каком-то фуршете), а остальные были для него темными лошадками.
Доктору Эркюлю Рамачандряну на вид было за шестьдесят, и выглядел он точно так же, как на фотографии из статьи о докторе Рамачандряне в Википедии. Грузный мужчина в сером старомодном костюме (не в том самом, что в Википедии, но примерно такого же стиля), с внушительной седой бородой и могучей, как у льва, шевелюрой. Он говорил низким голосом с сильным французским акцентом и часто появлялся с потухшей сигарой в руках. Его ассистентка Даниэла Дени была еще более незаурядным человеком. Когда доктор говорил, она обычно сидела или стояла рядом, замерев и выпрямив спину, не моргая и ловя каждое его слово, и было сразу понятно, что она готова убить даже за то, что доктора просто перебьют. «Печальное зрелище, такая степень жертвенности уже асексуальна», – сказал как-то по этому поводу Том Тагель.
Первое время Натан слонялся по комплексу как неприкаянный, потому что у него действительно не было никаких задач. Однако на третий день второй недели на него наконец обратил внимание сам «доктор Рама», как его тут все называли, и пригласил на весьма запоздалое собеседование. Они расположились в кабинете доктора, где-то на задворках Соляриса, и там был действительно вмонтированный в стену блок спутниковой связи. Даниэлы в комнате с ними не было.
– Он мог бы взломать все банковские коды мира за сутки, – благодушно сказал Рамачандрян, продолжая начатый в коридоре разговор и тяжело садясь в свое кресло. – Но в этом нет никакого практического смысла – мировая экономика после этого будет уничтожена. Но я не говорю, что мы ничего такого не делали, хе-хе, недостатка в финансировании у нас нет!
– Так ваша цель – создание сильного ИИ? – спросил Натан.
Доктор посмотрел на него как на умного не по годам ребенка.
– Вовсе нет, для нас это лишь средство. А цель – счастье человеческого рода и устойчивое развитие цивилизации, – сказал он, доставая коробку с сигарами. Он со щелчком открыл лакированную крышку и спросил Натана: – Курите?
– Нет, бросил уже давно, извините… – Натан помахал рукой перед своим носом, как будто разгоняя дым.
– Не возражаете в таком случае? – с легкой издевательской интонацией спросил Рамачандрян.
– Да, курите на здоровье, запах мне не мешает. И все-таки то, что вы обозначили как цель, – это слишком расплывчатые и общие понятия. Ими в истории часто прикрывали самые разные моти…
– Основа нашей программы – это два проекта, – уверенно перебил его Рамачандрян. – Они называются просто: проект «Хаос» и проект «Порядок».
– Очень интересно, расскажете про оба?
– Что вас больше интересует, хаос или порядок? – с улыбкой спросил Рамачандрян, окутываясь облаком сигарного дыма.
– Причины.
– Тогда, конечно же, «Хаос». D’accord – это проект по моделированию нашего будущего на основании неполных данных. Человек и традиционные суперкомпьютеры на такое не способны, но мы верим, что наш ИИ с этой задачей справится.
– И ваш заказчик сможет заработать на следующем падении биржи?
Доктор слегка поморщился и промолчал. Он несколько ленивым жестом протянул руку и стряхнул сигарный пепел в стоявшую на столе пепельницу, а затем произнес:
– Я был против вашего появления здесь… Это упрямый Тагель настаивал. Я было хотел ему окончательно отказать, но потом подумал, что даже вы можете быть нам полезны.
– Каким же образом? – вежливо поинтересовался Натан, про себя отметив, что доктор Рамачандрян далеко не первый напыщенный придурок, которого он видел за годы, проведенные в этом бизнесе.
– Журналист с бойким пером, но очень ограниченным взглядом на мир. Привыкший больше действовать, чем размышлять. Вы можете в нужный момент помочь нам дернуть рубильник. Боюсь, что мои ученые в критической ситуации этого сделать не смогут – они слишком много вложили в этот проект. Они слишком к нему привязаны. Для них ИИ – это ребенок, любимое дитя.
– А у вас есть этот рубильник? – спросил Натан.
– Есть кое-что получше, – уклончиво заметил Рамачандрян.
– И все-таки что там с проектом «Порядок»?
– Тут все несколько проще, это моделирование прошлых эпох. Погружение в виртуальные симуляции на базе сенсорной депривации органов чувств исследователя. Более детально пока рассказать не могу, да вы и сами все увидите. Скоро… А теперь прошу простить, я жду важный звонок.
– Спасибо доктор, в общих чертах мне все понятно. Не забудьте мне сказать, когда наступит кризис, чтобы я смог выполнить свое историческое предназначение с этим рубильником.
– Certainement! Теперь ваше журналистское любопытство удовлетворено?
– Более чем. Я вижу, что здесь в одном флаконе взбесившийся ИИ, машина времени и Кассандра в реторте. Комбо!
– Вот и отлично. C’est super. Напишите об этом заметку. А лучше – фельетон, – издевательски ухмыльнулся Рамачандрян.
Натан уже встал с кресла и пошел к выходу, когда ему на ум пришел еще один вопрос. Он повернулся в дверях и спросил:
– Еще секунду, если позволите. И какие же у вашей группы первые шаги?
– Они первые только для вас, Хольм, на самом деле проекту уже не первый год. Но да, сейчас мы готовы к запуску искусственного интеллекта, этот этап мы называем «K.A.I.M.». Сейчас наш ИИ пребывает в так называемой «люсид-фазе».
– То есть этот разум еще спит?
– Да. Поэтому название и расшифровывается как King Asleep in Mountain – «король, спящий под горой». Нужно объяснять референсы?
– Не стоит, я уже уловил нить. Это популярный мифологический сюжет.
– Кстати, просто чтобы вы были в курсе, Хольм. Против этого названия резко выступает Йен Лок, которому кажется, что оно напоминает имя Каин и это «плохое предзнаменование». Некоторые подняли его на смех, особенно в этом отличился Рипке. Так что теперь они не разговаривают, поэтому не упоминайте это название при Локе, прошу вас.
– Спасибо, – сказал Натан и вышел, плотно закрыв за собой дверь. По крайней мере, теперь он знал, какой кабинет нужно взламывать, если он вдруг захочет послать с этого острова сигнал SOS остальному человечеству, еще не догадывающемуся, что задумывает на его счет доктор Рамачандрян.
Через пару часов, когда рабочий день был завершен и персонал покинул Солярис, Натан и Том Тагель сидели в баре «Кики-Буба» и с отвращением пили морковный коктейль.
– Беседовал сегодня с доктором Рама… – начал Натан, но Тагель его перебил:
– Уже интересно! Подойди ближе и расскажи мне больше! Доктор как откроет рот, чтобы поделиться с миром своей мудростью, так туши свет.
– Он рассказывал мне про «Короля-под-Горой» и еще про «китайскую нацию»…
Тагель тут же начал закипать и довольно громко фыркнул еще при слове «китайскую».
– Я так понимаю, Том, – сказал Натан, – ты не согласен?
– Ну, Нэт, это же просто фигня, с первой буквы!
– Почему?
Тагель скривил кислую физиономию и с отвращением опрокинул остатки коктейля в рот. Лицо его не изменило своего выражения, и он продолжил:
– Это не научный опыт, а профанация, так как тут прямо в базе заложена подмена понятий. Почему это вдруг выполняющие функционал нейронов элементы должны чувствовать боль? Здесь крайне некорректна и апелляция к китайцам. Давайте заменим их на самые обычные модемы – и весь этот опыт рассыпается. Да, сейчас система из миллиарда модемов функционально введена нами в копию состояния мозга во время переживания боли. Но почему же модемы не испытывают боль? Ха-ха, да потому, что это долбаные модемы, они просто кирпичики и строительные блоки системы. А ощущение боли – это эмерджентное состояние другого уровня.
Тут Тагель немного приободрился, как будто ему в голову пришла какая-то интересная мысль, и, немного понизив голос, произнес:
– Нэт, а не выпить ли нам?
– А скоро ли конец света? – полюбопытствовал Натан.
– Примерно через двадцать минут, – ответил Тагель с широкой улыбкой. – Так что давай, дружище, выпьем. Я слышал, у тебя была бутылочка биттера из аэропорта Джакарты…
Том не сильно изменился с того времени, как они с Натаном последний раз общались. Он был все таким же нетерпимым к чужой глупости, так же таращил глаза из-под своих кустистых бровей, и даже прическа у него была такая же нелепая, как и всегда. Возможно, только седых волос в ней стало побольше. Правда, когда он был руководителем Натана, он старался напускать на себя важный вид, а сейчас был полностью расслабленным и каким-то даже развинченным. И почти все время чуть-чуть под градусом.
После того как они опрокинули по паре стопочек того самого биттера, Натан спросил его:
– Как я понимаю, ты полон скепсиса относительно всего проекта?
– Я полон скепсиса относительно нашей цивилизации, а проект – это как раз то, что может с ней покончить. Наконец-то, – грустно ответил Том, разглядывая донышко стопки.
– Может быть, ты тогда поделишься со мной своей теорией?
– Я бы назвал это практикой, если честно. Но хорошо, поделюсь, только следи внимательно. Надеюсь, ты не будешь отрицать, что мы все давно живем внутри информационной цивилизации и соответствующие технологии определяют конфигурацию нашего мира. Но они ведь не только определяют, но и напрямую ведут к широким возможностям для искажения картины мира. Ты, как журналист, это лучше меня понимаешь, сейчас можно продать людям любую картинку. Любой, даже самый идиотский фейк…
Натан согласно кивнул, и Тагель продолжил:
– Искаженная картина мира – это почти виртуальная реальность, в которой сейчас живут все жители планеты Земля. Искаженность восприятия реальности порождает искаженный ответ на реальные угрозы. В итоге мы, вместо того чтобы исправлять ошибки системы, ее усложняем и творим всякую дичь типа «великой перезагрузки» или вот этой недавней информационной пандемии. Как ты думаешь, долго мы продержимся с нашими масштабами и скоростью развития, учитывая, что неадекватно реагируем почти в ста случаях из ста?
– Думаю, что не очень долго. Будешь еще биттер?
– Наливай. Итого мы покатились в ад, едва встали на путь информационной цивилизации. Дальше это все ускоряющийся и очень короткий путь, поверь мне…
С этими словами Томас Тагель взял рюмку биттера и незамедлительно ее выпил.
Из записной книжки Натана Хольма:
«Итак, я наконец получил информацию из первых уст – со мной соизволил поговорить сам доктор Рамачандрян! Надо заметить, что то, чем они тут занимаются, действительно впечатляет. Я познакомился с „Королем-под-Горой“. Технически он представляет собой метасеть из множества (что-то порядка ста тысяч объединенных структур) нейросетей с эмерджентными свойствами; это такая своеобразная „сеть сетей“, лишь немного уступающая по сложности всему интернету начала XXI века. Над разработкой ее структуры несколько лет трудились самые старые работники проекта: доктор Рамачандрян, его ассистентка Даниэла Дени и Том Тагель. Для образного описания проекта доктор использовал отсылку к эксперименту, известному как „Китайская нация“. Насколько я помню, это мысленный эксперимент, предложенный Недом Блоком в 1978 году для опровержения теории функционализма. В нем мы берем множество китайцев, каждый из которых представляет как бы нейрон искусственного мозга. Каждый наш китаец держит в руках сотовый телефон, в котором уже забит список номеров других китайцев, расположенных поблизости. В зависимости от того, когда зазвонил телефон конкретного китайца, он должен звонить кому-либо из своего списка. При этом передача сообщения по телефону не требуется, необходим лишь факт звонка (точно так же, как происходит взаимодействие между реальными нейронами мозга). Если в такой системе создать функциональное состояние, идентичное восприятию боли, вся „китайская нация“ окажется в состоянии боли, при этом ни один из китайцев не будет эту боль чувствовать».