2312

Во время одного из знаменитых закатов на Титане Свон увидела Варама, идущего по галерее к ней и к инспектору Женетту. Она подбежала и обняла его, потом смущенно отстранилась. Но он улыбнулся ей своей быстрой улыбкой, и она поняла, что между ними все хорошо. Разлука смягчает сердце — особенно, подумала она, разлука со мной.

— Добро пожаловать к нашим пенатам, — сказал Варам. — Видишь, как нам помогает свет Вулкана?

— Это прекрасно, — ответила Свон. — Но достаточно ли света, чтобы согреть вас? Может ли температура стать пригодной для биосферы? Ведь для этого нужно на двести Кельвинов больше.

— Один лишь свет этого не даст. Но у нас есть океан, температура которого на 200 Кельвинов выше, так что само по себе тепло не проблема. Мы перемещаем часть тепла в атмосферу. С этим добавочным светом все будет хорошо и даже лучше. Возникает проблема равновесия газов, но мы с ней справимся.

— Рада за вас.

Свон посмотрела на гигантские грозовые тучи над куполом, оранжевые, розовато-кремовые, бронзовые. Над тучами ослепительно сверкали участки голубого неба, больше и ярче звезд; должно быть, несколько зеркал, подумала она, переправляют свет на ночную сторону Титана. Огромные тучи, освещенные с одной стороны солнцем, с другой — зеркалами, казались изваянными из мрамора. Ей сказали, что закат продлится пару дней.

— Прекрасно, — сказала Свон.

— Спасибо, — ответил Варам. — Веришь или нет, но это мой настоящий дом. Давай прихватим инспектора и прогуляемся. Нам надо поговорить с тобой с глазу на глаз.

— Все остальные уже прибыли? — поинтересовался подошедший Женетт.

Варам кивнул.

— Идите за мной.

Все трое облачились в скафандры, покинули город — он назывался Шангри-Ла — через ворота в северном конце городского купола и прошли несколько километров на север по широкой дороге, постепенно поднимающейся по наклонному ледниковому плато. Там вымощенное каменными плитами пространство образовало широкую площадь, выходящую на этановое озеро. Металлического вида поверхность озера отражала облака и небо, как зеркало, создавая поразительную смесь сочных красок — золотой и розовой, вишневой и бронзовой, и все в дискретной манере фовистов; настоящая природа не стесняется поворачивать палитру. Отражения нового света от зеркал в озере походили на осколки серебра, плывущие в расплавленной меди и кобальте. Подлинный и отраженный солнечный свет смешивались, лишая картину теней или создавая двойные тени — на взгляд Свон, все было очень необычно, нереально, словно декорации в таком огромном театре, что его стен не видно. Сквозь облака виднелся Сатурн, пересеченный кольцами; он казался белым пятном, занимающим часть неба.

В углу площади была установлена прямоугольная палатка. В ней стояла меньшая палатка вроде юрты или частично раздувшегося бакибола[131]; палатка стояла на полу большей палатки. Варам через шлюз провел Свон и инспектора во внутреннюю юрту. Там на полу на подушках сидели кружком несколько человек.

Все встали, здороваясь. Было их от двенадцати до пятнадцати. Очевидно, почти все они уже знали Варама и Женетта, а Свон познакомилась разом с большим числом людей, чем могла запомнить.

Когда представления закончились и все снова сели на подушки, Варам повернулся к Свон.

— Свон, мы хотим поговорить с тобой без участия Полины. Надеюсь, ты согласишься отключить ее.

Свон медлила, но что-то в выражении лица Варама, необычная невысказанная мольба, как на лице мистера Тоуда — Жабы — когда тот пытается убедить Крысу и Крота[132] присоединиться к нему в том, что он считает чрезвычайно важным, заставило ее сказать:

— Да, конечно. Полина, отключись, пожалуйста.

Услышав щелчок, которым Полина давала знать, что уснула, Свон для страховки нажала кнопку за ухом.

— Отключила, — сказала Свон.

Отключение Полины было для нее обычным делом, но ей не нравилось, когда об этом просили другие. Инспектор Женетт забрался на стол и уставился на нее; теперь их глаза были почти на одном уровне.

— Мы бы хотели убедиться, что Полина действительно бездействует. Иногда нельзя ручаться. Ты могла заметить, что я оставил Паспарту в городе — для гарантии.

— А разве он не может записывать тебя на расстоянии?

На лице Женетта было сомнение.

— Не думаю, но именно для того, чтобы исключить и такую возможность, мы собрались тут. Мы сидим в хорошо изолированном месте. И хотели бы обезопасить себя, проведя несколько проверок.

— Хорошо, — сказала Свон надменно, как ответила бы Полина. — Проверяйте ее, но я уверена, что она спит.

— Спящие тоже слышат. А нам надо, чтобы она ничего не слышала. Видишь, какие есть преимущества при расположении компьютера вне твоего тела!

— Невежливые люди не раз говорили мне об этом, — ответила Свон.

Уровень активности Полины проверили, приложив к шее Свон какие-то палочки; потом ее попросили ненадолго надеть на голову гибкую проволочную шапку.

— Хорошо, — сказал Варам, когда один из его коллег утвердительно кивнул. — Сейчас мы изолированы, и этот разговор не записывается. Мы все должны обещать сохранить сказанное здесь в тайне. Ты согласна? — спросил он у Свон.

— Да, — сказала Свон.

— Хорошо. Такие встречи придумали Алекс и Жан. Алекс считала, что возникшие проблемы следует обсуждать за границами царства искусственного разума. Одной из таких проблем стал новый тип квантовых компьютеров, вышедший на сцену. Инспектор?

Инспектор Женетт сказал Свон:

— Помнишь якобы людей на «Внутренней Монголии»? Они по-своему прошли тест Тьюринга, или тест Свон, как его можно назвать: ты решила, что они люди, притворяющиеся компьютерами. Люди иногда так делают, и это гораздо более вероятное объяснение, чем существование полностью независимых компьютеров.

— Я по-прежнему считаю их людьми, — сказала Свон. — А ты нет?

— Да. Это были три из обнаруженных нами человекоподобных компьютеров. Всего их около четырехсот. Большинство ведут себя точь-в-точь как люди и стараются не привлекать внимания. Некоторые ведут себя необычно. Встреченные тобой трое как раз из числа странных. Еще один такой пытался прорваться в станцию Вана на Ио. Мы нашли его остатки в лаве, следы квантовой вычислительной основы.

Свон покачала головой.

— Те трое, которых я встретила, глуповаты для машин, если вы понимаете, о чем я.

— Может, ты просто привыкла к Полине, — предположил инспектор.

— Она часто бывает глуповатой, — возразила Свон. — Это вполне заурядно. Хотя, признаюсь, иногда она меня удивляет. Больше, чем люди.

— Ты всегда ей перечишь, — заметил Варам, бросив на нее любопытный взгляд.

— Да. Мне нравится ее дразнить.

Женетт кивнул.

— Но ты заложила в программы Полине дерзкий подход — умение спорить, живо реагировать на необычные повороты в обычном. В ней есть некие рекурсивные программы, благодаря которым она способна к ассоциативным и метафорическим построениям, а не только к логическому «если — то».

Но это лишь одна часть. Предположительно дедукция определяется логикой, и у Полины есть сильная дедуктивная программа. Но иногда дедукция становится почти метафорическим мышлением или мышлением свободными ассоциациями. В результате Полина ведет себя необычно.

Варам обратился ко всей группе.

— Вопрос программирования — в центре нашего сегодняшнего разговора. Есть определенные доказательства того, что новые компьютеры сами себя программируют, в особенности те, что собирают эти гуманоидные машины с квантовым компьютером вместо мозга. Мы не знаем, зачем люди поручили им это, и не знаем, зачем они вообще это делают. Итак, первый вопрос: что они такое и кто их производит? Мы знаем, что они не могут общаться друг с другом внутренне из-за декогеренции. Иными словами, они не образуют единый коллективный мозг. Но могут общаться друг с другом, как мы, используя все наши способы коммуникации. Однако в их случае, когда они используют квантовую шифровку, раскрыть их коды невозможно. Робин, — человек напротив Свон кивнул ей, — координирует запись их разговоров по радио и в облаке и даже некоторые прямые голосовые контакты. Мы не можем расшифровать их разговоры, но видим, что они общаются между собой.

— Давайте вернемся немного назад — как они могут программировать себя? — удивилась Свон. — Я слышала, что рекурсивное самопрограммирование способно лишь оптимизировать уже известные операции.

— Да, но если им поставлена задача постараться что-то сделать, например, они могут прийти к необычным результатам. Пытаясь что-то сделать, они могут обогатиться новыми идеями. Это отчасти похоже на шахматы. Им дается задача — в данном случае выиграть, — а затем во время обычной для них проверки всех возможностей они, вырабатывая новый эффективный способ достижения цели, могут столкнуться с неожиданным успехом. Это не процесс более высокого порядка, но он позволяет выполнить задачу и создает новые алгоритмы. И в какой-то момент самопрограммирование оказывается более эффективным, квакомы могут внезапно получить сознание или нечто подобное. Или процесс может привести к новому поведению — необычному, даже деструктивному. По крайней мере такова теория, которой мы руководствуемся.

— Далеко мог зайти этот процесс по отношению к программам мышления первых квантовых компьютеров? Я хочу сказать, могут ли квакомы все еще путаться в алгоритмах?

— Видишь ли, программисты, создававшие квантовые компьютеры, использовали разные структуры и в итоге создали несколько различных внутренних вычислительных архитектур. Поэтому на самом деле существуют разные квантовые компьютеры, каждый со своей особой формой познания — разными протоколами, алгоритмами, нейронными сетями. Они имитируют мозговую деятельность разных видов — у них есть то, что можно назвать самосознанием и другими особенностями сознания. Это не одна конструкция, и в терминах их мышления они могли начать мыслить.

Слово взял инспектор Женетт:

— Мы видим в этих квакомах явные признаки самопрограммирования. Трудно сказать, к чему это могло их привести. Но мы обеспокоены, ведь у них нет архитектуры и химизма мозга, которые объяснили бы их деятельность. Мы мыслим очень эмоционально. Наши эмоции играют ключевую роль в принятии решений, в долговременном мышлении, в создании памяти — во всем нашем общем постижении смысла. Без этих особенностей мы бы не были людьми. Мы не могли бы функционировать как индивиды в группах. Однако у квантовых компьютеров нет эмоций, и мыслят они при помощи иных архитектур, протоколов, физических методов. Поэтому у них нет менталитета человека, хотя в некотором смысле они могут обладать сознанием. Мы даже не можем быть уверены, что в своем новом состоянии все они похожи. Мы не знаем, мыслят ли они математически, или в терминах логики, или на языке английском или китайском. Или в этом отношении разные квантовые компьютеры одинаковы.

Свон кивнула, обдумывая услышанное. Если глупые девчонки были квантовыми компьютерами — и тот игрок в боулинг тоже, — это поразительно, хотя бы с точки зрения морфологии. А что до мышления, Свон все сказанное не удивило.

— Я часто говорю с Полиной на эти темы, — сказала она собравшимся. — Но из ваших слов мне ясно, насколько искалечены эти квакомы отсутствием того, о чем вы говорили. Скорее всего отсутствием эмоций. И ничего не могут сделать.

— Кажется так, — произнес в наступившей тишине Варам. — Но сейчас они как будто бы ставят себе цели. Может, у них есть какие-то псевдоэмоции; мы не знаем. Вероятно, они все еще не очень умны — скорее сверчки, чем собаки. Но, видите ли, с точки зрения создания более высокого уровня сознания мы не знаем, как работает наш собственный мозг. Поскольку мы не можем проникнуть в эти компьютеры и понять, что в них происходит, мы знаем о них даже меньше, чем они о нас. Так что… проблема.

— Вы разобрали какой-нибудь кваком, чтобы посмотреть?

— Да. Но результаты сложно истолковать. Вот любопытная аналогия с попыткой изучить собственный мозг — вы хотите изучить момент образования мысли, но, даже установив, какой механизм создает мысли, вы не будете знать, что именно вызывает эту конкретную мысль или как эта мысль осознается изнутри. В обоих случаях возникает квантовый эффект, при котором очень трудно проследить мысль до ее физического источника или действия.

— Существует также опасение, что этими «вскрытиями» мы подаем дурной пример, — добавил Женетт. — Что если им захочется изучать нас подобным же образом?

Свон с несчастным видом кивнула, вспоминая взгляд игрока в боулинг и даже взгляды тех глупых девчонок — теперь, когда она снова об этом задумалась. Их взгляды говорили о том, что они готовы к чему-то. Или просто не понимают, что говорят.

Но у людей все время такой вид.

— Итак, — сказал Варам. — Вот тебе наша проблема. Сейчас она становится все более насущной, потому что есть несомненные доказательства, что этих кваком-гуманоидов направляют другие компьютеры — компьютеры специальных вычислительных систем, или роботов, или даже управляющие компьютеры астероидов.

— Но зачем им это? — спросила Свон.

Варам пожал плечами.

— Неужели дело так плохо? — спросила Свон, подумав. — Я хочу сказать, они не могут быть связаны друг с другом, как элементы какого-то существа с мозгом-ульем, не могут из-за декогеренции. Так что в конечном счете они всего лишь люди с мозгом-компьютером.

— Люди без эмоций.

— Но такие люди всегда были. Появляются время от времени.

Варам сощурился.

— На самом деле ты ошибаешься. Но послушай, есть еще кое-что.

Он взглянул на Женетта, и тот обратился к Свон:

— Расследование нападений на Терминатор и «Иггдрасиль» в обоих случаях выявило участие квантовых компьютеров. К тому же я передал твой снимок игрока в боулинг Вану, и, хотя он не нашел его в своих досье неприсоединившихся миров, зато нашел снимки встречи, организованной Лакшми в Клеопатре в 2302 году, на которых есть ты. Это важно — отчеты о странном поведении по всей системе начали появляться на другой после этого год. Когда все эти сообщения были сведены воедино и проанализированы, оказалось, что по времени и месту все они восходят к той встрече на Венере. Мы также отыскали в Лос-Анджелесе организацию, которая заказала корабль, бросавший камни; корабль управляется исключительно компьютерами, и единственный связанный с этим человек входит в совет директоров. Мы также нашли квакомы, связанные с сооружением механизма запуска, который был построен на верфи в неприсоединившихся мирах группы Весты. Мы нашли следы заказа на их производство. На этой верфи вообще почти одни роботы. Так что, вполне возможно, квантовые компьютеры проделали это, вовсе не привлекая людей.

— Может, и так, — сказала Свон. — Почему ты считаешь, что эмоции обязательно должны иметь биохимическую природу? Разве нельзя получать эмоции без участия гормонов, или крови, или вообще чего-нибудь? Какая-то новая система, электрическая или квантовая?

Женетт поднял руку, чтобы остановить ее.

— Мы не знаем. Можно сказать одно: мы не знаем, чего они хотят сейчас, потому что вначале их стремления были очень ограниченными. Получить данные, обработать их, выдать результаты — таковы были исходные задачи ИИ. Поэтому теперь, когда у них как будто бы появились свои задачи, нужно быть настороже. Не только из общих соображений, как всегда с чем-то незнакомым, но потому что некоторые из них действуют необычно, и нашлись даже такие, что нападают на нас.

Один из группы — Свон вспомнила, что его зовут доктор Трейси, — сказал:

— Возможно, живой человеческий организм сделал эти компьютеры эмоциональными по определению. Скажем так: мозг в теле не может существовать без эмоций, а они теперь именно таковы — мозг в теле.

Женщина, такая же маленькая, как инспектор Женетт, встала со своего места и сказала:

— Я по-прежнему не убеждена, что квантовым компьютерам свойственно мышление высшего порядка, в частности, такие проистекающие из самого сознания явления, как намерение и эмоции. Несмотря на невероятную скорость их расчетов, они все еще действуют по алгоритмам, полученным от нас или выведенным из наших. Они не могут перейти от алгоритмов к сознанию.

— Ты уверена? — вмешался Женетт.

Маленькая женщина упрямо наклонила голову, точь-в-точь так, как — Свон это видела — делал Женетт.

— Я так думаю. Не вижу, как высший уровень сознания может возникнуть из алгоритмов, которыми располагают эти квакомы. Они не могут пользоваться метафорами, они их с трудом понимают. Они не способны прочесть выражение лица. В таких делах четырехлетний ребенок намного их опережает, а взрослый человек — просто существо другого порядка.

— Так нас учили, когда мы были молоды, — сказал Женетт. — И что еще важнее, когда квакомы были молоды.

— Но ведь мы изучаем это всю жизнь и видим собственными глазами, — резко ответила маленькая женщина. — И программируем.

Это утверждение никого из присутствующих не успокоило.

— А что насчет предприятия, где эти гуманоиды были сделаны или отобраны? — спросил Варам у Женетта. — Можем мы его закрыть?

— Когда найдем, — мрачно ответил инспектор.

— Мы можем задержать всех выявленных вами гуманоидов?

— Думаю да, — сказал Женетт. — Однако пришлось поработать — все усилия координировала Алекс, и нам требовалось восстановить команду, основательно перетряхнув сеть. Но нам это удалось, и команда собралась несмотря на отсутствие Алекс. Как я уже сказал, распознаны около четырехсот таких штук, и за всеми ведется наблюдение. Мы тщательно просканировали систему, и не думаю, что в разных поселениях прячется много других. Не поручусь за неприсоединившихся, но мы проверяем и там. При этом мы держимся на расстоянии от «поднадзорных» гуманоидов и они как будто не знают, что за ними следят. Очень немногие ведут себя так же странно, как те трое на «Внутренней Монголии» или тот, на Ио. Они стараются сливаться с окружением. Не знаю, как это истолковать. Они будто ждут чего-то. У меня такое чувство, что мы видим не всю картину, и я не хочу долго тянуть с началом действий. Но было бы приятно, прежде чем начинать, убедиться, что мы понимаем всю ситуацию.

Говоря, Женетт прохаживался вокруг стола; теперь он остановился перед Свон, словно обращался к ней лично:

— Эти организмы, эти кваком-гуманоиды существуют. И в некоторых отношениях я бы не назвал их поведение нормальным. Кто-то из них напал на нас, и мы не знаем почему.

После паузы Варам заключил:

— Значит, необходимо действовать.

Перечни (15)

здоровье, социальная жизнь, работа, дом, партнеры, финансы, отдых, достаточное время на отдых; рабочее время, образование, доход, дети; еда, вода, убежище, одежда, секс, забота о здоровье; подвижность; физическая безопасность, социальная безопасность, безопасность на работе, счет в банке, страховка, защита от недееспособности, семейный отпуск, долговременный отпуск; постоянное место работы, социальное окружение; доступ к дикой природе, горы, океан; мир, политическая стабильность, доступность политических сведений, удовлетворенность политикой; воздух, вода; оценка; статус, признание; дом, община, соседи; гражданское общество, спорт, искусство; средства продления жизни, выбор пола; возможность стать чем-то большим, чем вы есть

вот все, что вам необходимо

Космический лайнер «ШТУ-Мобиль» — это не выдолбленный астероид, а один из громадных кораблей, собранных в прошлом столетии на лунной орбите. Построенный швейцарскими университетами и фирмами, которые продолжают его эксплуатировать, он представляет собой конструкцию из блестящих металлов, биокерамики, аэрогелей и воды, жидкой и замороженной. Такие корабли исключительно быстры; частые небольшие взрывы за плитой толкателя в хвосте корабля разгоняют его до скорости, при которой внутри возникает эквивалент в одно g, и разгон продолжается до середины пути; в этой точке корабль разворачивается и затем с таким же ускорением гасит свою скорость. Но, даже сбрасывая скорость во второй половине пути, корабль движется так быстро, что становятся возможными стремительные перелеты через Солнечную систему, и чем длиннее маршрут, тем выше скорость, так что тут нет линейной зависимости: полет от Земли до Меркурия длится три с половиной дня, от Сатурна до Меркурия — одиннадцать дней, поперек орбиты Нептуна («ширина Солнечной системы») — шестнадцать дней.

«ШТУ-Мобиль» оборудован со швейцарской элегантностью, не демонстративной, но первоклассной, он пробуждает воспоминания об океанских лайнерах классической эпохи, но обеспечивает совершенно новый комфорт — теплые полы, освежающий воздух, еда и напитки на уровне кулинарных шедевров. В стенах многих пассажирских палуб окна от пола до потолка и открывается великолепный вид на звезды и все местные объекты, мимо которых пролетает корабль. «ШТУ-Мобиль» рассчитан на десять тысяч пассажиров, и все размещаются в роскошных условиях. Дизайн гостиничной секции сочетает большие металлические плиты с растительными орнаментами работы Уильяма Морриса. Парк, занимающий один из этажей корабля, представляет собой полутропический лес из нескольких южноамериканских биом с животными этих биом, для которых несколько мгновений невесомости не слишком чреваты увечьями. Что думают сами животные об этих моментах поворота при нулевой силе тяжести, ученые пытались установить, но не смогли. Казалось, поведение животных не меняется. Ленивцы как будто ничего не замечают. Обезьяны, ягуары и тапиры плывут в воздухе с криками и стонами, койоты воют с обычной страстью; затем, когда через несколько мгновений невесомость исчезает, все они опускаются на поверхность. Ленивцы свисают со своих веток — вниз, в стороны, снова вниз, иногда поворачиваются вокруг — и при этом не просыпаются. В этом отношении они не отличаются от некоторых людей.