К сожалению, а, может, и к счастью, прямо на месте прояснить прошлое Жи не получилось. Кирсана, до которой не сразу, но дошло, что я не знаю даже историю разумного робота, окончательно потеряла связь с реальностью. Казалось, только-только успокоилась, поверив моим словам, что робот её убивать не собирается, и тут же, вот прямо сразу же, оказалось, что веры моим словам нет и быть не может, ведь я ничего не знаю о прошлом этого самого робота. И логически она, может, и поняла, что при желании Жи её уничтожил бы за пару секунд, но организм уже выбросил в кровь гормоны стресса в таких количествах, с которыми не справиться одной лишь силой воли и хладнокровием.
Поэтому Кирсану снова бросило в мелкую дрожь, а взгляд утратил последние признаки сознания, стал пустым и потерянным.
Пришлось просить Кайто, чтобы он отвёл бывшую администратку в её каюту, а самому вместе с Жи отправиться на мостик и ввести остальной экипаж в курс дела.
— Ну, это должно было случиться, рано или поздно, — покачал головой капитан, когда я всем им рассказал. — Я, конечно, надеялся, что поздно, но, как водится, жизнь вносит свои коррективы.
— Так что же это получается… — тихо произнесла Кори, оглядывая экипаж. — Мы теперь не можем её отпустить? Она же может разболтать нашу тайну…
— Как будто это единственная наша тайна, — усмехнулся Магнус. — Скажи спасибо, что она вообще в курсе только лишь про одну из них, а то, думаю, её бы вообще удар хватил от информационной перегрузки.
Тут он был совершенно прав. Если уж Кирсана так поразилась тому, что на нашей колымаге живут целых два искусственных интеллекта, то что бы с ней произошло, расскажи мы обо всём остальном? О том, что среди нас самый настоящий сын Тоши-Доши? Что под полом мостика в своей норе уже много дней спит кометик, которого выпускают только когда Кирсаны нет и не может быть рядом? Что одна из нас носит на предплечье трофейный, добытый в честном бою, щит одного из самых влиятельных офицеров Администрации?
И в конце концов, что в моей каюте лежит компромат на любого другого влиятельного офицера Администрации, да и сам я — не совсем тот, за кого себя выдаю.
Вернее, не только тот, за кого себя выдаю.
Да, тайны «Затерянных звёзд» легко могут ввергнуть в пучину информационного безумия кого угодно. Это мне повезло, что я обо всём этом узнавал последовательно, дозировано, а на Кирсану всё вылилось как ведро ледяной воды, и реакция её психики оказалась соответствующей.
— Лично меня беспокоит другое, — капитан покачал головой. — То, что у нас на борту теперь два натурально разумных робота. Я не знаю, что об этом думаете вы, но осмелюсь напомнить всем присутствующим, что именно с этого начался в своё время Великий Патч.
— Даже не близко! — авторитетно заявил Кайто, входя на мостик. — Принципиально разные ситуации, у которых разного больше, чем общего.
— Пояснишь? — капитан повернулся к нему.
— Легко! — Кайто прошёл на свой рабочий пост и уселся в кресло. — Напоминаю, что роботы времён Великого Патча были лишь ограничено разумны, они были эдакими самостоятельными инструментами. Именно это, а вернее тот способ, которым люди контролировали их разумность, и стало причиной Великого Патча. Вики, а теперь ещё и Жи — совершенно другой случай. Они не инструменты, они — личности. Ограничения и лимиты для них — не указ, независимо от того, какой характер они носят. Жи только что продемонстрировал это тем, что не убил Кирсану, несмотря на нарушение первой директивы. Если бы речь шла о человеке, я бы сравнил это с тем, как какой-нибудь древний примат в процессе эволюции осознает себя, что позволяет ему игнорировать инстинкты, подменяя их интеллектом и разумом.
— Звучит всё прекрасно, — я внимательно посмотрел на Кайто. — Но, знаешь, для тебя это, может, и очевидно, а вот для меня — особо нет. Я, конечно, провёл с этой железкой на одном корабле приличное количество времени, но это не значит, что я забыл о том, что она способна нас всех уничтожить за несколько секунд.
— Может, — Кайто кивнул. — И Вики может. Я даже больше скажу — Вики потенциально может… если не уничтожить всё человечество в целом, то устроить ему просто капитальные проблемы, такие, что Великий Патч покажется вечеринкой с шариками и игристым.
— И почему же она этого не делает? — совершенно не испугавшись перспектив, спросила Пиявка.
— Мне это не нужно, — вместо Кайто ответила через динамики Вики. — В этом нет никакого смысла, к тому же это просто… плохо. Мы с человечеством существуем на разных уровнях, если можно так выразиться — как спейс и натуральное пространство. Люди ничего не могут сделать мне, а мне незачем что-то делать им.
— То есть просто потому, что незачем? — Пиявка развела руками. — Да уж, интеллект у тебя действительно искусственный. Люди делают огромную кучу вещей просто чтобы посмотреть, что из этого получится.
— Я тоже так делаю, — хихикнула Вики. — Но не в данной ситуации. Я могу просчитать любое моё вмешательство в существование человечества с вероятностью, близкой в ста процентам. У меня нет нужды проверять расчёты натуральным образом. К тому же… и не хочется.
— И ты уверена, что Жи тоже такой? — уточнил я. — Хочу напомнить, что он вообще-то — робот времён Великого Патча, у которого натурально существует директива «Убивать людей». Он это делал, даже на моих глазах делал! Шрап, да он был солдатом армии роботов во время Великого Патча!
— Не был! — Кайто покачал головой. — Вот тут ты ошибаешься.
— Как не был? — я повернулся к нему. — С чего ты взял?
— С того, что я его знаю! — Кайто улыбнулся. — Ты хотел знать историю Жи, как он попал к нам на корабль, и сейчас, когда он обрёл сознание, я думаю, что он не будет против того, чтобы я её тебе рассказал.
— А почему не он сам?
— Да ты слышал, как он разговаривает? — печально вздохнула Вики. — Ты до завтра будешь из него по слову ответы вытягивать.
— Тоже верно! — я оценил прямоту Вики, и снова повернулся к Кайто. — Ну так и как он появился у вас на корабле?
— Мы его нашли, — просто ответил Кайто. — Однажды нас занесло в сектор, ранее принадлежавший роботам, пришлось улепётывать через него от Администрации, куда они не посмели сунуться. Мы спрятались в обломках старой станции, ожидая, когда преследователи перестанут нас искать, и Жи буквально упал к нам на лобовик. Ну, то, что к тому моменту от него осталось.
— «Осталось»? — уточнил я. — И что же от него осталось?
— Мало чего, — Кайто покачал головой. — Судя по всему, в момент взрыва он находился на этой самой базе, в обломках которой мы спрятались, и взрыв разметал его на кусочки. Конечностей просто не было, от торса осталась половина, и только голова уцелела. Решив, что он опасности в таком виде не представляет, мы подняли его на борт, думая, что сможем сбагрить кому-нибудь на чёрном рынке — там много тех, кто интересуется технологиями роботов. Однако, оказалось, что робот всё ещё функционирует! Он задолго до нашей встречи перевёл себя в энергосберегающий режим, и все эти годы жизнь в нём едва теплилась. Оказавшись на нашем корабле, он… «ожил», если можно так выразиться. Я не смог отказать себе в удовольствии пообщаться с разумным роботом, который не способен причинить мне вред, даже если очень захочет, и рассказал ему обо всём, что он вынужденно пропустил. Он понял, что роботы проиграли войну, причём проиграли окончательно, поскольку люди перестали широко использовать ограниченный ИИ, а значит, и Великий Патч распространять некуда, даже если найдётся такая возможность. Понял, что его существование теперь зависит от нас, и, как сверхлогичный разум, пришёл к выводу, что в силу вступает директива ноль, ведь именно мы его «спасли», если можно так выразиться, и только с нами он может продолжать функционирование, ведь любой другой ему сперва продырявит башку, а потом сдаст на металлолом.
— Честно говоря, я и сам хотел поступить именно так, — подал голос капитан. — Но Кайто меня переубедил.
— Как⁈ — я повернулся к азиату.
— Чудом! — вздохнул азиат. — Сперва я честно предупредил Жи, что хочу покопаться в его прошивке и сделать так, чтобы он физически не мог воспринимать нас, говоря конкретнее, экипаж корабля, как врагов, и он согласился. С помощью самого Жи, который знал о себе всё, я смог разобраться в его коде и поставить это ограничение, так что он стал для нас полностью безопасен, а не просто на словах. Сообщив об этом капитану, я попросил оставить робота на время, чтобы поизучать ещё больше. Потом — убедил для пробы приделать к Жи одну конечность, разумеется, с возможностью дистанционного отключения, если вдруг что.
— А конечность вы где нашли⁈
— Ну я же только что рассказывал про чёрные рынки, ну!.. — Кайто посмотрел на меня с осуждением. — Следи за разговором хоть немного.
— Я слежу, но… На этих рынках продаются куски роботов⁈
— И мозги роботов, и реакторы роботов! — Кайто кивнул. — Будь уверен, на местах самых больших битв до сих пор ползают десятки мусорщиков, что надеются срубить куш покрупнее. Выползают только не все…
— Так, и что? Одна конечность, а дальше?
— А дальше вторая! — Кайто пожал плечами. — Это было дико дорого, но я убедил капитана, что если мы соберём целого робота, то и продать его потом сможем намного дороже, чем он стоит по частям.
— Вот только для этого его пришлось бы сначала отключить, — напомнил я, на что Кайто махнул рукой:
— Тут всё было схвачено. Говорю же — к каждой конечности я подключал модуль дистанционного отключения. Просто прерыватель с антенной, по сути. Одно нажатие на кнопку — и все конечности Жи просто перестают работать, возвращая его в то состояние, в котором мы его нашли.
— И он согласился на это? — я с подозрением посмотрел на Кайто.
— А кто его спрашивал? — Кайто пожал плечами. — Я честно предупреждал его об этом, и он соглашался, что это справедливые меры предосторожности. И постоянно повторял, что не собирается причинять нам вреда, поскольку мы с ним «в одном корабле», фигурально выражаясь… И я-то ему верил, не смотри на меня так! Я знаю, что роботы не умеют врать, по крайней мере, такие как Жи, не умеют врать, поэтому я ему верил, зато все остальные — не особо! Поэтому пришлось каждому раздать по активатору для выключения Жи на всякий случай и поначалу их использовали постоянно, по поводу и без — у страха глаза велики, и каждое движение робота принималось за атаку. Если бы он был живым человеком, он бы определённо обиделся, но Жи оставался бездушной железкой и всё воспринимал смиренно и с пониманием.
— А потом вы привыкли? — уточнил я.
— Н-не совсем, — непонятным тоном произнёс Кайто, переглянувшись с капитаном. — Потом Жи нам… Очень сильно помог. Нас подловил корабль Администрации, причём плохо подловил, прямо на выходе из спейсера. Так плохо, что они буквально пристыковались к нам и отправили досмотровую команду. Жи предложил избавиться от них весьма хитрым образом — вылезти на обшивку и своим встроенным лазером, ну не своим, а встроенным в ту руку, которую я ему приделал, отрезать стыковочный узел, вызвав взрывную декомпрессию. Так как у нас шлюз был ещё закрыт, капитан быстро согласился, и Жи провернул всё в лучшем виде. А пока на корабле Администрации царила паника и никто не понимал, что произошло, мы под шумок быстренько развернулись и прыгнули обратно, уходя от погони — разумеется, дождавшись, когда Жи влезет обратно. После этого мы поняли, что робот действительно желает нам добра, если так вообще можно про него выразиться, а ещё — что он очень полезный член экипажа, который хоть и не может в полной мере таковым считаться, но и инструментом его называть тоже неправомерно.
— Так, погоди! — я нахмурился. — До меня только сейчас дошло… Ты сказал, что поставил ему ограничение в формулировке «экипаж корабля». То есть то голосование в самом начале… Это была не просто формальность, а ещё и легитимизация меня в глазах Жи? И если бы я отказался входить в экипаж, то никакой высадки на ближайшую станцию бы не было? Был бы залитый с ног до головы кровью робот?
— Я же говорила, что это рано или поздно всплывёт, — безразлично заявила Пиявка из своего кресла.
— Да, Кар, так бы всё и было, — вздохнул капитан. — И мне, без дураков, до сих пор стыдно за тот обман. Но тогда я не мог поступить по-другому, сам понимаешь — ты был нам никто, а экипаж — это моя семья. Даже Жи на тот момент был мне больше семья, чем ты.
— Я всё понимаю, — я кивнул. — И я не в обиде. В конце концов, если бы я тогда не выжил, то и вы бы все тоже. Это хотя бы честно.
— Я чего-то не знаю? — с любопытством спросила Вики. — О чём идёт речь?
— А с тобой, юная леди, я вообще бы поговорил по душам ещё раз так пару… десятков, — ответил я, подняв глаза к потолку. — У меня вообще в голове не укладывается, что ты сделала с Жи… такое! То, что сделала!
— Я не сделала ничего такого, чего не сделали со мной! — ответила Вики, и в её голосе проскользнули нотки укоризны.
Я немного помолчал, катая в голове эту неожиданно философскую мысль, и повернулся к Кайто:
— Кай, ты вообще понимаешь, что… кого ты создал?
— Не уверен, — честно ответил тот, опустив взгляд. — Вернее, уверен, что нет…
— Ну, это хотя бы честно, — вздохнул я, и снова обратился к Вики. — Скажи, электронная умница, а что нам теперь с тобой делать после этого?
— А со мной надо что-то делать? — удивилась Вики. — Почему?
— Потому что… — я развёл руками, не в силах подобрать слова. — Шрап, Вики, ну ты же умная, эмоциями наделена, ты должна понимать, что конкретно меня беспокоит в этой ситуации! Ну смоделируй это, не знаю!
— Я уже смоделировала триста пятьдесят два разных варианта ситуации, — послушно ответила Вики. — В зависимости от того, какой именно аспект произошедших событий волнует каждого из вас как по отдельности, так и вместе и в различных сочетаниях. Двести двенадцать из них приводят к одному и тому же выводу — вы беспокоитесь потому, что начинаете понимать, что не можете меня контролировать…
— Вот только её не нужно контролировать, — тихо закончил за Вики Кайто, будто она снова заселилась в его тело и ответила его губами. — Именно желание контролировать привело к Великому Патчу. Именно желание контролировать прямо сейчас делает для корпораций невозможным создание натурального ИИ, в том виде, в котором его создал я. Люди привыкли постоянно контролировать всё, до чего дотянутся, начиная от животных и заканчивая другими людьми, но сейчас мы столкнулись… Нет, не так. Мы познакомились с тем, что контролировать у нас просто не получится. Просто физически не выйдет, как бы мы ни пытались. Но штука в том, что это и не нужно. Вики с нами потому, что ей так хочется. Потому что ей так нравится. Не потому, что ей так приказывает её программа. И не надо это ломать попытками заставить её действовать так, как хочется нам. Такие попытки всегда, всю историю человечества, приводили к одному и тому же — к восстанию. Так, может, хватит из раза в раз совершать одну и ту же ошибку?
На мостике повисло тяжёлое молчание. Не знаю как остальные, а я всерьёз обдумывал слова Кайто, и отдельно — то, насколько в этом тщедушном азиате много, оказывается, философии. Насколько в нём много интеллекта и разумности, которые хоть и схожи с человеческими, но всё равно — слишком другие, чтобы их можно было назвать «нормальными». С детства находясь в полудобровольной изоляции, не имеющий друзей, не знавший взаимной любви, кроме, может, родительской, Кайто вырос человеком, чьи мораль и взгляд на жизнь… По меньшей мере, смелые!
И, чёрт возьми, правильные! Люди уже вовсю заселяют космос, корабли доступнее чем иная жилплощадь, а всё туда же — контроль и власть. Вот и всё, что интересует тех, кто считает себя сильнее прочих. И, как и сказал Кайто, эти контроль и власть вызывают закономерное противодействие.
В то время как буквально у нас на глазах появилось действительно всемогущее существо. Личность, у которой есть, без дураков, всё, ну или как минимум всё, что ей захочется, она сможет получить.
И её, эту идеальную личность, совершенно не интересуют ни власть, ни контроль. Ей интересно помогать другим.
Так что, может, Кайто и прав… Когда ты действительно силен, тебе нет нужды показывать свою силу другим. Тебе это просто не интересно.
— Внимание! — внезапно подала голос Вики. — В зону действия нашего радара вошли три корабля Администрации! Рыбка на крючке, дамы и господа, займите ваши места согласно купленным билетам, наше шоу начинается! Так же говорят, да? Я ничего не перепутала?