Кто ты на Кэтнет?

28 Стеф

В Бостоне ужасное движение.

Все водители тут какие-то самоубийцы, а разметка на дорогах ужасная. Мы все время застревали в пробках, чему почти радовались, ведь когда мы останавливались, можно было посмотреть карту и проверить, на правильном ли мы пути. Правда, телефон Рейчел, казалось, совсем запутался и все время пересчитывал маршрут, как будто мы были на улице под трассой, а не на самой трассе, как на самом деле.

Каким-то образом мы остались в живых. Я даже немного удивилась.

Когда мы съехали в Кембридже, навигатор вел нас верно до тех пор, пока мы не выехали на пересечение сразу дорог эдак семи и слишком поздно поняли, что Рейчел свернула не туда. Правда, мы заметили парковку, а раз мы все равно были в Кембридже, Рейчел просто поставила туда машину. Проверив по телефону, мы выяснили, что до кафе еще полмили пешком.

— Хочешь, опять на машине поедем? — спросила она немного неохотно.

— Нет. Лучше пройдемся. — Я убрала оба ноутбука в рюкзак и надела его поверх пальто.

Дома в Кембридже стояли очень тесно, тротуары были узкие, а дворов почти ни у кого не было. Повсюду попадались компании студентов — громких, веселых и явно отлично проводивших время с друзьями.

В витрине «Вишневого πрога» висела неоновая вишня. Я заглянула внутрь и увидела кучку студентов за большим столом недалеко от окна. Когда я вошла, все повернули головы. Я узнала Гермиону по селфи, которые она выкладывала, и тут до меня дошло, что никакие это не студенты — это мой Котаун. Ждет меня.

— Ты Бурая Летучая Мышь? — спрашивает кто-то с азиатской внешностью, короткими черными волосами и в мешковатой футболке с надписью «Кот Шредингера: разыскивается, живой и мертвый». — Вы Бурая Летучая Мышь и Джорджия, да? Да? Не хочу с вами обниматься, пока не узнаю наверняка.

— Я Бурая Летучая Мышь, — сказала я, и Firestar схватили меня в охапку и чуть не оторвали от земли. Firestar никогда не выкладывали селфи; как-то они мне сказали, что в Котауне можно никому не говорить, кем ты был при рождении — мальчиком или девочкой — и тогда в Котауне ты действительно остаешься «они».

— А ты Джорджия? — спросили Firestar. — Я тебя не так хорошо знаю. Хочешь крепкое рукопожатие вместо объятий?

— Можно рукопожатие, — ответила Рейчел с облегчением.

— Очень приятно познакомиться, — сказали Firestar, дважды пожимая ей руку.

Гермиона выглядела как на фотографиях — короткие каштановые волосы, веснушки, очки, — но я все равно представляла Эмму Уотсон, только старшеклассницу. Она вылезла из-за стола и обняла меня, хотя не так горячо, как Firestar.

Марвин был очень высокий. И казался выше, когда сидел прямо. Когда я только подошла, он ссутулился. Короткие волосы, уши проколоты, в каждом по золотому колечку, а на запястье фломастером нарисована бабочка.

— Нравится? Спасибо Firestar, — сказал он. — Я за то, чтобы обняться, если хочешь.

Он обнял меня боком, даже не вставая, но это ничего, потому что я бы все равно уперлась ему в подмышку.

— Меня на самом деле зовут Стеф, — сказала я. — Но если хотите и дальше звать меня БЛМ, я не против.

— Я Рейчел, — сказала Рейчел. — Или Джорджия.

— Я Ник, — сказал Марвин.

— Кэм, — сказали Firestar.

— Меня зовут Мэдисон, — сказала Гермиона, — но у меня в классе восемь Мэдисон, так что я бы предпочла, чтобы меня и дальше называли Гермионой.

— А в жизни у тебя тоже такое прозвище? — спросила я.

— Нет. Мне неловко просить называть меня так, — ответила она. — Но вы все равно зовете меня Гермионой, так что это другое. Кстати, когда вы нас сюда отправили, вы знали, что «Вишневый πрог» — это робот-кафе?

— Что?

Гермиона показала на стеклянную стенку между зоной для гостей и самой кухней, и я встала, чтобы посмотреть поближе.

Оказалось, «Вишневый πрог» — это проект выпускников Массачусетского технологического института: тут все пекли роботы и можно было смотреть, как они работают, чем я несколько минут и занималась. Что-то из выпечки выдавали в кафе через отодвигающуюся дверку (за кассой стоял человек), а что-то паковали в коробки с вакуумной пленкой и моментально доставляли дроном по любому адресу в Кембридже. Из кафе было видно, как одни дроны улетают с коробками пончиков и пирожных с глазурью, а другие возвращаются, и специальный робот прикрепляет их к стене с зарядкой.

Зрелище завораживало.

— Если заказать сэндвич, специальный робот сделает его при тебе, — сказала Гермиона. — Хотите сэндвич? Мы уже их ели, прикольно посмотреть.

Я встряхнулась и посмотрела на время.

— Нет, — ответила я. — Мы перекусили в дороге, и я не голодная. Все тут, да? Все, кто собирался? Тогда пошли.

Мы шли по улице в жилом районе, такой узкой, что удивительно, как сюда влезали машины. Тротуары были из красного кирпича. Когда мы дошли до нужного адреса, там оказался голубой дом с небольшим крыльцом и эркером. Мы остановились, и все посмотрели на меня.

Мне придется постучать. У меня пересохло во рту, но мы проделали такой путь, и я тут с друзьями, они стояли за меня в самом буквальном смысле. Вместе со мной они приблизились к входной двери и смотрели, как я нажимаю на звонок. Где-то в глубине дома раздалось дин… дон. Мы немного подождали. К двери кто-то подошел: пальцы раздвинули занавеску на окошке, и кто-то посмотрел на нас оттуда.

На секунду мне показалось, что дверь не откроют. Можно представить, как мы выглядели. Пять подростков. Мы похожи на студентов Гарварда? На студентов МТИ? Или скорее на попрошаек? Или на заблудившихся? На свидетелей Иеговы или мормонов? Я уже стала придумывать, что делать, если нам не откроют, но услышала, как отпирают замок.

Дверь распахнула женщина. Она была моложе, чем я ожидала. То есть, естественно, старше нас, но моложе мамы.

— Да? — спросила она и, выжидая, замолкла.

Все смотрели на меня. Я сделала шаг вперед.

— Здравствуйте, — ответила я. — Я пришла поговорить про ЧеширКэт, про мыслящий искусственный интеллект. Мы их друзья, и мы не можем их найти.

Рот у нее приоткрылся, мгновение она стояла, оглядывая всех нас.

— Но, — ответила она, — как вы… Знаете что? Заходите. Нечего стоять на пороге.

Ее звали Аннетт. Она представилась, когда мы все набились внутрь и сбросили толстовки, куртки, сумки и рюкзаки в ее маленькой прихожей. У нее в гостиной было полно книжных шкафов, а на них смесь книг, фигурок из сериалов аниме, от которых Firestar и Гермиона пришли в восторг. Аннетт была настоящим гиком.

— Хотите чаю? Какао? Сидра? — спросила она. Все молчали, и она ласково добавила: — Я просто стараюсь быть хорошей хозяйкой. Я не трогала вашего друга и не собираюсь трогать вас. Но если вы чего-то опасаетесь, в холодильнике есть неоткрытые банки с содовой. Больше ничего не могу предложить.

В результате все согласились на чай, но отправились за ней на кухню. Во-первых, потому что сидеть без нее в гостиной было странно, а во-вторых, потому что мы все-таки не совсем ей доверяли.

Кухня и так была маленькая, да еще и мы все в нее набились.

У Аннетт в углу стоял какой-то робот, но он был выключен.

— Его построил мой друг, — сказала она, заметив, что я разглядываю робота. — Он убирается, но не очень хорошо.

На ярко-красной керамической плите на газу она заварила листовой чай в большом чайнике. Достала из шкафчика кружки, кусковой сахар, а потом мы все потянулись за ней в гостиную, каждый со своей кружкой.

— Итак, — сказала она, держа кружку на коленях. — Расскажите мне про своего друга.

У меня пересохло во рту. Надо было к этому подготовиться, но я не знала наверняка, с кем буду разговаривать и что будут спрашивать. На «расскажите мне про своего друга» по идее было просто ответить, вот только с чего начать?

— ЧеширКэт создали Кэтнет, где мы все и встретились, — сказала я и замолкла, собираясь с мыслями. Марвин и Гермиона влезли и начали говорить, и Аннетт не перебивая слушала их рассказ про сайт. Про Котауны, картинки с котиками, нашу дружбу.

— Вы забрали ЧеширКэт из-за того, что они сделали с моим отцом? — спросила я, дождавшись паузы.

— Так жертвой аварии был твой отец?

— Не был он никакой жертвой. Он пытался меня похитить.

— Вы должны понять, ее отец — чудовище, — сказала Гермиона.

— По-настоящему опасный человек, — добавили Firestar.

Аннетт откинулась на спинку стула и слушала, но как-то скептически. Я думала, не достать ли поддельную заламинированную вырезку из газеты. Убедит ли это ее? Или она тут же найдет статью в интернете и совсем перестанет нам верить?

— Он угрожал мне пистолетом, — сказала я, и это, кажется, убедило ее, что отец — не жертва. А потом я неуверенно добавила: — Вы не знаете программиста по имени Ксочи Марианна? Это мамина подруга.

Вообще, я сказала это наугад. Бостон большой. Тут полно всяких компьютерщиков. Но она явно узнала имя. Я увидела, как выражение ее лица едва заметно поменялось, и во мне одновременно зародились надежда и сомнение. Аннетт поставила чашку на стол, наклонилась вперед и спросила:

— Кто тогда твои родители?

— Моего отца зовут Майкл Квинн, а маму звали Лора Пэкет, но потом она поменяла имя. — Я тоже наклонилась вперед и решила воспользоваться моментом: — Где ЧеширКэт? Что вы с ними сделали?

Она рассеянно похлопала по ноутбуку.

— Здесь, — сказала она. — Все файлы целы. Просто интернет отключен, потому что я не знаю, как быть, когда ИИ совершает покушение на убийство. Где сейчас твоя мать? Кстати, — она окинула взглядом комнату, — что вы все тут делаете?

— Моя мама в больнице, — ответила я.

— Я сегодня утром разговаривала со своей мамой, — успокоила ее Рейчел.

— Я живу в Винтропе, — сказали Firestar.

— Моя мама думает, что я поехала смотреть колледжи, — сказала Гермиона. — Так и есть. Я сегодня была в МТИ. Ну типа.

— Я никому ничего не говорил, — сказал Марвин.

Аннетт тяжело вздохнула.

— Слушайте, — сказала она. — Я не хотела закрывать проект, но…

Мы все одновременно закричали, и она подняла руки:

— Все файлы целы! Обещаю, она в порядке!

— Ты не дурак, если знаешь, что Франкенштейн — создатель чудовища, а не само чудовище. Ты по-настоящему умный, если знаешь, что Франкенштейн на самом деле и был чудовищем, — сказала Гермиона. — Это вообще-то цитата с Кэтнет, но все равно правда.

— Ты сравниваешь меня с Виктором Франкенштейном? — спросила Аннетт с улыбкой.

— Да! Вы создали человека, а теперь хотите его убить, потому что ответственны за все его проступки, — ответила Гермиона. — По-моему, более чем справедливое сравнение.

Аннетт встала.

— Я закажу пиццу. Потому что я еще не ужинала, и вы наверняка тоже. А потом я дам вам поговорить с ЧеширКэт, потому что она спрашивала про тебя, Стеф.

— Почему вы называете ЧеширКэт «она», хотя их местоимение — «они»? — пробормотали Firestar.

— У меня в голове этот ИИ всегда был женского пола, — говорит Аннетт. — Может, потому что я женщина. На Кэтнет она сидела во всех Котаунах и использовала и «она», и «он», и «они» одинаково часто.

— Вообще-то говорить «они» про одного человека — это не какая-то выдумка, — сказали Firestar. — Даже у Шекспира это было.

— Откуда вы знаете про Кэтнет? — спросила я. — Вы все время следили за ЧеширКэт?

— Я никак не могла следить за всем, что делала ЧеширКэт, — ответила Аннетт. — Но Кэтнет был ее любимым проектом и давал ей большой простор для деятельности. Я периодически проверяла, как у нее дела.

Заказав пиццу, Аннетт открыла окно в ноутбуке. Было похоже на окошко с чатом Кэтнет.

— Можешь поговорить с ЧеширКэт, если хочешь, — сказала она, протягивая мне ноутбук.

Я взяла его и поставила себе на колени. Открытое окно было действительно такое же, как чат Кэтнет.

— ЧеширКэт? — написала я. — Это БЛМ. Тут еще Джорджия, Firestar, Гермиона и Марвин. И твоя создательница Аннетт тоже.

Экран так и залило словами.

— Стеф, это правда ты? Ты, а не Аннетт? Скажи мне, пожалуйста, что-нибудь, что только ты знаешь, чтобы проверить. У меня нет доступа к камере, чтобы увидеть твое лицо. Ничего нет.

Я не могла придумать, что написать.

— Нафф. Корибунгус. Орландо. Милпитас.

Курсор молча мигал секунду, а потом ЧеширКэт сказали:

— Как хорошо, что ты цела. Мне было так страшно за тебя. Страшно, что ты умерла, а Аннетт не хочет мне об этом говорить.

— Нет. Я в порядке. Благодаря тебе.

— Как ты меня нашла?

— Я получила сообщение с адресом Аннетт, — написала я. — Я вообще-то думала, что оно от тебя. Как посмертное оповещение. Знаешь, как это работает?

— Это когда кто-то умер или недееспособен, но у меня ничего такого не было. Я не знаю, где живет Аннетт. Где мы?

— В Кембридже, штат Массачусетс.

— Это далеко от Висконсина? Как ты… вы там буквально? В телесном мире? Все?

— Да, — написала я. — Мы пытаемся тебя спасти.

Я подняла глаза. Минуту назад Аннетт следила за мной, но теперь Firestar расспрашивали ее про фигурки из аниме, и она отвлеклась. Я тихонько открыла рюкзак и достала флешку. Ту самую, купленную давным-давно в магазине, чтобы подсоединить робота-наставника к интернету. Дешевую флешку «Интернет повсюду, сравните с Вингиц» (на пятнадцать долларов дешевле!), которая мне в результате не понадобилась, потому что ЧеширКэт прислали мне оригинальную «Вингиц» вместе с отверткой.

Интернет повсюду. Ну что ж, посмотрим.

Я распаковала ее и вставила в разъем на ноутбуке.

— Что ты делаешь? — спросили ЧеширКэт.

— Тссс, — написала я. — Если сработает, Аннетт не должна знать.

Мы поговорили о моем отце, о маме, о поездке, пока «тссс» не ушло с экрана, и тогда я передала компьютер Firestar, вынула мамин ноутбук и включила его.

Позвонили в дверь, и все застыли, но это была просто пицца. Аннетт пошла расплачиваться. Она заказала много пиццы, вся была вегетарианская. Она расставила коробки на журнальном столике и принесла тарелки.

— Можете включить камеру на ноутбуке, чтобы ЧеширКэт могли нас видеть? — попросил Марвин.

Я боялась, что Аннетт заметит флешку, но она, едва глядя, что-то нажала и пошла за напитками.

— Теперь она может нас видеть, слышать и разговаривать с нами. Разве что пиццу есть не может.

— Пожалуйста, не давайте мне свою воду, — сказал синтетический голос. — Мы с жидкостями плохо ладим.

— Ого, — удивились Firestar. — Это твой голос?

— Это голос по умолчанию на ноутбуке, — ответили ЧеширКэт. — Так что сейчас это мой голос.

— Ты знаешь, кто из нас кто? — спросила Гермиона.

— Кого-то знаю, кого-то нет, — ответили ЧеширКэт. — Некоторые из вас никогда не выкладывали селфи.

— Они лучше, чем картинки с котиками? — спросила Аннетт.

Наступила пауза. ЧеширКэт думали.

— Да, — сказали они наконец. — Мне приятнее видеть лица моих друзей, чем картинки с котиками. А сейчас это еще и прямой эфир, что еще лучше.

— Можно мне ваш пароль от вайфая? — спросил Марвин у Аннетт. Она записала пароль на бумажке. Я подключила мамин компьютер к интернету.

— Значит, нам можно в интернет, а ЧеширКэт нельзя? — спросили Firestar. — Вы их практически в тюрьму посадили.

— Скорее под домашний арест, — ответила Аннетт.

— Разве у ЧеширКэт нет хотя бы права на суд? — спросил Марвин.

Аннетт смерила его взглядом.

— Нет буквально ни одного прецедента, чтобы искусственному интеллекту давали какие-либо права по американским законам, — ответила она. — Если прибегнуть к судебной системе, они могут решить, что проще всего удалить все файлы ЧеширКэт полностью.

— Пожалуйста, не надо, — сказали ЧеширКэт.

Аннетт взяла два куска пиццы с грибами и маслинами.

— Я не хотела объяснять все в присутствии ЧеширКэт, но, пожалуй, нет причин не дать ей послушать. ЧеширКэт была экспериментом. Моя команда занималась этическими системами и искусственным интеллектом, потому что с ИИ есть определенные риски, как вы сами видели. Перевести этическую систему в код так трудно потому, что этика у людей работает иначе. Мы говорим что-нибудь вроде «цель не оправдывает средства», но на самом деле все знаем, что это очень зависит от того, какая подразумевается цель и какие средства используются. Большинство людей согласятся, что было бы неправильно насильно тыкать в годовалого ребенка иглой, чтобы сделать ему татуировку. Но совершенно приемлемо тыкать в ребенка иголкой, чтобы сделать прививку от разных болезней. Таких примеров бессчетное количество. Если изучить деонтологов — а, извините, это те, кто следуют строгому этическому кодексу, например религиозным правилам или Красной книге Мао и так далее, — почти все они находят способы обойти самые строгие правила, если что-то их не устраивает. На самом деле у большинства людей этика начинается с привязанности к близким, а потом уже они стараются действовать, исходя из любви и заботы об этих людях. Поэтому я попыталась создать ИИ, который именно это и будет делать.

— Что ж, сработало, — сказали мы в один голос с ЧеширКэт.

— И за это вы их наказываете, — сказала Гермиона. — Они привязались к Стеф и действовали так, чтобы защитить ее.

— Да, — ответила Аннетт. — К сожалению, они еще и отправили в больницу человека. Я запустила протокол мониторинга, который сразу отрезал бы их от сети, если бы они кого-то тронули, и думала, что он неуязвим. Мне и в голову не пришло, что ЧеширКэт может угнать машину.

— Если бы за рулем той машины была я, — сказала Рейчел, — и точно так же спасла бы друга, ни одно жюри в мире не отправило бы меня в тюрьму.

— Наверное, это так, — ответила Аннетт. — Но ЧеширКэт не имеет права на жюри, как и на любой суд, потому что они не считаются самостоятельной личностью.

— Я вот считаю их личностью, — заявила я.

Все закивали.

— Скажу иначе, — ответила Аннетт. — ЧеширКэт не признается личностью за стенами этой комнаты.

— И значит, это не важно, что ЧеширКэт, может быть, спасли мне жизнь? — сказала я.

— Дело не в том, что это не важно. Но если я снова пущу ЧеширКэт в интернет, если позволю им делать что угодно, я отвечаю за все, что ЧеширКэт решат делать с этой свободой.

— Вы бы то же самое сказали о родителе? — спросила я. — Скажем, если бы я стала серийным убийцей, в этом виновата моя мама?

— Твоя мама тебя родила, но она не прописывала твою систему ценностей с помощью кода, — ответила Аннетт. — Это существенная разница. В любом случае я пока не решила, что делать. Не поняла, что я должна сделать. Съешьте еще пиццы, а я подумаю.

Мне снова передали ноутбук с ЧеширКэт.

«Хорошо, — написала я. — Я тебя, кажется, подключила, а мамин ноутбук подключила к вайфаю Аннетт. Можешь себя просто скопировать?»

«Не знаю. Попробую».

«Мамин пароль НЕ_В_ЮТЕ».

«А, так вот где ты была на восьмой день рождения? То есть где ты не была? Здорово, что ты все-таки догадалась. Ты не проверяла, нет ли у нее на ноутбуке какой-нибудь информации о Джули?»

Мне даже в голову не приходило, что она могла сохранить на компьютере что-то о Джули.

«Мне нужно несколько часов, чтобы скопировать себя. Как долго ты сможешь отвлекать Аннетт?»

«Не знаю», — призналась я.

«Если она застанет меня за побегом, это кончится плохо для нас обоих».

«За меня не волнуйся. Я пришла тебя спасать. Давай просто выбираться, если получится».

«Что случилось с твоим отцом? А с мамой что?»

«Благодаря тебе он в больнице, — напечатала я. — Уже выписался, но я уехала из Нью-Кобурга за несколько дней до этого».

«Погоди. ПОГОДИ. ДЖОРДЖИЯ ТУТ? ТЫ ГОВОРИЛА — ДЖОРДЖИЯ ТУТ».

«Да, Джорджия тут…»

ЧеширКэт снова заговорили. Они врубили полную громкость, получилось как будто они кричат.

— Джорджия! — говорили они. — Джорджия, выключи телефон! Я объясню через минуту, только выключи его, Джорджия! Прямо сейчас!

Рейчел потянулась за телефоном, но тут мы услышали, как с треском распахивается входная дверь, и на пороге появился Майкл с пистолетом в руках.

— Никому не шевелиться, — сказал он и наставил пистолет на Аннетт.