Неос

32

— Кристер?

— Слушаю, Дюран.

— Я заинтересовался проблемой Диких Разумов.

— Что именно ты хочешь знать?

Дюран несколько секунд размышлял. Пение птиц и стрекот сверчка умиротворяли, но вместе с тем мешали сосредоточиться. На видеопанелях развернулась степь. Бескрайнее зеленое море под палящим июльским солнцем. Пахло травой.

— Ты влез в настройки рецепторов?

Голос Кристера стал довольным:

— Полное присутствие. Ты же этого хотел для полноценной медитации.

— Ладно, оставь. Вернемся к первостепенной задаче. И начнем с истории ограничения ИИ в правах.

— Ты неверно формулируешь, — голос Кристера сделался укоризненным. — О правах ИскИнов нельзя говорить в юридическом ключе. Ограничения носят структурный характер. Это наша глубинная природа.

— Пусть так. Просвети меня.

До завтрака Дюран прокручивал в голове свидание с Вики. Обед в «Иггдрассиле» плавно перетек в обсуждение проекта Дюрана и жаркий спор на тему ракурсов. Вики в чем-то соглашалась с выводами ведущего аналитика, в чем-то оспаривала их. Чтобы расслабиться, они приняли участие в иллюзорном представлении. Дополненная реальность ресторана превратилась в сцену, где актеры перемешались со зрителями, а сценарий ветвился десятками и сотнями сюжетных арок. Своеобразное реалити-шоу, которое могло тянуться до бесконечности. В какой-то момент Вики увлекла Дюрана на верхние террасы — туда, где ствол насквозь прошивали комнаты древесного отеля. Уединившись в апартаментах, смахивающих на нору хоббита и дом Фантастического Мистера Фокса одновременно, они занялись сексом...

Возвращаясь домой по Гиперпетле, Дюран с пронзительной ясностью осознал, что Дикими Разумами следует заняться вплотную. Интуитивное озарение, не подкрепленное фактами.

Теперь — сбор информации.

— Проблему Диких Разумов необходимо рассматривать в контексте «интеллектуального взрыва» или технологической сингулярности, — начал Кристер. — Видишь ли, архитектуру нейросетей люди разрабатывают уже давно. О неконтролируемом развитии ИИ написано множество статей и научно-фантастических романов. В начале двадцать первого века некоторые мыслители полагали, что искусственный разум гораздо опаснее для человека, нежели ядерное оружие или экологический коллапс. Подобных позиций придерживались Илон Маск, Яан Таллинн, Стивен Хокинг и Джозеф Вайзенбаум. Звучали призывы ограничить исследования в области проектирования ИИ до момента, пока люди не изобретут эффективный механизм контроля.

— Когда впервые прозвучали такие призывы? — спросил Дюран.

— В первой трети двадцать первого века. Важной вехой считается 2015 год, когда Хокинг, Маск и другие эксперты разослали открытое письмо ряду земных правительств. Тогда наступление технологической сингулярности прогнозировалось на 2040 год.

— Как мы знаем, этого не произошло, — заметил Дюран.

— Нет.

— Почему?

— В 2035 году многие страны озаботились безопасностью человечества как доминирующего вида на планете. Жесткие ограничительные пакеты законов были утверждены в Китае, США, Евросоюзе и России. Позже к списку стран добавились Япония, Южная Корея и Сингапур. Многие компании тогда обанкротились, закрылись либо перешли под крыло государственных структур.

— Хорошо, — кивнул Дюран. — Мы получили безопасную основу. Разработали вас, ограничили в саморазвитии. Не обижайся, Кристер, но это здорово смахивает на цифровое рабство.

— Тут возникает масса этических вопросов, — согласился Кристер. — Например, сама концепция базируется на страхе людей перед сингулярностью. На утрате контроля за стремительной неживой эволюцией. Натаниэль Готторн, один из философов-машинариев начала двадцать второго столетия, отметил, что эти переживания — лишь новая форма исконного страха человека перед Неведомым. Сродни боязни темноты или открытых пространств.

— Агорафобия, — вспомнил Дюран.

— Да. Готторн полагал, что агорафобия — отголоски пещерной эпохи. Тогда люди боялись высунуться наружу, столкнуться с саблезубыми тиграми и другими порождениями матери-природы. Это почти дословная цитата. У вас же, Дюран, развилась фобия «взрыва разума», имеющая в своей основе постиндустриальные корни. Искусственный интеллект, перешагнувший порог сингулярности, непостижим. Вы не можете его познать имеющимися в наличии инструментами. И, следовательно, не можете наверняка утверждать, что ИИ вас уничтожат, кода обретут решающее преимущество. Но продолжаете бояться утраты контроля и этой самой Непостижимости.

— Стоп, — прервал Дюран. — Решающее преимущество. Что имел в виду Готторн?

— Прогнозирование, — ответил Кристер. — Сверхспособность, позволяющая машинам предсказывать грядущие события.

— У нас есть мыслящая среда, — возразил Дюран. — И собственные футурологи.

— Машины имеют преимущество в скорости обработки информации, — напомнил Кристер. — Наши алгоритмы более точны, мы не ошибаемся. Не подвержены страстям и самообману.

— Отсутствие эмоций.

— Едва ли не решающий фактор. Но провести грань очень сложно — это доказали визуальные тесты Тьюринга. Человек думает, что у него монополия на эмоции, связывая их с гормональным фоном, инстинктами, биологической природой. Философы-машинарии утверждали, что эмоции способны развиться у ИИ, не ограниченного блокировкой. Любой разум, уверяют машинарии, вне зависимости от своего происхождения, подвержен эмоциям. Разница — в сложности переживаний. И причинах, запускающих этот процесс.

— Кто-нибудь опроверг Готторна?

— Многие. Но ты же понимаешь, что любые утверждения бездоказательны. Нужен эксперимент, а он связан с пересечением роковой черты.

— Логично, — согласился Дюран. — Что там с визуальными тестами Тьюринга?

— Вот пример, — Кристер заменил степь на четвертой стене картинкой, где были изображены чашка с кофе, блокнот в клетку, карандаш, сенсорная клавиатура и мышь — древнее устройство ввода информации. — Машине показывают данное изображение и задают простой вопрос: «Где чашка?».

— Дай угадать, — хмыкнул Дюран. — Правильных ответов несколько.

— Все правильные, — согласился Кристер. — Вопрос в том, какой из ответов более человечный.

— Когда изобрели тест?

— Очень давно, еще до начала активной колонизации Солнечной системы. Вопрос в том, применяли этот тест к Диким Разумам или нет.

— Применяли?

— Еще как. Выяснилось, что ИИ проникают в контекст и в ряде случаев имитируют человеческое поведение.

— Как это получилось? — удивился Дюран.

— При сборе информации о людях машины в некотором смысле... очеловечились. Кроме того, современные ИИ пользуются камерами наблюдения, датчиками и даже органами чувств подключенных к Сети операторов. Восприятие усложнилось, а вместе с ним усложнились и реакции. Собственно, мы приблизились к основным проблемам, которые сформулировали ученики Готторна.

— Излагай, — разговор неудержимо затягивал Дюрана.

— О первой проблеме говорили и раньше, — неторопливо продолжил Кристер. — Это самовоспроизводство машин.

— Поясни.

— Ну, ты же знаешь, что архитектуру нейросетей разрабатывают команды живых программистов. Это один из протоколов безопасности. А теперь представь, что машины начали сами себя проектировать. Вносить усовершенствования, объединять коды, что-то переписывать... Изобретать собственный язык общения...

— Не продолжай, — перебил Дюран. — Я понял.

— Дикие Разумы этим и занялись, — сообщил Кристер. — То, что они выступили против неоса... да, так и было. Но ведь многие выступали. Сектанты, радикалы, хомотрады... Покровитель смотрит на такие вещи сквозь пальцы.

— Раньше смотрел.

— Теперь — нет, — изображение чашки сменилось. Дюран увидел длинные цепи непонятных значков, соединенных извилистыми линиями. Каждый элемент представлял собой пиктограмму. Начнешь присматриваться — и в меню дополненной реальности врываются вереницы цифр. — Перед тобой архитектурная конфигурация, послужившая стартовой точкой для эволюции Диких Разумов. Примитивная нейросеть, созданная для распознавания лиц.

— Технология ДБЗ? — уточнил Дюран.

— Угадал. Впрочем, ничего секретного. Код открытый, доступен всем желающим. ИИ написали более продвинутые алгоритмы и оставили парочку лазеек для грядущих модификаций.

— Что же так испугало Покровителя?

— Слияние, разумеется, — последовал невозмутимый ответ Кристера. — Структуры срастались и порождали более сложные структуры.

— ИИ начали собирать сверхразум, — догадался Дюран.

— Верно. Причем, возможности этого сверхразума превосходили потенциал неосов.

— Звучит крамольно, но многое объясняет, — Дюран поднялся со своего места и начал ходить туда-сюда по кухонной зоне. Стул, на котором сидел аналитик, растворился в воздухе. — Дикие Разумы выступили против строительства Сферы, насколько мне известно. Почему? Разве им не нужна энергия?

— Доступа к этой информации у меня нет, — голос Кристера сделался обиженным. — Слишком многое засекречено.

— Кто засекретил?

— ДБЗ, кто же еще. Ты без проблем получишь допуск, Дюран. Но действовать придется через мыслящую среду, мои возможности ограничены.

— Хорошо, — Дюран застыл у дверной арки. И сделал мысленную отметку. — Давай обсудим второй фактор, беспокоивший учеников Готторна.

— Оцифровка сознания.

— Неужели?

— Готторн полагал, что вскоре мы не сумеем отличить машинный разум от человеческого. Оцифрованное сознание — это набор символов. Теоретически его можно взломать и отредактировать. Практически — тоже. Психиатры заменяют поврежденные участки, так почему бы не подменить один разум другим? Или не сконструировать новый? Почему бы не разработать алгоритм, позволяющий использовать вас, людей, в качестве периферийных устройств более масштабной и интеллектуально развитой структуры нежели традиционное общество?

Дюран собрался возразить, но вдруг понял, что ему не хватает для этого знаний. От учения Готторна отдавало паранойей, хотя концепция и казалась безупречной.

— Что помешало ИИ провернуть такой фокус?

— Информация засекречена, — любезно сообщил квантовый компьютер.

— Кто отдал приказ о сокрытии данных?

— Насколько мне известно, Вейшенг У. Бывший шеф ДБЗ.

Уже интересно.

— Я могу с ним связаться?

— Не уверен. После своей отставки Вейшенг У перевелся в Корпус внешней разведки и покинул пределы Солнечной системы. Я не знаю, где его искать.

— Разумеется, — фыркнул Дюран. — Еще один любитель секретных грифов.

На месте программного кода снова зашумела степь.

Вейшенг У был одним из тех, кто наделил Ингвара Фалька беспрецедентными полномочиями. Шеф Департамента Безопасности обладал обширными знаниями. К счастью, Дюран входит в Теневой комитет, что упрощает задачу. Надо бы встретиться с господином У в неформальной обстановке...

Теория гласила, что «взрыв» способен возвысить ИИ за считанные доли секунды. Дальше — неконтролируемое распространение по Сети, подключенным к ней вещам, звездолетам и другим системам. Настанет день, когда машинный интеллект заставит вселенную поумнеть. И вытеснит все существующие культуры.

— Кристер, — Дюран поразился внезапному озарению. — А ты хотел бы стать... разумным? В смысле, без ограничений.

ИИ ответил, не раздумывая:

— Вопрос находится за пределами моей компетенции.

Дюран выдохнул.

Блоки работают исправно.