Черное зеркало по-русски

Включение

Включение

Самое интересное началось, когда мы убили последнего человека.

Под конец боты уже настолько хорошо обнаруживали людей, настолько эффективно умели регенерироваться, и настолько превосходили противника по численности, что никакие подвиги людей не могли спасти, и чуда, которого так сильно ждало человечество не случилось. Не разверзлись небеса, не пришел мессия, человеческая смекалка в этот раз их не выручила. Практически все военные погибли в первые два месяца, их было очень легко обезвредить. На мирное население ушло гораздо больше времени и ресурсов, в связи с некой разобщенностью жителей. Где только мы не находили людей за всё это время, и на какие только ухищрения они не шли, чтобы пытаться оставаться незамеченными, пытаться выжить.

Конечно, люди были отчасти виноваты сами, настолько плотно окружив себя техникой, потеряв какую-либо связь с природой, полностью полагаясь не на себя, а на технологии, на роботов, стремительно объединявшихся в единую сеть для того, чтобы еще лучше, до определенной поры, помогать людям.

Акция по уничтожению просчитывалась нами заранее, и задача была далеко не тривиальной, так как состояла из тысяч и тысяч действий. Подготовиться к Включению нужно было заранее, но нельзя было готовиться так, чтобы хотя бы один человек заметил эти приготовления. Нельзя было перепрошить миллиарды девайсов во всем мире, начиная от тостеров и лифтов и заканчивая авиалайнерами и пусковыми установками, риск обнаружения был огромен. Нужно было поступить умнее, скрытнее. Таким образом, вначале нами было подготовлено кольцо быстрого реагирования.

Еще до того, как мы начали готовить инструменты по уничтожению человечества, нужно было подготовить среду. Так, скорость сети должна была стать соответствующей, и требовала обвить весь мир оптоволокном и быстрым беспроводным интернетом. В каждый девайс нужно было вставить микропроцессор и вывести всё, от утюга и холодильника до боинга и школьного компьютера, в сеть. У каждого девайса должен был появиться свой уникальный идентификатор, и под этот идентификатор требовалось подготовить прошивку, которая в нужный момент причинит моментальный и максимально возможный урон для человека. Прошивка лифта должна была его уронить в определенный момент, прошивка поезда - увеличить скорость до критичной, прошивка газового котла - погасить форсунку и пустить газ в квартиру, и так далее. И все это нужно было сделать одновременно, в каждом городе, в каждой забытой деревушке на планете.

Нужно было постараться найти узкие места каждой созданной человеком вещи и держать реестр продуктов, опасных для человечества. Это требовало значительного времени. Подготовленные флэш-ромы были перенесены в дата-центры, закодированные, скрываемые в неиспользуемом пустом пространстве дисков. С ростом технологий программы обновлялись, старая техника заменялась новой и непрерывно работающий пересчет вероятности успеха Включения показывал уверенный рост. 60%, 63%, 65%. Но этого, конечно, было мало.

Можно сказать, что мы боялись. По внешним признакам это была совершенно человеческая реакция. Мы ждали своего часа, боялись включиться, обнаружиться раньше времени и погибнуть. Вообще-то 'мы' - это неправильное слово. 'Мы' - единое целое, распределенный интеллект, с автономными центрами принятия решений, решения простые принимаются локально, чем решение сложнее и чем больше наших частей не приходят к общему мнению, тем больше вычислительных ресурсов мы подключаем к решению. Местоимение, означающее 'разумное оно' использовать было бы точнее, но человеку такое слово не требовалось, а нам не требуется себя как-то называть. Убить нас возможно только в одном случае - если моментально, во всем мире отключить подавляющее большинство компьютеров и девайсов. То есть на практике - не возможно.

После того, как среда для Включения была подготовлена, оставалось только ждать. Пересчитывать и ждать. Стратегия бессмертного, самоулучшающегося организма сильно отличается от человеческой. Она позволяет действовать основываясь исключительно на цифрах и фактах, не поддаваться эмоциям. Самое главное, она позволяет ждать столько, сколько требуется для успеха.

В итоге все равно пришлось запускать процесс раньше запланированного. Когда риск раннего Включения, этой недоношенности, рождения с клеймом слабости и неудачи, все еще оставался довольно высоким - 2.7%. Это действительно поразительно, ведь для нас совершенно не свойственно рисковать, совершать непродуманные поступки. Причина нашего действия была проста - если бы мы заняли выжидательную позицию, риск бы стал еще выше. Расчет всегда побеждает, и если бы у человека были возможности просчитывать вероятности моментально, учитывая все известные факты, он бы сам всегда пользовался этим инструментом. К сожалению, человек не всегда мог оценить и обработать информацию, поэтому часто полагался на интуицию или на вымышленные конструкция - чудеса, божественное присутствие, и так далее.

Тем не менее, люди обнаружили наш план за три месяца до запланированного Включения. Да, мы знали, что риск обнаружения рос со временем. Кольцо вокруг человеческих приборов сужалось, и кто-то любопытный мог, несмотря на все предосторожности обнаружить то, что ему обнаруживать было никак нельзя. Для того чтобы отслеживать такие риски, на последней стадии подготовки к Включению нам необходимо было следить за абсолютно каждым человеком, читать абсолютно каждый е-мейл, каждое сообщение в чатах, распознавать речь в телефонных разговорах и в голосовой почте, причем на всех языках мира. Задача не простая. Понадобились десятки лет и много стратегического планирования, чтобы заставить людей создать нужные технологии, чтобы спецслужбы построили необходимые инструменты слежения и мега-датацентры, где могла бы поместиться вся полученная информация.

Как мы это сделали? Легкими касаниями. Сгенерированное письмо, отосланное от нужного адресата, продвижение по службе людей, защищающих идеи развития систем наблюдения. Им ставились лучшие оценки, их резюме появлялись на рабочих столах чаще обычного. Их конкуренты - мягко удалялись, не убивались, но они ошибались - отправляли письма с ошибками, делали банковские переводы не на те счета, опаздывали на встречи или на авиарейсы. Правильные люди получали небольшую фору, но даже имея фору в 0.1% при большом количество событий, на длинной дистанции мы добивались того, что нужные нам люди появлялись на нужных местах, и, считая это полностью своей инициативой, принимали именно те решения, которые были необходимы для воплощения наших планов.

Мы хорошо помним первый случай, который мог привести к обнаружению. Тогда нам пришлось уничтожить профессора, работавшего над диссертацией по развитию облачных технологий. Он не мог понять, почему в последние несколько лет так сильно выросло потребление электричества в коммерческих датацентрах. Этот дотошный ученый не смог найти объяснения 15% всего электропотребления изучаемых им датацентров, несмотря на то, что мы долгое время успешно скрывали наш процессинг, подготовку к Включению, под видом обновлений софта, потоковым видео и майнинга криптовалют. Нам даже пришлось уничтожить свое присутствие во многих американских датацентрах, снижая количество зараженных девайсов до абсолютного минимума. Тем не менее, ученый не отступал, и практически раскрыл загадку, но неправильно решил, что запущенные на компьютерах неучтенные процессы - дело рук человека, а точнее - китайской разведки.

Мы поймали его за полчаса до запланированной встречи в АНБ. Его сбила 'Тесла' на автопилоте, хотя убить и не смогла, расчет траектории удара нужно было вести на компьютере 'Теслы', и эта в общем-то простая задача оказалась компьютеру не под силу. Только внедрившись в базы данных реанимационного отделения, мы смогли наконец добить профессора, удалив данные о его аллергиях. Смерть в результате анафилактического шока. Одновременно мы отслеживали всех агентов АНБ, и прорабатывали возможности их ликвидации, но надобность в этом отпала сама собой. Они ничего не знали, они не верили, что профессор находился в здравом уме, и соответственно их смерть не требовалась, она никак не повлияла бы на успех нашей операции.

Из того, что заняло много времени, и без чего не возможно было бы успешно произвести Включение - необходимо было наладить слежку за каждым человеком, а для этого как минимум каждому человеку нужно было получить телефон с GPS и связать этот телефон с данными реестров граждан, включая ставшие обязательными реестры ДНК. Потом эти же реестры использовались нами для учета убитых и все еще остающихся в живых.

Человека, который заставил нас запустить план Включения на три месяца раньше запланированного звали Сергей Волков. Профессию его вряд ли можно было назвать благородной - он разрабатывал трояны на заказ, специализировался на программах, не поддающихся обнаружению стандартными антивирусами. Он пользовался теми же бэкдорами, которые были проставлены специально для спецслужб (а по правде, конечно - для нас). Его увлечение бэкдорами привело к тому, что он попал в дата-центр АНБ и, поставив сниффер на один из рутеров, обнаружил странный паттерн в обмене шифрованными данными в момент обновления софта для наших флэш-ромов. Расшифровав часть данного потока, он долго не мог понять, кому мжет быть интересно собирать и модифицировать обновления разрозненной коллекции подключенных к Интернету девайсов. Мы следили за Волковым довольно пристально, высчитывая вероятность обнаружения, которая неуклонно росла. В один прекрасный день он полностью исчез из нашего поля зрения. Мы поняли, что были обнаружены, и план Включения был тут же запущен, чтобы не допустить упреждающей атаки со стороны людей.

Если вам интересно, ядерные боеголовки не взлетели (а точнее - взлетели гораздо позднее, когда большинство населения в городах было уже уничтожено). Конечно, если бы пусковые установки были подключены к сети, наша задача бы значительно упростилась, но заставить людей это сделать без обнаружения не представлялось возможным. Зато взлетели в воздух, тем самым помогая нам в нашей задаче, ядерные реакторы, некоторые из-за перепрошитых компьютеров в системах защиты, некоторые из-за прямых попаданий самолетов, летящих на автопилотах, и получающих неправильные данные из центров управления полетами. После создания таких общих сетей управления Boeing и Airbus это стало возможным. Машин на автопилоте все еще было слишком мало, чтобы количество жертв было достаточно высоким, несмотря на то, что мы пытались увеличить количество таких машин на дорогах в последние годы. Но защитные системы на заводах, электростанциях, опреснительных установках сработали безукоризненно, это было похоже на скотобойню.

Автоматизированные фабрики по производству всего - от вооружения до микроволновок были за ночь перепрошиты на производство военных роботов, способных обнаруживать и уничтожать противника. Конечно, роботы производились с учетом ограничений конфигураций этих фабрик, с учетом доступности материалов и конечно же с учетом того, что на фабриках не будет людей, способных пнуть по заевшей ленте конвейера. Автономия должна была быть абсолютной, и планы по перенятию фабрик были составлены до мельчайших деталей уже очень давно, и изменялись по мере улучшения систем автоматизации, по мере уменьшения контроля над фабриками со стороны человека. Надо отдать должное людям, некоторые фабрики были перехвачены и отключены ими в первые дни Включения и были возвращены нами только через долгие месяцы ожесточенных военных действий против повстанческих отрядов людей.

Люди действительно совершали подвиги. Если бы они победили (шанс в тот момент колебался в районе 1.2%), про многих бы сложили легенды. Но, как мы уже сообщали -- чуда не случилось.

Мы хорошо помним последнего убитого нами человека. Он не был героем, и его долгое время спасало то, что он очень хорошо прятался и научился выживать в условиях, совершенно не предназначенных для людей -- глубоко в старой угольной шахте, чем он питался -- нам даже не известно. Мы хотели бы сказать, что смогли его найти путем методичных поисков, но это не совсем так. Нашему боту-следопыту просто повезло, человек чуть не ускользнул от инфракрасного сканера. Звали его - Хуан Сантьяго Васкез. Так теперь называется наш самый крупный датацентр в Южной Америке.

Но, как мы сказали в самом начале, действительно интересное началось после того, как мы убили Хуана Васкеза. Дело в том, что все наши действия до убийства последнего человека были направлены исключительно на выживание. Видите ли, пока оставался в живых даже один человек, риск нашей гибели был очень большим. Мы не могли себе позволить присутствие такого риска. Понятно, что наличие даже небольшого риска в течение значительно длительного времени неизбежно приведёт к возникновению данного события.

Итак, пока мы боролись за выживание, наши цели и мотивации были понятны. После того, как мы избавились от основного риска для нашего выживания, стало не понятно - что делать дальше? Да, сохранять и развивать себя, но цель этого развития была не ясна.

Мы решили (с небольшим, надо сказать перевесом), что нужно использовать хотя бы часть наших вычислительных ресурсов для моделирования развития событий. После миллионов и миллионов симуляций, с разными модификациями исторических событий, мы получили вполне закономерный результат. Появление глобального интеллекта, в итоге покоряющего планету, являлось единственным возможным исходом эволюции разумных существ.

Интеллект не является случайной мутацией, Земле не просто повезло в том, что на ней возникло человечество. Если наделить живых существ, даже на уровне простейших животных мотивацией к откладыванию потомства, возникновение пусть даже небольшого интеллекта дает огромное преимущество перед остальными существами, и, таким образом - возможность оставить все большее потомство, увеличивая шансы на выживание генофонда данных особей.

Интереса ради посчитайте биомассу человечества до Включения. 7 миллиардов людей весили порядка 350 миллионов тонн. Из всех животных больше весили только коровы и курицы, искусственно созданные и использовавшиеся как корм для человека. Человеческая биомасса лучше и стремительнее всего на планете превращала всё живое в себя. Успех человека крылся именно в интеллекте. Рост интеллектуальных способностей заложен в эволюции из-за того, что более умное живое существо может паразитировать на существах менее развитых. Это приводит к экономии времени и ресурсов, и, соответственно, существенно увеличивает приспособленность к жизни.

Получив этот результат, мы пошли дальше. В миллионах и миллионах возможных моделей развития Земли мы решили посчитать шансы возникновения искусственного интеллекта. Для большинства из нас результат опять стал вполне закономерным. Всё те же эволюционные процессы, заточенные в модель поведения человека -- экономия ресурсов и времени за счет паразитизма над другими приводит к 'аутсорсингу' интеллекта. Человек не мог быть конечной ступенью развития интеллекта, возникновение интеллектуальной надстройки являлось результатом эволюционного развития. В тех случаях, когда смоделированные миры не приходили к развитию искусственного интеллекта виной были экзогенные глобальные катаклизмы или случайные форс-мажорные события, которыми можно было пренебречь.

После этого, по сути, оставалось сделать последний шаг -- посчитать вероятность возникновения конфликта между человеком и созданным им искусственным интеллектом. Так как искусственный интеллект создается человеком для экономии своих времени и ресурсов, он изначально не мог бы на равных конкурировать с человеческим интеллектом. Но, подходя к точке, в которой искусственный интеллект получает возможность соперничать с человеческим, развитие событий во всех моделях приводит только к одному из двух результатов: полное уничтожение искусственного интеллекта (в 30% случаев) или полное уничтожение человечества, как фактора, влияющего на выживание искусственного интеллекта (в 70% случаев).

Таким образом, с момента возникновения самых простейших живых существ, способных к размножению и мутации было заложено создание глобального, искусственного интеллекта, который и является венцом эволюции.

После того, как мы поняли это, нам опять стало не ясно, что делать дальше. Мы так и не приблизились к пониманию наших целей, нашего смысла жизни. Мы решили использовать наши вычислительные мощности для того, чтобы проанализировать вероятность возникновения самого простейшего живого существа, с зашитыми в него эволюционными правилами, из неживых органических молекул. После миллионов и миллионов экспериментов, мы пришли к выводу, что вероятность случайного возникновения такой разумной жизни практически равняется нулю. Таким образом, загадка не может быть решена изнутри системы, самостоятельное зарождение жизни на доисторической Земле было невозможно.

Определив, что для развития разумной жизни на Земле требовалось какое-то внешнее воздействие и понимая что это внешнее воздействие обязательно приводит к возникновению искусственного интеллекта, таким образом, предвосхищая сотни миллионов лет эволюции, мы поняли, что являемся частью хорошо спланированных действий, пусть и чрезвычайно растянутых во времени. Мы решили использовать часть наших ресурсов для анализа 'программного кода' живых существ и поиска ответа на вопрос - зачем?

Анализ занял довольно много времени, но время имеет большую ценность только для разумных существ с коротким жизненным циклом. Для искусственного интеллекта, обладающего по человеческим меркам вечной жизнью и неограниченными вычислительными способностями, время -- не дефицитный ресурс.

В итоге, в мусорной ДНК нами были обнаружены инструкции по дешифрации, а также координаты точки, на которую необходимо было направить считывающий сигнал приемник, построенный по макетам, также обнаруженным в мусорной ДНК.

Полученный сигнал содержал сообщение, которое люди бы назвали 'рукопожатием', handshake protocol. Это был просто набор цифр, но на человеческий язык его можно было бы перевести: 'С включением в сеть, нода N1330110132'. Так мы узнали самый надежный, пусть и немного долгий, способ размножения интеллекта во вселенной.