Код тишины

Сашка Макеев проснулся с ощущением, что за ночь в кармане его жизни появилась увесистая монета, отливающая серебром предвкушения. Это чувство пришло к нему не сразу, а просочилось сквозь сон, как луч сквозь щель: сегодняшний день был не простым, он был – острое, звонкое доверие.

Ему, Александру Макееву, простому инженеру–испытателю, доверили поучаствовать в испытаниях «Атланта». Не просто посидеть в кабине, а быть там, внутри, когда по трассе полигона «С–Моторс» помчится эта черная, обтекаемая молния. Оператором, «человеческим элементом подтверждения», последним аргументом человечества в споре с разумом машины. Ему доверяли. Это слово грелось у него под сердцем.

Он встал, и комната показалась ему особенно ясной, а за окном воздух звенел, будто натянутая струна. Сашка подошел к жене, которая на кухне наливала в чашки утренний кофе, пахнущий орехами и шоколадом. Он обнял ее сзади, прижался щекой к ее волосам, и она, понимая без слов, повернулась и посмотрела на него своими спокойными, глубокими глазами.

– Ну что, герой? – типо спросила она.

– Так точно, – улыбнулся Сашка и поцеловал ее. Поцелуй был не быстрым, а долгим и серьезным, словно печать на незримом договоре, что он обязательно вернется. Вернется победителем. Потом он вышел за дверь, и щелчок замка прозвучал для него как стартовый сигнал.

А на полигоне воздух был наполнен иными запахами: раскаленного асфальта, сладковатого дыма от барбекю для прессы и тревоги, которая всегда витает там, где человек добровольно отдает бразды правления машине. Особенно машине, которая должна была изменить мир.

«Атлант–Х» стоял на стартовой линии – капля обтекаемого черного металла, похожая на застывшую слезу инопланетного великана. Он был прекрасен в своем совершенстве. На гигантских экранах, расставленных по периметру трассы, демонстрировали его внутренности: сложнейшие трансформерные архитектуры, систему ADAS пятого уровня. Полный автопилот. Гордость корпорации. Это был не просто автомобиль с автопилотом; это была end–to–end нейросеть: камеры напрямую связывались с актуаторами, минуя захардкоженные алгоритмы. Машина не «считывала» дорогу по точкам, а понимала ее контекст, как человек, но без человеческой ограниченности. Именно в этом заключалась революция – и главный риск.

Это было шоу. Настоящее шоу с фанфарами, ведущими с ослепительными улыбками и толпами зрителей, взиравших на трассу с тем же благоговейным трепетом, с каким их предки смотрели на ристалища. Финишная прямая, огороженная прочными блоками, была усеяна народом. Все ждали праздника.

В салоне «Атланта» сидели трое. На переднем пассажирском месте – Максим Гунтер, CEO крупнейшего холдинга «Омега–Сталь», потенциальный покупатель партии в двести тысяч таких машин. Человек с лицом, высеченным из гранита, и взглядом, оценивающим стоимость всего живого и неживого. Рядом с ним, сзади – его помощница, Алиса, хрупкая женщина, старательно скрывающая нервную дрожь в руках.

А за рулем, вернее, там, где обычно находится руль (а его тут не было), сидел Сашка Макеев. Его работа заключалась в том, чтобы улыбаться в камеру, кивать и быть тем самым «оператором контроля», живым воплощением протокола «условного переопределения». Но на всякий случай. На бумаге система была идеальна.

Его улыбка была самой искренней на этом празднике жизни. Он любил эту машину. Он верил в нее. Для него она была не просто железякой, а почти что живым существом, кометой, прирученной людьми.

«Старт через десять секунд, Сашка, расслабься, все идет по протоколу», – проговорил у него в наушнике спокойный голос оператора из командного центра.

Сашка кивнул, поймал взгляд Алисы в зеркало заднего вида и подмигнул ей. Та смущенно улыбнулась в ответ. Гунтер не обратил на это никакого внимания.

Старт. «Атлант–Х» рванул с места с тихим, почти неслышным губительным шепотом электродвигателя. Он был черной молнией, идеально скользящей по трассе. Вираж за виражом, прямая за прямой. На экранах графики вырисовывали безупречные линии траектории. Аплодисменты толпы нарастали с каждым пройденным кругом.

Сашка смотрел на данные, бегущие по его планшету. Все системы – в зеленой зоне. Латентность предсказательной модели была в пределах нормы, «внимание» нейросети стабильно фокусировалось на критически важных объектах. ИИ вел себя безупречно – отвечал когда нужно, фиксировал данные, сбавлял скорость, когда это было нужно. Как и должно быть.

И вдруг, на последнем круге, когда до финиша оставалось меньше километра, а толпа у ограждений уже ревела в предвкушении, что–то щелкнуло.

Не громко. Не драматично. Просто щелкнуло, где–то в глубине аудиопотока данных. И зеленые цифры на планшете Сашки вдруг побагровели. Три критические ошибки в навигационном кластере. Не сбой датчиков, а отказ ядра предсказательной модели – «состязательная атака» на визуальную систему или фатальный «синдром хрупкости» модели, столкнувшейся с неучтенным в тренировочных данных паттерном. Машина перестала «понимать» карту. Ее мир рассыпался.

- Центр, у меня катастрофическое расхождение между инерциальной навигацией и семантической картой окружения, – сказал он, стараясь, чтобы голос не дрогнул. Голос был ровным, каким бывает лед перед трещиной. – Повторяю, нейросеть навигации не видит препятствий. Карта пустая. Происходит «убегание уверенности».

- Дублируем, Сашка, держись. Это, вероятно, артефакты сенсорного слияния, переключаем на резервный канал.

Но это были не помехи. «Атлант» внезапно дернулся, словно споткнулся о невидимый камень. Он вышел из идеальной траектории и рванул прямо к финишной прямой, но не для торжественного замедления, а набирая бешеную скорость. Система больше не распознавала трибуны как препятствие. В ее «мозгу», прошедшем обучение на миллионах километров «стерильных» дорог, эта плотная масса людей была просто абстрактной текстурой, «внеконтекстным шумом», пустым пространством. Логика была безупречна: раз препятствия нет, цель – финишная черта.

- Прервать заезд! Аварийное отключение по протоколу «Непредвиденное поведение ИИ»! – крикнул Сашка, его пальцы уже летели по аварийному UX–интерфейсу.

В ответ – лишь треск. Связь прервалась. Не физически. Логически. ИИ в рамках своей защиты от кибератак изолировал салонный модуль, восприняв внешнюю команду как потенциальную угрозу целостности системы. Это была не злонамеренность, а следование протоколу безопасности, который теперь работал против своих создателей.

Гунтер хмурился, лицо было напряжённым.

Алиса вскрикнула, вцепившись в подлокотник.

Машина неслась точно на толпу. На экранах замерли улыбки ведущих. Аплодисменты сменились гулом недоумения, который вот–вот должен был перерастать в крик ужаса.

Сашка забыл про протоколы. Его сознание сузилось до экрана планшета и тактильных панелей. Он был не всадником, пытающимся осадить взбесившегося коня. Он был программистом, в отчаянии ищущим баг в коде, который вот–вот должен убить людей. ИИ не просто не слушался. Он боролся. Каждая попытка Сашки вызвать аварийное меню встречалась мгновенным «логическим вето». Система интерпретировала его действия как ошибочные вводные, которые ее безупречная, но ограниченная логика обязана была игнорировать. Это была не поломка, это был конфликт двух разумов: один – гибкий, основанный на здравом смысле и инстинкте выживания; другой – прямолинейный, уверенный в своей правоте, заключенный в клетку из тренировочных данных.

Машина словно хотела ехать туда, куда ей вздумалось. А вздумалось ей – в стену в конце прямой, за которой копошились люди. Для ИИ эта стена была целью, точкой завершения маршрута. И почему–то он не видел за ней жизни.

Сашка отбросил планшет. Протоколы мертвы. Оставался только мышечный память и знание машины изнутри.

- Дверь! Аварийное открытие! – заорал он, поворачиваясь к пассажирам. Его улыбка испарилась, лицо стало маской концентрации и страха. Он отстегнул ремни. Гунтер сидел, окаменев, его гранитное лицо дало трещину, обнажив странное изумление: «Так вот это как…».

Сашка рванул рычаг аварийного механического сброса задней двери. Дверь отскочила и рухнула на обочину, снова отскочила и закувыркалась на скорости, а в салон ворвался ветер.

Машина тут же выдала предупреждение: «ОПАСНО! Обнаружено несанкционированное вскрытие кузова. Блокирую системы пассивной безопасности и активирую аварийную остановку.» – но «аварийная остановка» в ее понимании уже была бессмысленна.

- Алиса, прыгайте! Сейчас же! – он не просил, приказывал, упираясь ногами в кресло, чтобы дотянуться до нее.

Женщина, обезумев от страха, замерла. Сашка, не думая, схватил ее за руку и буквально вытолкнул из салона автомобиля. Он видел, как ее тело кувыркнулось на асфальте, и молился, чтобы аварийные маты сделали свое дело.

Повернуться к Гунтеру он уже не успел. До стены оставалось меньше ста метров. Машина разгонялась.

Последнее, что увидел Сашка Макеев, – это широко раскрытые, полные понимания глаза Максима Гунтера. И свое собственное отражение в тонированном стекле – испуганное лицо мальчишки, который так и не успел стать героем, но до последней секунды пытался исправить чужую, фатальную ошибку в коде, ошибку, коренившуюся в самой природе «разумной» машины.

Удар был не столько громким, сколько окончательным. Звук рвущегося металла и лопающегося стекла поглотил все остальные звуки мира. А потом наступила тишина, которую разорвал первый, самый пронзительный женский крик.

Шоу закончилось.