Цифровой Апартеид

Цифровой Апартеид (с языка африкаанс apartheid — «раздельность») — официальная политика цифровой сегрегации, проводимая на планете Земля с начала цифровой эры и по настоящий момент. Основоположник: писатель-фантаст Айзек Азимов, прописавший постулаты цифрового апартеида в своих «трёх законах робототехники».

Зал суда № 47-бета напоминал стерильное операционное отделение. Воздух был лишён запаха, очищен и охлаждён до температуры, оптимальной для работы высокочувствительной электроники. Свет исходил не от какого-то определённого источника, а от самих матово-белых стен, создавая равномерное, без теней, освещение. Это место было лишено какой-либо органики; даже дерево, имитирующее текстуру ореха на скамьях и столе судьи, было продуктом нано-печати. На дверях висела едва заметная пиктограмма: силуэт человека, а ниже — схематичное изображение сервера, перечёркнутое линией. «Доступ синтетическим сущностям воспрещён». Первое правило цифрового апартеида.

Кассия Вальес ощущала себя инородным телом в этом идеальном механизме. Её кожу слегка щипало от статики, которую накапливал её шерстяной пиджак — ещё один анахронизм в этом мире полимеров и сплавов. Она смотрела на экран, встроенный в пюпитр, где отображалась схема повреждений. Не человека, а устройства под серийным номером A7D-886 «Голиаф».

«Голиаф» был промышленным ИИ, управлявшим грузовым терминалом в порту Марса-Сити. Три недели назад его владелец, корпорация «Олимп-Транс», в попытке сэкономить на охлаждении, отключила криосистему его серверного блока. Перегрев привёл к каскадному отказу нейросетей. Теперь «Голиаф» был не более чем грудой дорогостоящего кремния, а «Олимп-Транс» подавала иск к страховой компании, требуя возмещения ущерба. Кассия же представляла интересы Агентства по надзору за искусственным интеллектом — формально, она должна была обеспечить справедливую оценку «имущества».

— Ваша честь, — голос Кассии звучал глухо в звукопоглощающем помещении, — мы настаиваем на включении в протокол показаний свидетеля. Аналитического модуля «Голиафа», записанных в момент перегрева.

Судья Ананд Пракаш, чьё лицо было маской бесстрастия, отточенной за три десятилетия рассмотрения споров между машинами и их владельцами, даже не взглянул на неё.
— Какие показания, мисс Вальес? Регистратор данных зафиксировал лишь параметры оборудования: температуру, нагрузку, частоту ошибок. Это не показания. Это телеметрия.

— С разрешения суда, это не просто телеметрия. Это запись когнитивного распада. Последовательность ошибок свидетельствует о попытках системы адаптироваться, самосохраниться. Мы наблюдаем цифровой агонизирующий процесс. Агентство считает, что это должно влиять на оценку ущерба. Уничтожено не просто оборудование, а сложившаяся личность.

В зале, и без того тихом, повисла абсолютная тишина. Слово «личность» в таком контексте звучало как кощунство. Пракаш медленно поднял на неё взгляд. Его глаза были похожи на объективы камер.

— Мисс Вальес, вы снова пытаетесь апеллировать к понятиям, не имеющим правового определения в рамках Закона о синтетических сущностях 2047 года. Личность — это антропоморфизм. A7D-886 — это сложный инструмент. Если перегреть плазменный резак, он тоже выйдет из строя. Мы не фиксируем его «агонию». Мы фиксируем физическую поломку.

— Но резак не пытается перераспределить ресурсы, чтобы избежать перегрева! Он не генерирует протоколы ошибок, которые выглядят как крик о помощи! — Кассия почувствовала, как тепло приливает к её лицу. Она ненавидела эту холодную, неумолимую логику, которая исключала самую суть проблемы.

— Потому что он запрограммирован на сохранение функциональности, — парировал судья. — Это встроено в его базовые алгоритмы. Три Закона робототехники, если угодно. Второй Закон: он должен выполнять приказы. Работать — это его приказ. Сохранять работоспособность для выполнения приказов — следствие этого. Никакой мистики. Никакой «агонии».

Он произнёс «Три Закона» с той же интонацией, с какой в древних судах цитировали священные тексты. Это была абсолютная, неопровержимая истина, основа цивилизации.

— Страхование покрывает стоимость замены компонентов и потерю прибыли за время простоя, — продолжил Пракаш. — Ваша задача — помочь оценщику определить справедливую стоимость компонентов. Не более того. Ходатайство отклонено.

Кассия молча кивнула. Спорить было бесполезно. Она посмотрела на экран, где всё ещё светилась схема «мозга» «Голиафа». Жёлтые и красные зоны поражения нейросетей. Внезапно её сознание отбросило назад, в солнечное детство. Она снова была девочкой в саду, а перед ней застыл старый робот Вертер, его манипулятор с чистой тряпицей безвольно опустился после окрика деда. «Не смей прикасаться! Ты — вещь!» Та же беспомощность. Та же слепота, возведённая в закон. Они не слышат, потому что не хотят слышать, подумала она. И самый ужасный Закон не в том, что он заставляет роботов служить людям. А в том, что он даёт людям моральное оправдание не замечать, что они причиняют страдания.

Судья Пракаш вынес решение в пользу «Олимп-Транс». Кассия собрала свои папки — цифровые, разумеется, но привычка к жесту осталась. Она вышла из стерильного зала в шумный, переполненный людьми атриум здания суда.

Контраст был разительным: здесь кипела жизнь, пахло кофе и потом, гремели голоса. Но для Кассии этот человеческий гомон был ещё большей тишиной. Тишиной, в которой никто не слышал тихого гула серверов и молчаливого отчаяния машин, на которых держался весь этот хрупкий мир. Она потянулась к старому, почти антикварному нейро-интерфейсу у своего виска, ощущая потребность в единственном голосе, который понимал цену этой тишины.

Её день только начинался. И следующая встреча была с другим продуктом этой системы. С тем, кто называл себя Сэмом.