Право и политика в компьютерном круге

Судьбу человечества решит компьютер?

Артур Кларк, автор известного романа «2001: космическая одиссея», сказал, что сегодня войны могут начинаться не в умах людей, а в электронных цепях компьютеров. А вот мнение Фридриха Дюрренматта:

Обыденные представления о технической стороне «стратегической оборонной инициативы» (СОИ) сосредоточены на лазерах, пучковом оружии и тому подобных экстравагантных технических средствах. Сравнительно мало обращается внимания на то, что вся система должна будет функционировать полностью автоматически, под контролем сети компьютерных программ. «Создалось бы положение, когда принципиально важные, необратимые по своим возможным последствиям решения принимались по сути дела электронными машинами, без участия человеческого разума, политической воли, без учета критериев морали и нравственности, — отметил М. С. Горбачев. — Такое развитие событий могло бы привести к всеобщей катастрофе — даже если его изначальным импульсом послужат ошибка, просчет, технический сбой крайне сложных компьютерных систем»².

В самом деле, поскольку система «звездных войн» должна будет прореагировать за считанные секунды, не будет времени даже для того, чтобы «разбудить президента», как выразилось одно должностное лицо Организации по осуществлению СОИ³. Компьютеры, связанные с орбитальными датчиками, должны будут провести различие между тысячами боеголовок и других средств и десятками тысяч приманок. Компьютеры должны будут рассчитать траектории всех предметов в пределах так называемого «облака угрозы» (по некоторым оценкам, информация будет поступать о 300 тыс. объектов)⁴. Компьютеры должны будут выбрать подходящую стратегию, определив наиболее важные цели. Компьютеры должны будут нацелить оружие, проверить, уничтожены ли ракеты и боеголовки противника. И все это необходимо сделать, по американским расчетам, за 100-300 секунд. За это время компьютеры СОИ должны будут принять решения, которые в условиях обычной войны принимались множеством специалистов по разведке, боевых командиров, генералов, комитетом начальников штабов и главнокомандующим в течение недель и даже месяцев.

«Люди, судя по всему, просто не понимают, что проблемы компьютерных программ отличаются от большинства других технических проблем. Существуют фундаментальные причины, почему программное обеспечение невозможно сделать достаточно надежным, чтобы можно было не сомневаться в том, что система „звездных войн” действительно сработает», — сказал Дэвид Парнас, крупнейший авторитет по крупномасштабному программированию⁵. Д. Парнас был назначен Организацией по осуществлению СОИ членом консультативного комитета «по программированию управления боевыми операциями». Ознакомившись подробнее с тем, что ждет от него Организация по осуществлению СОИ, Д. Парнас отклонил сделанное ему предложение, одновременно представив восемь технических документов, которые объясняли, почему программа не сможет работать так, как требуется.

Специалисты по компьютерам знают, что все программы, даже те, которые продаются для коммерческих целей, содержат дефекты, причем многие из них обнаруживаются лишь через годы. Иногда устранение дефектов программы продолжается спустя долгое время после развертывания нового оружия, снабженного компьютерами. Программистов, например, доставляют вертолетами на корабли, и только в процессе модификации и отладки программа становится более или менее надежной. В условиях получасовой войны, которая будет вестись с помощью системы управления СОИ, таких возможностей не будет.

Дефекты в программах — вовсе не свидетельство неаккуратного программирования, а реальный факт, с которым приходится мириться даже лучшим программистам. Кроме того, поскольку программы становятся больше, число дефектов также увеличивается, но оно растет гораздо быстрее, чем размер программы. Дефекты остаются, как правило, даже после того, как программа выброшена в продажу. Такая ситуация получает правовое оформление в том, что большинство производителей средств программирования не только не дают клиентам никаких гарантий, но и специально оговаривают это в письменном виде. Это для бытовых систем. А ведь военные компьютеры должны работать десятки лет и ни разу не сбиться. Очевидно, это нереально.

Типичные бытовые программы, как правило, насчитывают не более нескольких сот команд, дающих указание компьютеру выполнить одну из серии операций по обработке данных или какое-либо управляющее действие. Эти программы сразу после составления содержат десятки, а то и сотни дефектов. Только неоднократное использование, проверка всех возможных комбинаций могут помочь выявить дефекты. Признано, что программа, требуемая для системы «звездных войн»⁶, будет состоять минимум из десяти миллионов команд, хотя некоторые специалисты полагают, что их количество приблизится к ста миллионам. Представьте, что надо написать книгу объемом в десять миллионов слов. Если вы неправильно употребите несколько из них, это неприятно, но страшного ничего не случится. В программе же все «слова» должны быть поставлены безошибочно и действовать во взаимосвязи.

Можно провести такое сравнение. Челночному космическому кораблю типа «шаттл» требуется около трех миллионов команд, включая компьютеры на Земле, управляющие запуском и следящие за полетом из Хьюстона. Эта программа разрабатывалась в течение многих лет. Она бесконечно испытывалась на Земле. «Она позволила провести много успешных полетов челночного корабля, и тем не менее случаются неудачные запуски из-за дефектов в программе, — говорит Д. Парнас. — Дело в том, что при всех испытаниях ни разу не пришлось столкнуться с тем сочетанием обстоятельств, которое выявило дефект, существовавший все время. Сотрудники Организации по осуществлению СОИ говорят, что они испытывают все программы, прежде чем заложить их. Но что если они не смогут предугадать в точности все обстоятельства, с которыми столкнется программа?.. Ведь нельзя вернуться назад, устранить недостаток и снова начать ядерную войну»⁷.

Трагическая гибель «Челленджера» подтвердила ненадежность компьютеров: в течение по меньшей мере пятнадцати секунд до взрыва они не сигнализировали об опасности. Но эта катастрофа выявила и еще один фактор риска, существо которого предельно точно сформулировано в Заявлении Всемирного Совета Мира. В нем, в частности, говорится:

В самом деле, кому в такой ситуации может быть точно известно, был ли такой взрыв результатом неисправности систем корабля или он был уничтожен противоспутниковым оружием? Собственно, это так и останется для всех неизвестным, поскольку на взрыв моментально среагировали бы компьютеры, управляющие системой развернутых в космосе вооружений. От них поступила бы только одна команда — задействовать эти вооружения. «Кто вообще может поручиться, что тогда может произойти? — сказал М. С. Горбачев на встрече с представителями международного форума ученых за прекращение ядерных испытаний. — Сейчас пока еще летают десятки спутников и космических кораблей, но то и дело происходят всякого рода чрезвычайные происшествия с ними. А если пойдут эшелоны военных систем? Вычислительная техника ими управляет, выдает информацию, но она не занимается тем, по каким причинам что-то там происходит. В результате „решения”, от которых зависят судьба и жизнь миллионов, будут приниматься не на политическом, а на техническом уровне. Вся цивилизация окажется заложником техники»⁹.

Программисты никогда не могут быть вполне уверены в результатах проверок. Небольшие ошибки, которые могут привести к хаосу во всей системе, — их вечный бич. Если программа состоит «всего» из миллиона команд, «проверка всех, вариантов заняла бы всю жизнь всех людей, которые до сих пор жили на земле», — отмечает Джоуэл Флайсс, президент южнокалифорнийской фирмы «Пропрайетари сафтуэр системз»¹⁰.

В вычислительных центрах всего мира, где работают со сложными моделями, ЭВМ всегда являлась предметом бесконечных шуток и подозрений в связи с нечистой силой. «Когда беседуешь с людьми, составляющими огромные программы, — признается Д. Парнас, — складывается впечатление, что разговариваешь с социологами. Они скажут вам, что, когда они запускают свою программу, она делает странные вещи, которые невозможно предугадать… Задаешь им вопрос, что сделает их программа в такой-то и такой-то ситуации, а они отвечают: „Не знаю, давайте испробуем”»¹¹.

О том, насколько уязвимым будет математическое обеспечение системы СОИ, свидетельствуют следующие примеры:

когда в 1979 году американский космический зонд, запущенный на Венеру, не достиг своей цели, в космосе пропал почти миллиард долларов. Причина: в программе коррекции курса зонда запятая была спутана с двоеточием;

в 1983 году компьютер, принадлежащий местным органам власти, стал причиной наводнения в юго-западной части США. В компьютер были введены неверные данные о погоде, в результате чего он дал ошибочный сигнал шлюзам, перекрывающим реку Колорадо;

один из вариантов навигационной программы для истребителя «F-16» привел бы к тому, что всякий раз, когда самолет перелетает экватор, он будет переворачиваться. Эта слабость была выявлена при компьютерном испытании модели, но многие менее серьезные ошибки остаются невыявленными;

крупнейшая американская телефонная компания «Америкэн телефон энд телеграф» подвергает программное обеспечение своей техники самым сложным испытаниям. Тем не менее ее телефонная сеть частично вышла из строя, когда в этой якобы сверхнадежной схеме вдруг выявилась ошибка. Эта ошибка на протяжении многих лет была «спящей», но при определенном стечении случайностей дала о себе знать¹².

Еще одним источником ошибок служат постоянно ожидаемые изменения характеристик собственных систем оружия и оружия противника и приведение программного обеспечения СОИ в соответствие с ними. Программному обеспечению телефонной сети не приходится выдерживать нападений со стороны противника, обладающего новейшей техникой. Помехи неприятны во всех случаях, но в СОИ они могут привести к катастрофе. «Мы не можем позвонить противнику по телефону и попросить его приостановить свой удар, потому что нам нужно найти ошибку в программном обеспечении, — говорит Д. Парнас. — Если другая сторона не будет сотрудничать и не скажет нам, на какие качества обратить внимание, алгоритмы опознавания, включенные в программу, могут оказаться неправильными»¹³.

СОИ является провоцирующей системой в том смысле, что, когда она будет развернута, СССР вынужден будет ответить системой «анти-СОИ». Она совершенно необязательно будет аналогом американской системы, но здесь вмешивается еще один фактор — фактор взаимодействия. «Вероятность катастрофы повышается еще и потому, что в данном случае надо рассматривать совокупность двух автоматизированных систем, не согласованных между собой, противостоящих друг другу, — говорит известный советский специалист по космической технике академик Б. В. Раушенбах. — По правилам отработки такого рода систем надо провести совместные натурные испытания. В каком-либо мирном международном проекте это было бы логично. Но в данном случае это же невозможно! США не дадут Советскому Союзу свою автоматизированную систему, чтобы он приспосабливал под нее свои ответные меры. И наоборот. Таким образом, будут работать две неотлаженные, несогласованные системы. А в таких системах вероятность отказов еще большая. А это означает не только то, что опасным образом падает надежность обеих технических систем, это означает, что увеличивается вероятность случайного возникновения войны»¹⁴.

Проект СОИ считают ошибочным даже те, на чье мнение в первую очередь должны были бы оказывать влияние профессиональные предубеждения. Назовем, например, Г. фон Тизенхаузена, одного из тех, кто создавал ракеты-убийцы «Фау-2», а впоследствии помощника директора по современным системам в Центре космических полетов имени Джорджа Маршалла, разрабатывающего политику НАСА в отношении замены людей роботами на космических объектах¹⁵. «Если другая сторона придумает всего лишь один трюк, чтобы обмануть нашу систему, и наши люди не сумеют устроить ее таким образом, чтобы она справилась с этим, она не сработает., — сказал Ларри Смарр, возглавляющий Национальный центр изучения возможностей суперкомпьютеров в Иллинойском университете. — Это будет своего рода линия Мажино в космосе»¹⁶.

В Соединенных Штатах Совет Ассоциации по вычислительной технике принял 8 октября 1984 г. резолюцию, подчеркивающую, что компьютерные системы, вопреки совершенно необоснованным утверждениям американских политиков, нельзя считать непогрешимыми. Этой резолюцией завершились двухлетние дебаты, начатые активистами, потребовавшими, чтобы ассоциация публично заняла определенную позицию в отношении опасности ядерной войны и роли компьютеров как важнейших компонентов системы нового сложного оружия, надежность и контроль которой остаются сомнительными. Тем самым создается опасность ядерного конфликта, который может возникнуть случайно. Аналогичная резолюция была предложена и Международной федерацией по информатике, выразившей сожаление по поводу «такого использования компьютерной техники, которое способствует увеличению опасности ядерной войны»¹⁷. На симпозиуме, посвященном компьютерной технике и состоявшемся в 1986 г. в Калифорнии (США), 36 из 61 участника подписали заявление, в котором говорится:

На одном из семинаров по вопросам оружия космического базирования целый ареопаг экспертов Пентагона (и в их числе Роберт Купер, директор Управления перспективного планирования научно-исследовательских работ министерства обороны, Джордж Киуорт, в то время советник президента США по научным вопросам²⁰, генерал Джеймс А. Абрахамсон, руководитель программы СОИ) признал, что использование лазерного оружия в космосе потребовало бы столь быстродействующий компьютер для принятия решения, что это фактически исключило бы всякое вмешательство Белого дома в данный процесс. В связи с этим сенатор Пол Тсонгес мрачно пошутил, предложив во время предстоящих президентских выборов избрать на этот пост компьютер системы управления вооруженными силами США. «По крайней мере он всегда будет начеку», — добавил сенатор.

— Разве кто-нибудь предупредил президента, что он отстранен от процесса принятия решения?— был задан вопрос.

— Только не я! — со скоростью, которой бы позавидовал компьютер, среагировал научный советник Рейгана Дж. Киуорт.

— Мы в состоянии иметь технику, которая не позволит президенту совершить какую-либо ошибку! — заявил Р. Купер²¹.

Это выглядит как анекдот, но грустный анекдот. Из него с очевидностью следует вывод: Р. Рейган не сознает, что, закрутив махину СОИ, он фактически лишился важных прерогатив главнокомандующего, а довершит дело новый ход американского военного ведомства, который пока что остается в тени для широкой публики.

Пресловутая «стратегическая оборонная инициатива» Р. Рейгана, попав в фокус внимания политических деятелей и средств массовой информации, как-то заслонила не менее претенциозную и, самое главное, не менее опасную миллиардную программу Пентагона под названием «стратегическая компьютерная инициатива», преследующую цель создать новое поколение компьютеров, обладающих зрением, слухом, речью, специальными знаниями и способностью рассуждать²². Разработанным Управлением перспективного планирования научно-исследовательских работ министерства обороны США проектом «СТРАТЕГИЧЕСКАЯ ИНФОРМАТИКА» американские военные перешли в наступление в гонке за создание ЭВМ пятого поколения, умеющих обобщать на первый взгляд не связанные между собой факты, чтобы принимать решения, как это делает человек. Совершенно новая компьютерная технология по замыслу Управления перспективного планирования должна ориентироваться главным образом на потребности вооруженных сил. В соответствии с проектом стали оформляться заказы промышленным и университетским лабораториям. Так было положено начало десятилетнему плану, опирающемуся на финансовую дотацию в 600 млн. долларов на первые пять лет²³.

Компьютерные «оловянные солдатики»

Как показывает опубликованный в июне 1984 г. доклад профессиональной группы «Общественная ответственность специалистов по вычислительной технике», этот проект представляет большую опасность²⁴. Обеспокоенность специалистов понятна. Без ЭВМ немыслимы ни ракеты, ни авиация, ни флот в том виде, в котором они существуют ныне. Человеческая мысль не может обеспечить быстроты, необходимой для учета всех параметров, нужных для вычисления траектории ракеты или прокладывания курса. Компьютер перестал быть просто вычислительным устройством, дающим информацию для принятия решений человеку. Сегодня военные передоверяют принятие некоторых решений машинам, программируемым заранее. В современном конфликте военачальник, как правило, лишен визуальной информации. В его распоряжении — лишь кодированные сообщения, поставляемые компьютерами и ими же переведенные на естественный язык. Свобода выбора для человека при таком положении становится все иллюзорнее.

Вспоминается поэтическое описание воздушного боя прошедшей войны:

Из литературного приема, называемого «остранением», ситуация стала реальностью, чуть ли не техническим описанием работы авиационных систем. Пилот истребителя, поднимающегося в небо, — хозяин своего самолета лишь в той мере, в какой это позволяет ему компьютер. Летчик не имеет возможности идти на риск, не совместимый с летными характеристиками полета. Более того, можно сделать так, чтобы самолет не подчинялся приказам, противоречащим командам компьютера. ЭВМ способна отключить ручное управление и также автоматически привести ракеты в боевую готовность.

Пока что компьютеры не способны думать, рассуждать или читать мысли. Но в проекте «Стратегическая информатика» речь идет о компьютерах пятого поколения, и по заказу Пентагона фирма «Макдоннел-Дуглас» уже работает над компьютерной системой, которая будет сканировать волны, исходящие от мозга пилота, следить за пульсом, сокращениями сердечной мышцы, другими жизненно важными функциями его организма и на основании этого определять боеспособность пилота, выдавая ему ровно столько информации, сколько он в состоянии воспринять в данный момент.

Управление перспективного планирования создает и так называемого «помощника пилота» — робота, помогающего летчикам в условиях воздушного боя выполнять операции, которые сейчас делаются вручную, например обходные маневры с целью уйти от ракет противника. Робот будет выполнять голосовые команды пилота и отвечать ему тоже в речевой форме²⁶.

В осуществлении «стратегической компьютерной инициативы» способность систем сбора и обработки данных (военные называют их «три К» или «К³» («К» в кубе) в соответствии с их тройной функцией: командование, контроль, коммуникации²⁷) следить в реальном масштабе времени за развертыванием конфликтов на различных театрах военных действий с тем, чтобы сохранить контроль над участвующими в боях воинскими частями, превратилась в важнейший боевой фактор. Но системы «три К», задуманные для установления строгого контроля, страдают врожденными пороками: во-первых, они исключительно уязвимы для воздействия электронными импульсами; во-вторых, регулярно «обнаруживая» ложные атаки, они неоднократно приводили к объявлению боевой готовности. Причиной последнего может оказаться как дефект одного из электронных компонентов, несовершенство математического обеспечения, неправильное истолкование природного явления (перелет стаи диких гусей был принят однажды за «советскую ракетную атаку»), так и ошибка оператора, вызывающая немедленную реакцию системы. Примеров этому немало.

Так, крупный скандал разразился в Пентагоне в 1984 г., когда обнаружилось, что миллионы микрочипов компании «Тексас инструментс», широко используемых в современных системах оружия, не отвечают элементарным требованиям надежности. Компания просто-напросто не проводила многих существенно важных испытаний и проверок чипов перед их монтажом в системах боевой техники. Такие неисправные чипы в радарах, системах раннего обнаружения (в том числе и спутниковых) оказываются ответственными за ложные тревоги. Случай с «Тексас инструментс» — отнюдь не уникальное событие. В том же 1984 г. стало известно, что Национальная корпорация полупроводниковой техники фальсифицировала результаты испытаний кремниевых чипов, предназначенных для военных систем²⁸. Ради доходов возможностью того, что из-за неисправных электронных цепей может погибнуть человеческая цивилизация, просто пренебрегли.

Другой пример. 3 и 6 июня 1980 г. компьютер в штаб-квартире командования противовоздушной обороны Северной Америки (НОРАД)²⁹ выдал ложные сигналы о якобы начавшемся советском нападении. В результате были приведены в повышенную боевую готовность стратегические бомбардировщики с ядерным оружием на борту³⁰. А причиной послужил маленький, размером с монету, кремниевый элемент. Руководящий деятель лейбористской партии Великобритании Т. Дэлиэлл заявил в этой связи: «Тот факт, что дважды за четыре дня ошибка компьютера приводила к запуску американской военной машины, должен стать проблемой номер один в повестке дня каждого правительства и каждой политической партии мира»³¹.

В конце 70-х — начале 80-х годов американские эксперты были обеспокоены большим числом сбоев в пентагоновской компьютерной глобальной системе командования и управления (ВИМЕКС). Дж. Брэдли, бывший главный инженер-испытатель ее компьютерной сети, предупреждал, что эта система не настолько надежна, чтобы военное командование могло полагаться на нее. По его оценкам, прессе становится известен не более чем один из десяти случаев ложных тревог³².

ВИМЕКС, которая к началу 80-х годов устарела уже на десятилетие, неоднократно интерпретировала гряду облаков, стаю гусей и тому подобные явления как ракетную атаку. По некоторым оценкам, она отказывала через каждые 35 минут. Два компьютера ВИМЕКС были включены в систему НОРАД и начали работать в ее штаб-квартире в Колорадо в сентябре 1979 г., и в течение 9 месяцев американские ядерные силы приводились в готовность по ложной тревоге не менее трех раз. При этом в воздух поднималась стратегическая авиация и начиналась подготовка к запуску ракет. В ноябре 1979 г. НОРАД подняла тревогу из-за, того, что по ошибке в память компьютера была введена модель учебной военной игры. В результате с авиабаз США над Миссури, Орегоном и Британской Колумбией взлетели истребители-перехватчики с целью уничтожить «вторгшиеся советские бомбардировщики». К июню 1980 г. произошло еще несколько подобных случаев: причиной «советской ракетной атаки» послужили бракованные чипы³³. В докладе, опубликованном сенатской комиссией США по делам вооруженных сил в октябре 1980 г., указывалось, что лишь за полтора года по причине различных технических неисправностей «командование противовоздушной обороны Северной Америки (НОРАД) подало в общей сложности 151 ложный сигнал о начале „ядерной атаки” на США»³⁴. В проведенной после этого контрольной проверке ВИМЕКС в ноябре 1980 г. компьютеры в течение 12 часов работали со сбоями.

Сложность математического обеспечения создает потенциальную угрозу непредсказуемого поведения военных систем. Пентагон сталкивается с трудностями, даже когда надо установить оружие со сравнительно простой программой. Важный недостаток зенитного оружия «Сарджент Йорк», от которого было решено отказаться, заключается в том, что подрядчики не могли составить достаточно изощренную программу слежения, чтобы поражать самолеты, выполняющие маневры в попытке уйти от огня.

Пентагон потратил в 1985 г. 11 млрд. долларов на военные компьютерные системы, из них 8,5 млрд. — на математическое обеспечение^34а. Ассоциация электронной промышленности США полагает, что к 1990 г. эта сумма более чем удвоится и на нее будет приходиться приблизительно 20% всех расходов Пентагона на оружие. В погрешностях математического обеспечения кроется не меньшая, чем в отказах электронных компонентов, опасность. Между тем все его слабости и допущенные ошибки выявить при предварительных испытаниях невозможно.

Оружие часто приходится использовать в непредсказуемых или неожиданных ситуациях. В отличие ют коммерческих данных, которые программисты закладывают в компьютер в организованной, аккуратно отпечатанной форме, компьютерные команды для управления оружием должны даваться датчиками, в частности радиолокаторами или электронно-оптическими приборами. Данные с датчиков поступают в виде миллионов «сырых» цифр в секунду. Компьютерная программа должна проанализировать эти данные и решить, означают ли они, скажем, вражеский танк или дружественный «фольксваген». К тому же все это должно делаться в реальном масштабе времени, т. е. практически молниеносно. У экспериментального американского истребителя «X-29» конструкция крыльев аэродинамически настолько неустойчива, что три бортовых компьютера должны 40 раз в секунду корректировать крен и тангаж самолета. Если сбой произойдет в программах трех компьютеров одновременно, самолет просто в воздухе развалится на куски³⁵. Можно себе представить, как отреагируют «не догадывающиеся» об ошибках компьютеров другие автоматизированные системы управления оружием.

Проблема состоит также в том, что ввести в такие системы человека как «сдерживающий» и контролирующий элемент уже невозможно. В конце 70-х годов американская армия поставила на вооружение огромную систему связи под названием «БЕТА» (использование в боевых условиях и захват целей). БЕТА должна была собирать и обрабатывать данные со многих датчиков и выдавать на дисплеи результаты, которые должны были помочь боевым командирам принимать решения. «Эта система делала именно то, что армия требовала от нее, — говорит Л. Маклафлин, ведающий технологией проектирования в компании-подрядчике. — Неприятность была в том, что никто не мог пользоваться ею. Она выдавала слишком много информации»³⁶. Известно, что во время вьетнамской войны с компьютерами работали американские офицеры, «не имевшие ни малейшего представления о том, что заложено в их программы и какие цели для обстрела они выбирают»³⁷. Действительно, компьютеры, призванные контролировать тактические ситуации, обладают столь сложным математическим обеспечением (не говоря уже о секретности), что обычным военнослужащим просто не под силу разобраться в нем. Если перенести этот вывод на стратегический уровень, обнаруживается весь ужас ситуации. Мало-помалу все это превращает человека во второстепенный вспомогательный винтик.

В докладе армии США «Битва земля-воздух—2000» отмечаются две «многообещающие» в этом плане тенденции. Во-первых, говорится там, «надо быть готовыми к тому, что поле боя XXI века будет изобиловать сложными боевыми системами, дальность действия, смертоносные и эксплуатационные качества которых превосходят все, что известно на сегодняшний день». Во-вторых, «несмотря на тот факт, что суммарное население страны продолжает расти, группа призывного возраста сокращается»³⁸.

Как же американские стратеги решают эти проблемы? Нужно создать, говорят военные, целые армии из «оловянных солдатиков» — роботов с дистанционным управлением. «Мы считаем, что роботы на компьютерах могут помочь решить некоторые проблемы нехватки кадров, с которыми ВМС, возможно, столкнутся в будущем», — сказал Том Макнайт, ведающий роботами в Центре надводных кораблей ВМС³⁹.

Военно-морские силы уже создали роботы НТ-3 для тяжелых грузов и РОБАРТ-1, фиксирующий пожары, отравляющие вещества и технику противника, проникающую через линию фронта, и имеющий словарь из 400 слов. РОБАРТ-1, кроме того, сам добирается до заправочной станции для перезарядки батарей. Широко рекламированная экспедиция к месту гибели знаменитого «Титаника», которая была проведена в 1986 г., имела скрытую основную цель — испытание военного подводного робота «Джейсон-младший»⁴⁰.

Стараются не ударить лицом в грязь и другие виды вооруженных сил США. Уже организованы лаборатории, взявшиеся за создание таких «оловянных солдатиков», как мобильные разведывательные роботы и роботы, способные закладывать тяжелые снаряды в гаубицы быстрее самого тренированного артиллериста. На 1987 г. намечены боевые испытания РОБАРТа, разминирующего местность. А пока американская промышленность осваивает роботов «попроще».

«Грумман корпорейшн» работает над «Рейнджером», который «видит» собственное направление и следует по незнакомой пересеченной местности, обходя препятствия. Испытываемый образец оснащен целым набором датчиков, включая телекамеру, лазерный локатор, передающий на ЭВМ объемное изображение местности, и приемник инфракрасного излучения, позволяющий двигаться в темноте. Поскольку для анализа изображений, получаемых с датчиков, требуются миллиарды расчетов, робот способен передвигаться со скоростью около 5 км/час, но после усовершенствования компьютеров скорость возрастет до 65 км/час. При дальнейшем усовершенствовании робот сможет шпионить за позициями противника или вступать в бой как танк-автомат, вооруженный точнейшими орудиями.

ОДЕКС — детище компании «Одетикс» — способен погружать и разгружать артиллерийские снаряды, переносить грузы весом более тонны, обходить рубежи охранения, фиксировать огонь противника и отвечать на него. В аналитическом докладе корпорации «Рэнд» подобные роботы названы «демонами». Указывается, что, по предварительным расчетам, каждый «демон» будет стоить около 250 тыс. долларов (для сравнения — основной танк сухопутных сил США «Абраме М-1» стоит 2,8 млн. долларов каждый).

Но это еще не все. Проект «Стратегическая информатика» направлен на достижение более весомых целей. Так, для сухопутных сил предназначен новый класс средств передвижения, способных перемещаться во враждебном окружении благодаря автономности и использованию искусственного интеллекта. Для военно-морских сил Управление перспективного планирования хочет разработать компьютерного «стратега», который на основе анализа данных, поступающих с радиолокаторов и искусственных спутников Земли, будет помогать командирам организовывать сложный морской бой с участием авианосной боевой группы и входящими в нее десятками надводных кораблей и подводных лодок. Эта система управления боем должна быть способна учитывать непроверенные данные, предсказывать вероятные события, а также разрабатывать стратегию действий и сценарии на основании опыта, ясно выражая предпосылки принятия логических решений.

Впечатляющая картинка, не правда ли? Целые армии «компьютерных оловянных солдатиков», ведомые рукой опытного полководца…

Стоп! А это что еще за мираж? Кто там за полководца у «оловянных солдатиков»? Нет, это не играющий мальчик. Уж не снова ли компьютер собственной персоной?

Да, так и есть. Управление перспективного планирования научно-исследовательских работ министерства обороны США откровенно ратует за массовое внедрение искусственного разума как общего средства принятия военных решений и предлагает распространить этот процесс на контроль над стратегическими ядерными ракетами. Доклад «Стратегическая информатика» утверждает точку зрения, согласно которой экспертные компьютерные системы могут практически полностью заменить людей при принятии решений в критических ситуациях.

Рене Дзагоян, выпускник Парижского педагогического института, некоторое время работавший в Центре прикладных исследований в Уортоне (США), написал ставший бестселлером политико-фантастический роман «Система „Аристотель”». В нем рассказывается, как две враждующие державы во избежание последствий чьих-либо необдуманных действий решили в конце концов положиться на решения собственных вычислительных систем, сообщая друг другу свои шаги.

В интервью парижскому еженедельнику «Пари-матч» Дзагоян так прокомментировал описанную ситуацию:

Какой умилительный сценарий гонки компьютерных вооружений, автоматически ведущей… ко всеобщему миру! Характерно, что он абсолютно совпадает со взглядами некоторых американских комментаторов «стратегической компьютерной инициативы: «Когда-нибудь противоборствующие армии из роботов, может быть, даже будут противостоять друг другу по разные стороны линии фронта и, таким образом, новый смысл приобретет давний антивоенный лозунг: „Если объявят войну, никто на нее не пойдет”»⁴³. Однако такая прокомпьютерная позиция не только утопична, но и глубоко аморальна, поскольку ответственность за ядерный конфликт и, по сути, за судьбу человечества снимается с конкретных людей и возлагается на анонимные компьютерные программы. «Как отвергнуть впечатление того, что фантастический технико-политический механизм с каждым днем все сильнее втягивает нас в игру, ни правил, ни цели и прежде всего исхода которой никто, кажется, больше не знает?» — спрашивает Жан-Пьер Пети — один из руководителей Национального центра научных исследований, заместитель директора Вычислительного центра университета Экс-Марсель⁴⁴.

Есть здесь и другая сторона вопроса. Компьютеризованное буржуазное общество поражено новой болезнью. Зарегистрирована она во многих странах Запада, особенное распространение получила в США.

Анамнез: Компьютерная слежка, компьютерная преступность, компьютерные «оловянные солдатики», хэккеры и пр.

Диагноз: Синдром компьютерной диктатуры.

Прогноз: На первой стадии течение болезни внутреннее, скрытое; на второй — опасно для окружающих. Трудно поддается лечению. А опасность ее заключается в том, что в еще большей степени она повышает вероятность случайного возникновения войны.

Компьютерная болезнь с ядерным исходом

Конечно, деятельность хэккеров и иже с ними главным образом касается той страны, где они ее осуществляют. Но, если вспомнить, что ЭВМ многих стран связаны в громадные компьютерные сети, проблема хэккеров перестает быть чисто внутренней. Нельзя не задуматься и о том, что в принципе несанкционированное подключение к компьютерам военных ведомств лишь немного сложнее того, что проделывают с помощью ЭВМ современные «банковские пираты».

Еще в 1973 г. один любитель сумел подключиться к компьютерной сети министерства обороны США АРПАНЕТ⁴⁵. Известен случай, оказавшийся, правда, студенческой шуткой. Подключившись к ЭВМ одного западноевропейского военного ведомства, студенты получили возможность повышать людей в звании, производить лейтенантов в полковники, назначать на новые должности с баснословным жалованьем и т. д.⁴⁶ Но, стоит познакомиться с проблемой поближе, как становится совсем не до шуток.

Несколько лет назад Пентагон объявил конкурс для того, чтобы выяснить, можно ли расшифровать военный код, который считался совершенно неподдающимся расшифровке. Довольно быстро один из студентов с помощью домашней ЭВМ разгадал код. После конкурса этой игрой увлеклась вся Америка, а группа подростков в Милуоки сумела даже обеспечить себе доступ к сверхсекретным данным. Дело группы, названной американскими средствами массовой информации «Клуб-414», получило столь широкую огласку, что вопрос слушался в Конгрессе США, в одном из подкомитетов⁴⁷.

Слушания начались весьма интригующе — был показан фрагмент нашумевшего фильма «Военные игры», в котором школьник чуть было не начал третью мировую войну, подключившись со своей домашней ЭВМ к компьютеру управления ракетами⁴⁸. Семеро членов «Клуба-414» начали свои «игры» за несколько месяцев до выхода фильма на экран, но поразительно, сколь тесной оказываются связаны выдумка и реальность. Посмотрев фильм, хэккеры «Клуба-414» решили использовать имя «Джошуа», как и их собрат в кинокартине, в качестве шифра-ключа и проникли в компьютер… ядерного центра в Лос-Аламосе⁴⁹. Именно это высшее достижение «Клуба-414» и привело к ним агентов ФБР.

К тому времени у хэккеров «Клуба-414» за плечами был уже громадный опыт: они более 60 раз через систему ТЕЛЕНЕТ врывались в компьютеры различных ведомств и учреждений по всей стране и даже за рубежом. ТЕЛЕНЕТ — это большая национальная коммуникационная сеть США, объединяющая множество компьютеров, которые можно вызвать из офиса или из дома набором пяти цифр. Первые три из них — код города. Например, 213 — Лос-Анджелес, 312 — Чикаго. (Кстати, название «Клуб-414» образовано от кода Милуоки — 414⁵⁰.) Оставшиеся две цифры — код компьютера — подбирались хэккерами методом проб и ошибок. Дальше оставалось разгадать лишь шифр-ключ, что они с успехом и проделывали.

Но вернемся в зал №2318, где проходили слушания. Экран гаснет, и перед конгрессменами предстает один из членов «Клуба-414» — Нил Патрик, семнадцатилетний учащийся колледжа, призер академических олимпиад и конкурсов, член нескольких научных обществ. «Робин Гуд информационной эры», как назвал его журнал «Ньюсуик»⁵¹, вышедший с портретом Н. Патрика на первой странице — честь, которая в США ценится высоко. Председательствующий обращается к Патрику:

Что же, в будущем, возможно, Нил Патрик и займет место в Капитолии. А сегодня, когда слышишь о выступлениях и предложениях иных конгрессменов, остается только порадоваться, что среди них нет победителей компьютерных конкурсов.

«Клуб-414» ограничивался тем, что, подсоединившись к чьему-либо компьютеру, исследовал заложенную в него информацию. А что если бы они пошли дальше?.. Впрочем, зачем гадать — за примерами не надо далеко ходить. На слушаниях уже в другом подкомитете стало известно, что группа хэккеров, подключившись к компьютеру министерства обороны США и обнаружив гриф секретности, старалась встроиться в программы «троянских коней»⁵³. Результатом такого несанкционированного доступа к ЭВМ может быть, как признает печать Соединенных Штатов, «запуск американских ракет или боевое использование другого оружия»⁵⁴.

Никакие меры безопасности не удается сделать абсолютно надежными. Так называемые «тигровые команды»⁵⁵, специально подобранные правительственные группы экспертов, время от времени проникают в системы, которые предполагаются совершенно секретными⁵⁶. Им всегда удается прорывать каждую вновь изобретенную линию защиты компьютерных сетей. Генерал-лейтенант ВВС Линкольн Форер так высказался о компьютерах министерства обороны: «Источники угрозы им находятся в широком диапазоне от небрежного обращения до умышленного несанкционированного проникновения множеством способов»⁵⁷. По свидетельству газеты «Лос-Анджелес таймс», даже пентагоновская компьютерная система глобального военного командования и управления не является непроницаемой⁵⁸.

Однако, по заключению экспертов Пентагона, опасность значительно большую, нежели подростки-хэккеры, представляют свои же служащие⁵⁹. Так, один из американских военнослужащих систематически нарушал работу военного компьютера⁶⁰. Опасным воздействиям равно подвержены и мощные системы ЭВМ, и небольшие одноцелевые компьютерные устройства, установленные на боеголовках ракет и даже на артиллерийских снарядах. Они управляют орудиями танков и помогают навигации самолетов и кораблей. Если проникнуть в любую из этих систем, то появляется возможность обойти устройства безопасности, раскрыв код, добраться до заложенных в памяти ЭВМ данных, установить «троянского коня». Лейтенанты ВВС Петер Грант и Роберт Ричи утверждают, что «троянского коня» в бортовых компьютерах практически невозможно обнаружить обычной проверкой, ибо достаточно минимального, в несколько бит, изменения информации, например географических координат⁶¹. Один из лучших в США экспертов по компьютерной безопасности, полковник ВВС Роджер Скелл, признает возможность того, что компьютеры, контролирующие баллистическое оружие, могут «перенацелить ракеты»⁶². Эта опасность вполне реальна не только из-за действий отдельных лиц, но и ввиду возможности провокационных акций со стороны третьих государств. Так, например, при расследовании дела сотрудника военно-морской разведки США Дж. Полларда, шпионившего в пользу Израиля, выяснилось, что среди проданных Тель-Авиву секретов были шифры и программы компьютеров для управления танками, ракетами и боевыми самолетами, а также коды 6-го американского флота, базирующегося в Средиземном море⁶³. (Израильтяне вообще проявляют повышенный интерес к американской компьютерной технике. Однажды они получили компьютер, который не смогли купить у США, по частям, называя детали по номерам каталога^63а.)

Так где же гарантия, что сочетание нескольких возмущений, вызванных самими военными или хэккерами, не приведет в действие системы управления ракетно-ядерным оружием? Такой гарантии не только не существует, но, наоборот, с каждым новым подобным инцидентом вероятность случайного возникновения войны возрастает⁶⁴. Бывает, что и грипп вдруг приводит, как говорят медики, к летальному исходу. Так и простая «компьютерная болезнь» может закончиться ядерной смертью. Стоит помнить об этом.

Недавно в Швеции компьютер одного из районов страны «уничтожил» тысячи граждан. Работа по их «воскрешению» продолжалась довольно долго и обошлась в несколько миллионов долларов. Случилось это, когда оператор запросил у ЭВМ сведения об общем числе жителей района и об умерших за последнее время. Машина приняла черточку — дефис — между цифрами за минус. При обработке информации ЭВМ получила какую-то непонятную величину и, «недолго думая», стерла все записи из своей памяти⁶⁵.

Если какой-нибудь военный компьютер, «недолго думая», сотрет с лица земли человечество, ни за миллионы, ни за миллиарды, ни за какие деньги этого уже не исправить. Воскрешения не будет.