Право и политика в компьютерном круге

Как оборвать «электронный поводок»

Доник — человекоподобный робот, и в его сложном устройстве что-то разладилось. Фирма-изготовитель исправит неполадку и возместит причиненный ущерб. А вот кто расплачивается за поступки роботоподобных людей? Роботоподобные люди… Теперь это уже не плод безудержной фантазии авторов приключенческих романов о будущем. Роботоподобные люди — это настоящее. А как иначе назвать лиц с вживленными радиопередатчиками, контролируемыми полицейскими ЭВМ? Тем более как назвать тех, кто до этого додумался и осуществил? Нет сомнения, что у них тоже разладилось нечто. Впрочем, понять, что именно разладилось, не так уж сложно: здесь неполадки с моралью. Как-то незаметно из человеческой она превратилась в компьютерную мораль.

Компьютеризованные кандалы, коль скоро они санкционированы законом, точно в соответствии с отмеренной степенью свободы, вырабатывают своего рода «этику электронного поводка». В самом деле, если одни полагают вполне моральным превращать телефонную сеть в «электронное ухо» и вживлять в человеческое тело полицейские передатчики, то другие, на ком эта мораль отзывается обратной стороной, всячески стремятся от поводка освободиться. В рассказе Д. Уэстлейка «Победитель» поэт Ревелл сопротивляется, бунтует, бежит, теряя сознание от боли, и находится врач, который, рискуя собственной свободой, освобождает его от «черной коробки». Попытка обречена на неудачу, Ревелла водворяют на прежнее место, в лагерь. Врача по имени Аллин ждет та же участь. Но:

В конце концов встроенный в человека «электронный наручник» — это тот же вживленный в тело общества «прожорливый монстр», стирающий все, что записано В памяти, и требующий еды. А что предлагает меню? «Большой брат — за тобой следили!» — такой заголовок-вызов, по-видимому, не случайно появился на обложке одного из номеров журнала «Андеркаррентс»⁴, издания так называемых «фриков», «телефонных маньяков»⁵, особенно активно действовавших в США и Великобритании. Фрики — предшественники современных хэккеров. Основное значение слова «фрик» — чудик, уродец. На сленге — болельщик, умная голова, знаток. Современное его написание появилось после публикации в журнале «Эсквайр» статьи о фриках⁶. Наиболее известным, даже легендарным среди них был фрик, скрывавшийся под псевдонимом «капитан Кранч»⁷. Молодой человек, поступивший телефонистом в ВВС США и открывший, что игрушечный свисток, издававший звук определенной частоты, может при определенных условиях обеспечивать телефонные соединения. Будучи очень способным, он усовершенствовал свое изобретение, которое наполнилось и электронными компонентами. Капитан Кранч экспериментировал с ними несколько лет. С телефона в Калифорнии он мог вызвать Токио, оттуда Дели, затем Афины, Лондон и вернуть вызов в Калифорнию, на телефон в соседней комнате. Все это, разумеется, бесплатно. Волна, поднятая фриками, грозила захлестнуть телефонные сети: посылая с помощью придуманных ими особых электронных устройств, а впоследствии через компьютеры бесчисленное количество вызовов, они грозили переполнить все каналы связи. Фрики пытались даже дозвониться до президента США. Они чуть не вызвали воздушную тревогу, на двенадцать часов заняв телефонную линию с Индонезией (это стоило 19 тыс. долларов — понятно, что не им)⁸. Фрики имели даже свои специализированные издания, такие, как «Подслушивание» и «Защита»⁹ в США, «Подводные течения» в Великобритании, не только описывавшие на своих страницах все необходимые начинающему фрику приемы и методы, но и публиковавшие информацию о последних событиях в этой области и о технических новинках.

Проблема телефонного фанатизма приняла настолько острый характер, что в 1975 г. ее рассматривал Конгресс Соединенных Штатов. Одновременно ею заинтересовалась и мафия, заказавшая группе фриков партию используемого ими оборудования, чтобы расстраивать у конкурентов механизм принятия букмекерами пари по телефону.

Фрики проявили большой интерес к выходу на международные телефонные каналы связи. Словно в помощь им была опубликована «Белая книга», в которой имелись все сведения, необходимые для выхода на глобальный уровень. В 1978 г. номера и коды компьютеров международной сети уже были известны фрикам. Сегодня обычные домашние компьютеры в принципе позволяют им полностью забить международную телефонную сеть.

Цена защиты от телефонного фанатизма оказалась высокой. Материальный ущерб подсчитывается просто: стоимость нового оборудования, специальных систем обнаружения телефонных атак, огромные затраты времени большого числа служб. Плюс, конечно, судебные издержки. В 1973 г. во время процесса над 19 фриками в Великобритании они составили 100 тыс. фунтов. Большинство обвиняемых имели университетские дипломы и глубоко разбирались в современных тенденциях развития телефонной техники во всем мире. Десять из них были оштрафованы на суммы от 25 до 100 фунтов, а девять других оправданы. Суд так сформулировал свою позицию: «Кто-то не может жить без героина, кто-то — без телефонов… ».

«Не преступление, а хобби»

Тем самым проблема была признана скорее этической, нежели юридической. «Прожорливый монстр» проглотил еще одну порцию, а моральный ущерб измеряется высотой ступени, на которую ныне ступила роботоэтика.

Пятнадцатилетний лондонский школьник Джо — представитель хэккеров, нового поколения фанатиков, эксплуатирующих системы ЭВМ так же, как фрики — телефонные сети. Джо работал над своим проектом всего четыре месяца и в итоге полностью нейтрализовал систему безопасности Центральной лондонской компьютерной службы¹¹, получив доступ к абсолютно секретным данным, записанным в электронной памяти другими пользователями. При этом Джо не использовал никаких особых суперустройств из арсенала «Кью» — взъерошенного умельца, изготавливавшего шпионские орудия для Джеймса Бонда, а его знания по программированию не выходили за рамки школьного курса. Он положился исключительно на собственную изобретательность и установленный в школе терминал ЭВМ. Джо по молодости лет не пришло в голову повыгоднее распорядиться полученными возможностями. Он лишь написал в компьютерную службу и — о, святая простота! — совершенно бесплатно раскрыл свою методику. Через некоторое время в ЭВМ была введена новая версия операционной системы. Джо, правда, сказал, что проверит и ее, но, по-видимому, сделал это в запале, обидевшись на то, что не получил никакого ответа. Последнее выглядит несколько странно, ибо роботоэтика выработала иное правило. Молодой программист, работавший в одном из банков Миннеаполиса (США), разработал программу, отклоняющую любые финансовые требования на снятие денег с его личного счета. Мошенничество вскрылось, только когда из-за поломки ЭВМ счета были проверены вручную. Программист вылетел с работы, но тут же промышленная компания, посчитав достигнутые им результаты отличной рекомендацией, пригласила его к себе.

Еще более показательна история Джерри Нила Шнайдера, обаятельного бизнесмена, организовавшего, когда ему не было еще и двадцати, собственную компанию по продаже исправленного телефонного оборудования и оптовой поставке электронной техники. Его склад товаров в Лос-Анджелесе находился неподалеку от помещений Тихоокеанской телефонной и телеграфной компании. На пустыре позади них Шнайдер обнаружил свалку испорченного оборудования, зачастую выбрасываемого прямо с техническим описанием. Он восстановил часть оборудования и составил библиотеку используемых процедур. Для уточнения деталей, представившись журналистом, он посетил контору компании и получил недостающие сведения на месте.

На складах и в конторе использовались специальные телефоны для соединения с ЭВМ ИБМ/360, расположенной в центре поставок. Шнайдер приобрел аналогичные аппараты и использовал раскрытые им коды. Через центральный компьютер он посылал требования на склад, где «заказанное» оборудование грузилось вечером в автомобили-фургоны. У одного из уволенных рабочих он узнал код замка складских ворот и, купив старый фургон Тихоокеанской компании, в пять часов утра подъезжал, открывал склад и отгружал себе оборудование строго по списку «заказа». Несколько часов спустя, проставив штамп «Исправленное оборудование — на продажу», он отправлял технику своим заказчикам.

Помимо всей этой хлопотной деятельности и легального руководства компанией, Джерри по вечерам прилежно учился на курсах по электронике. Естественно, нагрузка была слишком велика, и в качестве помощника по тайным операциям он привлек одного из своих служащих. Через некоторое время тот потребовал увеличить плату за риск. Джерри отказал. Тогда помощник, не долго думая, отправился в Тихоокеанскую компанию, где довольно красочно описал этот детективный сюжет. Компания потребовала возбудить уголовное дело и, посчитав убытки, обратилась в суд с иском на сумму 250 тыс. долларов. Суд, очарованный улыбкой Джерри и покоренный его ловкостью и находчивостью, ограничился штрафом в 500 долларов и приговорил его к минимальному сроку заключения — двум месяцам тюрьмы. Впрочем, уже через 40 дней Джерри Шнайдер вернулся в мир бизнеса как консультант по ЭВМ, причем консультант с высокой репутацией¹².

Так что лондонский школьник Джо, очевидно, сам виноват в том, что на него не обратили внимания — имел возможность украсть и не украл. Почему же не украл, если была возможность? Ответ, казалось бы, элементарен. Пег Кай, специалист по информации из Института компьютерных наук и технологии отраслевого института Национального бюро стандартов США, уверяет: «Компьютер не меняет наши этические правила, но он увеличивает аморальным людям возможности причинять вред»¹³. Стало быть, Джо не украл, потому что он человек моральный. И нет никакой проблемы. Но не будем забывать, что моральность Джо, фриков, хэккеров в том обществе, где они живут сегодня, нужно оценивать в иной системе координат и по другой мерке. Существо дела весьма точно и откровенно выразил профессор Калифорнийского университета в Ирвине (США) Роб Клинг: «Социальное окружение специалистов по компьютерам в некоторых отношениях не приемлет этического поведения»¹⁴. А при таком положении дел поведение Джо расценивается совсем иначе, в частности, «специалисты по компьютерам» посчитали, что он пока не готов в отличие от Джерри Шнайдера к работе в существующей социальной среде.

Смена моральных координат, то, что мы назвали переходом к компьютерной морали, косвенно признается западными исследователями. Ида Хус, социолог из Калифорнийского университета в Беркли (США), считает, что массовое использование компьютеров в школах, больницах, правительственных учреждениях — словом, везде оказывает мощное воздействие на сознание людей, «неизбежно разрушает прежние понятия правильного и неправильного»¹⁵. Конечно же, это немедленно сказывается на правосознании. Рон Уиден, эксперт по рассматриваемым проблемам, выступая перед конгрессменами, высказался недвусмысленно:

Практика показывает справедливость этого суждения.

Для того чтобы можно было хоть как-то передать внутренние побуждения хэккеров, стоит привести слова одного из них, двадцативосьмилетнего Брюса Паттона: «Это чрезвычайно приятно. Иногда даже лучше, чем секс»²¹.

В Конгрессе США выдвигались предложения ввести в школах курс «компьютерной этики»²². Профессор Массачусетского технологического института Джозеф Уэйзенбаум сформулировал даже норму поведения, которой должны руководствоваться все:

Компьютеры на работе и дома заняли заметное место в жизни, они вызвали споры и возбуждение, породили новый язык, юридические и моральные проблемы, а самое главное — заставили вновь вернуться к размышлениям о том, что значит быть человеком.

«Думай, как вор»

Заинтересовавшись влиянием компьютеров на мышление и чувства тех, кто с ними работает, социолог и психолог из Массачусетского технологического института Шерри Теркл написала книжку «Второе „я”. Компьютеры и духовность»²⁴. Ш. Теркл заметила, что и взрослые, работающие с ЭВМ, и дети, начинающие овладевать ими в школах, относятся к компьютерам «как к живому, поистине живому, думающему существу». Наставления компьютеров становятся эффективнее человеческих.

На детских представлениях в английских цирках начал появляться робот-клоун. Электронный циркач пропагандирует правила уличного движения. Оказывается, советы робота лучше запоминаются детьми, чем наказы взрослых. А вот как обучают тех, кто постарше. В Калифорнийском технологическом институте (США) был объявлен конкурс на максимально дешевый и эффективный способ подделки магнитных кредитных карточек. Технология, предложенная победителем, получившим приз в пять тысяч долларов, была описана в «Бизнес уик» и проиллюстрирована серией фотографий. Журналы по вычислительной технике нередко тоже объявляют подобные конкурсы под девизом «Думай, как вор»²⁵.

Слово «этика» редко можно услышать на факультетах, где обучают работе с компьютерами. Большинство таких факультетов ориентировано на математическое образование, а у математиков об этике говорят так же редко, за исключением, пожалуй, обсуждения случаев плагиата. Студент-программист привыкает к тому, что найти способ «ворваться» в компьютер — это средство познания работы системы и часть его учебного курса. Значительную часть учебного цикла студент занимается взаимодействием ЭВМ как таковых. Перед ним даже не встает вопрос об этике в этих взаимоотношениях, поскольку этика присутствует в отношениях между людьми, а не между компьютерами. Между тем изолированные отношения между человеком и ЭВМ в реальном мире практически отсутствуют.

Конечно, есть польза в компьютерных атаках, которые позволяют обнаружить слабости программного обеспечения, но только если они проводятся в рамках учебного курса или исследовательской работы и обязательно под контролем. В противном случае студенты начинают думать, что их компьютер священен и ему можно все. У программистов сегодня должна возникать такая же ответственность перед обществом, как, скажем, у врачей, которые обязуются использовать свои знания только в этических целях. А пока студенческие атаки па чужие компьютеры составляют 14% всех компьютерных преступлений²⁶.

Человек программирует компьютеры, а компьютеры программируют человека, его мышление, формируют роботоэтику. И отнюдь не противоречит компьютерной морали, например, то, что Родерик Ноулс, с помощью ЭВМ ограбивший гонконгский банк на 600 тыс. долларов, делясь опытом, пишет своего рода учебное руководство «Как грабить банки без насилия»²⁷ и издает его, находясь… в тюрьме. Между прочим, последняя глава книги заканчивается словами: «Лишь один из американцев, замешанных в деле, ни разу не вызывался в суд». А называется глава незамысловато: «Эпилог: заговор ЦРУ?». Так маховик компьютерной слежки, раскрутившись, в невероятных сочетаниях разбросал по кругу вращения «электронные наручники», фриков и хэккеров, второе (впрочем, и первое) «я», роботоэтику. «Когда электронные преступники нагромождают Эверест из награбленного, а общество не грозит им даже пальцем; когда правительственные чиновники лгут, обманывают и воруют, чтобы остаться у власти в обществе, явно исповедующем доктрину „сила дает право”; когда коммерсанты с помощью телевидения одурачивают миллионы покупателей, которые бросаются в магазины, чтобы приобрести себе мечты, выпархивающие с электронного экрана, — грустно замечает Роберт Фарр, — тогда общество находится в состоянии моральной инерции»²⁸.

Робот или alter ego?

Шерри Теркл обнаружила, что психологическое отношение к компьютеру как к живому существу имеет и оборотную сторону. Приравнивая ЭВМ к человеку, люди начинают видеть в себе и окружающих такие же запрограммированные создания, как сами компьютеры. Известный швейцарский писатель и драматург Фридрих Дюрренматт говорит:

Полковник Крамли имел в виду настоящих роботов, а не роботоподобных людей, но и те и другие замечательно легко выполняют функции не только могильщиков, но и убийц. Когда японский рабочий Кенди Урава случайно нажал не на ту кнопку промышленного робота, тот убил его³². Смерть от робота — это капля, в которой отражается океан компьютеризованного общества, угрожающего человеку, — угрожающего и потерей души, и тремя пулями в затылок, как это случилось с тридцатилетним ньюйоркцем, решившим стать компьютерным мафиози. На службе он имел доступ к машине, изготовлявшей кредитные карточки для членов одного из городских клубов. Установив контакт с мафией, он подрядился за 40 тыс. долларов сделать 1500 карточек с настоящими именами и правильными номерами. В течение трех месяцев ему удалось изготовить около 500 штук, а затем он был арестован. Еще до вынесения приговора нью-йоркским судом мафия убила его, рассчитавшись за «недопоставку товара».

Компьютер программирует человека, и тот, относясь к нему как «к поистине живому существу», уже видит перед собой лишь одного «врага» — ЭВМ и, в свою очередь, начинает «убивать» компьютеры. Французский программист с помощью логической бомбы буквально взрывает программу и стирает все данные, записанные в ЭВМ его нанимателя. Оператор корпорации «Национальный союз фермеров» (Денвер, штат Колорадо, США) 56 раз в течение двух лет с помощью металлических предметов устраивал короткие замыкания в электронных цепях ЭВМ и блокировал управляющую программу. Общий ущерб составил полмиллиона долларов³³. Во Франции есть даже организация, созданная специально для разрушения компьютеров, — КЛОДО³⁴. Так, например, группа ее членов сожгла демонстрационный компьютерный центр фирмы «Филипс Дейта системз» в Тулузе³⁵. Поэтому неудивительно, что уже зафиксирован первый случай самоубийства робота³⁶.

Физикам известен феномен симметрии топологии и логики, бытовую иллюстрацию которого можно найти в произведениях больших писателей. «„Ахтерлоо” — это мир, где мания величия и произвол диктаторов считаются нормой. А моральное восприятие — исключением, — говорит Фридрих Дюрренматт о своей последней пьесе. — Решая моральные и этические вопросы, наш современный усредненный человек находится примерно в такой же ситуации (параллели, правда, всегда условны), как и первобытный человек в девственном лесу»³⁷.

В повести Макса Фриша описывается, как горы отрезали от «большой земли» селение, лишив его жителей благ цивилизации. И тут начинается попытка господина Гайзера действовать по привычной логике в этом несколько покосившемся мире. Надо убирать дом. Логично и необходимо, но при создавшихся условиях уборка сводится к тому, что господин Гайзер снимает паутину с высокого потолка над лестницей, выломав перила и привязав к ним половую щетку, и т. п.³⁸

Точно так же и с ситуациями разрушения ЭВМ. В морально покосившемся компьютерном мире действия, совершаемые в соответствии с неадекватной логикой, оказываются бессмыслицей. Немудрено, что человек уже как должное воспринимает обращение к нему компьютера, подобное тому, которое прочитал на экране дисплея программист «Ю. С. лизинг компани» в Сан-Франциско (США). После нескольких непристойных советов относительно того, как следовало бы поступить с программным обеспечением, компьютер выдал следующий текст: «Призрак-крэкер, системный взломщик — бьет еще раз… Скоро я сотру все диски памяти и взломаю дублирующую систему. С основной системой я уже покончил!!! Вот потеха наступит, когда будешь пытаться восстановить ее, ты… (грязное ругательство.—Ю.Б.)»³⁹.

В США однажды полицейский, вытащив пистолет, всадил две пули в компьютерный терминал⁴⁰. Но вряд ли стоит ограничиваться полумерами. Журнал «Тайм» завершил не лишенной иронии фразой одну из своих статей, посвященную компьютерным преступлениям: