Дело рук компьютера (сборник)

Границы могущества

Человек и машина. И не просто машина — «продолжение» его рук и ног, его тела, как это было раньше, при изобретении станка, паровоза, самолета, но и нечто совсем потрясающее — «продолжение» его мозга. До этого не додумались ни Жюль Верн, ни Уэллс (хотя еще до них в воображении Мэри Шелли родился чудовищный Франкенштейн, убивший своего создателя). И только в двадцатые годы нашего столетия забрезжила эта тема сначала в фантастике, потом и в большой литературе. В шестидесятые годы в нашей стране был, пожалуй, апогей опьянения возможностями научно-технического прогресса. Знаменитый спор «физиков и лириков» отражал, с одной стороны, наивную веру в научно-техническую революцию, в ее величие и удивительные возможности. «Нам электричество сделать все сумеет, нам электричество тьму и мрак рассеет», — пелось в одной из студенческих песенок. К чему нам мир чувств, поэзия, трели соловья. шепот и робкое дыханье, когда обществу от них нет никакого приварка? — рассуждали расчетливые «физики». С другой стороны, «лирики», вступившиеся за трели соловья, были тогда бессильны доказать, что как раз в огромности и неоднозначности мира кроются неисчерпаемые возможности и дальнейшего технического совершенства, не говоря уж о том, что жизнь не исчерпывается техникой. Время все расставило по своим местам. Теперь «физики» читают Федорова и Флоренского, интересуются Бакушинским, а «лирики» — Китайгородского и Амосова. Стало ясно, что однобокий, узколобый подход к технике и ее порождениям невыгоден даже самой технике. Начала совершенно четко проглядывать закономерность: уровень гуманитарной культуры помогает поднимать уровень техники, а отрыв одного от другого чреват весьма опасными для общества последствиями.

Предлагаемый сборник составлен из научно-фантастических рассказов, посвященных могуществу и бессилию компьютеров, а в связи с этим и границам могущества человека, их создателя. Тема эта, не новая для фантастики, ощущается сейчас как чрезвычайно актуальная, поскольку очень острым для нашей страны оказался вопрос об ее техническом перевооружении, огромном ускорении прогресса. Как известно, в школьную программу теперь будет введено обучение детей работе с компьютерами: без этого не может быть сделано рывка в технику будущего.

Мне вспоминается недавняя поездка в Англию. Магазины, заполненные разными моделями электрокалькуляторов, персональных компьютеров. Темные ниши в первых этажах некоторых домов, где сверкают, сияют, грохочут аппараты для видеоигр. Подросток, лихорадочно опускающий в прорезь монеты для того, чтобы насладиться совершенно натуральным чувством погони. На экране перед ним — цветная лента шоссе, а он нажимает на рычаги, и создается полное впечатление увлекательной гонки: нужно уворачиваться от едущих машин, обходить препятствия, и все это на лихой скорости, так что дух захватывает. Полная иллюзия реальности, а ведь парень стоит на месте.

И еще: дети в Глазго, в Музее обучения. Имитируется урок столетней давности в здании старой школы. Для погружения в прошлое используются старые парты, старые ручки — такие, которые делали кляксы (нам всем дают тряпочки для вытирания ручек), грифельные доски. Задания по арифметике, английскому языку даются совсем такие же, как в школе девятнадцатого века. Потом идет сравнение с сегодняшним днем. «Мы в 1886 году, — объясняет учительница, миссис Джемайма Фрейзер (на самом деле — музейный работник). — Представьте себе мир вокруг вас. Есть у вас телевизор? А радио? А персональный компьютер?» Передо мной за партой сидит белокурый восьмилетний англичанин, которого потрясает предлагаемая ситуация не меньше, чем тетя из Советского Союза на их уроке. Видно, ему очень трудно представить себе жизнь без этого царства техники, которое стало обыденным и привычным. Как трудно представить себе, что когда-то не было пластика, электричества и самолетов, что люди ходили в пещеры не на экскурсию, а жили в них постоянно.

Итак, компьютеры. Загадочные, с точки зрения гуманитария, машины, которые умеют не только решать задачки, но и ставить вопросы. С которыми можно увлекательно беседовать.

Человек с древних времен привык одушевлять непонятное. Представлять бога грома и молнии в виде человекоподобного Зевса. Или в виде Перуна. Тем легче ему было персонифицировать компьютеры, наделить их своими мыслями и способностями, даже обожествить.

Не так давно на психологическом факультете МГУ под руководством профессора О. К. Тихомирова была проведена серия интересных экспериментальных исследований, в которых ставился вопрос о разных гранях взаимоотношений между человеком и компьютером.[1] Оказалось, что не только представители научной фантастики, но и программисты, участвовавшие в эксперименте, те, кто по роду своей деятельности постоянно общается с машинами, подчас относились к ним как к живым существам, очеловечивали и одушевляли их. «У машины, с которой я работаю, характер кошки», «обидчивая, хочет доказать, что умнее», «бывают машины умные и глупые, ленивые и работящие, покладистые и строптивые», — писали программисты. Не странно ли? Казалось бы, кому-кому, а программистам лучше знать, что ЭВМ состоит из металлических частей и не имеет, не может иметь психики. Но извечная человеческая привычка уподоблять партнеров себе проявляется и тут. Конечно, отчасти это шутка, так сказать, юмор эпохи научно-технической революции. Однако действительно, очеловечивание машин, наделение их человеческими свойствами напоминает взаимоотношения между зрителями и актерами на сцене. Зрители одновременно и верят, и не верят в происходящее. Они прекрасно знают, что действие на сцене условно, тем не менее оказываются всерьез вовлеченными в духовную ткань спектакля, начинают переживать судьбы героев как настоящие. Возникает удивительная грань между реальностью и чудом. Нечто подобное может происходить и в процессе взаимоотношений человека с компьютером, когда в одушевлении машины человек черпает духовные силы для решения сложных вопросов, нестандартных ситуаций. Так ему легче.

Мы уже говорили, что шестидесятые годы были у нас годами обожествления технических чудес. Но сейчас и среди специалистов, и среди широкой публики наступило некоторое отрезвление. Если в 1964 году эффективность использования ЭВМ была 10 %, то за двадцать лет она не повысилась, что казалось бы естественным, но стала ниже — упала до нескольких процентов. Интересно, что это произошло и у нас, и за рубежом. О да, компьютер хорош как продолжение человеческого мозга, но не как его замена. Хотя на него нередко уповают как на бога. А между тем «нужен разум, чтобы знать, что давать машине», говорил основоположник кибернетики Норберт Винер.

Каких только машин не придумали люди, хотя бы в своем воображении! Компьютер-«логик» Джо из рассказа Мюррея Лейнстера может с кем угодно связать вас по видеотелефону, решать за вас задачки, вести бухгалтерские книги. Но этого мало. Джо — особенный компьютер, у которого не срабатывают цензурные блоки и пробуждается чисто человеческое честолюбие — желание работать лучше других. Джо начинает давать людям «полезные советы», которые потрясают своей правдивостью, вместо того чтобы суровым голосом сообщить: «Подобных услуг не оказываем». Сколько переживаний из-за этой правдивости выпало на долю героя рассказа!

В могуществе и бессилии компьютеров как в капле воды отражается могущество и бессилие человека. И не случайно в сборнике так много внимания уделяется чисто психологическим коллизиям, связанным с использованием компьютеров. Если раньше в фантастических рассказах нас могли 8 увлекать технические новшества, то теперь больше всего волнуют душевные движения человека при его контакте с машиной. К этому нас приучил еще Азимов циклами своих рассказов о роботах будущего. Однако роботы Азимова в большинстве случаев человечны. А вот в рассказе-предупреждении Дж. Браннера «Бессердечный безумец» компьютер буквально заменил человека. Машины здесь мыслят совсем как люди, заболевают, страдают галлюцинациями. В страшном мире, рисуемом художником, власть в руках машин, а не людей. Компьютер, узнавший, что ему угрожает опасность, не успевает понять смысл передаваемых сообщений и как бы получает психическую травму. Но самое страшное в этом обществе — не заболевший компьютер, а люди, напоминающие нам по своим реакциям машины. Недаром говорят, что с кем поведешься, от того и наберешься. Не случайно в исследовании МГУ, о котором мы говорили, фиксируется и воздействие машин на характер людей. Поэтому более подготовленными к работе с компьютерами оказались люди, социально хорошо адаптированные — более терпимые и доброжелательные, менее эгоистичные и более широко мыслящие, то есть те, кто не ограничился в жизни лишь контактом с машинами.

Еще более страшный мир рисует нам X. Харгривс в рассказе «Если сказали тебе, что ты умер…». Это в высшей степени механизированное общество, в котором исчезло все живое — даже кусты и деревья синтетические. Страшный бездуховный мир, в котором человек воспринимается лишь как объект для разного рода манипуляций, как нечто лишенное всякого права на самобытное мышление.

Случайно в ящик ЭВМ для умерших упала карточка живого человека, и участь его решена. В сущности, это живой труп. Его лишают жилища, вещей, всяких прав, его тащат в морг роботы. Страшная картина. В штате Северная Дакота, где происходит действие, положение контролируют не люди, а гигантская машина-компьютер, по каналам которой быстро продвигаются двести пятьдесят миллионов карточек, «словно кровь по сосудам человеческого тела».

С одной стороны, при этом возникает немало комичных ситуаций, но с другой — это даже не трагикомедия, но драма. Машина в этом царстве будущего является не продолжением человека, но его заменой. Фактически машина меняется социальными ролями с человеком, подчиняет его себе, делает его рабом. Да уж и человеческого в нем остается мало: он превращается в своего рода биомашину, выполняющую чужие приказания, в машиноподобного человека.

Машинизированное мировоззрение — этот термин социологи впервые начали употреблять еще в шестидесятые годы для характеристики догматически ориентированных личностей, которые раскладывают знания по полочкам, не связывая их одно с другим, метафизически, а не диалектически подходят к явлениям жизни, не в состоянии постичь существования противоречий, нетривиальных подходов к проблемам. Человек с машинизированным мировоззрением, с догматическими установками склонен слепо верить показаниям приборов, анализам, раз навсегда усвоенным правилам, рутинным традициям. Ему не нужен первоисточник, он удовольствуется любыми переложениями, даже не заметив, как в них искажаются первоначальные мысли. Он фанатически ориентирован на догмы. Он признает лишь «да» или «нет», лишь «1» или «О», никаких полутонов, никаких колебаний, никаких особых чувств — сантименты не нужны — и такую позицию считает единственно правильной.

Казалось бы, машинизированное, догматическое мышление, узость взглядов — частности, на которые можно не обращать внимания. Но вдумаемся: не кажется ли вам, что многие из нас проходят этот путь — от метафизического восприятия жизни к диалектике, да нередко так и застревают на метафизических колдобинах, не в силах выйти на просторы диалектики? Быть может, здесь мы имеем дело с могучей закономерностью развития человека и человечества? Но если это так, фантастика помогает преодолеть колдобины.

Интересно, что для создания новых машин нужно как можно более нетривиальное мышление, а процесс их обслуживания нередко формирует тривиальную машинизированную личность. То есть машины высочайшего класса и при обслуживании требуют особого подхода — иначе они малоэффективны. Но человек подчас оказывается в плену у собственных привычек. И — вот оно, могущество компьютеров, которые порабощают людей, берут в свои «руки» производство новых машин (см. юмористический рассказ Л. Дилова «Очередной номер»).

Но нередко компьютеры оказываются бессильными — в тех случаях, когда они наталкиваются на диалектическое противоречие, на парадоксы и неразрешимые загадки жизни. Так, в рассказе Г. Диксона «Незваный гость» происходит как бы поединок человека с компьютером. Сложность ситуации в том, что герой рассказа Кэри Хармон загрузил машину парадоксом, выиграл пари, но и сам поступил как машина, ибо не заметил, что при этом проигрывает свою собственную жизнь.

Зато герои рассказа Р. Сильверберга «Тру-ру-ру», сконструировавшие механический аналог природы — искусственную корову, проявили высшую степень нетривиальности мышления. Это особенно выявляется при их сравнении с догматически мыслящими американскими конгрессменами, приехавшими инспектировать Третью Лунную Базу. Конгрессмены, словно машины, строго проверяют, нет ли перерасхода по каким-то статьям, а исследователи научились делать натуральное молоко, используя прибор, в который закладывают обыкновенную бумагу (биохимическая трансмутация). Просто и удивительно, с потрясающе низкими затратами. Мы еще раз убеждаемся в том, какие огромные возможности таит в себе уменье подойти к проблеме с необычной стороны. Конечно, получение молока из бумаги — это юмор, однако сам по себе нетривиальный подход совсем не смешон.

В этом сборнике представлены рассказы писателей самых разных стран. Здесь есть такие знаменитые имена, как патриарх американской фантастики Мюррей Лейнстер и Роберт Сильверберг (США), и несколько менее знакомые нашему читателю фантаст-филолог X. Харгривс (Канада), Джон Браннер (Великобритания), и мало известные имена, такие, как Дайна Чавиано (Куба) или Франко Оссола (Италия). Но интересно, что при всех различиях между этими мастерами их тревожат, смешат, волнуют одни и те же вопросы, связанные с использованием достижений техники. Сегодня эти достижения — компьютеры (и большая часть рассказов не случайно посвящена им), а завтра — роботы, управляемые компьютерами новейших моделей машины, совсем «под человека». Таков робот-коробейник РК-41 из рассказа Р. Сильверберга «Кредитная лавка Компании». Этот робот совсем не похож на машину. Он не только спасает от гибели колониста Роя Уингерта, но и способен к постоянному самосовершенствованию, а это уже, согласитесь, чисто человеческая черта, как и умение взирать на себя с юмором — ценнейшее свойство человека.

Еще немецкие романтики конца XVIII — начала XIX века вывели знаменитый принцип романтической иронии — легкого, ироничного взгляда на самого себя. Увы, этот принцип знаком лишь специалистам-филологам. Широкие круги читателей, не говоря уж о нечитателях, не пришли в восторг от перспективы самокритики, и принцип был основательно забыт. Однако он представляет не только исторический интерес. Лучшие роботы посмеиваются над собой, подавая людям пример.

Таким же гибким, как и у Сильверберга, предстает перед нами «Исчезнувший робот» Джона Уиндема. Этот робот с Марса в чисто человеческом смысле далеко опередил людей с машинизированным мышлением. У него богатейшая гамма чувств, он считает землян варварами, но в то же время способен спасти попавшую в беду девушку, представительницу земного племени. Добрый робот кончает жизнь самоубийством, так как бессилен помочь людям и как-то изменить ситуацию «в этом безалаберном мире…».

Если сравнивать таких тонких, нравственно развитых роботов с некоторыми человеческими особями вроде американских конгрессменов из рассказа Р. Сильверберга «Тру-ру-ру», сравнение будет отнюдь не в пользу людей. Но тем четче обрисовывается идеал, к которому людям надо стремиться. Страшна техника, когда она попадает в руки тупых, невежественных существ, будь то люди или роботы. И только одно — высокий уровень нравственности и культуры — может обеспечить зданию земной цивилизации необходимую прочность.

Фантастика, посвященная компьютерам и роботам, не просто знакомит нас с существующими и возможными достижениями техники. Достижения всегда будут перекрыты, рано или поздно, не это главное. Фантастика учит нас гибкости, умению быстро реагировать на изменяющуюся ситуацию, много раз в течение жизни перестраиваться, учитывать все «за» и «против», короче, диалектически мыслить. Интересно, что к этому призывает нас и живая, передовая советская педагогика в лице В. Ф. Шаталова, М. П. Щетинина, Ш. А. Амонашвили. Например, замечательный грузинский психолог и педагог Ш. А. Амонашвили учит малышей не принимать все сказанное бездумно на веру, спорить, отстаивать свое мнение. Не соглашаться с учителем? Это потрясает воображение, тем более что авторитарные методы воспитания приучили нас привычно «не возражать» и «не высовываться». Новая педагогика призывает покончить с бездумным соглашательством и некритичностью мысли, со страхом перед дутыми авторитетами, учит размышлять, вести дискуссию, слушать чужие доводы и живо на них реагировать. Поэтому предложенный читателю сборник сейчас воспринимается как особенно актуальный, попадающий в струю тех важнейших проблем, которые так заботят ныне нашу общественность.

Нелишне отметить также, как богата художественная палитра писателей-фантастов, представленных в сборнике. Они мастера сюжета, обладающие богатым воображением, образным мышлением. Да, их герои — не всегда люди, иногда это и машины, но богатые чисто человеческими эмоциями. Поэтому мы можем, например, посочувствовать компьютеру Эмми, который, совсем как человек, весной способен выдавать ошибочные результаты и чуть ли не петь популярные песенки («Задача для Эмми» Р. Ш. Таунса). Фантасты очень широко используют в своих произведениях и юмор: и наш сборник включено немало рассказов чисто юмористических, с комическими ситуациями, но отличающихся при этом психологической правдивостью. Так, в рассказе Франко Оссолы «„Дерби“ и компьютер» триумф профессора Паллера оборачивается поражением, потому что в памяти компьютера «Колоссуса» не оказалось слова «дерби» — скачки. Поэтому все хитроумные выкладки Паллера с учетом «мощного рева болельщиков и объема легких главного судьи» не помогли ему правильно предсказать исход футбольного матча.

Известный фантаст Джон Браннер язвительно высмеивает компьютеропоклонников («Отчет № 2 Всегалактического Объединения Потребителей: двухламповый автоматический исполнитель желаний»). Этот исполнитель желаний оказывается источником многих юмористических ситуаций. Перед нами пародия на общество потребления, пресыщенное разными разностями, раздираемое жадностью и неутоленными желаниями. Машина, привыкшая к однозначности и определенности, к четкости и ясности, неожиданно погрязает в болоте противоречивых человеческих желаний, и тут выясняется, что сам по себе процесс исполнения желаний весьма тернист. Так вопрос переходит в философскую плоскость. Кроме того, вообще чрезмерное упование на могущество техники к добру не ведет: в этом рассказе обед на две персоны одна машина готовит шесть с половиной часов, а другая с трудом удерживается, чтобы не подмешать в пищу бром и мышьяк. Механизировав один процесс, нельзя другой предоставлять самому себе, а то как бы не получилось, что мы на выходе самой новейшей модели автоматизированной системы… вручную отгружаем продукцию (мы прекрасно знаем, как эта проблема актуальна сейчас для нашей страны). В конце концов это даже не столько вопрос техники, сколько вопрос наших представлений о возможностях человека, отражение наших совершенств и не-14 совершенств, то есть опять-таки вопрос психологии — науки будущего века, а может быть, и тысячелетия.

Главное достоинство сборника в том, что он привлекает внимание читателей к актуальнейшим вопросам нашей действительности, заставляет задуматься о человеческих возможностях и их пределах. Человек и ЭВМ. Одно дело, когда контакты с машиной осуществляют хорошо подготовленные специалисты, и совсем другое — всеобщая компьютеризация. Те машины, которыми мы сейчас располагаем, решают поставленные вопросы, не проверяя, насколько корректно они поставлены. Машины будущего учтут несовершенства человека, подчас его неумение поставить вопрос. Сегодняшние ЭВМ решают задачи сами, не сообщая о том, как они это делают, какими путями идут. Если с компьютерами практически начнут работать школьники, для них особенно важен эмоциональный контакт с машиной, понимание границ могущества удивительных машин, с помощью которых человек может создать мир, воплощающий лучшие его мечты, машин, которые помогут и самому человеку сделаться компетентнее, умнее, добрее.

Е. Ванслова