Марсианское путешествие

2

С чего же началась наша история, так похожая на трагедию общины Джуна?..

Да-да, я напоминаю о той ужасной трагедии, которая перед нашим вылетом разыгралась на Земле в непроходимых джунглях, где, как сообщили средства массовой информации, более тысячи человек общины Джуна по неизвестным причинам сами себя истребили…

В то время, когда подготовка к нашей марсианской экспедиции была в разгаре, Джун объявил себя вторым Христом и, объединив вокруг себя тысячу приверженцев своей веры, повел людей в джунгли, где они жили до того страшного дня, когда началось массовое самоубийство.

Хотя что там произошло на самом деле, теперь уже некому рассказать, возможно, было и не самоубийство, однако тогда меня удивило другое: в общину Джуна пошли, отрекаясь от благ цивилизации, многие образованные люди, которые в свое время закончили институты, колледжи.

С чего же началась наша трагедия, которая развивалась по своим законам и происходила не на Земле и не в непроходимых джунглях, хотя финал обоих историй одинаков?..

Мне теперь кажется, что она началась не с ошеломительного доклада Миллера, который я услышал на первой международной конференции, посвященной проблемам создания Искусственного Разума, нет, все началось намного раньше, когда еще ни меня, ни Миллера на свете не было, может быть, даже с тех далеких времен, когда наш предок впервые догадался, что рычаг и колесо — это те открытия, используя которые можно овладеть всем миром: и своими ближними, и зверьем, и птицами, и реки поворачивать, и горы разрушать… А может, наш предок вовсе и не думал о мировом господстве, просто катил-перекатывал по земле круглый камень или бревно, с помощью рычага переворачивал, и все удивлялся: смотри-ка, насколько легче, нежели руками…

Возможно, с этого все и началось, с этой первой догадки. А потом наш предок придумал первую колымагу, запряг в нее коня и поехал все дальше и дальше от пещеры — белый свет поглядеть. Он не переставал удивляться своим открытиям. И первое грозное орудие наш предок тоже придумал. На всякий случай оно было прицеплено к той самой колымаге. А дальше — пошло-поехало вплоть до первой международной конференции по проблемам создания Искусственного Разума, до известного доклада Миллера, в котором он попытался суммировать итоги той многовековой поездки.

К сожалению или к счастью, не знаю сейчас, но когда-то я, начинающий журналист, попал на эту конференцию, и у меня сохранилась стенограмма того бурного заседания, на котором выступал Миллер. Чтобы не пересказывать все то, что происходило на конференции, я приведу отрывок из стенограммы.

ПЕРВАЯ МЕЖДУНАРОДНАЯ КОНФЕРЕНЦИЯ,

ПОСВЯЩЕННАЯ ПРОБЛЕМАМ СОЗДАНИЯ

ИСКУССТВЕННОГО РАЗУМА

(стенограмма)

Секретно

Для служебного пользования

Председатель заседания:

— Коллеги, начинаем нашу конференцию докладом известного доктора наук Миллера. Мы хорошо знаем его как ученого-кибернетика, в частности, он специалист по теории информатики, теории алгоритмов, теории распознавания символов — основных отраслей кибернетики. Многие его работы давно стали классическими. Учитывая важность нынешней конференции, доктор Миллер предлагает нам следующую тему:

Искусственный Разум — принципиально новый этап развития человеческой цивилизации.

Выступление Миллера:

— Одна из загадок развития человеческой цивилизации сводится к единственному ключевому вопросу, на который до сих пор нет точного ответа.

Почему, по какой причине человечество вступило на технократический путь развития?

Кроме человека на нашей планете существует бесчисленное множество таких же живых существ, которые физически и биологически мало отличаются от людей, а отдельные даже превосходят их, однако почему-то лишь человечество пошло по технократическому пути развития.

Если в минувшие столетия для объяснения исключительного положения во вселенной как одного человека, так и всего человечества использовались различные религиозные учения: христианство, ислам, буддизм и другие; если раньше вся жизнь человека была пронизана идеей божественного происхождения; если раньше люди одержимо верили в существование души и другие мистические явления, то сейчас, в век прогресса, чем больше наука, медицина познают человека, тем больше человечество убеждается: в принципиальном плане человек ничем не отличается от других живых существ, от той же всем известной обезьяны… Отличия если и есть, то только на уровне генетического кода. Однако этот код для всех живых существ разный.

В принципе смысл всех прежних и нынешних философских и религиозных трактатов о происхождении человека разумного сводится к одному, поставленному мной выше вопросу. Как только мы сумеем научно и аргументированно ответить на главный вопрос, тогда, как вы сами понимаете, сразу же исчезнут, отпадут другие бесконечные вопросы, которые, к сожалению, на сегодняшний день более запутывают, чем проясняют эту нерешенную проблему. Более того: одержимо занятые философскими и религиозными спорами о происхождении человека разумного, мы умудрились не заметить, что ответ на этот принципиальный вопрос почти готов и его надо только сформулировать в краткой и выразительной форме.

Думаю, ответ не формулируется потому, что многих людей он не удовлетворяет и не может удовлетворить по целому ряду причин, рассматривать которые нет смысла. Надо учитывать наши человеческие амбиции, наши личные желания и устремления, которые не могут смириться с объективной реальностью. Чтобы пояснить свою мысль, скажу, что нынешнее положение напоминает ситуацию, когда человек в душе не может согласиться, что он, как и другие живые существа, смертный, что после смерти от него ничего не остается, и поэтому человек обеими руками хватается за разные философские и религиозные учения, которые утешают его хотя и пустой, зато сладкой иллюзией вечного существования.

Однако это — отдельная проблема, ее рассмотрение тоже не входит в мои планы.

Чтобы убедительнее сформулировать ответ на вышепоставленный вопрос, нам следует рассмотреть некоторые итоги так называемой цивилизованной деятельности человечества.

Загазованные, забитые электромагнитным излучением города, которые, как грибы после радиоактивного дождя, все гуще и гуще опутывают планету, загрязняя грунтовые воды и воздух настолько, что все живое задыхается и отравляется, и рост которых мы уже не в состоянии контролировать, бесконечные международные конфликты, с помощью которых государства наивно тешат себя иллюзией разрешить внутренние проблемы и в итоге чего бесконтрольно растет гонка вооружений. Ныне международная напряженность стала такой, что в любой момент на планете может вспыхнуть смертельный для всех ядерный пожар. Бесконечные экономические кризисы, с которыми ежегодно борются отдельные государства и которые тут же перебрасываются на мировую экономическую систему, нравственная деградация человечества, выражающаяся в росте преступности и наркомании, особенно — среди молодежи, нашего будущего, биологическая и физическая немощность людей из-за гиподинамии и отсутствия натуральных продуктов — все это свидетельствует только о том, что мы, человечество, подошли к неизвестному доселе порогу или границе, за которыми маячит грозная бездна самоуничтожения.

Все многочисленные политические, экономические, экологические, демографические и другие меры, предпринимаемые для улучшения жизни людей как отдельными государствами, так и международными организациями, напоминают штопку дырявой, давно изношенной одежды, на которой уже негде ставить заплату.

Какую бы отдельно взятую современную проблему мы ни пытались рассматривать, мы видим, что ее решение тесно связано с комплексным решением всех проблем. Еще и еще раз подчеркиваю: человечество стоит у края бездны, в которую вот-вот полетит, если не станет решать свои проблемы с новой, нетрадиционной точки зрения.

Конечно, до поры до времени можно закрыть глаза на сложные проблемы современности, успокаивая себя утешительными благами цивилизованной технократической деятельности: машинами, которые возят нас под водой и в небе, бытовой техникой, приучающей нас к еще большей бездеятельности, новыми средствами связи, которые в одном котле перемешивают культуры, нации и народы. Однако, трезво проанализировав современную ситуацию, вы вынуждены будете согласиться, что все это ведет к ускорению кризисного состояния как отдельного человека, так и всего человечества в целом. Рост числа самоубийств, душевно больных, снижение рождаемости в экономически развитых странах — все это яркое подтверждение моей мысли.

Теперь взглянем на технократический путь развития человечества с другой стороны. Познание человеком природы и самого себя научными методами, новая техника и технология, все более активно входящие в нашу жизнь, незаметно и неумолимо изменяя психологию человечества, — все это привело к тому, что люди науки, или, как нас еще называют, технократы, стали занимать в жизни человечества ведущую роль, оттеснив на задний план гуманитариев, которые во все времена носились, словно с писаной торбой, с такими понятиями, как загадка человека, его смерти и его рождения, бог, душа, грех, совесть, стыд. Сейчас эти понятия исчезают, а кое-где исчезли совсем. Наконец человечество ввело новое понятие информации, которое чем дальше, тем все больше наполняется, я бы сказал, каким-то даже мистическим смыслом. Не буду объяснять вам, специалистам, что все в мире можно перевести на язык информатики: математические и физические закономерности, экономику, даже чисто человеческие взаимоотношения. Появление кибернетических систем и машин поставило в тупик некоторых философов, в отдельных странах кибернетика как наука была объявлена вне закона.

В чем тут дело?

Главный вопрос, которого не могли однозначно решить философы, такой: в чем принципиальное различие мышления кибернетической машины и мышления человека? Этот же вопрос можно поставить иначе: не является ли человек всего лишь сложной биологической кибернетической машиной?

Все вы хорошо помните тот шум, поднятый в мировой печати людьми, когда они узнали о наших вопросах. Особый вред нашей работе нанесли так называемые гуманитарии, которые во все времена искоса поглядывали на наши разработки. В мировой печати они подняли крик о сложных человеческих эмоциях, о творчестве, вдохновении, чувственности и предчувствии, которые, мол, недоступны рациональным холодным машинам. Своим самоотверженным трудом мы, технократы, — заметьте, это слово я произношу с достоинством, — заглушили безумный визг гуманитариев, показав и доказав всему миру, что эмоции людей, их творчество, их чувства и предвидения — всего лишь более или менее закодированная информация. Мы создали кибернетические машины, которые не только играют в шахматы, но и пишут совершенные художественные произведения, рисуют картины, сочиняют музыку.

Как бы там ни было, а поставленный ранее исторический вопрос остается без ответа. Повторяю: до сих пор никто не может сказать, чем отличается мышление человека от мышления кибернетической машины.

Как вы, видимо, заметили, в своем докладе я не касаюсь вопросов религии, бога, иных мистических явлений природы, без которых не могут обойтись гуманитарии, как ученый я пока что могу обходиться без бога и без дьявола. (Аплодисменты, смех в зале).

Между тем кибернетика развивается по своим объективным законам. Сейчас нами созданы машины, которые обладают образным ассоциативным мышлением, есть машины, которые сами у себя находят неполадки и тут же их устраняют с помощью человека. Кибернетика настолько прочно вошла в жизнь человечества, что сегодня мы не можем без нее обходиться. Сбои в работе кибернетических систем могут вызвать хаос в международном масштабе. Управление технологическими процессами, экономикой, выбор наиболее оптимальных решений в различных отраслях науки, технологии, бытовая техника — все это передано компьютерам. И чем дальше, тем все больше людей занимается их обслуживанием.

Считаю, что в наш критический переломный исторический момент мы вынуждены признать тот горький факт, что стоим перед выбором: или погибнуть под тяжестью несовершенных человеческих чувств, приведших, как вы сами видите, человечество к кризисному состоянию, или отдать управление всем человечеством единому электронно-вычислительному центру. Это значит, мы должны признать власть Искусственного Разума над собой. (Шум в зале).

Да-да, коллеги, позвольте мне закончить свою мысль. Я утверждаю, что мы, человечество, вступили на технократический путь развития только ради того, чтобы создать Искусственный Разум, которому должны подчиняться. Реальность в мире такова, что сегодня мы не можем решить тот комплекс сложнейших задач, которые стоят перед нами. И в то же время у человечества есть выход, подчеркиваю, единственный выход: передать управление всеми проблемами — экономическими, политическими, демографическими, экологическими, морально-этическими — Искусственному Разуму. Ибо все эти процессы и проблемы, не мне вам объяснять, можно перевести на язык информатики. Машины для обработки такой информации нами уже созданы.

Будем откровенны, взглянем правде в глаза: если мы доверяем Искусственному Разуму управлять различными технологическими процессами, если в музейных залах часами рассматриваем и любуемся картинами, написанными Искусственным Разумом, если слушаем музыку, сочиненную Искусственным Разумом, так почему мы отказываемся от дальнейшего, что само собой логически напрашивается?

Повторяю свой основной и главный вывод: задача человечества — создать Искусственный Разум, который станет управлять людьми.

Голос из зала:

— Какой смысл в этой исторической замене, Миллер?

Миллер:

— Думаю, что в соответствии с нынешним состоянием науки и техники ответа на этот вопрос вам никто пока не даст. Видимо, это одна из величайших загадок космоса. Сегодня я могу только высказать некоторые соображения. Как вам хорошо известно, жизнь на Земле закончится намного раньше, чем угаснет Солнце. Если взглянуть на нашу планету из космоса, то можно увидеть, как следом за ней тянется длинный газовый шлейф. Все время Земля теряет воздух, процесс этот происходит весьма интенсивно, во всяком случае он протекает намного быстрее процесса затухания Солнца. По этой же причине вокруг Марса почти нет атмосферы. Можно предположить, что до тех пор, пока на Земле исчезнет атмосфера, человечеством будет создан совершенный Искусственный Разум, которому, как вы сами понимаете, атмосфера не понадобится.

Голос из зала:

— Признать над собой власть машин — это безумие, Миллер… Это значит, что вы призываете нас добровольно залезть в капкан, из которого никогда не выбраться.

Миллер:

— Вот видите: даже вы, лучшие представители технократии, не хотите да и не желаете поверить в ту реальную ситуацию, которую я вам честно и объективно показываю. А что же тогда мы можем требовать от простых людей, от гуманитариев?.. Поверьте, еще большим безумием будет, если вы не прислушаетесь к моим логическим выводам. Предложите мне что-либо лучшее, и я сразу же, на ваших глазах, разорву на клочки свой доклад.

Голос из зала:

— Как вы считаете, Миллер, какие задачи стоят перед Искусственным Разумом?

Миллер:

— Я не могу ответить на этот вопрос. Опять же, пока что я могу лишь высказать свою гипотезу. Возможно, человечество является одной из подсистем намного более сложной цивилизации, задачи и деятельность которой нам неизвестны. Пока что перед нами поставлена ближайшая задача, которую мы сейчас отчетливо видим: создать Искусственный Разум. Как только создадим Искусственный Разум, наша задача будет исполнена и мы в таком случае…

Возглас из зала:

— Что, погибнем?

Миллер:

— Будем смотреть правде в глаза: не исключена и такая возможность. На первом этапе мы просто переходим в подчинение Искусственного Разума. Так же, как отдельная живая клетка — а она, как вам известно из школы, является замкнутой живой системой — выполняет определенную функцию и совсем не знает да и не может знать о задачах человека, а тем более — всего человечества, так и мы, слабые, смертные люди, не можем знать задач, стоящих перед высшими цивилизациями и тем же Искусственным Разумом.

Голос человека, ранее крикнувшего: «Это безумие…»

— О-о, Миллер!.. Не кажется ли вам, что вы замахиваетесь на фундаментальное нарушение воззрения всего человечества как на свою природу, так и на весь космос. Сказав а, вы заставляете всех нас молча думать об известном б. По-вашему получается, что мы — всего лишь подопытные существа, белые мыши в викарии медицинского института. Старая, давно всем надоевшая песня.

Миллер:

— Нет. Вы неправильно меня поняли. Мы выполняем определенные исторические задачи и обязательно выполним. В космосе никаких экспериментов нет и не проводится. В космосе, как и на Земле, существуют определенные закономерности, которые мы изучаем, согласно которым живем и которые никому не дано нарушать. Если человек не свободен в своем рождении, то и все человечество не свободно в своем появлении и развитии.

Голос из зала:

— Почему мы не можем объявить войну Искусственному Разуму, пока не поздно?

Миллер:

— Что значит — объявить войну Искусственному Разуму? С кем и за что вы собираетесь воевать? Вы что, полагаете, люди добровольно откажутся от того, что дал и продолжает давать им Искусственный Разум? В нынешней сложной и, подчеркиваю, безысходной ситуации он просто возьмет все человечество под свою опеку.

Председатель заседания:

— Коллеги, я вижу, что доклад доктора Миллера вызвал у вас заинтересованность. И все же прошу вас: дайте ему возможность закончить свое выступление. Пожалуйста, Миллер, продолжайте.

Миллер:

— Как вы понимаете, мое выступление необходимо засекретить. Если у вас, специалистов-технократов, возникают сомнения в достоверности моих выводов, то у простых людей этих мучительных сомнений будет намного больше, могут возникать нежелательные эксцессы, которые проявятся в различных террористических актах против кибернетических машин и систем, против нас, технократов. Кстати, что-то подобное в истории человечества уже происходило, когда люди начинали ломать станки и машины. Поэтому свой доклад я закончу следующим предложением.

Как вам известно, сейчас планируется первая космическая экспедиция. Десять космических кораблей мы направляем на Марс, где планируем основать марсианскую цивилизацию. Прошу вас разрешить Искусственному Разуму взять руководство жизнью колонии. Чтобы в колонии не возникли нежелательные эксцессы, наподобие террористических, предлагаю будущих колонистов набирать только из числа добровольцев, которых надо заранее предупредить о предстоящих условиях жизни на Марсе.

Все, я закончил выступление. Можете задавать вопросы. (В зале тишина).