Собеседник №3 1977

Строптивый УСОРЕЗ

Эта захватывающая история имеет определенные шансы завершиться крупным скандалом. Правда, когда такой момент наступит, - сказать трудно. Все же, заметим, тысячи и тысячи людей в наши дни делают уже все, чтобы его приблизить.

Есть все основания начать наши репортажи прямо из зала суда, в котором... может состояться процесс. Хотя само «преступление» еще и не совершено, следствие по нему давно ведется. Согласитесь, ситуация не из самых простых.

Обвиняемый уже известен, хотя он пока еще не существует. Потерпевший, вне всякого сомнения, является прямым сообщником подсудимого.

Хотя угроза общественному спокойствию налицо, ни в одном своде законов не сказано, как в этом случае надлежит поступать правосудию.

Парадоксов так много, что позволительно спросить: может быть, тут замешаны духи?.. Нет, речь пойдет о вещах вполне материальных. Правда, в большей степени дело касается разума. И в первую очередь - искусственного разума.

Да, отправным пунктом наших сенсационных разоблачений является вопрос, давно ставший популярным: «Может ли машина мыслить?» Вне всякого сомнения, это один из главных вопросов науки XX столетия. Стремясь ответить на него, пытаясь так или иначе обосновать свои ответы, ломают копья философы и психологи, биологи и кибернетики, физики и химики, математики и инженеры. Его перефразируют так и сяк, раскладывают на составляющие, выворачивают наизнанку, пытаются объявить несуществующим или несущественным. Но он существует, развивается, разветвляется и не обещает, что забот с ним у человечества вскоре убавится.

Вопрос этот возник не так давно - около тридцати лет назад. Причем одна из фей, стоявших у колыбели «новорожденной» - кибернетики, -оказалась довольно коварной волшебницей. Похоже, что ей нравились больше всего именно такие «детки» - с совершенно неожиданными наклонностями... «Мы ответим на ваш вопрос, -говорят, например, одни ученые, - если вы нам ответите на два других: что такое машина? И что такое мышление?» «Мыслящая машина уже существует, - говорят другие, - это человек. Вся деятельность его мозга и, следовательно, все его поведение могут быть (когда-нибудь) объяснены с помощью физики, химии и математики...» Могут ли? Вот вам еще одна не менее заковыристая загадка (загадка человеческого «я»).

Когда в какой-либо науке вопросов больше, чем ответов, говорят о кризисе. «Перепроизводство вопросов» - тревожный симптом, особенно, если ответы на них необходимы для того, чтобы заглянуть краешком глаза в собственное будущее. Какая из многочисленных, рисуемых воображением, картин окажется более правдоподобной?

Это зависит и от того, каким будет ответ на вопрос: «Может ли машина мыслить?» Если - нет! - то человечество обречено лишь на довольно медленное развитие и «поумнение», не быстрее, чем позволяет биологическая эволюция. Если - да! - то...

Перед зданием суда шумят толпы любопытных, щелкают затворы фотоаппаратов, снуют мальчишки-газетчики. Их крики и громадных размеров заголовки на газетных полосах раскрывают причину столпотворения.

«Процесс всех времен!»

«Профессор Мэйзи Метикс против «Артифишиал интеллидженс»*³!»

«Машина обозвала человека дураком!»

«Адвокат Цереброн: Я защищаю авторские права Природы!»

Для уяснения сути дела обратимся к материалам прессы.

Вот интервью с профессором психологии, который, в частности, заявляет: «Для меня не столь важно, прав или нет робот в своих обвинениях. Гораздо важнее - умеет ли он извиняться...»

Детский писатель: «Я все время прошу знакомых ущипнуть меня и спрашиваю себя - не попал ли я в чудесную сказку? Неужели наяву могут наступить времена добрых волшебников и чародеев? Свободные от человеческих слабостей существа, загадочные и могущественные! Вот кто даст нам возможность жить, работать и развиваться, вечно оставаясь счастливыми детьми... Я рукоплещу науке!..»

Политический деятель: «То, что происходит, - страшно. Потерять контроль над миром техники, да еще обретшим сознание, - это значит потерять свободу, обречь себя на рабское существование. Если не сами люди будут решать, «что такое хорошо, а что такое плохо», то всем нашим законам, морали, культуре - грош цена, они превратятся в детские игрушки. Пусть цивилизация и будет продолжать развиваться - это будет уже не человеческая цивилизация. Если еще не поздно, надо срочно принимать меры по установлению строжайшего государственного надзора над научными исследованиями в области создания так называемого «искусственного мышления», а то и запретить их вовсе...»

Профессор И. А. Полетаев (г. Новосибирск): «Нет, в самом деле -страшно! Но, увы! Невозможно выключить «рубильник науки». Нельзя прекратить исследования генетического анализа и синтеза, невозможно не полететь на Луну, нельзя закрыть Америку. Если человек может открыть Америку, полететь на Луну, синтезировать живое существо, построить мыслящее механическое чудовище, он непременно и неизбежно все это сделает, даже если его не побуждает к этому прямая нужда. Просто - таков человек! Почему он таков - мы не знаем. Но узнаем, ибо человек (не этот, так следующий) и этого узнать не побоится»*⁴.

Не забывайте, что мы рассказываем о событиях, которые могут произойти лишь в будущем времени, и автор ручается за их достоверность лишь с учетом этого обстоятельства.

Итак, преподаватель математики одного из университетов, профессор

Мэйзи Метикс, обратился в суд с необычным заявлением. Суть дела заключалась в следующем. Для того, чтобы ускорить усвоение студентами премудростей данной науки, с некоторых пор было решено вести преподавание на новой основе. Известно, что ничто так не способствует развитию профессиональных навыков, как решение конкретных и практически важных задач. Существующие задачники с искусственно придуманными и тысячу раз решенными упражнениями для этой цели явно не годились. Но где взять такие задачи, которые бы, с одной стороны, никем ранее не решались, а с другой стороны, их решение было бы известно? Нельзя же к каждому студенту приставить по профессору!.. Помощь пришла со стороны фирмы «Артифишиал интеллидженс», которая сконструировала и изготовила электронное устройство, названное УСОРЕЗ - Универсальный СОставитель и РЕшатель Задач. Пользуясь введенными в нее сведениями из любого раздела математики, эта машина могла самостоятельно формулировать практически неограниченное число разнообразных задач, сообщая также результат их решения, а при необходимости - и то, как он получен. Профессору оставалось лишь произвести среди них отбор новых и наиболее интересных и предложить их студентам. Сначала все шло хорошо. «Электронный задачник» справлялся с работой, и все были довольны. Но по мере того, как автомат набирался опыта, профессор стал замечать, что некоторые объяснения выглядят довольно сомнительными, а иногда и просто бессмысленными. Когда профессор указал ему на это (общение с машиной могло осуществляться на вполне нормальном человеческом языке, хотя и несколько ограниченном по словарному запасу), машина в первый раз выразила непонимание. Последовала долгая и довольно напряженная дискуссия, результат которой оказался неожиданным. Робот отказался подчиниться человеку. Более того, он сообщил (точнее, доказал в виде теоремы), что вложенные в него принципы максимальной эффективности работы требуют замены помощника (так он назвал профессора!) устройством, которое было бы более способно к восприятию вырабатываемой информации, в сущности элементарной. То есть - помощнику надо знать математику не хуже, чем знает он, УСОРЕЗ... Поскольку профессор носил усы, среди студентов распространились недвусмысленные шутки. Профессор Мэйзи Метикс подал два заявления: одно - об отставке, другое - в суд. Не на УСОРЕЗ, естественно, а на изготовившую его компанию. Компания «Артифишиал интеллидженс» иск отвергла на том основании, что не брала на себя обязательств поставлять «вежливые машины». Однако при расследовании выяснилось, что случай не был единичным. Нечто похожее происходило и в других учебных заведениях, институтах, фирмах, но попросту замалчивалось. В дело счел нужным вмешаться государственный обвинитель. По его настоянию была создана авторитетная комиссия для расследования обстоятельств дела об «искусственном интеллекте» и последствий, к которым может привести его создание.