Взаимодействие роботов

Взаимодействие роботов

Я сочиняю рассказы про роботов вот уже полвека. За это время мне удалось обсудить данную тему с самых разных сторон.

Поверьте, в мои намерения не входило составление энциклопедии роботов; я даже не собирался писать про них в течение полувека. Просто получилось, что мне удалось так долго продержаться и сохранить собственный интерес к данной проблеме. А еще получилось, что, стараясь придумать новые идеи для рассказов про роботов, я пришел к тому, что размышлял практически обо всем на свете.

Например, в шестом томе серии «Город роботов» речь идет о хемфетах, которые были внедрены в тело главного героя, чтобы обеспечить ему прямой психоэлектронный контроль над главным компьютером и, следовательно, всеми роботами в Городе роботов.

В книге «Край Основания» (1982) мой герой Голан Тревиз, прежде чем стартовать на космическом корабле, входит в контакт с суперсовременным компьютером, положив руки на указанное место на панели, у которой он сидит.

«И когда они с компьютером соединили руки, их мысли слились воедино…

…он увидел четко и ясно комнату – не только в том напралении, в котором смотрел, а все вокруг, даже то, что находилось вверху и внизу.

Он увидел все каюты на космическом корабле, и то, что было снаружи. Солнце встало… но он мог смотреть прямо на него, и оно его не ослепило…

Он почувствовал легкий ветерок и его тепло, звуки, которые издавал окружающий мир. Он ощутил магнитное поле планеты и крошечные электрические заряды, касающиеся корпуса корабля.

Он почувствовал панель управления кораблем… Он знал… что если он захочет поднять корабль, или повернуть его, или придать ему ускорение, или воспользоватсья другими его возможностями, это будет все равно как проделать то же самое со своим телом. Нужно только захотеть».

Вот так я представил себе взаимосвязь человеческого мозга и компьютера, а теперь, работая над новой книгой, не могу не думать над этой проблемой и пытаться найти новые решения.

Полагаю, что впервые человек научился устанавливать связь между своим сознанием и другим видом сознания в тот момент, когда он приручил лошадь и научился использовать ее в качестве транспортного средства. Общение человека с лошадью достигло своей наивысшей точки, когда он сел верхом и при помощи кнута, шпор, серии определенных движений и звуков сумел заставить лошадь вести себя так, как ему нужно.

Неудивительно, что древние греки, увидев всадников, скачущих по относительно широкой Тессалийской долине (район Греции, наиболее подходящий для коневодства), решили, что они видят животное с человеческим торсом и телом лошади. Так на свет появились кентавры.

Разумеется, не следует забывать о гонщиках и каскадерах, которые могут заставить автомобиль выделывать поразительные штуки. Можно представить себе, что житель Новой Гвинеи, который никогда не видел и не слышал про автомобиль, подумает, что подобные фокусы вытворяет диковинное живое существо, частью строения которого является человек, сидящий у него в брюхе.

Но человек в соединении с лошадью – это несовершенное слияние интеллектов, а человек плюс автомобиль – всего лишь механический инструмент для усиления мышечной силы человека. Лошадь может легко проигнорировать приказ или даже убежать, охваченная неконтролируемым страхом. Автомобиль может сломаться в самый неподходящий момент.

Однако слияние человека и компьютера может оказаться максмальным приближением к идеалу. Оно может стать инструментом для более эффективной мозговой деятельности человека, и я постарался показать в романе «Край Основания» усиление и интенсификацию восприятия окружающей действительности.

В данных обстоятельствах, возможно ли, что благодаря такому слиянию появится единый организм, нечто вроде кибернетического «кентавра»? А как только такой союз будет создан, захочет ли человек его разорвать? Не почувствует ли он, что разрыв причинит ему невыносимую боль потери, настолько сильную, что он не сможет жить с ощущением нищенства своего ума и воли? В моем романе Голан Тревиз мог в любой момент по собственному желанию отсоединиться от компьютера и не испытывал при этом никаких неприятных ощущений. Но, возможно, это не очень реалистично.

Другая проблема, которая время от времени обсуждается в серии «Город роботов», – это отношения роботов между собой.

Я не слишком часто обсуждал ее в своих рассказах, поскольку, как правило, в каждом данном рассказе у меня один главный герой-робот, и меня интересуют вопросы взаимодействия этого конкретного робота и людей.

Давайте представим себе разные сочетания роботов.

Первый закон утверждает, что робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Предположим, у нас имеется два робота. Один из них по неосторожности, из-за отсутствия необходимых знаний или в силу определенных обстоятельств ведет себя таким образом (неосознанно), что его действия могут причинить вред человеку, – и предположим, что второй робот, обладающий более обширными знаниями или пониманием ситуации, это осознает. Разве Первый закон не требует от него, чтобы он остановил первого робота? Если нет другого пути, разве Первый закон не требует от него, чтобы он уничтожил первого робота без сожалений и колебаний?

Так, в моей книге «Роботы и Империя» (1985) показан робот, которому объяснили, что люди – это существа, разговаривающие с определенным акцентом. У героини книги другой акцент, следовательно, робот имеет полное право ее убить. Его мгновенно уничтожает другой робот.

Точно такая же ситуация возникает и когда мы вспомним о Втором законе, в котором говорится, что робот должен повиноваться приказам человека, если эти приказы не противоречат Первому закону.

Если один из двух роботов вследствие незнания или небрежности не выполняет приказ человека, второй должен либо выполнить команду сам, либо заставить первого робота это сделать.

Так, в одной из самых напряженных сцен в «Роботах и Империи» злодейка отдает роботу прямой приказ. Тот колеблется, потому что его выполнение может причинить вред героине. Возникает конфронтация между злодейкой, которая настаивает на выполнении своего приказа, и вторым роботом, пытающимся убедить первого в том, что героиня может пострадать. Здесь возникла ситуация, когда один робот пытается уговорить второго подчиниться Второму закону в его истинном звучании и противостоять человеку.

Однако самые серьезные проблемы, когда речь идет о взаимодействии роботов, возникают в связи с Третьим законом.

Третий закон утверждает, что робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму законам.

Но что, если речь идет о двух роботах? Озабочен ли каждый из них своим собственным существованием, что является буквальным пониманием закона? Или каждый робот испытывает необходимость помогать своим собратьям в ситуациях, когда речь идет об опасности для их существования?

Как я уже говорил, я не слишком много занимался этой проблемой, когда писал рассказы, в которых главным героем был один робот. (Иногда там появлялись и другие роботы, но они были второстепенными персонажами – всего лишь оруженосцами, если можно так выразиться.) Однако сначала в «Роботах рассвета» (1983), а затем в сборнике «Роботы и Империя» я описал двух роботов, которые играли одинаково важную роль для повествования. Один из них – Р. Дэниэл Оливо, антропоморфный робот (которого не так просто отличить от человека), появлявшийся в «Стальных пещерах» (1954) и в его продолжении «Обнаженное солнце» (1957). Другой – Р. Жискар Ревентлов, который имеет более стандартную металлическую внешность. Оба робота обладают интеллектом, сходным по сложности с человеческим.

Именно они вступили в борьбу со злодейкой по имени леди Василия. Она приказала Жискару (таков поворот сюжета) оставить службу у Глэдии (главной героини) и поступить в ее собственное распоряжение. А Дэниел приводил доводы, чтобы убедить Жискара остаться с Глэдией. Жискар обладает способностью устанавливать ограниченный ментальный контакт над человеческими существами, и Дэниел пытается его уговорить, что ради безопасности Глэдии ему следует взять под контроль Василию. Он даже рассуждает о пользе для всего человечества («Нулевой закон»), которую принесет данный образ действий.

Доводы Дэниела ослабляют приказы Василии, но в недостаточной степени. Жискар колеблется, но его невозможно заставить действовать.

Тем временем Василия решает, что Дэниел слишком опасен: если он будет продолжать спорить, он может убедить Жискара в своей правоте. Тогда она приказывает собственным роботам отключить Дэниела, а затем велит Дэниелу не сопротивляться. Дэниел обязан подчиниться, и роботы Василии принимаются за дело.

Именно в этот момент и «просыпается» Жискар. Четыре робота выведены из строя, а сама Василия погрузилась в сон. Позднее Дэниел просит Жискара рассказать ему, что произошло.

Жискар говорит:

«Когда она приказала роботам разобрать тебя на составные части, друг Дэниел, и продемонстрировала явное удовольствие от этой перспективы, твоя безопасность плюс концепция Нулевого закона перевесили действие Второго закона и вступили в противоречие с Первым. Комбинация Нулевого закона, психоистории, моей верности леди Глэдии и того, что ты попал в беду, заставили меня действовать».

Дэниел заявлет, что его собственные нужды (поскольку он всего лишь робот) не должны были повлиять на действия Жискара. Тот с ним не согласен, однако говорит:

«Странная вещь, друг Дэниел. Я не знаю, как так получилось… В тот момент, когда роботы начали к тебе приближаться, а леди Василия не смогла скрыть ликования, схема моих позитронных дорожек реформировалась аномальным образом. На мгновение я подумал, что ты человек, и отреагировал соответсвующим образом».

«Это было неправильно», – говорит Дэниел.

«Я знаю, – отвечает Жискар. – Однако если такое случится снова, мне кажется, та же аномальная перемена произойдет опять».

Дэниел понимает, что, если бы он оказался в подобной ситуации и опасность угрожала бы Жискару, он тоже встал бы на его защиту.