Марсианская комната

2075.09.23. 15:00

Стайл с конференции смылся, заставив Киру мысленно скрежетать зубами. В конце концов, это его фирма и его роботы. А разговор, судя по всему, предстоял острый.

Встреча началась спокойно, даже благожелательно. Презентация явно оставила приятное послевкусие, в том числе и роскошно отработавший свой хлеб «эксгибиционист».

Девушка из гламурного журнальчика задала предсказуемый вопрос: «Почему ртуть?»

Кира разразилась подготовленной речью о текучем, но прекрасном жидком металле, сама же при этом напряженно ждала неприятностей. Надо было попросить кого-то из дружественных изданий задать «плохие» вопросы вовремя и в правильной формулировке. Всегда можно договориться, оплатить лишнюю рекламу. Но Киру больше волновало шоу, чем конференция. Теперь она об этом жалела.

Главных неприятностей Кира ждала от Алекса Каро, известного как симпатиями к луддитам, так и личной неприязнью к Протезисту. Кире довелось работать с Алексом еще на заре ее карьеры, Алекс бульдогом вцеплялся в тему или персону, привлекшую его внимание.

Однако волну погнал обозреватель из компьютерного журнала «Процессор», ранее интереса к тематике андроидов не проявлявшего.

— Эрик Фромм — один из ключевых акционеров А-Стайлс, не так ли?

Кира кивнула.

— На прошлой неделе доктор Фромм опубликовал статью об искусственном интеллекте в элитном психологическом журнале. В частности, в ней обсуждается вероятность развития ИИ до уровня живого разума. Возникает очевидный вопрос: считает ли корпорация А-Стайлс своих андроидов разумными, или предполагает, что роботы «оживут» в будущем?

— Давайте расставим все по местам. Живой разум Эрика Фромма может себе позволить любые игры. Но было бы ошибкой предположить, будто робот способен думать. Он только имитирует мыслительную деятельность. История знакомства Эрика и Стайла Мо широко известна. Стайл много размышлял на эту тему, дискутировал с другом и соратником Максом Манном. Но сами понимаете, технарям тяжело даются гуманитарные вопросы. Ответ нашел Стайла во сне. Ему приснилась идея Марсианской комнаты, в метафорической форме, конечно же. Стайл обсудил идею с Эриком Фроммом, единственным знакомым психологом. Эрик распознал в ней принципы построения искусственного интеллекта, он так увлекся этой темой, что закрыл практику психотерапевта и вступил в команду А-Стайлс, чтобы начать работу над созданием андроидов. Суть Марсианской комнаты проста — решения любой задачи робот выбирает из базы вариантов, и это механический процесс.

К беседе наконец-то присоединился Каро.

— Не сомневаюсь, вы знакомы с Меморандумом Луддитов?

— Мы знаем о существовании этого документа, однако, не считаем его заслуживающим пристального внимания, — ответила Кира.

— Со всем уважением к вашему мнению, я дал себе труд ознакомиться с Меморандумом. Там задается вопрос, который волновал несчастного безумца, чудом прорвавшегося на конференцию: насколько роботы безопасны?

— Системы безопасности встроены в операционную систему любого андроида производства А-Стайлс не просто на этапе программирования, они заложены доктором Фроммом при разработке структуры мышления. Ни один робот никогда не причинит вреда человеку. Чтобы обойти этот запрет, надо не править что-либо в программном обеспечении, надо написать операционную систему заново, создав при этом принципиально другую техническую основу. Еще раз заявляю от лица корпорации: андроид А-Стайлс никогда не причинит вреда человеку. Именно поэтому невозможно использовать наших роботов в военных целях.

Алекс не унимался.

— Меморандум отвечает на статью Эрика Фромма. Может быть, мы некомпетентны обсуждать такие сложные научные вопросы, но меня тревожит мысль, что если у роботов появится подсознание, а именно о нем идет речь в скандальной статье доктора Фромма, то робот способен сойти с ума. Сможет ли безумный андроид отличить человека от другого андроида? Такие сценарии часто встречаются в мировой фантастике.

— Жизнь, уважаемый господин Каро, крайне далека от художественной прозы. И не все фантастические прогнозы сбываются. В реальном мире человек человеку опаснее любого технического устройства.