Логика человечности

Иван Сергеевич потянулся и невольно зевнул.

- Устали? – спросил Дима, и стал снимать присоски датчиков с головы Ивана Сергеевича.

- Да нет, просто засиделся. Долгий тест был?

- Почти час – Дима собрал ворохом провода с датчиками и положил на стол.

- То-то у меня ноги затекли.

Иван Сергеевич поднялся из кресла и сделал несколько шагов для разминки.

- А наверное лысым удобнее датчики прилеплять, - пошутил он, проводя рукой по блестящей макушке.

- Да нет, эти присоски и на волосах отлично держатся, - рассеянно проговорил Дима, колдуя на клавиатуре компьютера.

Вообще-то, Дима был одним из ведущих специалистов по проектированию искусственного интеллекта. По жизни даже не Дима, а Дмитрий Александрович, и весьма требовательный руководитель небольшой группы разработчиков. Но Иван Сергеевич был на двадцать с лишним лет старше и всего лишь одним из тестировщиков, а не подчинённым, так что у них сами собой сложились полуофициальные отношения.

- О чём сегодня был тест, Дим? – спросил Иван Сергеевич.

- Сейчас идёт большая серия тестов по оценке уровня и различий абстрагирования людей и искусственного интеллекта. Мы ставим определённые задачи и сравниваем результаты их решения человеком и машиной, - Дима откинулся на спинку стула и посмотрел на Ивана Сергеевича. – Вы точно не помните содержание теста? Это важно.

- Нет, только ощущение будто я работал живым калькулятором, всё считал, считал, считал…

- Да, интуитивные ощущения остаются, к сожалению, и это искажает последующие тесты.

- Человек не машина, ему байты не сотрёшь, - не преминул вставить Иван Сергеевич.

Разговор входил в привычное русло - в бесконечный спор можно ли создать искусственный интеллект и вообще можно ли его считать интеллектом.

- Стереть, как раз, можно, но это скорее всего отрицательно повлияет на здоровье. Мы вмешиваемся по минимуму, чтобы исключить непосредственно влияние тестов друг на друга.

- Надо набрать побольше тестировщиков и каждым проводить только один тест – посоветовал Иван Сергеевич.

- Испытуемые должны обладать определённым уровнем знаний, где столько найти? А специалисты нужны из разных областей – и физики, и лирики, и те, кто верит в искусственный интеллект, и те, кто не верит… у нас даже один философ есть, который вообще ни во что не верит и готов спорить о чём угодно. Чем больше разнообразие, тем точнее результат. Но не каждый ведь согласится стать подопытным кроликом, и бюджет у нас ограниченный. Поэтому приходится следить за нагрузкой на испытуемых, за их состоянием здоровья. Медики не только проверяют вас до и после теста, но и тщательно контролируют любое наше вмешательство, например, временную блокировку памяти.

- О! - Иван Сергеевич воздел указательный палец к потолку. – Забота о ближнем, человечность, социальная ответственность, так сказать. В этом-то и заключается разница между человеком и машиной! Вот когда машина перевяжет ободранную лапу котёнку, тогда я поверю в её интеллект!

Фраза прозвучала напыщенно и не логично, но Иван Сергеевич уже увлёкся и не обратил на это внимания.

- Далеко не каждый человек позаботится о котёнке, - задумчиво проговорил Дима.

- Ну это я так, фигурально… ну чтобы было понятно, что я хотел сказать – немного смутился Иван Сергеевич.

- Понял, эмоции как критерий поведения…

- А почему бы и нет? Именно эмоции позволяют человеку действовать во благо ближнего, а не во имя расчётливой логики.

Дима долго молчал, то поправляя провода на аппаратуре, то отыскивая что-то на компьютере. Иван Сергеевич мысленно сочинил целую массу новых неопровержимых, как он считал, доводов, подтверждающих его рассуждения, и уже собрался изложить их Диме, но тот начал говорить первым.

- Иван Сергеевич, у меня есть предложение для вас. Как тестировщик, вы сможет участвовать ещё в одном-двух опытах, не больше. Нельзя блокировать память бесконечно, а память о предыдущем тесте изменяет реакцию в последующем. Поэтому я могу предложить вам прервать серию сейчас и пройти один специальный тест. Он исключён из общей серии, потому что его результаты на данный момент невозможно интерпретировать достаточно определённо. Вы полностью сохраните память о том, что происходило во время теста. Мне интересно ваше мнение, и мы вместе сравним реакцию человека и искусственного интеллекта.

Иваном Сергеевичем овладел азарт — это было необычно.

- Согласен! – решительно заявил он. – Когда начнём?

- Сходите в медпункт, и, если врач возражать не будет, прямо сейчас и начнём.

Врач не возражал, и через пятнадцать минут Иван Сергеевич вновь устроился кресле.

- Это необычный тест, - пояснил Дима, цепляя датчики к голове Ивана Сергеевича. – Вы будете поставлены в экстремальную ситуацию, которую вам предстоит разрешить. Скорее всего вы будете испытывать напряжённые и неприятные эмоции. Честно говоря, конкретный сюжет и вашу роль в нём я не знаю, это выберет компьютер, но цель известна – найти выход из положения с минимальными жертвами.

- Серьёзное заявление, может назначим меня Супергероем? – пошутил Иван Сергеевич.

Но Дима шутки не поддержал. Закрепив датчики, он повозился с компьютером, потом повернулся к Ивану Сергеевичу и спросил:

- Готовы?

Иван Сергеевич вдруг подумал, что для Димы он не более чем одна из возможных схем «интеллекта», только не из железа, а из мяса и костей. Но помимо деловой озабоченности в глазах Димы явно просматривалось переживание за то, что он вынужден причинять неприятности другому человеку. Что ж, хорошо, когда всё зависит не только от холодной логики, подумал Иван Сергеевич и сказал:

- Готов!

***

… лодка плавно скользила по прозрачной воде. До суши несколько сотен метров, но течение неумолимо несло мимо.

- Чёрт! – зло крикнул Джек и ударил кулаком в борт.

Для расстройства были основания.

Два дня назад их прогулочная яхта наткнулась на риф. Всё бы ничего – они уплыли лишь километра три-четыре в море, - если бы не стечение обстоятельств. Яхта затонула быстро и подать сигнал бедствия они не успели, а в спасательной шлюпке не оказалось вёсел. Пока они соображали, как поступить, поднялся ветер, несильный, но шлюпку быстро понесло в открытое море. Хорошо ещё НЗ был на месте, но за два дня вынужденного путешествия и он уже подходил к концу.

- Что будем делать? – спросил Моррис. – Пресной воды осталось совсем немного.

- Надо плыть, - решительно сказал Джек. – руками мы не догребём. До берега не так уж далеко, а до следующего острова мы можем и не дотянуть.

Моррис перевесился за борт.

- Тут полно акул, - сказал он, всматриваясь в воду. – Вон одна, вон ещё пара…

- Придётся рискнуть! – громко сказал Джек.

Моррис покосился на Боба, молча лежавшего на носу лодки.

- Боб, ты как, доплывёшь? Мы поможем.

Боб погладил забинтованную ногу. Не повезло, напоролся на какую-то железку, когда они поспешно покидали яхту. Кровь образовала на бинтах большое грязно-бурое пятно.

- Нет, - сказал он, - вам придётся плыть одним. Дело не в том доплыву я или нет, а в акулах. Они сразу почуют запах крови, тогда уже никто не доплывёт. Нам не нужны лишние жертвы, вы плывёте первыми, а потом уже я попробую.

Джек резко повернулся, но Боб не дал ему высказаться.

- Заткнись, Джек! Другого пути нет. И ждать больше нельзя, нас пронесёт мимо. Удачи вам, ребята!

- Он прав, Джек, - Моррис поднялся на ноги и неловко перевалился через борт.

Джек бестолково покрутился на месте, не зная на что решиться.

- Чёрт! – снова выругался он и прыгнул в воду.

Боб смотрел как они плывут и старался ни о чём не думать. На воде друзей было плохо видно, но вот уже один выбрался на берег, прошёл несколько шагов и повалился на песок пляжа, а второй ещё барахтался в полосе прибоя. Боб, старясь не потревожить раненную ногу, осторожно перелез через борт и поплыл.

Он проплыл уже половину пути, когда заметил, что акул стало больше. И вели себя они уже не так спокойно, как раньше, а резко поворачивали из стороны в сторону. Боб продолжал размеренно грести, пока одна из акул не направилась прямо к нему. За ней сразу пристроилась ещё одна.

«По крайней мере, будет минимум жертв», подумал Боб…

***

Иван Сергеевич открыл глаза.

Дима заметил, что он зашевелился, и спросил:

- Как самочувствие? Может стакан воды?

Иван Сергеевич прокашлялся и ответил:

- Нет, чего-чего, а воды и так хватило…

Он подождал, пока Дима снимет датчики, встал и прошёлся по комнате.

- Ну и задание ты мне выбрал… - сказал Иван Сергеевич, хмурясь.

- Это не я, а компьютер. Исходя из общей задачи, он выбрал сценарий, подогнал под личность испытуемого, создал соответствующий антураж… а что, так неприятно было?

- Неприятно… меня там акулы сожрали! А ты что, не знаешь сценария?

- В общих чертах. Можно, конечно, посмотреть подробности по отчётам, но нам важнее результат.

- Ага, так сказать, цель оправдывает средства, - недовольно сказал Иван Сергеевич.

- Ну зачем вы так. Просто вы ещё не оправились от эмоций, которые испытали. Но не забывайте, это вымышленные события, в реальности ничего не было. Другое дело, что в реальности вы скорее всего поступили бы также, как и в испытании. Расскажите, что там было.

- Ничего себе вымышленные…, проворчал Иван Сергеевич, и вкратце пересказал события, которые ему пришлось пережить.

- Думаю, что я выдержал испытание, и, так сказать, добился минимума жертв, - закончил Иван Сергеевич.

- Нет, - сказал Дима.

- Что значит нет? Съели только меня, а могли съесть всех!

- Нет, - повторил Дима. – Помните, я вам говорил, что этот тест исключён из общей серии. Исключён по настоянию психологов, но мы провели несколько опытов с согласия испытуемых. Понятие «минимум жертв» люди и искусственный интеллект интерпретируют по-разному. Для людей ключевое слово здесь, как ни странно, «жертва». Подсознательно почти все, как зомби, стараются не избежать жертвы, а наоборот, ищут её. А для искусственного интеллекта здесь срабатывает формальная логика и ключевым словом становится «минимум». А минимум, в данном случае, ноль, и искусственный интеллект в первую очередь ищет решение, в котором жертв нет совсем.

- А разве в этой ситуации такое есть? – спросил Иван Сергеевич.

- Есть. В решении компьютера для вашего случая, пассажиры оторвали у лодки сиденья и догребли до берега без жертв. Трое взрослых мужчин вполне способны это сделать.

Иван Сергеевич долго молчал, ходил по комнате, бесцельно поправлял связки проводов на столах. Наконец, он остановился, посмотрел на Диму, и сказал:

- В искусственный интеллект я всё равно не верю, но логика человечности, видимо, сложнее, чем кажется на первый взгляд…