Колонистка Бет

Глава 22

Глава 22

IШеф-директор Кристер сложил пальцы домиком и еще раз взглянул на сидящих перед ним. Он был уверен в Светлане Коробовой, несмотря на ее молодость, потому что она была марсианкой в третьем поколении, как и Бетани Стоун. Те, кто родились на этой суровой планете — понимали, что в первую очередь важно атмосферное давление внутри помещений и насыщенная кислородом дыхательная смесь, а уж потом можно задавать вопросы насколько это этично и соответствует высоким моральным рамкам современной цивилизации. У них, тут в бассейне Эллада, или в кратере Маринера — свои законы, своя цивилизация. И одди со Старой Земли, таким как Джессика Ким — этого не понять. Так что весь этот разговор на самом деле велся больше даже для доктора Ким, нежели чем для специалиста по кибернетике и искусственному интеллекту Коробовой. Потому что Светлана Коробова, как и Бетани Стоун, дети третьего поколения пыльников и сперва исполнят приказ поселения, а уже потом вопросы задавать будут. Кто-то из внешников, те же русские из Шолохова — считают, что они тут абсолютных солдат себе выращивают, чтобы потом Землю захватить, какая глупость! Будто с ограниченными ресурсами Джексонвиля можно выращивать армии… и конечно же каждая из колонисток нового поколения — обладает совершенным моральным и этическим кодексом, каждая представляет из себя идеальный инструмент, каждая — способна на многое ради благополучия своего поселения и спасения жизни своих людей.

В отличие от доктора Ким… которой придется все объяснить. Понятными для нее словами. А значит — придется повторить для нее постулаты, которые она и без него знает. Но ему нужно настроить ее, дать ей понять и прочувствовать ситуацию. Насколько было бы легче, если бы вместо доктора Ким тут было бы две колонистки в третьем поколении, а не одна колонистка и одна бывшая одди. Ему не пришлось бы тут слова подыскивать, он бы просто рассказал все как есть, без подготовки. И колонистки в третьем поколении — просто кивнули бы головами и пошли исполнять. Но не как тупые, бездушные машины, а именно как люди нового поколения — понимая необходимость принятия тяжелых и даже порой сомнительных с точки зрения этики решений.

— Так вот. Эксперимент Соломона Аша. Сам Соломон Аш решил проверить теорию конформизма и выдвинул гипотезу о том, что люди будут игнорировать собственное восприятие реальности и следовать групповому консенсусу, даже если ответ группы явно неверен. В его эксперименте студентов просили якобы «проверить зрение». И в составе группы из нескольких человек усаживали в аудиторию. При этом все остальные в группе — были актерами, испытуемый был один. Группе показывали по порядку две карточки: на первой изображена одна вертикальная линия, на второй — три, только одна из которых такой же длины, что и линия на первой карточке. Задача студентов довольно проста — необходимо ответить на вопрос, какая из трёх линий на второй карточке имеет такую же длину, что и линия, изображённая на первой карточке. Студенту предстояло просмотреть восемнадцать пар карточек и, соответственно, ответить на восемнадцать вопросов. Обратите внимание — каждый раз он отвечал последним в группе. На первые два вопроса все дают одинаковые, правильные, ответы. Но на третьем этапе актёры дают один и тот же неправильный ответ, что приводит испытуемого в замешательство. Ведь он явно видит, что линии не равны, что это, допустим вариант «Б», но все вокруг говорят, что вариант «А». Каков был итог? Семьдесят пять процентов подчинились заведомо ошибочному мнению большинства. — шеф-директор скрещивает пальцы: — это при том, что они видели и понимали, что этот ответ неверен. Обратите внимание, Светлана, на этот раз людям не давались прямые указания, им не отдавали команды, а актеры не играли роли авторитетных людей, а были якобы такими же студентами. Каков вывод?

— Людьми можно управлять? Это… не самый этичный эксперимент. Я читала об этом. — говорит Светлана Коробова: — на этом основаны многие технологии манипуляции общественным мнением. Внушение что так мыслит большинство действует безотказно. Но структура управления в Джексонвилле лишена таких недостатков. У нас нет выборных институтов власти вроде парламента или президента, в результате никто не может манипулировать общественным мнением, предлагая популистские решения.

— То что ты говоришь исключительно верно, Светлана. Однако это только теория. К сожалению, сосредоточение власти в одних руках как правило тоже чревато. Но речь не об институтах власти, речь о ткани общества. Думаю, что доктор Ким не будет отрицать того, что одни и те же люди могут показать как пример удивительного героизма и добросердечности, так и самых ужасных преступлений и злодеяний. Эксперименты Соломона Аша лишь начало социальной психологии как мы ее сейчас знаем. Знаете что? Если в коллективе каждый десятый — являет собой положительный пример, то все общество начнет на таких равняться. Не нужно законов и приказов, достаточно лишь мягкого направления в нужном направлении. Осуждающего взгляда соседа, одобряющих слов молодой девушки, поощряющего похлопывания по плечу своих товарищей… вот и все, что порой становится границей между преступником и ценным, законопослушным и добропорядочным членом общества.

— Один к десяти? — доктор Ким подобралась в своем кресле.

— Как показала практика, достаточно соблюдать пропорцию один к двадцати пяти… если обеспечить достаточную социальную мобильность и не допускать создания тесных и закрытых социальных групп. Если в группах имеются свои… столпы общества, скажем так. Они не обязательно должны быть авторитетными в смысле должности или статуса, возраста или опыта. Иногда достаточно легкого воздействия. Люди постоянно ищут признаки одобрения своего поведения в социуме на лицах окружающих.

— Вот почему в Джексонвилле постоянно меняются коллективы на разных работах и места за столиками в столовых. А еще эти ваши часы социализации, — понимающе протянула доктор Ким: — вы получается… что же? Наняли актеров? Чтобы те — изображали из себя положительный пример? Были теми самыми невидимыми столпами общества? Но… как это возможно? — она задумывается: — невозможно… актерам пришлось бы потратить всю свою жизнь, это уже не игра. Никто на такое не пойдет.

— Андроиды на дистанционном управлении? — предполагает Светлана: — если управлять ими скажем со Старой Земли, нанять театральный коллектив, который по очереди отыгрывал бы роли таких «столпов общества». Тогда не обязательно жить на Марсе.

— Тоже нереально. — тянет доктор Ким: — об этом тут же стало бы известно. Коллектив актеров такого размера — это как пауки в банке. Они обязательно растрепались бы всему свету и никакое соглашение о неразглашении не помогло бы. Скорее… — она поднимает взгляд на шеф-директора и ее зрачки расширяются от осознания: — вы заменили часть людей андроидами? Для лучшего управления обществом?

— А это невозможно с точки зрения нынешнего развития технологий. — отвечает колонистка в третьем поколении: — еще не создали настоящий искусственный разум. Нынешние ИИ в тесном общении через некоторое время распознает не только специалист, но и обычный человек. Задержки в общении, слишком рациональное поведение, нетипичные для человека реакции… для того, чтобы создать ИИ, который будет неотличим от человека — необходимы огромные мощности, да и физически втолкнуть такие вычислительные машины в корпус андроида никак не получится. Вычислительные комплексы в Массачусетсе и Новосибирске могут потянуть такую задачу, но и им придется туговато. Уровень вычисления социальных реакций у каждого человека до сих пор труднодостижим. И потом — такие эксперименты запрещены конвенцией.

— Но… тогда я не понимаю. — доктор Ким поворачивается к шеф-директору по безопасности: — что же вы сделали?

— Бассейн Эллада хранит в себе достаточное количество секретов. — отвечает тот: — вы уже знаете о повышенной регенерации и невероятной жизненной силе всех колонистов в Джексонвиле. При этом такого эффекта нет ни в одном из поселений на планете. Это один из феноменов нашей долины… чем мы и воспользовались. — шеф-директор откидывается на спинку кресла: — впрочем по разнице в росте и прочих физических различиях между вами, доктор Ким и вами, Светлана — сразу видно кто из вас родился и вырос в Джексонвилле, а кто только два года назад топтал Старую Землю. Так вот… Светлана, конечно, права, невозможно разместить в корпусе андроида вычислительные мощности, достаточные для того, чтобы смоделировать поведение человека. Однако нам это и не было нужно. Что касается мощностей… то сорок процентов мощности всей нашей энергетической системы идет на обеспечение энергией проекта «Фетида». Вычислительные возможности «Фетиды» — самые мощные на этой планете и могут посоперничать с суперкомпьютерами в Массачусетсе, Новосибирске и Чженьжень. Это был секретный проект, изначально задуманный как собственный вычислительный центр для обеспечения выживания колонии. После того, как выяснилось, что колонисты в нашем поселении — не испытывают тех же проблем со здоровьем, как в других поселениях на планете — эти вычислительные мощности были направлены на проект «Сестра человечества». Это запущенная в комплексе «Фетида» программа, которая имитирует поведение колониста, того самого морального столпа. Этой программой в настоящее время управляются более сорока тысяч андроидов серии «Бета», которые ведут себя как люди, принимают решения как люди, выглядят как люди. Только как правильные люди. Без недостатков и предрассудков, которые присущи человеку. Именно они и являются той арматурой, которая скрепляет раствор нашего общества, нашей колонии. Управляются они удаленно, посредством квантовой связи из единого центра. Эта информация — закрытая и об этом знают лишь несколько человек в руководстве колонии и десяток специалистов в закрытой зоне обслуживания андроидов. — шеф-директор замолчал и окинул двух женщин перед ним внимательным взглядом.

— Боже мой… — прошептала Джессика: — но это же… это… конечно это неприемлемо с этической точки зрения, но какой невероятный эксперимент! Это фантастически! Попытка направить человеческое общество путем внедрения в него активных агентов, которые и будут давать моральные ориентиры для всего общества. Активная часть, для любой революции или иного кардинального изменения общества нужно чтобы были вовлечены та самая активная часть общества. От восьми до двадцати процентов. Вы создаете управляемое общество!

— Это необходимо для выживания на Марсе. Нам не нужны тут революции или непредсказуемые волнения в обществе. Как вы знаете, земная история имеет примеры цивилизаций, где принято отказываться от своих личных интересов в пользу общества. В случае, когда от каждого члена социума зависит выживание всей общины — важно не допустить бесконтрольного распространения пагубных влияний. Джексонвилл — пример демократии и равенства всех перед всеми. Однако у нас тут не просто демократия, которая зарекомендовала себя не с лучшей стороны, давая дорогу популистам и демагогам, тот же Гитлер пришел к власти совершенно демократическим путем, на выборах. Демократия слишком уязвима, и мы не можем позволить себе тут подобного рода слабости. Это поставило бы под угрозу выживание всей колонии. На Старой Земле — даже если погибает цивилизация, в результате эпидемии или войны — у отдельных людей есть шанс выжить. Они выживают, а с ними — выживает человечество. Однако на Марсе… здесь в результате ошибки одного человека может погибнуть вся колония. А если это произойдет, если колония погибнет, то не уцелеет никто. Именно поэтому нами было принято решение о введении в жизнь проекта «Сестра человечества». Наша демократия — это не хаос избирательных кампаний и пустых обещаний политиков. Наша демократия — подконтрольна и управляема. — шеф-директор снова замолкает и делает жест, приглашая ее говорить. Джессика некоторое время мнется, потом — поднимает голову.

— Я правильно понимаю, что колонист Бетани Стоун — на самом деле одна из ваших «столпов общества» и «Сестра Человечества»? — задает она вопрос и дожидается утвердительного кивка шеф-директора. Она откидывается в кресле и задумывается. Почти десять процентов… каждый десятый колонист может быть машиной, роботом, андроидом. Эта мысль не укладывалась в голове. Она вспомнила как по прибытию в колонию сперва удивлялась жизнерадостности и позитивному настроению жителей. Неужели они все просто индокринированы? Хорошие люди, надежные, верные, всегда готовые прийти на помощь, прекрасные специалисты — вот какое мнение она составила о колонистах Джексонвиля. И это не только ее мнение, все так считали. Недаром на Старой Земле были так популярны фильмы про «любовь землянина и колонистки». Все знали, что колонисты не покидают Джексонвилл, но такая фантазия была очень востребована. Конечно, это оправдывали тем, что людей для миссии в Джексонвилл подбирали штучно, каждый человек проходил кучу тестов и сдавал квалификационные экзамены, колонисты первого поколения были сливками человечества, самыми лучшими людьми, которых только смогли найти по всей Земле. И ничего удивительного, что их дети и внуки — стали еще лучше, правда?

— Послушайте, но ведь в районе инцидента вышла из строя квантовая связь. Почему диспетчер направил туда именно Бетани Стоун, зная, что она — одна из ваших… машин для управления людьми?

— Как я уже и сказал — очень немногие посвящены в эту тайну и еще меньше — обладают информацией о личностях. Сам список засекречен, и даже я не имею к нему доступ без крайней необходимости. Это сделано для предотвращения подсознательной дискриминации. Кроме того, между собой мы предпочитаем не называть их машинами. Это определение носит отрицательную коннотацию, доктор Ким.

— Но… послушайте, если в районе не работает квантовая связь, как же «Фетида» управляет этой вашей… Сестрой? И еще — скажите, а почему «Сестра Человечества»? Они все — женщины?

— Большинство. Как правило люди легче попадают под влияние женщин, да и ненужной конкуренции не возникает. Женщины изначально приспособлены для трансляции «мягкой силы» убеждения, и идеально подходят для наших целей. Мужчины же более склонны к конфликту и агрессии, да и воспринимаются более насторожено. В результате большинство наших «Сестер» — носят женские тела. Что же до ответа на ваш первый вопрос… то я не знаю. — он разводит руками: — у нас уже имеется разорванная связь со Старой Землей и плачущий оператор удаленного доступа некто мисс Дрейк и бот-паук, которым она управляла — теперь уже со слепком личности внутри. Бот-паук осознает себя человеком, личностью и имеет воспоминания и реакции своего оператора, хотя связи нет. То же самое я могу сказать и о Бетани Стоун, в момент, когда квантовая связь исчезла — она должна была упасть замертво, ведь она всего лишь часть большей программы в недрах «Фетиды». Но… случилось что случилось. Именно поэтому мы и собрались тут. Еще вопросы будут?

— Вы просите нас спуститься вниз для того, чтобы мы — не только проверили состояние «Сестры», но и провели диагностику. Поэтому вместе со мной вниз пойдет Светлана, как кибернетик и специалист по искусственному интеллекту, верно? Я — как исследователь человеческой психологии, а она — как спец по андроидам и программам. Ведь так? — спрашивает Джессика и снова дожидается утвердительного кивка со стороны шеф-директора.

— Мне сложно уложить все в голове. Слишком много информации и какой информации. — качает она головой: — оказывается часть населения Джексонвиля — андроиды, управляемые из одного центра, неким сверхмощным вычислительным комплексом под названием «Фетида». И как мне кажется, название не самое удачное. Фетида так и не смогла защитить Ахиллеса от всех невзгод, мы же помним легенду.

— Если мать защитит свое дитя полностью, то дитя расслабится и перестанет опасаться за свою жизнь. На месте Ахиллеса было достаточно носить железные башмаки. Мифы на то и мифы, чтобы научить нас не повторять ошибки прошлого. Если наша «Фетида» исполнит свою миссию хотя бы на десять процентов от того, что сделала мифическая Фетида — этого уже будет достаточно. Впрочем, вопрос наименования проекта — это тема для обсуждения в другое время и в другом месте. Светлана. — он поворачивает голову к колонистке, специалисту по кибернетике: — а у вас есть вопросы?

— Да, шеф-директор. — девушка поднимает на него задумчивый взгляд: — скажите, а я — андроид серии «Бета»? Я — тоже только «Сестра»?