Знание-сила, 2001 № 09 (891)

«Мы не нужны будущему»

Впервые смутное чувство беспокойства кольнуло меня в 1996 году, когда компьютер IBM выиграл у Гарри Каспарова: работая тогда в Германии, я наблюдал за ходом матча в Интернете. Зрелище было душераздирающее поскольку на специальных сайтах каждый ход партии комментировали не только профессионалы шахмат и любители, но и шахматные компьютеры. Я до сих пор не знаю, как был организован этот поток машинного сознания, но они активно участвовали в «чате». У меня завертелись мысли, что компьютеры постоянно совершенствуются (точнее, это мы их совершенствуем!), а человек мало чем отличается от своих собратьев времен Шекспира и Сократа. Не было бы беды… Но логичное и прагматичное сознание научного работника решительно отогнало эти мысли как панические и попахивающие солипсизмом.

Беспокойство вернулось гораздо более мощной волной во время чтения статьи Билла Джоя в журнале «Wired» в апреле прошлого года. Ее название я вынес в заголовок. Суть статьи в том, что технологические прорывы последних лет – в робототехнике, генетической инженерии и нанотехнологиях – являются совершенно реальной угрозой роду человеческому\ который в ближайшее время может оказаться под угрозой исчезновения.

Не могу понять одного: почему эта статья прошла незамеченной и практически не обсуждалась в наших и зарубежных журналах? Паниковать9 конечно, дело неразумное> но думать над проблемой и обсуждать ее уже пора. Что я и делаю, предлагая вниманию читателей некую смесь из своих мыслей и соображений Билла Джоя, тем более что они сильно пересекаются.

Компьютерная наука уже много лет стремится создать искусственный интеллект и сделать робота, который бы смог не только заменить, но и превзойти человека. Предположим, что эти мечты реализовались и удалось создать устройства, которые делают все гораздо лучше людей. В таком случае возможны два сценария развития событий.

Быть может однажды появится робот с человеческим лицом

Первый. Машины принимают все решения самостоятельно, без участия человека. Невозможно предсказать нашу судьбу в таком случае, поскольку она полностью будет зависеть от машин. Самый простой аргумент против такого сценария: «Не настолько же мы глупы, чтобы отдавать свое будущее в механические руки?!» Конечно, нет. Речь идет о том, что постепенно все больше и больше человеческих функций будет передаваться роботам, и мы в конце концов попадем в такую зависимость от них, что не сможем влиять на развитие событий. Причем передача функций будет происходить потому, что роботы будут показывать при их выполнении гораздо лучшие результаты, чем люди. Многие современные системы столь сложны, что люди просто не в состоянии охватить их разумом и эффективно управлять. На это способны только роботы. И даже если они поведут себя не так, как хотелось бы, их невозможно будет отключить, потому что это означало бы остановку и гибель многих важных производств.

Второй сценарий – сохранение некоторого контроля над машинами. В этом случае каждый человек сможет управлять некоторым набором персональных машин-роботов, автомобилем, компьютером и т.п. Но управление крупными системами машин будет находиться в руках немногочисленной элиты (так же, впрочем, как и сегодня). А поскольку потребности в рабочих руках большинства населения планеты больше не будет (из-за всемогущества роботов), с ним что-то придется делать: в более гуманном случае – сокращать рождаемость, в менее гуманном… Еще один возможный вариант: при помощи биологического или психологического воздействия убрать из человеческих голов желание работать, оставив людям лишь прием пищи и другие удовольствия.

Такое «новое общество» можно назвать счастливым, но уж никак не свободным, потому что люди в нем будут низведены до уровня современных канареек или кошек.

Какой из сценариев вам больше по душе?

Вспоминая старика Дарвина, нельзя не признать, что в борьбе за существование роботы с искусственным интеллектом победят нас просто потому, что они все делают лучше, ибо мы их такими создали. Причем до недавнего времени особой угрозы человечеству не было, потому что роботы не могли воспроизводить себя. Теперь эта угроза становится реальностью благодаря прорывам в области не только роботостроения, но и генной инженерии и нанотехнологии.

Чем качественно отличался XX век? В нем было создано оружие массового уничтожения – ядерное, биологическое и химическое. Создание его требовало огромных интеллектуальных усилий и много времени. Технологии XXI века – генетика, нанотехнологии, робототехника – во много раз мощнее, поэтому они могут привести к качественно иным последствиям. Самая большая опасность заключается в том, что эти технологии сегодня доступны небольшим группам людей и даже отдельным личностям. Они не требуют больших фабрик, значительных запасов сырья. Знания – вот что нужно, чтобы управлять ими. Мы получаем не оружие массового уничтожения, а оружие массового разрушения знаниями, причем разрушительная сила этого нового «оружия» многократно усиливается его способностью к быстрому саморазмножению.

Благодаря быстрому прогрессу молекулярной электроники компьютерные вычисления будут производиться посредством перемещения атомов и молекул, что позволит закону Мура (удвоению вычислительной мощности компьютеров каждые полтора года) благополучно просуществовать еще лет тридцать. К 2030 году будут созданы компьютеры, в миллион раз более мощные, чем наши персональные компьютеры сегодня. Компьютерная мощь в сочетании с роботами размером не более маковою зерна и возможностями генетики конструировать живые организмы по заданной программе способны как на добрые, так и на злые чудеса.

Прогресс компьютеров позволяет ожидать, что к 2030 году мошь искусственного интеллекта сравняется с мощью человеческого.

Не менее мо!ушественна и опасна генная инженерия. Одна лишь проблема клонирования человека создает огромные возможности и ставит перед человечеством огромные проблемы. А ведь генетически измененные растения стали реальностью: американская комиссия по сельскому хозяйству уже рекомендовала более полусотни таких растений к повсеместному распространению. В Европе ширится движение против таких растений, но вот Билл Гейтс, к примеру, является большим их сторонником. Аргументирует свою позицию он тем, что на свете миллиарды голодных людей, и они наверняка одобрят все, что сможет накормить их детей досыта.

Нанотехнологии – третья угроза человечеству. Интересно, что впервые заговорил о них выдающийся физик XX столетия Ричард Фейнман. Выступая в 1959 году, он описывал, как манипулирование материей на атомарном уровне может приблизить вечную мечту человечества об изобилии и здоровье.

К глубочайшему сожалению, так же, как ядерную энергию в XX столетии, гораздо легче использовать перечисленные научные достижения для разрушения, а не для созидания. Крошечные микророботы без раздумий будут выполнять указания военных или террористов, уничтожая людей, например, с определенными генетическими отличиями.

Ядерная и водородная бомбы стали первым примером того, как наука и технология выходят из-под власти человека. Сейчас мы стоим перед гораздо более серьезной угрозой.

Нет сомнений, что антибиотики помогли спасти немало жизней, но их неразумное использование приводит к обратной реакции: человек становится слабее и не может самостоятельно бороться с инфекциями. Ужас атомной бомбы заключается в том, что блестящие умы человечества, руководствуясь благородными целями, создали самое страшное средство разрушения.

Американский физик Фримен Дайсон очень интересно описывает ощущения ученого, открывающего невиданные прежде возможности: «Ты чувствуешь, что высвобождаешь из недр природы энергию, способную поднимать в небеса горы. Кажется, что ты делаешь человека всемогущим, и нет силы, способной остановить мозг на пол- пути, запретить ему думать».

Но даже от атомного оружия можно спрятаться под землю. От всепроникающих нанороботов спрятаться нельзя. Единственная разумная возможность выжить – это начать ограничивать развитие определенных технологий уже сейчас, пока они не вышли из-под человеческого контроля.

Понятно, что подобные заявления вызовут праведный гнев у тысяч и тысяч сторонников свободы слова и научных исследований. Начиная с Аристотеля, ученые гордились своей свободой. Похоже, что лимит свободы исчерпан, и здравый смысл требует поставить ей границы. Уместно вспомнить слова Фридриха Ницше, который в конце XIX века предостерегал против «безудержного стремления к истине, достижения истины любой ценой, что является сутью любого научного исследования». Видимо, мы подошли к той опасной черте, за которой плата за истину становится слишком большой.

Мы вступили в новый век на гребне технологической эйфории, не думая о необходимости осмысления научных исследований, об их этической стороне. Давайте говорить об этом, обсуждать, выслушивать разные мнения, сближать позиции! Только общими усилиями можно устранить глобальную угрозу.

Самое печальное то, что никто не говорит об этом….

P.S. Мы готовы предоставить свои страницы всем желающим высказаться на эту тему. Открываем в нашем журнале специальную страничку «Пикник на обочине».