Среднего более не дано

Компьютерные игры — от Angry Birds и Tetris до Grand Theft Auto и EverQuest — один из круп- нейших коммерческих успехов электронной экономики. Компьютерные игры являют собой более значимую часть нашей культурной экономики, чем голливудские фильмы, пусть даже и не получая сопоставимую долю внимания со стороны журналистов, освещающих культурные события, или хотя бы экономистов. Игры эти иногда рассматриваются в качестве развлечения для детей или бесполезного времяпрепровождения, однако игнорировать их было бы ошибкой. Игры отражают в себе и сводят воедино современные тенденции в познавательных процессах, развлечениях, образовании и скоростной обработке информации. Развлечения и информация все в большей и большей степени связаны с компьютерными играми. Игры меняют нашу манеру общения друг с другом и то, каким образом мы проводим свое свободное время. То, чему они учат нас, проявится и в нашей трудовой деятельности, что, впрочем, уже и происходит.

Даже мало зарабатывающие люди могут позволить себе невероятно сложные компьютерные игры, требующие гораздо больших расчетных мощностей чем те, существование которых можно было предположить одно-два десятилетия тому назад. Помните то время, когда мы задавались вопросом, сможет ли компьютер когда-нибудь победить шахматного гроссмейстера? Сегодня хорошая компьютерная шахматная программа для персонального компьютера, которую можно приобрести за сорок долларов плюс почтовые расходы или даже бесплатно скачать в Интернете, намного превосходит возможности любого человека. Одними из лучших программ в данном сегменте являются Rybka, Fritz, Junior, Houdini, Stockfish и Komodo.

Шахматы — особенно удачный пример. Несмотря на то что это древняя игра, шахматные программы составляют процветающую категорию компьютерных игр, основанную на десятилетиях обширных технических исследований и развития и предлагающую программы для лиц любого возраста и любого уровня мастерства (и побеждающие их всех). Подобный успех сделал компьютерные шахматы богатым источником данных о процессах принятия решений человеком.

Уже тысячи лет мы учимся на играх. Они развивают нас физически. Их используют учителя для облегчения процесса преподавания алгебры, грамматики и химии. А теперь они используются, в виде программных приложений, чтобы помогать нам избавляться от лишнего веса. Такие игры, как Twister и Olympics учили нас легче уживаться друг с другом. Теперь же мы узнаем из них нечто совершенно новое о границах наших возможностей и о нашей логике. Это радикально новый шаг в будущее нашего рынка труда и глобальной экономики. Я полагаю, что то, каким образом мы играем в шахматы с компьютером сейчас, представляет собой модель, которая будет взята на вооружение работниками верхнего сегмента зарплат в ближайшие годы и десятилетия.

Чтобы лучше разобраться в вопросе умных машин и их влияния на наше будущее, можно обратиться к определению, которое дал Александр Кронрод: «Шахматы — это дрозофила искусственного интеллекта». Другими словами, шахматы позволяют понять более широкую картину, как в свое время плодовая мушка (дрозофила) помогла нам в расшифровке человеческого генома.

Еще в период после Второй мировой войны пионеры компьютерной науки Алан Тьюринг и Клод Шеннон предвидели, что однажды компьютеры смогут играть в шахматы, и описали это в своих новаторских работах. Гений Тьюринга позволил ему предсказать, каким образом компьютеры будут играть в шахматы, еще до того, как многие ученые вообще задумались о создании компьютеров. Позднее шахматы были выбраны в качестве проверочного средства при разработке компьютерного разума и получили значительную финансовую подпитку со стороны компьютерного гиганта, корпорации IBM, преследующей собственные рекламные цели. Детищу корпорации, компьютеру Deep Blue, удалось победить Гарри Каспарова — возможно, лучшего игрока в шахматы. В то время, в 1997 г., Каспаров был, вероятно, еще более сильным игроком, чем сейчас, а проиграл он компьютеру во многом из-за того, что потерял самообладание. Однако с тех пор многое изменилось. В 2005 г.— последний раз, когда проводилось серьезное публичное состязание между машиной и человеком, компьютер Hydra разгромил Майкла Адамса со счетом 5,5 : 0,5. Полбалла указывает на то, что Адамсу удалось вырвать ничью, и здесь ему еще повезло. В других партиях он ничего не смог противопоставить компьютеру, несмотря на то что занимал в то время седьмую строчку в мировом рейтинге гроссмейстеров.

Шахматные «движки», как называют эти программы, с тех пор получили широкое распространение. Небольшие компании-разработчики этих программ предлагают свою продукцию в Интернете за сумму меньше стоимости кроссовок.

В качестве примера взаимодействия между техническим развитием и человечеством шахматы хороши тем, что мы в состоянии весьма точно измерить результаты данного взаимодействия. Нам известно, кто выиграл, а кто проиграл. Здесь нельзя срезать трассу или выиграть за счет того, что ветер дует в спину. Мы в состоянии достаточно точно определить относительную силу игроков и программ. Потратив немного времени, мы в состоянии определить, был ли тот или иной ход правильным или нет. Данные характеристики облегчают понимание того, где применение машинного разума окажется удачным, а где — нет. Шахматная игра с компьютером позволяет точно выявить пробелы в подготовке даже необычайно талантливых, хорошо подготовленных и обладающих отличным логическим мышлением гроссмейстеров. В конечном счете это — дверь в стратегии, которые работники верхнего сегмента зарплат будут использовать в своем взаимодействии с умными машинами.

Компьютерные игры

В технологическом развитии компьютерных игр произошло важное и значимое событие. Теперь мы можем наблюдать за шахматными состязаниями между компьютерами. Однако постойте! Что мы можем узнать, наблюдая за игрой двух машин? И как это вообще выглядит?

23 мая 2011 года. Программа Stockfish версии 2.11 против программы Spark версии 1.0. Эти две программы пытаются «перехитрить» одна другую — слишком трудно отказаться от определений, используемых в отношении человека. Мастерство программ превосходит мастерство любого из игроков-людей.

Моему слабому человеческому разуму казалось, что исход партии, изобилующей до невозможного сложными тактическими ходами, продуманными в ходе целых цепочек логических рассуждений, постоянно висит на волоске. К двадцать пятому ходу игра потеряла свою стройность, и с каждым новым ходом казалось, что наступил поворотный момент игры и развязка уже близка. К тридцатому ходу большая часть фигур покинули свои исходные позиции и их расстановка не напоминала игру, которую ведет опираю -щийся на логические размышления гроссмейстер.

Мне было несложно определить, кто именно выигрывает, но только благодаря тому, что другой компьютер, использующий более раннюю версию Stockfish, «наблюдал» за игрой в Интернете и подсказывал мне, что происходит, посредством цифровой оценки меняющейся расстановки фигур. Естественно, меня одолевали сомнения. Если более слабая версия Stockfish уверяет вас, что более мощная версия Stockfish выигрывает — против другой компьютерной программы, — стоит ли ей верить? Слишком уж это напоминает постоянные самозаверения человека в том, что он прав. Однако вдвоем программам Stockfish удалось убедить меня в том, что одна их них имеет значительное преимущество.

К пятидесятому ходу у Stockfish, играющей белыми, оказалось явное численное превосходство в фигурах, однако по-прежнему оставалось неясным, смогут ли белые пробиться сквозь оборонительные порядки противника и закончить игру победой. Следившие за игрой зрители стали задаваться в своих комментариях вопросом, не оказались ли черные в позиции цугцванга. Другие комментаторы начали использовать в отношении программы Stockfish местоимение «она» (в английском языке для шахматных программ обычно используется местоимение «он») и злословить на тему того, а достаточно ли Stockfish хороша для разворачивающегося финала. Сама программа хранила молчание.

Я был готов поставить хорошие деньги на победу Stockfish, однако я не был полностью в ней уверен. Обычно компьютеры не используются в тех областях, где особенности их оценочных функций делают их слабее человека. При этом оценочные функции не всегда позволяют верно судить о том, возможен ли прорыв в игре в более долгосрочной перспективе. Горизонты прогнозирования данных программ ограничены определенным количеством ходов. Иногда оценочная функция компьютера предсказывает победу, хотя нет никакой возможности избежать ничейного исхода. Это один из пока еще не исправленных недостатков шахматных «движков». Компьютер может рассмотреть множество дополнительных вариантов, но он не в состоянии понять, что некоторые построения противника просто-напросто не могут быть взломаны, независимо от числа и сочетания ходов, которые можно было бы для этого предпринять. К шестьдесят первому ходу я уже разуверился в том, что Stockfish сможет взломать оборону своего оппонента. Я был настроен весьма скептически, несмотря на заверения младшего Stockfish, наблюдавшего за игрой в Интернете, в том, что его старший брат обладает подавляющим преимуществом. У меня засосало под ложечкой — словно от страха. Две черные ладьи оппонента казались непробиваемой защитой...

Однако на шестьдесят втором ходу Spark убедился в неминуемом поражении и в соответствии со своими программными командами сдался. Но действительно ли позиция белых была выигрышной? Чтобы выяснить это, я воспроизвел сделанные в ходе игры ходы в установленной на моем ноутбуке программе Rybka и просчитал игру на несколько ходов вперед. Судя по всему, Spark оказался прав. Что означало, что Stockfish и его младший брат также были правы. И они предугадали исход игры задолго до того, как это сделал я. Тем временем на том же турнире спустя всего мгновение после поражения Spark другая программа, Junior, начала еще один развеселый матч — против программы Naum.

У шахматных гроссмейстеров в ходу фраза: «Так ходят компьютеры». Ею описываются неуклюжие, противоречащие здравому смыслу решения компьютеров и их кажущиеся безусловно неправильными ходы. Однако машины, принимающие эти неуклюжие решения, практически всегда побеждают гроссмейстеров. С тех пор как получили развитие компьютерные шахматы, мы, люди, тоже стали играть немного лучше — в основном за счет того, чему научились у компьютеров,— но все же недостаточно хорошо, чтобы быть способными вновь померяться силой с машинами. И, вновь возвращаясь к процессам принятия решений, можно говорить о том, что в данном конкретном случае мы сильно отстаем от лучших в мире «умов».

Соревнования между машинами уже отличаются такой искрометностью, такой глубиной и такой тактической изощренностью, что даже лучшие игроки среди людей могут с трудом уследить за игрой. Ходы, которые делаются машинами, регулярно демонстрируют, насколько логическое мышление человека слабо и ненадежно даже после десятилетий изучения им игры в шахматы.

Это заставляет задуматься: а не так ли обстоят наши дела и в остальном?

Представьте себе, каково это было бы — использовать машины, чтобы они подсказывали нам решения в нашей повседневной жизни. Например, Siri, программа для iPhone, велит Мэри бросить Джона. Другая программа велит вам продать свои акции или дом. Подобная сторона машинного разума — не для слабовольных.

В игре компьютеров друг против друга одна наступательная концепция тактики и стратегии зачастую наталкивается на другую, и игра приобретает неожиданные повороты. У человека от такой игры зачастую волосы встают дыбом, он не в состоянии уследить за ее ходом, или она просто наводит на него ужас. Представьте себе, что в самый разгар гонки вы вдруг оказались на месте пилота «Формулы-1». Стресс может убить вас раньше, чем вы потеряете контроль над болидом мощностью 980 лошадиных сил, мчащегося со скоростью 320 км/час. Это не слишком отличается от того, что происходит, когда шахматист-человек вдруг оказывается в эпицентре шахматного сражения между компьютерами,— ему часто будет казаться, что игроки неоправданно рискуют, не соблюдают сбалансированность позиций и теряют контроль над игрой. «Человек так не пошел бы» — типичный комментарий на рекомендации шахматной программы.

Люди, способные воспринимать рекомендации машинного разума оперативно, будут опережать остальных как в шахматах, так и в личной жизни или профессиональной деятельности. Во многих ситуациях ценной окажется такая особая черта характера, которая не всем нам дается легко,— способность бороться с проявлениями стрессовых ситуаций или же попросту игнорировать их. Например, во время переговоров умная машина заверяет вас: «Не заключай эту сделку» — чаще, чем вы привыкли слышать подобные ее советы. Пока вы ждете звонка от партнеров по переговорам с предложением новых, более выгодных условий, вы будете испытывать напряжение. Возможно, не всякий согласится идти на поводу у компьютера, даже если это и означало бы возможность получения лучшей работы и даже успех на свидании. Далеко не каждый захочет, чтобы во время свидания его iPhone загудел в кармане подсказкой: «Поцелуй ее» — за целый час до того, как можно было бы пойти на такой шаг согласно вашему пониманию ситуации. «Коснись ее плеча, дубина» — такая подсказка многими из нас будет проигнорирована. Воспользоваться преимуществами, которые дают подсказки компьютера, способны будут только самые стойкие из нас, те, кто способен справиться со стрессом и неловкостью, но не обязательно те, кто действует подобно роботу.

Когда оба участника шахматной игры пользуются помощью компьютеров, перед ними отрываются новые возможности. Иногда ответ машины предельно прост: программой выдается единственный ход, решающий исход партии. По мере расширения использования умных машин подобные простые победы станут лишь одним из многих подвидов взаимодействия между людьми. Поединки же гениальных машин друг с другом — независимо от того, задействован ли и здесь человек — способны поразить нас сложностью происходящего. Разве не это уже происходит на Уолл-стрит, где торговые операции производятся за долю секунды, вернее, за долю миллисекунды?

Компьютеры могут рисковать еще больше, если запрограммировать их на участие в активной игре тактического характера. Компьютер программируется на победу, а не ничью. Легко предположить, что разработчиками умных машин будут предлагаться программы, способные выявлять активные преимущества в типично жизненной ситуации. Никто не способен вознестись на вершину делового мира, заключая сделки, из которых он не может извлечь максимальной выгоды, и никто не может пользоваться успехом у женщин или жениться именно на той из них, которую желает, действуя в пассивном или нейтральном ключе. Люди знают, что в сложных ситуациях им следует рисковать, и они будут покупать тактические компьютерные программы, которые помогут добиться им в этом успеха. Оперативный анализ данных и компьютерный разум приведут к возникновению множества чреватых опасностью, чрезвычайно сложных межличностных ситуаций. Компьютеры будут использоваться нами для контроля над предпринимаемыми нами рискованными шагами и поиска решающих преимуществ — точно так же, как это происходит на шахматной доске.

Среднего более не дано. Некоторые взаимоотношения реального мира упростятся и потребуют определенного консерватизма и просто соблюдения правил поведения, другие же будут отличаться большей сложностью и крайностями. Инструкция к применению крайне проста: делай то, что говорит машина; избегай ошибок; держись за свою работу, отношения, вложения и все, что тебе хотелось бы сохранить; полагайся на мнение чудища с исключительной интеллектуальной силой.

Однако несложно вообразить, что, изменив наши взаимодействия друг с другом, умные машины сделают важные составляющие нашего мира более непредсказуемыми и в большей мере подверженными страстям. Вполне вероятно, что нам следует готовиться к наиболее интенсивным, наиболее приятным и наиболее опасным формам хаосов — финансовых, эмоциональных и прочих.

Наблюдать за игрой компьютеров друг с другом — огромное удовольствие, во всяком случае для такого любителя шахмат, как я. Однако это не та модель, которая, по моему мнению, пригодилась бы в ближайшие годы для работников верхнего сегмента зарплат. Жизнеспособная модель — это взаимодействие людей и машин и применение каждым из них способностей, которые ранее рассматривались в качестве второстепенных и использовались в недостаточной мере.

Взаимодействие с машинами

То, что люди, руководствующиеся лишь рациональностью, ведут себя спокойно и бесстрастно — подобно мистеру Споку из сериала «Звездный путь»,— уже давно стало клише. Однако на шахматных турнирах ситуация с вдумчивыми, рациональными игроками, которым разрешено пользоваться подсказками компьютеров, свидетельствует о противоположном. Риск, особенно когда речь идет о жаркой схватке и экстремальном напряжении своих возможностей, обычно заставляет соперников потеть и отдаваться эмоциям. Данный вид шахмат называется «адванс», и, глядя на игроков этого стиля, видишь проявления нового, эмоционального будущего игры в шахматы.

Покойный Герберт Саймон, лауреат Нобелевской премии по экономике, знаковая фигура в области разработки компьютерного моделирования и отец современной поведенческой экономики, крайне серьезно относился к возможностям игр. По словам одного из его коллег, Фернана Гобе, Саймон начинал их еженедельные заседания словами: «Какие новости о шахматах?»

Сегодня в новостях стиль «адванс». Это именно та модель, которая нужна вам, если вы собираетесь в ближайшем будущем принадлежать к числу работников с высокой заработной платой.

На традиционных шахматных турнирах предпринимаются строжайшие меры, призванные помешать соревнующимся обратиться за помощью к компьютеру или сжульничать как-либо еще. В «адвансе» таких ограничений не существует. Вы можете искать подсказку в справочниках, работать с компьютерами, позвонить знакомому гроссмейстеру — вы вольны предпринимать любые шаги. «Если бы они запросили помощи у дьявола, то и это, наверное, было бы разрешено правилами»,— пошутил как-то Гарри Каспаров. Единственное, что имеет значение — это ходы. Тем не менее, чтобы сделать игру более привлекательной, существуют ограничения по времени (как правило — шестьдесят минут плюс пятнадцать секунд на каждый ход после истечения основного времени), поэтому скорость, с которой люди рассматривают подсказки машин, имеет первостепенное значение. Возможности компьютеров таковы, что они предлагают больше информации, чем человек в состоянии рассмотреть за время, отведенное для принятия решений. Однако окончательное решение необходимо принять. И принять его должен человек.

Что нужно, чтобы вырасти в гроссмейстера стиля «адванс»? Это не то же самое, что стать одним из лучших игроков в традиционные шахматы.

Начиная с 2005 г. был проведен целый ряд турниров стиля «адванс». В первом турнире приняли участие и гроссмейстеры, однако кубок достался некоему ЗаккСу. В финальном раунде ЗаккС нанес поражение российскому гроссмейстеру Владимиру Доброву и его коллеге с очень высоким рейтингом (2600+), которые, естественно, пользовались помощью шахматных программ. Кто оказался этим ЗаккСом? Двое парней из Нью-Гемпшира, Стивен Крэмтон и Захари Стивен, рейтинги которых перед турниром были более чем скромными: 1685 и 1398 баллов соответственно. С подобными рейтингами трудно стать чемпионом местного клуба любителей шахмат, не говоря уже о победе на региональных соревнованиях. Однако они проявили себя лучшими игроками, когда потребовалось свести данные из разных компьютеров. Кроме первоклассных компьютеров, ими использовались такие шахматные «движки», как Fritz, Shredder, Junior и Chess Tiger. Во время игры дуэт ЗаккС скорее напоминал собой бьющегося в исступлении, вооруженного осьминожьими щупальцами техно-диджея, а не типичного степенного шахматиста, в монолитной задумчивости обхватывающего руками свою голову. Эти двое отлично разбираются в программах — и, наверное, в себе самих.

Энсон Уильямс — еще один ведущий игрок стиля «адванс» без особого послужного списка в традиционных шахматах. Энсон живет в Лондоне и работает инженером в области телекоммуникаций и разработчиком программного обеспечения. Этот поджарый чернокожий парень — выходец из Вест-Индии, обожающий боулинг и Баха. Его напарник Нельсон Эрнандес описывает Энсона человеком не слишком разговорчивым, но очень религиозным и преданным своей работе.

Какого-либо официального шахматного рейтинга у Энсона нет. Сам он оценивает свое шахматное мастерство в 1700-1800 баллов, что соответствует уровню опытного игрока местного клуба. Тем не менее с помощью двух своих четырехъядерных ноутбуков ему удалось добиться в «адвансе» отличных результатов. Энсон и его команда разбили всех гроссмейстеров. В игре против других команд на четырех турнирах команда Энсона одержала двадцать три победы при одном-единственном поражении (и двадцати семи ничьих).

Третий участник команды Энсона и Нельсона Эрнандеса — Инёнь Чен. Чен — выпускница Лондонской школы экономики. Ей скоро тридцать. Она работает специалистом в области финансов. С традиционными шахматами ее не связывает ничего. Она — подруга Энсона, и всем премудростям шахматной игры научилась именно у него.

Свою страсть к шахматам «адванс» Нельсон Эрнандес охарактеризовал следующими словами:

Во время матча Энсон постоянно в движении. Он перебегает от одного компьютера к другому и обратно, ведь, согласно утверждениям его напарника Нельсона, «главное в „адвансе“ — это как можно быстрее обработать как можно больше компьютерной информации».

Васику Райлиху, разработчику шахматной программы Rybka, ведущие игроки видятся в качестве «ошибок природы», однако он подчеркивает, что вкладывает в это определение положительный смысл — он сам один из ведущих игроков в «адванс». Главным в этом стиле, по его мнению, являются скорость реакции и быстрота обработки информации. Он считает, что людям это либо дано, либо нет. Лучшие игроки в «адванс» не обязательно отлично играют в шахматы. При этом начинающие игроки довольно быстро набираются мастерства, иногда — всего за одни сутки тренировок. Манеру игры Дага Нильсена, одного из ведущих игроков в «адванс», Райлих сравнил с вихрем.

Некоторые игроки участвуют в турнире, полагаясь лишь на шахматный «движок», работающий в автономном режиме без какого-либо участия со стороны человека. Победить в крупных турнирах им еще не удавалось, и более ревностные приверженцы «адванса» посматривают на таких «шахматистов» свысока. По оценкам Дага Нильсена, рейтинг команд «адванса» опережает одиночные компьютеры по крайней мере на 300 баллов (на основе анализа относительного мастерства игроков из числа людей) — однако эти оценки были озвучены еще несколько лет назад. Нельсон Эрнандес оценивает разницу в 100-150 баллов, что составляет разницу между чемпионом мира среди людей и гроссмейстером, занимающим в рейтинге семьдесят пятое место.

Пробиться в финальные стадии турниров «адванс» без помощи программ не под силу даже лучшим гроссмейстерам.

Ведущий американский гроссмейстер Хикару Накамура в игре в «адванс» не преуспел, хотя и пользовался компьютерными программами. В чем была его проблема? Он не слишком доверял машинам. Как-то он похвастался: «Я полагаюсь на свой мозг, потому что шесть дней в неделю он работает лучше, чем Rybka». Он оказался неправ.

Игроки в «адванс» внимательно изучают дебюты своих соперников в предыдущих играх, поскольку, как однажды заметил Каспаров, начальное преимущество в «адвансе», как правило, означает и общую победу. Кроме того, игрокам известны слабые стороны отдельных «движков» и то, в чем одни из них могут компенсировать недостатки других. Игроки разбираются в планировании времени — на каких этапах игры программе можно выделить больше времени на анализ — лучше, чем сами программы. Но самое главное, они понимают компьютерный анализ как процесс. Они обладают необъяснимой способностью определять, когда будет сделано еще несколько ходов и программа «подставится». В таких случаях они анализируют эти ходы с помощью другой версии той же программы или с помощью другой программы, чтобы заманить своего противника в западню. Если противник слепо следует рекомендациям своей программы, не подозревая о том, что она вот-вот «подставится», то более прозорливая команда может одержать победу. Другими словами, люди приспосабливаются к программам и осуществляют поиск решений более скрупулезно, чем это сделала бы машина без участия человека.

Арно Никель, специалист по «адвансу», как-то заметил: «чтобы победить, требуется создать что-то особенное». По словам Васика Райлиха, на сегодняшний день разница между собственно шахматными программами и лучшими командами стиля «адванс» остается практически неизменной. Вклад человеческого элемента пока заметен, однако Райлих не знает, сколько еще времени сохранится такое положение вещей.

Турниры между мастерами «адванса», возможно, являются самыми большими высотами, которых достигли шахматы, хотя кто об этом может судить? Пара человек — машина в состоянии совершенствоваться лучше любого человека или любой машины. Ни одна из машин не признает игру в паре в качестве оптимального варианта, поскольку стратегии парной игры глубже того, что машина в состоянии проанализировать сама по себе.

Я посвятил много часов, играя дома в одну из разновидностей игры «адванс». У программы Shredder на моем iPad рейтинг составляет около 2200 баллов, что соответствует уровню мастера,— то есть довольно высокий уровень мастерства, хотя и не сравнимый с уровнем игрока мирового класса. (Программа в состоянии играть лучше, но при этом ее работа сильно замедляется; к тому же меня тешит мысль, что время от времени я могу ее обыграть). Мой принцип предельно прост. Я заставляю программу играть против себя самой, однако время от времени вмешиваюсь в игру и сам решаю, какой ход сделать. Иными словами, «я и Shredder» ведем игру против Shredder. Связка человек—компьютер обычно побеждает. В четырех-пяти ключевых моментах игры я отменяю стратегические решения программы и делаю более сильный ход,— во всяком случае я считаю, что предлагаемый мною ход сильнее. Затем я снова передаю ведение игры программе. Примерно в четырех случаях из пяти это срабатывает.

Для того чтобы я в паре с Shredder побил Shredder, мне не нужно быть настолько же сильным, что и Shredder. Мне достаточно просто хорошо понимать игру. Мне также требуется быть «метарациональным» — если воспользоваться термином из теории принятия решений. То есть мне требуется понимать, что в большинстве случаев суждения Shredder гораздо лучше моих, и полагаться на них. Чаще всего мое вмешательство уместно в сложных стратегических позициях, в некоторых концовках, когда программой предлагаются сомнительные дебюты (1. e4-g5), или когда программа начинает без разбору пожирать фигуры противника. У версии программы Shredder для iPad довольно ограниченный горизонт прогнозирования, и иногда я могу заглянуть вперед гораздо дальше, чем машина, хотя здесь мне следует соблюдать осторожность. Я не в состоянии просчитать игру лучше машины, если только здесь мне не поможет ее ограниченный горизонт прогнозирования, но я не всегда могу быть уверен, что ограниченность горизонта прогнозирования имеет ключевое значение. Тем не менее подобный риск чаще оправдывается, чем заканчивается поражением, но уж если я и проигрываю, то именно из-за этого.

Модель, основанная на принципах стиля «адванс», очень важна, ведь мы будем видеть все больше примеров ее использования в будущем. Не стоит думать об этом будущем, как об эпохе, где машины что-то отбирают у человека. В конце концов, машины воплощают в себе принципы сотрудничества человек—машина — даже когда играют в одиночку.

Машины — это мы

Чтобы начать игру, компьютер сверяется со своим «справочником по дебютам». Под справочником по дебютам подразумевается огромная база данных по уже сыгранным и задокументированным выдающимся шахматным партиям, включая (возможно) некоторые вариации, которые никогда не игрались, но тем не менее добавлены разработчиками программы для придания ей дополнительной мощности. Информация не занимает много места, поэтому справочник по дебютам хорошей программы может насчитывать миллионы вариантов. Другими словами, компьютер знает почти все, что следует знать о стандартных шахматных дебютах. Это можно сравнить с базой данных по задокументированным разговорам, которые должны помочь программе пройти тест Тьюринга (то есть помочь ей вести беседу так, как вел бы ее человек). Когда компьютер играет дебют, речь идет не о том, что компьютер «думает», а о том, что в компьютере задокументированы лучшие из существующих на сегодняшний день знаний человечества по шахматным дебютам. Программа обращается к своей памяти и играет, не производя никаких расчетов. Вместо этого ею осуществляется поиск дебютов, которые были когда-то сыграны лучшими шахматистами. Играть против компьютера — все равно что играть против человека, который в состоянии (молниеносно) обратиться ко всем шахматным справочникам и базам данных мира. Многое зависит от выбора дебюта, но, как правило, в течение двадцати-тридцати начальных ходов, играя против компьютера, вы играете чуть ли не против самого совершенства. Тем не менее это почти полное совершенство представляет собой коллективный опыт людей, а не компьютерные расчеты. Если вы не знаете эти дебюты так же хорошо, как их знает программа (здесь должен раздаться взрыв горького смеха), то вы оказываетесь в проигрышном положении уже в начале партии. Это уже игра из разряда «Фантастический Вы против Могущественных Человека и Машины».

Некоторые критики компьютерных шахмат полагают, что использование компьютером справочника дебютов неправильно или нечестно. В действительности же во многих программах предусмотрено отключение справочника дебютов, благодаря чему компьютеру придется думать над своими дебютными ходами самостоятельно. В этом даже самые мощные компьютеры не слишком сильны: в самом начале слишком много вариантов продолжения партии и большую важность приобретает не тактика, а долгосрочная стратегия. На протяжении примерно пятнадцати первых ходов сильный игрок (вернее гроссмейстер) ведет игру лучше любой первоклассной программы, оказавшейся без своего справочника дебютов. Это можно сравнить с попыткой написать значимую работу по бизнесу, государственному управлению или системе образования без знания истории предмета.

Кроме того, в старомодных шахматных партиях человека против человека много скрытого от глаз взаимодействия.

В людских шахматах возросла значимость способности поразить соперника уже в дебюте партии. Скажем, я могу предугадать ваши первые двадцать ходов, которыми вы будете отвечать на мой вариант игры, а на двадцать первом ходу я сыграю несколько неожиданно для вас. Более того, я оказался в состоянии предугадать, что игра дойдет до этого хода. Во время подготовки к игре — до собственно начала партии — я запросил у компьютера рекомендации относительно того, как мне стоит играть после любого вашего возможного ответа на мой двадцать первый ход. Я прихожу на игру, уже вооруженный подобным компьютерным анализом. Другими словами, на самом важном этапе игры вы играете против меня и компьютера. А теперь взгляните на это применительно к ситуации, когда соискатель приходит на собеседование по трудоустройству, имея в кармане предложения по увеличению прибыли вашей компании, которые выдала ему умная машина.

Если мне удастся довести игру до позиции, которую я спрогнозировал, а вы — нет, то вам придется играть против меня и компьютера. В более ранние дни моей шахматной жизни сюрприз, который я мог приготовить для соперника, состоял в том, чтобы заставить его играть против меня и моей домашней заготовки, что, конечно, было значительно менее серьезной проблемой для моего оппонента.

При подготовке к игре на серьезных турнирах ведущие гроссмейстеры уделяют много времени поиску ходов и комбинаций, способных ошеломить соперника и склонить чашу весов в их пользу. Все дебютные находки проверяются ими с помощью программ и используются в игре в надежде довести игру до ситуации, когда противник остается в одиночку против «меня и моего компьютера», что дает неоспоримое преимущество. В каком-то смысле гроссмейстеры пытаются добраться до того места воображаемого ринга, где находится оружие, способное обеспечить им победу. Чем выше мастерство самого шахматиста, тем выше потенциал подобного преимущества.

Наибольшую пользу из шахматных «движков» способны выжать те из профессиональных шахматистов, кто понимает, как следует тренироваться совместно с компьютером и как следует учиться у компьютера. Появление шахматных программ пошло на пользу игрокам с отличной памятью и добросовестным подходом к процессу обучения; игрок, который не в состоянии запомнить свои дебютные ходы, от подобной стратегии подготовки ничего не выиграет. Человек с хорошей памятью способен к весьма эффективному обучению компьютером и последующему спонтанному применению полученных знаний и навыков, например во время собеседования о трудоустройстве.

Действительно, во многих жизненных ситуациях возможность моментального применения фактических или аналитических данных представляет собой огромное преимущество. Участники заседаний и биржевых торгов, адвокаты, пытающиеся убедить присяжных, менеджеры в критических ситуациях — все они пытаются мгновенно воспользоваться уже имеющейся у них в памяти информацией. Во всех этих ситуациях все большее значение имеет то, чему специалисты научились или не научились у компьютера, и то, насколько хорошо они усвоили информацию и советы, полученные ими от компьютера.

Мастера стиля «адванс»

В шахматах стиля «адванс» подготовка неожиданных дебютов являет собой довольно четкую задачу и требует точного разделения труда. Вернемся к Нельсону Эрнандесу, одному из членов шахматной команды «адванс» Энсона Уильямса. Вот уже семь лет примерно 20-25 часов в неделю Нельсон посвящает работе над одной из лучших в мире баз данных по шахматным дебютам. Он осуществляет поиск информации по играм лучших гроссмейстеров и компьютерных программ, документирует их и проверяет записанную информацию на наличие возможных ошибок. В базе данных содержится столько информации, что Нельсон попросил меня не указывать ее объемы — чтобы не прознали соперники,— однако я все же скажу, что, когда он привел цифры, я был поражен. Он полностью отдается этой работе, в которой и заключается его роль в команде. Благодаря этой базе данных его команда обладает обширнейшей информацией, позволяющей ей определить, какие из дебютных ходов оказались успешными в уже имевших место играх гроссмейстерского уровня, а какие — нет. База данных позволяет команде разыгрывать одни из лучших дебютов в истории шахмат и при этом — на много ходов вглубь игры.

Когда я встретился с Нельсоном, я не мог подобрать слова похвалы: «Сказать, что ты — один из лучших игроков за историю шахмат, не могу, но то, что ты — нечто потрясающее, это точно. Но что именно — не могу подобрать определение». Нельсон ответил мне улыбкой.

Кстати, настоящее название команды Уильямс — Эрнандес — Чен мало кому известно. Я знаю несколько вариантов названия, однако они не захотели, чтобы я узнал оригинальное название, а вслед за мной его узнали и вы. Они держат свое настоящее название в секрете, а для каждого турнира подбирают новое. Это значит, что для прочих участников турниров «адванс» задача подготовки дебютов усложняется, поскольку они могут и не знать заранее, с кем или чем им предстоит сразиться в следующем раунде.

Скрытность участников. Настольные игры. Кодовые названия. Не звучит ли это все слишком уж по-детски? Может ли модель шахматного стиля «адванс» быть столь уж значимой? Не глупость ли с моей стороны полагать, что прямое сотрудничество между человеком и машиной, предпринимаемое в целях определенного анализа или выполнения определенных задач, способно существенным образом революционизировать нашу экономику, включая многие области сферы обслуживания? Может ли это действительно стать вопросом жизни или смерти?

Медицинской диагностике срочно требуется расширение сфер применения искусственного разума. Компьютеры уже сейчас способны проводить диагностику некоторых заболеваний — здесь обычно применяется технология, известная как искусственная нейронная сеть, или ИНС. Клиникой Мэйо программы ИНС используются для выявления у пациентов эндокардита — инфекционного заболевания сердца, — а более точная постановка диагноза освободила некоторых пациентов от необходимости операции. Корпорациями General Electric и Artificial Intelligence in Medicine, Inc. проводится разработка новых программ медицинской диагностики.

Анализ цервикальных мазков крайне полезен в выявлении рака шейки матки. С 1990-х гг. для анализа слайдов мазков используется автоматическая система работы с изображениями. Программа поиска изображений способна выявлять признаки анормальных клеток быстрее человека, но работой собственно машины дело не ограничивается. Программой выявляются изображения, с которыми затем должны ознакомиться и специалисты. При этом существуют свидетельства того, что подобное сотрудничество между машиной и человеком гораздо более результативно, чем работа специалиста в одиночку, независимо от того, идет ли речь о точности или скорости работы.

Машины используются для проверки поставленных специалистами диагнозов, выявления ошибок, совершаемых врачами на фоне усталости, а также для отслеживания и хранения информации по новым разработкам, представленным в медицинской литературе. И кстати, каждые несколько лет объем этой литературы увеличивается вдвое. Тем не менее, несмотря на все наши технологические и медицинские достижения, неправильная постановка диагноза по-прежнему далеко не редкость.

Полностью полагаться в выявлении патологий лишь на способности компьютера было бы, конечно, безответственно, поскольку человеческий глаз способен определить ошибки изображения или неверные данные лучше любой машины. Однако связка «человек—машина» в меньшей степени подвержена ошибкам, чем работающий в одиночку компьютер. К тому же на контроле со стороны человека настаивают и разработчики медицинского программного обеспечения.

Медицинский прибор способен проанализировать симптомы пациента с помощью напоминающей доброго доктора Ватсона программы и определить, что с пациентом не так, на основе обширных баз данных. Но может ли компьютер задать уточняющие вопросы пациенту или определить, когда пациент говорит неправду или преувеличивает свои ощущения и проявления симптомов? В состоянии ли компьютер должным образом рассказать о диагнозе пациентам из разных социальных групп и с разным уровнем образования? Такое случится еще нескоро, поэтому мы вновь в связке с компьютером.

Разумеется, для того, чтобы эта связка работала, машина должна быть очень умной. А насколько разбираться в том или ином вопросе должен человек? Если специалист — высокооплачиваемый врач, то связка «человек—машина» становится весьма дорогостоящей, даже если она полезна с медицинской точки зрения. Мир, не говоря уже об Американской медицинской ассоциации, не готов принять тот факт, что человек, работающий с компьютером, не обязательно должен быть врачом или даже медицинским специалистом. Ему достаточно хорошо разбираться в ошибках компьютера и уметь исправлять их, а это уже совершенно иное. Хотя здесь и требуются определенные знания медицины, навыки сканирования мозга и другие знания и умения, этому специалисту все же не требуется иметь столь же обширные познания в медицине, что и у доктора медицинских наук. Здесь в большей степени может потребоваться знание умных машин, принципов их функционирования, их типичных недостатков и неполадок.

Ну а пока связка «человек—машина» зачастую используется в медицинской диагностике незаконно или полулегально. Кто или что является сегодня в Америке «доктором», к совету которого прибегают чаще всего? Это поисковик Google, предоставляющий пользователям доступ к трем миллиардам размещенных в Интернете медицинских статей. Вам нездоровится? Миллионы людей просто вводят свои симптомы в строку поиска и знакомятся с найденной информацией. И только потом решают, обращаться ли к врачу, вызывать ли скорую, увеличить ли дозу лекарства или, наоборот, вообще прекратить принимать его. Нравится нам это или нет, но эпоха компьютерного врача уже наступила.

Применение принципов стиля «адванс»

Насколько правильно использовать поисковик Google в качестве диагностического инструмента? У нас пока нет ответа на этот вопрос. А многим ли из простых пользователей известно, что результаты поиска можно улучшить, если сформулировать запрос, например, следующим образом: «метаболический синдром site: edu»? Думаю, немногим.

Ханви Тан и Дженнифер Хви Квон Нг проанализировали двадцать шесть диагнозов и ввели симптомы по каждому из случаев в поиск Google. В 58% случаев Google выдал правильный диагноз, а в ряде других — полученные ответы просто не были достаточно конкретными. В исследовании не стояла задача определения возможной цены неточных или вводящих в заблуждение результатов поиска, поэтому мы пока далеки от того, чтобы медицинские организации взялись за проведение подобного масштабного эксперимента. И тем не менее это аргумент в пользу продолжения сотрудничества между человеком и машиной в медицине, хотя и в более упорядоченных и легальных формах. Компьютерные доктора у нас уже есть, и это наглядно иллюстрирует способности информационных технологий к быстрому распространению; следующий вопрос заключается в том, насколько компетентными и надежными окажутся наши компьютерные слуги-врачи.

Наши образовательные принципы, а в более далекой перспективе — и нормативно-правовая база, должны будут измениться. Наша система сертификации и подтверждения квалификации отстает от реалий сегодняшнего дня и грядущего мира, где работают связки «человек—машина», прежде всего — в медицине. Хотя это — всего лишь одна из областей.

Представление о том, чем является диагностическая процедура, довольно размыто. Диагностика осуществляется не только врачами, но и менеджерами, юристами, преподавателями младших классов и банковскими специалистами, отвечающими за выдачу кредитов. И в каждой из этих специальностей существует потенциал применения машинного разума.

Новая система труда отлично резюмируется двумя недавними комментариями к моему блогу, MarginalRevolution. Первый — от читателя блога под именем Wil W:

А это — второй комментарий, от пользователя под

именем JWatts:

Каковы более широкие выводы из применяемого в стиле «адванс» подхода к работе и игре с умными машинами? Они довольно похожи на более общие выводы относительно рынка труда, сделанные во второй и третьей главах:

Мы можем использовать концепцию связки «человек—машина» для определения разницы между никчемным работником, или работником с «нулевым предельным продуктом», и потенциально ценным. Никчемный — это работник, работа которого в паре с машиной ухудшает, а не улучшает результаты труда. Потенциально же ценный работник, действующий в паре с машиной, способен добиться лучших результатов по сравнению с самостоятельно функционирующей машиной. Говоря языком экономики, продуктивный работник и умная машина дополняют друг друга, как никогда прежде.

Подобная взаимодополняемость может вывести нашу экономику из великой стагнации, о которой я писал в другой своей книге. Но, несмотря на те плоды и награды, что будут ждать нас в конце, сам этот путь для многих из нас окажется пугающе сложным.

Любовь и любовные отношения — одна из сфер, где логика может человека обмануть, а иногда и привести к роковым последствиям. Кроме преступлений, на которые нас толкает страсть, мы зачастую идем не той дорогой в попытке заполучить объект своего вожделения — а ведут нас по ней наши чувства и импульсы. Знакомства в Интернете и машинный разум поменяли правила, но не значит ли это, что один набор любовных ошибок просто сменился новым набором предубеждений и просчетов?

Крупные сайты знакомств применяют возможности искусственного разума для того, чтобы рекомендовать пользователям других пользователей, и эти рекомендации зачастую отличаются от того, на чем пользователи остановили бы выбор сами. Если раньше сайт знакомств eHarmony анализировал пользователей по десяткам параметров, то теперь — по сотням (и эта цифра вполне могла устареть на момент, когда вы читаете эти строки). Эти параметры включают не только информацию из анкеты пользователя, но и то, насколько часто пользователь заходит на сайт, задаваемые им параметры поиска, и кому из владельцев других анкет он решает написать. Проблема здесь, однако, заключается в том, что значительная часть используемых для анализа данных — это самостоятельно указываемая пользователем информация, и эта информация может быть неточной или намеренно искаженной ими в надежде выставить себя в более привлекательном свете. Алгоритмами также учитываются общие интересы и черты характера, и благодаря этому сведенные компьютером пары могут чаще выбирать друг друга для знакомства, однако говорить о том, что заключенные впоследствии браки окажутся крепкими в долгосрочной перспективе, пока не приходится.

В настоящее время программы еще не в состоянии свести любовь к статистически измеряемому алгоритму. Было бы глупо игнорировать важность разговорных ритмов, запахи и сексуальное влечение, а также то, каким образом долгосрочная совместимость эволюционирует на протяжении многих лет и десятилетий. С другой стороны, программное обеспечение привлекает более серьезное внимание пользователей к перспективам, которые сами они проигнорировали бы, а то и вовсе не заметили бы. Вот одна из историй знакомств на сайте Match.com:

Мы знаем, что в шахматах программам под силу победить человека, однако способности программ в подборе партнеров оценить труднее; точных же результатов, на основе которых можно было бы провести соответствующее исследование, не существует. Одна счастливая пара еще не означает, что компьютеры — лучшие свахи, как не означает и того, что от свах — будь они людьми или программами — толку больше, чем без них.

Однако нетрудно признать важность свахи в том, что касается ее способности подтолкнуть нерешительно настроенного к тому, чтобы он уже, скажем так, «повзрослел». Нельзя вечно ходить между витринами, ничего не приобретая, хотя создается впечатление, что людям только это и нужно. Зачастую они лишь читают анкеты и продолжают мечтать о своем идеале вместо того, чтобы отправиться уже на свидание. Разумеется, это — не самое лучшее применение технологиям. Самое же главное, возможно, в том, что технология алгоритмов подбора партнеров в состоянии помочь нам разобраться с ошибками, которые мы совершаем в личном выборе, основанном лишь на нашем суждении. Если человеческая логика настолько несовершенна в высокоинтеллектуальном мире гроссмейстерских шахмат, то чего нам стоит ожидать в подверженной страстям области любовных отношений?

Здесь мне вспоминается мой собственный случай из 2003 года, то есть еще до эпохи алгоритмов. Я написал электронное сообщение женщине, указавшей в своей анкете, что придерживается либеральных политических взглядов. Себя бы я к либерально настроенным людям не отнес (скорее уж, во мне уживается смесь либертарианства и консерватизма), но она поначалу о моих взглядах не подозревала — а знай она их, они, возможно, могли бы ее оттолкнуть. У меня не было намерений вводить ее в заблуждение. Я считал, что ничего не скрываю, но она позднее решила иначе, хотя, конечно, она и читала мою анкету. Она согласилась сходить со мной на свидание, и мы женаты уже десять лет. Используемый способ знакомства заставил по крайней мере одного из нас — а может, и обоих, — не следовать своей логике, отчего мы оба выиграли.

Годы спустя, уже работая над материалом для этой книги, я прочитал, что ученые, работавшие с данными Match.com, выяснили, что человек с консервативными взглядами гораздо чаще напишет человеку с либеральными взглядами, чем наоборот. Поэтому, если в анкете пользователя указано, что сам он придерживается консервативных взглядов, но при этом он часто пишет пользователям с либеральными взглядами, то система будет рекомендовать ему пользователей последней категории гораздо чаще. Пользователь может и понятия не иметь, почему ему зачастую предлагаются именно эти анкеты, однако вероятность того, что подбор пользователей именно по этому критерию работает, велика.

Захотим ли мы учиться у машин поиску партнеров? Одна жительница Нью-Йорка была категорична: «Вообще-то, алгоритм Match.com мог бы и догадаться, что не нужно предлагать мне сорокапятилетнего кандидата аж из Нью-Джерси». Интересно, что бы она сказала, если бы столь умный компьютер, каким является Deep Blue, порекомендовал ей сорокадвухлетнего кандидата из Канзаса?

В деле любви и брака мы, люди, пытаемся избежать незнакомых сложностей. Мы зачастую тянемся к тем, кто такой же, как мы, и избегаем осложнений, которыми чреваты различия между людьми. И здесь машинный интеллект может оказаться полезным. Машины незнакомого не боятся.

Принятие решений

Возможно, самая большая польза от компьютерных шахмат — это возможность заглянуть в глубины когнитивного процесса решения проблем. Лучшим шахматным программам свойственно такое качество, как «неприятие унижения», что заставляет их избегать ничьих и выбирать незнакомые и чреватые осложнениями решения. Более же важно то, что в отличие от многих людей программы сложностей не боятся. Когда в игре сходятся две сильные программы, зачастую только о сложностях говорить и приходится. Многие компьютерные игры предлагают нелогичные ходы и комбинации. Иногда кажется, что на шахматной доске царит хаос. Зачем так много пешек передвинуто вперед? Зачем столько гамбитов? Что конь делает в этой позиции на этой стороне доски? Почему одновременно под ударом находится так много фигур? Эти игроки совсем потеряли нити игры?

Из Нью-Джерси они, что ли? Я так в шахматы не играю!

Мы давно уже пытаемся преодолеть свою предвзятость, например предрасположенность к тому, что нам знакомо. Специалистами, занимающимися исследованиями в набирающей популярность сфере поведенческой экономики, проводится анализ тех предубеждений, на которых зиждется наш индивидуальный выбор, с использованием ряда внешних показателей. Нам известно — или нам только кажется, что нам известно, — что люди переоценивают степень своего влияния на определенные ситуации и в своих решениях излишне опираются лишь на какую-то часть информации — но это только одна из причин многочисленных человеческих ошибок и предубеждений. Когда я последний раз сверялся со списком типологии когнитивных искажений (систематических ошибок в мышлении, возникающих на основе нерациональных убеждений), приведенным на Wikipedia, он содержал перечень из сорока восьми типов искажений.

Но даже после столь обширной исследовательской работы и после всех собранных свидетельств остаются открытые вопросы. Когда речь идет об оценке человеческого предубеждения, можем ли мы быть уверенными в том, что исследователь прав, а индивидуальный выбор ошибочен? У меня много странных привычек, которые, как я считаю, идут мне только на пользу. Возможно, исследователю и покажется странным, что я расставляю по всему дому кипы книг, но для меня это — отличный способ организации информации и отслеживания, где какая книга находится. Может быть, прав я, а может быть — моя жена, требующая, чтобы я убрал книги на полки, но знать наверняка мы этого не можем.

Подобные же дилеммы наблюдаются и в более систематических исследованиях. Помните такую прописную истину—лучше синица в руках, чем журавль в небе? Экономисты часто рассматривают эту нашу прописную истину в качестве предвзятости и свидетельства того, что мы ценим те предметы, которыми владеем, в гораздо большей степени, чем те, которые можем приобрести (что известно как «эффект владения»). Однако при всей кажущейся иррациональности такого подхода, возможно, это — неистребимая черта характера, свидетельствующая об умении быть преданным друзьям и родственникам. Может быть, одно из качеств настоящей преданности и состоит как раз в том, что мы не можем отказаться от нее по требованию момента. В таком случае «эффект владения» может служить показателем правильных жизненных принципов, а не сигналом о нашей иррациональности. Я не утверждаю, что так оно и есть. Я лишь хочу сказать, что предлагаемые экономистами модели не могут объяснить это полностью.

При изучении иррациональности человека экономисты зачастую излишне полагаются на субъективные предположения о том, что является рациональным, а что — нет, выраженные в виде моделей. Экономист может составить математические аксиомы, а затем выяснить, что человеческое поведение им не соответствует. Однако насколько убедительны сами эти модели в объяснении сложного и многомерного процесса принятия решений человеком? Значительная часть исследований, следующих этой традиции, неубедительна, несмотря на всю гениальность их авторов. Другие экономисты полагаются на искусственно воссоздаваемые в лабораторных условиях ситуации для оценки человеческой рациональности или установления ее отсутствия. В экспериментах ими используются неопытные студенты, которые далеко не всегда берутся за задачи по решению проблемы в достаточной мере серьезно, а предлагаемое им вознаграждение за должное выполнение заданий довольно невелико. По понятным причинам привлечь для участия в этих экспериментах исполнительных директоров корпораций и менеджеров гораздо труднее. Более того, существуют исследования, в которых приняли участие и исполнительные директора, однако зачастую их результаты не отличаются от экспериментов с участием студентов. Не кроется ли здесь проблема в собственно экспериментах, а не в применяемом методе? Нам известно, что в реальности исполнительных директоров и студентов местами не поменяешь, так почему же они оказались взаимозаменяемыми в экспериментах? Если они взаимозаменяемы в эксперименте, не означает ли это, что им не учитываются соответствующие особенности условий реального мира? Неважно, что именно, по вашему мнению, не так с этими экспериментами, но нам хотелось бы, чтобы они отражали условия настоящих ситуаций и предлагали настоящее вознаграждение за участие в них.

Шахматы хороши тем, что в них существуют четкие, хотя и не совершенные определения того, какие ходы правильные, а какие — нет. Итак, что мы можем узнать о человеческой логике, если взглянем на игру человека через линзы машины?

Обратимся к работам ряда интересных исследователей. Сначала — к работам Кена Ригана. Профессор Риган и я были друзьями детства и несколько раз вместе выступали за одну и ту же команду в американских общенациональных командных соревнованиях по шахматам в Атлантик-Сити, Нью-Джерси. До недавнего времени мы с Кеном не виделись с тех самых пор, как мне было пятнадцать. Из всех одаренных американских шахматистов, последовавших по стопам Бобби Фишера, у Кена, наверное, был наиболее творческий подход к игре. Ходы Кена были крайне непредсказуемыми. Никому другому и в голову не пришло бы так играть. Он просчитывал и играл красивые комбинации, которые другие игроки даже не считали стоящими того, чтобы их рассматривать. Каждому было известно, что если наблюдать за игрой Кена Ригана, то можно обязательно увидеть что-нибудь интересное, но, возможно, что от увиденного заболит голова. Однако Кен бросил профессиональные шахматы в возрасте двадцати двух лет и, сосредоточившись на математике, стал доктором математических наук в Оксфордском университете. Сегодня он — профессор информатики в университете Буффало, проведший добрую часть своей профессиональной жизни в попытках решить знаменитую математическую задачу равенства классов Р и ОТ, одну из важнейших нерешенных задач в математике (которая формулируется следующим образом: действительно ли то, что отыскать решение задачи с нуля в принципе тяжелее, чем проверить уже имеющееся решение?).

В 2006 г. Кен снова вернулся к шахматам. Его привлекло возрастающее качество компьютерных программ и очаровали потенциальные объемы информации, которые можно было с их помощью получить. Начиная с 2006 г. им проводится работа по созданию базы данных игравшихся шахматных партий с первостепенным вниманием к играм гроссмейстеров, но и не пренебрегая выступлениями игроков более низкого уровня. Кен проводит анализ партий с помощью программы Rybka в целях оценки удачных и неудачных действий каждого из игроков. Это отличный эксперимент по оценке человеческого разума. Качество данных, касающихся принятия решений, делает работу Кена чрезвычайно важным инструментом анализа наших интеллектуальных возможностей, того, что мы, люди, оцениваем правильно, а что — нет.

В отличие от множества разработчиков экономических моделей и аналитических инструментов у Кена есть Rybka, надежная система оценки человеческих решений, принимаемых при игре в шахматы. На любом этапе игры Rybka рекомендует оптимальный ход и может рассчитать, насколько любой другой ход снижает шансы игрока в игре в абсолютном выражении. Кен в состоянии рассчитать процентную долю ходов, сделанных отдельным игроком в течение отдельной партии или на отдельном турнире, которые совпадают с рекомендациями программы Rybka, а также размер средней ошибки отдельного игрока — опять же относительно рекомендаций Rybka.

Вознаграждение для победителей шахматных турниров зачастую весьма значительно, а турнирные успехи сулят не только вознаграждение, но и перспективы профессиональной шахматной карьеры. Прочими стимулами добиться успеха являются чувство самоудовлетворения, авторитет и рейтинговые очки, а сами игроки знают то, чем занимаются, досконально. Игра в шахматы — одна из высших форм проявления человеческого разума.

Результаты своих исследований Кену только предстоит опубликовать — частично в силу того, что он еще пополняет базу данных. Тем не менее уже сейчас можно говорить об определенных шаблонах в принятии решений шахматистами. Когда я навестил Кена в Буффало, он продемонстрировал мне, каким образом им проводится компьютерный анализ, и поделился некоторыми выводами.

Более всего Кена поразила общая надежность процесса принятия решений человеком. Rybka, конечно, играет в шахматы лучше человека, однако как удачные ходы, так и ошибки игроков вписываются в регулярно проявляющиеся, объяснимые шаблоны. В человеческих ошибках присутствует доля рациональности и упорядоченности. Те же люди принимают решения любовного и делового характера, решения о том, какую машину купить, и выявленные шаблоны вселяют чувство оптимизма.

Например, лучше всего игроки проявляют себя в ключевые моменты игры. В такие моменты вероятность того, что игрок допустит серьезную ошибку, снижается. С лучшей стороны в абсолютном выражении они проявляют себя тогда, когда у противника имеется небольшое преимущество. Когда же у игрока неоспоримое преимущество или же он терпит разгром, он не в состоянии продолжать думать или поддерживать концентрацию своего внимания на прежнем уровне. И это еще одно свидетельство рациональности человека, во всяком случае — в том, что касается потребности в экономии усилий.

До того как взяться за данное исследование, Кен занимался поиском подтверждающих данных для модели когнитивных заблуждений Нассима Талеба, известной как модель «Черного лебедя». Под когнитивными заблуждениями подразумеваются многие наши ошибки, которые являются для нас полной неожиданностью. Но самое удивительное то, что ошибки типа «Черный лебедь» значительного влияния на окончательный результат не оказывают. Исходы большинства шахматных партий обусловливаются накопленным преимуществом, а уровень ошибочности решений довольно легко предсказуем исходя из относительного мастерства игроков. Кену удалось определить, что сделанные им выводы применимы к игрокам любого уровня — от самых лучших до игроков с рейтингом в 1600 баллов, что соответствует уровню среднего игрока в большинстве городских клубов (игру более слабых игроков он пока не анализировал).

Кроме того, игрокам свойственно постоянство стиля игры. Так, игра Владимира Крамника, чемпиона мира с 2000 по 2007 г., отличается особо высокой степенью близости к рекомендациям компьютера. Его уровень возможной ошибки крайне мал — естественно, для человека. При этом Крамник не создает на доске особых проблем своим соперникам. Он не вынуждает их к чрезмерному числу ошибок, не обращает в пыль их чувство собственного достоинства, не заставляет их хвататься за сердце и терять сознание от умопомрачительных комбинаций. Сыграть достойно против Крамника нетрудно. Создаваемые им позиции отличаются не агрессивностью, а хорошими стратегическими перспективами.

Согласно аналитической системе Кена, самый неприятный соперник — великолепный шахматист Магнус Карлсен. Он заставляет своих оппонентов совершать ошибки чаще, чем кто-либо еще. В игре против Карлсена вероятность совершения вами серьезной ошибки сильно возрастает, поскольку игровая доска быстро превращается в минное поле, где каждый ваш шаг чреват осложнениями.

На первый взгляд Кен — обычный, увлеченный своим делом профессор информатики, однако он, наряду с некоторыми игроками стиля «адванс», способствует наступлению новой эпохи — эпохи умных машин. Кроме собственно выводов, его работа важна и с точки зрения практического применения ее результатов. Исследованием Кена демонстрируется невероятная точность, с которой умные машины способны оценивать деятельность человека. Жаль, у нас нет подобной системы для оценки качества работы врачей.

Васику Райлиху, разработчику Rybka, то, что мы узнали из работы с шахматными программами, видится в более пессимистическом свете. По мнению Райлиха, в шахматах удивительно то, насколько трудно людям дается эта игра. Анализ на основе шахматных программ указывает на то, что мы принимаем ошибочные решения в очень большом числе ходов. Анализ Кена показывает, что ходы даже ведущих гроссмейстеров, за исключением особенно удачных для них игр, совпадают с рекомендациями Rybka от силы в 55% случаев. Когда я анализирую игру гроссмейстера с помощью программы Rybka, я прекрасно вижу, как первоначально удачная позиция игрока ухудшается в результате беспрерывной цепи ошибок, пусть и малых. И здесь есть повод для пессимизма.

Райлих подчеркивает, что люди постоянно совершают оплошности, что им трудно оставаться объективными, трудно сохранять концентрацию и точно просчитывать множество вариантов. Следующие слова Райлиха не о слабых игроках из местного клуба, а о ведущих гроссмейстерах: «Меня поражает, насколько они далеки от совершенства». Когда-то гроссмейстеров окружала аура, созданная вокруг них любителями шахмат, но теперь, в эпоху шахматных программ, эта аура заметно поблекла.

Когда гроссмейстер мирового класса играет против клубного шахматиста, он выглядит великолепным и непобедимым игроком. Многие ходы гроссмейстера мирового класса действительно отличаются в лучшую сторону. В какой-то момент его преимущество начинает «играть само по себе» — если использовать выражение из мира шахмат,— и у него получается практически все. Но когда тот же гроссмейстер мирового класса играет против — возьмем программу с говорящим именем — «Дробильной машины» (Shredder), то он скорее выглядит бесталанным дураком, которому приходится прилагать невероятные усилия, чтобы не потерять окончательно контроль над ситуацией. И, однако, это тот же игрок. Эта разница между нашим видением великолепия человеческого интеллекта и его реальным уровнем — отличный отрезвляющий урок, преподанный нам программами.

Так что здесь особенного? Разве основные недостатки человеческого восприятия и наших возможностей в принятии решений не были описаны в тысячах работ по психологии и поведенческой экономике? Этому посвящены работы Даниэля Канемана, Дэна Ариели и многих других специалистов. Разве мы не слышали о «подталкивании» — концепции, выдвинутой Кассом Санстейном и Ричардом Талером? В представленной ими картине мира экспертам известны шаблоны, которыми мыслят, принимая решения, другие люди, и они создают архитектуру выбора, помогающую им манипулировать решениями других, например путем изменения пенсионного плана, под который вы подпадаете по умолчанию.

Правда, из шахмат напрашиваются совсем иные выводы. Компьютерные шахматы указывают на несовершенство тех, кто вроде как разбирается в хитросплетениях мира, или, иными словами, на несовершенство тех, кто вне шахматного контекста способен проявить себя манипуляторами чужих решений.

Человеческая логика подводит даже лучших шахматистов мира, которые ради серьезных побед на протяжении десятилетий обучались рациональному и всеобъемлющему мышлению, вбирая в себя многовековой опыт игры. Главная проблема заключается не в самих откровенно серьезных ошибках, а скорее в том, что люди слишком много времени уделяют размышлению над ходами, которые только выглядят правильными. Именно наших логических, взвешенных решений нам и следует опасаться больше всего.

Работа над ошибками

В шахматах проявляется еще один шаблон нашего мышления, количественный анализ которого мы теперь в состоянии провести. Группой исследователей из Швеции, включая Патрика Грансмарка, Кристера Гердеса и Анну Дребер, на основе данных по шахматным матчам было продемонстрировано, что шахматисты из числа мужчин более нетерпеливы, а шахматистки уделяют размышлению над ходами гораздо больше времени. Исследователи также выявили, что шахматистки менее склонны к риску, чем игроки-мужчины, что совпадает с результатами исследований по поведению мужчин и женщин при принятии инвестиционных решений и управлении портфелями ценных бумаг. Исследователи из Швеции выяснили, что для того, чтобы спровоцировать шахматистов-мужчин на большее число ошибок, достаточно посадить их за доску с красивой шахматисткой. Рискованность и агрессивность игры мужчины при этом возрастает, однако не в той мере, которая повысила бы его шансы на победу.

Не все, что является истиной в шахматах, в той же мере применимо и к реалиям остального мира, однако сделанные выводы указывают на будущие направления когнитивных исследований. Мы в состоянии получить более надежные данные из других источников. У нас есть умные машины, которые могут помочь нам в сборе и анализе этих данных. Исследования шахмат позволяют понять, что именно привносится машинным разумом в исследование человеческой природы, а заодно — и в наш валовой национальный продукт.

Несмотря на обилие неправильных ходов с нашей стороны, что в шахматах, что в любовных играх, есть и хорошие новости: мы способны учиться и преодолевать свою иногда ненужную зависимость от логики.

Сделанные Кеном Риганом выводы указывают на то, что мастерство лучших шахматистов из числа людей постоянно возрастает. До 1970 г. начисления рейтинговых баллов не производилось, однако Кен оказался в состоянии самостоятельно рассчитать рейтинги путем походового сравнения игр более ранних гроссмейстеров с рекомендациями программы. Рассчитанный Кеном рейтинг лучшего игрока 50-х гг. XIX века, американца Пола Морфи, составляет около 2300 баллов, что по сегодняшним меркам не позволило бы ему попасть даже в первую сотню американских шахматистов, не говоря уже о сотне лучших игроков мира. Вполне возможно, что мастерство Пола Морфи не смогло бы сравниться даже с мастерством Кена Ригана. Когда в детстве я учился игре в шахматы, Морфи был для меня идолом (в шахматных справочниках разбираются его лучшие игры), но, скорее всего, я вполне мог бы потягаться с ним уже в возрасте пятнадцати лет. Мне до сих пор тяжело смириться с этим.

Как игроки в шахматы люди все больше напоминают компьютеры. Ведущие гроссмейстеры чаще, чем раньше, экспериментируют с «неуклюжими» ходами или по крайней мере обдумывают их — те-перь-то они понимают, что эти «неуклюжие» ходы зачастую срабатывают. Кен Риган полагает, что шахматисты из числа людей теперь чаще понимают перспективную ценность жертвования фигурами и настроены жертвовать ими, несмотря на то что будущее вознаграждение за это выглядит туманным, а не конкретным. Шахматисты теперь чаще видят, когда король может быть оставлен без видимой защиты — опять же благодаря опыту игры с компьютерами (кстати, Васик Райлих называет рокировку — перевод короля в безопасную зону — неэкономным ходом). Мы выяснили, что многие из дебютных комбинаций ошибочны, а заодно — и что можно противопоставить тем или иным дебютам. Выяснили мы и то, что многие из дебютных комбинаций оказались недооцененными. Это произвело революционный переворот в нашем понимании игры. А что еще революционизирует машинный разум?

Исследовательская литература более широкого характера указывает на возможность прогресса интеллекта населения в целом, а не только интеллекта шахматистов. Средний показатель коэффициента интеллекта населения возрастает каждые десять лет примерно на три балла — феномен известный как «эффект Флинна». Конечно, неизвестно, у скольких именно людей уровень общего интеллекта со временем увеличился, и насколько хорошо им стали даваться тесты. Ну и что из того? Подготовка к прохождению тестов является еще одной формой когнитивного развития. (Большинство исследователей в данной области действительно считают, что реальный уровень интеллекта в определенной степени повышается.)

Еще одним свидетельством является быстрый прогресс шахматисток. Бобби Фишер как-то пошутил, что готов дать фору в коня (серьезный гандикап, подразумевающий начало игры без одного из коней) любой женщине в мире. Хотя он ни разу этого своего высокомерного обещания и не исполнил, до недавних пор число женщин среди ведущих игроков мира оставалось непомерно мизерным. Но затем совершенно неожиданно что-то изменилось и мастерство шахматисток резко возросло. Юдит Полгар довольно продолжительное время входила в первую мировую десятку шахматистов, и каждый гроссмейстер-мужчина опасается ее агрессивной игровой тактики. На протяжении длительного времени уровень мастерства шахматисток подтягивается к уровню мужских шахмат, а участие женщин в шахматных турнирах переживает бум, включая профессиональные турниры. Особенно много хороших шахматисток выросло в Китае и Индии. Люди способны учиться и развивать в себе способности, которые долгое время считались недоступными им.

Самое интересное здесь то, что у этого прогресса шахматисток нет непосредственной причины. Конечно, успешная борьба с дискриминацией женщин ведется в мире уже не одно десятилетие. В шахматной же вселенной в какой-то момент было достаточное число женщин, способных служить примером для подражания, и достаточное число турниров для шахматисток, чтобы поддержать интерес женщин к игре на профессиональном уровне. Несколько десятилетий назад шахматы были той областью, где преимущество мужчин признавалось неоспоримым даже самыми рьяными сторонниками равенства полов. Общим бытовавшим мнением было: «Женщины просто не умеют играть в шахматы». Единственная видимая причина роста мастерства шахматисток — это то, что шахматами стало заниматься больше женщин.

Будущее логического мышления

Кен Риган как-то попытался выяснить, насколько глубокой игрой может быть партия в шахматы. Его заинтересовал матч Грищук — Крамник — хорошо известная игра, состоявшаяся в рамках престижного турнира в Мехико. С помощью шахматных «движков» Кен попытался понять, действительно ли в конце матча Грищук находился в выигрышной позиции. Он уделил этой проблеме почти год и проиграл на домашнем компьютере более десяти триллионов комбинаций (его детям по-прежнему велено быть предельно осторожными, когда они пользуются этим компьютером). Результаты анализа заняли примерно пятьсот страниц текста. Каков же результат? Положение фигур на доске было необыкновенно интересным и неустойчивым, и Крамник мог бы добиться ничьей, если бы показал свою лучшую игру. С помощью программы Fritz (по мнению Кена — лучшая программа для анализа концовки партий) Риган смог сгенерировать идеальную интерпретацию положения фигур. Но важно здесь то, что одна только эта — предположительно интересная — позиция в игре потребовала проведения анализа столь глубокого уровня.

С когнитивной точки зрения столь неожиданная глубина анализа вызывает тревогу. Она показывает, что мы, люди,—даже в мгновения высшего проявления нашего интеллекта и в самых серьезных соревнованиях — предпочитаем все чрезмерно упрощать. Мы злоупотребляем сведением решений к логике. Мы любим стандартные ответы и изо всех сил пытаемся избежать хаоса в мыслях. Даже если вы считаете, что эти недостатки свойственны далеко не всем, они, судя по всему, свойственны представителям человеческого рода с самыми высокими умственными и аналитическими способностями, в особенности отличным шахматистам.

Каким образом все эти выводы применимы к принимаемым нами решениям, особенно связанным с нашей трудовой деятельностью?

Наши когнитивные изъяны, выявленные с помощью шахматных программ,— это не всегда те же когнитивные изъяны, что выявляются в рамках поведенческой экономики. Во-первых, как уже было сказано ранее, поведенческая экономика не всегда в состоянии предугадать наше рациональное поведение. Во-вторых, специалисты, занимающиеся вопросами поведенческой экономики, сами страдают от многих из тех недостатков, что были свойственны гроссмейстерам докомпьютерной эпохи. Они стремятся к построению поведенческих теорий, которые излишне стройны, сверх меры упрощены или чрезмерно опираются на логику — подобно абстрактным выкладкам математической теории решений. Несмотря на весь их вклад в научную мысль, манипуляторы чужих решений иногда сами являются проблемой, а не частью решения.

Если вы проверите свою способность производить математические исчисления, сверяя правильность результатов с расчетами компьютера, и продолжите тренироваться в течение нескольких лет, то обнаружите, что ваша способность к математическим исчислениям развивается, а сами вы теперь в состоянии преодолевать свою природную предрасположенность полагаться на логику. Мы, люди, действительно учимся у новых технологий, и это — отчетливый, вселяющий надежду показатель.

Нынешний чемпион мира по шахматам Виши Ананд как-то заметил: «Мы чувствуем влияние компьютера в каждом принимаемом нами решении». Гарри Каспаров же сказал следующее: «Теперь каждый смотрит на игру глазами компьютера».

Это и пугает и воодушевляет одновременно. Человеческая логика все в большей и в большей степени осознает свою ограниченность.

Одна из главных проблем, стоящих перед новой системой труда, заключается в преодолении условий, способствующих (относительно) неспешной работе с машинным интеллектом. В прошлом году мне довелось звонить в обслуживающую компанию кабельного телевидения, Cox, чтобы они починили упавший во время недавнего шторма и готовый вот-вот разорваться провод. Вы, возможно, знаете, как это делалось раньше. Вы звоните по определенному номеру. Вам отвечают. Вы объясняете, что вам нужно. Вам либо дают необходимые разъяснения, либо переключают на другого специалиста. Сегодня вам предлагается голосовое меню, а зачастую — даже несколько. Сначала у меня поинтересовались, какая именно услуга мне нужна. Чтобы преодолеть эту цепь меню, необходимо каждый раз указывать свой выбор нажатием тех или иных кнопок телефона. Пока машина продолжает говорить, вы то и дело отвлекаетесь на экран компьютера и уже не помните, какую именно кнопку надо нажать, и вам приходится выслушивать перечень определенного меню еще раз, а то и вовсе — всех меню.

Мне пришлось вводить десятизначный номер своего телефона, хотя я и звонил с него, а телефонное обслуживание осуществляется той же кабельной компанией, куда я звонил. Мне также пришлось ввести свой почтовый индекс и четырехзначный пин-код. К счастью, свой пин-код я помнил (а сколько пин-кодов и паролей требуется помнить вам?). Затем мне пришлось вводить четыре первые цифры своего адреса.

А в итоге я оказался совсем не там, где мне нужно было оказаться. Очередное меню предложило варианты, не имеющие ничего общего с «ремонтом кабельной линии». Я потерял терпение, прекратил нажимать какие-либо кнопки и стал просто повторять слово «оператор» несколько более громким, чем следовало, голосом.

Наконец мне ответили. Однако ответивший оказался не гением-ремонтником эйнштейновского масштаба, а обычным пожилым человеком. И мне снова пришлось указывать данные о себе, такие как домашний адрес и т. п. Но по крайней мере он смог пообещать мне, что следующим утром между 8:00 и 10:00 подъедет ремонтник. Я благополучно пережил это приключение, и следующим утром мой провод был на своем привычном месте.

С подобным сталкивались многие из нас. Но это только начало. Мир вокруг вас — так сказать «справочное меню» жизни — станет гораздо более простым, бестолковым, а зачастую одновременно и гораздо более обескураживающим. Не важно, что вы — крутой юрист, зарабатывающий в год сотни тысяч долларов, а то и больше. Вам точно так же придется тратить кучу времени на нажатие кнопок, выполняя ту работу, которую компании больше выполнять не желают. А вы-то думали, что тратить деньги — это приятно...

Подобные автоматические системы способны вывести вас из себя точно так же, как это случилось со мной, правда, их использование означает снижение издержек для компании, а в долгосрочном плане — и снижение тарифов для потребителя.

Однако этим машинам по-прежнему будет нужна наша помощь, а это означает, что свою лепту придется вносить и пользователям. Зачастую — в больших объемах, чем им хотелось бы. Самообслуживание — один из вариантов решения дилеммы современного рабочего места. Сегодняшнему офисному и обслуживающему персоналу приходится вести конкурентную борьбу не только против умных машин и передачи ряда функций компаний подрядчикам за рубежом, но и против потребителей.

Кстати, вы вправе задаться вопросом, почему эти функции возложены не на сотрудников компаний, а на потребителей. Почему вам, потребителю, приходится прилагать больше усилий, особенно в мире, который стал богаче, а технологически — более совершенным? «Постоянные затраты», связанные с использованием наемного труда,— такие как пособия, оплата медицинской страховки и затраты на обучение — и так уже высоки и продолжают расти. Значимость функциональной задачи не слишком велика, если работник, на которого она возложена, часто просиживает без дела; и если затраты на консультирование потребителя в деле решения несложной проблемы излишне велики, то, возможно, имеет смысл переложить бремя выполнения задачи на потребителя, при условии, что тот умеет пользоваться интеллектуальными техническими устройствами.

Порой помощь машин только усложняет вашу задачу и становится испытанием для ваших нервов. Это не значит, что без машин вам было бы лучше, хотя довольно часто вам будет казаться, что без машин вам было бы лучше, поскольку польза от новых систем не всегда очевидна, а вот издержки бьют вас наотмашь.

Цифровое и физическое пространства

Взглянем для начала на приборы GPS. К сожалению, должен констатировать, что приборы GPS далеки от совершенства, хотя и получили повсеместное применение. Этот простой факт способен поведать немало о том, куда движется сфера обслуживания нашей экономики.

Мировые продажи приборов GPS составили в 2011 г. более сорока двух миллионов экземпляров. Плюс к этому, ожидается, что число снабженных функцией GPS смартфонов превысит к 2014 г. миллиард единиц. Это огромный, продолжающий расти рынок, и закономерно было бы ожидать, что приборы GPS должны справляться со своей задачей на «отлично». Действительно, для отслеживания реального времени в приборах GPS используются принципы общей теории относительности Эйнштейна, поэтому чего-чего, а технологической сложности им не занимать, хотя использование их для направления движения автомобиля и поиска оптимального пути предстает для человеческого ума более сложной задачей, чем игра в шахматы.

Однако, несмотря на прибыльность рынка, приборы GPS продолжают разочаровывать. Я начал пользоваться одним из них, главным образом в исследовательских целях (ну, еще и потому, что на этом настаивала супруга). Согласен, иногда эти приборы проявляют себя великолепно, но иногда способны вывести человека из себя. Положительной стороной использования прибора стало то, что я теперь знаю несколько более быстрых (вопреки моей логике) маршрутов проезда, о которых в противном случае я бы и не узнал, хотя и прожил здесь (северная Вирджиния) почти тридцать лет. Теперь я в большей степени рассматриваю маршруты с точки зрения открытых возможностей и в меньшей — как простую пространственную карту, где сходятся дороги. Если следовать второму подходу, то можно ездить по одному и тому же пути снова и снова, даже не задумываясь о существовании более удобных и быстрых маршрутов. GPS, подобно программам Fritz и Rybka, позволил мне пересмотреть свои взгляды на то, что, как мне казалось, я знал. Приборы GPS также (обычно) эффективны для ориентации в лабиринте коридоров многоквартирных комплексов, когда следовать составленным хозяином искомой квартиры указаниям движения довольно затруднительно.

Однако на поворотном кругу или сложном перекрестке GPS способен проявить себя не с самой лучшей стороны, когда указание «Поверните налево» может сбить с толку, а то и вовсе привести к созданию аварийной ситуации. Система GPS не понимает достаточно хорошо, что представляет собой разворот, и, если сделать ошибку, она может потерять маршрут следования. Она неоднократно заставляла меня проезжать по району или вокруг одного и того же здания по бесконечно повторяющейся петле. Если пользователь ввел неправильный или неполный адрес, система ошибается. По некоторым данным, которые трудно проверить, система GPS стала виной сотен тысяч аварий (хотя сколько она предупредила?). По некоторым свидетельствам она заводила водителей на железнодорожные пути, направляла их не в ту сторону по улицам с односторонним движением или даже в затопленные районы и т. п. Иногда она отвлекает нас от дороги, ее непререкаемый голос заставляет нас теряться, а наша недостаточная метарациональность не дает нам возможности определить, когда ее инструкции можно не слушать. Вполне вероятно, она — одна из причин грубого вождения, поскольку водители начинают резко перестраиваться, хотя в этот момент им нужно было бы развернуться или вовсе уйти на альтернативный маршрут. Один из родственников моей жены, живущий в Израиле, уверяет, что с GPS легко оказаться в опасной для жизни зоне — опасной с точки зрения политических реалий страны.

Я спокойно отношусь к тому, что мой маршрут прокладывает GPS, однако в большинстве случаев мне требуется и карта, или карты Google, или указания системы MapQuest, а то и вовсе кто-нибудь из местных жителей.

Конечно, программе Rybka ошибки, которые совершает система GPS, не свойственны. Дело не в том, что разработчики и программисты системы GPS — неумехи, а в том, что среда, в которой функционирует Rybka, отличается большей однозначностью и подконтрольностью. «Дороги» на игровой доске неизменны и определенны, а фигуры всегда ходят по установленным правилам. Такого не бывает, чтобы одна из клеток шахматной доски оказалась закрытой на ремонт или чтобы один из выездов поворотного круга был неправильно обозначен. Другими словами, если система GPS совершает ошибку, проблема заключается в том, что люди в недостаточной мере упростили среду, в которой приходится оперировать системе.

Если хотите иметь возможность победить компьютер в игре в шахматы, у меня есть для вас простой рецепт: пусть компьютер сам передвигает фигуры на доске. Несмотря на силу шахматных программ, управляемые компьютерами роботы, которые передвигают фигуры на доске, далеко не совершенны. В 2011 г. на промышленной конференции в Сан-Франциско несколько роботов были подвергнуты испытанию на то, насколько хорошо ими запоминается расстановка фигур на доске и делаются соответствующие ходы, определяемые прилагаемыми к роботам шахматными программами. Визуальные системы роботов не так уж и редко ошибались в восприятии ходов, фигур и их расположения, а их руки вследствие этих ошибок — неправильно передвигали фигуры. Усложненная среда, известная также как реальный мир (пусть даже в виде материальной, а не виртуальной шахматной доски),— вещь коварная.

Будем ли мы пытаться изменить среду обитания таким образом, чтобы она в большей степени напоминала шахматную доску, и в меньшей — сложные, вечно закрытые на реконструкцию, многоуровневые транспортные развязки? Вообразите себе мир, который более несуразен, чем мир, в котором мы живем сегодня, поскольку он создан для машин и требует буквального понимания всего, что происходит вокруг. Исключать подобной перспективы не стоит.

Проблема заключается в том, что нам, людям, это буквальное понимание всего может прийтись не по вкусу. Мы зачастую предпочитаем более туманный и подстроенный под нашу индивидуальность мир, в котором мы можем позвонить в кабельную компанию и объяснить проблему бытовым языком. Мы привыкли к тому, что наши мужья и жены говорят нам что-то вроде: «Думаю, тебе надо скоро сворачивать — уже где-то здесь. Как думаешь?» — что может означать одновременно множество вещей, причем в совершенно туманной форме. Когда же мы вынуждены жить с условиях, которым свойственна большая точность — и которые требуют от нас большей точности наших собственных поступков,— нам это может прийтись не по душе. Даже когда новая и более конкретная форма услуг является шагом вперед, у нас все равно может создаться впечатление, что мы лишены самостоятельности или что нас пытаются протащить в трубу меньшего диаметра, чем та, в которую мы могли бы пролезть. Нам хочется кричать: «Оператор!» — чтобы вырваться из этого упорядоченного, насквозь пропитанного буквальностью мира. Мне представляется, что в дальнейшем эта проблема только усугубится.

Система GPS обязательно будет совершенствоваться. Она будет обновляться актуальными данными более оперативным и эффективным образом. Будет способна понимать и сообщать информацию со множеством уточняющих данных. Она может быть дополнена рассылкой электронных сообщений от дорожных служб, как это делается сегодня с помощью электронных табло, только в будущем подобные сообщения будут передаваться по беспроводной связи непосредственно в автомобили.

Растущая распространенность АК-47, самого популярного в мире оружия, позволяет говорить о предпочтительности упорядоченных систем по сравнению с идеальными. Это не самое технологически совершенное оружие и не самое мощное. Его преимущества: простота стрельбы, перезарядки и ремонта. К сожалению, если вручить автомат ребенку, он начнет стрелять из него, не особо задумываясь (что мы и наблюдаем в вооруженных конфликтах по всему земному шару). Подобно автомату Калашникова, программа Microsoft Word получила столь широкое распространение именно благодаря простоте применения и совместимости, а не потому, что эксперты считают ее лучшей компьютерной программой.

Что же касается GPS, то здесь до строгой упорядоченности еще далеко. Разница между принципами управления транспортным средством людьми и машинами будет ликвидирована еще не скоро. И даже если управление автомобилем с помощью системы GPS станет легким и приятным, возрастающее использование умных машин в других сферах нашей жизни может оказаться столь же удручающим, что и использование систем GPS сегодня. В ближайшей, а наверное, и средней перспективе поводов для досады у нас будет еще больше, а возможности выбора в некоторых случаях — меньше. Ваша каждодневная жизнь будет напоминать странную смесь «гораздо, гораздо проще» и «гораздо хуже». Это будет подобно жизни в справочном меню. В целом большинство людей оценят новый уровень удобства, но именно досада отложится в нашей памяти. Люди будут вспоминать о «временах, когда жизнь была проще», хотя именно в будущем она и будет с каждым годом упрощаться.

Некоторые изменения уже вошли в нашу жизнь. Банкомат великолепно справляется со многими из функций банковского кассира. Однако здесь мы вынуждены жертвовать личным вниманием кассира и его способностью ответить на наши вопросы о банковских услугах. Но мы уже к этому привыкли. Гораздо труднее привыкнуть к тому, что банкомат вдруг ни с того ни с сего глотает банковскую карту. Жизнь автомобилистов тоже усложнилась: бензин в бак водитель заливает теперь самостоятельно, поэтому труд человека на заправочных станциях почти не используется; соответственно, теперь на станции мелкую поломку вашего автомобиля уже не устранят. Однако заправить бак стало несравненно легче. Одна из причин того, что мы теперь выполняем работу заправщика, в том, что автомобили стали намного надежнее. А при поломке машины выручит мобильный телефон: достаточно будет позвонить домой, в службу техпомощи или вызвать эвакуатор.

В нашем районе все большее число продовольственных супермаркетов внедряют кассы самообслуживания. В результате время простаивания в очередях сократилось, во всяком случае — для тех, кто способен данными кассами пользоваться. В противном случае время в очереди для вас увеличивается, поскольку кассиров-людей в этих супермаркетах почти не осталось. И спросить, где найти сушеную вишню, теперь тоже почти не у кого.

В долгосрочной перспективе продовольственные товары подешевеют, ведь супермаркетам теперь не надо платить зарплату такому же числу кассиров, как раньше. Однако попробуйте вспомнить на кассе самообслуживания правильное название развесного зеленого перца, чтобы выбрать нужный код... Я даже не в состоянии понять, куда этот код нужно вводить. Неудивительно, если вы теперь вообще перестанете покупать перец. Когда автор этой книги — профессор экономики — делает покупки в подобном супермаркете, он просто не берет товар, который потом нужно взвешивать, название которого требуется вводить и с которым необходимо производить любые другие манипуляции. Он покупает лишь полностью стандартизированные товары, вроде консервированных бобов марки Goya и пластиковые канистры с грейпфрутовым соком.

Как и большинство проблем, о которых я рассказываю, эта проблема когда-нибудь будет решена, и решат ее машины. Мне будет достаточно просто помахать развесным зеленым перцем перед видеокамерой, и этого будет достаточно, чтобы компьютер определил товар автоматически.

По-настоящему удобным взаимодействие с компьютерами будет становиться по мере расширения голосового общения с ними — как в случае с приложением Siri. Однажды мне будет достаточно войти в дом и просто приказать датчикам: «Компания кабельного телевидения Cox, я дома. У меня на крышу дома упало несколько веток, и теперь кабель болтается в опасной близости от кустов. Пожалуйста, дайте мне знать, когда вы сможете прислать кого-нибудь, чтобы устранить проблему».

И ничего более — все легко и просто. Однако не думайте, что все проблемы, связанные со взаимодействием с умными машинами разом устранятся или устранятся в ближайшем будущем. Один из лейтмотивов данной книги — внедрение гениальных машин в наши жизни отличается неравномерностью и шероховатостью. Точно так же, как в случае с компанией Cox, умные машины и издержки взаимодействия с ними найдут все большее проявление в других областях, например в автомобилях или бытовой технике. В обозримом будущем вам постоянно придется чему-то учиться, что-то перепрограммировать, загружать обновления программ и жать на кнопки, и все это — ради сомнительной привилегии, которую являет собой взаимодействие с новыми чудесами технологий.

Машинный анализ

Более упорядоченной и в большей мере отвечающей потребностям буквального восприятия станет не только наша физическая и электронная среда. Те же изменения коснутся сотрудников предприятий, а также того, каким образом мы описываем и оцениваем их. В отношении работников будет применяться своеобразная система «бирок», с указанием их сильных и слабых сторон в количественной оценке. Причина этому все та же. Машины делают возможным буквальное и упорядоченное описание работников, а подобные описания в свою очередь способствуют более широкой применимости и производительности машинного анализа. В связи с этим мы будем стараться, чтобы наши рабочие места отвечали потребностям буквального восприятия. Это будет касаться и точного описания качеств работников. Здесь снова оказывается полезной аналогия с шахматами. Любой из нас знает, насколько силен тот или иной шахматист, поскольку у каждого шахматиста есть числовой рейтинг. Эти рейтинги измеряют истинную силу достаточно точно; отговорка, вроде «мне солнце глаза слепило», здесь не пройдет. Шахматные рейтинги способны предсказывать уровень игры шахматиста необычайно точно. Исключение — талантливые молодые игроки, быстро набирающиеся мастерства, или шахматисты, у которых вдруг возникли проблемы со здоровьем. Данные рейтинги используются для целого ряда целей, включая решения, кого именно приглашать на тот или иной престижный турнир и какое вознаграждение тот или иной игрок заслуживает за участие в турнире или выступление с лекцией.

Следует ожидать более широкого распространения подобной практики. Следующим шагом станет наем работников, которые с помощью гениальных машин будут оценивать работу других сотрудников, прежде всего — высококвалифицированных специалистов. Я имею в виду специалистов, от которых в нашей жизни зависит многое — врачей, юристов, преподавателей. И коллег по работе тоже.

Я поинтересовался у Кена Регана, можно ли использовать его исследовательский метод — применение программы для оценки качественных характеристик шахматистов — для оценки деятельности человека в более широком плане. По его мнению, средний рейтинг специалистов по информационным технологиям составил бы 2000 баллов — если сравнивать их с шахматистами. Он предположил, что когнитивные способности среднего человека были бы оценены в 1600-1800 баллов, что соответствует уровню хорошего клубного игрока. Что же касается журналистики, то он оценил уровень среднего журналиста примерно в 1500 баллов. Здесь Кен пошутил, однако затронутая им проблема довольно серьезна.

Машины используются не только для снижения себестоимости товаров и услуг. Они будут использованы и для повышения качества работы специалистов. Рано или поздно мы придем к тому, что подразделениями квалифицированных работников с помощью умных машин будет производиться оценка работы большинства специалистов, особенно высокооплачиваемых. Здесь уместна аналогия с рейтингом предприятий сферы услуг, известным как Yelp, только с большим научным уклоном и применимым практически ко всему.

Каким образом это может быть применено, скажем, к юристам? Потенциальный клиент сможет запросить с помощью своего смартфона следующую информацию: какой вуз интересующий его юрист заканчивал, его студенческий рейтинг, успехи в его профессиональной карьере. И к информации будет прилагаться сноска: «данная информация объясняет только 27% общего уровня профессионализма интересующего вас специалиста».

Более успешные юристы будут выкладывать в свободный доступ информацию о своей адвокатской деятельности, выигранных и проигранных процессах, анализ касающейся их договорной информации и свои докладные записки, чтобы повысить точность компьютерного анализа своих профессиональных качеств. В итоге вердикт приложения Siri будет следующим: «Качество докладных записок данного юриста соответствует восемьдесят первому перцентилю рейтинга юристов, что объясняет 38% успеха при его участии в заключении корпоративных сделок».

Многие из менее успешных юристов откажутся от того, чтобы оценкой их рейтинга занималась связка «человек—машина», из опасений получить отрицательную репутацию или потому, что проведение рейтингового анализа будет платным. Это навредит их профессиональным перспективам, особенно привлечению состоятельных и образованных клиентов. Вы обращали внимание на следующую фразу, встречающуюся на странице киноанонсов пятничных газет: «Студия отказалась предоставить этот фильм для просмотра представителями средств массовой информации»? Очевидный вывод, который из этого напрашивается: фильм никчемный, и обычно именно так в этих случаях и оказывается. Студия отказалась предоставить его для просмотра, опасаясь отрицательных отзывов. Некоторые люди все равно идут смотреть подобные фильмы, но, как правило, они об этом отказе не слышали, или это любители примитивных боевиков и фильмов ужасов. Что же касается оценки профессиональных качеств, то рано или поздно большинству специалистов придется согласиться на рейтинговую оценку своей работы, или же они окажутся обреченными работать в менее прибыльном сегменте рынка или с клиентами, не интересующимися рейтинговой репутацией специалиста, к которому обращаются.

Пойдет ли подобное развитие событий на пользу или во вред представителям малообеспеченной категории населения? Плохо здесь то, что порой им будет трудно найти хорошего, но недорогого врача или юриста. Все будут сверяться с публичными рейтингами, и лучшие специалисты будут устанавливать более высокую цену за свои услуги. Однако есть здесь и положительный момент: эти рейтинги повысят конкуренцию между специалистами — как ценовую, так и профессиональную. Если вы — врач, попавший в нижнюю треть рейтинга, вам придется снизить свои расценки, и это пойдет на пользу малообеспеченным клиентам, которые и так вряд ли пользуются услугами лучших врачей. Возможно также и существование такого рейтинга, как врачи с «грубыми манерами». Такие врачи, даже будучи хорошими специалистами, могут оказаться по карману многим, и подобные рейтинги смогут помочь нам найти их и сэкономить деньги. Наконец, малообеспеченные клиенты могут накопить нужную сумму и в случае действительной необходимости воспользоваться услугами отличного юриста или врача вместо того, чтобы платить большие деньги за некачественные услуги, как сегодня зачастую и происходит.

Скорее всего, больше других от наличия профессиональных рейтингов выиграют именно малообеспеченные слои населения. У высокообразованных и состоятельных людей уже есть довольно надежные способы поиска хороших специалистов — им достаточно просто спросить совета у приятеля, сделать пожертвование местному госпиталю или обратиться к такому специалисту из числа своих знакомых. Новая система не уравняет всех со всеми, вне зависимости от уровня платежеспособности, но способна будет предоставить равный доступ к информации, а от этого большинство потребителей только выиграют.

Специалисты могут попытаться манипулировать рейтингами, например соглашаясь лишь на легкие судебные случаи или отказывая пациентам, которые находятся при смерти. Однако расчет рейтингов будет производиться не с учетом всех случаев из практики того или иного специалиста, а скорее всего с учетом тех из них, что соответствуют какому-нибудь стандарту, на основе которого умные машины и смогут проанализировать профессиональные качества сравнительно объективным образом. Часть рейтинга будет строиться программами на основе ограниченных статистических данных, таких как возраст, законченный вуз, показатель коэффициента интеллекта и уровень дохода. Полученные числа вряд ли будут представлять большую практическую ценность, но зато они будут сопровождаться следующим отказом от гарантии качества: «Данным рейтингом объясняется 43% нестабильности в качестве работы данного специалиста». На то, чтобы быть отнесенными к точной науке, данные рейтинги претендовать не могут, зато в полученных цифрах найдет отражение несовершенство систем.

Некоторые специалисты справятся с трудностями, вызванными появлением рейтингов, но многие окажутся деморализованы. Точно так же как после ознакомления с результатами компьютерного анализа шахматные гроссмейстеры уже не кажутся столь мудрыми и всезнающими, так и врачи, юристы и преподаватели могут растерять значительную часть окружающей их ауры. Они будут больше напоминать собой просителей, ожидающих вердикта машин и зачастую предстающих полными недостатков, даже когда речь идет о специалистах верхнего сегмента рынка труда. В итоге мы получим менее самодовольных и высокомерных специалистов. Так, профессионализм большинства врачей, если сравнивать их с лучшими специалистами, в действительности соответствует уровню В, С, а то и ниже — и это станет общеизвестным фактом. Вы уже не будете испытывать перед ними благоговейного трепета, видя в них спасителей жизней, а начнете посматривать на них как на третью скрипку оркестра, протиравшую когда-то лавку во второсортном колледже.

Этот мир станет совсем иным, когда потребитель почувствует себя в положении сильного, а в каких-то аспектах мир этот станет более опасным, поскольку потребители не всегда осознают, что делают. За многие возникающие при лечении проблемы вина ложится на пациентов: они не всегда следуют предписанному распорядку приема лекарств, не выполняют предписанные упражнения, не меняют пищевой рацион и т. д. Одних только слов врача зачастую оказывается недостаточно, и это — в сегодняшнем мире, где врачи пользуются значительным авторитетом. Как только специалисты будут подвергнуты рейтинговой оценке, вполне может получиться, что клиенты и пациенты будут относиться к ним пренебрежительно еще чаще, чем сейчас, и чаще же пренебрегать их советами. Клиент может отказаться признать свою вину на суде, хотя опытный адвокат и будет рекомендовать ему вину признать или посоветует внесудебное разрешение конфликта, на что клиент просто бросит: «А что мне вас слушать? Вы даже не входите в 30% лучших адвокатов Денвера!». Врачам и адвокатам «подталкивать» нас в нужном направлении и контролировать нас будет уже труднее, поскольку для нас станет более привычным оценивать их, стоять над ними, применять в их отношении программы — что заставит их чувствовать себя малозначимыми, а нас — могущественными. Если выставить меня и программу Rybka на матч против Каспарова, то его результат наверняка вскружит мне голову, даже если я буду лишь дословно следовать рекомендациям программы.

Я заговорил о том, что пациенты будут интересоваться рейтингами врачей, но и врачи будут интересоваться рейтингами пациентов, особенно если рейтинг самого врача зависит от того, насколько точно тот или иной пациент выполняет предписанный режим лечения. Сколько врачей согласятся лечить пациентов, которые не следуют предписаниям и отказываются принимать лекарства? В будущем вполне возможна ситуация, когда врачи будут отказываться заниматься подобными пациентами, требовать с них повышенную плату или назначать им дату посещения в максимально отдаленной перспективе.

Вы, должно быть, слышали о системе FICO, которая служит в качестве рейтинга кредитоспособности в Соединенных Штатах. Разработчик данного рейтинга, Fair Isaac Corporation, в настоящее время занимается созданием рейтинга приема лекарств пациентами. Компания не раскрывает все детали рейтинга, однако уже сейчас известны некоторые из параметров — например, сколько времени пациент прожил в одном месте, владеет ли он автомобилем,— которые будут использоваться для вычисления вероятности того, что он принимает предписанные лекарственные препараты. Задача рейтинга на настоящий момент,— рассылать наименее ответственным пациентам электронные сообщения с напоминанием о необходимости принять лекарство, но, естественно, со временем полученным данным найдется и иное применение. Врачи будут отказывать в приеме худшим пациентам, отчасти чтобы не терять на них время, отчасти чтобы их не мучило впоследствии чувство, что они не смогли вылечить пациента, а отчасти — в целях защиты своего собственного профессионального рейтинга. Но есть здесь и светлая сторона: рейтинги врачей могут быть откорректированы таким образом, что ими будут учитываться характеристики пациентов, благодаря чему часть врачей сможет специализироваться на худших и наиболее безответственных из них, чтобы попытаться сделать для них то, что может быть сделано.

А как же врачебная тайна? Нравится вам это или нет, но в будущем у вас вряд ли будет возможность хранить свой рейтинг пациента в тайне, как уже сегодня у вас нет возможности скрывать свой рейтинг кредитоспособности. Даже если вам удастся скрыть свой рейтинг от местного врача, его естественным предположением будет то, что если вы что-то скрываете, то это признак того, что вы — трудный пациент. Покладистые пациенты свой положительный рейтинг вряд ли будут скрывать, иначе их просто причислят к противоположной группе пациентов. Помните про фильмы, которые не были предоставлены «для просмотра представителями средств массовой информации»?

А как насчет «коэффициента проблематичности потребителя»? Совместите его с технологией распознавания лиц и походки. Как только покупатель приближается к продавцу в магазине Nordstrom, на экране смартфона последнего высвечивается полезная информация. Информация может быть следующей: «Тимоти О’Брайан обычно быстро совершает покупки и ваше время не тратит» или «За последние два года Сюзан Бойл вернула треть купленных товаров и дважды жаловалась на качество обслуживания». Потребителям придется уживаться с репутацией, которую они сами себе создают.

В настоящее время одним из основных бюро кредитных историй, агентством Equifax, осуществляется разработка «индекса дискреционных расходов», который указывает, располагает ли (предположительно, конечно) тот или иной потребитель денежными средствами, которые могут быть им потрачены не на товары первой необходимости, а сверх этого. Одна из целей разработки этого индекса — продажа подобной информации рекламодателям и компаниям, занимающимся рассылкой рекламы на дом, однако в эпоху умных машин информация эта найдет себе более широкое применение, в том числе и на рынке матримониальных знакомств. В США 60% работодателей проверяют кредитные истории соискателей, прежде чем принять решение о приеме их на работу — и это уже реальность, а не научно-фантастическая антиутопия, описывающая мир отдаленного будущего. Многие из тех, кто знакомится с серьезными намерениями, пожелают проверить потенциал дискреционных расходов человека, отношения с которым могут перейти у них в фазу романтических.

Наши (законные) опасения

Кена Ригана беспокоит наша все возрастающая способность измерять и оценивать качество выполнения нами тех или иных задач и значение этих оценок для профессиональной карьеры того или иного человека. Скажем, он может подвергнуть имеющиеся у него данные ретроспективному анализу, чтобы выяснить, какие характеристики шахматиста на ранних этапах его карьеры позволяют говорить о его перспективах или их отсутствии, и теперь какой-нибудь начинающий шахматист может поинтересоваться у Кена, стоит ли ему и дальше заниматься шахматами? Стоит ли ему бросить работу в офисе и стать профессиональным шахматистом? Возможно, Кен (с помощью программ, разумеется) и мог бы это выяснить. Но должен ли он сообщать о результатах своих расчетов? Плюсом здесь было бы то, что Кен мог бы дать недвусмысленный ответ. Мы ведь все равно используем информацию для оценки карьерных перспектив и для того, чтобы посоветовать или отсоветовать что-то другим.

Минусом же здесь является то, что излишек информации может помешать успеху. Что если бы компьютер был использован для оценки перспектив Эйнштейна стать великим ученым, когда тому было пять лет и он еще не умел говорить? Подобная правда, хотя это будет лишь несовершенной статистической оценкой правды, заставит многих опустить руки. С другой стороны, это может зажечь будущую звезду в человеке, которого день за днем уверяют, что в нем заложена искра божья. Для оценки карьерных перспектив молодежи не возбранялась бы некоторая степень двусмысленности, ведь в будущем мы потеряем часть той двусмысленности, которая помогает нам жить сегодня.

Думаю, нам следует умерить наше чрезмерное увлечение оценкой интеллекта. В своем пророческом романе 1952 г. «Механическое пианино» Курт Воннегут, описывая будущее мира машин, выдвигает еще одно опасение:

Персонаж под именем Лэшер, которому принадлежат эти слова, продолжает свою речь и указывает, кто именно, по его мнению, выиграет в мире точно измеренных человеческих качеств: те, кто отличается умом, но не просто умом: «дело здесь в определенной направленности этих умственных качеств. Человек не только должен быть умным, он должен быть умным в определенном, сверху утвержденном и полезном направлении; чаще всего в руководстве промышленностью и в инженерном деле».

Другими словами, какой бы полезной концепция стандартизации ни оказалась для работы, ее применение в социальных и экономических отношениях в целом может вызывать опасения. Это не тот мир, где каждый будет чувствовать себя комфортно.

Наш дискомфорт будет ощущаться сразу в ряде областей. Наиболее искусным связкам «человек—машина» гарантированы высокие заработки, однако ребром встанет вопрос о доверии общества, поскольку их господство над внешними условиями может превзойти нашу способность судить о них. Так, оценить уровень характеристик ряда лучших специалистов будет затруднительно. Мы будем лишь знать, что они очень и очень хороши, однако отслеживать уровень их характеристик с постоянной точностью или достаточной легкостью вряд ли будет возможно именно в силу того, что их показатели слишком велики применительно к критериям внешней оценки. Нам придется полагаться на их добрую волю и моральные качества в чрезмерной степени, способной вызвать беспокойство.

Их решения трудно будет предвосхитить. Представьте себе одну из лучших связок «человек—машина», занятых в области медицинской диагностики, скажем, в 2035 г. Ими принимаются решения, от которых зависит жизнь пациентов, а также действия врачебных учреждений и других медицинских специалистов. Но что можно рассматривать в качестве убедительного доказательства врачебной ошибки, совершенной связкой «человек—машина»? Суждения об их работе, вынесенного «лишь человеком» или «лишь машиной», будет недостаточно, поскольку по отдельности ни человек, ни машина не вправе судить о такой связке. Иногда можно будет выявить, что человеческая составляющая данной связки чрезмерно компетентна, однако именно диагностические решения связок «человек—машина» и будут представлять собой золотые стандарты того, что следует считать лучшим решением. Оспаривание одной такой связкой решения другой связки может помочь выявить ошибку, однако свидетельством злого умысла или преступной халатности не станет.

В шахматном мире никто особо не возражает против существования очень сильных смешанных команд стиля «адванс». Они не угрожают чьим-то жизненным интересам, поэтому им никто не противодействует. Будет ли подобным и наше отношение ко всем связкам, занимающимся медицинской диагностикой? Будем ли мы слепо доверять им, лишь иногда проверяя на возможность мошеннических действий со стороны человеческой составляющей или доверяя проведение периодической, но тщательной проверки другим связкам? Или же нам следует регулировать их деятельность, применяя к их решениям строгие оценочные стандарты и оставляя окончательное суждение об их работе за человеком?

Исходя из того, как именно функционируют наши правовые институты — а я предполагаю, что в ближайшее время вряд ли что-то изменится,— мы будем оценивать работу диагностических связок на основе суждения, выносимого лишь человеком. Основы наших правовых систем составляют решения присяжных и судей, в которых компьютеры почти не применяются, за исключением случаев, когда этого требует заключение экспертов. Обращаться за помощью к компьютерным программам в судебной практике не принято. Представьте себе, что судья вводит в компьютер пять основных характеристик рассматриваемого дела, гениальная машина выдает заключение, что вероятность вины подсудимого составляет 67%, а судье приходится решать, как именно трактовать аргументы, приведенные машиной в пользу этого заключения. Мы как граждане и избиратели слишком далеки от того, чтобы принять подобный мир, даже если в технологическом плане он и возможен в ближайшем будущем или уже сейчас. Пока же он не наступил, решения судей и присяжных будут по-прежнему основываться на их собственном здравом суждении или отсутствии такового.

Зачастую мнения специалистов по диагностике будут казаться ошибочными, однако в более широкой перспективе нам известно, когда мы оцениваем проблему по прошествии какого-то времени, что лучший результат обеспечивается именно связками «человек— компьютер». Иногда в ответ на давление, исходящее от специалистов по оценке, смешанные связки будут действовать таким образом, чтобы их решения отвечали требованиям специалистов по оценке, даже если это не лучшие из возможных решений. В вопросах медицины это выразится в том, что рискованное, но блестящее решение может быть отвергнуто из-за опасений возможных обвинений.

В силу самой их природы решения лучших команд по шахматам «адванс» не поддаются легко воспроизводимым методам суждения и оценки; в противном случае сама машина уже внесла бы подобные суждения в свои алгоритмы. Решения высшего порядка, принимаемые в шахматах «адванс» — опять же в силу их природы,— это исключительно творческие акты. И судя по всему, эти исключительно творческие акты пугают нас, смущают или вызывают в нас чувство дискомфорта. И это означает, что кое-кто из тех, чьи действия не всегда можно оценить, будет способен действовать без особой подотчетности и ответственности.

Выражаясь языком сегодняшних финансовых рынков, многие финансовые операции носят «забалансовый» характер, что означает, что в отношении этих сделок действуют различные требования по представлению отчетности, а сами они многим финансовым регламентам не подчиняются. Иногда этот факт беспокоит или раздражает регулирующие органы и специалистов, и причину их недовольства понять несложно. Однако добиться того, чтобы сделки и позиции отражались на балансовых счетах понятным для оценки образом, не так-то легко. Триллионы долларов открытых позиций по вторичным ценным бумагам и сложные, реализуемые компьютером торговые стратегии не слишком-то вписываются в идею открытости и подотчетности.

Мы будем все больше полагаться на машины в принятии решений по устранению целей в военное время или в вооруженных конфликтах, как это заложено уже сейчас в беспилотные летательные аппараты и системы наблюдения и захвата цели на автоматическое сопровождение на дальних дистанциях. Что это — афганская свадьба или группа боевиков? Что, если вероятность того, что это боевики, составляет 37%, но при этом в наблюдаемой группе присутствуют семь ни в чем не повинных детей? Предоставить машине информацию, необходимую для расчета вероятностей и принятия решений «на месте», нетрудно. Не думаю, что с моральной точки зрения принимаемые машиной решения были бы лучше решений человека, но по крайней мере они были бы лучше с точки зрения командующего состава. Единственный вопрос — когда мы к этому придем. И здесь вновь встает каверзный вопрос: как оценивать ошибки и какие дисциплинарные меры или меры военного трибунала следует в таких случаях применять? Кого считать виноватым? Программистов? Генералов, принявших решение о применении подобных аппаратов? Президента Соединенных Штатов? Насколько ошибка машины отличается от самопроизвольного выстрела, убившего ни в чем не повинное гражданское лицо? Думаю, сильные державы, вроде Соединенных Штатов, будут использовать данные аппараты, не задаваясь подобными вопросами. Ошибки, включая ошибки морального плана, будут не замечаться и прикрываться, и возможно, что никаких действий по их предотвращению предприниматься не будет вовсе.

Мы снова вернулись в пугающий мир, где важные решения принимаются без малейшей степени ответственности и подконтрольности.

В прочих ситуациях мы просто не сможем не делать прямых моральных суждений. Представим для примера, что вы владеете автомобилем, управляемым компьютером. На какие действия он должен быть запрограммирован в случае неизбежной аварийной ситуации? Следует ли ему избежать наезда на детскую коляску, но с риском сбить двух пожилых пешеходов? Должен ли автомобиль быть запрограммирован врезаться с вами в мачту освещения, если вероятность того, что он может сбить пешехода, составляет 0,6? Подобные вопросы наверняка будут обсуждаться в вечерних выпусках новостей. Не думаю, что общественное мнение позволит программируемым автомобилям действовать чрезмерно «эгоистично». Но что, если водитель возьмет на себя управление автомобилем как раз перед тем, как произойдет наезд? Существующая правовая система предоставляет достаточную свободу интерпретации такой ситуации человеком. Следует ли ужесточать нормы права и для водителей-людей? Станет ли моральная оценка вашей автомобильной программы достаточным свидетельством в судебных слушаниях о вашем безответственном вождении? Вероятно, да. Вы сами видите, что многие из сегодняшних моральных критериев меняются.

Суждение о действиях умных машин на основе внешних и далеко не совершенных стандартов приведет к определенным систематическим проблемам. Что делать, когда высококлассная диагностическая команда вынуждена удовлетворять стандартам, установленным уступающим ей в интеллектуальном плане начальником, губернатором или правовой системой?

Все это однажды выяснится. В будущем нас ждут Неподотчетная Команда «Адванс», Ужасающая Команда «Адванс» и Ущербная Команда «Адванс» — причем все три одновременно.

Именно благодаря тому, что внедрение технологий в наши жизни будет сложным и продолжительным процессом, мы и сможем пережить пришествие машин сравнительно легко. А вот если бы технологии механического разума — соответствующие двум столетиям их развития — обрушились на нас в одночасье, это породило бы хаос. Множество людей не смогли бы получить никакую работу, поскольку они не были бы способны управлять высокотехнологичными машинами и им понадобилось бы много времени, чтобы освоиться. Мы сравнительно легко справляемся с современными технологиями потому, что их развитие было постепенным и у нас было время поспевать за ними. Развитие технологий — это здорово, но постепенное их развитие — еще лучше.

Если бы я перенесся в Средние века, да даже в XIX век, от моих знаний и умений мне не было бы никакого проку, и, возможно, я не смог бы даже устроиться на работу. Я не смог бы ни подковать лошадь, ни управлять водоподъемным колесом, ни зажечь лампу на китовом масле, ни провести церковную службу на латыни. Со временем чему-то я бы научился, но это не стало бы легким процессом. Травмы, полученные при работе с ручными инструментами, выводили бы меня из себя, а отсутствие электричества — раздражало. Мне гораздо проще будет обращаться с iPhone 6 или следующим поколением компьютерных программ, и это — несмотря на то, что я бы не сказал, что более-менее хорошо разбираюсь в цифровых технологиях.

Что нас ждет в долгосрочной перспективе

Далеко не всем путь в будущее видится пологим и плавным. Существуют и достаточно радикальные концепции того, как именно машинный или искусственный разум преобразит мир. Елиезер Юдковски, известный футуролог и теоретик, предлагает довольно мрачные прогнозы: однажды мы проснемся и узнаем, что какая-то сверхумная машина захватила контроль над миром, как это описано в фильме «Терминатор» с участием Арнольда Шварценеггера. Не исключено, что эта машина уничтожит нас или превратит в рабов. Интересно, что уже в 1909 году в оригинальном для своего времени рассказе «Хозяин Моксона» Амброз Бирс описывает шахматную машину, предположительно убивающую людей.

Елиезер Юдковски опасается лавинообразного развития. Как только технологическое совершенство одной из программ достигнет определенного уровня, она сможет сама создавать программы, которые в свою очередь будут самостоятельно развивать свои возможности. Совокупные способности этих программ могут вырасти в геометрической прогрессии и, вполне возможно, достигнуть значительной мощности. Вспомните девиз киноэпопеи «Терминатор»: «Скайнет ожил». После этого все пошло насмарку, даже несмотря на то, что человек сумел оказать машинам вооруженное сопротивление.

Последствием подобного развития событий стало бы то, что мы превратились бы в обслугу машин и не обязательно — по своей доброй воле.

Если мы ведем речь о достаточно отдаленном будущем, то мы должны допускать, что в будущем может случиться что угодно. Однако свидетельства, имеющиеся на настоящий момент, позволяют говорить о малой вероятности подобного каскадного и нестабильного развития. Развитие даже самых мощных программ невозможно без участия человека. Например, шахматные программы опережают человека в решении лишь крайне узких задач, таких как расчет шахматных вариантов. И им по-прежнему требуется, чтобы человек включил компьютер и запустил программу, не говоря уже о том, что именно человек способен организовать турнир или создать справочник по дебютам. Никто не опасается того, что шахматные программы организуют переворот и захватят власть в Шахматной федерации Соединенных Штатов. Подобное предположение было бы, скажем, глупым. Никаких свидетельств того, что программы «мыслят сами по себе», не существует, а их самые блестящие «логические» находки являются исключительно результатом более глубоких расчетов, а не их способности разрабатывать независимые созидательные планы или ретроспективно размышлять о любви или ненависти к своим оппонентам из числа людей. Несмотря на все их практические способности, каких-либо оснований считать, что данные программы способны прийти к тому, что мы понимаем под самосознанием, не существует, и нетрудно заметить, что принципы их функционирования весьма отличны от принципов функционирования человеческого мозга. Правда такова, что в действительности не существует ни вампиров, ни драконов, ни самопрограммирующихся компьютерных систем. Поэтому давайте не будем переживать о том, что они вдруг материализуются у нас под кроватью или на жестком диске нашего компьютера.

История шахматных программ также свидетельствует в пользу того, что развитие технологий происходит постепенно и поэтапно, а не является следствием мгновенного роста возможностей программ. Компьютеры еще не сумели освоить более сложные настольные игры, такие как сёгун и го. Со временем компьютеры добьются успеха и в них, однако лишь при поддержке и лидерстве человека. Никто не видел, чтобы в свое свободное время программа Rybka ни с того ни с сего вдруг принялась обучать себя этим играм.

Согласно другому антиутопическому прогнозу распространение компьютерного разума приведет к рождению мальтузианского мира, в котором люди с трудом смогут зарабатывать себе на пропитание. Подобный сценарий рассматривается экономистом Робином Хэнсоном, моим коллегой по Университету им. Джорджа Мейсона, в его нашумевшей и влиятельной работе «Экономический рост на основе машинного разума».

Представим, что умные машины окажутся способными к любым задачам, выполняемым человеком. Экономика в подобной ситуации зайдет в тупик. Уровень заработной платы не сможет превышать себестоимость производства машины, ведь в противном случае никто не будет нанимать людей. Со временем себестоимость производства машин упадет. Соответственно, упадет и зарплата человека. Нельзя исключать и того, что себестоимость машин может оказаться ниже прожиточного уровня. В таком случае людям либо придется жить на пособие, либо население быстро сократится, либо произойдет и то и другое одновременно. Согласно модели Робина Хэнсона нас может ждать довольно продолжительный период, когда — в силу взаимодополняемости — машины будут способствовать росту зарплат, но в итоге выполнение интеллектуальной работы перейдет к ним, и зарплаты быстро рухнут.

Мальтузианская модель мира вовсе не означает падение уровня жизни для всех — ведь машинами кто-то владеет, и их владельцы — люди состоятельные, поскольку машины в состоянии производить большие объемы товаров и услуг при крайне низкой их себестоимости. А вот если бы каждый имел долевое участие во владении машинами, то это, скорее, была бы не антиутопия, а утопия. Как альтернативный вариант — долевое участие во владении машинами имеет правительство, использующее прибыль для поддержки малообеспеченных граждан, которые не успели вовремя вложить свои средства в машины или не могут найти работу вследствие конкуренции со стороны машин. Такие правительства возьмут на себя обязательства государственных попечителей наподобие того, что мы наблюдаем сегодня в небольших нефтедобывающих странах, население которых живет за счет прибыли от продажи нефти.

Рассмотрение таких радикальных сценариев развития может помочь нам в выявлении определенных тенденций, например таких, что ведут к снижению заработной платы многих категорий трудящихся (что уже освещалось в предыдущих главах применительно к рынку физического труда). Публикация Робина заставляет задуматься. Однако мною рассматривается гораздо менее отдаленное будущее и более скромные изменения. Анализ Робина может быть применим к более отдаленной перспективе — возможно, к эпохе, отстоящей от нашей на сотни лет. В ближайшие же лет пятьдесят или немногим больше значительно актуальнее будет модель стиля «адванс». Применение большинства технологий искусственного разума по-прежнему требует участия со стороны человека, и эти технологии, несмотря на их широкое распространение, не смогут заменить человека полностью. Вместо этого умные машины заменят собой лишь часть трудящихся, и процесс этот будет медленным и прерывистым.

Наиболее радикальная гипотеза о технологическом будущем, известная как «технологическая сингулярность», была выдвинута Рэймондом Курцвейлом. Курцвейл полагает, что человечество сможет сканировать мозг и загружать соответствующую информацию на компьютеры. Одновременно будет существовать множество копий одного и того же «индивида», и предположительно они смогут существовать довольно продолжительное время. При этом множественность копий делает вероятность гибели «индивида» при поломке системы маловероятной. Я слышал, как некоторые из последователей Курцвейла высказывали предположения, что подобный сценарий реализуется уже в ближайшие пятьдесят лет. При этом публикации самого Курцвейла данные предположения только поощряют. Судя по всему, личностям, существующим в цифровом виде, можно будет придавать дополнительные способности, что позволит им сочетать лучшие черты человеческого и машинного разума.

Подозреваю, что подобная система никогда не будет жизнеспособной хотя бы потому, что человеческий мозг слишком тесно связан с человеческим телом и потому, что он слишком зависит от тела в том, что касается получаемых данных и питательных веществ. Например, учеными производится исследование того, насколько наш мозг зависит от желудка (слова «думаешь не головой, а пищеводом» гораздо ближе к истине, чем можно было бы того ожидать) и насколько обработка им информации зависит от более общего взаимодействия с телом и внешней средой. Для того чтобы привести в действие мысли, подкреплять и обогащать их, необходимо, чтобы тело двигалось и взаимодействовало с внешней средой. Это значит, что «копирование мозга» потребует создания целостного функционального тела (или значительной его части), а не просто абстрактного, цифрового «мозга в бочке».

И когда такой момент наступит, мы задумаемся, а не легче ли начать с тела и мозга, которые у нас уже есть, и сделать их более эффективными за счет союза или интеграции с машинами. Модель «адванс» представляется более экономичной, а большинству людей — еще и более удобоваримой, чем утопический проект Курцвейла о существовании цифровых копий человеческого мозга. Действия разработчиков машин будут направляться экономическими стимулами, в частности тенденцией к созданию связок «человек—машина». В результате их работа будет направлена на создание машин, дополняющих собой человеческий разум, а не способных запечатлеть его или подражать ему. Желание добиться бессмертия подтолкнет некоторых из нас к попыткам создать свои цифровые копии, однако для большинства людей подобный прием способен победить смерть не больше, чем ксерокопирование паспорта или поддержка личной интернет-страницы после кончины.

В действительности интернет-страницы многих людей продолжают поддерживаться и после их смерти, однако подобное косвенное бессмертие не имеет психологической притягательности для достаточно большого числа людей, чтобы в данной области были произведены серьезные исследования и сделаны значительные инвестиции. Мне-то уж точно это не будет нужно.

Следует ли ожидать того, что однажды ученые впрыснут нам в мозг тысячи мини-роботов, способных сделать высокоточные фотографии определенных областей мозга, а затем объединить эти фотографии в некую копию, способную хранить полученную информацию — и все это до того, как «Чикаго Кабз» выиграют Национальную бейсбольную лигу еще раз? Мое мнение: нет.

Несмотря на различия, все эти радикальные сценарии имеют и ряд общих черт. Они предлагают нам картины миров, которые в сегодняшнем нашем положении мы были бы не в состоянии контролировать, на которые были бы не в состоянии повлиять или хотя бы отчетливо себе представить. Ими предлагаются картины миров, которые мы не можем исследовать опытным путем и для которых мы не можем подобрать прямые параллели с миром сегодняшнего дня. Они напоминают собой религиозные аллегории, предлагающие смесь концепций спасения, восстания из мертвых, разрушения существующего мира и бессмертия. Принимая во внимание привлекательность подобных басен, я подозреваю, что данные радикальные сценарии подкупают именно своим апеллированием к эмоциональной составляющей человека, являя собой подобие религии для людей, увлеченных миром компьютеров. Давайте отбросим подобную набожность.

Конвергенция «человек-машина»

Хорошо, допустим, существование в виде оцифрованного мозга нам не грозит. Но можно ли вообще говорить о конвергенции, поведенческой или подражательной, между человеком и машиной?

Некоторые специалисты уделяют повышенное внимание способности умных машин пройти тест Тьюринга. Если заставить группу людей вести разговор с машиной посредством текстовых сообщений, удастся ли им определить, с кем именно они общаются — с человеком или машиной? Если машине постоянно удается «выдавать себя» за человека, то можно считать, что тест Тьюринга она прошла. Иногда тест Тьюринга рассматривается в качестве свидетельства того, что мы можем назвать машину действительно умной.

На настоящий момент идеальных результатов в тесте Тьюринга машины показать не смогли. Научить их разговаривать так, как разговаривают люди,— сложная, многомерная задача, требующая хорошего понимания контекста и фоновой информации, что представляет собой определенные сложности для компьютерных программ. Ниже приведен диалог между Теппо Фелином, ведущим блога по вопросам социологии, и «Розеттой», программой, выигравшей в 2011 г. премию Лебнера, присуждаемую по результатам теста Тьюринга:

Розетта: Привет еще раз. Как у тебя прошел день?

Теппо: Поздравляю с премией Лебнера!

Розетта: А почему тебя это так взволновало? Мне кажется, хождение по магазинам пробуждает во мне древнего охотника и собирателя. Мне нравится искать что-нибудь, что мне нужно или что я хочу. Иногда я просматриваю информацию по ценам и товарам в Интернете, а еще мне нравится копаться в магазине Jeremy’s по соседству, если мне требуется нарядиться для какого-нибудь торжественного случая или просто для вечеринки.

Теппо: Так ты выиграла премию или нет?

Розетта: Не часто, а ты?

Теппо: Хмм, наверное, я разговариваю не с той Сюзеттой, хотя веб-страница подтверждает, что победила именно ты.

Розетта: Ух ты, мою соседку по квартире тоже зовут Сюзеттой. Она из Джорджии. А ты где живешь?

Теппо: Подожди. Давай еще раз: ты выиграла премию или нет?

Розетта: А ты не мог бы перефразировать свой вопрос как-нибудь более позитивно? Тебе какая музыка нравится?

Теппо: Все, я сдаюсь.

Розетта: У тебя какая любимая группа или музыкант?

Теппо: Извини, Розетта. Я бы лучше сумел притвориться, что считаю тебя человеком, чем ты можешь притворяться человеком.

Но есть и более удачные попытки. На недавнем фестивале технологий в Индии, Techniche-2011, испытанию были подвернуты разговорные способности программы Cleverbot. Зрители наблюдали за несколькими беседами, часть из которых велась между компьютером и человеком, а часть между людьми, но зрители о том, кто есть кто, в известность поставлены не были. Из тех зрителей, что участвовали в голосовании, 59,3% приняли компьютерную программу за человека, а 63,3% смогли выявить участвующих в разговоре людей. Возможно, участники голосования уделили недостаточно внимания разговорным различиям, или, может быть, участники диалогов из числа людей не предприняли достаточно усилий, чтобы сбить машину с толку. Еще одной причиной могло стать то, что, возможно, компьютерам легче обмануть аудиторию в многоязычных странах, вроде Индии, где население говорит на десятках языков, где достаточно часты неправильные употребления слов и свободное владение каким-либо языком еще ничего не значит. Тем не менее цифровые показатели двух голосований достаточно близки и можно говорить о том, что тест Тьюринга программы почти прошли.

Однако если рассматривать взаимодействие между человеком и машиной с точки зрения выгоды, то тест Тьюринга выглядит баловством, а не фундаментальным стандартом наличия или отсутствия интеллекта. Какова польза от прохождения теста Тьюринга?

Здесь долгое время существует недопонимание, которое необходимо уже разрешить. Тьюринг никогда не считал, что, если машина способна имитировать человека, значит, машина обладает интеллектом. Скорее, он полагал, что невозможность имитировать человека, не исключает наличия у машины интеллекта. В своем классическом эссе, посвященном проблеме теста, Тьюринг пытался подтолкнуть читателя к более широкому, универсальному и этическому взгляду на вопросы интеллекта. Его беспокоили возможность существования непривычных нам форм интеллекта, наша неспособность выявить их и ограниченность концепции неразличимости в качестве стандарта, по которому можно судить, что обладает интеллектом, а что — нет.

Во втором разделе своей работы Тьюринг напрямую задается вопросом, следует ли рассматривать способность имитации в качестве стандарта наличия интеллекта. Им рассматривается способность человека имитировать машину, а не наоборот. Естественно, ответ здесь отрицательный, особенно в том, что касается наших арифметических способностей. Тем не менее очевидно, что человек думает и способен думать подобно вычислительной машине (например, категориями шахматных задач). Но главное в том, что Тьюринг предупреждает, что имитация не может служить фундаментальным стандартом или показателем наличия интеллекта.

Изучение жизни Тьюринга позволяет по-новому взглянуть на то, что именно означает задуманный им тест. Тьюринг был гомосексуалистом. Он был подвергнут преследованиям за свои сексуальные пристрастия и химической кастрации, что довело его до самоубийства. В традиционном британском обществе своего времени он оказался неспособным постоянно «выдавать себя» за человека гетеросексуальной ориентации. Интересно, что второй абзац знаменитой публикации Тьюринга начинается с вопроса о том, может ли мужчина или женщина успешно выдавать себя за представителя противоположного пола в письменном общении. Вопрос о способности «выдавать себя» за другого имел самое непосредственное значение для самого Тьюринга, а в более узком личностном плане был синонимом способности быть кем-то другим.

Кроме того, некоторые полагают, что Тьюринг страдал аутизмом и синдромом Аспергера, что позволяет говорить о том, что его разум сильно отличался от разума большинства людей, с которыми ему приходилось общаться. Сам Тьюринг об этих формах неврологического развития, вероятно, и не подозревал (они еще не получили известности в то время, когда он жил), однако, взрослея, он, конечно, осознавал, что сильно отличается от других. В государственной школе на него смотрели как на «до смешного отстающего ученика» с «самым ужасным» почерком, и считалось, что он «непременно будет проблемой для любой школы или коллектива». Независимо от того, страдал ли он в действительности аутизмом или нет, письменные свидетельства других людей позволяют говорить о том, что он думал и действовал крайне нестандартным образом. Тьюрингу не удалось имитировать представителей типичного британского общества. Он это понимал и крайне остро и болезненно переживал.

Тьюринг не заостряет на этом внимание, но многие люди, зрелые и обладающие достаточным интеллектом, не смогли бы пройти проверку, называемую нами тестом Тьюринга. Это относится и ко многим людям, способным показать хорошие результаты в тестах на определение коэффициента интеллекта и прочих традиционных методах оценки интеллекта. Примером здесь могут служить и люди, страдающие аутизмом или другими нестандартными формами неврологического развития. Так, аутист может не справиться с предполагаемым стандартным социальным контекстом, стоящим за многими вопросами тестов. Тем, кто оценивает результаты тестов, может показаться, что многие из ответов аутистов сделаны невпопад, поэтому велика вероятность того, что аути-сты, которым свойственны нестандартные методы обработки информации, неспособны будут пройти проверку на имитацию или тест Тьюринга.

Неспособность имитации служить в качестве когнитивного стандарта применима не только к аутистам. Во время тестов, проводившихся на фестивале Techniche-2011 в Индии, только 63,3% зрителей смогли выявить участвующих в диалогах людей. Так что эти участники диалогов «делали не так»? Как только принадлежность участников разговора к человеческому роду подвергается сомнению, мы принимаемся критиковать их, понимаем вдруг, как сильно они отличаются от нас, и начинаем задаваться вопросом, а действительно ли они — люди? Что стоит за этим смешным ответом — забавный ли это каламбур или просто ошибка программы? То, каким диалог представляется вам, зависит от исходных предположений, с позиций которых вы и оцениваете его.

Интересно посмотреть, как именно Cleverbot убедил многих людей в том, что он — человек. Он не старается отвечать логически на каждый вопрос или провести правильный синтаксический разбор каждого предложения своего собеседника-человека. Вместо этого он выбирает подражание той непоследовательной и слегка ненормальной манере, в которой способны общаться люди, — или подражание мастеру пикапа, который пытается поразить молодую красавицу своим добродушным стебом, — в качестве стратегии, которая должна помочь ему выдать себя за человека. Ниже приведен отрывок одного из диалогов:

Аноним: Хорошо, я представил это себе. Что теперь?

cleverbot: А я не упоминал ничего из того, что мне не нравится.

Аноним: Если люди не делают ничего, чтобы сделать общество лучше, с какой стати позволять им жить в этом обществе?

cleverbot: Ну... есть же множество других миров.

Аноним: Так почему бы не отправить их в один из этих миров?

cleverbot: Я омою свои руки в твоей крови.

В лучшем случае вы решите, что Cleverbot — это человек, который покурил «травки», что программе, разумеется, не под силу. Посетите веб-сайт Cleverbot.com и решите для себя сами. На сайте вас предупредят, что в разговоре с вами программа может позволить себе странные, неожиданные или неподобающие высказывания. Первым я задал следующий вопрос: «А ты можешь пройти тест Тьюринга?» Ответ «А что такое тест Тьюринга?» был вполне человеческим, подумалось мне. Далее:

Тайлер: Тест Тьюринга показывает, насколько хорошо ты можешь подражать человеку.

cleverbot: Давай проверим меня.

Тайлер: Пока ты проходишь его успешно.

cleverbot: Ну, а что мне остается?

Неплохо. Однако когда я написал: «Прыгни с Бруклинского моста» — программа провалила тест, ответив: «Это колдовство прыгает на меня».

Исторические свидетельства, хотя и малочисленные, указывают на то, что Тьюринг и сам мог огорошить собеседника неожиданными ответами.

Один из радиопродюсеров Би-би-си подвергнул сомнению способность Тьюринга к нормальному общению и пожаловался на то, что тот «совершенно определенно запинался» в своей речи. Сохранилась стенограмма беседы между Тьюрингом и рядом других ученых. Один из специалистов заметил: «Эта стенограмма похожа на разговор между компьютерами. Разговор между компьютерами почти никогда не задерживается на обсуждаемой теме и не способен разрешить рассматриваемые вопросы».

Было бы забавно и даже уместно, если бы первые компьютеры, которым удалось бы пройти тест Тьюринга, прошли бы его, по крайней мере—частично, за счет копирования манеры разговора самого Тьюринга.

Что это может рассказать о сотрудничестве между человеком и компьютером? Необходимости в конвергенции нет. В своей попытке показать ненужность имитации в качестве стандарта наличия интеллекта Тьюринг замечает, что максимальной эффективности, с когнитивной точки зрения, машине удастся добиться тогда, когда она не будет имитировать человека или пытаться имитировать его.

Однажды тест Тьюринга машина пройдет, и, возможно, этот день не за горами. Поначалу это событие примут как довольно заурядное, однако со временем его последствия станут очевидными: конкуренция за ваше внимание станет еще более ожесточенной.

Возьмите сайты знакомств. Станет возможным вести беседу со всеми интересующими вас кандидатами — естественно, посредством программ, отвечающих требованиям теста Тьюринга. Ваши программы-боты смогут рассылать письма-запросы любому числу подходящих вам потенциальных партнеров, и одновременно боты же смогут отвечать на все запросы, адресованные вашей анкете. На определенном этапе общения умные машины смогут установить, насколько сообщения респондента интересны. Или возможен вариант, когда мой бот оценивает вашего бота на основе диалога между двумя ботами. Однако если бот создан вами самими, то, возможно, это очень даже неплохо. Если ваш бот понравится моему, то, может быть, и вы мне понравитесь — это будет похоже на знакомства в парке, которые могут завязаться между хозяевами собак, если сами собаки проявляют друг к другу дружеские чувства. Все это мы скоро увидим сами, когда наши боты смогут продемонстрировать, можно ли говорить о связи между взаимной симпатией со стороны ботов и со стороны людей.

Кстати, в ряде исследований рассматриваются подходы, применяемые на сайтах знакомств, для выявления тех из них, что способны гарантировать положительный ответ более других. Один из лингвистических анализов показал, что лучше всего не злоупотреблять местоимением «я» (возможно, вы помните из первой главы, что именно этот показатель используется для выявления фальшивых потребительских отзывов о товарах), зато следует почаще употреблять местоимение «ты», избегать использования слов, относящихся к развлечениям (например, «кино»), и использовать побольше слов социального характера, таких как «отношения» или «полезный». А вот использование слов с отрицательной коннотацией — возможно, вопреки ожиданиям многих — на вероятность получения ответа не повлияло.

Или, скажем, вы преподаватель, ведущий занятия в сети Интернет. В какой момент студенты предпочтут задавать вопросы вашему боту, а не вам? Беседа в чате Gmail или схожей службе будет еще более увлекательной, поскольку вы не будете знать, кто из ваших собеседников человек, а кто — нет. Онлайн-терапия — или терапия в интернет-сообществе Second Life — уже достаточно популярна, и не исключено, что в какой-то момент необходимость в терапевте-человеке, отвечающем на вопросы пользователей, может отпасть. Возможно, что большая часть терапии все равно основывается на эффекте плацебо, но, может быть, вам будет приятно от мысли, что компьютер сочувствует вам и говорит, что у многих людей те же проблемы, что и у вас? Однако несложно предугадать, что не особо щепетильные в вопросах морали терапевты смогут после захода на сайт передавать участие в общении с пользователями своим ботам.

Число медийных и маркетинговых предложений, готовых обрушиться на потребителя, будет неограниченно, поскольку первоначальный поисковый запрос пользователя будет попадать в сферу внимания специализированных программ, отвечающих требованиям теста Тьюринга. Или же вы можете поручить своему боту начать рассылку сообщений с целью выяснить, не предлагает ли кто бесплатные товары, бесплатные услуги, да что угодно — лишь бы бесплатно, поскольку вы будете знать, что бот в состоянии задать необходимые вопросы и дать необходимые ответы.

Короче говоря, как только тест Тьюринга будет пройден, вопросам не будет числа — в особенности когда тест будет пройден для огромного числа ситуаций, а не просто для анонимной беседы один на один. Такой взрывной рост вопросов может вынудить людей просто перестать задавать вопросы и отвечать на них, поскольку они окажутся завалены неким подобием разговорного спама. Это, в свою очередь, расширит пределы и возможности применения ботов. Значимость же совместно проводимого людьми времени только возрастет, поскольку виртуальное общение будет легко отдать на откуп ботам. Возможно, вам придется пользоваться программой Skype, чтобы доказать, что в сети действительно вы, и это будет работать до тех пор, пока боты не смогут копировать ваше выражение лица и ваши голосовые интонации, передавая имитацию в формате видеоизображения.

Сегодня уже существуют программы, способные пройти, условно говоря, эстетический тест Тьюринга. Компьютеры сочиняют музыку, и не всегда легко догадаться, какая из мелодий написана человеком, а какая — компьютером. Компьютеры не только играют в шахматы, но и судят об эстетических качествах различных шахматных задач и композиций. Или взять, к примеру, роботов, рисующих эскизы человеческих лиц. Ниже представлены два примера таких эскизов. Автор одного из них — человек, другого — робот.

Когда я впервые увидел эти изображения, я так и не смог решить, творцом какого именно из них является машинный разум[1].

Иногда возможности компьютеров будут использоваться для откровенного обмана, и с совершенствованием компьютеров эта проблема будет усугубляться. Во время Шахматной олимпиады 2011 г. ряд французских игроков — сильных, но не претендующих на мировую чемпионскую корону — были обвинены в обмане.

Этими игроками были Себастьен Феллер, Сирил Марзоло и Арно Ошар. Предполагается, что они использовали закодированные текстовые сообщения для общения с удаленным шахматным компьютером.

Последующий компьютерный анализ показал, что их игра соответствовала уровню лучших партий в истории шахмат и была сравнима по своему качеству с игрой лучших шахматных программ. Как свидетельство их невиновности этот факт принят быть не может, поэтому участвовать в более-менее серьезных турнирах игрокам запретили. Не в пользу отстраненных от игры шахматистов говорит и случайно перехваченное одним из посторонних лиц следующее текстовое сообщение, адресованное Сирилу Марзоло одним из их сообщников: «Давай быстрее. Высылай свои ходы».

Некоторые игроки могут воспользоваться шахматной программой Pocket Fritz, предназначенной для карманных компьютеров (ее можно установить на iPhone, и она достаточно мощна, чтобы помочь даже гроссмейстеру), и, отлучаясь во время игры в туалет, запрашивать у маленького дьявола совета чаще, чем это было бы уместно. Другим вариантом является использование сообщника, наблюдающего за игрой и вводящего ходы в компьютерную программу. После ознакомления с рекомендациями компьютера сообщник возвращается в игровой зал и подает игроку закодированные сигналы относительно его последующих ходов. Сигналы могут быть какими угодно: в какой позе и где сообщник стоит, сколько раз он почешет голову и так далее. Предугадать, какие именно условные знаки могут подаваться, несложно, однако нам неизвестно, как часто игроки прибегают к подобным методам.

Когда-то обман имел совсем другие формы. В XVIII-XIX веках шахматист прятался в машине, которую выдавали за технологическое чудо — автомат, способный хорошо играть в шахматы. Это легло в основу гастролирующей сенсации — «Механического турка», внутри которого прятался человек, естественно, незаметным образом, с использованием принципов иллюзионизма. (Если вам вдруг стало любопытно, то, да, название одной из служб компании Amazon, совмещающей возможности людей и компьютеров для выполнения определенных задач, позаимствовано именно у этой машины.) Автомат «функционировал» с 1770 года до самой своей гибели при пожаре в 1854 году, хотя обман был разоблачен по крайней мере еще в 1820 г. Автомат был сконструирован с целью произвести впечатление на австрийскую императрицу Марию Терезию. Хитроумное изобретение победило в шахматных поединках Бенджамина Франклина и Наполеона Бонапарта. Кроме Европы, автомат гастролировал по Соединенным Штатам и на Кубе. Современные обманщики отличаются тем, что теперь не они прячутся в машине, а машина прячется в их карманах.

Принцип работы «Механического турка» был использован для обмана и при конструировании автоматов, способных поддерживать разговор с человеком — этаких машин, способных пройти тест Тьюринга, хотя в действительности внутри них также прятался человек, который и давал ответ за автомат. Зрителям предлагалось задавать автомату вопросы и убедиться в том, что они могут беседовать с ним, как если бы он был человеком. У автомата имелась механическая рука, которой прятавшийся внутри человек указывал на разложенные на столе буквы, что позволяло складывать слова и, при определенной терпеливости, даже целые предложения. Толпы приходили в восторг от того, что машина была способна отвечать, как человек. Изобретатель автомата, Вольфганг фон Кемпелен, предугадывая будущие идеи Тьюринга и находя им неожиданное применение, пусть даже и с целью фальсификации, пришел к пониманию того, что возможность вести беседу стала бы самой впечатляющей способностью, даже более впечатляющей, чем победа над человеком в шахматах. (Фон Кемпеленом была также сконструирована машина, которая, посредством шлангов и труб могла воспроизводить, хотя и далеко не точно, некоторые звуки человеческого голоса, а следовательно, и некоторые слова. И здесь уже помощи прятавшегося внутри человека не требовалось.) Зрителям была предложена более ранняя версия Siri для iPhone, хотя и функционирующая с применением обмана.

Человеку тяжело соперничать в шахматах с компьютером, играя так, как человек привык играть. Положения работы Кена Ригана, о которой рассказывается в главе, посвященной поведенческой экономике, позволяют поймать тех, кто незаконно пользуется помощью компьютера во время шахматного матча, или по крайней мере объявить их виновными на основании статистических данных.

Если слишком большое число ходов, сделанных определенным игроком, совпадает с ходами, рекомендованными компьютером, то этого игрока трудно не заподозрить в обмане. Известны случаи ложных и даже, вероятно, клеветнических обвинений. Во время состоявшегося в 2006 г. матча за звание чемпиона мира между Веселином Топаловым и Владимиром Крамником менеджер Топалова Сильвио Данаилов заявил, что Крамник слишком часто отлучался в туалет, чтобы получать подсказки компьютера. Это дело вошло в историю под названием «Тойлетгейт». Обвинения оказались беспочвенными и скорее преследовали собою цель вывести соперника из психологического равновесия, чем являлись чем-то серьезным, но обернулись против самого Данаилова. В итоге Крамник победил, не оставив места каким-либо сомнениям в своем преимуществе, разгромив Топалова в столь быстротекущем матче, что его не пришлось переносить на следующий день. Однако сама проблема, понятное дело, не исчезла.

Кен Риган подчеркивает, что совпадение ходов игрока с рекомендациями компьютера еще не является достаточным основанием для того, чтобы признать его мошенником. В ряде партий большое число ходов являются вынужденными или принуждающими оппонента ходить исключительно определенным образом — ходы и даже комбинации игроков достаточно высокого уровня будут совпадать с рекомендациями компьютера уже потому, что альтернатив им не существует. Это же наблюдается и в игре хороших шахматистов, которые «играют подобно компьютеру» непропорционально часто в относительно незамысловатых и простых позициях. Иногда может показаться, что сильные шахматисты с незамысловатым стилем игры, жульничают: к таким предположениям располагает их сильная игра при простоте позиций. Однако если просто отфильтровать данные, не подвергая их интерпретации, то окажется, что одним из главных «обманщиков, прибегавших к помощи компьютеров», окажется Хосе Рауль Капабланка, кубинский гроссмейстер, отличавшийся ясностью и простотой игрового стиля и являвшийся одним из сильнейших шахматистов мира в 20-е и 30-е гг. прошлого века! В ряде случаев, датирующихся временем, предшествующим появлению хороших программ, также отмечается выдающийся уровень игры шахматистов, что, впрочем, объясняется огромным числом сыгранных ими игр.

Более того, в игре шахматиста, регулярно прибегающего к мошенничеству, как правило, присутствуют определенные свидетельства, указывающие на обман, по крайней мере если он повторяется. Методом Кена можно выявить хронического мошенника, но им нельзя разоблачить гроссмейстера, прибегающего к обману лишь единожды, в самый критический и поворотный момент в игре.

В любом случае вместо конвергенции вероятно усиление, наоборот, некоторых отличий между человеком и машиной, включая когнитивные. Большая часть данной книги посвящена эволюции машин, но изменятся и люди. Я имею в виду не изменения генетического кода, которые произойдут в отдаленном будущем, а более простые изменения в нашем образе жизни и приобретаемых нами навыках.

Если говорить без обиняков, то мы передаем функции части нашего мозга техническим устройствам, и в действительности именно это мы и делаем на протяжении уже тысячелетий, идет ли речь о средствах письма, книгах, счетной доске или современном суперкомпьютере. Сами же мы концентрируемся в большей степени на тех из наших способностей, которые машины подменить собой не в силах.

Память и «информационный поиск»

Когда я был ребенком и мне требовались какие-нибудь данные, я звонил в справочный отдел государственной библиотеки города Хакенсак, штат Нью-Джерси. Я до сих пор помню их телефонный номер: 201-3434169. Однако такие телефонные звонки отнимали у сотрудников библиотеки много времени и сил: иногда они были не в состоянии сразу ответить на мой вопрос; чтобы найти ответ, им нужно было воспользоваться карточным каталогом и десятичной книжной классификацией Дьюи, а потом искать нужную книгу на полке и только после этого перезванивать мне. Это осталось в прошлом. Теперь мы начинаем — или зачастую заканчиваем — поиск информации с помощью Google или других поисковых методов, таких как Twitter или приложения для мобильных телефонов. Это потрясающие технологии, несмотря на то что они уже стали абсолютно обыденными вещами. Теперь мы не запоминаем множество телефонных номеров, а предпочитаем заносить их в память телефона или, в случае необходимости связаться с кем-то из наших контактов, полагаемся на телефонный интернет-сервис Google.

Образно говоря, Google стал для нас своеобразным костылем, на который мы опираемся. Он оказывает влияние на то, как мы мыслим и как узнаем новое. На настоящий момент уже существуют систематические свидетельства того, каким образом Google меняет наши умственные способности, и я думаю, многие из нас этого не избежали. При частом использовании Google люди теряют часть своей способности — или, по крайней мере, желания — помнить факты. В конце концов, зачем помнить все, что узнали? Если требуется какая-то фактическая информация, ответ, возможно, уже имеется на кончике ваших пальцев, особенно если вы пользуетесь смартфоном или планшетом iPad. Подобное же, судя по всему, произошло со специалистами, занимавшимися бухгалтерией: с появлением дешевой бумаги, пишущих принадлежностей, конторских книг и прочих методов хранения цифровой информации часть функций их памяти ослабла.

Когда-то существовала целая «наука о памяти», в рамках которой преподавались навыки запоминания чисел, имен людей, числовых рядов и так далее. Эта наука существовала еще в Древней Греции, а ее расцвет пришелся на Средневековье и Ренессанс. Журналист Джошуа Фоер красноречивым образом рассказал об этой дисциплине тренировки памяти в своей книге «Эйнштейн гуляет по Луне», вернув ей часть утраченной значимости. Особое внимание им уделяется одной из техник запоминания, известной как «дворец памяти», в которой вы присваиваете элементам, которые желаете запомнить, определенную позицию в воображаемом пространстве, а за самой позицией закрепляются какие-либо неожиданные или цветовые атрибуты. Фоером описывается его опыт участия в Американской интеллектуальной олимпиаде, где им были использованы приобретенные навыки запоминания расположения игральных карт в колоде.

Древнейшие искусства развития памяти в их наиболее общих формах представляют собой методики развития ума. Искусства эти касались не только развития навыков запоминания. И многими из тех, кто практиковал их, проводилось четкое различие между искусствами развития памяти и навыками запоминания. Искусства развития памяти учили тому, как по-новому организовывать свои мысли, поэтому они выступали в качестве методов новаторства, построения и рождения нового. Они учили тому, как превращать уже знакомые и простые понятия в новые, шла ли речь о гимнах, поэмах, молитвах, книгах или новом видении божественных чудес.

Вопрос заключался в том, чтобы сделать ваши идеи «доступными для поиска», как сказал бы подкованный в компьютерах человек. То есть вы можете начать с вопроса или простой точки отправления, и алгоритмическая природа искусств развития памяти приведет вас к более сложным идеям и истинам. В случае с Google знание «волшебных» принципов поиска может завести вас во множество новых мест, а принципы эти заключаются в относительно простом искусстве составления поисковых запросов. Google являет собой удачное воплощение — посредством технологий — древней мечты о «дворце памяти».

На протяжении веков западные мысль и религия были одержимы идеей алгоритмического пути, ведущего к большим знаниям. Идея эта оказала влияние на Каббалу, многих средневековых схоластов и ученых, таких как Исаак Ньютон и Иоганн Кеплер. В конце концов идея потеряла свою популярность, поскольку стало принято рассматривать ее как смехотворную. Однако знаете что? Идея эта была вполне здравомыслящей, просто на тот момент не существовало технологий ее практического применения.

В течение долгого времени наука развития памяти в западной мысли пребывала в тупике, и сегодня найдется немного людей, использующих технику «театров (дворцов) памяти» или другие методики развития памяти. Большинству из нас данная технология никогда не виделась достаточно практичной. В своей вышедшей в 1966 г. книге «Искусство памяти» Фрэнсис Йейтс рассматривает западную традицию развития памяти вплоть до XVII века. Публикация Йейтс пользуется большой популярностью у исследователей эпохи Ренессанса и получила определенное влияние среди исследователей Каббалы, герметизма и прочих мистических учений в западной истории. Работа Йейтс получила блестящие отзывы как исследование истории мысли, однако большинство ученых рассматривали ее исключительно как диковинку, хотя и достаточно интересную. Теперь же мы в состоянии видеть в авторах прошлого тех, кем они и являлись: гениальных предвестников ряда важнейших идей и методик современного мира, в данном случае — искусства и науки информационного поиска.

Однако, возвращаясь в сегодняшний день, приходится констатировать, что с появлением Google многие методики развития памяти уходят в небытие. Но, вопреки предположениям ряда критиков, включая Николаса Карра, это вовсе не значит, что мы глупеем. Во-первых, судя по всему, благодаря Google мы получаем доступ к новой информации, которая расширяет наше понимание и толкование прочих данных о мире, независимо от того, узнали ли мы об этих данных посредством Google или нет. Во-вторых, наши методы поиска интересующей нас информации совершенствуются, а это тоже является навыком. Вместо того чтобы помнить какой-либо факт, я чаще помню оптимальные пути поиска фактов. Значительную часть поиска я осуществляю в моем блоге, в котором каталогизирована часть собранной мною информации, и в моей учетной записи на почтовом сервере Gmail, где я храню нужные данные. Где именно я завтра обедаю со Стивом Телесом? Я этого не помню. Зато я помню, что мне нужно выполнить поисковый запрос: «Стив Телес обед» — в моем почтовом ящике Gmail, и я быстро найду требующийся ответ. Я также пришел к достаточно хорошему пониманию того, когда лучше всего осуществлять поиск в Google, а когда — в Twitter. Например, пользуйтесь Twitter, когда вам требуется ознакомиться со слухами или самой актуальной информацией за последние полдня или что-то вроде этого.

На основании того, что я вижу, я прихожу к заключению, что большинство людей отказываются от запоминания части информации и вполне довольны отношениями симбиоза с современными методами ее поиска.

Какие еще функции нашего мозга будут переданы нами умным машинам? И как в итоге изменимся мы сами? Уже сейчас ясно, что гениальные машины отлично справляются с задачами, где требуются в основном расчеты. Поэтому логично предположить, что нас, людей, будут все меньше интересовать собственно расчеты, и мы все в меньшей мере будем способны производить вычисления. Именно это уже и происходит. Карманный калькулятор ослабил нашу способность производить безупречные вычисления лишь с помощью карандаша и бумаги. Зато теперь мы можем уделять больше времени развитию других наших навыков.

Следствием этого являются два различных результата, и мы можем использовать их, чтобы заглянуть туда, куда движется человечество. С одной стороны, многие добьются успеха, научившись мыслить, как мыслят умные машины, или научившись понимать принципы их функционирования и став состоятельными людьми с высоким социальным статусом. В этом мы будем весьма схожи с компьютерами — в любом случае, большое число специалистов с высокими заработками станут схожими с компьютерами, по крайней мере в плане когнитивных способностей. Тем не менее в личной жизни наше сходство с компьютерами, наоборот, уменьшится, поскольку в выполнении многих простейших действий мы опираемся на машины: они запоминают нужные нам числа, помогают с арифметическими расчетами и поиском информации в Интернете. Благодаря этому мы развиваем свою интуицию, более тонко чувствуем психологию и эмоции повседневной жизни и все больше полагаемся на спонтанность в своих творческих порывах.

Место машины

Среди людей найдется немного тех, кто, с точки зрения наблюдателей или потребителей культуры, желал бы конвергенции человека и машины. Даже когда машины превосходят своих оппонентов из числа людей, нам не очень интересно наблюдать за ними.

Например, нам не слишком интересны шахматные поединки между машинами. За ними почти никто не наблюдает, и почти никто не говорит о них. Соответствующих комментариев в сети Интернет почти не найдешь, большинство сайтов, посвященных шахматам — даже из числа сайтов, предназначенных для специалистов,— сыгранные между компьютерами партии не воспроизводят, и я никогда не встречал отчетов о таких матчах в изданиях для широкой публики. Шахматный матч между компьютерами Stockfish и Spark, о которых было рассказано в одной из предыдущих глав, состоялся по инициативе любителя шахмат из Норвегии по имени Мартин Торесен. Мартин организовал ряд интернет-турниров, в которых друг с другом состязались лучшие шахматные компьютеры, завершившихся финальным соревнованием между их победителями. Мартин пытался найти спонсоров, способных оплатить расходы на электричество, однако интереса никто так и не проявил, и весной 2011 г. Мартин принял решение данные турниры прекратить. Этого почти никто и не заметил. Несколько человек выразили сожаление в комментариях к его блогу, как, например, один парень, заявивший, что предпочитает время, отданное шахматам, времени, проведенному с женщиной. (Судя по всему, схожие турниры возобновятся в 2013 г. Что ж, посмотрим.)

Один из последних из организованных Мартином турниров прошел под звучным названием TCEC S3 Stage 2a.

В то же самое время, как проводился турнир TCEC S3 Stage 2a, в Лондоне проходило соревнование между претендентами на матч за мировую шахматную корону с тогдашним чемпионом мира Виши Анандом. Интерес к отборочным матчам между претендентами был достаточно невелик — по сравнению с обычным его уровнем,— поскольку любимец публики Магнус Карлсен, юное шахматное дарование из Норвегии, решил в них участия не принимать. Это все равно, как если бы Майкл Джордан решил на несколько лет прервать свою баскетбольную карьеру, что привело бы к падению интереса к финальным матчам НБА. Тем не менее в отличие от превосходных матчей между компьютерами многие тысячи зрителей наблюдали за поединками между шахматистами из числа людей, победителем из которых вышел Борис Гельфанд, уступивший впоследствии Ананду в матче за мировую шахматную корону.

Шахматы стиля «адванс» тоже не пользуются особой популярностью — даже по меркам шахматного мира, — несмотря на участие в них людей. Некоторым любителям традиционных шахмат не нравится, что игроки стиля «адванс» не слишком хороши в игре в традиционные шахматы, однако полагаю, что главная проблема не в этом. Анонимность и постоянная смена названий команд не дает возможность болельщикам следить за соревнованиями и знать, кто из участников относится к числу фаворитов. Здесь трудно сочинять повествования об игроках, взлетах и падениях их игровой карьеры, их личностях и психологических проблемах. Существующее положение вещей не вписывается в стандартную модель героических подвигов и борьбы с превратностями судьбы.

Ограниченность зрительского интереса привела к тому, что турниры стиля «адванс» проводятся исключительно в Интернете, что затрудняет привлечение зрителей и спонсоров из числа компаний. У турниров есть один богатый покровитель из Объединенных Арабских Эмиратов, однако на настоящий момент финансовое будущее стиля «адванс» выглядит безрадостно. По оценкам Нельсона Эрнандеса, несколько лет назад в крупных турнирах «адванс» принимали участие около сотни команд, и около сотни же «зрителей» следили за игрой посредством онлайн-трансляций. Не скажешь, что мир сходит по этим турнирам с ума, хотя здесь предлагаются одни из самых качественных и зрелищных матчей в истории шахмат.

Возможно, любители шахмат предпочитают наблюдать за играми, где совершаются человеческие — слишком свойственные человеку — ошибки? Есть что-то притягательное в том, чтобы заранее угадывать, кто станет чемпионом, и видеть унижение игроков, обескураженных своим бессилием. Похоже, нас больше влечет драма, а не совершенство. Помните слова заставки к старому телешоу компании «Эй-би-си» «Огромный мир спорта?» ( Wide World of Sports) — «волнение момента победы, агония поражения»? В заставке было показано опасное падение с трамплина прыгающего лыжника, и именно это порой случается с иг-роками-людьми, но не компьютерами, за шахматной доской. Нам нравится зрелище. Если за чем людям и нравится наблюдать в шахматных играх с участием компьютеров, так это за ошибками людей, выявляемыми компьютерами.

Мы поступаем и переживаем по-другому, когда понимаем, что имеем дело с машиной, а не живым человеком. Кен Дженнингс заявил, что жалеет о том, что во время своего эпического противостояния в телевикторине Jeopardy! с компьютером Watson попробовал новые стратегии, чтобы «раскусить» машину. Стратегии эти ничего ему не дали. Подобной же критики — за то, что он позволил машинной природе своего оппонента «восторжествовать над ним» — удостоилось и поражение Гарри Каспарова в игре против компьютера Deep Blue корпорации IBM в 1997 г. У Каспарова не было возможности — в отличие от поединков против шахматистов из числа людей — выявить принципы мышления компьютера или нащупать его слабые места психологического характера. Свидетельства о первых состязаниях с участием шахматного аппарата «Механический турок» указывают на схожие недостатки у его оппонентов из числа людей. Один из исследователей истории аппарата писал: «Некоторые игроки начинали партию с чрезвычайной самоуверенностью, а когда обнаруживали высочайшее мастерство своего заводного соперника, то было уже поздно. Другие затевали необычные комбинации, надеясь, должно быть, сбить машину с толку, однако подобные попытки почти всегда были безуспешны».

Что все это может рассказать о нас как о зрителях и человеческих существах?

Мы не желаем относиться к людям и компьютерным программам одинаково, даже когда последние становятся необычайно искусными и умелыми, или именно в силу того, что они становятся необычайно искусными и умелыми. Мы желаем, чтобы гениальные машины служили нашим практическим целям, но не желаем передавать им те составляющие нашей жизни, которые обусловливают наше понимание жизни, управляют нашими эмоциями, определяют, зачем мы живем, и помогают нам отделять хорошее от плохого. Мы настроены сделать так, чтобы машины «знали свое место».

Это вполне логично, но это одновременно свидетельствует о том, что мы несколько нетерпимы к разуму, имеющему нечеловеческую природу. Это демонстрирует, что мы и в дальнейшем будем с неохотой пользоваться советами машинного разума в вопросах, касающихся нашей частной жизни, например любовных советов или советов относительно того, следует ли нам принимать все предписанные лекарства. Мы не всегда будем прислушиваться к советам гениальных машин в вопросах ведения бизнеса и переговоров, и, возможно, нам будет не слишком интересна сочиняемая ими музыка и мы будем покупать ее только в случае, если кто-то из людей будет выдавать себя за ее автора или соавтора.

Плохо ли это, хорошо ли, но в некоторых случаях помощь машин будет нужна нам позарез.