Часть I. Разум и машина

Глава 2. Неприятная правда обо всех нас

Предназначение этих новых машин состоит скорее в замене человеческих суждений на всех уровнях, кроме довольно высокого, чем в замене энергии и сил человека энергией и силами машины.

Норберт Винер[81], 1949 г.

Примерно двадцать лет назад мировой бизнес принял разделение труда между человеком и машиной, что казалось весьма разумным. Машины взяли на себя вычисления, ведение документации и работу с данными. Это позволило людям сосредоточиться на принятии решений и оценке результатов, чаще использовать творческие силы и интуицию и взаимодействовать с другими людьми, чтобы решать проблемы и заботиться о клиентах.

От бумажных залежей до стандартного партнерства

Такой подход получил настолько широкое распространение, что сейчас трудно вспомнить канцелярскую работу прежней эпохи, когда бумаги между сотрудниками и отделами приходилось возить на тележках. Однако и сегодня существует страшный пережиток тех времен: там, где в подземельях Управления кадровой службы США в условиях кошмарной неэффективности «разрабатываются» бумажные залежи[82]. Назначение этой инстанции – осуществлять необходимые административные действия, когда какой-либо федеральный служащий уходит на пенсию. Поскольку работа здесь не была компьютеризирована, ею занимаются 600 сотрудников, которые сидят в помещении размером с супермаркет, заполненном высокими шкафами с досье. По причудливому стечению обстоятельств оно находится под землей, на глубине 60 метров, в бывшей известняковой шахте. В 1977 году выполнение всей бумажной (в буквальном смысле слова) работы, которую нужно было проделать в случае ухода на пенсию одного служащего, в среднем занимало 61 день. Сегодня, поскольку процедуры не изменились, это по-прежнему занимает 61 день. В штате Техас, где работу с документами перенесли на компьютеры, ту же самую задачу выполняют за два дня.

Разумный план преодоления бумажной волокиты в мировом масштабе предложили в 1993 году Майкл Хаммер и Джеймс Чампи в книге «Реинжиниринг корпорации»[83]. Эта книга пользовалась невероятным успехом. Было продано более двух миллионов экземпляров, а журнал Time назвал ее одной из двадцати пяти наиболее значительных книг о бизнесе[84].

Основной посыл Хаммера и Чампи состоял в том, что компании должны представлять себя по-другому – не выполняющими задачи внутри отделов, скажем закупку сырья в рамках отдела закупок, а ведущими бизнес-процессы, которые последовательно проходят через отделы, например принятие, сборка и отправка заказа клиенту. Сейчас это звучит банально, но в то время считалось новым и важным. Питер Друкер, один из главных бизнес-авторитетов XX века, сказал тогда: «Реинжиниринг – это что-то новое, и это именно то, что нужно сделать»[85]. Такой подход, как правило, позволял выявить множество ненужных операций, которые можно было убрать, или, как говорили Хаммер и Чампи, «уничтожить».

Реинжиниринг бизнес-процессов ускорился в середине 1990-х благодаря двум новым вещам: корпоративным информационным системам и интернету. До появления корпоративных систем[86] компании пользовались множеством компьютерных программ, большей частью между собой не связанных. Чем крупнее была компания, тем большей оказывалась неразбериха. Корпоративные системы позволили заменить эту мешанину единым большим программным объектом[87], разработанным специально для выполнения конкретного множества универсальных бизнес-процессов. Такое ПО можно было купить «в стандартной комплектации» у поставщиков вроде SAP и Oracle, а потом настроить и подогнать в нужной степени под интересы конкретного пользователя.

Корпоративные системы быстро стали популярными; по одной оценке, к 1999 году свыше 60 процентов компаний из списка Fortune 1000 стали пользоваться хотя бы одной из таких систем[88]. Они могли быть весьма дорогостоящими и требовали много времени для установки и поддержания, но в большинстве случаев выполняли свою работу. Эрик и его коллеги Синан Арал и У Дон-джун, например, установили, что компании, начавшие пользоваться новыми системами, значительно улучшили производительность труда, оборачиваемость запасов и использование активов[89].

С появлением интернета доступ к системам, сравнимым с корпоративными, получили и отдельные пользователи – с помощью своих компьютеров, а позднее планшетов и телефонов. Всемирная паутина появилась в 1989 году[90], когда Тим Бернерс-Ли разработал набор протоколов, позволяющих фрагментам контента, например тексту и изображениям, связываться друг с другом; тем самым он воплотил концепцию гипертекста, впервые описанную ученым и инженером Вэниваром Бушем в 1945 году (предложившим использовать микропленку) и первопроходцем компьютерных технологий Тедом Нельсоном, чей проект Xanadu[91] так и не был реализован.

Интернет быстро превратился из чисто текстовой сети в систему, способную работать с изображениями, звуками и прочими видами данных. Это мультимедийное чудо, удобное в навигации, возможности которого были намного больше, чем у всего существовавшего ранее, повсеместно распространилось в 1994 году, когда компания Netscape выпустила первый коммерческий веб-браузер, названный Navigator[92]. (Одним из основателей Netscape был Марк Андриссен, в то время 22-летний программист, работавший над первыми веб-браузерами. В главе 11 вы узнаете о нем больше.) Это совпало с коммерциализацией интернета, которым ранее пользовались преимущественно ученые[93].

Сеть дала возможность вывести бизнес-процессы за пределы четырех стен компании и даже достучаться до потребителя; этот тренд стал известен под названием интернет-торговли (или электронной торговли). Люди начали использовать сеть не только для того, чтобы искать и изучать продукты, но и чтобы заказывать и оплачивать их. Такое сочетание эффективности и удобства не могло не повлиять на бизнес. Всего через десять лет после запуска Netscape Navigator электронная торговля составляла 10 процентов всех розничных продаж, если не считать продукты питания и автомобили, в Соединенных Штатах[94].

За два десятилетия корпоративные системы и интернет все больше и больше способствовали развитию бизнес-процессов, помогая делать рутинные вещи: отслеживать сделки и сальдо на счетах, определять правильное количество и время поставки сырья, отправлять чеки работникам, предоставлять клиентам возможность выбирать и оплачивать товары и тому подобное.

ЕСЛИ НАМ СЛЕДУЕТ ПОЛАГАТЬСЯ НА СВОЕ СУЖДЕНИЕ…

Чем же сотрудникам занять то время, которое освободилось у них благодаря корпоративному ПО и интернету? Хаммер и Чампи в «Реинжиниринге корпорации» дали четкий ответ: по мере того как компьютеры все больше берут на себя рутину, людям следует заняться оценкой и вынесением суждений. «Реинжиниринг исключает не только непродуктивные затраты, но и работу, которая не добавляет ценность: большую часть проверок, сверок, ожиданий, отслеживаний… Процесс после реинжиниринга требует от исполнителей расширенных полномочий. Они должны думать, взаимодействовать, применять здравый смысл и принимать решения»[95].

Эта цитата отражает широко распространенное мнение, что даже в мире, полном компьютеров, программ и сетей, люди остаются ценными благодаря способности мыслить неалгоритмически. Большинство из нас согласны с тем, что, если бы наши навыки исчерпывались умением выполнять рутинные задачи, мы уже остались бы без работы, поскольку компьютеры делают это намного лучше. И большинство из нас согласны с тем, что мы способны на большее, чем цифровые технологии, сколь бы мощными и дешевыми они ни становились благодаря действию закона Мура.

Десятилетия исследований подтвердили идею: люди мыслят двумя разными способами. Это фундаментальное открытие принесло Нобелевскую премию Даниэлю Канеману, который вместе с Амосом Тверски стал пионером поведенческой экономики[96]. Работа Канемана и его коллег показала, что у всех нас есть два режима мышления, названные Системой 1 и Системой 2[97]. Система 1 быстрая, автоматическая, древняя с эволюционной точки зрения, требующая малых усилий; она тесно связана с тем, что мы называем интуицией. Система 2, наоборот, медленная, относительно недавно возникшая, нуждающаяся в сознательном приложении значительных усилий. Как писал Канеман в своей книге «Думай медленно… решай быстро»[98]:

Система 1 срабатывает автоматически и очень быстро, не требуя или почти не требуя усилий и не давая ощущения намеренного контроля.

Система 2 выделяет внимание, необходимое для сознательных умственных усилий, в том числе для сложных вычислений. Действия Системы 2 часто связаны с субъективным ощущением деятельности, выбора и концентрации[99].

Обе системы со временем способны становиться лучше. Систему 2 можно отточить, пройдя курс математики или логики, в то время как Система 1 совершенствуется более естественным и обобщенным способом: нужно просто жить своей жизнью и наблюдать за происходящим вокруг. Пожарные, например, развивают способность ощущать, как огонь распространяется по зданию; у менеджеров по персоналу после интервьюирования множества кандидатов появляется чутье на хороших сотрудников, а игроки в го становятся мастерами, обдуманно играя партию за партией. Конечно, обе системы можно и следует улучшать одновременно. Патологи (медицинские специалисты, диагностирующие определенные болезни) оттачивают свои навыки, одновременно изучая биохимию и наблюдая множество примеров больных и здоровых тканей. Совершенствование часто бывает глубже и происходит быстрее, когда мы понимаем его принципы и можем проиллюстрировать их убедительными примерами.

Ведущий стиль в бизнес-обучении сочетает эти две системы. Студенты бизнес-школы оттачивают навыки Системы 2, проходя курсы бухгалтерского учета, финансов и микроэкономики. Но они также обсуждают множество практических примеров из области предпринимательства, руководства, этики и прочего, чтобы сделать тоньше свою интуицию и способность выносить суждения – то есть умения Системы 1. Многие курсы MBA комбинируют эти подходы. Аналогично обстоит дело в медицинских и юридических учебных заведениях.

Давно известно и доказано, что склонности разных людей к Системе 1 и Системе 2 весьма различны. Кто-то превосходно решает уравнения и разгадывает головоломки, но ему не хватает интуиции и смекалки. Другой не в силах понять арифметику, но отличается замечательным чутьем.

В ситуации, когда технологии распространяются все шире, люди, склонные к Системе 1, отнюдь не оказываются в невыгодном положении. Напротив, они получают преимущество: компьютер делает всю логическую, алгоритмическую работу, а они освобождаются для того, о чем писали Хаммер и Чампи, – для вынесения суждений, принятия решений и взаимодействия с другими людьми; для того, чтобы искать возможности и заботиться о клиентах.

Нам кажется, что в бизнес-сообществе сегодня доминирует Система 1. Бывшие топ-менеджеры пишут книги под названиями вроде «Из самого нутра»[100] и «Трудный выбор»[101], [102]. Слово «технократ» стало ругательством, оно обозначает руководителя, зациклившегося на данных и не готового принять сложность реального мира. В вышедшей в 2010 году книге «Переосмысление MBA: бизнес-обучение на распутье» (Rethinking the MBA: Business Education at a Crossroads) одной из важнейших неудовлетворенных потребностей программ MBA называется умение задействовать суждения и интуицию в запутанных неструктурированных ситуациях[103]. Аргументация там была та же, что и в «Реинжиниринге корпорации»: надо дать людям возможность учиться использовать интуицию и суждения, чтобы принимать толковые решения, раз уж компьютеры взяли на себя расчеты и делопроизводство. Мы наблюдали такое разделение труда между разумом и машиной настолько часто, что назвали это «стандартным партнерством».

…ТО ЛУЧШЕ ДЕЛАТЬ ЭТО НЕ ТАК СКВЕРНО, КАК СЕЙЧАС

Стандартное партнерство кажется хорошей идеей, но иногда его результаты далеки от совершенства. Часто выходит лучше, если вообще избавиться от человеческого фактора, даже когда речь идет об опытных специалистах, и опираться исключительно на числа и формулы.

Этот вывод кажется противоречащим здравому смыслу и, по вполне очевидным причинам, даже неприемлемым. Нам понадобится тщательное обоснование. Перед тем как заняться им, мы хотим подчеркнуть, что Система 1 вовсе не бесполезна в бизнесе. Отнюдь нет. Далее вы увидите, что человеческая интуиция, способность давать оценку и быстро принимать решения все еще играют в бизнесе важнейшую роль. Самые успешные компании используют эти качества нестандартными, гениальными способами – теми, что указывают на возможность лучшего партнерства между разумом и машиной.

Сначала нам нужно продемонстрировать кое-какие слабости Системы 1. Давайте рассмотрим несколько новаторских исследований, которые показывают ограниченность оценочного суждения и интуиции даже у опытных людей.


• Профессор социологии Крис Снейдерс на основании информации о 5200 закупках компьютерного оборудования, сделанных голландскими компаниями, построил математическую модель, определяющую соответствие каждой сделки бюджету, своевременность поставки и удовлетворенность покупателей[104]. Затем он использовал эту модель, чтобы предсказать результаты ряда других сделок, совершенных в нескольких различных областях, после чего попросил группу менеджеров, специализирующихся на закупках именно этих вещей, дать прогнозы о том же наборе сделок. Со своей моделью Снейдерс обошел специалистов, даже тех, что считались профессионалами. Он также обнаружил, что опытные менеджеры в прогнозах не превзошли новичков и что в целом результаты экспертов в их собственной области не выглядели лучше, чем результаты в других отраслях.

• Профессор экономики Орли Ашенфельтер построил простую модель всего на четырех общедоступных переменных, касающихся погоды, чтобы успешно предсказывать качество бордоских вин и цену на них задолго до того, как они будут готовы к употреблению. Сложилось так, что на стоимость таких молодых вин существенно влияет мнение квалифицированных экспертов, но Ашенфельтер писал, что «одним из наиболее интересных моментов [в исследованиях вроде этого] является роль, которую оно играет… Есть подтверждения, что мнение экспертов не связано с основными качествами вина… Это естественным образом приводит нас к вопросу, ответа на который у нас нет, о том, что же определяет востребованность мнения экспертов»[105].

• Эрик работал с Линн Ву[106] (ныне профессором в Уортонской школе бизнеса) над созданием простой модели, предсказывающей объем продаж жилой недвижимости и цены на нее. Исследователи использовали данные Google Trends, в которых сообщалось, насколько часто в каждом из пятидесяти штатов США ежемесячно в поиске используют запросы вроде «агент по недвижимости», «ипотека», «цены на жилье» и тому подобное. Эрик и Ву использовали эту модель, чтобы предсказать будущие продажи жилья, и сравнивали свои прогнозы с теми, что публиковали эксперты из Национальной ассоциации риелторов. Когда появились результаты, оказалось, что модель превзошла экспертов на впечатляющие 23,6 процента. Это демонстрирует, какие возможности открывает статистика Google.

• Еще один проект Эрика был ближе к образованию; в нем разрабатывалась модель в стиле Moneyball[107] для научных кругов[108]. Он работал с Димитрисом Берцимасом, Джоном Зильберхольцем и Шахаром Райхманом (все из Массачусетского технологического института). Целью эксперимента было предсказать, кого зачислят в штат крупнейших университетов. Эрик и коллеги смотрели на данные по ранним публикациям и цитированию работ молодых ученых, а также использовали некоторые понятия теории сетей, чтобы увидеть, чьи труды оказываются самыми эффективными и имеют наибольшее влияние. Модель прогнозировала, какие ученые получат должность в сфере технологических исследований. Результат на 70 процентов совпал с реальными назначениями. В остальных 30 процентах в составленных алгоритмом списках оказались люди, которые в итоге написали больше статей в ведущие научные журналы и чаще цитировались, чем те, что получили должности.

• Исследование Шая Данцигера и его коллег показало, что израильские судьи чаще предоставляют условно-досрочное освобождение в начале дня и после обеденного перерыва[109]. А вот непосредственно перед обедом, когда они, вероятно, устали или у них снизился уровень сахара в крови, они чаще рекомендуют оставить заключенного в тюрьме. Другое исследование подтвердило, что на судебные решения часто влияют факторы, находящиеся за рамками рассматриваемого дела. Экономисты Озкан Эрен и Наджи Моджан выявили, что в одном штате США судьи, которые были выпускниками известного местного университета, выносили значительно более строгие приговоры сразу после того, как команда их альма-матер неожиданно проигрывала футбольный матч, и эти приговоры были необъяснимо более суровыми для чернокожих обвиняемых[110].

• В округе Броуард штата Флорида детей в программы для одаренных записывают обычно по рекомендациям родителей и учителей[111]. При этом 56 процентов школьников в программах для одаренных – белые, хотя в Броуарде они составляют меньшинство. В первом десятилетии XXI века было принято решение отказаться от субъективного метода и попытаться применить максимально системный и объективный подход. Все дети прошли невербальный тест IQ. Экономисты Дэвид Кард и Лора Джулиано документально подтверждают поразительные результаты этой новации: среди одаренных оказалось на 80 процентов больше школьников-афроамериканцев и на 130 процентов больше испаноязычных.

• Профессора права Тед Ругер и Полин Ким совместно с политологами Эндрю Мартином и Кевином Куинном провели тест, чтобы проверить, может ли простая модель с шестью переменными предсказать решения Верховного суда США на 2002 год лучше, чем группа из восьмидесяти трех известных экспертов[112]. Из привлеченных к эксперименту юристов 38 человек работали помощниками судей Верховного суда, 33 были профессорами права, а шестеро в настоящее время или в прошлом возглавляли юридические факультеты. В среднем представителям этой группы удалось предсказать чуть меньше 60 процентов судебных постановлений. Алгоритм же дал 75 процентов правильных результатов.


Является ли этот список репрезентативным и честным, или мы намеренно, а может, даже неосознанно выбрали случаи, когда человеческое суждение проигрывало алгоритму, оставив без внимания примеры превосходства человека? Впечатляющий объем исследований показывает, что статистика все же на нашей стороне.

Группа под руководством психолога Уильяма Гроува просмотрела литературу за пятьдесят лет в поисках опубликованных рецензируемых примеров прямых сравнений между клиническими и статистическими прогнозами (то есть сравнений оценок квалифицированных экспертов и прогнозов на основе компьютерного анализа данных) в сфере психологии и медицины[113]. Они нашли 136 таких исследований, которые охватывали всё – от тестирования IQ до диагностики сердечных заболеваний. В 48 процентах этих работ значимой разницы обнаружено не было – иными словами, эксперты в среднем угадывали правильный результат не лучше компьютера.

Гораздо более сильный удар по идее превосходства человека в оценочном суждении нанес тот факт, что в 46 процентах рассмотренных исследований эксперты действовали значительно хуже, чем алгоритм. Это означает, что люди продемонстрировали явное превосходство только в 6 процентах случаев. Авторы пришли к заключению, что почти во всех исследованиях, где люди оказывались лучше, «у специалистов было больше данных, чем у программы»[114]. Как заметил легендарный психолог Пол Мил, который еще в начале 1950-х годов описывал посредственные результаты суждений людей-экспертов:

В социальных науках не ведутся споры о том, что именно показывает настолько масштабный корпус появившихся недавно качественно разнообразных исследований, ведущихся в едином направлении, одним из которых является это [сравнение статистического и клинического прогнозов]. Когда у вас больше ста работ, прогнозирующих всё – от результатов футбольных матчей до диагностики заболеваний печени, – и при этом вы с трудом можете наскрести полдюжины исследований, где есть хотя бы слабый уклон в пользу клинического прогноза, самое время сделать некий практический вывод[115].

Мы считаем, что этот практический вывод таков: нам нужно меньше полагаться на суждения и прогнозы экспертов.

Все больше и больше американских компаний приходят к тому же заключению. Работая с Бюро переписи населения США, Эрик и Кристина Макэлерен (сейчас профессор Университета Торонто) при изучении репрезентативной выборки из 18 тысяч заводов установили, что переход к принятию решений на основе данных значительно ускорился. Катализатором этого стало активное применение информационных технологий и значительное улучшение работы компаний, принявших такой подход[116].

Несмотря на убедительные примеры, нам стоит перестать петь дифирамбы алгоритмам и сделать несколько важных оговорок. Прежде всего, чтобы сравнивать человеческое суждение с его математической моделью, нужно иметь такую модель. Согласно парадоксу Полани, это не всегда возможно. Модели нужно тестировать и оттачивать на многочисленных сходных примерах, поскольку каждая из них описывает только какое-то подмножество решений, которые могут принимать люди. Впрочем, общая идея ясна и подтверждается раз за разом: если грамотно создать и испытать модель, то в целом она будет работать так же хорошо, как эксперты, принимающие аналогичные решения (или даже лучше). Тем не менее мы продолжаем опираться на человеческие суждения там, где лучше справляются машины.

Человеческий ум: гениальный, но склонный к ошибкам

Как может компьютер, опирающийся только на Систему 2, то есть на вычисления, производимые с числовыми данными, быть явно лучше, чем человек, который пользуется Системой 2 и Системой 1 – глубинными, врожденными, инстинктивно используемыми возможностями мышления, которые есть у всех нас? В конце концов, Система 1 работает довольно давно, она помогла нам выжить и благополучно провела через все препятствия эволюции (ведь мы все еще существуем, и нас уже 7,5 миллиарда[117]). Как она могла нас так подвести?!

Это слишком большой вопрос для одной книги, тем более для одной главы. Но в своей работе «Думай медленно… решай быстро» Канеман дал краткую сводку множества исследований (многие из которых провел сам):

Поскольку Система 1 работает автоматически и не может быть отключена по желанию, ошибки интуитивного мышления трудно предотвратить. Предубеждений не всегда можно избежать, поскольку Система 2 может просто не знать об ошибке[118].

Если говорить коротко, то Система 1 очень хороша, но склонна к ошибкам. Она часто срезает углы, не любит долгих размышлений и удивительно часто сбивается. Исследователи, работавшие в области экономической психологии и поведенческой экономики (дисциплины, которую помогал создавать Канеман), выявили большое количество искажений Системы 1 и даже дали им названия. Полный их список навел бы на вас скуку и вогнал в депрессию; в посвященной этой теме книге Рольфа Добелли «Территория заблуждений»[119] 99 глав, а в «Списке когнитивных искажений»[120] в «Википедии» было 175 пунктов, когда мы заглядывали туда в последний раз. Бастер Бенсон, менеджер по продукции софтверной компании Slack, придумал, по нашему мнению, прекрасный способ сгруппировать эти искажения и удержать в голове все связанные с ними проблемы[121].


1. Информационная перегрузка – паршивая вещь, потому мы интенсивно фильтруем входящий поток… [Однако] часть отсеиваемой информации на самом деле полезна и важна.

2. Не понимая чего-нибудь до конца, мы путаемся, поэтому нам свойственно заполнять пробелы в знаниях… [Однако] в ходе этого возникают иллюзии. Иногда мы принимаем за истину додуманные нами подробности и конструируем концепции и истории, которых на самом деле не было[122].

3. [Нам] нужно действовать быстро, чтобы не упустить свой шанс, так что мы всегда спешим с выводами… [Однако] это может иметь неприятные последствия. Некоторые из наших мгновенных реакций и принятых второпях решений оказываются вредными, эгоистичными и контрпродуктивными.

4. Запутавшись, мы пытаемся восстановить в уме важные детали… [Однако] память подкрепляет ошибки. Некоторые из вещей, что впоследствии мы считаем истинными, на самом деле лишь усугубляют вышеназванные проблемы, в результате чего нашим мыслительным процессам наносится больший вред[123].


Мы хотим обратить внимание на еще одну серьезную проблему когнитивных способностей человека: мы не в силах точно узнать, когда Система 1 работает хорошо, а когда нет. Другими словами, у нас слабое представление о собственной интуиции. Мы не знаем, правильно наше мгновенное решение или вынесенное суждение или оно подверглось воздействию одного или нескольких искажений. В этом видится странная параллель с парадоксом Полани: мы также знаем меньше, чем способны сказать, в данном случае меньше о результатах работы Системы 1. Вычисления и рассуждения Системы 2 чаще всего можно проверить, но, как указывает Канеман, Систему 1 проверить сложнее, тем более самостоятельно.

Недавние исследования выявили один особо коварный сбой, связанный с парадоксом Полани: часто Система 1 выдает заключение, а затем просит Систему 2 объяснить его. Психолог Джонатан Хайдт утверждает: «Суждение и обоснование – это два разных процесса»[124]

Загрузка...