Неприятие риска и склонность к риску
Одна из причин популярности такого взгляда на риск как волатильность среди экономистов заключается в том, что он хорошо согласуется с представлением о том, что разница между ожидаемой полезностью и ожидаемым богатством является количественной мерой неприятия риска. Риск как волатильность можно сложить с неприятием риска, чтобы получить денежное выражение стоимости риска. Такой расчет позволяет установить цену на риск как на товар, который покупается и продается между людьми, имеющими различные предпочтения в отношении риска, подобно тому, как фрукты могут покупаться и продаваться между людьми, имеющими различные предпочтения в отношении яблок и груш.
Разница между ожидаемой полезностью и ожидаемым богатством действительно дает объяснение некоторым аспектам поведения в условиях неопределенности. Оно объясняет, почему богатый человек может инвестировать в спекулятивное предприятие, а менее состоятельный - нет. Или почему вы должны застраховать свой дом от пожара: ожидаемая полезность - финансовые и эмоциональные потери, которые вы понесете в результате пожара, умноженные на его, безусловно, низкую вероятность - больше, чем стоимость страхового взноса. Таким образом, ожидаемая полезность сделки положительна, даже если ее ожидаемая ценность отрицательна. И наоборот, ожидаемая ценность для страховщика положительна, и, объединяя риски - что эквивалентно повторению игры Самуэльсона сто раз - компания достигает высокой вероятности получения прибыли в целом.
Но это объяснение, похоже, предлагает лишь частичное объяснение поведения в отношении риска. Фридман и Сэвидж не смогли объяснить, почему люди, которые страхуются, также играют в азартные игры. Другая проблема заключается в том, что объяснение страхования работает только для убытков, которые велики по отношению к существующему богатству застрахованного. В противном случае нет практически никакой разницы между ожидаемой полезностью и ожидаемым выигрышем или проигрышем. Из этого следует, что нет смысла страховать то, что вы можете позволить себе потерять. Тем не менее, многие люди, которые могут позволить себе заменить свой отпускной багаж или мобильный телефон, предпочитают застраховаться от возможной потери. Британские розничные продавцы электроприборов получали огромные прибыли от продажи страховок на случай ремонта продаваемых ими товаров, пока им фактически не запретили это делать. И обеспеченные семьи с одинаковой вероятностью покупали такие полисы, как и бедные семьи, которые с трудом могли покрыть расходы на ремонт своей стиральной машины. Недорогие страховые полисы с большой франшизой, или франшизой, должны быть популярны среди оптимизирующихся домохозяйств, но страховым компаниям трудно продавать такие полисы. И наш опыт показывает, что никого из наших друзей не убедили изменить свое поведение наши экономические объяснения их нерациональности. Один из нас в течение сорока лет безуспешно пытался убедить свой колледж не страховать свое серебро. Колледж мог позволить себе потерять серебро и не стал бы и, вероятно, не смог бы заменить его, если бы это произошло.
Страхование основано не на расчетах ожидаемой стоимости, а на желании защитить эталонное повествование застрахованного. Референтный нарратив - это нарратив, в котором мы прибываем в отпуск со всем багажом, мобильный телефон лежит в кармане, стиральная машина работает, а серебро колледжа доступно для пиров. Те, кто играет в азартные игры, также думают не о вероятности и ожидаемой полезности, а о нарративах . Они могут мечтать о выигрыше в лотерею; или они могут быть среди тех печальных людей, которых мы видим привязанными к игровым автоматам или с надеждой сжимающими слипы в букмекерских конторах. Вполне рациональным людям нравится думать о том, что они могут выиграть миллионы, даже если на самом деле они этого не ожидают, и они знают, что их мечта не осуществится, если они не купят билет. Участие в лотерее может быть частью социального ритуала, так же как и покупка лотерейного билета, будь то на деревенском празднике или на ужине, который предпочитают менеджеры хедж-фондов. В этих операциях может присутствовать некоторая путаница - мы подозреваем, что некоторые люди не понимают, что страховщик не возвращает их сумки, если они потерялись при перевозке, а только оплачивает покупку нового комплекта одежды. Тем не менее, мотивацию, стоящую за страхованием, легко понять. Покупатели таких дорогостоящих полисов приобретают не дополнительную ожидаемую полезность, а некоторую защиту от срыва их эталонного нарратива.
А страхование часто защищает не организацию, на которую они работают, а справочный материал сотрудников. Члены финансового комитета колледжа знали, что их обвинят, если незастрахованное серебро будет украдено, но не поблагодарят за экономию на страховом взносе. Один из нас вспоминает, как обсуждал с руководителями очень крупной британской компании обоснование корпоративных страховых полисов, поскольку баланс компании был больше, чем у большинства страховых компаний. В ответ было сказано, что страхование дает компании определенную защиту от "коленопреклоненной" реакции директоров и акционеров в случае катастрофы, постигшей бизнес. Как выяснилось впоследствии, недостаточно: речь шла о нефтяной компании, имеющей интересы в Мексиканском заливе. Основная цель управления рисками часто заключается в защите референтного повествования отдельных лиц в организации, а не самой организации.
Неприятие риска
Поведение человека в отношении риска, представленное теорией ожидаемой полезности, является обедненным. Оскар Уайльд сыграл в азартную игру и пожертвовал своим социальным положением и литературной карьерой, не только обратившись к услугам мальчиков напрокат, но и подав в суд на маркиза Куинсберри за осуждение его аморального поведения. Безрассудство Уайльда - лишь один из многих примеров того, как успешные люди подвергаются опасности в низкой жизни. Удовольствие, которое некоторые получают от альпинизма и парапланеризма, не может быть результатом размышлений под циферблатом Байеса. И этот тип стремления к риску кажется специфическим. Некоторые люди ищут риск на вершинах гор, другие - в быстрых автомобилях, третьи - за торговым столом. И знание того, что кто-то водит гоночные автомобили, не может дать полезной информации о его инвестиционных целях.
Теория ожидаемой полезности говорит нам, что святой Франциск, чьи потребности легко удовлетворить, был бы очень несклонен к риску; банкир, одержимый деньгами, - гораздо менее. Однако большинство людей сочли бы весьма рискованным отказаться от мирских благ и положиться на благосклонность незнакомцев. И они были бы правы. Эрик Блэр, получивший образование в ведущей государственной школе Англии, решил жить бродягой и мойщиком посуды в парижских ресторанах под личиной Джорджа Оруэлла. Он дважды чуть не умер от болезней, подхваченных в этих нездоровых условиях, едва избежал смерти сначала на поле боя, а затем казни во время гражданской войны в Испании и, наконец, умер от туберкулеза в возрасте сорока шести лет. Оруэлл стремился к риску и тем самым обогатил свое собственное понимание и понимание других. Но святой Франциск, возможно, чувствовал себя уверенно в эталонном повествовании, основанном на его вере в то, что его действия соответствуют воле Божьей.
Алчные банкиры, напротив, могут быть ненасытны в своих требованиях к личному богатству, но осторожны в принятии личного риска. Высшие руководители, которые привели финансовые учреждения к краху в 2008 году, в основном ушли из-под обломков богатыми людьми. Но их бонусные планы меркнут по сравнению с планами Элона Маска из Tesla и SpaceX, который потребовал и получил от автомобильной компании схему, которая может принести ему 55 миллиардов долларов - его нынешнее состояние оценивается в 20 миллиардов долларов, что достаточно для большинства людей. Но Маск - величайший бизнесмен-рисковик нашего времени, причем как со своими, так и с чужими деньгами.
Предвидение риска
В мире радикальной неопределенности существуют пределы диапазона возможностей, которые мы можем держать в уме. Мы не можем действовать в предвидении всех маловероятных возможностей. Поэтому мы выбираем маловероятные события для мониторинга. Не путем мета-рационального расчета, который рассматривает все эти отдаленные возможности и вычисляет их относительную важность, а используя наши суждения и опыт. Иногда этот отбор отражает значимость событий: каждую неделю мы слышим о новых победителях лотереи; мы не часто читаем о жертвах падающих астероидов, и, вероятно, мы все равно мало что можем с ними сделать. Такое поведение можно описать как поведение, при котором соответствующие вероятности выше или ниже, чем они могут быть объективно - если, конечно, есть основания для расчета этих объективных вероятностей. Но такая интерпретация не признает рационального объяснения того, что рациональные люди получают выгоду (мечта о выигрыше в лотерею) или несут убытки (страх перед астероидом) от событий, которые на самом деле не происходят. Именно так террористы смогли навязать затраты, намного превышающие реальный физический ущерб, который они наносят - и они это знают.
В нашем отношении к риску есть гораздо больше, чем можно объяснить ожидаемой полезностью. Перспектива "риска как чувства" Джорджа Левенштейна - американца, который является одним из немногих экономистов, проводивших эмпирические исследования поведения, связанного с риском, и может считаться основателем нейроэкономики, изучающей реакции мозга на экономический выбор, - подчеркивает надежды и страхи, которые люди испытывают в моменты предвкушения и принятия решения. Мечта о джекпоте в лотерее. Ликование, смешанное с трепетом, когда альпинист преодолевает печально известную ступеньку (сэра Эдмунда) Хиллари, последнее серьезное препятствие при восхождении на Эверест. Сложная смесь чувств, испытываемых Ферми и его коллегами из Лос-Аламоса в ожидании первого ядерного взрыва в пустыне Нью-Мексико. Когда мы делаем шаг к Хиллари (никто из нас этого не делал и не собирается делать), существует настоящий страх неудачи или еще худшего, и перспективное возбуждение от достижения вершины. Ферми и его коллеги испытывали один набор эмоций, когда готовились к событиям, буквально потрясшим мир, и ожидали другого, когда узнали результат. Риск - это то, что все мы чувствуем эмоционально, и в Главе 9 мы увидим, что для этого есть веские эволюционные причины.
Как только мы уходим от маленького мира повторяющихся событий, известных частотных распределений и выплат, которые малы относительно существующего богатства, просто нет оснований для утверждения, что рациональные лица, принимающие решения, должны максимизировать субъективную ожидаемую полезность. Радикальная неопределенность является фатальной для попытки провести аналогию между потребительским выбором и принятием решений в условиях неопределенности. Мы не можем определить все возможные будущие исходы. Наши знания о настоящем и будущем состоянии мира несовершенны, и даже если бы мы приписали им вероятности, было бы глупо действовать на основании этих вероятностей, когда есть вероятность, что другие обладают лучшей информацией и пониманием. Оптимизирующая модель поведения в условиях неопределенности действительно описывает некоторые общие аспекты человеческого поведения. В "малых мирах", таких как простые азартные игры, максимизация ожидаемой полезности может быть полезным руководством к действию. Но даже в таких мирах индивиды могут разумно преследовать иные цели, чем максимизация ожидаемой полезности от своего выигрыша. Герцог А считает азартные игры приятным способом провести свободный вечер. Маркиз Б часто получал удовольствие от надежды, что в этот раз он выиграет. А покупатели лотерейных билетов получают удовольствие от мысли, что им выпадет судьбоносный джекпот, даже если они всерьез не ожидают его получить. Обмен мнениями между Самуэльсоном и его коллегой не мог быть разрешен никакой демонстрацией того, что один ответ "лучше" или рациональнее другого.
Если некоторые из приведенных нами примеров кажутся экстремальными, а они таковыми и являются, то они подкрепляют главную рыцарскую идею о связи между радикальной неопределенностью и творчеством. Если Святой Франциск, Джордж Оруэлл и Элон Маск бросают вызов принципам рациональности, описываемым теорией ожидаемой полезности, мы можем вполне обоснованно пожелать, чтобы таких "иррациональностей" было больше. На более обыденном уровне люди, которые нам нравятся и которыми мы восхищаемся, покупают лотерейные билеты, водят быстрые автомобили и поднимаются в горы; они страхуют свои сумки от потери, серебро из колледжа от кражи, а свои нефтяные скважины от прорыва. Мы не решаемся назвать их иррациональными. И это наводит на более общий вопрос - каков смысл рациональности в радикально неопределенном мире?
Часть
III
. Осмысление неопределенности
Глава 8. Рациональность в большом мире
Одна из главных причин, почему так мало людей понимают себя, заключается в том, что большинство писателей постоянно учат людей, какими они должны быть, и почти никогда не утруждают свои головы тем, чтобы рассказать им, какие они на самом деле.
БЕРНАРД МАНДЕВИЛЬ , Басня о пчелах
Подход к принятию решений в условиях неопределенности, разработанный фон Нейманом и Моргенштерном и развитый Фридманом и Сэвиджем в 1940-х годах, дает определение "рациональности", основанное не на наблюдении или самоанализе, а на наборе априорных аксиом. Этот способ мышления мы будем называть "аксиоматической рациональностью". Он имеет логическое следствие, что существует нечто, что можно описать как "субъективная ожидаемая полезность", которую максимизируют "рациональные" индивиды. Подчинение этим аксиомам, как утверждается, определяет "рациональное" поведение. Это не слишком очевидный способ определения "рациональности" и, конечно, не единственный возможный подход. Тем не менее, именно этот подход стал доминирующим в экономике.
Но несколько одиноких душ оспаривали эту точку зрения с самого начала. В начале 1950-х годов французский экономист Морис Алле перешел в наступление. Подозревая растущее господство в экономике американских ученых, Алле опубликовал свои выводы как "критику постулатов и аксиом американской школы". Алле представил свою критику в 1953 году в журнале Econometrica , который тогда, как и сейчас, был одним из основных экономических журналов, но писал он на французском языке. Его статье предшествовало (что очень необычно) примечание (на английском языке) норвежского редактора Рагнара Фриша. Фриша, наряду с Яном Тинбергеном из Нидерландов, часто называют основателем эконометрики, и эта пара была удостоена первой Нобелевской премии по экономике в 1969 году. Фриш прокомментировал:
Однажды вечером (на парижском коллоквиуме в мае 1952 года), когда небольшое число видных авторов в этой области исследований собрались за столом при самых приятных внешних обстоятельствах, оказалось даже довольно сложной задачей удовлетворительно прояснить недоразумения, возникшие в ходе беседы. Версия статьи профессора Аллаиса, которая теперь опубликована в журнале ECONOMETRICA, появилась после многих неформальных обменов мнениями, включая работу, проделанную редакционными рецензентами. Вряд ли продолжение подобных процедур принесет больше пользы. Поэтому статья публикуется в том виде, в каком она есть, под ответственность автора. Редактор убежден, что статья станет ценнейшим средством предотвращения "скрещивания" мыслей в этой важной области.
Алле представил остальным участникам коллоквиума несколько различных лотерей и показал, что их выбор нарушает предположение о том, что его уважаемые коллеги максимизируют ожидаемую полезность. К Алле и Фришу на том парижском коллоквиуме присоединились Бруно де Финетти, который, возможно, к тому времени уже пожалел о своем восхищении Муссолини, и американцы Милтон Фридман, Пол Самуэльсон и Джимми Сэвидж, что, должно быть, было выдающимся событием (более подробно описано в приложении). И на мгновение аргументы Алле заставили сторонников "американской школы" хотя бы остановиться и задуматься.
У школы были критики даже на ее родной территории. В Гарварде в начале 1960-х годов Дэниел Эллсберг заметил то, что он назвал "неприятием двусмысленности" - люди могут предпочесть определенность максимизации субъективной ожидаемой полезности. (Позднее Эллсберг приобрел гораздо большую известность как бывший сотрудник Министерства обороны, передавший журналистам "Бумаги Пентагона", которые раскрыли большую часть скрытой правды о войне во Вьетнаме газетам New York Times и Washington Post.) А в 1978 году американский когнитивист и пионер искусственного интеллекта Герберт Саймон из Университета Карнеги-Меллон получил Нобелевскую премию по экономике за "новаторские исследования процесса принятия решений в экономических организациях". Саймон действительно стал первопроходцем в области принятия решений в мире радикальной неопределенности. Но, как мы увидим ниже, только серьезно неправильно истолкованная версия его работы была включена в мейнстрим экономики (хотя Джордж Левенштейн, чьи работы по нейроэкономике мы представили в последней главе, занимает кафедру в Карнеги-Меллон, названную в честь Саймона).
Пока Эллсберг переправлял секретные документы в Washington Post , Канеман и Тверски начали совместную программу исследований. Почти пятьдесят лет спустя Майкл Льюис заявит, что это сотрудничество "изменило мир". Это утверждение является значительным преувеличением, хотя сотрудничество действительно изменило академическую экономику. Но после того, как в 2002 году Канеману была присуждена Нобелевская премия по экономике (Тверски умер в возрасте пятидесяти девяти лет шестью годами ранее), работа этой пары получила гораздо более широкое внимание. Гораздо больше экономистов изучали то, что стало известно как "поведенческая экономика", которая предлагает список широко наблюдаемых "предубеждений" в поведении людей. Эти исследования утверждают, что мы страдаем от оптимизма и самоуверенности и переоцениваем вероятность благоприятного исхода. Мы виновны в якорении: придаем слишком большое значение ограниченной информации, которой мы располагаем, когда начинаем анализировать проблему. Мы становимся жертвами неприятия потерь: относимся к потерям с такой заботой, которая не свойственна эквивалентным выигрышам. И так далее.
Если Аллаис, Эллсберг и Саймон рассматривали свои наблюдения как опровержение взгляда на принятие решений в условиях неопределенности, выдвинутого Фридманом и Сэвиджем, то подход, разработанный Канеманом и Тверски, занял заметно иную позицию. Объектом их критики является лицо, принимающее решение, а не модель принятия решений. Если мир не соответствует модели, то это не ошибка модели, а ошибка мира, или, если быть точным, людей, которых модель призвана описать.
Рациональное поведение
Предвзятость" можно выявить только при сопоставлении с контрфактическим беспристрастным или "рациональным" поведением. Поскольку слово "рациональность" обладает большой силой, его следует использовать с большой осторожностью. Но что значит действовать рационально? Обычное употребление предполагает две характеристики рационального суждения или действия. Во-первых, суждение или действие будет основано на разумных убеждениях о мире. Не обязательно правильные убеждения - как мы видели, в мире радикальной неопределенности мы даже после события можем не знать, каково истинное состояние мира. Но вера в то, что автобус прибудет на остановку в течение следующих десяти минут, является разумной верой, даже если она окажется неверной.
Вторым требованием рациональности является элемент внутренней логики или последовательности. Суждение или действие уместно с учетом убеждений о мире, которые его порождают. Это предложение требует осторожности в интерпретации. Может быть трудно отличить ошибки в рассуждениях от ошибок в убеждениях. Голландско-американский теоретик решений Пол Шумейкер рассказывает, вероятно, апокрифическую историю о человеке, который выиграл в "El Gordo", всемирно известную испанскую лотерею, после того как ему семь раз приснилось число семь и он пришел к выводу, что семь раз по семь - сорок восемь, по его словам, - это его счастливое число. Но даже если бы он правильно вспомнил таблицу семи времен, его действия были бы иррациональными.
Можно не соглашаться с нашей интерпретацией "рациональности", хотя она соответствует направлению мысли, которое можно проследить на протяжении двух тысячелетий, начиная с характеристики Аристотелем практической рациональности как совещательного совершенства. Но сама возможность разногласий указывает на важный момент. Аксиомы выбора в условиях неопределенности не обладают монополией на термин "рациональность". Собеседники Мориса Алле на ужине в Париже, о котором сообщает Рагнар Фриш, выявили предпочтения, несовместимые с этими аксиомами. На каком основании мы можем сделать вывод, что люди, присутствовавшие на парижском симпозиуме, одни из самых умных людей на планете, не действовали "в соответствии с разумом или логикой"? Рациональное поведение не определяется соответствием набору аксиом, установленных даже такими выдающимися мыслителями, как Джон фон Нейман и Милтон Фридман.
Стили рассуждений
В конце девятнадцатого века Чарльз Сандерс Пирс, основатель американской школы прагматической философии, выделил три широких стиля рассуждений.
Дедуктивное рассуждение позволяет получить логические выводы из указанных предпосылок. Например, "Евангельские христиане - республиканцы. Республиканцы голосовали за Дональда Трампа. Евангельские христиане голосовали за Дональда Трампа". Этот силлогизм описывает маленький мир. Как только добавляется слово "большинство" перед евангельскими христианами или республиканцами, неизбежная неясность большого мира изменяет вывод.
Индуктивные рассуждения имеют вид "анализ результатов выборов показывает, что они обычно благоприятствуют действующим партиям в благоприятных экономических условиях и оппозиционным партиям в неблагоприятных экономических условиях". Поскольку экономические условия в США в 2016 году не были ни особенно благоприятными, ни неблагоприятными, мы вполне могли ожидать близкого результата. Индуктивные рассуждения направлены на обобщение на основе наблюдений и могут быть поддержаны или опровергнуты последующим опытом.
Абдуктивные рассуждения направлены на поиск наилучшего объяснения уникального события. Например, в рамках абдуктивного подхода можно утверждать, что Дональд Трамп победил на президентских выборах 2016 года из-за того, что в определенных "колеблющихся" штатах были обеспокоены экономическими условиями и идентичностью, а также потому, что его оппонент был широко нелюбим.
Дедуктивные, индуктивные и абдуктивные рассуждения играют определенную роль в понимании мира, и по мере продвижения к большим мирам роль индуктивных и абдуктивных рассуждений возрастает по сравнению с дедуктивными. А когда события, по сути, единственные в своем роде, что часто случается в мире радикальной неопределенности, абдуктивные рассуждения становятся незаменимыми. Хотя термин "абдуктивное рассуждение" может быть незнакомым, мы постоянно рассуждаем подобным образом, ищем наилучшее объяснение тому, что видим: "Я думаю, что автобус опаздывает из-за пробок на Оксфорд-стрит". Но методы анализа решений, описанные нами в предыдущих главах, почти полностью основаны на дедуктивных рассуждениях, которые уместны только в маленьких мирах.
Рациональные люди иногда совершают ошибки. Но мы ожидаем, что рациональные люди обычно соглашаются с тем, что их суждения были ошибочными, когда им указывают на ошибки либо в их убеждениях, либо в их логике. Мы с большим пониманием относимся к концепции иррациональности, выдвинутой израильским экономистом Ицхаком Гильбоа: "Способ поведения является иррациональным для лица, принимающего решение, если, когда оно подвергается анализу своего выбора, оно хотело бы изменить свое решение или сделать другой выбор в аналогичных будущих обстоятельствах". Тот, кто ждал автобуса, полагая, что действует обычное расписание, вероятно, согласится, что поступил неудачно или даже глупо, когда ему объяснят, что сегодня праздничный день и автобус не ходит. Но если бы они остались на остановке, узнав об этом, они поступили бы нерационально.
Однако даже в маленьких мирах субъекты часто не спешат пересматривать свои позиции. Проблема Монти Холла по-прежнему вызывает недоумение; дебаты о "правильном" ответе на проблему двух детей остаются нерешенными. Мартин Гарднер и другие сделали карьеру на придумывании подобных головоломок. Некоторые головоломки интересны и сложны, потому что мы знаем, что есть определенный ответ, с которым все согласятся, если только мы сможем его разгадать. Другие, такие как проблема двух детей, трудны, потому что они недостаточно четко определены, чтобы допустить согласованное решение. Большинство проблем, с которыми мы сталкиваемся в жизни, как правило, не имеют четкого определения и единственного аналитического решения.
Но логика, выведенная из разумно обоснованных предпосылок, может завести нас только так далеко. В условиях радикальной неопределенности предпосылки, из которых мы рассуждаем, никогда не будут представлять собой полное описание мира. Будут существовать различные действия, которые могут быть названы "рациональными" при любом конкретном наборе убеждений о мире. Как только любой элемент субъективности привносится либо в вероятности, либо в оценку результатов, проблемы перестают иметь объективно правильное решение. .
Невидимая горилла
Американские психологи Дэниел Саймонс и Кристофер Чабрис провели известный эксперимент, в котором испытуемых попросили посмотреть короткое видео, на котором две группы передавали баскетбольный мяч, одна группа была одета в белое, а другая - в черное. Их попросили подсчитать количество пасов, сделанных группой в белых футболках. Мы рекомендуем вам посмотреть видео и посчитать пасы, стараясь не обращать внимания на активность игроков в черных футболках.
Увидели ли вы человека в костюме гориллы, который входит в кадр, медленно идет по экрану, бьет себя в грудь и исчезает с экрана примерно через девять секунд? Если нет, то вы не одиноки - около 70% испытуемых в эксперименте не заметили появления гориллы. И большинство из них были поражены, обнаружив, что пропустили гориллу при повторном просмотре видео. Канеман утверждает, что этот эксперимент показывает, что люди "слепы к очевидному, и мы также слепы к своей слепоте". Но как мы должны интерпретировать этот результат? Является ли он результатом человеческого недостатка? Или человеческой силы? Конечно, когда человека просят выполнить конкретную задачу, разумно отбросить все посторонние наблюдения, не относящиеся к этой задаче, и эксперимент продемонстрировал силу человеческой способности к концентрации.
Когда мы сталкиваемся с проблемами жизни в сложном мире, мы знаем, что существует множество раздражителей, которые лучше игнорировать, чтобы сосредоточиться на текущем вопросе. Действительно, феномен "слепоты", отнюдь не являющийся недостатком, можно рассматривать как положительное достоинство. Венгерско-американский психолог Михали Чиксентмихайи установил, что люди наиболее счастливы, когда находятся в "потоке", полностью сосредоточившись на трудной, но приносящей удовлетворение деятельности. Участники спорта высокого уровня используют выражение "в зоне". Бывший английский крикетист Майкл Брирли, ныне ведущий психоаналитик, говорил об этом переживании: "Поглощенные моментом, мы чувствуем себя освобожденными от всего незначительного и мелкого, от оков и сложностей нашей собственной личности и суетливой повседневной жизни, от посторонних мыслей". Брирли был выдающимся капитаном сборной Англии отчасти потому, что он не наблюдал за толпой, не гадал, что будет на ужин, не думал о предстоящем визите к теще и не рассматривал радикальную экономическую политику Маргарет Тэтчер. Он блестяще справлялся с поставленной задачей. Он ограничил свое внимание непосредственными проблемами, которые могли решить его исключительные таланты.
Предвзятость в контексте
Утверждение о выявлении предвзятости в поведении человека предполагает знание того, как выглядит непредвзятое поведение. Поведенческий экономист утверждает, что знает правильный ответ, который его неумелые подопечные не могут определить. Но только в маленьких мирах правильные и неправильные ответы четко определены. Большинство наблюдаемых "предубеждений" в поведенческой экономике не являются результатом ошибок в убеждениях или логике, хотя некоторые из них являются таковыми. Большинство из них являются результатом реальности, в которой решения должны приниматься в отсутствие точного и полного описания мира, в котором живут люди, в отличие от маленьких миров, в которых участвуют студенты, чей выбор изучается в экспериментальной экономике.
В этих последних упражнениях всегда есть что-то, что экспериментаторы считают "правильным" ответом. Его испытуемых просят определить, какая из трех фигур на странице самая большая, и большинство выбирает ту, что находится дальше всех. Конечно, фигуры нарисованы так, чтобы быть одинакового размера на странице. Но почти каждый может понять, почему почти каждый совершает эту ошибку. Мы занимаемся сложной интерпретацией двухмерной картинки как трехмерной реальности, несмотря на запрет, потому что именно так мы поступаем в большом мире жизни. То, что в одном контексте может показаться когнитивной иллюзией, в другом контексте является разумной реакцией. Существует множество подобных оптических иллюзий, почти все из которых являются результатом контекста и которые в большинстве случаев можно развеять, изменив контекст. И экономисты, называющие определенные типы поведения когнитивными иллюзиями, могут не понимать, что люди, за которыми они наблюдают, живут не в том маленьком мире, в котором живут они сами (или в том маленьком мире, который они моделируют).
Проблема того, как мы перемещаемся между маленьким миром двухмерных представлений и реальным трехмерным миром, имеет долгую историю. Греки и римляне, способные геометры, понимали перспективу; египтяне и средневековые художники до эпохи Возрождения - нет. Они рисовали объекты в соответствии с их физической природой, а не так, как их воспринимал глаз с определенной точки зрения. В начале пятнадцатого века Брунеллески и другие художники и архитекторы эпохи Возрождения заново открыли для себя перспективу. Набросок Брунеллески плана церкви Спирито Санто во Флоренции был ранней иллюстрацией. Церковь была построена по его проекту, и пять веков спустя, после открытия фотографии, мы можем оценить, насколько точно его рисунок отражает то, что мы видим, когда входим в двери. И мы оцениваем масштаб прозрения Брунеллески, понимая, как достигается эффект: колонны кажутся меньше, когда они отступают, более узкими, когда они поднимаются, и кажутся слегка наклоненными наружу. Но для того, чтобы достичь полного понимания сложной реальности визуального восприятия, требовалось общение между гениальными художниками.
К огда испытуемых просят прочитать вслух текст в следующем треугольнике:
Многие люди не замечают повторения слова "the". Но кто на самом деле совершает ошибку - экспериментатор или испытуемый? Понимание смысла слегка ошибочного текста - это то, что мы делаем постоянно. Рациональная реакция на увиденный текст полностью зависит от контекста. Если вы прослушиваетесь для участия в спектакле и видите повторение определенного артикля, скорее всего, вы заметили опечатку. Вам следует проигнорировать повтор слова, чтобы сохранить смысл текста и свои шансы на получение роли. Однако если оптик попросил вас прочитать текст, висящий на стене, чтобы проверить ваше зрение, разумно будет прочитать его буквально. Именно по этой причине оптики показывают бессмысленный текст. В поведенческом эксперименте, где контекст неясен, экспериментатор не в большей степени способен решить, что правильно, а что нет, чем участник. Человеческая неудача находится в поле зрения смотрящего, и контекст определяет соответствующую реакцию.
Канеман приводит ответы, которые он и Тверски получили на следующий вопрос о словах в английском языке: "Рассмотрим букву К. Какая буква чаще встречается в слове - первая или третья?" По мнению Канемана, большинство людей ошибочно отвечают, что К чаще встречается как первая буква. Легче думать о словах, начинающихся с определенной буквы, чем распознавать слова, в которых эта буква находится на третьем месте. Канеман и Тверски назвали это "эвристикой доступности". Для поиска ответа используется простейший поиск в памяти.
Но эксперимент не дал никакой серьезной мотивации для ответа на вопрос или даже для правильного определения заданного вопроса. Большинство людей могут разумно ответить: "Я не знаю, но если это важно, я попытаюсь это выяснить". А затем они могут спросить: "Прежде чем я это сделаю, не могли бы вы определить вопрос более точно?".
Совсем не очевидно, что подразумевается под английским словом. Kaama, иногда caama, является английским переводом термина банту, обозначающего разновидность гнуса, обитающего в Южной Африке, но редко встречающегося в большинстве частей англоязычного мира. Имел ли автор вопроса в виду количество слов в словаре или частоту слов в тексте, которая зависит от степени употребления? Утверждение об относительной частоте употребления буквы K в словах, оказывается, основано на статье, опубликованной в 1965 году, в которой перечислялась частота размещения буквы в двадцати тысячах английских слов. С помощью современных методов поиска на сайте BestWordList, основанном на компиляции словарей Scrabble, слов, начинающихся с буквы К, в два раза больше, чем слов, в которых эта буква находится на третьем месте - противоположность утверждению Канемана. Наш ответ на плохо сформулированный вопрос Канемана остается "мы не знаем". Подобно тому, как рациональные люди, руководствующиеся разумом и логикой, отказываются от участия в большинстве азартных игр, рациональные люди, руководствующиеся разумом и логикой, избегают давать ответы на подобные вопросы в реальной жизни, если они не знают ответа.
Но испытуемым в экспериментах Канемана-Тверски не разрешалось говорить, что они знают слишком мало о содержании или контексте поставленных головоломок, чтобы решить их; им предписывалось поставить галочку в опроснике. В экспериментах не было никакого контекста для поставленных задач, или ни один из них не имел смысла. И в большинстве упражнений по поведенческой экономике не объясняется, почему испытуемого просят ответить на вопрос. На самом деле экспериментаторы не хотели узнать, сколько английских слов содержат K в качестве третьей буквы. Трудно представить, зачем кому-либо, даже игрокам в "Эрудит", знать это. Лишенные значимого контекста, эти эксперименты мало что говорят нам о больших мирах.
В больших мирах поведение определяется целью деятельности. Считаю ли я баскетбольные пасы или ищу гориллу? Этот тест предназначен для измерения моего знания английского языка или моего зрения? Почему я хочу знать, сколько слов имеют букву К в качестве третьей буквы? Когда Канеман приписывает человеческой несостоятельности тот факт, что его испытуемые не следуют буквально нелепым инструкциям, данным в задаче об иллюзии трех фигур или в эксперименте "птица в руке", он не раскрывает соответствующую предысторию, а именно: "Я собираюсь поставить несколько глупых задач, призванных показать, что люди часто применяют свои сложные способности к инференции контекста (чтобы сделать трехмерную интерпретацию двухмерного изображения или понять намерение писателя из неправильно написанного текста) вместо того, чтобы делать именно то, что им говорят". Испытуемые обоснованно полагают, что их просят интерпретировать мультфильм или понять смысл текста, а не следовать буквально причудливым инструкциям.
Такое поведение не является иррациональным, если рациональность определяется разумными убеждениями и внутренней последовательностью. Канеман и Тверски описывают свои выводы как документальное подтверждение систематических ошибок в мышлении большинства людей, что, по их мнению, противоречит принятым в 1970-х годах в социальных науках представлениям о том, что люди в целом "рациональны". Однако они не дают определения "рациональности", применимого к большим мирам, в которых проблемы не имеют четко определенных решений. Хотя Канеман и Тверски признают, что нормальное поведение человека часто направляется интуицией, впечатлениями и эмоциями, они регулярно возвращаются к версии наблюдения о том, что "существуют характерные закономерности в ошибках, которые совершают люди. Систематические ошибки известны как предубеждения, и они предсказуемо повторяются в определенных обстоятельствах". Тот факт, что такие отклонения, как утверждается, широко распространены и предсказуемы, должен заставить нас скептически относиться к утверждению, что они являются ошибками.
Мы постоянно занимаемся абдуктивным рассуждением, используя наши знания и опыт, чтобы разобраться в сложных ситуациях. Шерлок Холмс утверждал, что он был мастером дедуктивных рассуждений - веб-сайт, сопровождающий сериал BBC "Шерлок", раньше назывался "наука дедукции". Но именно Аристотель, а не Артур Конан Дойл, написал книгу о дедукции - логических рассуждениях из заданных предпосылок. На самом деле Холмс был искусен в абдукции, фильтруя разрозненные доказательства в поисках наилучшего объяснения. Мы используем абдуктивное рассуждение, когда оцениваем перспективу и делаем бессмысленный текст понятным. Этот навык позволил людям совершать скачки воображения при решении неопределенных проблем, которые представляют собой научное открытие или художественное новаторство, воплощенное Брунеллески и его современниками.
Поведенческая экономика внесла вклад в наше понимание принятия решений в бизнесе, финансах и правительстве, введя наблюдение за тем, как люди ведут себя на самом деле. Но, подобно проповедникам универсального применения вероятностных рассуждений, практики и поклонники поведенческой экономики делают гораздо более широкие заявления, чем это может быть оправдано их выводами.
Канеман предлагает объяснение того, почему ранние и неадекватные теории выбора сохранялись так долго - это "слепота, вызванная теорией: как только вы приняли теорию и используете ее как инструмент в своем мышлении, вам необычайно трудно заметить ее недостатки". То же самое можно сказать и о поведенческой экономике. Мы считаем, что настало время выйти за рамки оценочных таксономий "предубеждений", полученных на основе эталонной нормативной модели человеческого поведения, выведенной из неправдоподобных априорных принципов. Вместо этого следует спросить, как люди ведут себя в больших мирах, о которых они могут иметь лишь несовершенные знания.
Подтолкнуть
Неспособность оценить тот факт, что люди пытаются понять, что значит быть рациональными в мире радикальной неопределенности, приводит к выводу, что их "ошибки" должны быть исправлены путем вмешательства в политику, и рекомендации такого рода были предложены Ричардом Талером. Талер был осторожен в использовании слова "рациональность". Его Нобелевская лекция содержала лишь несколько упоминаний "рационального" или "рациональности", в то время как в цитате комитета, присудившего премию, эти слова были использованы сорок семь раз. Но Талер четко определил, что он подразумевает под рациональным поведением - он призывает своих студентов в классе MBA "максимизировать ожидаемую полезность" и избегать предубеждений тех, кого нужно подтолкнуть к более подходящему выбору.
Некоторые из предложенных им мер по "подталкиванию" людей к более правильному поведению представляются разумными. Например, автоматическое зачисление людей в пенсионные планы и предоставление им возможности впоследствии отказаться от участия, а не наоборот, может быть полезным для упрощения того, что в противном случае может показаться слишком сложным решением, и помочь людям избежать больших ошибок. Мы с пониманием относимся к такой политике - до определенного момента. Большинство людей, которых спрашивают, следует ли им больше экономить, больше заниматься спортом, меньше есть и пить, дают ответ, который, по их мнению, от них ожидается, хотя неясно, чему мы учимся в результате таких опросов.
Мы склонны применять тест Гильбоа: согласятся ли люди с тем, что действия, к которым их "подталкивают", действительно отвечают их интересам, и что их поведение без подталкивания было нерациональным, когда им объяснят "правильное" решение? Вполне вероятно, что многие люди признают, что им следует есть больше овощей или носить защитные шлемы при езде на велосипеде, даже если им трудно действовать в соответствии с этими представлениями без подталкивания. Но философия подталкивания несет в себе риск того, что подталкиватели утверждают, что знают о неопределенном мире больше, чем знают или могут знать они сами и их подталкиватели. Как мы объясняли в Главе 1, крайне сложно оценить, сколько конкретному человеку следует инвестировать в пенсионный план. А предписывающий тон большей части того, что написано в поведенческой экономике, делает очевидной реальность опасности благонамеренного нелиберализма. Тверски интересовался тем, что он называл "природной глупостью", и был склонен находить ее у тех, кто с ним не соглашался.
Ограниченная рациональность
Основываясь на наблюдении, что сложность делает невозможным оценить последствия всех возможных исходов и выбрать наиболее выгодный, экономист Герберт Саймон ввел понятие "ограниченной рациональности". Мы не можем оценить последствия всех возможных вариантов. Гипотетическое упражнение, в котором Обама оказался под циферблатом Байеса и перед доской с изображением бесконечно ветвящихся массивов возможностей, может быть только фантазией. Проблема принятия правильных решений в больших мирах обычно заключается не в сложности вычисления логических последствий согласованных предпосылок и четко определенного набора альтернативных действий - задача, которую компьютер теперь может выполнить лучше человека. Это проблема контекста - невозможность знать все возможные варианты и все детали среды, в которой эти варианты будут действовать. Человеческий мозг - это не компьютер, реализующий аксиоматический процесс принятия решений, и в результате он лучше принимает решения во многих сложных ситуациях.
Саймон признал, что радикальная неопределенность мешает людям вести себя оптимистично, как определено априорными аксиомами. Поэтому он утверждал, что "необходимо более чем незначительное вмешательство в существующую теорию оптимизации". Он предвидел, но не предотвратил последующее развитие большой литературы, основанной на таких незначительных вмешательствах.
Саймон был междисциплинарным в своих интересах и исследованиях, а также был пионером искусственного интеллекта. Он предположил, что один из способов, которым люди могут подходить к принятию решений в радикально неопределенном мире, заключается в использовании эмпирического правила для поиска "достаточно хорошего" результата. Такое поведение было названо "удовлетворением", и на практике оно может привести к результатам, превосходящим действия, выбранные оптимизирующим поведением. Причина в том, что для того, чтобы претендовать на оптимизацию в мире радикальной неопределенности, необходимо сделать упрощающие предположения о реальном мире. Если эти предположения неверны - а в мире радикальной неопределенности они почти наверняка будут неверны - оптимизация дает неверные результаты, подобно тому, как человек, ищущий ключи под фонарем, потому что там лучше всего свет, совершает ошибку, подменяя хорошо определенную, но неактуальную проблему менее четко определенной проблемой, с которой он действительно сталкивается. Так поступил г-н Виниар, а также большая часть индустрии финансовых услуг и ее регуляторов.
Экономисты адаптировали фразу "ограниченная рациональность" для обозначения чего-то совсем иного, чем то, что Саймон описывал как следствие радикальной неопределенности. Вместо этого они используют его для описания стоимости обработки информации, которая затем действует как дополнительное ограничение в оптимизационной проблеме. Ограниченная рациональность, в этом смысле, добавляет к оптимизационному расчету затраты и выгоды от получения информации, которую мы решили не иметь. Конечно, Саймон имел в виду не это. Да и вообще, это не имеет особого смысла как описание любого процесса, имеющего практическое применение. Последствия ограниченной рациональности не выражаются в добавлении вычислительных затрат к проблеме оптимизации. Ограниченная рациональность, предложенная Саймоном, отражает проблемы принятия решений, основанных на разуме и логике, в условиях радикальной неопределенности, когда вычислимое решение недоступно. Саймон, как сообщается, шутил, что он должен подать судебный иск против своих преемников, которые неправильно используют его терминологию и пренебрегают его идеями.
Гэри Кляйн - американский психолог, который начал свою карьеру в ВВС США и впоследствии изучал поведение опытных, практичных людей, принимающих решения. Его подопытными были военнослужащие, пожарные, парамедики: люди, которым приходится принимать решения, обычно под давлением, часто с небольшим запасом времени. В такой деятельности есть люди, чьи способности признаются как исключительные - командиры, которых вы хотите вести в бой, начальники пожарной охраны, чьи суждения почитаются их командами, парамедики, на помощь которых вы надеетесь, когда с вами произойдет несчастный случай. Главный вывод Клейна лучше всего резюмировать его собственными словами:
В случае опытных лиц, принимающих решения, основное внимание уделяется тому, как они оценивают ситуацию и считают ее привычной, а не сравнению вариантов. Варианты действий можно быстро оценить, упомянув о том, как они будут выполняться, а не путем формального анализа и сравнения. Лица, принимающие решения, обычно ищут первый работоспособный вариант, который они могут найти, а не лучший вариант. Поскольку первый вариант, который они рассматривают, обычно является работоспособным, им не нужно генерировать большой набор вариантов, чтобы быть уверенными, что они получат хороший вариант. Они генерируют и оценивают варианты по одному за раз и не утруждают себя сравнением преимуществ и недостатков альтернатив. 25
Клейн описывает реальность принятия решений в сложных ситуациях, которые требуют поиска работоспособного решения, а не процесса оптимизации. У нас обоих есть опыт академического комитета, который не может прийти к решению, потому что всегда есть вероятность, что может быть лучший вариант, чем тот, который лежит на столе: "лучшее - враг хорошего". Реальные люди не оптимизируют, не вычисляют субъективные вероятности и не максимизируют ожидаемую полезность; не потому, что они ленивы или у них нет времени, а потому, что они знают, что не могут обладать информацией, необходимой для таких расчетов. Тем не менее, хорошие люди, принимающие решения, такие как пожарные и парамедики Клейна, Уоррен Баффет или Стив Джобс, по праву заслуживают уважения за свои суждения. Одновременно с работой Канемана и Тверски, но при меньшем общественном внимании или признании, немецкий психолог Герд Гигеренцер возглавил группу исследователей в Институте Макса Планка в Берлине. Гигеренцер и его коллеги сосредоточились не столько на "предубеждениях", сколько на том, как реальные люди принимают фактические решения на основе неизбежно ограниченной информации. Группа подчеркивает ценность простых эвристик - или правил большого пальца - в разрешении ситуаций, характеризующихся радикальной неопределенностью. Гигеренцер и его коллеги продвигают набор инструментов, включающий "быстрые и экономные" эвристики.
Глава 9. Эволюция и принятие решений
Вычисления - это не мышление... Вы гораздо больше похожи на своего домашнего кота, чем на Сири.
БРЮС -СТЕРЛИНГ
Поведенческая экономика выявила множество способов, с помощью которых люди отходят от аксиоматической рациональности. Такое поведение называют "предубеждениями", признаками человеческой несостоятельности. Утверждается, что высокоразвитые когнитивные способности нашего вида имеют общие и повсеместные недостатки. Это как если бы Бог дал нам две ноги, чтобы мы могли бегать или ходить, но сделал одну ногу короче другой, так что мы не можем бегать или ходить очень хорошо. Разумный создатель не стал бы этого делать, и эволюция этого не сделала.
Существует история, альтернативная той, которую рассказывает поведенческая экономика. Она заключается в том, что многие характеристики человеческого мышления, которые поведенческая экономика называет предубеждениями, на самом деле являются адаптивными - полезными для успеха - в больших реальных мирах, в которых живут люди, даже если они иногда вводят в заблуждение в маленьких мирах, созданных для целей экономического моделирования и экспериментальной психологии. Это объяснение, которое заменяет эволюционную рациональность на аксиоматическую рациональность.
Справиться с неопределенностью во всех ее проявлениях было важной частью эволюции человека. За тысячи лет радикальной неопределенности люди научились многим стратегиям преодоления и развили способность принимать решения в условиях несовершенного знания о мире, с которым они сталкиваются впервые и, возможно, никогда больше не столкнутся. Чтобы справиться с миром как он есть, мы разработали мыслительные процессы для решения проблем, которые плохо определены, неоднозначны и радикально неопределенны. Человеческий разум подходит к решению проблем способами, которые заметно отличаются от компьютерных. В частности, в то время как компьютеры эффективно решают четко сформулированные головоломки, люди умеют находить способы справиться с открытыми загадками. И человеческая способность к рассказыванию историй и удовольствие от этого - центральный элемент этой способности.
Мы справляемся с будущим, организуя свою жизнь на основе референтных нарративов. Эти эталонные нарративы не обязательно проработаны в конкретных деталях, но они обеспечивают основу для планирования и рамки для повседневного выбора. Подобно пожарным Клейна или студентам Вудфорда, мы меняем референтные нарративы в ответ на неподтверждающие события, но нечасто и прерывисто. И мы не строим эти нарративы в изоляции. Мы обсуждаем их с семьей и друзьями. Мы прислушиваемся к советам профессионалов. Мы пользуемся коллективным разумом, накопленным и легко доступным в различных сообществах, в которых мы живем. Мы не дефектные версии компьютеров, обученных оптимизировать решение задач малого мира, а человеческие существа с индивидуальным и коллективным интеллектом, развивавшимся тысячелетиями. .
Эволюция умнее экономистов
Открытие теории эволюции стало основополагающим моментом в развитии человеческой мысли. Но на протяжении всего столетия, последовавшего за публикацией работы Чарльза Дарвина, применение эволюционной теории в биологии, а тем более за ее пределами, было недостаточно строгим. Только в 1960-х годах механизмы биологической эволюции были описаны более адекватно, после того как Фрэнсис Крик и Джеймс Уотсон разгадали структуру ДНК, а такие ученые, как У. Д. Гамильтон и Джон Мейнард Смит, разработали более сложные математические модели эволюционных процессов. Эволюция была результатом мутации, отбора и репликации генов. Генетические мутации, повышающие способность гена к самовоспроизведению, распространяются в популяции. Вдохновляющая метафора Ричарда Докинза об "эгоистичном гене" ввела такое мышление в массовое сознание.
В метафоре Докинза эгоистичен ген, а не индивидуум, и это различие очень важно. Очевидно, что у гена нет сознания или направления, но эволюция приводит к результатам, которые наблюдались бы, если бы ген мог продвигать себя эгоистично. Эгоистичный ген" - это наглядная гипотеза "как если бы". Поскольку мы делимся генами с нашими потомками и родственниками, родственный отбор побуждает нас помогать им, даже ценой собственных усилий. Гамильтон изложил математику эгоистичного гена и в шутливом изложении последствий своей теории предположил, что: "мы ожидаем обнаружить, что никто не готов пожертвовать своей жизнью ради одного человека, но каждый пожертвует ею, если сможет таким образом спасти более двух братьев, или четырех сводных братьев, или восемь двоюродных братьев". Но по мере отдаления родства генетические родственники будут все меньше и меньше поддерживать друг друга.
Альтруизм, родство и взаимность
Вы оказались в незнакомом месте, не зная, как найти пункт назначения. Вы просите незнакомца о помощи. Вы ожидаете, что незнакомец подскажет вам дорогу, и это ожидание обычно оправдывается. Если же нет, то обычно причина в том, что человек тоже не знает дороги. Почему незнакомые люди так готовы подсказать нам дорогу? В конце концов, маловероятно, что мы когда-нибудь увидим этого человека снова, тем более, что он или она сможет извлечь пользу из нашей ответной помощи. Как нам помогает тратить время на то, чтобы давать советы незнакомым и неизвестным людям? Людей, не являющихся экономистами, не смущает объяснение такого поведения. Ответ, основанный на здравом смысле, заключается в том, что большинство людей добры и отзывчивы, и приятнее жить в обществе, где люди помогают друг другу таким образом. До тех пор, пока затраты на оказание помощи незнакомым людям не очень велики, вы, как правило, будете ее оказывать.
Однако согласование этого повседневного наблюдения с основополагающей эволюционной теорией оказалось проблематичным. Как эта доброта помогает нашим генам воспроизводить себя? Если бы биологический механизм генетического отбора был единственным механизмом эволюции, то эволюционная теория, казалось бы, обеспечила бы определенную поддержку экономическим моделям, основанным на популяциях рациональных индивидуумов, независимо максимизирующих свою собственную полезность. Кажется, что от эгоистичного гена до эгоистичного индивида совсем немного. И с самого начала эволюционного мышления было очевидно, что эта идея имеет множество применений, помимо развития биологического разнообразия, которое было темой книги Чарльза Дарвина "О происхождении видов" . Социальный философ Герберт Спенсер, ныне почти забытый, был ведущей интеллектуальной фигурой конца девятнадцатого века. Спенсер ввел термин "выживание сильнейших", а в своей десятитомной "Системе синтетической философии" попытался объяснить, как эволюционные концепции могут быть применены практически к каждой дисциплине. Современное применение эволюционной теории в экономике появилось в начале 1950-х годов благодаря Армену Алчиану, представителю Чикагской школы, который утверждал, что фирмы будут вести себя так, они максимизируют прибыль, даже если у них нет намерения делать это. Выживание сильнейших, по его мнению, присуще конкурентному рынку. Замечание о том, что существуют механизмы эволюции, отличные от биологических, и что конкурентные рынки могут быть одним из таких эволюционных механизмов, было правильным и важным.
Оскорбительная история евгеники, псевдонауки, которую взяли на вооружение нацисты, белые супремацисты и другие расисты, означает, что и сегодня те, кто предлагает эволюционное объяснение социального поведения, встречают яростное сопротивление. Биолог Э. О. Уилсон, чья научная карьера была посвящена изучению социальных насекомых, таких как муравьи, и который выступал за единство биологических и социальных наук, столкнулся с таким крайним сопротивлением своим теориям, что демонстранты размахивали свастикой и обливали его голову водой, когда он читал лекцию.
Примирение биологической эволюции с человеческой добротой заключается в том, что ген может распространяться в популяции "как если бы" ген был эгоистичным, но это не означает, что отдельные люди эгоистичны. Группа людей, которые хорошо относятся друг к другу, может процветать по сравнению с группой, которая плохо относится друг к другу. И таким образом гены доброты будут распространяться. Но британский математический генетик Джон Мейнард Смит показал, что иногда в группах может процветать не доброта, а гадость. События финансового кризиса 2007-2008 годов иллюстрируют эту проблему, а также намекают на ее решение. Инвестиционные банковские группы Bear Stearns и Lehman Brothers делали деньги для неприятных (своих сотрудников) за счет приятных (своих клиентов), пока неприязнь внутри самих групп и их более ранняя неприязнь к другим группам не привела к их краху, когда они получили мало сочувствия или поддержки в трудную минуту. И многие другие компании не пережили бы финансовый кризис 2007-2008 годов, если бы принцип выживания сильнейших не был так слабо применим к финансовым институтам. Неприятные личности процветали, и их действия привели к почти полному краху как неприятных, так и приятных компаний. Поскольку люди действуют в группах, успех внутри групп и относительно других групп будет влиять на результат биологического процесса репликации генов. Если мы признаем, что люди действуют в рамках организаций, которые варьируются от Lehman Brothers до закрытых монастырей, посвященных поклонению Богу, тогда мы должны признать, что мера "пригодности", которой отдает предпочтение человеческая эволюция, определяется гораздо шире, чем успех в деторождении.
Мы - человеческие животные, отличающиеся от других видов способностью к общению и языку, и это социальное взаимодействие меняет мрачную картину индивидуалистического поведения, подразумеваемую простыми интерпретациями эгоистичного гена. Дети англоговорящих родителей, как правило, говорят по-английски, а дети франкоговорящих родителей - по-французски, по причинам, не имеющим ничего общего с их ДНК. Экономические преимущества сотрудничества в группах настолько велики, что черты, способствующие успеху в групповом взаимодействии - такие как "языковой инстинкт", или склонность быть полезным другим членам группы - поддерживаются как генетикой, так и культурой.
Палеонтологи предполагают, что социальные родственные группы - взаимно поддерживающие друг друга группы людей, которые не обязательно должны быть тесно связаны друг с другом - появились в эпоху верхнего палеолита, между 30 000 и 50 000 лет назад. Преимущество в том, что люди лучше справлялись с радикальной неопределенностью, было одним из основных факторов возникновения безоценочного альтруизма в этих обществах; их культуры развивались так, чтобы ожидать хорошего поведения и наказывать за плохое поведение. Чем больше и разнообразнее круг людей, которые могут оказать помощь, тем менее уязвимы отдельные люди и домохозяйства к непредвиденным событиям.
Наши знания о поведении палеолитических групп явно ограничены, и лучшее понимание мы получаем из антропологических исследований тех отдаленных племен, чей образ жизни мало чем отличается - по крайней мере, до недавнего времени - от образа жизни наших далеких предков. Мааязычные народы Восточной Африки справляются с неопределенностью с помощью системы разделения рисков, которая отличается от современных представлений о долге или страховании, хотя и связана с ними. Их система osotua основана на взаимном обязательстве помогать друг другу в будущих неопределенных обстоятельствах, и эти обязательства передаются по наследству:
Отношения Осотуа завязываются по-разному, но обычно они начинаются с просьбы о подарке или услуге. Такие просьбы проистекают из искренней нужды и ограничиваются суммой, которая действительно необходима... Как только осотуа устанавливается, она становится всепроникающей в том смысле, что от нее невозможно уйти. Осотуа также вечна. Однажды установленная, она не может быть разрушена, даже если люди, установившие отношения, умирают. В этом случае она переходит к их детям.
Неявный контракт отношений osotua обеспечивается нормами сообщества, которые призваны повысить безопасность референтных нарративов домохозяйств. Радикальная неопределенность - несовершенное знание будущих состояний мира и последствий действий - означает, что контракты, предусматривающие все возможные исходы, не могут быть составлены, даже если бы существовали механизмы их формулирования и исполнения. Экономические выгоды, получаемые от расширения родственных связей за пределы тесных генетических отношений, велики. Снижение затрат на управление рисками не только дает прямую выгоду, но и способствует инновациям, поскольку любая инновация связана с риском. Способность вести производственную деятельность в больших группах дает больше возможностей для разделения труда через специализацию и обмен. Остальное, как говорится, уже история - современный мир вывел инновации, объединение рисков и разделение труда на уровень, немыслимый ни для одного предыдущего поколения. С 1800 года национальный доход на душу населения в США вырос более чем в двадцать пять раз, в Великобритании - почти в двадцать раз, а продолжительность жизни удвоилась. Экономическая и социальная жизнь была преобразована. Все это было бы невозможно без коллективного разума, который обеспечивает постоянный прогресс в технологиях и бизнес-процессах и расширяет разделение труда; все это было бы невозможно без лучшего государственного и частного здравоохранения и социального распределения рисков, которое помогает людям выживать в личных и природных катастрофах. Современные люди полагаются на социальные родственные сети для защиты от многих рисков: серьезных болезней, увольнений, разрыва отношений. И со времен создания Бисмарком социального страхования в Германии конца XIX века государство помогает управлять этими рисками, значительно увеличивая размер группы, которая оказывает взаимную помощь.
Таким образом, ассоциация эволюции с ультраправыми причинами, включая расизм и крайний рыночный фундаментализм, и с агрессивным эгоизмом, который топчет других под ногами, чтобы освободить место для себя и своего потомства, вряд ли может быть более ошибочной. Человеческая эволюция наделила нас исключительной среди видов способностью общаться друг с другом, учиться друг у друга, убеждать друг друга. Люди обычно функционируют в группах. Другие приматы, образующие группы, проявляют некоторые черты альтруизма, сотрудничества и эмпатии, которые аксиоматические описания "рационального" поведения пытаются объяснить. До определенного момента; приматолог Ричард Врангхэм описал, что даже среди шимпанзе самцы агрессивны и эгоистичны, и только сексуально неразборчивые бонобо проявляют ту степень доброты, которая побуждает людей показывать незнакомцам дорогу. Но способность людей общаться друг с другом посредством языка является одним из факторов - возможно, самым важным - отличающим нас от других видов. Этот акцент на коммуникации усиливает представление о том, что то, что может быть "предвзятостью" в индивидуальном поведении при решении четко определенных задач, на самом деле является преимуществом при групповом решении плохо определенных проблем, вызванных неопределенностью.
Сократовский диалог - это давно известный метод поиска истины путем выявления конкурирующих аргументов протагонистов. Целью всех этих процессов является нахождение посредством группового взаимодействия нарратива, под которым все могут подписаться, и определение курса будущих действий в свете этого нарратива. Наблюдения участников вносят свой вклад в это повествование, а смысл этих наблюдений определяется контекстом, в котором они были сделаны. Эволюция дала нам способность рассуждать, которая, как объясняется в вышедшей в 2017 году книге двух французских исследователей в области когнитивной науки Хьюго Мерсье и Дэна Спербера, "не приспособлена для одиночного использования". Эволюция породила коллективный разум, социальные нормы и институты, которые являются "секретом нашего успеха"; эти социальные способности являются причиной того, что люди доминируют на планете.
Многоуровневый эволюционный отбор
Если социальные группы развили разделение труда и взаимное распределение рисков, а последующие тысячелетия довели эти социально-экономические инновации до непревзойденного уровня, результатом стал столь же непревзойденный уровень процветания. А появление широко определенных родственных групп имело множество других экономических и социальных преимуществ. Большая часть современной жизни была бы затруднена без определенного доверия, а экономическая жизнь была бы практически невозможна. Всемирное исследование ценностей показывает сильную положительную корреляцию по странам между доходом на душу населения и ответами на вопрос "Считаете ли вы, что большинству людей можно доверять?" Признание важности социальной и культурной эволюции появилось задолго до Дарвина; его, безусловно, можно найти в работах мыслителей шотландского Просвещения. Нации натыкаются на учреждения, которые действительно являются результатом человеческих действий, но не исполнением какого-либо человеческого замысла", - писал Адам Фергюсон в 1782 году. А современное наблюдение Адама Смита о том, что "невидимая рука ведет человека к цели, которая не входила в его намерения", сегодня широко цитируется людьми, которые ничего больше не знают об экономике. Эти деятели шотландского Просвещения XVIII века осознали, что социальные и культурные практики сами по себе являются продуктом эволюционных процессов.
Общества установили моральные кодексы или религиозные практики, чтобы препятствовать нежелательному поведению. Они создали институты, от социального остракизма до тюрем, для усиления санкций против нежелающих сотрудничать. И бизнес, и многие другие институты и организации преуспевают тогда и только тогда, когда их характеристики способствуют их выживанию. Конкурентные рынки - и даже религии и моральные кодексы действуют на конкурентных рынках - демонстрируют процессы модификации, репликации и отбора, которые являются характеристиками эволюции, хотя такая эволюция не имеет ничего общего с нашими генами.
Таким образом, существует множество различных видов эволюции, а результаты являются продуктом естественного отбора на многих уровнях. Мы наблюдаем коэволюцию, при которой различные механизмы эволюции действуют параллельно. Например, несмотря на то, что большинство взрослых людей считают молоко трудноперевариваемым, толерантность к лактозе широко распространена среди населения, живущего в районах, где распространено молочное животноводство, потому что генетическая предрасположенность и культурная практика эволюционировали вместе. Хотя рассуждения типа "поскольку я новозеландец, а в Новой Зеландии больше коров, чем людей, то мне выгодно быть толерантным к лактозе" верны, такие рассуждения не являются объяснением того, почему большинство новозеландцев толерантны к лактозе. Большинство новозеландцев - потомки европейских иммигрантов. В результате они унаследовали генетическую мутацию, способствующую переносимости лактозы, и принесли с собой практику молочного животноводства. А когда они поняли, насколько благоприятна страна для молочного животноводства, они привезли предков пяти миллионов новозеландских коров. Среди новозеландцев полинезийского или азиатского происхождения непереносимость лактозы все еще встречается относительно часто. Но со временем межродственные браки и естественный отбор сотрут эти генетические различия.
Эволюция создает предрасположенности - потребление диеты, богатой молочными продуктами, или доверие к другим людям - которые влияют на поведение. Такие предрасположенности могут быть преодолены с большим или меньшим трудом путем сознательных усилий, о чем рассказывает притча о скорпионе и лягушке:
Скорпион просит лягушку перенести его через реку. Лягушка колеблется, боясь быть ужаленной, но скорпион утверждает, что если она это сделает, то они оба утонут. Подумав так, лягушка соглашается, но на середине пути через реку скорпион действительно жалит лягушку, обрекая их обоих на гибель. Когда лягушка спрашивает скорпиона, почему, скорпион отвечает, что это в его природе.
Люди европейского генетического происхождения пьют молоко, и люди повсюду стараются помогать незнакомым людям, потому что "это заложено в их природе", а не потому, что они рассчитывают, что это в их интересах. И они создают и преподают моральные кодексы и наказывают людей, нарушающих эти кодексы, по аналогичным причинам. В большинстве случаев поведение является продуктом как природы, так и воспитания. Биологический детерминизм, согласно которому "все дело в наших генах", и бихевиористское утверждение, что разум - это "чистая доска", на которой можно написать все, что угодно, несостоятельны.
Разница между тем, чтобы делать что-то в своих корыстных интересах, и тем, чтобы делать то же самое, потому что это "в его природе", материальна. Если вы можете подделать искренность, то вы это сделали", но акт поддельной искренности трудно поддерживать. Более того, архиепископ Уили заметил, что "честность может быть лучшей политикой, но тот, кто принимает такую политику, не является честным человеком". Психолог и антрополог Леда Космидес и Джон Туби утверждают, что у нас есть специальные механизмы обнаружения обманщиков, предназначенные для выявления фальшивой искренности и притворной честности. Их предположение остается спорным. Но большинство из нас научились избегать продавца страховки жизни и не доверять продавцу подержанных автомобилей. Когда мы отказываемся от предложения о продаже или верим, что наши коллеги не украдут наш кошелек, мы действуем, как правило, но не всегда, в своих интересах. В радикально неопределенном мире мы не знаем, являются ли такие действия оптимальными или нет - продавец страховки жизни может в этот раз сделать неотразимое предложение, или кто-то из наших коллег может отчаянно пытаться поддержать свою привычку к азартным играм или наркотикам. Неопределенность радикально присутствует везде. И иррациональные "предубеждения", которые поведенческие экономисты считают "заложенными в нашей природе", не являются иррациональными в обычном значении этого термина. Это черты, которые выгодны за пределами "маленьких миров" казино и психологической лаборатории. И они имеют эволюционное происхождение.
Неприятие потерь
Эволюция приспособила человека к тому, чтобы справляться со многими видами радикальной неопределенности, встречающейся в больших мирах. Различное отношение к неопределенности влияет на шансы выживания отдельных людей и групп. В некоторых средах, таких как бизнес и спорт, играть безопасно - значит отказываться от возможности успеха. Переоценивать свои шансы на успех может быть даже выгодно. В других условиях, возможно, имеет смысл избегать риска. Одна из причин выживания человеческого вида заключается в том, что наших предков не съели хищники, а авторы смогли написать эту книгу, потому что их не сбили, когда они переходили дорогу. В современном мире нам не часто приходится спасаться от львов и тигров, но реакции, побуждающие нас избегать темных улиц, уходить с дороги встречных автомобилей и спасаться от террористов, в целом, обоснованы. Эти реакции имеют химическую и нейрофизиологическую основу. С самого раннего возраста они подкрепляются предупреждениями, которые передают нам наши родители. Предрасположенность избегать больших потерь - полезное свойство.
Эти действия не являются результатом какого-либо расчета. Не только потому, что у нас нет ни времени, ни информации для расчета субъективной ожидаемой полезности, хотя это и важно. Но и потому, что, как подчеркивает Талеб, эволюция благоприятствует тем, кто выживает, а это не обязательно те, кто максимизирует ожидаемую ценность. Возможно, рациональный экономический человек вымирает, потому что никто не хочет с ним спариваться.
Если бы мы жили в простых, стационарных, маленьких мирах, то оптимизация и умение решать головоломки маленьких миров были бы ключом к эволюционному успеху. Но мы, в основном, не живем в маленьких мирах. В реальном мире экстремальные события - хвосты распределений - имеют значение для выживания. Когда неурожай или эпидемия чумы, выживают только самые приспособленные; но в обычной скучной жизни только самые невезучие или беспечные становятся жертвами авиакатастроф или партнеров-убийц. Средний человек погиб во время Черной смерти , но не погиб в дорожной аварии.
Эволюция наделила нас чертами и институтами, которые позволяют нам выживать, спариваться и передавать те же черты и институты нашим детям. И иногда эта потребность в выживании направляет нас на поиск наилучшего возможного результата, иногда - среднего, иногда - худшего. Но чаще всего мы просто пробиваемся через трудности. Пожарные, достижениями которых восхищался Клейн, не находили оптимальных решений, но снова и снова находили решения, которые были достаточно хороши. Рузвельт и Черчилль добились успеха таким же образом.
Для отдельного человека выбор стратегии, наиболее вероятной для успеха, максимизирует ожидаемый выигрыш. Но группа, состоящая из таких оптимизирующих особей, в конечном итоге будет уничтожена редкими бедствиями. В результате, группы, чьи гены доминируют, становятся теми, кто применяет "смешанные стратегии", варьируя среду обитания. Американский политолог Джеймс Скотт описывает реальность этого на примере истории "научного" лесоводства. Посадка "лучших" деревьев привела к монокультурам, которые со временем были уничтожены неизвестными ранее паразитами. Ирландская картофельная болезнь смогла опустошить сельское хозяйство страны, что привело к смерти не менее миллиона человек от болезней и голода, а также к значительной и длительной эмиграции с острова, потому что картофель был определен как оптимальная культура для условий страны, и поэтому производство продуктов питания в стране было плохо диверсифицировано. Люди стали лучше, потому что мы все разные, и потому что не существует единственного способа быть рациональным; мы благодарим за наше нынешнее состояние Святого Франциска, Оскара Уайльда, Стива Джобса и миллионы людей, которые стали квалифицированными специалистами в своих специализированных, но рутинных делах.
Уверенность и оптимизм
Как для приверженцев аксиоматической рациональности, так и для поведенческих экономистов оптимизм является "предубеждением", ведущим к ошибкам в расчетах субъективной ожидаемой полезности. Мы не уверены в этом. Адмирал Джеймс Стокдейл, американский морской офицер, который был заключен в тюрьму и подвергался пыткам во Вьетнаме, убедительно доказал эволюционную ценность уверенности и оптимизма. Военнопленные, не знавшие, что происходит во внешнем мире, испытывали душевные страдания от радикальной неопределенности наряду с физическими страданиями от жестокого обращения. Он заметил: "Вы никогда не должны путать веру в то, что в конце концов вы одержите победу - которую вы никогда не можете позволить себе потерять - с дисциплиной противостоять самым жестоким фактам вашей текущей реальности, какими бы они ни были". Стокдейл противопоставил свое собственное выживание судьбе тех, кто представлял себе конкретные результаты, которые приведут к их освобождению. Их моральный дух был подорван тем, что их прогнозы не сбылись.
Когда в 1940 году Великобритания оказалась перед угрозой немецкого вторжения, Уинстон Черчилль в одной из своих самых известных речей сказал парламенту: "Мы будем идти до конца. Мы будем сражаться во Франции, мы будем сражаться на морях и океанах, мы будем сражаться с растущей уверенностью и растущей силой в воздухе, мы будем защищать наш остров, какой бы ни была цена. Мы будем сражаться на пляжах, мы будем сражаться на плацдармах, мы будем сражаться на полях и улицах, мы будем сражаться на холмах; мы никогда не сдадимся". Как и Стокдейл, Черчилль был полон оптимизма, но не мог и не хотел определить основу этого оптимизма. Звонкая непокорность Черчилля перед лицом испытаний была результатом его непреклонной уверенности и веры в себя, а не результатом обдуманных рассуждений. Иногда, но только иногда, эта самоуверенность была оправдана. Она привела к его захватывающим подвигам в англо-бурской войне, его энтузиазму по отношению к такой губительной политике, как экспедиция в Галлиполи, и его постоянному и безуспешному обращению к игорным столам. Чрезмерная самоуверенность может быть опасной чертой политического лидера. Но в подходящих обстоятельствах - в 1940 году - оптимизм и уверенность Черчилля были жизненно важны.
Стив Джобс также не соответствовал общепринятому представлению о "рациональном" поведении в условиях неопределенности. Подобно тому, как Черчилль стал премьером, не имея конкретного плана, как будет развиваться война, Джобс вернулся в Apple, довольствуясь ожиданием "следующей большой вещи". Биограф Джобса, Уолтер Айзексон, пишет о "поле искажения реальности" своего героя. Эта фраза была взята из фильма "Звездный путь" одним из первых разработчиков программного обеспечения Apple, который определил подход своего генерального директора как "сбивающий с толку меланж харизматичного риторического стиля, несгибаемой воли и стремления согнуть любой факт, чтобы соответствовать поставленной цели" - характеристики, схожие с теми, которые были выявлены биографами Черчилля. Поразительно, однако, что в первой половине книги Айзексона, посвященной периоду до возвращения Джобса в Apple в 1997 году, содержится шестнадцать ссылок на "поле искажения реальности", а в оставшейся части - только три. Как прокомментировала газета "Нью-Йорк Таймс" после смерти Джобса: "До того, как его вытеснили в 1985 году, мистер Джобс был известен тем, что вмешивался в детали и ругал коллег... ... во второй период работы в Apple он больше полагался на других, больше слушал и доверял членам своих команд дизайнеров и бизнесменов".
Очевидно, что оптимизм продуктивен, но еще более продуктивен, если его сдерживать и направлять в нужное русло. Чрезмерная самоуверенность, как правило, является катастрофой за игровым столом, но жизненно важна для лидера, вдохновляющего товарищей по команде, коллег по бизнесу или войска. Великая речь Черчилля 1940 года была выражением его собственной личности и его собственных взглядов. Но она была произнесена перед парламентом и гораздо более широкой аудиторией. В тот решающий момент достижением Черчилля было убедить своих коллег по кабинету в необходимости и возможности продолжения войны, вдохновить британскую общественность и заверить другие страны - как враждебную Германию, так и сочувствующую Америку - в решимости Великобритании.
Ричард Брэнсон, жизнерадостный основатель Virgin Group, был более успешным игроком, чем Черчилль. По словам неавторитетного биографа Тома Боуэра, первоначальное предприятие Брэнсона было на грани финансового провала - его не интересовали тонкости денежных потоков и бюджетов. Брэнсон и его коллега взяли 500 фунтов стерлингов из кассы своего музыкального магазина в Ноттинг-Хилле и провели ночь в клубе Playboy, казино на Парк-Лейн. Утверждение Брэнсона о том, что у него есть успешная система, казалось необоснованным, пока в 5 часов утра он не поставил оставшиеся фишки на последнюю ставку и выиграл значительно больше, чем пара потеряла. Так родилась бизнес-империя.
Конечно, поведение Брэнсона было безрассудным, бравада Черчилля часто была глупой, а карьера Джобса включала в себя постоянные неудачи. Но ни им, ни миру не было бы лучше, если бы они научились контролировать свои "предубеждения" и подавлять свою "иррациональность". И это наблюдение показывает ограниченность концепции аксиоматической рациональности. Черчилль, Джобс и Брэнсон жили в большом мире, а не в маленьком, в котором рациональное поведение может быть сведено к математическому расчету в контексте четко определенной проблемы и полного знания окружающей среды. Их достижения напоминают нам о прозрении, описанном Фрэнком Найтом сто лет назад, но слишком давно забытом; о связи между радикальной неопределенностью и предпринимательством. Как заметил Кейнс, дух предпринимательства умирает, когда математическое ожидание берет верх. Рискованное поведение, которое может показаться несовместимым с аксиоматической рациональностью, является центральной динамикой капиталистического общества - ключевой частью "секрета нашего успеха".
Двойные системы
Дэниел Канеман, выдающаяся фигура в поведенческой экономике, писал о "системе один" и "системе два", различая интуитивную реакцию и рациональный процесс сознательного мышления. Предвзятость" поведенческой экономики возникает, когда "система один" приводит нас к результатам, которые более взвешенная система "система два" отвергла бы. В народной психологии широко распространено мнение о различном влиянии левого и правого полушарий мозга. Неясно, является ли различие между первой и второй системами метафорой или описанием реальных психических процессов. Современная нейропсихология в значительной степени отвергает эти теории дуализма. Различные участки мозга играют разную роль в нашем мышлении и принятии решений; одни активизируются, когда мы идем на риск, другие - когда занимаемся любовью. Но существует единый процесс познания, в котором участвует не только мозг, но и тело; в 1980-х годах нейрофизиолог Бенджамин Либет установил, что мы начинаем действовать - например, убираем руку с горячей плиты - еще до того, как начинается мозговая активность, которая направляет это действие. Мозг - это целое, а не комитет.
В одном известном исследовании нейробиолог Антонио Дамасио рассказал о пациенте, у которого из-за повреждения мозга он был фактически неспособен испытывать эмоции. Результат не в том, что испытуемый был гиперрациональным жителем большого мира - он мог функционировать только в маленьком мире. В повседневной жизни он был неспособен принимать какие-либо решения. Он подолгу мучился над ничего не значащими вопросами, например, над временем следующей встречи. Его проблема заключалась в том, что существует более или менее неограниченное количество информации, потенциально относящейся к любому решению. Попытка обработать всю эту информацию приводила к параличу в принятии решений.
Все мы потенциально сталкиваемся с подобной проблемой. Если мы попытаемся проанализировать все возможные исходы всех возможных действий, которые мы можем предпринять, мы ничего не решим, потому что радикальная неопределенность означает, что ветви на дереве байесовских рассуждений умножаются до бесконечности. Какая погода будет в следующую среду? Придет ли автобус вовремя? И это еще до того, как мы начнем спрашивать, каким будет уровень цен на акции в 2025 году или состояние отношений между Китаем и США в 2030 году. Такова природа радикальной неопределенности, и почему люди выработали способы делать выбор, которые отличаются от систематической оценки всех возможных исходов.
Мы используем такие слова, как рефлекс, инстинкт, эмоции и интуиция, чтобы описать наши действия, когда мы отдергиваем руку от горячей плиты, бросаемся на помощь расстроенному ребенку или раненому незнакомцу, не доверяем потенциальному новому сотруднику или деловому партнеру. Это не "иррациональные" реакции, которые нам следовало бы подавить, а поведение, которое выработала для нас эволюция, а социальное обучение укрепило в нас способность справляться с радикально неопределенным миром. Люди получают пользу от эволюционной или экологической рациональности, которая отличается от аксиоматической рациональности и больше подходит для больших миров, в которых мы все функционируем.
Тем не менее, в различии между первой и второй системами есть определенная обоснованность. Мы вернемся к этому в Главе 15, в которой мы будем различать эволюционную рациональность - которая лежит в основе наших суждений и действий - и коммуникативную рациональность, язык, который мы используем для объяснения наших суждений и действий другим людям. Людей отличает от других млекопитающих способность к коммуникации и координации. Эта склонность к сотрудничеству присуща не только людям, но ее масштабы и степень редко встречаются в мире природы. Эусоциальность" описывает поведение, при котором животные практикуют общинное разделение репродуктивного и воспитательного труда, при этом несколько поколений живут вместе и работают над воспитанием коллективного потомства. Эусоциальность приводит к разделению труда, критическую важность которого для экономического развития признал Адам Смит на первых страницах "Богатства народов". Эусоциальные виды высокопродуктивны, способны выполнять сложные задачи и создавать сложные артефакты.
Эусоциальность возникла на двух различных эволюционных путях. Проявления эусоциальности встречаются среди людей и в гораздо меньшей степени у некоторых других млекопитающих и являются результатом коммуникации. У людей развитие сложных языковых способностей привело к изменению на порядок способности к разделению труда. Эусоциальность также встречается у некоторых видов насекомых, в частности у муравьев, термитов и некоторых пчел. В муравьиной колонии все рабочие связаны с королевой, которая специализируется на размножении; таким образом, генетические механизмы совершенно иные, чем у млекопитающих, но разделение труда очень обширно. Оплодотворенные яйца переносятся в общежития, где за ними ухаживают, а личинок, в которых они превращаются, кормят рабочие. Другие рабочие собирают или распоряжаются ресурсами, а солдаты защищают общее гнездо от врагов.
Человеческий интеллект против машинного
Эволюционная рациональность дала нам способность создавать компьютеры, но не быть компьютерами. Компьютеры могут выполнять вычисления гораздо точнее и быстрее, чем даже самые способные к численным вычислениям люди. Сейчас такие компьютеры могут играть в шахматы или азиатскую игру Го лучше, чем любой человек. Они могут реализовывать прибыльные торговые стратегии на финансовых рынках - с помощью высококвалифицированных программистов - и читать многие диагностические снимки лучше, чем большинство радиологов. Для всех этих проблем существует большая база данных, из которой компьютер может черпать информацию: все когда-либо записанные партии в шахматы и го, масса данных о ценах на рынке ценных бумаг, тысячи уже сделанных снимков, для которых известен конечный результат.
Искусственный интеллект (ИИ) включает в себя компьютеры, которые могут учиться на собственном опыте. Это средство, с помощью которого, по мнению многих, все тайны в конце концов превратятся в разрешимые головоломки. Компания DeepMind, занимающаяся разработкой искусственного интеллекта, создала программу, которая обыграла действующих чемпионов по игре Го - игре, в которой потенциальных комбинаций позиций на доске больше, чем атомов во Вселенной. Это произошло благодаря тому, что компьютер создал огромную базу данных игр, построенных путем игры против самого себя. Компьютеру DeepMind не требовался доступ к каким-либо историческим данным. Но это стало возможным только потому, что игра Го - это задача, которая, несмотря на свою огромную сложность, всесторонне и точно определена своими правилами. Компьютер DeepMind, научивший себя играть в Го, имел доступ к правилам Го и знал, в конце каждой из многих тысяч партий, которые он сыграл сам с собой, какая сторона победила. Все успехи искусственного интеллекта на сегодняшний день основаны на способности компьютера обучаться таким образом, а скорость вычислений означает, что компьютер может очень быстро сыграть больше партий в шахматы или го, чем человек за всю жизнь.
Проблема, с которой столкнулся президент Обама, была совершенно иной. Информация, к которой он имел доступ, была неизбежно ограниченной. Последствия его решения зависели от множества известных и неизвестных фактов, и было мало оснований для того, чтобы придать им вероятностный характер. Ни один свод правил не регулировал реакцию людей в комплексе, кем бы они ни были, или пакистанского правительства или военных. Ситуация была уникальной, и президент не мог обучить себя, принимая это решение тысячи раз и видя результат. В лучшем случае, он мог бы использовать свободные аналогии с ситуациями, с которыми сталкивался он и другие политические лидеры. Но любая историческая аналогия была бы натянутой. Энтони Иден, который вышел из состава кабинета Чемберлена в 1938 году, потерял пост премьер-министра в 1957 году после того, как провел ошибочную аналогию между Гитлером и Насером и начал неудачное вторжение в Суэц. Обама, по крайней мере, имел возможность узнать, каковы были ближайшие последствия его решения, чего часто не бывает при принятии важных политических или деловых решений. Но его проблема заключалась не в вычислениях. Мы не думаем, что это просто провал нашего воображения, когда говорим, что нам трудно понять, что на самом деле начал бы делать компьютер, исполняющий обязанности президента Соединенных Штатов в этой ситуации.
И даже компьютеры, играющие в шахматы и го, не запрограммированы на оптимизацию. Как и предполагал Герберт Саймон в 1950-х годах (когда он сильно недооценил время, которое потребуется для создания машины, способной победить гроссмейстера), эти машины удовлетворяют. Они находят не лучший ход, а ход, который достаточно хорош. В принципе, существует "лучший" способ игры в шахматы - идеальная игра, в которой ни один ход белых или черных не может быть улучшен. Это было бы "решением" шахматной игры (которое экономисты в характерном стиле называют суб-игровым совершенным равновесием Нэша). Но у нас нет и, возможно, никогда не будет достаточно мощных компьютеров, чтобы найти такую игру. Если ни Магнус Карлсен (чемпион мира 2019 года), ни Deep Blue не могут сыграть идеальную партию в шахматы, то предположение о том, что обычные люди и предприятия могут оптимизировать игру в экономической жизни, поражает воображение.
Канеман утверждает, что для понимания человеческого поведения шум - случайность - даже более важен, чем "предубеждения". Он с нетерпением ждет того дня, когда искусственный интеллект устранит нашу природную глупость: "очень трудно представить, что при наличии достаточного количества данных останутся вещи, которые могут делать только люди". В результате он считает, что было бы неплохо "заменить человека алгоритмами везде, где это возможно". Таким образом, можно избежать предвзятости и шума, которые якобы представляют собой систематические и случайные отклонения человека от аксиоматически рационального поведения.
Но математические рассуждения применимы только к маленькому миру, а не к большому миру, в котором мы живем, и неясно, как компьютер узнает, что является "рациональным" в этом мире. Компьютеры могут выполнять многие задачи быстрее и надежнее, чем люди, и мы должны использовать их для этих задач. Но компьютер не смог бы решить проблемы, с которыми столкнулись Наполеон и Обама, и дал бы неверный ответ на проблему Виниара. Слишком долго недооценивали и недокармливали тот тип интеллекта, который необходим, чтобы справиться с миром радикальной неопределенности. Концепции предвзятости и шума, на которых основывается большая часть поведенческой экономики, если принять их за общую теорию, несовместимы с радикальной неопределенностью, эволюцией и коллективным характером принятия решений человеком.
В мире радикальной неопределенности невозможно избежать суждений. Помните старую пословицу: делайте только то, что можете сделать только вы. Мы должны применить это к человеческим рассуждениям в мире радикальной неопределенности. Нам не нужно бояться компьютеров, мы должны их использовать. Для этого необходимо суждение. Хорошее суждение не может быть сведено к двенадцати правилам жизни, семи привычкам эффективных людей или даже к двадцати одному уроку для XXI века.
Человеческий интеллект и искусственный интеллект - разные вещи, и последний скорее улучшает, чем заменяет первый. Ни один компьютер еще даже близко не подошел к тому, чтобы написать стихотворение или роман, который кто-то захотел бы прочитать. Портрет Эдмона де Белами , созданный компьютером и проданный на аукционе Christie's в 2018 году за $432 500, достиг такой цены благодаря своей любознательности; он не является ни хорошим, ни оригинальным. Даже компьютерный языковой перевод не в состоянии полностью сохранить смысл оригинала, не говоря уже о его стиле, потому что компьютеры не "понимают" контекст, к которому относится текст. Наши действия отражают как контекст, в котором мы действуем, так и наши общие повествования об этом контексте. Именно из-за отсутствия этого контекста компьютеры не способны вести переговоры с китайскими дипломатами или разрабатывать стратегию победы над террористическим повстанческим движением. Именно поэтому "сингулярность" - время, когда искусственный интеллект вытеснит продукт естественной, культурной и социальной эволюции человека - не более чем далекая несбыточная мечта. Искусственный интеллект открывает перспективы все более быстрого решения сложных головоломок, но он не решит загадок.
Силы, создавшие Вселенную, наделили нас способностями, которые наиболее легко и быстро приобретают решающее значение в нашей жизни, включая способность справляться с непредвиденными и уникальными событиями. Если бы способность быстро производить очень обширные вычисления была жизненно важной характеристикой, необходимой в реальном "большом" мире, то эволюция, вероятно, помогла бы людям развить эту способность. Вместо этого мы приобрели другие навыки. Такие навыки, как способность синтезировать количественную и качественную информацию, чтобы разобраться в неопределенных и сложных ситуациях. Такие навыки, как способность стимулировать свои и чужие размышления о поведении людей и о будущих возможностях с помощью проницательных и образных эссе и историй.
Часть 10. Парадигма повествования
Шимпанзе и даже обезьяны бонобо не ходят в школу. В Главе 1 мы описали, как Дик Румельт, профессор бизнес-стратегии в Калифорнийском университете Лос-Анджелеса, предлагает своим слушателям выяснить, "что здесь происходит". Метод case-study в классе MBA требует, чтобы студенты готовились к каждому еженедельному занятию, читая материал о решении в компании, о которой они ничего не знают. Большая часть работы по определению того, "что здесь происходит", уже проделана ассистентом преподавателя, который подготовил кейс. Класс обсуждает материал и, с помощью преподавателя, формирует мнение о том, "что здесь происходит", и продвигается к рекомендуемому курсу действий. Кейсы редко бывают живыми - компания уже, к лучшему или худшему, движется дальше.
То, что любое решение начинается с вопроса "Что здесь происходит?", кажется очевидным и даже тривиальным. Но, как немедленно признал Румельт, обладающий десятилетиями соответствующего опыта, это не так. Такой способ анализа, конечно, сильно отличается от подхода байесовского циферблата, в котором одинокие лица, принимающие решения, начинают с набора предварительных убеждений и наблюдают, как циферблат движется вперед и назад по мере того, как им становится доступна новая информация. Студент, который начинает курс с предварительными вероятностями, полученными из одного или двух предыдущих опытов или взятыми с одной из полок банальных книг по бизнесу в магазине аэропорта, быстро увидит, как они разрушаются в хорошо проведенном классе MBA. Разумные взгляды на действия и диапазон возможных действий выражаются в конце, а не в начале процесса выяснения "что здесь происходит".
Нам обоим посчастливилось видеть в действии хороших и плохих людей, принимающих решения - в бизнесе, в политике, в финансах. И мы заметили, что наличие предварительного мнения обо всем - одна из главных характеристик, отличающих плохого человека, принимающего решения. Жертвы идеологии или высокомерия, часто говорящие больше, чем слушающие, такие люди не признают, что почти по каждому вопросу кто-то другой знает больше, чем они. Они не признают границ знания - как границ своего собственного знания, так и границ всего человеческого знания о сложных и развивающихся ситуациях. Они считают себя способными оценить все возможные неопределенные ставки. В отличие от Баффета, они всегда готовы замахнуться на каждую подачу.
Лица, принимающие правильные решения, напротив, уважительно слушают и широко оглядываются в поисках соответствующих советов и фактов, прежде чем сформировать предварительное мнение. А когда они приходят к какому-то мнению, они предлагают оспорить его, прежде чем довести обсуждение до конца. Хорошо проведенный кейс-метод бизнес-школы - это упражнение по обучению будущих руководителей мыслить подобным образом. Аналогичные упражнения входят в учебную программу юридических школ и в фазу ученичества в медицинском образовании.
Студентам Румельта посчастливилось сидеть перед одним из лучших профессоров. Большинству повезло меньше. А другие, нанятые консалтинговыми фирмами, получают в свое распоряжение коллекцию судимостей - пакет PowerPoint, в котором от презентации к презентации нужно менять только название. Реальность того, что в бизнесе называется формулированием стратегии, часто удручающе отличается от процесса выяснения "что здесь происходит".
Стратегия выходного дня
Стратегические выходные - это ритуал, во время которого высшее руководство отправляется в загородный отель в надежде, что, насытившись изысканной едой и подкрепившись хорошим вином, команда сможет с особой отрешенностью поразмышлять о будущем своей компании. Один из нас сидел за трапезным столом в обшитой панелями комнате, увешанной старыми картинами сомнительной подлинности. По разные стороны стола сидели менеджер по планированию и генеральный директор одного из основных предприятий компании. Генеральный директор взял в руки громоздкий стратегический план и вышел из себя по отношению к менеджеру по планированию. "Мы потратили три человеко-года на подготовку информации для этого документа, - сказал он, - и я не могу вспомнить ни одного случая, когда мы ссылались на него. Что означают цифры в нем? Это прогнозы? Это цели? К этому времени менеджер по планированию был не менее зол. 'Вы теперь отвечаете за бизнес с населением в двадцать тысяч человек', - огрызнулся он. Вы не можете продолжать управлять им, полагаясь на свои штаны". Как они позже признали в баре, они оба были правы. Генеральному директору действительно требовалось более широкое понимание того, куда движется бизнес, чем его повседневные соображения; но документ, представленный ему теми , на кого была возложена ответственность за планирование, не отвечал его потребностям.
Другое время, другое место: компания с совершенно иным представлением о себе, что нашло отражение в ходе судебного разбирательства. Место проведения было не в тихой английской сельской местности, а рядом с крупным аэропортом. Помещение было заполнено не антиквариатом, а аудиовизуальным оборудованием. Эта компания привезла из США человека, которого назвали "фасилитатором", чтобы он организовал работу в этот день. Он расхаживал по платформе, пытаясь привлечь внимание, напоминая сутенера, пытающегося привлечь клиентов в ночной клуб. "Мы должны спросить себя, - сказал он, - какой компанией мы хотим быть. Хотим ли мы быть ведущей европейской компанией в нашей отрасли или нет?" Аудитория задумалась над этим вопросом. 'Давайте проголосуем за это'. К этому времени некоторые люди в приличном смущении смотрели в пол. Голосование продолжилось, и читатель может догадаться, в какую сторону оно пошло.
Но едва фирма приступила к планированию реализации своего решения стать ведущей европейской компанией в своей отрасли, как столкнулась с трудностями. Фирма занимала лишь 2% немецкого рынка. Предыдущая попытка выхода на немецкий рынок не увенчалась успехом. Было решено, что ведущая европейская фирма в этой отрасли должна иметь не менее 15% в Германии. Это явно означало приобретение немецкой компании. Существовало только две фирмы, которые были достаточно крупными и доступными, чтобы заполнить этот пробел. Выбор быстро сузился до одной.
В течение получаса эта фирма фактически приняла решение о приобретении компании в Германии, которое впоследствии было реализовано. При этом ни разу не обсуждалось, во сколько обойдется такое приобретение, какова будет вероятная прибыль от него или какую ценность оно может привнести в отношения. Эта компания стала примером доминирующей традиции бизнес-мышления 1980-х годов. Подход, основанный на видениях и заявлениях о миссии - стратегии, основанной на желаниях, основанной не на понимании того, чем является компания , а на том, кем бы она хотела стать, напоминая детей, спорящих о том, кем стать - хирургом или машинистом.
Еще один стратегический уик-энд, еще одна компания. Аудитория смотрела видеоролик под названием "Качество - это бесплатно". В ролике объяснялось, что лучшее качество ведет к повышению спроса. Это означает снижение себестоимости единицы продукции и увеличение выручки, что ведет к росту прибыли, позволяя еще больше повысить качество. Этот добродетельный круг будет продолжаться вечно. Речь шла о компании, занимающейся водоснабжением. В конце презентации один из авторов обратился к консультантам, которые показывали видео, с конструктивной, по его мнению, критикой. Он отметил, что в водной отрасли под качеством обычно понимают качество питьевой воды. Но менее 2% всей потребляемой воды идет на питье - большая часть используется для мытья, смыва, в промышленности или сельском хозяйстве, или для защиты полей для гольфа и кортов в Уимблдоне. Таким образом, даже если улучшение качества питьевой воды приведет к удвоению спроса на питьевую воду, это увеличит общее потребление менее чем на 2%. Даже такое увеличение кажется оптимистичным. Люди редко говорят: "Мне, пожалуйста, еще стакан вашей водопроводной воды, она такая вкусная".
Более того, большие объемы не приводят к снижению удельных затрат в бизнесе водоснабжения, скорее наоборот. Водная компания использует в первую очередь самые дешевые и доступные источники. Именно поэтому плата за воду выше и растет там, где спрос растет. И большинство клиентов этой водопроводной компании, а также практически все потребители питьевой воды, находились на тарифах, по которым оплата не зависела от объема потребления. Таким образом, от повышения качества не только не может быть снижения удельных затрат, но и не может быть увеличения доходов этой компании. К каким бы предприятиям ни применялся "круг качества", отрасль водоснабжения не является из них. Модель просто не соответствовала тем проблемам, с которыми столкнулась компания.
Но консультанты не захотели вступать в спор на этих условиях. Они не стали оспаривать утверждения о затратах, спросе или доходах. Они считали автора утомительным педантом. То, что было представлено, было метафорами, вдохновляющими посланиями. Они не были предназначены для буквального утверждения о данной компании или вообще о какой-либо компании. Рассматривая их как утверждения о реальном мире, подлежащие оценке и проверке, автор неправильно понял природу упражнения.
Как и присутствующие руководители. Эти компании заплатили значительные суммы за то, что, как они полагали, было лучшим советом. Они искренне стремились к знаниям, но то, что они получали, в лучшем случае не имело для них никакой ценности. Они стали жертвами трех наиболее распространенных ошибок не только в формулировании бизнес-стратегии, но и в анализе и решении проблем в целом.
Первая компания, сидевшая под фиктивными портретами предков, перепутала количественные показатели с пониманием, а прогнозирование с планированием, что мало помогло, но способствовало распространению придуманных цифр. Такой подход к бизнес-стратегии был распространен в 1970-х годах, и большинство компаний сейчас отошли от него, так же как государства отошли от пятилетнего плана. Но вместо этого государственный сектор заполонили модели и метрики, и мантра о том, что все, что можно подсчитать, имеет значение - а значит, только то, что подсчитано, имеет значение, а то, что имеет значение, может и должно быть подсчитано - заразила все сферы государственной и деловой политики.
Вторая компания, приступившая к приобретению немецкой фирмы, перепутала стремления со стратегией. Эта путаница, естественно, приводит к жалобе на то, что сформулировать стратегию легко: проблема заключается в ее реализации. Есть много худших примеров такой практики, чем приведенный выше. По крайней мере, эти дебаты послужили толчком к действию, пусть и плохо аргументированному. Сегодня для организаций, малых и больших, частных и государственных, почти обязательным является принятие какого-либо бессодержательного заявления о видении или миссии. Вы читали их и проходили мимо, но не стоит недооценивать время, потраченное на обсуждение их формулировок. Или, что более серьезно, степень, в которой это потерянное время заменило серьезное обсуждение характера и цели организации, а также развитие и достижение этого характера и цели.
А третья компания, директора которой потратили полчаса на просмотр фильма "Качество - это бесплатно", забыв о его неуместности в водной отрасли, не смогла понять разницу между мотивационным прозелитизмом для сотрудников - для которого есть своя роль - и дебатами в зале заседаний. Уинстон Черчилль был вдохновенным оратором в своих выступлениях перед парламентом и общественностью, но трудно представить, что его коллеги по кабинету министров хорошо отреагировали бы на подобную напыщенность, столкнувшись с бесконечными практическими трудностями борьбы в одиночку против всепобеждающего противника.
Диагноз
Румельт описывает процесс постановки вопроса "Что здесь происходит?" как диагностику, термин взят из медицины. Джером Групман, писатель и практикующий врач, попытался раскрыть эту тему в книге с таким названием "Как думают врачи" . Гроопман описывает ошибки, которые он и его коллеги допускали при постановке диагноза, приписывая многие из них стандартному списку "предубеждений", знакомому читателям поведенческой экономики. Но большинство из них на самом деле являются результатом чрезмерного внимания к предварительным вероятностям - "он выглядел здоровым, когда вошел в операционную", "здесь много этого", "большинство моих пациентов с симптомом x имеют болезнь y". Хороший врач слушает, тестирует, задает вопросы и только потом ставит предварительный диагноз, соблюдая тонкую грань между правильным определением симптомов, которые подтверждают предварительный диагноз, и слишком быстрым определением того, что он или она ожидает найти. Именно поэтому хорошие врачи обсуждают сложные случаи со своими коллегами, а многие группы клиницистов институционализируют эту практику.
Кто из нас хотел бы обратиться к врачу, который не демонстрирует одновременно уверенность и осторожность в постановке диагноза? Или тот, кто сидит под байесовским циферблатом, который качается туда-сюда во время консультации? С начальной настройкой "я не знаю" или "большинству людей все равно становится лучше через несколько дней", хотя оба утверждения, скорее всего, верны. Или врач, не желающий делиться, возможно выборочно, диагностическим обоснованием? Общение является центральным элементом навыков хорошего врача. И мы подозреваем, что многие люди не захотят лечиться с помощью компьютера, так же как их успокаивает вид пилота в форме, хотя на самом деле самолетом управляет компьютер. Когда гуси выводят из строя двигатели, пассажиры понимают, что люди могут эффективнее компьютеров справляться с радикальной неопределенностью.
Компьютеры и алгоритмы, которые они используют, могут значительно улучшить медицинское обслуживание. Миллиарды людей ежегодно обращаются за медицинской помощью, и база для обучения, на которой может обучаться искусственный интеллект, огромна. Как и в случае с машиной, играющей в шахматы или го, прогресс пациентов дает обратную связь о том, насколько хорошо работает программа, хотя такая обратная связь никогда не бывает такой быстрой и четкой, как в этих играх. Компьютер может поддерживать и искать во всем корпусе медицинских знаний лучше и быстрее, чем самые выдающиеся ученые-медики. Мощь этих методов улучшит и ускорит процесс диагностики и даже может вытеснить врача во многих четко определенных проблемах "малого мира".
Но мы ожидаем, что именно высококвалифицированные и опытные врачи, которым помогают алгоритмы и протоколы лечения, основанные на данных, будут продолжать привлекать пациентов. Один из авторов до сих пор жив, потому что старомодный, интуитивный, но опытный врач, к которому он сначала относился скептически, задался вопросом "Что здесь происходит?" и выявил проблему, которую точный, но неполный диагноз молодого, более научно подготовленного врача упустил.
Исторические повествования
Как мы уже рассказывали в Главе 4, Гиббон сказал о переходе Ганнибала через Альпы, что в рассказе Ливия "больше вероятности, но в рассказе Полибия больше правды". Этот комментарий иллюстрирует не только изменение значения вероятности, но и различные подходы к истории. Ливий поставил перед собой цель написать всеобъемлющую историю Рима, сплетя в единое целое легенды, которые способствовали формированию римской идентичности и культуры. И он сделал это в литературном шедевре, который и спустя два тысячелетия изучается студентами и учеными. Вряд ли Ливий действительно верил, что Рим был основан и назван в честь одного из близнецов, брошенных в реку Тибр, спасенных и вскормленных волчицами. Но для целей Ливия не имело значения, была ли эта история точным изложением событий, которые произошли на самом деле.
ТЕЛЕГРАМКанал с обзорами, анонсами новинок и книжными подборками
Книжный Вестник
Бот для удобного поиска книг (если не нашлось на сайте)
Поиск книг
Свежие любовные романы в удобных форматах
Любовные романы
О психологии, саморазвитии и личностном росте
Саморазвитие
Детективы и триллеры, все новинки
Детективы
Фантастика и фэнтези, все новинки
Фантастика
Отборные классические книги
Классика
ВКОНТАКТЕБиблиотека с любовными романами, которая наверняка придётся по вкусу женской части аудитории
Любовные романы
Библиотека с фантастикой и фэнтези, а также смежных жанров
Фантастика
Самые популярные книги в формате фб2
Топ фб2
книги