Этносы основаны на смешении мифов, легенд и выборочных изложений реальных исторических событий: Альфред сжег пироги; Гарольд был проткнут в глаз в битве при Гастингсе; а Magna Carta является основополагающим документом демократических институтов. Возможно. История Шотландии, которую один из нас изучал в школе, возводила стычки между группами вороватых налетчиков в победоносные сражения с английским врагом, но не упоминала о шотландском Просвещении; это эпохальное событие в истории не только Шотландии, но и всего мира скорее противоречило, чем укрепляло преобладающий этнический нарратив романтического и героического национализма. А другой автор узнал, что после того, как англичане веками сопротивлялись диким и нецивилизованным шотландцам, крах шотландской экономики в начале XVIII века открыл путь к умиротворению горцев и позволил создать мирное, процветающее, демократическое Соединенное Королевство.

В книге "Вторая мировая война" Уинстон Черчилль в свойственном ему стиле писал: "Высший вопрос о том, должны ли мы сражаться в одиночку, никогда не находил места в повестке дня военного кабинета. Он воспринимался как должное и само собой разумеющееся... мы были слишком заняты, чтобы тратить время на такие нереальные, академические вопросы". Современные документы, доступные сегодня, показывают, что это утверждение совершенно неверно: решение о продолжении войны было предметом горячих дебатов в Военном кабинете.

У Полибия была совсем другая цель, чем у Ливия или Черчилля. Полибий был одним из немногих классических авторов - еще Геродот - который делал упор на материальные доказательства, а не на авторитет. Черчилль писал вдохновляющее повествование в стиле Ливия, а не историю в стиле Полибия. К эпохе Просвещения жизнь французских королей по-прежнему составляла большую часть исторических трудов Вольтера, но он не ограничивался описанием их побед и прославлением их плодовитости. Вольтера интересовали экономика, культура и общество тех эпох, которые он описывал. И сам Гиббон в своем "Упадке и падении Римской империи" задал модель для совершенно иного стиля истории.

В начале девятнадцатого века немецкий историк Леопольд фон Ранке знаменито сформулировал цель современной исторической науки - описать "wie es eigentlich gewesen ist", что часто переводится на английский язык как "как это было на самом деле". Георг Иггерс, современный редактор Ранке, подчеркивает, что этот перевод не может адекватно передать дух немецкого оригинала. Излагая наблюдение Ранке в контексте, он пишет: "Не фактология, а акцент на существенном делает рассказ историческим". Иггерс утверждает, что "wie es eigentlich gewesen ist" эквивалентно "определить, что здесь происходит", а не "объяснить мир таким, каким он был на самом деле". Иггерс продолжает: "Ранке принадлежал к традиции немецких мыслителей XIX века, которые подчеркивали, что исторические и культурные науки, имеющие дело с ценностями, намерениями и нарушениями, фундаментально отличаются от естественных наук и требуют уникальных методов, направленных на конкретное понимание исторических явлений, а не на абстрактные причинные объяснения".

С этой точки зрения важны два различия. Во-первых, акцент на ценностях, намерениях и нарушениях вызывает понятия, которые труднее, хотя и не обязательно невозможно, выразить на математическом языке. Во-вторых, что более важно, история в первую очередь рассматривает уникальные события. Как подчеркивает Шекл, частотное распределение результатов революций не имеет отношения к дворцовому стражнику. Он мог быть казнен только один раз. Существуют настольные игры, представляющие великие и тесные исторические сражения, такие как Геттисберг и Ватерлоо, и эти игры не привлекали бы постоянного внимания, если бы генерал Роберт Э. Ли и Наполеон не могли правдоподобно победить в них. И, возможно, если бы эти сражения происходили много раз, и мы могли бы построить частотное распределение исходов, как это можно сделать для настольных игр, мы могли бы сделать из этого вывод о вероятности победы Ли или Наполеона. Однако в тех единичных случаях, когда Геттисберг и Ватерлоо действительно имели место, Ли и Наполеон потерпели поражение, и поэтому американское рабство было прекращено, а Великобритания не является франкоговорящей страной. .

Антропология

Группа экономистов встретилась с антропологами, чтобы понять, чему они могут научиться друг у друга. Различия быстро стали очевидны. Антропологи проводили полевые исследования в Папуа-Новой Гвинее, бассейне Амазонки и английских полицейских участках. Экономисты находили идею посещения фабрики или торговой площадки забавно экзотической. Антропологи смотрели и слушали; экономисты просили цифры. После этого антропологи забирали результаты полевой работы домой и писали рассказ. Экономисты набрасывали модель еще до того, как сталкивались с набором данных. И все же, как сказал бывший губернатор-республиканец Флориды (ныне сенатор) Рик Скотт, "сколько дипломов по антропологии нужно Флориде для здоровой экономики?"

Группа отправилась в паб, и кто-то купил выпивку. Разговор, естественно, перешел к истокам и обоснованию этого социального явления. Антропологи рассматривали его как пример ритуального обмена подарками, который закрепляет социальные отношения и предполагает взаимность. Они ссылались не только на практику osotua тех, кто говорит на языке маа в Африке, но и на потлатч коренных племен северо-запада Америки (церемонии, включающие массовый и иногда разрушительный обмен подарками), а также на современную американскую - и европейскую - практику отмечать предложение руки и сердца дорогим обручальным кольцом. Экономисты нашли совершенно иное объяснение для раунда напитков. Эта практика минимизирует транзакционные издержки, сокращая количество случаев, когда нужно передавать деньги через барную стойку, и частоту, с которой бармен дает сдачу. Они провели аналогию с известным анализом Рональда Коуза о том, когда имеет смысл проводить сделки через рынки, а когда лучше интернализировать сделку внутри фирмы.

Конечно, это был экономист, который предложил эмпирический тест альтернативных гипотез. Что произойдет, если вы купите больше напитков, чем было куплено для вас? Антропологическое объяснение предполагает, что вы должны чувствовать себя довольным, как счастливый жених, когда его подарок принят, в предвкушении будущего взаимного обмена любезностями. Экономист чувствует сожаление по поводу того, что вечер прошел неоптимально.

Но тест оказался неубедительным. Антропологи чувствовали себя так, как предсказывали антропологические исследования; реакция экономистов соответствовала их экономической теории. Один из уроков, возможно, заключается в том, что антропологам - и, возможно, другим людям - не следует общаться с экономистами; экономисты будут чувствовать себя довольными, но ожидания антропологов, что их щедрость будет возвращена в будущем, скорее всего, будут разочарованы. "Экономисты ездят бесплатно, а все ли остальные?" - так называлось широко известное исследование. (Экономист, который полагается на других, чтобы те покупали ему напитки, известен своим коллегам как "фрирайдер" - неэкономисты могут использовать менее нейтральные формулировки). Авторы пришли к выводу, что неэкономисты в основном не пользуются халявой, а экономисты пользуются; когда авторы попытались исследовать рассуждения обеих групп, они обнаружили, что "сравнение с аспирантами-экономистами очень сложно. Более трети экономистов либо отказались отвечать на вопрос о том, что такое справедливость, либо дали очень сложные, некодируемые ответы. Похоже, что значение слова "справедливость" в данном контексте было несколько чуждым для этой группы".

Взаимность и обмен

Этот вечер заставил авторов понять, что антропологи и экономисты на самом деле не так уж далеки друг от друга. Адам Смит начал "Богатство народов" с замечания, что "склонность к торговле, бартеру и обмену присуща всем людям". Классическим антропологическим исследованием взаимности в человеческих отношениях является эссе Марселя Мосса 1925 года "Дар" . Мосс спрашивал: "Какая сила заключена в предмете, которая заставляет его получателя возвращать деньги?" "Предметы никогда полностью не отделены от людей, которые ими обмениваются". Тезис Мосса был обобщен в популярной поговорке "Бесплатных обедов не бывает", которая пятьдесят лет спустя стала названием книги Милтона Фридмана.

Когда заботливый дедушка и бабушка дарят подарок внуку, существует ожидание, что ребенок ответит им взаимностью, но нет ожидания, что ответная услуга будет иметь эквивалентную ценность. Все понимают, что дарение подарков является частью процесса установления и закрепления социальных отношений, и что эти отношения служат как экономическим, так и социальным целям. (За исключением, пожалуй, нескольких экономистов: Короткая статья Джоэла Уолдфогеля в журнале American Economic Review "Потери мертвого груза от Рождества" показала, что денежная ценность, которую получатели придают подаркам, значительно меньше их стоимости. По крайней мере, настоящие авторы считали, что эта статья была написана в шутку, пока Уолдфогель не опубликовал книгу, в которой этот тезис развивался гораздо более подробно).

Как объяснил Мосс, подарки обычно подразумевают некое понятие взаимности. Но чем отдаленнее связи сообщества или родства, тем больше потребность в некой эквивалентности при обмене. Пока не доходит до чисто коммерческого обмена, при котором сделка становится анонимной между сторонами, которые не могут иметь никаких других отношений друг с другом, потому что не знают, кто они такие. Такие обмены требуют определенной системы учета, в которой фиксируются кредиты и дебеты. Животные обхаживают друг друга, но, как заметил далее Смит, "никто никогда не видел, чтобы собака честно и сознательно обменивала одну кость на другую у другой собаки". Способность вычислять и составлять точные счета, которая является порождением современной коммерческой жизни, позволяет создавать длинные цепочки сделок между сторонами, находящимися далеко друг от друга.

Но в современной экономике лишь немногие сделки являются анонимными. Мы покупаем товары проверенных марок и полагаемся на рекомендации друзей или отзывы на веб-сайтах. Наш супермаркет, так же как и наш врач, старается наладить с нами отношения. Даже при самых чудовищных эксцессах современного капитализма социальные связи и взаимность имеют большое значение. В определяющем романе Тома Вулфа о Нью-Йорке 1980-х годов "Костер тщеславия" глава называется "Банк услуг", и Том Киллиан, адвокат антигероя, торгующего облигациями, уверяет его: "Все делают одолжения всем остальным. При каждом удобном случае они делают вклады в банк "Благосклонность"". Вопиющая переписка по электронной почте между трейдерами, участвовавшими в установлении LIBOR и других лондонских рынков ценных бумаг, изобилует такими комментариями, как "Я твой должник". Даже занимаясь мошенничеством, участники взаимодействовали друг с другом посредством того, что антрополог назвал бы обменом подарками. Никто из тех, кто смотрел фильм "Крестный отец", не удивится.

Такая свободная взаимопомощь внутри социальных групп особенно важна, поскольку радикальная неопределенность делает невозможным актуарный расчет справедливых цен на риски, основанный на частотных распределениях вероятности. На практике мы имеем дело с большинством рисков через механизмы свободной взаимопомощи с участием семьи и друзей, групп родства и других механизмов взаимопомощи, а также государственных институтов, основанных на той или иной концепции социального страхования.

Уникальные события и многочисленные объяснения

Мы описали, как студенты, изучающие бизнес, историки и антропологи подходят к вопросу "Что здесь происходит?". Их рассказы эклектичны и плюралистичны. Они требуют того, что антрополог Клиффорд Гирц, вслед за Гилбертом Райлом, назвал "толстым описанием": необходимость многоуровневого объяснения социальных - в том числе экономических - явлений. Звонок в дверь . Он звонит, потому что электрическая цепь завершается, заставляя молоток ударять по металлу. Он звонит, потому что кто-то нажал на кнопку звонка. Он звонит, потому что сосед-антрополог хочет пригласить нас выпить. Все это допустимые компоненты объяснения.

Экономические и антропологические теории практики покупки раундов напитков дополняют друг друга, а не конкурируют. Исследования обмена подарками, безусловно, имеют отношение к природе социального взаимодействия между друзьями в баре. Однако если бы практика раунда была неэффективной, у нее было бы меньше шансов выжить. В 1884 году канадское правительство объявило проведение потлатчей уголовным преступлением. Оно считало, что экономика племен, которые их проводили, сильно пострадала от этой практики. Франц Боас, которого многие называют отцом современной антропологии, энергично протестовал против того, что даже если бы закон был уместен, эта практика слишком глубоко укоренилась в племенной культуре, чтобы запрет был осуществим. И правительство, и Боас были правы.

И Вальдфогель тоже не ошибся, когда описал потерю мертвого веса от Рождества. Мы оба получали - а кто из взрослых не получал? - подарки, которые мы на самом деле не хотели, и молча сожалели о расходах, которые понес даритель. Но мы бы не стали выступать за криминализацию обмена рождественскими подарками или даже предлагать "подтолкнуть" людей к отказу от этой практики. Передача ценности от дарителя к получателю - это лишь малая часть того, "что здесь происходит". Необходимо более подробное описание.

Для понимания экономических событий, таких как финансовый кризис 2007-2008 годов, необходимо "толстое описание". Любое объяснение этих событий, не включающее антропологическую оценку дисфункциональной культуры торговли ценными бумагами того времени, не может прояснить, почему финансовые институты вели себя так, что это нанесло ущерб их балансам и репутации . Также важно оставить место для объяснения того, почему макроэкономические события позволили чрезмерное расширение банковского кредитования и торговли.

Идет ли речь о потлаче, Рождестве, семейной жизни или финансовых кризисах, правильный ответ начинается с оценки того, "что здесь происходит". Эта диагностическая фаза принимает различные формы в разных областях. Люди обращаются к врачам, потому что считают себя больными. Инженеров консультируют по поводу конкретного проекта. Историк обычно изучает один период или аспект истории; часто интересы его научного руководителя определяют направление его карьеры. Антрополог аналогичным образом оттачивает свои профессиональные навыки на конкретном, уникальном полевом материале. Инженеры-авиаконструкторы берутся за проект - посадить человека на Луну или построить самолет, который доставит пятьсот человек в Австралию.

Участники стратегического уикенда были восприимчивы к брехне, потому что на самом деле не верили, что у них есть проблема; выездные дебаты были не более чем обязательной процедурой современной корпорации. Подобно читателям книг по самопомощи, участники планировали вернуться в свои офисы в понедельник утром и продолжить работу. Руководители компаний часто говорят нам: "Мы хотим, чтобы кто-то вроде вас оспаривал наши идеи". Наш опыт показывает, что это утверждение почти никогда не соответствует действительности. Нужны - иногда; нужны - редко.

В юриспруденции все несколько иначе. У клиентов, обращающихся к адвокату, может не быть проблемы - хотя часто так и бывает. У них есть вопрос. Во многих колледжах студентов-юристов учат следовать структуре, описываемой как IRAC: вопрос, правило, анализ, заключение. Впечатляющий навык ведущего юриста - определить проблему; придать структуру множеству аморфных фактов, часто представленных в тенденциозной манере - то есть, установить, "что здесь происходит". Как только диагностическая фаза завершена, остальные этапы следуют логически. Правило - установление соответствующих правовых принципов. Анализ - как эти правовые принципы соотносятся с фактами данного конкретного дела? Вывод - что должен сделать клиент или решить суд? Юрист должен делать это беспристрастно и без эмоций.

IRAC - это полезный акроним для всех, кто занимается поиском практических знаний. В юридическом контексте она естественным образом ведет к двум следующим этапам эффективного практического рассуждения - передаче повествования и оспариванию преобладающего повествования. Одними из самых важных и искусных рассказчиков являются судебные адвокаты.

Глава 11. Неопределенность, вероятность и закон


Самое сложное в мышлении юриста - это преодолеть желание быть рациональным перед лицом неопределенности.

ДЖЕФФРИ ЛИПШОУ

На протяжении тысячелетий судам приходилось принимать решения в условиях радикальной неопределенности. Царь Соломон вынес, возможно, самое раннее записанное юридическое решение по делу двух блудниц; обе они утверждали, что являются матерями одного и того же ребенка. В наше время утверждается, что юристам есть чему поучиться у вероятностной математики и байесовских рассуждений. В этом мнении есть определенный смысл, но еще больше в противоположном - в том, что приверженцам вероятностных рассуждений есть чему поучиться у накопленной мудрости юридической практики.

Салли Кларк и О. Джей Симпсон

Салли Кларк, британский адвокат, предстала перед судом в ноябре 1999 года за убийство двух своих сыновей. Первый сын Кларк внезапно умер через несколько недель после своего рождения в сентябре 1996 года, а в декабре 1998 года аналогичным образом умер ее второй сын. Обвинение представило статистические доказательства, представленные консультантом-педиатром, профессором сэром Роем Мидоу. Мидоу объяснил, что наблюдаемая частота "синдрома внезапной детской смерти" (СВДС) в семье Кларк из ее социального окружения составляет 1 к примерно 8500, поэтому вероятность двух смертей составляет 1 к (8500 × 8500), или примерно 1 к 73 миллионам. Мидоу повторил афоризм: "Одна внезапная смерть младенца - это трагедия, две - подозрительно, три - убийство".

Используя свидетельства Медоу, обвинение утверждало, что вероятность двух смертей в кроватке в одной семье настолько мала, что может произойти лишь раз в столетие. Учитывая сложные и противоречивые медицинские доказательства, было бы удивительно, если бы эта поразительная и простая статистика не сыграла свою роль в вынесении присяжными обвинительного вердикта. Кларк была приговорена к пожизненному заключению, а ее репутация была разрушена британской прессой. В 2003 году она была освобождена из тюрьмы после победы в апелляции - хотя и в основном на процессуальных основаниях, а не в результате неправильного использования статистики на суде. Тем не менее, Королевское статистическое общество официально выразило свою озабоченность по поводу злоупотребления статистикой в подобных процессах. К сожалению, в результате пережитых испытаний Кларк получила серьезные психиатрические проблемы и умерла от отравления алкоголем в 2007 году.

В результате дела Кларка и нескольких других подобных дел профессор Мидоу был исключен из медицинского реестра за серьезный профессиональный проступок Генеральным медицинским советом в 2005 году (хотя в 2006 году он был восстановлен в должности по решению суда, который решил, что его ошибка в непонимании и неправильной интерпретации статистических данных не являлась серьезным профессиональным проступком). Ниже мы вернемся к ключевым аспектам этого дела, которое журналист Джеффри Уэнселл назвал "одной из величайших судебных ошибок в современной истории британского права".

O. Джей Симпсон, легенда американского футбола, не сдался полиции, расследовавшей убийство его жены Николь, и был арестован после автомобильной погони, которая транслировалась в прямом эфире на CNN. Его последующий телевизионный суд и оправдательный приговор, возможно, представляют собой самый широко освещаемый уголовный процесс в современной истории. Самым запоминающимся моментом судебного процесса стал момент, когда обвинение предложило Симпсону примерить окровавленную перчатку, найденную на месте преступления. Если она не подходит, вы должны оправдать его!" - вмешался Джонни Кокран, эпатажный адвокат Симпсона. Она не подошла.

Но дело, похоже, зависело от доказательств ДНК. Хотя использование ДНК в криминалистике тогда находилось в зачаточном состоянии, суду сообщили, что вероятность совпадения ДНК двух случайно выбранных людей составляет примерно один к пяти миллионам. Обвинение использовало эту цифру, утверждая, что наличие ДНК Симпсона на месте преступления доказывает его вину вне всяких разумных сомнений. Защита указала, что в районе Лос-Анджелеса проживает 30 миллионов человек и, следовательно, шесть человек только в Лос-Анджелесе потенциально причастны к убийству. Как присяжные должны были оценить такие утверждения?

Юридическое обоснование

Когда в семнадцатом веке были разработаны вероятностные рассуждения, многие математики и философы, стоявшие в авангарде нового подхода, твердо решили, что их идеи могут и должны быть применены к праву. Действительно, юридические проблемы - такие как толкование контрактов, достоверность свидетельских показаний и создание судейских коллегий - были среди главных приложений новой теории вероятности. Николаус Бернулли - создатель Санкт-Петербургского парадокса, решение которого, предложенное его кузеном Даниэлем, было описано в Главе 7, написал диссертацию о применении математической вероятности к праву. А три знаменитых французских статистика и вероятностника, Кондорсе, Лаплас и Пуассон, посвятили много усилий созданию теорий функционирования правовой системы, основанных на явных вероятностных рассуждениях. Вдохновленные очевидными несправедливостями, такими как печально известное дело Жана Каласа, протестантского купца из Тулузы, которого судили, пытали и казнили в 1762 году за убийство сына (по религиозным причинам он пытался скрыть самоубийство сына), а затем оправдали после кампании, возглавляемой Вольтером, эти деятели Просвещения считали, что вероятности могут быть использованы для реформирования французской правовой системы.

Кондорсе, в аннотированном переводе на французский язык диссертации Бернулли, попытался показать, как можно минимизировать риск судебной ошибки с помощью соответствующих численных показателей для размера судебных трибуналов и большинства, необходимого для вынесения обвинительного приговора. Его критерий заключался в том, что вероятность осуждения невиновного человека должна быть не выше, чем вероятность того, что кто-то, занимаясь своими повседневными делами, попадет в непредвиденную аварию со смертельным исходом; вероятность, которую Кондорсе оценил, основываясь на статистике таких явлений, как смертельные случаи во время переправы через Ла-Манш, как 1 к 144 768. Предположив, что каждый судья принимает правильное решение с вероятностью 0,9, Кондорсе рассчитал, что трибунал должен состоять из тридцати судей, причем для вынесения приговора необходимо двадцать три голоса "за".

Такие тонко продуманные предложения мало повлияли на отправление правосудия. Во время Французской революции Кондорсе был важной фигурой жирондистов, автором проекта их конституции и некоторое время секретарем Национального собрания. Обвиненный в государственной измене за критику альтернативной конституции, разработанной контролируемой теперь фракцией монтаньяров, он решил не доверять революционным судам, скрылся, но был задержан и, как считается, покончил жизнь самоубийством, чтобы избежать казни. Хотя вероятностники рассматривали правовую систему как плодотворное применение своей науки, их подход оказался более проблематичным, чем казалось на первый взгляд.

Сложение вероятностей

Кондорсе рассчитал оптимальный размер судебного трибунала, предположив, что все его тридцать судей принимают решения самостоятельно, не обращаясь к коллегам или их мнению. Аналогично, расчет профессором Мидоу сложной вероятности путем умножения 8500 на себя для получения 1 к 73 миллионам требует, чтобы два события были независимы друг от друга. Расчеты Кондорсе были причудливыми, а предположение Мидоу - неправдоподобным. Какими бы ни были экологические или генетические причины, способствующие смерти в кроватке, правдоподобно, что они являются общими для детей одних и тех же родителей в одной семье. В Англии и Уэльсе в конце 1990-х годов вероятность того, что ребенок в семье, где уже была смерть в кроватке, подвергнется такой же участи, была в десять-двадцать раз выше, чем ребенок в другой семье. Также вероятно, что мать, способная убить одного из своих детей, более чем в среднем способна убить и другого. Мы просто не знаем относительной силы этих двух источников устойчивости. И все же утверждение Мидоу о том, что "два подозрения, три - убийство", зависит от суждения о том, что убийственное намерение является более устойчивым, чем другие факторы, способствующие смерти младенцев. Но никаких доказательств этого не было представлено суду, и такие доказательства трудно найти и интерпретировать. Мы просто не знаем. Несмотря на дела, по которым Медоу давал показания, не только против миссис Кларк, но и против других матерей, потерявших детей, мало что известно о том, почему младенцы иногда умирают в своих кроватках без каких-либо признаков болезни или несчастного случая. Не существует базы данных, из которой можно было бы получить достоверную информацию.

В судебном процессе по делу Симпсона, как обвинение, так и защита заявили о вероятности серьезных ошибок. Обвинение утверждало, что наличие на месте преступления ДНК, совпадающей с ДНК Симпсона, доказывает его вину; защита утверждала, что Симпсон был лишь одним из шести человек только в районе Лос-Анджелеса, которые могли совершить преступление и оставить свою ДНК на месте преступления. Оба расчета не учитывали тот критический факт, что О. Джей был мужем погибшей женщины. Судебно-медицинские доказательства должны были быть связаны с признанием того, что большинство убитых женщин убиты своими мужьями или партнерами - особенно если, как в данном случае, имело место домашнее насилие. Присяжные могли рассмотреть вопрос: "Какова вероятность того, что Николь Симпсон была убита человеком с такой же ДНК, как у ее мужа, но не являющимся ее мужем? И поскольку эта вероятность очень мала, предположение защиты о том, что кровь на месте преступления могла быть получена не от Симпсона, а от другого нападавшего, не вызвало обоснованных сомнений. Совпадение ДНК позволило решительно отвергнуть одну линию защиты, но не могло, без других доказательств, стать основанием для вынесения обвинительного приговора.

Другие аргументы защиты ставят под сомнение обращение с материалами судебной экспертизы в полиции. Европейские полицейские силы потратили годы на поиски гипотетического международного серийного убийцы, чья ДНК была обнаружена на более чем сорока местах преступления, прежде чем установили, что ДНК принадлежала сотруднику предприятия, изготовившего зараженные тампоны.

Заблуждение прокурора

Профессор Мидоу, адвокаты, которые использовали его доказательства, и судья, который позволил им предстать перед присяжными, допустили множество ошибок в процессе над Салли Кларк. Однако самая главная из этих ошибок была допущена настолько часто, что получила название "заблуждение прокурора". Обвинение утверждало, что подсудимая должна быть виновна, потому что вероятность двух случайных смертей в кроватке очень мала. Но верно и то, что вероятность того, что мать последовательно убьет двух своих сыновей, очень мала. Игнорировать это второе утверждение и утверждать, что первое утверждение подразумевает вину вне всяких разумных сомнений, - это ошибка статистических рассуждений. К счастью, вероятность того, что произойдет какое-либо событие, которое приведет к уголовному преследованию, очень мала.

Когда вероятности, связанные с каждым элементом повествования, перемножаются вместе, как того требует математика вероятности, вероятность того, что конкретная последовательность событий, описанных в повествовании, произойдет, неуклонно уменьшается. Если вы скомкаете лист бумаги, он приобретет определенную форму, но вероятность того, что он приобретет именно эту форму, бесконечно мала.Было бы абсурдным или, по крайней мере, тривиальным заключить, что вы наблюдали событие со стандартным отклонением 25. Преступления - это редкие и уникальные события.

В Главе 5 мы видели, как Нейт Сильвер не смог ответить на вопрос "Какова вероятность того, что произойдет маловероятное и уникальное событие?", когда мы знаем, что это событие уже произошло. Сильвер писал в контексте атаки на Всемирный торговый центр; Дэвид Виниар столкнулся с аналогичной проблемой в отношении вероятностей в условиях мирового финансового кризиса. Мы можем сказать, что вероятность того, что честная монета, которая только что упала головой, упала бы головой, равна половине, потому что подбрасывание монеты является предметом четко определенного и стационарного распределения частот. Но большинство событий не являются случайными выборками из четко определенного и стационарного распределения вероятности. Поэтому расчет вероятности Сильвером был бессмысленным; утверждение Виниара могло быть верным в рамках модели Goldman Sachs, но не было верным для плохо определенного нестационарного мира сложных финансовых инструментов. И аналогичное заявление о вероятности не может быть сделано для большинства вопросов, которые являются предметом спорных судебных разбирательств.

Вероятностные рассуждения и теорема Байеса полезны, даже незаменимы, когда узкий вопрос в судебном деле может быть выражен как проблема малого мира - как, например, при отклонении заявления Симпсона о том, что какой-то другой преступник оставил на месте преступления ДНК, которая случайно совпала с его собственной. Однако использование вероятностей в суде часто приводит к путанице и замешательству, а иногда, как в случае применения заблуждения прокурора к Салли Кларк, приводит к катастрофе.

Тем не менее, некоторые приверженцы вероятностных рассуждений продолжают утверждать, что юристы действительно должны проводить сложные расчеты составных вероятностей. После дела Салли Кларк и других случаев неправильного использования вероятностей в судебных делах Королевское статистическое общество в консультации с опытными юристами подготовило серию отчетов, описывающих, как статистические знания должны использоваться в судах. Но именитые авторы этих отчетов просто предполагают, что личные вероятности и байесовские рассуждения являются подходящими средствами для работы с широким спектром неопределенностей. Неявно, они рассматривают проблему как проблему незнания судом соответствующей математики.

Их анализ рассматривает вопрос, стоящий перед судом, как вопрос определения относительной вероятности двух взаимно исчерпывающих и исключительных утверждений - с одной стороны, что утверждение обвинения или истца является истинным, с другой стороны, что утверждение защиты является истинным. Проблема Монти Холла имеет такую исчерпывающую и исключительную структуру. Ключи находятся в том или ином ящике, а участник, с помощью или без помощи теоремы Байеса, оценивает относительные вероятности. Трудно представить, как аморфные представления обвинения и защиты в процессе Симпсона могли быть сформулированы таким образом. Действительно, защита Симпсона воспользовалась своим правом не предлагать какое-либо альтернативное объяснение, а просто поставить под сомнение правдоподобность версии обвинения. В деле Салли Кларк вопрос мог быть поставлен в терминах относительной вероятности: учитывая, что оба сына миссис Кларк умерли при необъяснимых обстоятельствах, какова вероятность того, что она убила их (версия обвинения), по сравнению с вероятностью того, что оба умерли в кроватке (версия защиты)? В качестве альтернативы суд, рассматривавший дело миссис Кларк, мог бы сформулировать вопрос как вопрос условной вероятности: "Учитывая тот невероятный факт, что оба ее малолетних ребенка умерли, какова вероятность того, что миссис Кларк убила их?". Но такие расчеты сопряжены с трудностями. Существует множество других объяснений смерти детей грудного возраста, кроме убийства. А "синдром внезапной детской смерти" - это не объяснение смерти, а признание отсутствия объяснения. Мы просто не знаем достаточно, чтобы разумно строить подобные дискуссии в вероятностных терминах.

Но, по крайней мере, это такие вопросы, как проблема Монти Холла, в которых полезно знание теоремы Байеса. Решение представляется как проблема "маленького мира", для которой есть определенное решение. Такой подход может быть полезен для организации мышления об определенных аспектах дела - например, о значимости доказательств ДНК - но не для понимания дела в целом. Как обнаружил Адсо, начинающий монах, ставший детективом в фильме "Имя розы" , "логика может быть особенно полезна, когда вы входите в нее, но затем выходите из нее": всеобъемлющее повествование всегда будет необходимо при принятии юридических решений. Работа суда всегда заключается в том, чтобы установить, "что здесь происходит" в уникальном деле. И это повествовательный, а не статистический вопрос.

Различия между вероятностными и юридическими рассуждениями

Судебное разбирательство - это наиболее систематический процесс принятия решений в условиях несовершенного знания - частичного незнания прошлого и большего незнания будущего. И эти процессы следуют стилю рассуждений, сильно отличающемуся от методов классической статистики.

Суды Англии, США и некоторых других стран работают по системе "общего права". В этих юрисдикциях существуют различные стандарты доказывания в гражданских (частные споры между сторонами) и уголовных делах. В гражданских делах требуется доказать правоту дела на основании "баланса вероятностей" (в Англии) или "перевеса доказательств" (в США) - формулировок, которые, как принято считать, имеют одинаковое значение. В уголовном деле, однако, вина обвиняемого должна быть доказана "вне всяких разумных сомнений".

Для людей, которые, как и мы, изучали экономику и статистику в университете, кажется, что эти фразы имеют очевидную интерпретацию. Баланс вероятностей" означает, что вероятность того, что предложение истинно, выше, чем вероятность того, что оно не истинно. Вероятность того, что оно истинно, должна превышать 50%. Но доказать истинность предложения "вне разумных сомнений" означает установить его истинность с очень высокой степенью вероятности - возможно, на уровне 95% или выше. Однако беседы с юристами показывают, что на самом деле все не так. Действительно, когда американских судей спросили, какая вероятность необходима для выполнения требования "перевеса доказательств", они не только предложили широкий спектр ответов, но большинство ответов были выше - иногда намного выше - чем 50%. Оценки американских присяжных заседателей различались более чем на.

И при вынесении решений или консультировании присяжных судьи в странах общего права решительно отказываются давать присяжным какой-либо численный ответ на вопрос о том, какая степень неопределенности представляет собой "разумное сомнение". Стандарт уголовного доказывания является жестким, поскольку несправедливость наказания невиновного воспринимается как большая, чем несправедливость освобождения виновного. Больше, но насколько больше? В Бытие 18 Авраам просит Бога определить, сколько праведников должно быть найдено в Содоме, чтобы город был пощажен. Хотя Авраам выторговал число до десяти, похоже, что только четыре члена семьи Лота соответствовали критериям праведности, и Содом был разрушен. Бог должен был уравновесить ошибку "первого типа" при отвержении истинной гипотезы и ошибку "второго типа" при принятии ложной гипотезы, и современный статистик сталкивается с той же проблемой. Медицинская экспертиза аналогично различает чувствительность (избегание ложноотрицательных результатов) и значимость (уязвимость к ложноположительным результатам) своих процедур и пытается их измерить - см. критику Гигеренцером маммографии в Главе 4. Почему юристы сопротивляются подобной количественной оценке?

Одно из объяснений, которому отдают предпочтение многие экономисты и статистики, заключается в том, что юристам просто не хватает адекватного понимания или знания статистических методов. И в этом есть доля правды. Суды часто с трудом разрешают удовлетворительно дела, в которых статистические доказательства играют важную роль, как показывают дела Кларка и Симпсона. Часто, как и в этих случаях, представленные статистические доказательства сами по себе запутаны и сбивают с толку. Судьи не обладают статистическими знаниями, а от присяжных, конечно, нельзя ожидать их наличия. Но те, кто осуждает неумение юристов считать, не признают веских причин, по которым вероятностные аргументы играют лишь ограниченную роль в вынесении правовых решений.

Английская и американская системы предоставляют как обвинению или истцу, так и защите возможность представить свои аргументы, но они не определяют результат, ссылаясь на соотношение вероятностей: относительные вероятности истинности альтернативных утверждений. Проблема родео", поставленная оксфордским философом Джонатаном Коэном в 1977 году, или аналогичная проблема "синего автобуса", описанная американским ученым-юристом Лоуренсом Трайбом, ставит вопрос следующим образом. На родео есть 1000 мест, и 499 билетов продано. Но в ограждении есть дыра, и арена переполнена. Организатор родео подает в суд на каждого из 1000 участников и выигрывает все дела по соотношению вероятностей.

Но ни один суд не вынесет такого решения, и, как мы полагаем, мало кто верит, что он должен это сделать - хотя ученые-юристы дебатируют по этому вопросу уже сорок лет. Как заметил Коэн, "продвижение истины в долгосрочной перспективе не обязательно то же самое, что отправление правосудия в каждом отдельном случае. Это тяжело для отдельного человека, например, неиграющего на родео, если он должен проиграть свой конкретный иск, чтобы сохранить стохастическую вероятность успеха для системы в целом. Таким образом, если система существует для блага отдельных граждан, а не наоборот, то ... аргумент не работает". Трайб высказывает аналогичную мысль: "терпимость к системе, в которой, возможно, один невиновный человек из ста осуждается ошибочно, несмотря на попытки каждого присяжного сделать как можно меньше ошибок, в этом отношении значительно отличается от указания присяжным нацелиться на 1% (или даже 0,1%) ошибочных приговоров". 23

Пределы статистических рассуждений

Проблема, обозначенная Коэном и Трайбом, имеет более широкое значение, чем ее - важное - применение к судебному процессу. Статистическая дискриминация" - это термин, используемый для описания практики суждения людей по общим характеристикам группы, к которой они принадлежат. Например, некогда распространенная практика redlining - взимание большей платы за услуги, такие как кредит, с людей, проживающих в определенном районе, без учета их конкретной кредитной истории - была запрещена в США Законом о реинвестировании в жизнь общества 1977 года.

Несправедливость по отношению к отдельным лицам присуща любому применению статистической дискриминации. Даже если это правда, что в районе "красной черты" более высокий уровень неплатежей, чем среди населения в целом, на некоторых, возможно, многих людей, проживающих там, можно положиться в том, что они выплатят свои долги. Более того, "красная черта", безусловно, имела эффект, а возможно, и намерение, дискриминации в отношении афроамериканцев. Статистическая дискриминация на практике может быть механизмом косвенного осуществления политики, которая в случае открытого внедрения была бы незаконной или неприемлемой. Мы можем желать, чтобы полиция была более эффективной в раскрытии преступлений, но не хотим, чтобы она делала это, "собирая обычных подозреваемых. Цивилизованная судебная система относится к людям как к личностям, а не как к рисункам из статистического распределения.

Доступность больших данных, которые позволяют нам узнать гораздо больше о корреляциях - хотя и не обязательно о причинно-следственных связях - создает новые возможности для статистической дискриминации и новые опасности от ее использования. Аналогичные проблемы возникают в связи с развитием машинного обучения - компьютеры, обученные на исторических данных, будут разрабатывать алгоритмы, отражающие прошлые модели отбора, которые могут больше не быть ни уместными, ни приемлемыми. Даже если явное использование такой информации, как пол или раса, запрещено, алгоритмы могут иметь такие последствия - без сознательного намерения такой дискриминации со стороны кого бы то ни было.

И все же отказаться от статистической дискриминации было бы невозможно. Работодателям приходится отбирать кандидатов на работу из сотен заявок; университеты выбирают студентов из тысяч желающих. Они определяют резюме на основе критериев, которые в прошлом коррелировали с успехом. Работодатели ищут соответствующий опыт, университеты - высокие оценки за экзамены. Профилирование и методы остановки и обыска в работе полиции имеют нежелательные последствия, но никто не может разумно спорить с необходимостью сосредоточить ресурсы полиции на местах вероятного совершения преступлений.

Один из нас вспоминает, как слушал жалобу, поданную, разумеется, в университете, о том, что объявление о вакансии квалифицированного бухгалтера является дискриминационным. Было несложно добиться согласия с предложением о том, что люди с бухгалтерской квалификацией с большей вероятностью обладают соответствующими навыками для работы бухгалтером, чем люди, не имеющие такой квалификации, несмотря на то, что некоторые квалифицированные бухгалтеры некомпетентны, и есть люди без бухгалтерской квалификации, которые, тем не менее, разбираются в бухгалтерии. Большинство из нас предпочитает обратиться к квалифицированному врачу, а не опрашивать случайную выборку людей для оценки их медицинских знаний. Мы выигрываем от предварительного отбора людей, которые лучше нас самих квалифицированы для проведения теста на профессиональные знания и компетентность, хотя в этом случае возникает вопрос, как отбираются люди, которые проводят эти тесты. Дискриминация неизбежна, и вопрос заключается в том, как предотвратить неуместную дискриминацию. Но что является и что не является уместным - вопрос спорный и может меняться с течением времени.

Поэтому оказалось труднее справиться с аргументом, что люди с бухгалтерской квалификацией не представляют население в целом в отношении пола, этнической принадлежности, возраста и других характеристик. Это не так, и существует история, теперь уже в основном позади, неуместной дискриминации при отборе тех, кто проходил обучение , чтобы стать квалифицированными бухгалтерами. Но опускать то, что должно было быть бесспорным требованием для должности бухгалтера, означало бы тратить время тех, кто назначает на должность, и многих неудачливых претендентов. И намерение исключить представителей меньшинств не было даже отдаленно похоже на намерение тех, кто составлял объявление. Существует мало альтернатив прагматичному подходу, который оценивает дела по существу. Статистическая информация и вероятностные рассуждения часто имеют отношение к существу дела, но они не освобождают нас от главного требования: спросить "Что здесь происходит?". Мы вернемся к этим вопросам при обсуждении последствий радикальной неопределенности для страхования в Главе 18.

В суде нет байесовского циферблата над головой судьи. Судья, который приходит в суд в первый день процесса с предварительной вероятностью в голове, - плохой судья, а присяжных прямо предупреждают, чтобы они не принимали во внимание любые предварительные вероятности, которыми они могут обладать. И этим присяжным часто предписывается не принимать решения до того, как они выслушают все доказательства и соответствующие представления сторон. По веским причинам. Суды хотят осуществлять контроль над характером аргументов, используемых для определения исхода дела. И вдумчивые лица, принимающие решения в других областях жизни, должны поступать так же.

И разумная предварительная вероятность вины обвиняемого высока, поскольку люди обычно не оказываются на скамье подсудимых без причины. Но, следуя принципу, что правосудие должно осуществляться индивидуально, а не статистически, закон принимает презумпцию невиновности. Это очень отличается от идеи, что до заслушивания доказательств следует придавать равное предварительное значение вине и невиновности. Действительно, презумпция невиновности не может быть переведена в какую-либо конкретную цифровую вероятность вины в деле, включая ноль. Дело должно быть решено по существу. Принцип байесовского обновления предварительной вероятности вины несовместим с первоначальной презумпцией невиновности. Или с требованием в гражданском процессе, чтобы истец нес бремя доказывания.

Лучшее объяснение

Поскольку правосудие вершится не в среднем, а в отдельных случаях, голых статистических доказательств, в отсутствие повествования, никогда не бывает достаточно. Большинство убитых женщин убивают их сожители. Это может быть причиной для полиции выяснить местонахождение партнера - мы сомневаемся, что многие люди сочтут такое расследование неуместным применением статистической дискриминации. Но, что бы ни говорили нам частоты о вероятности, такая статистика без повествовательного контекста не может служить основанием для обвинительного приговора. Нам нужна история. Рассказы - это средство, с помощью которого люди - судьи, присяжные или люди, ведущие обычный образ жизни, - упорядочивают свои мысли и придают смысл предоставленным нам доказательствам.

Юридический стиль рассуждений, по сути абдуктивный, предполагает поиск "наилучшего объяснения" - убедительного повествования о событиях, имеющих отношение к делу. Великий юрист и судья Верховного суда США Оливер Уэнделл Холмс младший начал свое изложение философии права с замечания: "Жизнь закона не была логикой; она была опытом...". Закон воплощает в себе историю развития нации на протяжении многих веков, и с ним нельзя иметь дело так, как если бы он содержал только аксиомы и следствия из книги по математике". Поиск наилучшего объяснения начинается с возложения бремени доказывания на обвинение или истца, который должен представить отчет о соответствующих событиях и продемонстрировать, что этот отчет, если суд сочтет его убедительным, будет отвечать требованиям закона при установлении вины или ответственности. Защита может предложить альтернативный вариант, оспорить достоверность представленного изложения или просто отрицать, что бремя доказывания было выполнено. Таким образом, нарративная аргументация лежит в основе принятия правовых решений. Обвинение или истец должны представить отчет о соответствующих событиях. Результат зависит от качества этого объяснения. В гражданском процессе изложение должно быть хорошим, лучше, чем любое альтернативное изложение. Если это так, то истец добивается успеха на основании баланса вероятностей. В уголовном процессе объяснение должно быть достаточно убедительным, чтобы ни один существенно отличающийся рассказ о событиях не мог быть принят всерьез - версия обвинения будет доказана вне всяких разумных сомнений.

Хорошее" объяснение отвечает двум критериям - достоверности и последовательности. Оно согласуется с (большей частью) имеющихся доказательств и общими знаниями, доступными судьям и присяжным. Они знают, что люди редко решают проткнуть себе грудь ножом или проникают ночью в дома, чтобы вернуть потерянные вещи их законным владельцам. (Хотя судьи говорят присяжным, что они должны выносить свой вердикт только на основании доказательств, применение таких знаний "здравого смысла" о контексте является центральным для обоснования и функционирования суда присяжных). Хорошее объяснение демонстрирует внутреннюю согласованность, так что в целом рассказ о событиях имеет смысл. Лучшее объяснение можно отличить от других объяснений, и оно не совместимо с этими другими объяснениями. Статистическая аргументация имеет свое место, но только когда она интегрирована в общее повествование или наилучшее объяснение.

Радикальная неопределенность означает, что редко можно узнать полный набор возможных объяснений. Если "наилучшее объяснение" трудно согласовать с доказательствами, даже если это наилучшее из имеющихся объяснений, то юридическое дело, будь то гражданское или уголовное, не может быть успешным. Дальнейшее требование "баланса вероятностей" или "перевеса доказательств" заключается в том, чтобы наилучшее объяснение было значительно лучше любого альтернативного объяснения. А смысл выражения "вне разумных сомнений" заключается в том, что у присяжных не остается другого правдоподобного объяснения событий.

Рассуждение путем исключения возможно только в том случае, если известен полный набор возможностей. Таким образом, сентенция Шерлока Холмса о том, что "когда вы исключили невозможное, все, что остается, каким бы невероятным оно ни было, должно быть правдой", не может служить основанием для принятия решения в суде. Не стоит использовать эту сентенцию и в других реальных ситуациях. Спустя всего несколько минут после того, как Холмс произнес свою сентенцию, великий вымышленный врач сэр Джеймс Сондерс показал, что истинное объяснение загадочных событий было другим, более счастливым: медицинский диагноз болезни, о которой Шерлок Холмс не знал. Не действуют ли здесь тонкие силы, о которых мы мало что знаем?" - рассуждал сэр Джеймс. Сэр Джеймс был неравнодушен к понятию радикальной неопределенности.

Признание того, что "наилучшее объяснение" является основой правовой аргументации, решает вопрос, который озадачивал исследователей сравнительного права. Гражданское право Франции и Германии не признает различия между гражданским и уголовным бременем доказывания, которое является критическим в системах общего права Англии и США. С вероятностной точки зрения, это кажущееся различие в процедуре не имеет смысла: все согласны с тем, что для осуждения убийцы требуется более высокий стандарт доказательств, чем для решения спорных условий контракта. И это так же верно во Франции или Германии, как и в Англии или США. Юрисдикции общего права ориентированы на состязательный процесс, в котором стороны представляют конкурирующие версии и оспаривают версию, представленную другой стороной, а судья играет относительно пассивную роль, выслушивая эти заявления, прежде чем вынести решение между ними или предложить вынести вердикт присяжных, которых великий английский юрист сэр Уильям Блэкстоун назвал "судом, состоящим из двенадцати хороших и правдивых людей". Эта практика до сих пор сохраняется в английском и американском праве. В странах гражданского права судьи играют роль следователей и инквизиторов. Глубина расследования и дознания, которую судья сочтет необходимой, зависит от серьезности вопросов. Во Франции, например, присяжные назначаются только в самых серьезных уголовных делах, а когда к ним обращаются, они заседают вместе с тремя профессиональными судьями. Таким образом, в странах гражданского права значение понятия "бремя доказывания" совершенно иное, чем в договорном споре и в суде по делу об убийстве.

Рискуя сильно упростить, мы можем подвести итог , сказав, что в юрисдикциях общего права истец или сторона обвинения предоставляет объяснение, а суд определяет, соответствует ли оно требуемому стандарту; в юрисдикциях гражданского права судья стремится построить наилучшее объяснение. Как и следовало ожидать, практические различия между этими двумя видами процесса менее заметны, чем может показаться из различий в их институтах.

В своем мощном обращении к студентам Принстона Энн-Мари Слотер, выдающийся американский юрист-международник, работавшая в Белом доме Обамы, утверждала:

Мыслить как адвокат означает также, что вы можете приводить аргументы в пользу любой стороны любого вопроса. Многие из вас сопротивляются этому учению, думая, что мы лишаем вас ваших личных принципов и убеждений, превращая вас в наемного убийцу. Напротив, научиться приводить аргументы с разных сторон вопроса - значит узнать, что есть аргументы с обеих сторон, и научиться их слышать. В этом заключается суть либеральной ценности толерантности, а также предпосылка порядка в обществе, которое предпочитает вступать в конфликт словами, а не оружием. Это наша лучшая надежда на рациональное обсуждение, на совместное решение проблем, основанное не на искоренении конфликта, а на его продуктивном направлении и сотрудничестве там, где это возможно".

В этом процессе рационального обдумывания статистические рассуждения могут помочь, но никогда не заменят повествовательные рассуждения. Мы развиваем повествование и используем его, чтобы убедить других в своей точке зрения. Мир радикальной неопределенности управляется не статистическими распределениями, а уникальными событиями и людьми. Правосудие требует процесса юридического обоснования, который уважает эту уникальность. Зал суда - это место, где можно рассказывать истории, оценивать и судить. Но, конечно, не единственное место.

Глава 12. Хорошие и плохие нарративы

Никто никогда не принимает решение из-за цифры. Им нужна история.

ДЭНИЕЛ КАНЕМАН

Когда мы описывали повороты Второй мировой войны и взлеты и падения предпринимателей в компьютерной индустрии, мы рассказывали об этих событиях не в вероятностных терминах, используемых статистиками, а в повествовательной манере, применяемой историками. Вероятностные рассуждения - относительно недавний инструмент, ему всего несколько веков. Нарративные рассуждения, напротив, существуют уже десятки тысяч лет. И сегодня оно очень актуально для нас. В литературе, как и в математике и науке, есть истина. Как заключил Майкл Льюис, пытаясь объяснить последствия экспериментальных выводов Канемана и Тверски, "истории, которые мы придумываем, уходящие корнями в нашу память, эффективно заменяют вероятностные суждения".

В Главе 9 мы описали, как в эпоху палеолита развивались расширенные социальные группы родства . С самого начала совместной деятельности людей охотники-собиратели создавали группы для обеспечения самозащиты и использования разделения труда. Когда люди начали общаться, они собирались вокруг костров, чтобы рассказывать истории - мы видим зачатки повествований двадцать тысяч лет назад в наскальных рисунках, например, в Ласко. Племена верхнего палеолита создавали героические эпосы и придумывали фантастические мифологии для объяснения непонятных им природных сил. Антрополог Полли Висснер собрала скрупулезные записи разговоров бушменов кунга - современных общин, чья практика, как считается, больше всего похожа на практику палеолитических обществ. В дневное время одна треть общения связана с экономическими вопросами (и столько же - с препирательствами - типичный современный офис устроен примерно так же). Но "после ужина и наступления темноты более суровое настроение дня смягчалось... Фокус разговора радикально менялся, так как экономические проблемы и социальное недовольство отходили на второй план. В это время 81% продолжительных бесед с участием многих людей посвящался рассказам; эти рассказы были в основном об известных людях и забавных, захватывающих или очаровательных выходках".

Рассказывание историй - это то, как люди обычно пытаются интерпретировать сложные ситуации. И такое повествование универсально. Бушмены собираются вокруг костра, а жители Манхэттена и Лондона сражаются за билеты на мюзикл "Гамильтон" . Люди - прирожденные рассказчики. И люди используют эти истории для принятия решений с помощью аналогий, для проверки аргументации и понимания процессов и фактов, а также для привлечения других людей к сотрудничеству в принятии и реализации хороших решений. Рассказы помогают как в понимании, так и в убеждении. А большинству людей удобнее работать с конкретным, чем с абстрактным. Как молодым преподавателям, так и более опытным ораторам, нам не потребовалось много времени, чтобы понять, что мы можем захватить аудиторию хорошей историей и потерять ее, рассказав несколько статистических данных или одно уравнение. .

Что делает рассказ "хорошим"? Качество изложения производит на нас самое непосредственное впечатление. Среди бушменов "истории рассказывали и мужчины, и женщины, особенно пожилые люди, которые овладели этим искусством. Руководители лагерей часто были хорошими рассказчиками, хотя и не только. Два лучших рассказчика в 1970-х годах были слепыми, но их ценили за юмор и умение говорить...". Те, кто слушал, получали удовольствие, собирая опыт других людей без каких-либо прямых затрат". А на Западе именно блестящее исполнение и исполнение привлекает нас к романам Джейн Остин, заставляет нас восхищаться Королевской шекспировской труппой и исполнителями в "Гамильтоне". Джонни Кокран, возглавивший защиту О. Дж. Симпсона, был лишь последним в длинном ряду красноречивых и ярких адвокатов. Но сила повествования в конечном счете заключается в его способности помочь нам разобраться в сложном и запутанном мире. Возможно, Кокран слабо разбирался в вероятности, но его успех был достигнут перед преимущественно чернокожими присяжными благодаря тому, что он поместил дело Симпсона в более широкое повествование об устойчивой враждебности между полицейским департаментом Лос-Анджелеса и афроамериканской общиной.

Спектакль усиливает повествование, но даже когда может показаться, что спектакль - это все, как и в случае с произведением искусства, повествовательный контекст является ключом к полной оценке. Даже в школьной постановке "Как вам это понравится" - великая пьеса. Достоверность - это соответствие повествования реальному или воображаемому человеческому опыту. Достоверность в этом смысле не то же самое, что истина; "Гордость и предубеждение" не является истиной, но заслуживает доверия. Сквозь зазеркалье" , явно не являясь рассказом о возможных событиях, вызывает определенное доверие благодаря связи фантазий Кэрролла с реальными явлениями; "Красная королева", которая должна бежать быстрее, чтобы оставаться на том же месте, является мощной экономической метафорой, а "Бармаглот" не лишен смысла, хотя мы уместно называем его бессмысленным стихом. Достоверность тесно связана с последовательностью: история является последовательной, если ее компоненты внутренне непротиворечивы. Шекспир связывает концы с концами в V акте. Мы доходим до конца повествования удовлетворенными, потому что чувствуем, что знаем, "что здесь происходит". Достоверность и связность - отличительные черты убедительного объяснения.

Нарратив - это не просто синоним вербальной коммуникации. Вербальная коммуникация также не является менее "научной", чем алгебраическая или другая символическая коммуникация. Чтобы справиться с радикальной неопределенностью, мы пытаемся сформировать связный и достоверный ответ на вопрос "Что здесь происходит?". Это эффективное использование нарратива резко контрастирует с идеей о том, что нарративы - это обращение к плохо информированным и "предвзятым" агентам, которые предпочитают рассказ вычислениям.

Загадка для многих может оказаться решаемой проблемой для немногих, как в случае с миссией НАСА на Меркурий или в "Приключениях Шерлока Холмса". Все подсказки, необходимые для решения головоломки в классическом криминальном романе, заложены в тексте, но только великий сыщик может отличить подсказки от ложных запахов и решить головоломку. Криминальный роман, как и кроссворд, - это искусственная конструкция, придуманная составителем. Читатель знает, что автор предоставит решение в конце книги - если только, как обнаружил Тони Хэнкок в радиосериале BBC, вы не дойдете до конца и не обнаружите, что последняя страница вырвана. Но многие проблемы, с которыми мы сталкиваемся, как отдельные люди в нашей повседневной жизни или коллективно в государственной политике, не обещают разрешения в последней главе. Последняя страница еще не написана, и, возможно, мы никогда не дойдем до нее.

Невозможность отразить сложность повествования с помощью субъективных вероятностей проиллюстрирована в фильме "Сквозь зазеркалье" , но в равной степени применима и в реальном мире. Столкнувшись с такими же уникальными, но более важными проблемами, чем встречи с воображаемыми существами, Рузвельт не смог предвидеть Перл-Харбор , а Сталин был ослеплен немецким вторжением, хотя оба были снабжены конкретными разведданными о неизбежности нападения. Эти неудачи в прогнозировании Рузвельта и Сталина отражают не неверные оценки вероятностей, а слабость воображения относительно того, что может ждать нас в будущем. Лорд Кельвин не мог предвидеть существование аэропланов. Леонардо да Винчи задумал пилотируемый полет, но Кельвин, приземленный ученый, не мог понять, как этого можно достичь. Научная фантастика - это выход для воображаемых путешествий в будущее, и никто не может здраво оценить вероятность событий, описанных в этих спекуляциях; они иллюстрируют, как повествование может быть использовано для того, чтобы бросить вызов существующим представлениям о том, как устроен мир.

Метафоры, которыми мы живем

Наша потребность в повествованиях настолько сильна, что многие люди испытывают потребность во всеобъемлющем повествовании - некой объединяющей объясняющей теме или группе связанных тем с очень общей применимостью. Эти грандиозные повествования могут помочь им поверить, что сложностью можно управлять, что существует некая история, которая описывает "мир таким, какой он есть на самом деле". Каждый новый опыт или кусок информации может быть интерпретирован в свете этого всеобъемлющего повествования.

Даже на переднем крае науки, в теоретической физике, поиск единой теории всего на протяжении двух десятилетий занимал область вокруг спорного изложения теории струн. Идея о том, что физика может дать исчерпывающее описание "физического мира, каким он является на самом деле", хотя и спорна, но не смехотворна. Но в применении к человеческому поведению это утверждение просто смехотворно.

Ложные нарративы, тем не менее, могут быть социально полезными. Бушмены Калахари, как и представители многих донаучных культур, верят, что гром и молния выражают гнев богов. Но в худшем случае эта вера действует как сдерживающее влияние на поведение, которое боги могут не одобрить. И почти во всех донаучных культурах, которые мы изучали, суеверные и часто пространные повествования используются для "объяснения" непонятных природных явлений. Вера в жизнь после смерти, как и необходимость умилостивить божества, чтобы избежать неблагоприятной погоды, в основном благотворно влияет на поведение и обеспечивает утешение умирающим, их друзьям и родственникам. Но повествование о будущей лучшей жизни может нанести огромный вред, если оно перерастает в утверждение, что джихадистов-смертников в раю будут встречать приветливые девственницы.

Религия была источником всеобъемлющего повествования в большинстве обществ. И для многих людей она до сих пор остается таковой, а сегодня в основном является благотворной силой, обеспечивая моральный кодекс и чувство направления для своих приверженцев. В тех регионах и сегментах обществ, где религиозные верования сократились, пространство, оставленное отступившим потоком религиозной веры, для многих заполнилось сначала марксизмом, а в последнее время рыночным фундаментализмом и экологизмом. Джордж Элиот незабываемо карикатурно изобразила повествование напыщенного и педантичного Эдварда Касобона, который вообразил, что нашел ключ ко всем мифологиям.

В центре нашей индивидуальной жизни часто находятся личные нарративы - "метафоры, которыми мы живем". Термин "парадигма повествования" принадлежит американскому исследователю коммуникации Уолтеру Фишеру. В его фундаментальной работе о роли нарративов центральными произведениями являются "Смерть коммивояжера" Артура Миллера и "Великий Гэтсби" Ф. Скотта Фицджеральда . Каждое из этих произведений входит в число величайших произведений американской литературы двадцатого века, и оба описывают крах ложных нарративов, которые построили для себя их главные герои. И пьеса, и роман иллюстрируют опустошение, которое последовало за этим крахом. Та же тема пронзительно раскрывается в романе Кадзуо Исигуро "Остаток дня" . .

Хорошее суждение

Американский политолог Филип Тетлок в течение двух десятилетий накапливал прогнозы предполагаемых экспертов, в основном в отношении геополитических событий, и оценивал их точность. Такая оценка требует, чтобы вопрос, поставленный перед прогнозистом, был конкретным и привязанным к временной шкале; в противном случае прогнозист легко найдет оправдание своей неудаче в сбивающих с толку факторах. Провалившиеся гуру утверждают, что их прогноз был по сути верным, хотя нам может показаться иначе; или же они говорят нам, что дата, когда их тезис подтвердится, еще не наступила. Именно поэтому Тетлок задает вопросы, результаты которых бинарны и поддаются количественной оценке, например, "Будет ли число зарегистрированных сирийских беженцев, о которых Агентство ООН по делам беженцев сообщило на 1 апреля 2014 года, меньше 2,6 миллиона? " Как мы заметили в Главе 2, это требование окончательного подтверждения исключает многие вопросы, на которые мы жаждем получить ответы. Тетлок утверждает, что, отвечая на множество мелких - и часто неинтересных - вопросов, подобных этому, мы можем сформировать мнение о вопросах, которые нас действительно волнуют. Но ответы на большие вопросы, например, какова должна быть реакция Америки на геополитические последствия гражданской войны в Сирии, - это нечто большее, чем сумма ответов на маленькие вопросы.

Оценка Тетлоком точности исторических прогнозов дает полезное представление о том, что характеризует надежных и ненадежных прогнозистов. Мало кто из читателей удивится тому, что в ходе своей первоначальной работы Тетлок узнал, что прогнозисты в его выборке были не очень хороши; они были немногим лучше шимпанзе, бросающего дротики. Что, пожалуй, наиболее удивительно, так это то, что он обнаружил, что главным фактором, отличающим хороших прогнозистов от плохих, была известность прогнозиста. Чем известнее человек, чем чаще о прогнозисте пишут СМИ, чем чаще к нему обращаются политики и руководители предприятий, тем меньше доверия должно быть к его прогнозам.

Интригующее объяснение Тетлока основывается на различии, впервые проведенном греческим поэтом Архилохом, развитом Толстым и впоследствии популяризированном Исайей Берлином, между "ежом" и "лисой". Ежик знает одну большую вещь, лиса - много маленьких вещей. Ежик придерживается какого-то всеобъемлющего повествования; лиса скептически относится к силе любого всеобъемлющего повествования. Ежик подходит к большинству неопределенностей с сильными предубеждениями; лиса пытается собрать доказательства, прежде чем сформировать мнение о том, "что здесь происходит". У нас обоих есть опыт общения с исследователями для радио- и телевизионных программ: если вы выскажете однозначное и - для предпочтения - экстремальное мнение, машина уже едет, чтобы отвезти вас в студию; если вы предположите, что вопрос сложный, вас поблагодарят за совет и предложат перезвонить. Но так бывает редко. Понятно, что люди любят четкие мнения, но правда в том, что многие вопросы неизбежно предполагают высказывание "с одной стороны, но с другой стороны".

Мир выигрывает и от ежей, и от лис. Уинстон Черчилль и Стив Джобс были ежами, но если вам нужны точные прогнозы, то лучше нанять лис. Текущий проект Тетлока "Хорошее суждение", направленный на создание команд, которые не только хорошо прогнозируют, но и становятся лучше с опытом, предназначен для обучения лис.

Нарративы будущего

Француз Пьер Вак, бывший журналист и ученик восточных мистиков, был руководителем нетрадиционной нефтяной компании. В 1960-х годах он создал в Shell команду, которая разрабатывала альтернативные сценарии будущей операционной среды компании. Известно, что в начале 1973 года он представил высшему руководству сценарий, в котором производители нефти на Ближнем Востоке создали картель для установления монопольной власти. В октябре того же года между Израилем и его соседями разразилась война Йом-Кипур. Арабские государства ввели нефтяное эмбарго против США и других западных стран, которые воспринимались как сторонники Израиля. Цены на нефть резко выросли и продолжали расти даже после ослабления эмбарго в следующем году.

Ваку и его команде приписывают заслугу в том, что они помогли Shell предвидеть "нефтяной шок". С тех пор планирование сценариев занимает центральное место в стратегическом мышлении Shell, и другие компании проводят аналогичные мероприятия. В сценариях Shell широко используются количественные данные, и особое внимание уделяется их внутренней согласованности, но, по сути, они являются повествованиями. Полезное повествование может быть скорее скучной прозой, чем литературным шедевром - инструкцией по эксплуатации стиральной машины, а не "Гордостью и предубеждением", - но необычное происхождение Уока помогло привлечь внимание к его мышлению.

Сценарии - это полезный способ примириться с неопределенным будущим. Но приписывать вероятность какому-либо конкретному сценарию - ошибочно. Мы оба имели опыт описания альтернативных экономических сценариев будущего, когда нас спрашивают: "Так какой, по-вашему, произойдет?". Вопрошающий не готов к правильному ответу: "Я думаю, что очень маловероятно, что любой из этих сценариев будет развиваться так, как я описал". Сценарное планирование - это способ упорядочить мысли о будущем, а не предсказать его.

Любой человек, создающий новый бизнес, должен иметь бизнес-план. В этом плане будут указаны, как правило, на пять лет, ожидаемые расходы и доходы. Если вы ищете финансирование в банке или у "бизнес-ангелов", они будут настаивать на том, чтобы увидеть такой документ. Коммерческие электронные таблицы помогут вам заполнить цифры. Бухгалтеры и бизнес-консультанты будут рады помочь.

Бизнес-планы представляются как прогнозы, но это не так. Мы редко видели бизнес-план, в котором конечный результат хотя бы немного напоминал цифры в электронной таблице. Цель бизнес-плана - не прогнозирование, а обеспечение всеобъемлющей основы для постановки вопросов, которые должен решать любой бизнес: определение рынков, встреча с конкурентами, наем людей, помещений и оборудования. Несмотря на то, что бизнес-план состоит в основном из цифр - многие описывают электронную таблицу как модель, - его лучше всего рассматривать как повествование. Подготовка плана заставляет автора перевести видение в слова и цифры, чтобы рассказать последовательную и правдоподобную историю. Начинающий предприниматель, который не может составить последовательный и убедительный бизнес-план, не заслуживает и, как правило, не получает поддержки.

Учимся у художественной литературы - il n'y a pas de hors-texte

Повествование не обязательно должно быть правдивым, чтобы принести понимание. Собака, которая не лаяла в ночи - метафора, имеющая такое широкое значение, особенно в науке, что она стала клише:

ИНСПЕКТОР ГРЕГОРИ: "Есть ли еще какие-либо моменты, на которые вы хотели бы обратить мое внимание?

HOLMES: "К курьезному случаю с собакой в ночное время".

ГРИГОРИЙ: "Собака ничего не делала ночью".

HOLMES: 'Это был курьезный случай'.

Конан Дойль сделал наводящее на размышления наблюдение, не имеющее никакого отношения ни к собакам, ни к детективам. Джейн Остин дала краткое описание жизни своих вымышленных персонажей, которое донесло информацию до миллионов людей, которые никогда бы не стали читать академические изложения социальной истории. Гордость и предубеждение" - это настоящая жизнь в глубоком смысле, но посетитель Англии, который спрашивает "Могу ли я посетить дом, где жили мистер и миссис Беннет?", становится жертвой заблуждения.

А туристы, которые стоят в очереди у дома 221b по Бейкер-стрит в Лондоне, чтобы посетить комнаты Шерлока Холмса, не являются жертвами заблуждения, что там можно найти великого сыщика, а участвуют в забавной фантазии. Австралийский философ Марк Коливан задается вопросом: "Какова вероятность того, что Шерлок Холмс прошел по Гудж-стрит ровно семь раз?" Поскольку Шерлок Холмс - вымышленный персонаж, не существует фактов о частоте его хождения по Гудж-стрит, которые можно было бы установить. Единственное знание о Шерлоке Холмсе, которое мы имеем или можем иметь, содержится в тексте рассказов о Шерлоке Холмсе, написанных Конан Дойлем, хотя это осложняется тем, что последующие авторы рассказывают о других предполагаемых действиях Шерлока Холмса.

Среди исследователей английской литературы проблемы, возникающие в результате принятия художественного произведения за "мир, как он есть на самом деле", были карикатурно описаны почти столетие назад Лайонелом Найтсом в его знаменитом эссе How Many Children Had Lady Macbeth? Пьеса Шекспира дает представление о природе и границах амбиций, но не является рассказом об истории Шотландии (на которую она является пародией), а тем более о домашнем укладе семьи Макбет.

Когда мы читаем роман, смотрим пьесу Шекспира или слушаем притчу, мы можем пытаться понять "что здесь происходит" несколькими, взаимодополняющими способами. Аутичный ребенок-вундеркинд Джедедия Бакстон, когда его спросили, что он думает о "Ричарде III" , заметил (правильно), что пьеса содержит 12 445 слов. Некоторые читатели могут искать в тексте аллегории, которые могут говорить о более широких вещах за пределами книги, рассматривать, как текст вписывается в общую сеть литературы, о которой они знают, и просто думать о том, что он вызывает у них чувства. Продвигаясь глубже, они могут изучить контекст произведения: жизнь автора; исторические условия того времени; идеи, которые, как утверждают другие, были почерпнуты из произведения. Интерпретация всегда индивидуальна, всегда зависит от контекста.

Ирландский литературный критик Денис Донохью объясняет, как это работает: "Теория... имеет в себе атмосферу спекуляции... Мы используем теорию по назначению и отбрасываем ее, когда она отслужила свой срок". "Испытание" Франца Кафки - один из самых влиятельных романов двадцатого века. В нем рассказывается об опыте Йозефа К., которого арестовали без объяснения причин, и о его попытке сопротивляться и понять свой приговор. Является ли эта история комментарием к непрозрачной бюрократии Австро-Венгерской империи; выражением трудностей и страха Кафки перед жизнью; или просто мрачной абсурдистской трагикомедией? Роман можно читать как все эти вещи, и каждое прочтение дает нам новые способы оценить текст, но ни один из них не является тем, о чем он "на самом деле". Габриэль Гарсия Маркес сказал, что чтение "Метаморфоз" Кафки изменило его взгляд на писательскую деятельность: "Я подумал, что не знал, что кому-то позволено писать такие вещи. Если бы я знал, я бы уже давно начал писать". Качество вымышленного повествования определяется не тем, насколько оно правдиво, а тем, насколько оно познавательно. И как в любом другом произведении искусства, интерпретация - это дело зрителя, а не только составителя. Мы оцениваем "Макбета", в первую очередь, по качеству языка и постановки, а затем, более рефлексивно, по тому, как мы понимаем причины и последствия честолюбия. Мы знаем, что какие бы события ни описывались в политическом романе, таком как "Девятнадцать восемьдесят четыре" Джорджа Оруэлла или "Атлант расправил плечи" Айн Рэнд , качество произведения зависит в первую очередь от воспринимаемой элегантности повествования, а затем от эффективности и убедительности скрытых аргументов. .

Нарративы и эмоции

Люди - не компьютеры. Мы принимаем решения, используя суждения, инстинкты и эмоции. И когда мы объясняем принятые нами решения, либо себе, либо другим, наше объяснение обычно принимает повествовательную форму. Как утверждает Дэвид Такетт, социолог и психоаналитик, решения требуют от нас "достаточной убежденности в ожидаемых результатах, чтобы действовать". Нарративы - это механизм, с помощью которого вырабатывается убежденность. Нарративы лежат в основе нашего чувства идентичности и позволяют нам воссоздавать решения прошлого и представлять себе решения, с которыми мы столкнемся в будущем. Эмоции и человеческое познание не являются отдельными процессами. Развивая свою концепцию теории нарратива убеждения, Такетт предполагает, что лицо, принимающее решение, должно управлять "эмоциями, вызванными во время моделирования нарратива", чтобы выработать достаточное убеждение в отношении предлагаемого решения. Тезис Такетта был сформулирован после того, как он выслушал подробное описание участниками финансовых рынков того, как они на практике принимали решения. Преподобный Байес обсуждался редко.

Успешный бизнес строится на нарративах. Билл Гейтс и Стив Джобс противостояли скептицизму Олсена в отношении того, что кто-то захочет иметь компьютер в своем доме, и разработали новую историю персональных компьютеров; Джобс успешно принял - а Стив Балмер, преемник Гейтса, отверг - более позднюю историю, которая перенесла компьютер из телефона в облако и карман. Сэм Уолтон, основавший сеть магазинов Walmart, вспоминал: "Я все время концентрировался на создании самой лучшей розничной компании, которую мы только могли создать. Заработать личное состояние никогда не было моей целью".

Билл Аллен, скромный человек, которого против его воли затащили в кабинет генерального директора, понял вдохновляющую силу повествования. Он сделал компанию Boeing мировым лидером в гражданской авиации, решив "есть, дышать и спать в мире аэронавтики". Когда его компания приступила к реализации проекта по созданию самого большого в мире коммерческого самолета 747, неисполнительному директору, который попросил предоставить финансовые прогнозы, ответили, что некоторые исследования были проведены, но ответственный менеджер не помнит их результатов. За Алленом последовал Фил Кондит, который подчеркнул необходимость "среды, основанной на стоимости", позволил Airbus стать грозным соперником и не создал никакой стоимости для своих акционеров. При Аллене компания Boeing также представила самолет 737, который стал самым продаваемым самолетом в истории авиации. Спустя пятьдесят лет после выпуска этого самолета, испытывая трудности в конкуренции с более современным Airbus A320, Boeing решил не разрабатывать новый самолет, а установить на свой устаревший блокбастер экономичные двигатели. Эта модификация оказалась сложнее, чем ожидалось, потребовав сложных корректировок в управлении самолетом, и две аварии 737 Max в 2018 и 2019 годах удивительным образом напомнили катастрофы Comet 1954 года - результат непредвиденных последствий решения адаптировать более раннюю конструкцию к новым условиям. В авиации неизбежны сбои, а понимание систем не всегда успевает за их сложностью.

Мы наблюдали "бизнес-планы" стартапов во время безумия доткомов в 1999 году и сегодня в Кремниевой долине, которые описывают предприятия, целью которых является привлечение средств инвесторов, а не доходов от клиентов. Эти бизнес-планы редко выходят за рамки последующих раундов финансирования, и такие предприятия редко выживают. Убедительное повествование делает все возможное. Молодая, привлекательная и харизматичная Элизабет Холмс добилась финансирования в размере 750 миллионов долларов и на короткое время стала личным миллиардером благодаря своей компании Theranos. Ее продукт якобы мог выявить множество заболеваний по щепотке крови. Theranos предлагала свои услуги через аптеки и достигла пиковой рыночной капитализации в 9 миллиардов долларов. Но технологии не существовало. В 2018 году Холмс урегулировал обвинения в мошенничестве с ценными бумагами, выдвинутые Комиссией по ценным бумагам и биржам США, выплатив крупный штраф и согласившись не занимать должность директора или руководителя публичной компании; компания Theranos была ликвидирована. Холмсу до сих пор грозит уголовное преследование за ложные заявления об эффективности тестов корпорации. В течение десятилетия эта история оставалась неоспоримой для членов совета директоров, инвесторов и регулирующих органов и распуталась только тогда, когда журналист Wall Street Journal, проводивший расследование, продолжил задавать пронзительные вопросы. Успешные нарративы выдерживают постоянные испытания, а неуспешные вытесняются - иногда недостаточно быстро.

Нарративы и финансовые рынки

Современный финансовый мир полон шума. Том Вулф печально известный описал рев торгового зала как "звук молодых белых мужчин, жаждущих денег". Везде есть экраны, их постоянное мерцание сообщает о поступлении новых данных. Внизу движущаяся бегущая строка объявляет о том, что называется новостями. Над ним говорящие головы делают утверждения и контр-утверждения. 'Процентные ставки вырастут в третьем квартале'. 'Они останутся неизменными до конца года'.

Доминирующей характеристикой современных финансов является постоянное взаимодействие конкурирующих повествований. Роль экономиста в инвестиционном банке заключается в предоставлении историй, которыми продавцы могут побаловать своих клиентов, и которыми можно развлечь клиентов за обедом. В худших, но нередких случаях использования нарративов в финансах, трейдеры распространяют ложные нарративы в таких схемах, как "Доктор Зло" и "Дарт Вейдер", с целью нарушить добросовестные сделки с облигациями и электроэнергией в своих интересах. Нарративы, истинные и ложные, играют центральную роль на финансовых рынках. Американский экономист Роберт Шиллер недавно документально подтвердил важность и заразительный характер нарративов на финансовых рынках, а книга Такетта "Убеждение нарратив" о поведении трейдеров основана на обширном материале интервью.

Нарративы в финансах и бизнесе могут быть истинными или ложными, вредными или благотворными, но редко бывают безобидными. Ложные убеждения в том, что гром имеет сверхъестественное объяснение и что Солнечная система вращается вокруг Земли, не повлияли на цены акций и не оказали особого влияния на другие экономические явления. Но на финансовых рынках есть аналоги злых имамов, которые распространяют ложные убеждения в своих целях. Шиллер приводит множество иллюстраций тривиальных или ложных нарративов, которые, тем не менее, привлекли широкое внимание. Такие ложные нарративы могут циркулировать в течение некоторого времени. В Салеме не было ведьм, спад в американской экономике в 1920 году не был вызван военными спекулянтами, а американской демократии не угрожал широкомасштабный коммунистический заговор в 1950-х годах. Но тот факт, что некоторые люди верят, что атака на башни-близнецы в 2001 году была организована правительством США, не должен отвлекать нас от более важного наблюдения: наиболее распространенная причина заразительности нарративов заключается в том, что они согласуются с фактами и опытом. Разумные люди сегодня верят, что Земля вращается вокруг Солнца, что СПИД вызывается вирусом, передающимся через зараженную кровь, и что расовая сегрегация не только несправедлива, но и основана на лженауке, хотя многие разумные люди когда-то считали иначе. И преобладающее мнение по этим вопросам - "вероятность" в том смысле, который использовали древнегреческие риторы - изменилось, потому что существует рынок идей, на котором есть тенденция, не всегда достаточно быстрая, к тому, что новые правильные идеи вытесняют старые, ошибочные. Знания сами по себе являются предметом эволюционного процесса.

В мире, в котором перечислить все возможные исходы и их вероятности было бы невозможно, повествования являются важной частью наших рассуждений. Но это не просто способ , с помощью которого мы даем себе "наилучшее объяснение". Они играют важнейшую роль в том, как мы общаемся друг с другом и как принимаем коллективные решения. Нарративы меняются и развиваются с течением времени, и их необходимо постоянно оспаривать. В последующих главах мы обсудим процессы, с помощью которых мы создаем и представляем нарративы, а также способы, с помощью которых нарративы развиваются, оспариваются и изменяются.

Глава 13. Рассказывать истории с помощью цифр

Современные ученые заменили математику на эксперименты, и они блуждают уравнение за уравнением, и в итоге строят структуру, которая не имеет никакого отношения к реальности.

НИКОЛА ТЕСЛА, "Радиоэнергетика произведет революцию в мире" в журнале "Современная механика и изобретения" (июль 1934 г.)

Рроботизация позволила нам лучше понять то, о чем люди всегда - в общих чертах - знали. Первые таблицы смертности, например, Джона Граунта, были построены путем сбора многочисленных наблюдений за возрастом смерти, на основе которых можно было рассчитать вероятность смерти в любом конкретном возрасте и вероятность дожить до любого конкретного возраста. Было сделано замечательное открытие, что относительно небольшое количество математических формул способно описать множество различных наблюдаемых явлений. Если вы знали немного о распределении и соответствующую формулу для данного класса распределения, вы могли использовать эту информацию для расчета всего распределения. Колоколообразное "нормальное" распределение де Муавра, получило такое название потому, что встречалось так часто. Первые приложения были сделаны в физических науках, таких как астрономия, но в XIX веке бельгиец Адольф де Кетеле показал, что многие социальные явления также подчиняются нормальному распределению. Не будет преувеличением сказать, что это открытие открыло социальные науки для применения количественных методов, которые были основой естественных наук.

Половина всех американских мужчин, родившихся между 1977 и 1987 годами, имеют рост выше 5 футов 9½ дюймов, а 5 футов 9½ дюймов - это также средний рост американских мужчин, родившихся в этом десятилетии. Нормальное распределение описывает рост американских мужчин. Оно также приближенно описывает распределение ежедневных процентных изменений цен на акции (хотя и недостаточно хорошо для целей управления рисками, поскольку нормальное распределение плохо описывает крайние, или "хвосты", финансовых результатов). А когда в двадцатом веке была разработана квантовая механика, нормальное распределение сыграло важную роль в понимании положения и импульса элементарных частиц.

Откуда мы знаем, что средний рост американских мужчин составляет 5 футов 9½ дюймов? Никак. Ни один человек или агентство не измеряли всех американцев, и сделать это было бы практически невозможно. Методы классической статистики, разработанные в конце XIX - начале XX века, позволили вывести свойства популяции из свойств выборки. Бюро переписи населения получает оценку распределения роста и многих других характеристик американского населения из Национального обследования здоровья и питания (NHANES), в рамках которого ежегодно проводится комплексное медицинское обследование около пяти тысяч американцев.

Почти каждый, кто знакомится со статистикой, удивляется уверенности, с которой делаются оценки на основе небольших выборок. В любой год только один из шестидесяти тысяч американцев примет участие в NHANES, так что маловероятно не только то, что любой человек когда-либо примет участие, но и то, что он или она не знает никого, кто принял участие. Тем не менее, при условии, что выбранные люди являются случайной выборкой населения - а этого трудно не только добиться, но и проверить, что это было достигнуто - ошибка в расчете среднего роста ничтожна.

Такой статистический анализ позволяет оценить не только средний рост, но и распределение ошибки в оценке среднего роста. Рост американских мужчин является результатом совокупности многих факторов - роста родителей, продолжительности беременности и раннего питания. Центральная предельная теорема вероятности гласит, что если переменная является суммой большого числа факторов, которые сами по себе случайны и независимы друг от друга, то результирующее распределение этой переменной будет нормальным. Предположение о независимых аддитивных влияниях достаточно хорошо описывает процесс определения роста, поэтому распределение роста американцев является приблизительно нормальным.

Только 20% американских мужчин имеют рост более 6 футов и еще 20% - менее 5 футов 7 дюймов. Средний показатель, или среднее значение, распределения составляет 5 футов 9½ дюймов, а стандартное отклонение - мера изменчивости - 2¾ дюйма. Эти два параметра говорят вам все, что нужно знать о распределении роста в данной популяции. С помощью таблиц распределения вы можете оценить, какая часть населения будет выше или ниже определенного роста. Две трети мужчин находятся в пределах одного стандартного отклонения от среднего значения - это свойство нормального распределения. Число мужчин ростом выше 6 футов 4 дюйма или ниже 5 футов 3 дюймов слишком мало, чтобы выборка, проведенная Бюро переписи населения США, могла дать надежную оценку доли населения. Эти крайние значения представляют собой хвосты распределения. Если бы вы увидели человека ростом 11 футов 6 дюймов (а вы этого не сделаете), вы бы наблюдали событие со стандартным отклонением 25, такое же редкое, как наблюдение г-на Виниара за движением финансовых цен.

Но нормальное распределение было лишь самым распространенным из семейства статистических распределений, которые были разработаны в девятнадцатом веке. Русский статистик Ладислав Борткевич проанализировал распределение смертей от конских ударов в четырнадцати различных корпусах прусской армии за два десятилетия с 1875 по 1894 год. Как и предполагал Борткевич, он смог использовать распределение Пуассона - другую формулу, названную в честь французского математика Симеона-Дени Пуассона, - чтобы сопоставить общее число смертей. В среднем, в корпусе от ударов лошадей умирало 0,7 человек в год, и только один год из двух - не умирало. Исходя из знания численности корпуса, его анализ позволил Борткевичу предсказать частоту смертей по годам для каждого отдельного корпуса. Для многих студентов - включая авторов - подобные анализы стали судьбоносным откровением потенциала социальных наук. Казалось, что даже самые банальные человеческие дела могут быть рассмотрены с помощью научных методов; капризы греческих богов были укрощены.

Статистические распределения являются продуктом взаимодействия дедуктивных и индуктивных рассуждений. Методы дедукции описывают процесс, который приводит к появлению наблюдаемой переменной - рост американских мужчин, количество убитых прусских офицеров. Методы индукции изучают такие данные и формируют гипотезы о том, как эти данные были получены. Гипотеза может предсказывать распределение и подтверждаться наблюдением за ним, либо быть выведена после наблюдения за ним. В любом случае применимость анализа зависит от сохраняющейся валидности базовой модели.

Модель, использованная Борткевичем, потеряла актуальность после 1918 года. Разгромленная прусская армия исчезла, и если существует ее преемник - армия Федеративной Республики Германия, то эта армия больше не использует кавалерию, и ее офицеры вряд ли станут жертвами конных ударов. Возможно, те, кто подчеркивал капризы богов, все-таки были правы. Применимость моделей к человеческим делам более условна, более преходяща, чем их применимость к природным явлениям. Физики полагаются на стационарность - физические законы остаются неизменными век за веком. Экономические и социальные явления не являются такими же стационарными. Две великие войны двадцатого века изменили общество во многих отношениях, среди которых исчезновение прусских кавалерийских полков было лишь одним, причем не самым значительным. Эти фундаментальные изменения в мировой экономике представляют собой то, что экономисты называют сдвигом или структурным переломом.

Законы власти

Самым распространенным словом в английском языке является "the". В данной книге это слово используется 9742 раза и составляет около 7% от общего количества слов в книге. Второе по частоте употребления английское слово - 'of', за ним следует 'and'. Слова 'gadzooks', 'valetudinarian' и 'antidisestablishmentarianism', хотя и были приняты нашей системой проверки орфографии, не встречаются ни в этой книге, ни в какой-либо другой книге или статье, написанной кем-либо из нас.

Американский лингвист Джордж Ципф изучал частоту слов задолго до того, как такие задачи стали решать компьютеры, и сформулировал то, что известно как закон Ципфа. Если построить частоту слов на логарифмической шкале, то получится более или менее прямая линия с устойчивой зависимостью между популярностью слова и количеством слов с аналогичной популярностью. n-ое наиболее часто используемое слово встречается с частотой в 1/n раз большей, чем наиболее часто используемое слово. Количество слов не ограничивается числом в словаре Microsoft или даже в списках Оксфордского словаря английского языка . Существует множество слов , которые используются очень редко, например, каама, и каждый день изобретаются новые слова.

Этот тип распределения известен как закон мощности - еще одна широко применяемая математическая формула, которая заметно отличается от распределений классической статистики. В нормальном распределении среднее значение (среднее), медиана (середина) и мода (наиболее часто наблюдаемый результат) одинаковы. Эти показатели центральной тенденции будут несколько отличаться, если распределение логнормальное, но основная закономерность, при которой большинство наблюдений группируется вокруг центра, является общей для всех. Однако свойства распределений с силовым законом существенно отличаются. В частности, экстремальные результаты встречаются гораздо чаще, а среднее значение некоторых распределений по закону мощности невозможно вычислить. Если бы рост распределялся так же, как употребление слов, большинство мужчин были бы карликами (большинство слов вообще не употребляется), но несколько человек были бы ростом в сотни футов (человеческий эквивалент слов "the" и "of").

Законы мощности имеют гораздо более широкое применение, чем частота слов. Австралиец Дон Брэдман был величайшим бэтсменом в истории крикета, и установленный закон мощности позволяет нам оценить, сколько бэтсменов должно быть, прежде чем появится еще один такой же хороший, как Брэдман, сколько бэтсменов так же плохи, как авторы, и даже предположить, насколько хорош был Брэдман по сравнению с другими прекрасными игроками других видов спорта (потрясающе хорош).

Нормальное распределение имеет множество применений. Его можно применить к росту бэтсменов. Но не их мастерство - если бы это было возможно, то никогда бы не было игрока калибра Брэдмана, а также миллионов начинающих крикетистов, которые были бы уничтожены первым же мячом, пущенным компетентным соперником. Нормальное распределение также не может описывать землетрясения; если бы оно могло, то никогда не было бы землетрясения, подобного тому, которое произошло в Вальдивии в Чили в 1960 году, - самого большого, измеренного современным регистрирующим оборудованием. Землетрясения происходят по степенному закону - каждый день происходит множество мелких землетрясений, настолько мелких, что они проходят незамеченными. Так же как и астероиды - кратер Юкатана был образован самым крупным из известных нам астероидов, но Земля регулярно подвергается ударам объектов из космоса. Девятнадцатое октября 1987 года, когда основные американские фондовые индексы упали примерно на 20% в течение дня, является финансовым аналогом землетрясения в Вальдивии. Экстремальные события характерны для силовых законов и редки для нормальных распределений.

Применение законов мощности в экономике было впервые применено в начале 1960-х годов польско-франко-американским математиком Бенуа Мандельбротом. Он установил, что движение цен на хлопок может быть описано степенным законом. Силовые законы обладают свойством "масштабной инвариантности". Если вы посмотрите на снежинку под мощным микроскопом, то форма каждой маленькой детали, которую вы увидите, будет такой же, как и форма, которую вы видите невооруженным глазом. Свойство, создающее эту прекрасную структуру, называется фрактальной геометрией. График движения цен на ценные бумаги за каждую минуту очень похож на график движения цен на ценные бумаги за каждый день. Силовые законы лучше, чем нормальные и логнормальные распределения, улавливают крайние точки рыночных колебаний, что важно для контроля риска и понимания долгосрочных моделей доходности. Законы мощности могут быть даже полезны для понимания частоты использования буквы K.

Несмотря на очевидную широкую сферу применения степенных законов и эстетическую привлекательность лежащей в их основе математики, этот вид анализа получил гораздо меньше внимания со стороны экономистов и статистиков, чем традиционные распределения повседневной статистики, такие как нормальное. Слишком много интеллектуального капитала было вложено в предположения, которые, хотя и адекватны в большинстве случаев, не работают в ситуациях, приводящих к финансовым кризисам и другим экстремальным, а значит, важным результатам. Растущая способность получать и обрабатывать очень большие объемы данных может послужить стимулом для применения фрактальной математики и силовых законов для обеспечения общего описания как нормальных, так и экстремальных результатов.

Но хотя законы мощности хорошо описывают частоту и силу землетрясений, они почти ничего не дают для того, чтобы рассказать людям о том, что они действительно хотят знать - когда и где произойдет землетрясение, и насколько сильным оно будет? На эти вопросы можно ответить только при условии знания науки и химии подповерхностной геологии, а также способности наблюдать за тем, что происходит под земной корой, что находится за пределами нынешних возможностей соответствующей науки. И то же самое в еще большей степени относится к землетрясениям в сфере технологий, бизнеса и финансов. Наблюдения имеют мало ценности без понимания процессов, которые порождают эти наблюдения, а знание этих процессов столь же ограничено без теоретически обоснованного наблюдения.

Почему опросники общественного мнения спотыкаются

Вероятностная математика оказалась мощным инструментом для описания многих экономических и социальных явлений. Такие опросы, как NHANES о здоровье и питании небольшой группы людей, дают нам ценную информацию о характеристиках 300 миллионов американцев. Мы знаем, что данные хорошего качества, потому что результаты не сильно варьируются от года к году, и характер вариаций имеет смысл - средний рост увеличивается со временем, но не намного. Кроме того, данные согласуются с информацией, полученной из других источников.

Бюро переписи населения прилагает все усилия для того, чтобы респонденты NHANES представляли собой случайную выборку американцев. Но что именно подразумевается под "американцами"? Граждане? Жители? Люди, которые находятся в Америке в определенный день? Не существует единого всеобъемлющего реестра всех этих вещей. И поскольку никто не может быть обязан ответить на приглашение пройти медицинское обследование, даже если население будет выбрано случайным образом, Бюро не может ожидать, что обследуемое население будет таким, в котором каждый американец будет представлен с равной вероятностью. Процедуры NHANES, похоже, подтверждаются результатами. Но оценки населения, полученные на основе выборок, хороши лишь настолько, насколько хороши методы, использованные для построения этих выборок. Случайная выборка из большой совокупности людей используется для многих других целей, из которых наиболее спорным примером в последнее время является опрос общественного мнения для предсказания результатов выборов.

Когда опросы только начинались, масштаб этих трудностей с выборкой не был хорошо понят. Одним из крупнейших фиаско в истории опросов стало предсказание журнала Literary Digest результатов президентских выборов в США в 1936 году. Журнал ожидал победы кандидата от республиканцев Альфа Лэндона; его прогноз был основан на опросе 2,3 миллиона выборщиков. Результат действительно был ошеломительным: действующий президент Франклин Рузвельт победил во всех штатах Союза, кроме Мэна и Вермонта. Журнал разослал анкеты примерно десяти миллионам человек, используя свой собственный список подписчиков и записи телефонных абонентов и владельцев автомобилей. Но, особенно после Великой депрессии, эти группы не были репрезентативны для американского населения. А Рузвельт был поляризующей фигурой. Среди 2,3 миллиона человек, ответивших на запрос "Литерари Дайджест", было гораздо больше тех, кто возмущался его политикой Нового курса, чем тех, кто ее поддерживал - как правило, из более бедных семей.

Обвал похоронил журнал Literary Digest , который вскоре после этого закрылся. Но в то же время он создал репутацию малоизвестному тогда Джорджу Гэллапу, который правильно предсказал результат, используя методы "квотной выборки", и в течение нескольких десятилетий имя Гэллапа стало почти синонимом политических опросов. Квотная выборка стремится сопоставить характеристики респондентов с известными характеристиками американского населения в целом. Начиная с ответов людей, с которыми успешно контактируют опросчики, квотная выборка использует модель для оценки по полученным ответам, какими были бы ответы, если бы люди, дающие ответы, были случайной выборкой из населения. Современные опросчики, которые часто сталкиваются с низким уровнем ответов, знают, что их выборка ни в коем случае не является случайной, и теперь используют сложные и комплексные модели, чтобы скорректировать свою неспособность достичь случайности. Но это ставит опросчиков и тех, кто хочет использовать их результаты, перед проблемой Виниара: вероятность, полученная из модели, должна быть дополнена вероятностью того, что сама модель верна. Мы можем с пользой сказать что-то вроде "опросчики очень опытны" или "модель хорошо работала в прошлом" - как мы могли сказать о Нейте Сильвере до 2016 года. Но это суждения, а не заявления о вероятности. Поэтому очень трудно обосновать прикрепление статистического доверительного интервала к результатам опроса общественного мнения.

Это не последняя из проблем. Ответ на вопрос о намерениях голосовать должен быть переведен в прогноз поведения избирателей. Люди дают более честные ответы на одни вопросы, чем на другие; совокупная статистика продаж показывает, что они гораздо надежнее сообщают о потреблении молока, чем о потреблении алкоголя. Кроме того, необходимо преобразовать прогнозируемые доли голосов избирателей в ожидаемый результат выборов. Для референдума - такого, как голосование в Великобритании по Brexit в июне 2016 года, в котором все, что имело значение, это количество голосов с каждой стороны - этот перевод от голосов к результатам прост (хотя многие опросчики ошиблись в своих оценках голосов). Но когда президент выбирается коллегией выборщиков или состав правительства зависит от результатов в отдельных избирательных округах, требуется дополнительное моделирование. На двух крупных выборах 2016 года - президентских выборах в США и референдуме Brexit - неспособность опросчиков предугадать результат была следствием неспособности их моделей перевести исходные данные в точный прогноз - проявление проблемы Виниара.

После всеобщих выборов 2015 года в Великобритании, на которых Консервативная партия вопреки прогнозам получила абсолютное большинство голосов, и непредвиденных результатов референдума Brexit, многие опросчики в Великобритании продолжили корректировать свои модели, признавая, в частности, что их процедуры недооценивали силу консерваторов. В результате в ходе кампании по всеобщим выборам 2017 года прогнозы различных опросных групп были необычайно разбросаны. В итоге только две фирмы - YouGov и Survation - приблизились к правильному результату. YouGov правильно рассудила, что корректировки моделей, которые улучшили бы результаты опросов в 2015 году, сильно отличались от тех, которые требовали другие обстоятельства и другие вопросы 2017 года, когда студенты и другие молодые или космополитичные избиратели в неожиданно большом количестве голосовали против Консервативной партии Терезы Мэй. Survation, напротив, внесла меньше корректировок в свою первоначальную модель 2015 года, чем их конкуренты, и оказалась ближе, чем любая другая опросная группа, к окончательному результату. Очевидно, что любое предсказание опирается на некую базовую модель, и как достоверность предсказания, так и доверие к нему зависят от эмпирической релевантности этой модели. Даже когда проблема кажется чисто статистической - как считали многие опросчики - радикальная неопределенность и ее следствие нестационарности вмешиваются, чтобы сделать прогнозирование чем-то, кроме статистики.

Ложные истории и фальшивая статистика

В марте 2015 года британская бульварная газета Daily Express вышла с заголовком "Шоколад ускоряет потерю веса; исследование утверждает, что он снижает уровень холестерина и помогает заснуть". Подобные истории появились и в других СМИ. Они были основаны на статье, опубликованной в журнале International Archives of Medicine, который называет себя рецензируемым журналом с открытым доступом - одним из многих подобных журналов, некоторые из которых являются авторитетными, а некоторые - менее, которые появились в эпоху цифровых публикаций. Отчет был основан на исследовании; авторы действительно установили, что выбранная ими группа, которая придерживалась низкоуглеводной диеты, дополненной шоколадом, потеряла вес по сравнению с аналогичной группой, не употреблявшей шоколад. Потеря веса была названа "статистически значимой"; также было отмечено положительное влияние на уровень холестерина и сон, но оно было ниже уровня, который классическая частотная статистика считает значимым.

В исследовании точно сообщалось о его результатах, но на самом деле это была подделка, созданная немецкими учеными и журналистами, чтобы разоблачить низкие стандарты экспертной оценки, применяемые некоторыми якобы научными журналами, и доверчивость газет, их журналистов и редакторов. А их доверчивость стала примером, в крайней форме, широко распространенного злоупотребления вероятностными рассуждениями в науке и экономике. Что подразумевалось под "статистически значимым" в этом "исследовании", так это то, что вероятность того, что наблюдаемая в ходе исследования потеря веса является результатом случайности, составляла менее 5%. Но, как мы показали выше, любое утверждение о вероятности вытекает из модели, которая описывает, как были получены наблюдаемые данные, и обоснованность утверждения зависит от обоснованности модели. Что представляет собой модель в данном случае?

Эксперимент представлял собой плохо проведенный пример так называемого "рандомизированного контролируемого испытания" (РКИ), которое считается "золотым стандартом" исследований для оценки безопасности и эффективности новых лекарств. В настоящее время РКИ также становятся все более модными в экономических исследованиях. Цель состоит в том, чтобы выбрать две группы людей, которые различаются только по одному параметру - в данном случае по количеству съеденного ими шоколада. Очень трудно добиться того, чтобы группы были идентичны во всех остальных отношениях, хотя исследователи-клиницисты идут на крайние меры, чтобы добиться этого результата - например, они настаивают на проведении "двойных слепых" испытаний, в которых ни пациенты, ни врачи не знают, кто получает лекарство, а кто - только плацебо.

Даже в самых хорошо спланированных рандомизированных контролируемых исследованиях будет много неизбежных различий между испытуемыми и контрольной группой. Исследователи отметили, что испытуемые, употреблявшие шоколад, спали лучше; возможно, это было результатом большего потребления шоколада, но, скорее всего, нет. Возможно, они просто в среднем были более спокойными людьми. Неявное предположение заключается в том, что две исследуемые группы были идентичны во всех значимых аспектах, кроме потребления шоколада, где "значимый" означает все, что может повлиять на увеличение или потерю веса. Если бы это предположение было верным, то наблюдаемая разница была бы зарегистрирована только в одном из двадцати подобных исследований. Но трудно представить, что это предположение верно, или как можно узнать, что оно верно.

Было проведено множество, возможно, менее официальных испытаний, в ходе которых люди ели много шоколада и не смогли похудеть. Ни одно из них не попало в заголовки Daily Express. Исследователи склонны сообщать только о положительных результатах, потому что отрицательные результаты неинтересны, и это относится к более серьезным научным исследованиям, чем шоколадное "исследование". Как газеты не публикуют отчеты о безопасных улицах и безаварийных дорогах, так и академические журналы не принимают работы, демонстрирующие, что от поедания шоколада не худеют. Химики-исследователи по понятным причинам выделяют исследования, которые показывают положительное влияние изучаемых ими соединений, а фармацевтические компании имеют мощные стимулы для того, чтобы рекламировать эффективность своих продуктов, хороня, в буквальном и метафорическом смысле, свои неудачи.

Шоколадное "исследование" - это напоминание о том, что даже если препараты совершенно бесполезны и исследование действительно рандомизировано, "статистически значимый" результат будет получен в среднем в одном испытании из двадцати. Если не сообщать обо всех испытаниях, заявления о статистической значимости бессмысленны. И никто никогда не сообщит обо всех испытаниях, потому что люди не тратят время и деньги на то, чтобы доводить до конца исследования, которые даже не кажутся перспективными.

Загрузка...