В интернете кто-то неправ!

Однажды я год проработала шеф-редактором глянцевого журнала, и это был крупнейший источник познания жизни. Например, как-то раз одна большая и серьезная косметическая компания прислала нам красивую цветную брошюру с описанием разработанной ими чудодейственной молекулы для укрепления волос. Было заявлено, что молекула состоит из двух частей – минеральной и органической. Первая нужна, чтобы построить кремниевый каркас, вторая связывает его с волосами. Текст сопровождался следующей иллюстрацией:

Молекула рекламируемого вещества, ее кремниевое ядро и две минеральные части, связанные углеродной цепью.

Замирая от восторга, я отправила пиарщикам косметической компании письмо: “Скажите, а можно я буду использовать вашу брошюру в своих лекциях и книжках?” – “Конечно, можно!”, – радостно ответили пиарщики. “Спасибо, что не заподозрили неладного, – вздохнула я с облегчением. – Теперь должна вам признаться, что я буду ее использовать как пример того, что люди могут месяцами не замечать очевидных ошибок, если не настроены на их поиск”.

Произошло, как я понимаю, следующее. Какие-то дизайнеры – даже не в российском офисе компании, а во французском! – искали, чем бы проиллюстрировать свою брошюру про чудесное инновационное средство. Взяли из гугла первую попавшуюся картинку первой попавшейся молекулы – наверное, просто для того, чтобы сделать черновой вариант. А потом забыли поменять иллюстрацию на правильную. Утвердили. Напечатали. Перевели на все языки. Рассылали всем журналистам по крайней мере полгода. И никто не замечал никаких странностей.

Конечно, для того чтобы опознать на картинке аминокислоту серин, стандартный компонент любых белков нашего организма, нужно хорошо помнить биохимию. И даже для того, чтобы вообще понять, что это какая-то аминокислота, нужно как следует подумать: она на этой иллюстрации странно вывернута, ключевые группы – NH₂ и – COOH принято все-таки рисовать по краям. Но, милостивые господа присяжные, в описании говорится, что ключевая часть молекулы – это кремниевое ядро. Для того чтобы заметить, что на картинке вообще нет атома кремния, достаточно помнить, что он не обозначается ни буквой O, ни буквой C, ни буквой H, ни буквой N. Я не верю, что это знание отсутствует абсолютно у всех людей, читавших брошюру.

Просто мы так устроены, что мы автоматически распознаем ошибки только в хорошо известных нам областях. Биологу бросается в глаза ерунда в текстах по биологии, математику – ошибки в формулах, редактор или корректор звереет от перепутанных -ться и -тся, особенно когда ему пишут “хочу публиковатся в вашем журнале”. Для того чтобы отличить ямб от хорея, литературоведу достаточно услышать строчку из стихотворения – а нормальному человеку, даже если он помнит, что у хорея ударение на нечетных слогах, а у ямба на четных, надо посмотреть на написанную строчку, как следует подумать, позагибать пальцы – это интеллектуальное усилие, которое никто не будет делать, если кто-нибудь авторитетный уже сказал, что “буря мглою небо кроет” – классический пример ямба. Вас что-нибудь насторожило в предыдущем предложении?

Нам нравится знакомое

Одна из самых впечатляющих концепций в современной психологии – “когнитивная легкость”. Когда мы видим то, что ожидаем увидеть, то, что кажется нам привычным и знакомым, это доставляет нам удовольствие. И, что еще важнее, мы чувствуем, что все идет правильно.

Это очень важный адаптивный механизм. Животным он помогает не находиться все время в состоянии стресса. Когда ты видишь что-то незнакомое, нужно насторожиться. Обратная сторона медали – когда ты видишь знакомое, можно расслабиться. В самом деле, ведь в прошлый-то раз оно тебя не съело! У человека чувство когнитивной легкости выступает признаком хорошо освоенного навыка, проторенных дорожек между нейронами. Опытному водителю не надо задумываться, в какой последовательности переключать передачи, потому что переключать их правильно для него просто-напросто намного легче, чем переключать их как-нибудь иначе. Нобелевский лауреат Даниэль Канеман отмечает в своей книге “Думай медленно… решай быстро”, что чувство когнитивной легкости удобно использовать, когда вы сдаете экзамены-тесты, к которым когда-то готовились, но не очень хорошо: тот ответ, который кажется знакомым, скорее всего, и будет правильным.

К сожалению, иногда бывает, что чувство когнитивной легкости мешает оценивать ситуацию объективно, заметно притупляет критическое мышление. Мы довольны, когда видим то, что ожидали увидеть, и уже не придираемся к мелочам. Сотрудники косметической компании ожидали увидеть в своей брошюре химическую формулу. Вообще. Какую-нибудь. Когда они ее видели, у них возникало обманчивое чувство, что все правильно. У меня бы оно тоже возникло, если бы мне подсунули любую молекулу, в которой все-таки присутствовал бы атом кремния. Этого условия, вероятнее всего, хватило бы, чтобы вызвать чувство когнитивной легкости и доверия к источнику, даже если бы в остальном молекула плохо соответствовала описанию.

Одним из первых исследователей нашей склонности к знакомым вещам был психолог Абрахам Маслоу, получивший широкую известность благодаря пирамиде потребностей (которую он, кстати, никогда не рисовал – это последующее упрощенное изложение его идей)[1]. Маслоу устроил 15 студентам своего колледжа десятидневный марафон с кучей заданий, в ходе которого они должны были, зачастую сами того не осознавая, выбирать между знакомыми и незнакомыми ситуациями [1]. Студенты оценивали малоизвестные картины знаменитых художников (одинаково хорошие с точки зрения искусствоведов) и упорно считали более красивыми те из них, которые раньше попадались им в слайд-шоу. Студенты переписывали на карточки отдельные предложения из книжек, а на восьмой день каждому предложили заменить свою книжку на новую, и только трое согласились это сделать. На десятый день им разрешили не копировать предложения, а придумывать собственные, но этот вариант выбрали только два человека. Студентов первоначально рассадили в аудитории в алфавитном порядке, а в последний день разрешили самим выбрать себе места – никто не захотел ничего менять. Девять дней их кормили одним и тем же печеньем, а на десятый предложили взять другое – более 70 % испытуемых отказались.

Знакомое кажется нам хорошим и правильным независимо от того, есть ли у нас хоть какие-нибудь данные о том, что оно на самом деле лучше, чем альтернатива. Этот эффект легко объяснить, если речь идет о такой важной вещи, как печенье (незнакомая еда может оказаться невкусной или даже опасной!), но он наблюдается и тогда, когда выбор ни на что не влияет. Было проведено много экспериментов, в которых психологи под разными предлогами показывали испытуемым несуществующие турецкие слова, фальшивые китайские иероглифы и тому подобное, а затем просили угадать, что эти бессмысленные символы обозначают. Раз за разом выяснялось, что чем чаще человек видел незнакомое слово или символ, тем больше он был склонен приписать ему какое-нибудь хорошее значение [2]. Это работает, даже если сложные символы предъявляются быстро, всего на одну секунду, и толком рассмотреть их невозможно. Человек не узнаёт их при новой встрече, но считает, что они симпатичные. Психолог Роберт Зайонц назвал это эффектом простого предъявления. Среди прочего он (вместе с коллегами) продемонстрировал, что люди, которым показали много одинаковых иероглифов, после эксперимента пребывают в лучшем настроении, чем люди, которым показали много разных иероглифов, – притом что стимулы в этой работе показывали всего по 5 миллисекунд, так что осознать, одинаковые они или разные, было совершенно невозможно [3].

Нам нравится знакомое. Именно на этой особенности человеческого мозга паразитирует реклама. Если вы приходите в супермаркет и видите там 20 видов пармезана (предположим, что наша страна когда-нибудь отменит санкции), то единственное, на что приходится ориентироваться, если вы не сырный гурман, – это ощущение когнитивной легкости, которое вызывает у вас знакомая упаковка. И неважно, знакома ли она вам потому, что вы пробовали именно этот сыр, или потому, что вы, не осознав этого, видели ее краем глаза на рекламном постере в метро несколько дней назад.

На этой особенности человеческого мозга паразитирует не только реклама сыра, но и вещи попротивнее – антинаука или пропаганда. Если вам десять лет из каждого утюга рассказывают про гомеопатию, то ваш мозг начнет считать ее нормальной частью мира, в котором вы живете, и когда участковый врач назначит ее вашему простуженному ребенку, вы спокойно пойдете и купите ее в аптеке. Ну а что, все так делают.

Мы доверяем людям

Вообще, “все так делают” – это важнейший механизм для принятия иррациональных решений. Самые знаменитые эксперименты на эту тему проводил в 1950-х американский психолог Соломон Аш. Чтобы понять, в чем они заключались, внимательно посмотрите на иллюстрацию.

Первая линия на этой картинке соответствует по длине линии А. Но при этом начало линий сдвинуто таким образом, что возникает оптическая иллюзия: многим людям начинает казаться, что первая линия равна линии С. Пожалуйста, присмотритесь и постарайтесь хотя бы на секунду увидеть вещи такими, какие они есть.

Если у вас это получилось – поздравляю! Ваше достижение связано с тем, что вы, во-первых, слишком серьезно относитесь ко мне (или к печатному слову в принципе), а во-вторых, прислушались к псевдорациональному объяснению, которое я вам предложила. На самом деле, конечно же, первая линия равна линии С, и это вполне очевидно. Во всяком случае до тех пор, пока не появляются социальные влияния, призванные сбить вас с толку.

В экспериментах Соломона Аша, который использовал такие тесты, люди более чем в 99 % случаев верно оценивали длину линий, когда им никто не противоречил. Но вот если в эксперименте участвовал один настоящий испытуемый и несколько подсадных уток, которые уверенно давали неверный ответ, противостоять их влиянию оказывалось почти невозможно: из 123 испытуемых, которые участвовали в самой известной серии экспериментов [4], ни разу не ошибиться в серии из 12 карточек смогли только 29 человек (меньше четверти).

Впоследствии Соломон Аш и его последователи неоднократно воспроизводили эту экспериментальную ситуацию и проверяли, какие особенности проведения опытов могут оказать влияние на их результаты. Выяснилось, что частота ошибок резко падает, когда в группе есть еще хотя бы один человек, несогласный с мнением большинства. Причем этот эффект заметен не только в том случае, если второй человек говорит правду, – но и если он вообще выбирает третью линию [5]. В любом случае основной испытуемый видит, что, оказывается, можно не соглашаться, и начинает думать самостоятельно. Это, по-моему, очень важный вывод. Если вы не согласны с большинством, необходимо говорить об этом вслух. Даже если вы неправы, все равно это поможет окружающим начать принимать собственные решения.

Итак, под давлением общественности мы готовы поверить в неправдоподобные вещи. Особенно доверчивыми мы становимся, если на нас воздействует не просто какая-то там случайная общественность, а наша референтная группа – именно та прослойка людей, с которой мы сознательно или бессознательно себя сравниваем и на которую ориентируемся в принятии решений. В широком смысле это люди нашего социального слоя (допустим, того, в котором принято, чтобы все получали высшее образование), в узком смысле – люди, которых мы считаем “своими” и с оглядкой на которых формируем мнения по различным этическим и мировоззренческим вопросам (делать ли ребенку прививки? красть или не красть серебряные ложки? Крым наш?).

Все хорошие рекламные кампании базируются на том, чтобы создать у нас убеждение, что правильные люди – то сообщество, с которым мы себя уже идентифицируем или хотели бы идентифицировать, – выбирают операционную систему iOS, кока-колу или там телеканал “Дождь”[2]. Лженаука тоже процветает там, где есть благосклонная к ней референтная группа. Надо быть очень целеустремленным человеком, чтобы день за днем отстаивать в разговорах эволюционную теорию, если все ваши друзья смотрят на вас снисходительно и говорят, что никто ведь до сих пор не нашел переходное звено. В такой ситуации гораздо проще махнуть на эволюцию рукой. Тем более что ведь именно она, эволюция, и виновата в том, что для нас важна не столько абстрактная объективная истина, сколько убеждения, ценности и ритуалы, принятые в нашем племени. Это способствует сплоченности [6] – а сплоченность помогает выжить в трудные времена.

Мы любим закономерности

Биолог и научный журналист Александр Панчин однажды написал захватывающую антиутопию [7], в которой описан мир победившей лженауки. В нем сохранялись все формальные, внешние признаки научной деятельности (институты, эксперименты, экспертные заключения и так далее), но была полностью утрачена суть научного метода. Никого не беспокоило привлечение необъяснимых сущностей для затыкания дыр в теории (непонятно, как распространяется болезнь? Ничего страшного, введем понятие наведенного проклятия, и все снова логично выстраивается). Никого не волновала воспроизводимость экспериментов (нет никакой проблемы в том, что два разных астролога получают на основании одних и тех же данных совершенно разные результаты). И уж тем более никто не думал о фальсифицируемости научных теорий (в настоящей науке это важный критерий: должен теоретически существовать такой результат эксперимента, при получении которого теорию придется хотя бы частично пересмотреть, – например, с нашими представлениями о гравитации возникнут некоторые проблемы, если мы обнаружим условия, при которых яблоки падают с дерева вверх). Книга Панчина называется “Апофения”. Это термин, который обозначает человеческую склонность видеть взаимосвязи в случайных или бессмысленных данных[3].

На самом деле это не только человеческая склонность. Можно вспомнить знаменитых голубей Скиннера: голодных птиц помещали в ящик, который автоматически выдавал порцию корма каждые 15 секунд. При этом большинство голубей запоминали те действия, которые они – совершенно случайно – совершали в момент появления пищи, и начинали упорно их повторять, чтобы еще раз добыть еду. Один голубь крутился вокруг своей оси, другой хлопал крыльями, третий тянул голову в угол клетки. Еда в любом случае появлялась раз в 15 секунд, но голуби, надо полагать, были совершенно уверены, что делают все от них зависящее, чтобы поесть, – и ведь работает! Фредерик Скиннер сдержанно отмечает, что эксперимент демонстрирует формирование предрассудков и что здесь можно провести много аналогий с человеческим поведением [8].

Склонность искать закономерности в разрозненных данных – это тоже важнейшее и полезнейшее свойство нашего мозга. В принципе, можно сказать, что из него-то в свое время и выросла наука. Но вот сегодня весь научный метод, вся общепринятая практика проведения экспериментов и оценки результатов, наоборот, устроена таким образом, чтобы помешать исследователям находить связи там, где их нет. Именно для этого нужны контрольные группы, рандомизация, двойные слепые исследования и многие другие важные вещи, к которым мы еще вернемся.

Если не придерживаться научного метода, то в исследованиях можно получить практически все что угодно – было бы желание. Одна из самых известных таких историй связана с “открытием памяти воды”. В начале 1980-х французский иммунолог Жак Бенвенист и его коллеги работали с антителами к иммуноглобулину Е. Они могут воздействовать на человеческие базофилы (тип иммунных клеток), что приводит к выделению гистамина и к изменению свойств базофилов при окрашивании. Исследователи задались целью проверить, до какой степени можно развести раствор антител водой, чтобы эффект сохранился, и – внезапно! – в экспериментах обнаружилось, что разводить можно чуть ли не бесконечно. Растворы, в которых в силу простой арифметики уже не могло быть никаких антител, продолжали влиять на свойства базофилов. При этом в описании эксперимента не было существенных методологических проблем, и поэтому статью [9] опубликовали аж в Nature – с предисловием редактора Джона Мэддокса о том, что полученный эффект не согласуется с законами химии и в последующих номерах журнала непременно будут опубликованы результаты перепроверки данных. А в лабораторию Бенвениста отправилась делегация скептиков. В нее входили Джон Мэддокс (физик по образованию, научный редактор по профессии), Джеймс Рэнди (иллюзионист, учредитель премии в $1 000 000 тому, кто сможет продемонстрировать паранормальные способности в условиях корректного эксперимента, – премии, которую так пока никто и не получил[4]) и Уолтер Стюарт (сотрудник Национального института здоровья США). Уже через месяц они опубликовали в Nature отчет [10] о взаимодействии с лабораторией Бенвениста, в ходе которого выяснилась масса всего интересного.

Внимательное чтение лабораторных журналов показало, что иногда эффекта не удавалось достичь месяцами (но эти месяцы не учитывались при подготовке данных для публикации в Nature).

Двое соавторов Бенвениста вполне официально получали деньги от лаборатории Буарон – известного производителя гомеопатических препаратов.

Невозможно было утверждать, что в ходе работы образцы не подвергаются загрязнению (следовательно, могут воздействовать на клетки не из-за того, что там есть антитела или “память воды” об антителах, а потому, что в пробирки попал органический растворитель, используемый в лаборатории).

Но главное – во время экспериментов зачастую один и тот же человек и готовил разведения, и воздействовал на клетки, и подсчитывал число изменившихся клеток, и при этом точно знал, что у него за пробирка – с раствором антител или же контрольная, с водой.

Собственно, достаточно оказалось убрать последний фактор. Скептики сами пометили пробирки секретным шифром, запечатали его в конверт, повесили конверт под потолком лаборатории, и остаток недели сотрудники проводили эксперименты, не зная, где у них раствор антител, а где вода. Выяснилось, что при такой (нормальной и общепринятой) схеме эксперимента сотрудники Бенвениста решительно неспособны обнаружить какую-нибудь разницу между воздействием на клетки раствора антител и воздействием на клетки обычной воды. Мэддокс и его коллеги отметили в отчете, что Бенвенист, по всей видимости, не стремился к обману сознательно, а действительно считал, что совершил открытие.

Ошибаться легко

По данным ВЦИОМ, 32 % наших соотечественников считают, что Солнце вращается вокруг Земли. 29 % убеждены, что люди жили одновременно с динозаврами. 46 % сообщили, что антибиотики убивают вирусы так же хорошо, как и бактерии [11]. Первые два убеждения, положим, обычно не приносят проблем их обладателям (хотя можно попасть в неловкую ситуацию в разговоре), а вот третье чревато серьезными последствиями и для человека (который ест бесполезные лекарства с побочными эффектами), и для общества (неразумный прием антибиотиков способствует появлению устойчивых к ним бактерий). Мне-то, положим, смешно. Я-то, положим, на это бы не купилась. Но вот если внезапно загнать меня в угол и задать несколько вопросов из гуманитарной сферы, я продемонстрирую примерно такой же уровень осведомленности.

Информации в мире жутко много, и с каждым годом ее не просто становится больше, но и сам ее объем начинает увеличиваться быстрее. Школьная программа отстает от науки по крайней мере лет на двадцать, охватывает далеко не все важные области и к тому же усваивается в полной мере ничтожным процентом учеников. Университет дает более или менее адекватную картину базовых знаний в какой-нибудь одной области, но через пять лет она оказывается в значительной степени устаревшей. На самом деле единственный навык, на который имеет смысл делать ставку в такой ситуации, – это умение пользоваться поисковыми системами, находить нужную информацию и отличать авторитетные источники от низкокачественных. И вот этому-то в школе и не учат вообще. В университете учат, но мало и плохо. А чем меньше развит навык перепроверять информацию и разбираться, тем в большей степени человек склонен принимать на веру те концепции, которые ему случайно где-то попались, – чем активно пользуются шарлатаны всех мастей.

Кроме шарлатанов, нелюбовью людей к поисковым системам пользуются научные журналисты[5]. Для нас это тоже источник заработка. Мы – люди, которым нравится гуглить. Нам платят деньги за то, что мы погуглили вместо читателей и преподнесли им информацию в структурированном виде. От всех остальных журналистов мы отличаемся тем, что основной источник информации для нас – это статьи, опубликованные в рецензируемых журналах, желательно метаанализы, то есть обобщение результатов большого количества исследований.

Да, это не гарантия абсолютной истины – но наиболее эффективная попытка к ней приблизиться. На сегодняшний день человечество не изобрело лучшего способа минимизировать вероятность когнитивных искажений, чем научный метод.

Когда нам нужно принимать решения в условиях недостатка информации (то есть вообще всегда), мы прекрасно умеем ориентироваться на интуитивные представления о хорошем и плохом, оперировать единичными знакомыми нам примерами, идентифицироваться с референтной группой. Все это хорошо, все это обычно работает, именно на это была направлена эволюция нашего мозга. До недавнего времени у человечества не было науки, до совсем недавнего времени не было всеобщего мгновенного доступа к результатам исследований, а действовать-то как-то надо было. Но сейчас наступило светлое будущее. Сейчас нам уже не обязательно принимать важные решения в условиях острого недостатка информации. Всегда найдется исследование, в котором кто-нибудь уже сравнил хотя бы сотню людей, принявших решение А, с сотней людей, принявших решение Б, и выяснил, кто из них в результате оказался более благополучным. Учитывая чужие результаты, мы можем существенно повысить и вероятность собственного удачного выбора, и глупо было бы игнорировать такую возможность.

В этой книге я рассмотрела несколько областей человеческой деятельности, часто вызывающих бурные споры, и привела примеры научных исследований, которые позволяют сравнить степень обоснованности альтернативных точек зрения. Выбор тем во многом произвольный – это либо то, о чем я когда-либо бурно спорила сама, либо то, о чем меня часто спрашивают незнакомые люди. Из-за того, что темы разные, и сама книжка получилась неоднородная: первые главы, про медицину, более занудные и насыщенные информацией; последние главы, про социум, более легкомысленные и содержат больше авторских оценочных суждений (хотя и исследования тоже, конечно). В первых главах есть несколько мест, объективно сложных для восприятия, – например, о работе иммунитета, жизненном цикле ВИЧ, работе системы CRISPR/Cas₉. Если вы совсем не интересуетесь молекулярной биологией, эти фрагменты можно пролистать – это не должно радикально ухудшить понимание остального текста. И вообще, книжку не обязательно читать подряд, можно открывать на той главе, которая касается вашей сегодняшней сферы интересов. Мои авторские амбиции преимущественно связаны не с тем, чтобы навязать вам набор правильных мемов, убедить, что гомеопатия не работает, ГМО безопасны и так далее. У меня другая основная задача: срубить сук, на котором сижу, сделать так, чтобы читатель меньше зависел от научного журналиста в поиске и анализе информации. В данном случае мне важен даже не вопрос о том, работает ли гомеопатия. Важнее показать, как именно я пришла к ответу. Максимально раскрыть карты. Лишить свою профессию ореола таинственности. Показать, что читать научные статьи под силу более или менее каждому, и продемонстрировать на конкретных примерах, почему способность оперировать научной информацией – это очень полезный навык, повышающий коммуникативную ценность, личную безопасность и уровень интереса к жизни.

И, разумеется, позволяющий вам с блеском побеждать каждый раз, когда в интернете кто-то неправ.