Истинный творец всего. Как человеческий мозг сформировал вселенную в том виде, в котором мы ее воспринимаем

Глава 12 Как зависимость от цифровой логики изменяет наш мозг

Всередине 2000-х годов любому желающему оглянуться вокруг и сделать выводы уже были хорошо видны первые признаки этого процесса. У меня на это ушло некоторое время, но в конце концов и я осознал, что происходит.

Проезжая на метро по центру Токио в час пик осенью 2004 года, я был удивлен царящей в вагоне глубокой тишиной. Поначалу я подумал, что это просто отражение японской культуры. Однако, быстро осмотревшись, я понял, что причина тишины была совсем иной: все пассажиры уставились в свои смартфоны, и их молчание показывало, что, хотя физически они были в поезде, мысли большинства из них витали где-то в другом месте — в отдаленном и тогда еще безграничном, только недавно открытом киберпространстве. В качестве основоположника массового рыночного производства мобильных телефонов и их следующего более сложного поколения, смартфонов, Япония стала социальной лабораторией для явления, которое, как вирус, вскоре распространилось по всему миру. Понятно, что сегодня в любом общественном месте, будь то аэропорт или спортивный стадион перед началом игры, многие из нас погружены в свои мобильные телефоны — просматривают информацию, пишут, общаются в социальных сетях, делают селфи или другие фотографии — вместо того, чтобы реагировать на окружающих людей и события.

Перенесемся в 2015 год. Стоя на тротуаре на главной улице модного квартала Сеула, я вместе с сопровождавшим меня южнокорейским студентом ждал машину, чтобы вернуться к себе в отель после лекции о будущем развитии технологий. Чтобы занять время, я попытался завести беседу со студентом. Пытаясь наладить контакт, я спросил: «Сколько людей сейчас живет в Южной Корее?»

«Простите, я не знаю. Давайте я посмотрю в Google!»

Удивленный таким прозаичным ответом, в котором для меня было больше смысла, чем подозревал студент, я задал следующий вопрос из моего обычного списка. «Какова политика Южной Кореи? Какова нынешняя ситуация с напряженностью в отношениях с Северной Кореей?»

«Я правда не знаю. Я не интересуюсь политическими вопросами. В моей жизни они не имеют никакого значения».

В 1995 году я посетил корейскую демилитаризованную зону и был свидетелем сильнейшей напряженности в пограничных областях между двумя Кореями, а также ощутил, что конфликт между двумя странами по-прежнему в высокой степени определяет жизнь корейцев. Обладая этим знанием, я был совершенно поражен полным отсутствием интереса к этому вопросу у молодого корейского студента.

Когда прибыла машина, я выслушал инструкции студента о том, как общаться с водителем, который, как я заметил, был полностью скрыт в герметичной кабине из плексигласа, занимавшей оба передних сиденья современного черного седана корейского производства. «Когда сядете сзади и застегнете ремень, просто просуньте в прорезь перед вами эту карточку, на которой я записал адрес вашего отеля, и водитель отвезет вас в отель. Когда прибудете, введите туда же кредитную карту и ждите чек».

Сев после формального прощания в корейской манере в машину, я испытал такое ощущение, словно по ошибке попал на борт инопланетного космического корабля. Для начала водитель, смотревший в ветровое стекло, даже не кивнул и не вымолвил ни звука приветствия. Оглядевшись, я обнаружил, что полностью отделен плексигласовой стеной, на моей стороне имевшей лишь тонкую прорезь, о которой говорил студент, и телевизионный монитор, где показывали какую-то послеобеденную программу. Только после вторичного осмотра в углу между плексигласовой стеной и кузовом машины я обнаружил небольшую видеокамеру. Очевидно, здесь были также и микрофон с динамиком для двусторонней связи с говорящим по-корейски пассажиром, но мне так и не представилась возможность проверить качество этого звукового обмена. Как только я сел в машину и пристегнулся, над прорезью загорелась лампочка, и компьютер женским голосом на английском языке запросил карточку с адресом. В отсутствие иных вариантов я подчинился и вставил карточку вверх той стороной, на которой был адрес. Когда карточка пропала из виду, я обнаружил, что загорелся свет на приборной доске у водителя. Тогда я понял, что моя аналогия с инопланетным кораблем не так уж далека от истины. Устремив взгляд на невероятное скопление электронных устройств на приборной доске, я задумался, каким образом человек способен выжить и не сойти с ума, проводя каждый рабочий день длительностью до 10 или 12 часов за вождением автомобиля по загруженному транспортом Сеулу в окружении такого количества мигающих световых сигналов, систем навигации и всевозможных других цифровых устройств. По моим наблюдениям, автомобиль имел как минимум три цифровые системы навигации, различавшиеся степенью разрешения и сложности. Самая сложная давала четкое трехмерное изображение улиц Сеула, на вид вполне реалистичное. Забавно, что все системы одновременно говорили вслух: разные женские голоса, по-видимому, выдавали одни и те же инструкции по вождению, но разным тоном и на разной высоте.

Не имея возможности предаться любимому занятию — болтать с водителями такси в разных частях света о том, что происходит у них в городе, я решил рассмотреть Сеул через окно.

Понятное дело, когда мы подъехали к главному входу в отель, лампочка над прорезью для карты загорелась вновь. Я быстро вставил кредитную карту и стал ожидать простейшего сигнала присутствия другого человеческого существа — прощания. Вместо этого я получил обратно лишь свою кредитную карту, чек и компьютерное предупреждение не хлопать дверью.

Никакого человеческого контакта, человеческого голоса, никакой социальной синхронизации не произошло во время этой корейской поездки. Меня приняли чрезвычайно сердечно, как всегда, когда я бываю в Корее, но во главе угла явно стояла эффективность, а не человеческое общение. Меня доставили по правильному адресу, лишних денег с меня не взяли, ну и достаточно.

Но достаточно ли?

В ретроспективе, хотя довольно долгое время после этой поездки я грустил по поводу того, что корейский водитель переживает каждый день — одиночество, физический и психологический стресс от заключения в тесной плексигласовой коробке, — я понял, что его судьбу, какой бы печальной она мне ни казалась, нельзя считать худшим возможным сценарием. Вообще говоря, в 2015 году у него все еще была работа, и он зарабатывал делом, которое вскоре могло исчезнуть из списка ментальной двигательной активности, позволяющей людям зарабатывать на жизнь. Как утверждают некоторые производители, в быстро развивающемся мире цифровой автоматики очень скоро появятся машины с автопилотом. И, как уже случилось с миллионом рабочих мест в прошлом и, совершенно очевидно, произойдет с еще большим числом рабочих мест в будущем, вождение автомобиля за деньги вскоре может остаться лишь на страницах исторической литературы.

В своей книге «Роботы наступают. Развитие технологий и будущее без работы» футурист Мартин Форд показывает, как экспоненциальный рост цифровой и роботизированной автоматики способен в ближайшем будущем привести к волне массовой безработицы и экономическому коллапсу в результате снижения активности потребительского рынка, поскольку число неработающих людей намного превысит число тех, кто зарабатывает на жизнь собственным трудом. Во вступлении Форд напоминает, что «механизация сельского хозяйства привела к исчезновению миллионов рабочих мест, вынудив толпы ставших ненужными батраков отправиться в города в поисках работы на заводах и фабриках. Потом, в эпоху всеобщей автоматизации и глобализации, настал черед промышленных рабочих, которым пришлось переквалифицироваться и трудоустраиваться в сфере услуг».

И если его предсказания справедливы, беспрецедентный уровень безработицы, который может нас ожидать в ближайшие два десятилетия (порядка 50 %) из-за экспоненциального развития робототехники и цифровых технологий разного рода, превзойдет все прошлые волны безработицы, вызванные внедрением новых технологий на протяжении всей истории человечества. По мнению Форда, нынешняя волна вытеснения людей с рынка занятости является главным риском для всей мировой экономики и для выживания миллиардов людей. Парадоксальным образом первый удар этого идеального шторма, по-видимому, ощутят на себе наиболее развитые страны, такие как США, где цифровая/роботизированная автоматика и рост финансовой составляющей валового внутреннего продукта, вероятно, внесут свой вклад в самое массовое исчезновение рабочих мест за самый короткий промежуток времени.

Форд указывает, что в первое десятилетие этого столетия вместо 10 миллионов рабочих мест, требующихся для сохранения естественного прироста рабочей силы, американская экономика выдала шокирующий показатель — ноль новых рабочих мест. В добавление к этой пугающей статистике выясняется, что по графикам роста производительности экономики и дохода трудящихся в США с 1948 по 2017 год (наиболее свежие данные Института экономической политики представлены на рисунке 12.1) видно, что эти две кривые, которые на протяжении двадцати пяти лет следовали одним и тем же курсом, после 1973 года стали заметно расходиться. В результате к 2017 году зарплаты выросли на 114,7 %, тогда как производительность подскочила на 246,3 %. Это означает, что вместо ожидаемого среднего дохода семьи суммой около 100 800 долларов в год при адекватной корреляции между зарплатой и невероятным ростом производительности американским семьям пришлось столкнуться с ростом цен на медицинское обслуживание, образование и другие основные бытовые расходы при средней зарплате около 61 300 долларов в год.

Рис. 12.1. Сравнение суммарных процентных изменений производи-тельности и почасовой оплаты рабочих в США с 1948 по 2017 год (воспроизводится с разрешения из статьи Института экономической политики The Pay-Productivity Gap, 1948–2017, August 2018).

Форд утверждает, что такое же явление, хотя и в разное время, наблюдалось в 38 из 56 стран мира, включая Китай, где обыденность массовых увольнений вследствие автоматизации производства уже стала реальностью для рынка рабочей силы. В некоторых странах доля расходов на заработную плату сократилась еще в большей степени, чем в Соединенных Штатах. В результате за первое десятилетие XXI века произошло значительное увеличение социального и экономического неравенства и наметилась неприятная тенденция массового сокращения рабочих мест. Процитирую еще раз Мартина Форда: «По данным ЦРУ, неравенство доходов в США приблизительно сопоставимо с ситуацией на Филиппинах и существенно превышает аналогичные показатели в Египте, Йемене и Тунисе».

Еще хуже, что рождающиеся сейчас американцы, по-видимому, будут гораздо менее подвижны в экономическом плане, чем их сверстники из большинства европейских стран, а это, как справедливо замечает Форд, серьезно подрывает широко известное заявление о том, что американская мечта о карьерном росте за счет собственных усилий, достоинств и настойчивости все еще жива и здорова. Картина становится еще более пугающей, если вспомнить о том, что в современной мировой экономике исчезают не только низкоквалифицированные, производственные и другие рабочие профессии: цунами безработицы уже достигло райских берегов сферы белых воротничков и начало захлестывать специальности, исчезновение которых под натиском цифровой революции большинство людей не могли предвидеть. Давление испытывают журналисты, юристы, архитекторы, банковские клерки нижнего звена, врачи, ученые и, что забавно, даже высококвалифицированные работники самой сферы цифровой индустрии, которая запустила эту тенденцию. Как сообщает Форд, традиционная идея 1990-х годов о том, что ученая степень в области компьютерных наук или инженерии обеспечит молодым американцам хорошую позицию на рынке труда, в современных условиях становится мифом.

Форд приводит несколько примеров, иллюстрирующих ход мысли людей, которые не желают даже на тысячную долю секунды представить себе социальные проблемы мировой экономики, в которой 50 % или более трудоспособного населения на планете не имеют работы. Вспомним, к примеру, невероятно жесткое предсказание одного из основателей компании Momentum Mashines Александроса Вардакостаса, который сказал об основной продукции компании так: «Наше устройство не предназначено для того, чтобы повысить эффективность работы служащих… а для того, чтобы полностью от них отказаться».

Мы вернемся к этому парадоксу в главе 13, когда будем обсуждать интересное «совпадение», заключающееся в том, что такие экономические идеи выдвигают те же люди, которые объявляют человеческий мозг обычным цифровым компьютером, поддающимся имитации с помощью цифрового компьютера, причем с такой уверенностью, словно это истина в последней инстанции. Но сначала давайте проанализируем проблему, которая может оказаться еще более пугающей для будущего человечества, чем мир без работы.

Один из самых неприятных выводов, по крайней мере для меня, сделали некоторые известные американские экономисты, слова которых приводит в своей книге Форд; он заключается в том, что людям следует забыть о возможности соревноваться с машинами — вместо этого следует зализать раны, запрятать поглубже природную шовинистическую гордость и смириться с реальностью: по мнению этих экономистов, единственная полезная стратегия для выживания в будущем заключается в том, чтобы научиться подыгрывать машинам в роли второй скрипки. Иными словами, наша единственная надежда — стать воспитателями, помощниками и ассистентами машин и компьютеров — мягкая формулировка, означающая разжалование из творцов в ранг слуг и рабов. На самом деле, хотя большинство из нас об этом не подозревают, нечто похожее на этот сценарий уже происходит с летчиками, радиологами, архитекторами и высококвалифицированными специалистами широкого круга специальностей. Призыв к капитуляции прозвучал громко и четко, и в ответ некоторые группы людей уже складывают свое интеллектуальное оружие и признают поражение.

Но каким бы тревожным ни был этот сценарий, мне кажется, будущему человечества угрожает нечто еще более разрушительное — вытравление из нашего мозга тех самых черт, которые определяли суть человеческого существа с момента возникновения мозга современного человека примерно 100 тысяч лет назад. И это вовсе не сюжет плохого научно-фантастического фильма; по моему мнению, это вполне реальная и неприятная возможность, о которой уже говорили многие авторы, пришедшие к заключению о том, что наше непрерывное и глубокое погружение в цифровые технологии и полное подчинение им на протяжении каждой минуты нашей осознанной жизни (а теперь и за счет нескольких часов сна в сутки) может нарушить и быстро уничтожить основные функции нашего мозга, а также охват и диапазон их возможностей, не говоря уже о способности создавать все то, что определяет великолепие и исключительность человеческого существа. Если вас не тревожит мысль об отсутствии работы для 50 % населения, что вы скажете, если узнаете, что к моменту воплощения этого прогноза в реальность гораздо большее число людей превратится в биологических цифровых зомби, вместо того чтобы стать гордыми потомками и носителями генов и культурных традиций прежних представителей клана Homo sapiens, которые преодолели всевозможные угрожающие жизни препятствия от ледниковых периодов до голода и болезней и, несмотря на скромное происхождение от приматов, достигли расцвета и создали собственную человеческую вселенную благодаря желеобразному комку серого и белого органического вещества и одной пикотесле магнитной мощности?

Мой вывод, основанный на разнообразных данных и наблюдениях, полученных в рамках психологических и когнитивных исследований, заключается в том, что этот риск следует воспринимать очень серьезно. Человеческий мозг, самый умный нейронный хамелеон, когда-либо порожденный природой, подвергаясь влиянию нового мира статистических законов, особенно связанных с сильным гедоническим опытом, обычно меняет собственную внутреннюю органическую микроструктуру и использует перезаписанную информацию в качестве матрицы для будущих действий и поведения. Соответственно, в контексте нашего взаимодействия с цифровыми системами существует реальная возможность, что постоянно действующее позитивное подкрепление за счет непрерывного взаимодействия с цифровыми компьютерами, алгоритмической логикой и социальным общением, опосредованным цифровыми технологиями, если привести лишь несколько примеров, может постепенно изменить способы получения, хранения, обработки и использования информации нашим мозгом.

Основываясь на релятивистской теории мозга, я предполагаю, что этот непрерывный ежедневный натиск цифровых технологий способен просто-напросто разрушить нормальный процесс хранения и выражения гёделевской информации и формирования нашим мозгом невычисляемого поведения и усилить воздействие шенноновской информации и алгоритмического подхода на рутинную работу центральной нервной системы. Важно отметить, что эта гипотеза предсказывает, что чем больше мы окружаем себя предметами цифрового мира и чем сильнее наша обыденная и сложная жизнь планируется, диктуется, контролируется, оценивается и вознаграждается в соответствии с законами и стандартами алгоритмической логики цифровых систем, тем в большей степени наш мозг будет пытаться имитировать этот цифровой способ действия в ущерб биологически более обоснованной аналоговой ментальной функции и поведению, формировавшимся на протяжении тысячелетий под влиянием естественного отбора.

Эта гипотеза цифрового хамелеона предсказывает, что поскольку неуемная одержимость в использовании цифровых компьютеров оказывает глубокое влияние на наше восприятие внешнего мира и нашу реакцию на него, такие уникальные человеческие свойства, как эмпатия, сострадание, творчество, изобретательность, понимание, интуиция, воображение, нестандартное мышление, метафорическая речь и поэтические склонности, а также альтруизм, если назвать лишь некоторые типичные проявления невычисляемой гёделевской информации, просто увянут и исчезнут из репертуара человеческих ментальных способностей. Если рассуждать в этом же ключе на еще более глубоком уровне, легко представить себе, что в этом сценарии будущего тот, кто станет контролировать программирование окружающих нас цифровых систем, сможет диктовать человеческому мозгу будущий способ действия как на индивидуальном, так и на групповом уровне. Более того, я осмеливаюсь заявлять, что в долгосрочном плане этот контроль начнет оказывать сильнейшее влияние на эволюцию всего нашего вида.

Важно, что гипотеза цифрового хамелеона определяет нейрофизиологические рамки или основание для идеи, витавшей в воздухе с тех пор, как сэр Дональд МакКей впервые возразил против использования шенноновской информации для описания процесса обработки информации человеческим мозгом. В книге «Как мы становимся постлюдьми» Кэтрин Хейл пишет о том, что в конце Второй мировой войны «пришло время для теорий, которые превращали информацию в ненаправленную, количественно измеряемую и не зависящую от контекста сущность, которая может служить в качестве главного ключа к раскрытию секретов жизни и смерти». Забавно, что конкретный политический и экономический контекст послевоенной ситуации в США устранил множество интеллектуальных ограничений, которые могли предотвратить схождения с рельсов оторванной от контекста «теории локомотива»[37] еще до отхода от вокзала.

В книге «Закрытый мир» Пол Эдвардс рассказывает о том, как кибернетика и ее продукты — компьютерные науки и искусственный интеллект — попали под сильное влияние политики (и финансирования) Министерства обороны США во время холодной войны. Уже 8 июля 1958 года, всего через два года после того, как на исторической встрече в Университете Дартмута искусственный интеллект был официально признан новым направлением научных исследований, в New York Times была опубликована статья, заголовок которой — «Новое военно-морское устройство обучается в действии; психолог демонстрирует зародыш компьютера, способного читать и становиться умнее» — пророчил наступление времени, когда умные машины, созданные на средства Министерства обороны, заменят человека в вопросах принятия решений в области национальной безопасности, а также на рынке труда. Уже в конце 1950-х годов машина пропаганды — срощенный близнец искусственного интеллекта — работала на полную катушку; в тексте статьи было следующее заявление: «Сегодня Военно-морские силы продемонстрировали зародыш электронного компьютера, который, как ожидается, сможет ходить, говорить, видеть, писать, воспроизводить самого себя и осознавать собственное существование».

Нет необходимости говорить, что военные так и не смогли поиграть с сознательным говорящим устройством, за которое заплатили невероятные деньги. На самом деле даже сейчас, через шестьдесят лет после публикации той статьи в New York Times, у нас все еще нет никаких оснований полагать, что такое устройство вообще когда-нибудь увидит свет в США или где-либо еще. За прошедшие шесть десятилетий идея искусственного интеллекта прошла бесконечно длинную последовательность циклов взлетов и падений, которую мой добрый друг Александр Манковский, исполнительный директор компании «Даймлер-Мерседес» в Берлине, описал графиком, представленным на рисунке 12.2. В соответствии с рисунком Александра, этот цикл всегда начинается с новой формулировки старой идеи о том, что создание разумных машин — вопрос ближайшего будущего. Несколько лет растущего энтузиазма (и немалых государственных и частных вложений, например, от военных организаций, таких как Агентство перспективных оборонных исследовательских проектов DARPA) — и в итоге результаты оказываются обескураживающими, и все поле деятельности и все небольшие компании, возникшие на вершине этого бума, переживают нечто вроде локального вымирания пермского периода. Два подобных случая почти остановили исследования в области искусственного интеллекта навсегда. Отчет Лайтхилла[38], подготовленный в ответ на запрос Британского научно-исследовательского бюро, практически разгромил идею искусственного интеллекта в начале 1973 года, показав, что великие надежды в этой области вовсе не были воплощены в жизнь. Последний провал касался создания так называемых японских роботов в рамках проекта, нацеленного на производство самостоятельных разумных механизмов, способных выполнять задания, которые может выполнять только человек. Трагический провал этой японской инициативы стал очевиден, когда ни один из японских роботов не смог проникнуть в поврежденные ядерные реакторы на станции Фукусима, чтобы осуществить необходимые ремонтные работы и смягчить последствия самой страшной ядерной аварии в истории страны. Проблему пришлось решать добровольцам, многие из которых пострадали, выполняя эту героическую работу. Тем временем новейшие японские роботы остались лежать поломанными на пути к смертоносным реакторам.

Рис. 12.2. Цикл взлетов и падений исследований в области искусственного интеллекта за несколько последних десятилетий (рисунок Кустодио Роса).

Однако к концу Второй мировой войны было уже почти невозможно отрицать мощь цифровых компьютеров — идеальных машин, способных использовать шенноновскую информацию на полную катушку. Это заставило многих предположить, что симуляция возможностей человеческого мозга — лишь вопрос времени. Размышляя о духе той эпохи, специалист в области компьютерных технологий из Массачусетского технологического института (МИТ) Джозеф Вейценбаум, который в 1960-х годах создал одну из первых интерактивных компьютерных программ (ELIZA), сказал следующее: «К тому времени, когда цифровые компьютеры возникли в университетских лабораториях и вошли в американские деловые, военные и промышленные структуры, не существовало сомнений в их потенциальной пользе. Напротив, американские управляющие и технический персонал соглашались, что компьютеры появились как раз вовремя, чтобы предотвратить катастрофический кризис: если бы не своевременное появление компьютеров, как утверждалось, не было бы достаточного количества людей для работы в банках, для решения все более сложных коммуникационных и логистических проблем американских вооруженных сил, рассеянных по всему миру, и невозможно было бы поддерживать торговлю ценными бумагами и обмен товарами… Беспрецедентно большие и сложные вычислительные задачи ждали американское общество в конце Второй мировой войны, и компьютер почти волшебным образом прибыл как раз вовремя, чтобы с ними справиться».

Однако Вейценбаум быстро пришел к заключению, что это «своевременное волшебство» оказалось не более чем коллективным ментальным конструктом — духом времени, овладевшим всеми сторонами, заинтересованными во внедрении компьютеров во все сферы американской жизни, учитывая, что разворачивавшееся после этого будущее в то время не было единственно возможным. В подтверждение своей идеи он говорил, что большинство военных проектов, включая Манхэттенский проект по созданию атомной бомбы, были успешно реализованы без масштабного внедрения компьютеров. Все необходимые вычисления, от самых рутинных до самых сложных, выполнял человеческий мозг. Безусловно, компьютеры значительно ускорили этот процесс, но они не ввели никакого нового понимания или знания (науки), которые получили бы преимущества от их внедрения. Вообще говоря, Вейценбаум полагает, что, хотя значительное число первых пользователей считало компьютер незаменимым инструментом, это не означало, что так оно и было. В эти первые дни цифровых вычислительных машин скорость достижения конечного результата стала ключевым параметром, определившим скорейшее внедрение компьютеров в большинство сфер жизни американцев. Как пишет Вейценбаум, «цифровой компьютер не был обязательным элементом для выживания современного общества в послевоенный период и после него; энтузиазм и отсутствие критической оценки при его внедрении со стороны большинства „прогрессивных“ представителей американского правительства, бизнеса и промышленности быстро сделали его незаменимым ресурсом для выживания общества в такой форме, которую формировал сам компьютер». За последние десятилетия это же мнение подтвердили многие другие авторы. Например, Пол Эдвардс вторит Вейценбауму, утверждая, что «инструменты и их использование составляют неотъемлемую часть человеческих рассуждений и через рассуждения не только напрямую формируют материальную реальность, но также ментальные модели, концепции и теории, которые направляют это формирование».

Это означает, что наше непрерывное и все усиливающееся взаимодействие с компьютерами, вероятно, изменяет требования, которые мы ставим перед нашим мозгом в процессе, совершенно очевидно не лишенном риска. Рассмотрим в качестве примера ориентирование на местности. За миллионы лет тонкая способность распознавать детали окружающего природного мира буквально отпечаталась в нейронной плоти нашего мозга. Вот почему структуры мозга, такие как гипоталамус (и, возможно, моторная кора, как мы обсуждали в главе 7), содержат нейронные образы пространства, позволяющие нам выстраивать оптимальные стратегии передвижения в окружающем мире. Интересно, что исследования с визуализацией мозга, проведенные учеными из Университетского колледжа Лондона, показали, что гипоталамус опытных лондонских таксистов намного крупнее, чем у тех, кто не водит машину ежедневно по всем уголкам непростой английской столицы. Однако загвоздка в том, что эти исследования проводились на водителях, которые не учились пользоваться современными цифровыми системами навигации. Поскольку навигация с помощью GPS стимулирует совсем другие мозговые цепи, нежели те, которые задействованы при естественном ориентировании, можно почти наверняка предсказать, что у более молодого поколения лондонских таксистов гипоталамус вряд ли окажется увеличен. Но не сократится ли у них объем гипоталамуса ниже порогового нормативного уровня для обычного взрослого человека? Об этой возможности упоминали некоторые нейробиологи, обеспокоенные тем, что в таком случае риску подвергнется не только естественная способность ориентироваться, но также и многие другие когнитивные навыки, зависящие от целостности человеческого гипоталамуса. Короче говоря, вполне возможно, что с проблемами такого рода в ближайшие десятилетия столкнутся сотни миллионов людей, использующих новые цифровые стратегии: произойдет свертывание органического нейронного аппарата, встроенного в наш мозг в результате селективного давления сотни тысяч или даже миллионы лет назад. И это ощутимый повод для беспокойства. Серьезного беспокойства.

Вообще говоря, хотя в сфере искусственного интеллекта пока не удавалось получить ничего похожего на сверхчеловеческий разум, полемика по этому вопросу создает для нашего мозга больше проблем в другом отношении: речь идет о нашей способности отличать реальное научное достижение от простой рекламы, направленной на продажу продукта. Успешная демонстрация искусственного интеллекта, как в случае поражения шахматистов и чемпионов мира по игре в Го, широко обсуждалась сторонниками искусственного интеллекта и помогала создавать общее ощущение, что в долгосрочном плане искусственный интеллект сможет сбросить с пьедестала человеческий разум. На самом деле все эти новые подходы основаны на старых алгоритмах, манипулируют известными статистическими идеями и в лучшем случае усиливают способность современных систем реализовывать функцию распознавания. Например, несмотря на свое помпезное название, Deep Learning — не что иное, как изобретенная в 1970-х годах искусственная сеть нейронов, в алгоритм которой добавлено намного больше вычислительных стадий (также называемых скрытыми слоями). Такой ход позволяет повысить качество распознавания системой искусственного интеллекта, но не ликвидирует основные недостатки, неизменно имеющиеся у подобных программ с самого момента их появления шестьдесят лет назад: системы искусственного интеллекта находятся в плену у старой информации и правил, использованных для построения их баз данных, а также заложенных в систему тренировочных данных. Они не могут создавать новых знаний. В этом смысле искусственный интеллект, по сути, отражает мечту Лапласа о полностью предсказуемой вселенной, в которой будущее целиком определяется прошлым. В таком случае, если подобная система, предназначенная для сочинения музыки, тренируется исключительно на симфониях Моцарта, она никогда не сможет создавать музыку другого плана, такую как музыка Баха, Бетховена, группы Beatles или Элтона Джона. Дело в том, что искусственный интеллект вообще ничего не создает; он ничего не понимает; он не делает выводов. Он лишь выдает обратно то, чем его накормили, — заметим, накормили человеческие руки. Если у «разумных систем» чего-то и не хватает, так это как раз разума — в человеческом понимании слова. Так что, если использовать человеческие критерии интеллекта в качестве золотого стандарта производительности, системы искусственного интеллекта неизбежно обречены на позорный провал.

Но проблема в том, что искусственному интеллекту сегодня и не требуется обойти человеческий интеллект, чтобы стать сильнее нас в будущем. Такое будущее может наступить в результате гораздо более хитрого и реального трюка — укрепления взаимодействия человеческого мозга с цифровыми системами до тех пор, пока, загнанный в угол Истинный творец всего не найдет другой рабочей альтернативы, кроме как самому стать одной из таких систем. Как тонко подметил писатель Николас Карр, «когда мы начинаем использовать компьютеры для помощи в понимании мира, наш собственный разум сжимается до искусственного».

Обратная ситуация, как мы видели (см. главу 6), невозможна. Следовательно, если произойдет самое худшее и следующие поколения людей не будут обладать истинным диапазоном человеческих возможностей в том виде, как это было до сих пор, нам останется винить только самих себя. Как часто бывает, прежде чем такие сценарии, как сингулярность или даже моя гипотеза цифрового хамелеона, становятся темой научных дискуссий, они разыгрываются самостоятельно и доходят до общества в виде научной фантастики. В книге «Как мы становимся постлюдьми» Хейлс описывает реализацию концепции постчеловеческой эпохи в нескольких популярных научно-фантастических книгах. Например, Хейлс анализирует основную интригу нейробиологического триллера Нила Стивенсона «Лавина», которая вращается вокруг того, что некий вирус инфицирует умы людей всей планеты и превращает их в биологические машины, лишенные даже следов истинного сознания, свободы воли, способностей к взаимопомощи или индивидуальности.

Эта чудовищная перспектива обретает смысл, если учесть предпосылку кибернетического движения, состоящую в том, что мозг просто подобен устройству по переработке шенноновской информации. Понятное дело, я так не думаю. Но я боюсь, что наше постоянное взаимодействие с цифровой логикой, особенно в тех случаях, когда оно завершается мощным гедоническим опытом, постепенно приведет к компромиссу или даже к уничтожению некоторых типов поведения и когнитивных возможностей, составляющих самые изобретательные и ценные атрибуты человеческого существа. Как это может произойти, если человеческий мозг не является машиной Тьюринга и при вычислениях не опирается на шенноновскую информацию? На самом базовом уровне многие гены в геноме человека, отобранные в результате множества эволюционных событий, взаимодействуют в рамках «генетической программы», ответственной за сборку естественной трехмерной структуры мозга в пренатальном и в раннем постнатальном периодах. Это генетическое программирование гарантирует, что исходная физическая конфигурация нашего мозга отражает эволюционный процесс, происходивший на протяжении миллионов лет, пока современный план строения центральной нервной системы человека не сформировал базовую нейронную структуру, возникшую у анатомически современного человека около сотни тысяч лет назад. После рождения программирование мозга продолжается за счет его двустороннего взаимодействия с телом и окружающей средой. Постоянное погружение в человеческую культуру и изобилие социальных связей дополнительно «программируют» центральную нервную систему. Однако это не единственный способ влияния на наш мозг. Механические, электронные и цифровые устройства также могут быть ассимилированы в вычисления нашего разума, как доказывает моя работа с интерфейсом «мозг-машина». Я же считаю, что мозг может не только ассимилировать функцию цифрового устройства, но и стать им.

В 1970-х годах Джозеф Вейценбаум был поражен удивительными результатами, которые получали люди, начавшие работать с его программой ELIZA. По мнению Вейценбаума, цифровые компьютеры были последним вкладом в длинную последовательность интеллектуальных технологий, таких как карты и часы, кардинально изменивших наше восприятие и ощущение реальности. Проникнув в нашу жизнь, эти технологии были ассимилированы в качестве «того самого материала, из которого человек строит свой мир». В этой связи Вейценбаум беспокоился, что «внедрение компьютеров в сложную человеческую деятельность может представлять собой необратимый шаг». По его мнению, «интеллектуальная технология [вроде компьютера] становится незаменимым компонентом любой структуры, и как только она основательно интегрируется в эту структуру и встраивается в разные жизненно важные подструктуры, ее уже нельзя не учитывать без фатального разрушения всей структуры».

Не приходится удивляться тому, что из-за подобных идей Вейценбаум считался отщепенцем и еретиком в той самой сфере деятельности, которую он сам же и помог основать своими исследованиями. Однако и сейчас, четыре десятилетия спустя, поставленные Вейценбаумом глубокие вопросы продолжают нас волновать. За последние двадцать лет было накоплено больше наблюдений и экспериментальных данных, подтверждающих идею о том, что наши взаимодействия с цифровыми системами вовсе не безобидны и что они могут влиять на некоторые наши самые базовые ментальные функции. Это означает, что на каждое конкретное преимущество, которое мозговая функция получает в результате взаимодействия с цифровой логикой (о которых некоторые немедленно начинают кричать каждый раз, когда у кого-то возникают какие-либо возражения против натиска цифровой логики на наш несчастный аналоговый мозг), приходятся глубокие и неожиданные изменения в функционировании наших собственных органических компьютеров. Так, Патрисия Гринфилд утверждала, что данные большого числа исследований о влиянии различных средств массовой информации на интеллект и обучение показывают, что взаимодействие человека с любым типом новых коммуникационных сред приводит к когнитивной выгоде в ущерб другим ментальным способностям. В отношении взаимодействия с интернетом и экранными технологиями Гринфилд показывает, что «всеобъемлющее и сложное развитие визуально-пространственных навыков» происходит параллельно с ухудшением способности осуществлять «глубокие [ментальные] процессы», определяющие «вдумчивое приобретение знаний, индуктивный анализ, критическое мышление, воображение и размышления».

В книге «Стеклянная клетка. Автоматизация и мы» Николас Карр обсуждает широкий круг исследований, показывающих, что продолжительное взаимодействие с цифровыми системами может оказывать глубокое влияние на производительность людей — от навыков пилотов по управлению самолетом до способности радиологов распознавать изображения и творческих возможностей архитекторов. Во всех этих очень разных контекстах и состояниях результат всегда один и тот же: как только люди соглашаются на подчиненное положение по отношению к цифровой системе, перестают контролировать основные процессы и начинают лишь ассистировать руководящему компьютеру, который берет на себя основную работу по выполнению конкретной задачи (управление самолетом, интерпретация рентгеновских снимков или конструирование зданий), человеческие навыки начинают деградировать до такой степени, что в них появляются редко встречавшиеся ранее ошибки.

На рисунке 12.3 я графическим образом отразил то, что, как мне кажется, происходит в человеческом мозге в большинстве случаев, когда цифровые системы начинают диктовать людям способ функционирования в рутинных делах. В соответствии с гипотезой цифрового хамелеона продолжительное пассивное погружение в цифровые системы современных самолетов (пилоты), диагностика с помощью цифровой обработки изображений (рентгенологи) и компьютерный дизайн (архитекторы) может постепенно снижать диапазон когнитивных функций человеческого мозга путем предпочтения или даже приоритета в отношении обработки шенноновской, а не гёделевской информации. Дело в том, что если людей вознаграждать за то, что они на работе, в школе, дома или в любых других социальных отношениях ведут себя как цифровые машины, их мозг быстро адаптируется к «новым правилам игры» и радикальным образом меняет собственный способ функционирования. Эта пластичная перестройка и вызванное ею изменение человеческого поведения объясняются попытками мозга максимизировать гедонические ощущения, возникающие в результате высвобождения нейронными цепями дофамина и других химических соединений, опосредующих удовольствие. Таким образом, если внешний мир устанавливает ощутимую материальную или социальную награду за поведение, аналогичное поведению цифровых машин, человеческое творчество и интуиция могут уступать место фиксированному протоколу. Находчивость сократится до жестких алгоритмических процедур, критическое мышление будет полностью сковано слепым подчинением установленным правилам, а новое артистическое или научное мышление окажется подавлено догмой. Чем дольше подкрепляется эта обратная связь, тем в большей степени функции и поведение мозга начинают походить на функции и поведение цифровых машин. В конечном итоге эта тенденция может привести к нарушению или сокращению самых разнообразных человеческих качеств, которые зависят от выражения гёделевской информации.

Рис. 12.3. Перевернутая пирамида, иллюстрирующая очевидный контраст между свойствами гёделевской и шенноновской информации (рисунок Кустодио Роса).

Один из первопроходцев в области исследований пластичности мозга взрослых людей нейробиолог Майкл Мерзенич так высказался о возможном влиянии интернета на человеческий мозг: «Когда культура вызывает изменения в том, как мы занимаем свой мозг, она создает другой мозг». Это суровое предупреждение Мерзенича подтверждается несколькими исследованиями с визуализацией мозга, в которых продемонстрированы структурные изменения в белом и сером веществе мозга подростков с диагностированной зависимостью от интернета. Хотя для подтверждения справедливости этих заявлений требуются новые исследования с большей выборкой образцов, от этих предварительных данных не следует отмахиваться.

Однако для демонстрации неврологических или поведенческих изменений, связанных с нашей терпимостью в отношении цифровых технологий, не нужно обращаться к экстремальным случаям зависимости от интернета. Бэтси Спэрроу и ее коллеги показали, что если люди уверены, что утверждения, которые их попросили запомнить, сохраняются в электронном виде, они справляются с заданием хуже, чем контрольная группа, которая для запоминания утверждений опирается только на свою биологическую память. Это говорит о том, что делегация простого мыслительного поиска алгоритму Google, кажется, потенциально снижает способность нашего мозга надежно хранить и извлекать информацию. Эти наблюдения подтверждают нашу с Рональдом Сикурелом идею: когда мозг перегружен (информацией или необходимостью включения в решение многоцелевых задач, к которым он не подготовлен), одна из его первых реакций заключается том, чтобы «забыть» — либо путем усложнения доступа к накопленным воспоминаниям, либо, в крайнем случае, просто путем стирания некоторой сохраненной информации. Мы считаем эту функцию защитным механизмом нашего мозга для преодоления ситуаций, когда он оказывается перегружен выше предела своей производительности.

Такая информационная перегрузка очевидным образом распознается в наши дни по тому, как люди используют интернет для общения с родственниками и друзьями. Не удивительно, что влияние виртуального общения на наши природные социальные навыки — еще одна сфера, в которой мы можем оценить реальное влияние цифровых систем на поведение людей. Например, в книге «Одинокие вместе» Шерри Таркл описывает свой длительный опыт общения с подростками и взрослыми людьми, которые активно используют текстовые сообщения, соцмедиа и другие виртуальные средства общения. Соцмедиа и виртуальная реальность могут значительно повышать уровень тревожности и способствовать выраженной недостаточности развития социальных навыков, что неизбежно ведет к исключению реального социального общения, понижает эмпатию и приводит к более тяжелому переживанию одиночества. Более того, симптомы и признаки зависимости от виртуальной жизни часто обнаруживаются в некоторых интервью с такими людьми почти случайным образом.

Прочитав книгу Шерри, я задумался о том, не перегружает ли эта новая «постоянная подключенность» кору головного мозга путем невероятного расширения круга людей, с которыми мы имеем возможность общаться почти мгновенно посредством множества доступных в интернете социальных сетей. Не соблюдая предельного размера социальных групп (около ста пятидесяти индивидуумов), ограниченного объемом кортикальной ткани, возникшей у нас в ходе эволюции, теперь мы постоянно контактируем с гораздо большим числом людей из виртуальных социальных групп, размер которых значительно превосходит этот нейробиологический предел. Поскольку созревание белого вещества человеческого мозга происходит на протяжении нескольких первых десятилетий жизни и достигает окончательной зрелости лишь на четвертом десятке, перегрузка коры может быть более серьезной проблемой для подростков и молодых людей, у которых кортикальные связи еще не достигли зрелого состояния. Это может объяснять высокий уровень тревожности и дефицита внимания, познавательных способностей и даже памяти у представителей этой части населения, наиболее активно пользующейся социальными сетями.

Непреодолимая тяга, которую столь многие из нас испытывают к цифровым системам типа интернета в целом и социальных сетей в частности, также находит объяснение в рамках гипотезы цифрового хамелеона. Исследования молодых людей с диагностированной зависимостью от интернета выявляют очевидные нарушения мозговых систем внутреннего подкрепления. Опять-таки главным виновником является нейромедиатор дофамин. Исследования показывают, что мы все больше и больше вовлекаемся в активность в интернете просто по той причине, что она заставляет наш мозг создавать сильное ощущение удовольствия и вознаграждения. В таком контексте интерактивные программы, которые мы называем социальными сетями, такие как Facebook[39], Twitter, WhatsApp и WeChat, стали своего рода социальным клеем или, если использовать терминологию данной книги, важнейшим синхронизатором человеческих мозгосетей, сформированных тысячами или даже миллионами людей, жаждущих немедленного удовлетворения невероятной потребности в социальном взаимодействии, которая возникает внутри нашего мозга. Можете называть это виртуальным грумингом; совершенно очевидно, что удовольствие от реального груминга у приматов и от залипания в интернете имеет под собой одно и то же нейрохимическое основание. Активное вовлечение дофаминэргических сетей также объясняет очевидное сходство интернет-зависимости с пристрастием к азартным играм и наркозависимостью.

Следует ли обратить на это особое внимание? Я думаю, да. Не только из-за возможного влияния на психику современного и будущего поколений, но также из-за далекоидущих последствий нашего усиливающегося взаимодействия с цифровыми системами. В наиболее плачевном варианте развития ситуации я предвижу, что это безумное усиление использования интернета и виртуальных социальных связей способно вызвать совершенно новый тип селективного давления, которое в конечном итоге скажется на эволюционном будущем нашего вида. В этом отношении стоит задуматься, не близится ли расцвет вида Homo digitalis или, что еще тревожнее, этот вид уже возник и, оставаясь незамеченным, рассылает через интернет письменные и голосовые сообщения.

Но даже если это не так, давайте задумаемся о том, что после взрывного развития коммуникационных технологий, осуществленного и пережитого нашим видом только за последнее столетие и на шаг приблизившего нас к предсказанию Маршалла Маклюэна об использовании искусственных средств для расширения нашей центральной нервной системы до возможности связываться друг с другом почти со скоростью света, главным побочным продуктом, по-видимому, стала чрезвычайная фрагментация всего человечества на множество виртуальных племен, связанных внутри себя специфическим набором убеждений, требований, забот, приязней и неприязней, моральных и этических ценностей. Забавно, что при всем нашем стремлении к построению высокотехнологичного общества, посеяв этот цифровой урожай, мы пожали возврат к племенной организации общества, приведшей к появлению Истинного творца всего миллионы лет тому назад. Единственное различие заключается в том, что мы уже не расселяемся полчищами по лесам и равнинам реального мира, а все больше и больше становимся примитивными охотниками и собирателями диспергированных и начиненных дофамином битов и байтов киберпространства. Это само по себе не страшно — важно лишь осознать, что за этот выбор мы расплатимся потерей всего того, что считается уникальными особенностями человеческого разума.

Несколько десятилетий назад Джозеф Вейценбаум предположил, что нечто подобное действительно может произойти в будущем. По его мнению, единственный способ избежать участи, перед лицом которой мы оказались сегодня, заключается в решительном отказе от делегации решения «требующих мудрости задач» нашим собственным творениям, таким как цифровые компьютеры и программы. Он считал, что это сохранит прерогативу Истинного творца всего.

Учитывая все, что я видел, читал и испытал за последние годы, я действительно полагаю, что очень быстро приближается момент для принятия мудрой рекомендации Вейценбаума, поскольку мы, вполне вероятно, в наших излишне глубоких интимных отношениях с цифровыми машинами стремительно подходим к точке невозврата. В этой связи мне кажется вполне уместным закончить этот краткий обзор опасностей, которым сегодня подвергается Истинный творец всего, стихами Т. С. Элиота — одного из величайших поэтов XX века, который в песнопениях «Камень» всего в трех строчках очень точно подметил важнейшую проблему нашего времени: