Охота на электроовец. Большая книга искусственного интеллекта

7.1.1 История человеческих страхов перед машинами

Интересно, что страхи людей перед «умными машинами» возникли задолго до того, как человечеству удалось приблизиться к возможности их создания.

Знаменитая легенда о големе имеет истоки в раннем иудаизме. В Талмуде (трактат «Сангедрин» [‏סנהדרין‏‎], от греч. συνέδριον — собрание) создание голема [גולם] является одним из этапов создания человека: «В первый час собрал Всевышний прах со всей Земли. Во второй час — сделал голема (грубую форму). В третий — оформил части тела. В четвёртый — вдохнул в него душу…» и так далее[3048].

Создание голема (как прислуги для работы по дому) в XI в. приписывают еврейскому поэту и философу Шломо бен Иехуде ибн Гвиролю, а в конце XII – начале XIII в. в трактате «Секреты таинств» (רזייא סודי, Sodei Razaya)[3049], написанном раввином Элеазаром бен Иудой бен Калонимосом из Вормса, приводится самое раннее письменное руководство по созданию голема.

Но наиболее известна история (впервые встречающаяся в анонимном манускрипте первой половины XVII в.) о том, как рабби Элияху бен Аарон Иегуда из Хелма создал голема. Начертанное на лбу глиняного существа слово «эмет» (אמת, в переводе с иврита — «истина») оживляло голема, а для «отключения» нужно было стереть первую букву алеф — тогда «эмет» превращалось в «мет» (מת, что означает «мёртвый»)[3050]^, [3051]. Созданный рабби голем всё увеличивался и увеличивался в размерах, и тогда создатель испугался, что голем может уничтожить весь мир, и стер букву алеф, но не успел вовремя отскочить в сторону. Голем обрушился на рабби и убил его (согласно другому варианту легенды лишь травмировал, оставив на лице шрам).

По другой версии, для оживления голема использовался тетраграмматон (четырёхбуквенное непроизносимое имя бога), который нужно было написать на листе бумаги и либо поместить в рот голема, либо приложить ко лбу, тем самым оживив его. Именно поэтому рабби Элияху и получил почётное имя Ба’ал-Шем («владеющий именем», «шем» [‏השם‏‎] значит «имя», это одно из слов, используемое для замены тетраграмматона). Это «канонический» способ оживления голема — им же пользовался и ибн Гвироль.

Также создание голема приписывается мыслителю и мистику Йехуде Лёву бен Бецалелю из Праги и другим авторитетным раввинам[3052].

Голем был не единственным огромным боевым человекоподобным роботом в человеческой мифологии. За тысячи лет до него воображение древних греков будоражили сказания о гигантском бронзовом роботе Талосе, искусственной женщине Пандоре и их создателе боге Гефесте.

«Наша способность представлять искусственный интеллект восходит к древним временам, — говорит историк античной науки Адриенна Майор. — Задолго до того, как технический прогресс сделал возможными самодвижущиеся устройства, идеи о создании искусственной жизни и роботов были исследованы в древних мифах».

Впервые темы искусственного интеллекта, роботов и самодвижущихся объектов появляются в работах древнегреческих поэтов Гесиода и Гомера, которые жили где-то между 750 и 650 гг. до н. э. История Талоса, которую Гесиод впервые упомянул около 700 г. до н. э., представляет собой одну из самых ранних концепций робота.

Миф описывает Талоса как гигантского бронзового человека, построенного Гефестом, греческим богом изобретений и кузнечного дела. Зевс, царь греческих богов, поручил Талосу защитить остров Крит от захватчиков. Талос трижды в день обходил остров дозором и бросал валуны в приближающиеся вражеские корабли (не в этом ли мифе черпал вдохновение Пушкин, рассказывая о дружине Черномора, охранявшей остров царевича Гвидона?).

Сквозь тело гиганта — от головы до одной из ног — проходила вена, несущая таинственный божественный источник жизни, который греки называли ихором. Другой древний текст, поэма «Аргонавтика» (Ἀργοναυτικά), датируемый III в. до н. э., описывает, как колдунья Медея победила Талоса, вынув медный гвоздь на его лодыжке, в результате чего ихор вытек из вены — и жизнь оставила гиганта.

Ещё один пример мифического искусственного существа — Пандора, первое упоминание о которой встречается в «Теогонии» Гесиода. Хотя более поздние версии мифа изображают Пандору невинной женщиной, которая неосознанно открыла ящик со злом, у Гесиода Пандора — это злая искусственная женщина, созданная Гефестом и посланная по приказанию Зевса на землю, чтобы наказать людей за похищение огня.

По словам Майор, «можно утверждать, что Пандора была своего рода ИИ-агентом. Её единственная миссия заключалась в том, чтобы проникнуть в человеческий мир и открыть сосуд с несчастьями».

Помимо Талоса и Пандоры, Гефест создал и другие человекоподобные машины. Например, автоматических слуг, которые выглядели как женщины, но были сделаны из золота. Согласно Гомеру Гефест дал этим искусственным женщинам знания богов.

Майор отмечает, что ни в одном из этих мифов отправка искусственных существ на землю не заканчивается добром. Можно сказать, что лейтмотивом античных сказаний об искусственных существах является мысль о том, что неплохо, когда такие существа используются богами, но как только эти продукты божественной технологии взаимодействуют с людьми, мы получаем хаос и разрушение[3053]^, [3054].

Развитие механических вычислительных машин в XIX в. с новой силой пробудило страхи людей перед развитием технологий. Вот, к примеру, что писал в 1847 г. преподобный Ричард Торнтон, редактор религиозного журнала Primitive Expounder [Простой Толкователь]: «Ум… опережает сам себя и расправляется с необходимостью собственного существования, изобретая машины, которые должны вместо него мыслить… Как знать, однако, не замыслят ли таковые машины, будучи доведены до большого совершенства, устранить все свои недостатки, а затем напечь идеи, недоступные разуму простого смертного!»[3055]^, [3056]

В 1863 г., через четыре года после того, как Чарльз Дарвин опубликовал «Происхождение видов», писатель Сэмюэл Батлер под псевдонимом Cellarius в статье «Дарвин среди машин» (Darwin among the Machines)[3057] высказал идею о том, что эволюционирующие машины рано или поздно вытеснят человечество как доминирующий вид. Батлер предлагал немедленно уничтожить все машины, чтобы избежать этого печального исхода. Он писал:

Мы имеем в виду вопрос: какими скорее всего будут существа, которые станут доминирующим видом на Земле после людей. Мы часто слышали об этом споре; но нам кажется, что мы сами создаём собственных преемников; мы ежедневно добавляем красоту и тонкость их физической организации; мы ежедневно наделяем их большим могуществом и с помощью всевозможных изобретательных приспособлений снабжаем их той саморегулирующейся, самодействующей силой, которая будет для них тем же, чем стал интеллект для человеческого рода. С течением времени мы обнаружим себя в роли низшей расы. <…> День ото дня машины набирают силу; день ото дня мы становимся более подчинёнными им; всё больше людей ежедневно приковываются к ним, как рабы, чтобы ухаживать за ними, всё больше людей ежедневно посвящают энергию всех своих жизней развитию механической жизни. Результат — это просто вопрос времени, но то, что наступит время, когда машины будут иметь реальное превосходство над миром и его обитателями, — это то, в чём ни один человек с истинно философским складом ума не может ни на мгновение усомниться.

Статья заканчивается пламенным призывом: «Против них должна быть немедленно объявлена ​​смертельная война. Каждую машину любого рода должен уничтожить тот, кто желает добра своему виду. Пусть не будет никаких исключений, ни на йоту; давайте же немедленно вернёмся к первобытному состоянию нашей расы».

В 1872 г. Батлер (вновь анонимно) публикует сатирический роман-антиутопию под названием «Егдин, или За пределом» (Erewhon: or, Over the Range)[3058] (слово Erewhon, обозначающее вымышленную страну, в которой происходят действия романа, это анаграмма слова nowhere, т. е. «нигде», поэтому по-русски её иногда передают как «Егдин»). В этом романе машиноненавистнические идеи Батлера получают дальнейшее развитие. В 1901 г. выходит продолжение романа под названием «Спустя двадцать лет первооткрыватель страны и его сын возвращаются в Егдин» (Erewhon Revisited Twenty Years Later, Both by the Original Discoverer of the Country and by His Son)[3059]. Именно в честь Батлера автор вселенной «Дюны» писатель Фрэнк Герберт назвал крестовый поход человечества против компьютеров, мыслящих машин и наделённых разумом роботов Батлерианским джихадом[3060].

7.1.2 Текущая оценка опасности развития ИИ

Воззрения Батлера можно было бы счесть курьёзом и отнести к страху перед машинами, появившемуся в период стремительного индустриального прогресса XIX в. Но поскольку развитие науки и техники не останавливалось, то идеи восстания машин ещё не раз возникали в искусстве. Однако ранее они носили теоретический характер, относясь к обсуждению рисков далёкого будущего. Сейчас же, ввиду прогресса в области ИИ, этот вопрос всё более волнует широкую публику.

Что же говорят об опасности развития ИИ учёные и IT-специалисты?

Роман «Егдин» был знаком Тьюрингу, который упоминал его в лекции 1951 г., посвящённой долгосрочным прогнозам развития машинного интеллекта: «Представляется возможным, что, когда методы машинного рассуждения заработают, не потребуется много времени, чтобы превзойти наши слабые силы. Перед машинами не будет стоять проблема умирания, и они смогут общаться друг с другом, изощряя свой ум. Таким образом, на каком-то этапе нам следует ожидать, что машины возьмут власть, как это описывается в „Егдине“ Сэмюэла Батлера»[3061].

В том же году Тьюринг вернулся к этому вопросу в выступлении на радио Би-би-си: «Если машина умеет мыслить, то может мыслить разумнее нас, и что тогда ждёт нас? Даже если мы сумели бы удержать машины в подчинённом положении, например отключив питание в критический момент, мы как биологический вид чувствовали бы себя совершенно униженными… Эта новая опасность… безусловно, заслуживает того, чтобы из-за неё тревожиться»[3062]^, [3063]^, [3064].

Ныне уже покойный профессор Стивен Хокинг, один из самых уважаемых и известных британских учёных, заявил, что усилия по созданию мыслящих машин могут привести к тому, что само существование человечества окажется под угрозой. В интервью Би-би-си он отметил, что «появление полноценного искусственного интеллекта может стать концом человечества»[3065]. Хокинг в данном случае имел в виду сценарий «интеллектуального взрыва» [intelligence explosion]: «Он [полноценный искусственный интеллект] сам вырулит на взлётную полосу и станет сам себя совершенствовать со всё возрастающей скоростью. Люди, ограниченные медленной биологической эволюцией, не смогут тягаться [с ИИ] и будут вытеснены [superseded]». Конечно, в отличие от Батлера, Хокинг не предлагал уничтожить машины и вернуться к первобытному порядку вещей, однако если «полноценный искусственный интеллект» действительно угрожает самому существованию человечества, то некоторые люди могут сделать вывод о том, что необходимо полностью запретить исследования в данной области.

На необычный вариант ИИ-риска указывает популярный в наши дни шведский философ, профессор Оксфордского университета Ник Бостром. Он придерживается мнения, что достигший интеллектуального уровня человека ИИ [human-level AI] будет способен уничтожить человечество ввиду ошибочного целеполагания. Бостром объясняет это на примере машины, предназначенной для производства канцелярских скрепок: предположим, что вы поставили перед системой ИИ задачу изготавливать скрепки, причём делать их максимально эффективно и как можно больше. Система в какой-то момент поймёт, что человек представляет угрозу, поскольку может просто отключить её, что будет противоречить задаче максимизации количества скрепок. Кроме того, человеческие тела состоят из атомов, которые можно использовать для производства отличных скрепок. В итоге, руководствуясь поставленной целью, машина изведёт всё человечество на скрепки[3066]. История с машиной для производства скрепок имеет немало общего со средневековыми легендами, в которых фигурирует договор с дьяволом (вроде польской легенды о пане Твардовском). В этих историях дьявол обычно находит способ трактовать то или иное положение договора в свою пользу — совсем не так, как понимает его заключивший договор человек.

Более прямолинейные суждения можно услышать от икон высокотехнологического бизнеса. Например, в июне 2014 г. Илон Маск заявил, что создание продвинутых систем ИИ может привести к воплощению в жизнь сюжета фильма «Терминатор», и предупредил, что, если человечество не предпримет необходимых мер, чтобы обезопасить разработку, уже через пять лет планету может ожидать появление реальной SkyNet[3067].

Не останавливаясь на отсылке к кинобоевику, в октябре того же года на симпозиуме MIT Маск задействовал религиозные аналогии: «Разрабатывая ИИ, мы призываем демона. Знаете, все эти истории, где есть парень с пентаграммой и святой водой? Он уверен, что сможет управлять демоном, но это не так»[3068].

В целом Маск характеризует ИИ как «самую большую угрозу существованию человечества» [biggest existential threat][3069]. Правда, вполне возможно, что Маск со своей вульгарной риторикой не столько выражает своё мнение, сколько стремится привлечь внимание аудитории, что для него обычное дело.

Однако помимо упомянутых нами учёных, некоторые высказывания которых могут быть интерпретированы в технопессимистическом ключе, существуют и публичные персоны, поддерживающие идею ограничения развития технологий путём отказа от «нашего стремления к определённым родам знаний». К их числу относятся, например, американский писатель, автор книги «Хватит: оставаясь человеком в спроектированный век» (Enough: Staying Human in an Engineered Age) и сторонник антитехнологического «движения за отказ» [relinquishment movement][3070] Билл Маккиббен, а также американский учёный в области теории вычислительных систем Билл Джой.

Хотя в своих работах ни Джой, ни Маккиббен не требуют запрета всех исследований в области ИИ, другими исследователями их позиция нередко трактуется именно в таком ключе. Например, именно так трактует эти идеи Билл Хиббард, исследователь из Висконсинского университета в Мадисоне и автор множества исследований, посвящённых рискам, связанным с развитием ИИ[3071]^, [3072].

Ещё дальше пошёл американский математик и социальный критик, бывший старший преподаватель Калифорнийского университета в Беркли Теодор Качинский, печально известный ныне как Унабомбер (Unabomber, сокращение от University and airline bomber — подрывник университетов и авиалиний). Не ограничившись одной лишь пропагандой неолуддитских идей, в период с 1978 по 1995 г. Качинский разослал по почте 16 посылок с бомбами, целью которых были университеты, авиалинии и магазины компьютерной техники. Итогом стала гибель трёх (владелец компьютерного магазина, руководитель отдела рекламы и лоббист лесной промышленности) и ранение 23 человек. Среди получивших тяжёлые ранения были профессор Калифорнийского университета в Беркли Диогенес Ангелакос, профессор Мичиганского университета Джеймс Макконнелл, профессор Йельского университета Дэвид Джелернтер, ряд других сотрудников университетов.

В 1995 г. Качинский отправил в газету The New York Times письмо, в котором обещал отказаться от рассылки бомб, если в The New York Times или The Washington Post будет опубликован его манифест. Чтобы избежать жертв, ФБР рекомендовало опубликовать текст, что и было исполнено. Манифест Унабомбера, озаглавленный «Индустриальное общество и его будущее» (Industrial Society and Its Future), помимо позаимствованных позже Брейвиком рассуждений об опасности левых идей, содержит пространные рассуждения о том, как развитие технологий приводит ко всё большему порабощению людей. Террорист также анализирует различные сценарии развития человечества, один из которых, по его мнению, завершится порабощением человечества разумными машинами[3073]. Билл Джой писал: «Качинский действовал кровожадно и, по моему мнению, невменяемо. Он несомненно является луддитом, но простое указание этого факта не отклоняет его аргументацию; как ни тяжело мне было это осознавать, но в рассуждениях, изложенных в этом единственном отрывке, я видел некоторую логику. Я чувствовал необходимость противостоять ей»[3074].

К сожалению, подобная риторика, отчасти легализующая нарративы Унабомбера, содержит в себе потенциальную опасность, поскольку расширяет границы допустимого противодействия ИИ-рискам. Хотя современные настроения в обществе трудно назвать технофобскими, никто не может поручиться за то, что ситуация не изменится в одночасье, как это произошло в случае антипрививочного движения, которое получило в последние десятилетия широкое распространение в развитых странах. Кто знает, на какие крайности окажутся способны люди, чьи страхи подпитываются заявлениями в духе отсылок к «Терминатору» или парню с пентаграммой?

Ситуация особенно обострилась вслед за запуском ChatGPT — впечатляющая демонстрация возможностей современных генеративных моделей привлекла к себе огромное внимание общественности и послужила «спусковым крючком» для ряда публичных заявлений. Под влиянием «момента ChatGPT» некоторые учёные пересмотрели свои прогнозы в отношении ожидаемых темпов развития технологий ИИ. И у некоторых из них это, похоже, привело к экзистенциальному кризису. Вот что, например, говорит известный американский физик и информатик Дуглас Хофштадтер:

Для меня это [быстрый прогресс в области ИИ] довольно страшно, потому что это говорит о том, что всё, во что я раньше верил, отменяется. <…> Я думал, что пройдут сотни лет, прежде чем появится что-то весьма отдалённо похожее на человеческий разум, что асимптотически приблизится к уровню человеческого интеллекта, причём снизу. Я никогда не представлял, что компьютеры будут соперничать с человеческим интеллектом или даже превосходить его. Это была настолько далёкая цель, что я не беспокоился об этом. А потом это начало происходить всё быстрее, недостижимые цели и вещи, которые компьютеры не должны были быть в состоянии сделать, начали сдаваться… <…> Я думаю, что [прогресс ИИ] ужасает. Я ненавижу его. Я думаю об этом практически всё время, каждый божий день. <…> Такое ощущение, что вся человеческая раса вот-вот будет превзойдена и оставлена в пыли.

Ускоряющийся прогресс оказался настолько неожиданным, что застал врасплох не только меня, но и многих, многих людей — возникает некий ужас перед надвигающимся цунами, которое застанет врасплох всё человечество. Неясно, будет ли это означать конец человечества в том смысле, что системы, которые мы создадим, уничтожат нас, неясно, так ли это, но вполне возможно. Если нет, то это просто превращает человечество в очень маленькое явление по сравнению с тем, что гораздо более разумно, чем мы, и что станет для нас непостижимым в той же мере, как мы непостижимы для тараканов[3075]^, [3076].

22 марта 2023 г. на сайте некоммерческой организации «Институт будущего жизни» [Future of Life Institute] было опубликовано открытое письмо с призывом ко всем ИИ-лабораториям приостановить как минимум на шесть месяцев обучение более мощных моделей, чем GPT-4. По мнению авторов письма: «Системы искусственного интеллекта, способного конкурировать с человеческим, могут представлять серьёзную опасность для общества и человечества в целом…»

Авторы письма ссылаются на «Принципы работы с ИИ», разработанные в ходе конференции в Асиломаре (Калифорния, США) 2017 г., в которых, в частности, говорится: «продвинутый ИИ может повлечь коренные изменения в истории жизни на Земле, и его разработка и управление должны осуществляться при наличии соответствующих ресурсов и в условиях особой тщательности». Авторы письма констатируют, что к их глубокому сожалению «такого уровня планирования и управления в настоящее время не существует, в то время как в последние месяцы ИИ-лаборатории застряли в неконтролируемой гонке по разработке и развёртыванию всё более мощных цифровых умов, которые никто — даже их создатели — не могут понять, предсказывать или надёжно контролировать».

Интересно, что одним лишь призывом к ИИ-лабораториям авторы письма не ограничиваются. «Если быстро приостановить [работы ИИ-лабораторий] невозможно, — пишут они, — то правительства должны вмешаться и ввести мораторий».

Подписанты считают, что ИИ-лаборатории и независимые эксперты должны использовать «передышку» для совместной разработки и внедрения системы общих протоколов безопасности, чтобы независимые внешние эксперты могли контролировать разработку передовых систем ИИ. Параллельно авторы письма предлагают создать новые регулирующие органы, занимающиеся вопросами ИИ, а также системы государственного контроля, которые смогут обеспечить безопасность создаваемых систем[3077]^, [3078].

Среди прочих письмо подписали Илон Маск, Йошуа Бенджио, Стив Возняк, известный американский астрофизик Макс Тегмарк (кстати говоря, он является одним из основателей «Института будущего жизни»), а также многие другие эксперты в области информационных технологий.

В целом письмо написано в относительно взвешенной манере, хотя и содержит несколько достаточно сильных заявлений, таких, как утверждения о нашей неспособности понимать, предсказывать или надёжно контролировать разрабатываемые системы ИИ.

Куда более ёмким и афористическим стало опубликованное 30 мая того же года на сайте Центра за безопасность ИИ [Center for AI safety] «Заявление об ИИ-рисках» [Statement on AI Risk]. Его текст гласит: «Снижение риска вымирания из-за ИИ должно стать глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война». По мнению авторов, заявление призвано преодолеть существующие затруднения в публичном обсуждении ИИ-рисков и открыть дискуссию на эту тему. Оно также должно обратить внимание общества на рост числа экспертов и общественных деятелей, которые «всерьёз воспринимают некоторые из наиболее значительных рисков передового ИИ»[3079].

Среди подписавших это заявление можно найти имена Билла Гейтса, Йошуа Бенджио, Дэмиса Хассабиса, Сэма Альтмана, Ильи Суцкевера и многих других предпринимателей и специалистов из мира ИИ. Примечателен кейс Джеффри Хинтона, покинувшего корпорацию Google, в которой он проработал более десяти лет, для того, чтобы иметь возможность более открыто высказываться на тему ИИ-рисков, не задумываясь о том, как это повлияет на его работодателя. Уход Хинтона из Google тут же стал источником домыслов и газетных врак. Например, журналист The New York Times предположил, что Хинтон ушёл из Google, чтобы критиковать её. Хинтон тут же выступил с опровержением в своём твиттере, заявив, что Google [в отношении ИИ-рисков] действует весьма ответственно [very responsibly][3080]. Заголовок же новости CBS и вовсе гласил: «Канадский пионер искусственного интеллекта Джеффри Хинтон говорит, что искусственный интеллект может уничтожить людей. А пока можно заработать» [Canada's AI pioneer Geoffrey Hinton says AI could wipe out humans. In the meantime, there's money to be made]. Разумеется, фразу про заработок Хинтон никогда не произносил[3081].

В целом многие учёные в области машинного обучения и представители крупного ИТ-бизнеса на волне общественного интереса к ИИ поддержали необходимость внимательного отношения к ИИ-рискам, а также их открытого обсуждения. Однако нашлись и те, кто пошёл в своих заявлениях существенно дальше. Так, один из ярких представителей движения рационалистов, основатель сайта и сообщества LessWrong Элиезер Юдковский обрушился на сторонников моратория в обучении продвинутых моделей со страниц «Тайм». Его статья с недвусмысленным названием «Приостановки разработки ИИ недостаточно. Нам нужно прекратить её полностью» [Pausing AI Developments Isn't Enough. We Need to Shut it All Down] содержит весьма радикальные призывы: «Отключите все большие кластеры графических процессоров (большие компьютерные фермы, где совершенствуются самые мощные системы ИИ). Остановите все большие задачи по обучению. Установите потолок вычислительной мощности, которую разрешено использовать для обучения систем ИИ, и в ближайшие годы понижайте его, чтобы компенсировать более эффективные алгоритмы обучения. Никаких исключений для правительств и вооружённых сил. Немедленно заключите международные соглашения для предотвращения перемещения запрещённых видов деятельности куда-либо. Отслеживайте все проданные графические процессоры. Если разведка сообщает, что страна, не входящая в соглашение, строит GPU-кластер, опасайтесь не столько вооружённого конфликта между странами, сколько нарушения моратория; будьте готовы уничтожить авиаударом принадлежащий изгоям центр обработки данных [rogue datacenter]».

Далее следуют рассуждения о том, что ради предотвращения ИИ-апокалипсиса можно пойти и на риск обмена ядерными ударами и повторяющееся заклинание: «Вырубите всё это!» [Shut it all down!][3082].

В общем, без паники даже в ИТ-среде не обошлось. Что уж говорить о реакции неспециалистов?

«У меня теперь есть чёртов [mother-F-word] ИИ, который сделали для меня. Этот хрен [N-word] может разговаривать со мной, — сказал американский рэпер и актёр Snoop Dogg на конференции в Беверли-Хиллз. — Я такой: «Чувак, эта штука может вести настоящий разговор? По-настоящему?» Это просто сносит мне крышу, потому что я смотрел фильмы об этом в детстве много лет назад. Когда я вижу эту хрень, я думаю, что вообще происходит? Я слышал, как чувак, старый чувак, который создал ИИ [Джеффри Хинтон], сказал: «Это небезопасно, потому что у ИИ есть свой собственный разум»… Я думаю, мы сейчас в чёртовом фильме. Чёрт возьми, чувак, мне нужно инвестировать в искусственный интеллект»[3083].

Не обошлось и без высказывания исполнителя роли Терминатора из одноимённого фильма — Арнольда Шварценеггера: «Сегодня все боятся этого, того, к чему это приведёт. <…> И в этом фильме, в «Терминаторе», мы говорим о том, что машины обретают собственное сознание и берут верх. <…> Теперь, по прошествии десятилетий, это стало реальностью. Так что это больше не фантазия и не что-то футуристическое», — сказал актёр[3084].

Впрочем, несмотря на яркую риторику об угрозе ИИ-апокалипсиса, ряд специалистов из области информационных технологий считает внимание к этому вопросу чрезмерным. Например, Эндрю Ын сравнивает проблему опасности ИИ с проблемой перенаселения Марса. Действительно, в будущем вполне вероятно, что люди колонизируют Марс, также вероятно, что рано или поздно на Марсе может возникнуть проблема перенаселения, но не совсем понятно, почему мы должны заниматься этой проблемой уже сейчас?[3085] Когда в сообществе началось обсуждение возможного моратория или запрета на некоторые исследования в области ИИ, Ын высказался вполне однозначным образом:

Когда я думаю об экзистенциальных рисках для большей части человечества [, на ум приходят]:

* Следующая пандемия

* Изменение климата → массовая депопуляция

* Ещё один астероид

ИИ станет ключевым компонентом решения этих проблем. Так что, если вы хотите, чтобы человечество выжило и процветало в следующие 1000 лет, давайте развивать ИИ быстрее, а не медленнее[3086].

В той или иной мере согласны с Ыном и многие другие ведущие специалисты в области глубокого обучения. Например, Ян Лекун решительно выступает против использования набивших оскомину отсылок к фильму «Терминатор» при рассуждениях об ИИ[3087]. Лекун вообще с юмором воспринял разразившуюся полемику о потенциальной опасности современных генеративных моделей. Его забавный твит на эту тему собрал множество репостов и комментариев:

— Инженер: Я изобрёл новую вещь. Я называю её шариковой ручкой

— Народ в твиттере: О боже, люди могут писать с её помощью ужасные вещи, такие как дезинформация, пропаганда, разжигание ненависти. Запретить немедленно!

— Пишущие думеры[3088]: представьте, что каждый может получить шариковую ручку. Это может разрушить общество. Должен быть принят закон, запрещающий использование шариковой ручки для написания разжигающих ненависть высказываний. Введите регулирование применения шариковых ручек немедленно!

— Магнат карандашной индустрии: да, шариковые ручки очень опасны. В отличие от текста, написанного карандашом, который можно стереть, написанное шариковой ручкой остаётся навсегда. Правительство должно ввести лицензирование для производителей ручек[3089].

В начале апреля 2023 г. Лекун и Бенджио опубликовали получасовое видео с обсуждением идеи шестимесячного моратория (сойдясь на том, что такой мораторий является явно неудачной идеей), современной медийной шумихи вокруг ИИ и моды на ИИ‑думерство[3090].

С иронией воспринимают угрозу скорого захвата мира сверхинтеллектом Йошуа Бенджио[3091] (что не мешает ему серьёзно относиться к ИИ-рискам и подписывать открытые письма на эту тему), руководитель Алленовского института искусственного интеллекта (Allen Institute for AI, AI2) Орен Этциони[3092] и руководитель исследовательского отдела Microsoft Эрик Хорвитц[3093].

Известный американский предприниматель, инженер и изобретатель Марк Андриссен, сооснователь венчурного фонда «Андриссен Хоровиц» [Andreessen Horowitz], также яростно критикует ИИ-думеров. Он считает, что руководители технологических компаний заинтересованы в продвижении думерских взглядов, потому что они «могут заработать больше денег, если будут возведены нормативные барьеры, которые приведут к формированию картеля одобренных правительством поставщиков ИИ, защищённых от конкуренции с новыми стартапами и с [проектами с] открытым исходным кодом». Также Андриссен пишет, что экспертам по безопасности ИИ, специалистам по этике ИИ и исследователям рисков ИИ «платят за то, чтобы они были думерами, и их заявления должны восприниматься должным образом». Ссылаясь на статью[3094] в The Atlantic, в которой собрана большая коллекция высказываний инженеров и учёных, Андриссен подчёркивает, что многие лидеры в области исследований ИИ, этики, доверия и безопасности выразили явное несогласие с думерской повесткой дня и вместо этого сосредоточились на снижении сегодняшних задокументированных рисков ИИ-технологий. Андриссен с оптимизмом смотрит в будущее и утверждает, что ИИ может стать «способом сделать лучше всё, о чём мы заботимся»[3095]. Андриссен опубликовал небольшое эссе, в котором приводит краткий анализ нарративов, сформировавшихся в отношении проблематики ИИ-рисков, рассуждает о стоящих за их формированием социальных группах, а также об элементах правильной, по его мнению, политики в отношении развития ИИ[3096]^, [3097].

Основатель Facebook Марк Цукерберг также не разделяет пессимизма в отношении прогресса ИИ: «Я настроен оптимистически, — говорит он в одном из своих стримов, сопровождая рассуждения приготовлением барбекю. — Что до тех людей, которые испытывают скепсис [в отношении ИИ] и пытаются раздуть все эти сценарии судного дня, — я их просто не понимаю. Это совершенно неконструктивно, и в некотором смысле я считаю это довольно безответственным <…> Всякий раз, когда я слышу, как люди говорят, что искусственный интеллект причинит людям боль в будущем, я думаю, что да, вы знаете, технологии, как правило, всегда можно использовать как во благо, так и во вред, и вы должны быть осторожны при их разработке, должны внимательно относиться к тому, что именно вы создаёте, и как это будет использоваться, — развивает свою мысль Цукерберг, — Но я не понимаю людей, которые выступают за замедление прогресса в области ИИ, эта идея кажется мне весьма сомнительной»[3098].

Американский предприниматель Крис Николсон, сооснователь компании Skymind и один из авторов фреймворка Deeplearning4j, высказался на этот счёт более афористично: «Для людей из мира технологий рассуждения об искусственном интеллекте — это кокаин: они возбуждают и вызывают ничем не обоснованную паранойю» [Thinking about AI is the cocaine of technologists: it makes us excited, and needlessly paranoid][3099].

Кто же прав? И что же следует делать человечеству в данной ситуации?

7.1.3 Варианты преодоления рисков развития ИИ

В своей знаменитой статье 2000 г. «Почему мы не нужны будущему» (Why the Future Doesn’t Need Us) для издания Wired Джой рисует мрачную картину превращения нашего мира в «серую слизь» [gray goo], что, по его мнению, станет результатом деятельности нанороботов. «Единственной практической альтернативой, которую я вижу, — пишет Джой, — является отказ: надо ограничить развитие слишком опасных технологий путём ограничения нашего стремления к определённым родам знаний»[3100].

Может, действительно стоит ввести ограничения на развитие технологий ИИ, подобные международным договорам о ядерном, биологическом и химическом оружии? По сути, такие договоры можно считать установлением ограничений на развитие физики, биологии и химии в военных целях.

Лично мне такой путь представляется не слишком реалистичным.

Во-первых, развитие технологий сложно ограничивать вообще. На уровне международных договоров можно разве что ввести подобный запрет для отдельных стран. Но, как показала практика, даже небольшая находящаяся в изоляции Северная Корея смогла создать ядерное оружие и ракетно-космическую программу. Поэтому если новая технология действительно может оказаться прорывной, то ведущие государства мира всё равно будут, несмотря на ограничения и запреты, развивать её в секретном режиме, и никто не сможет этому воспрепятствовать.

Во-вторых, неясно, как возможно ограничить развитие ИИ в нынешнее время — ведь развитие этой отрасли не требует каких-либо уникальных ресурсов и доступно многим государствам и компаниям. Не исключено, что универсальный ИИ можно будет создать при помощи машин общего назначения, предназначенных для решения повседневных задач. Поэтому попытки ограничения развития ИИ приведут к тому, что пострадают полезные применения ИИ (медицинское, образовательное и др.), при этом военные исследования как раз не пострадают.

Трудность запрета универсального ИИ подчёркивает в своей книге «Совместимость. Как контролировать искусственный интеллект» (Human Compatible: AI and the Problem of Control) уже знакомый нам профессор Стюарт Рассел:

Прогресс в разработке универсального ИИ достигается главным образом в дискуссиях учёных из исследовательских лабораторий по всему миру, по мере возникновения и решения математических задач. Мы не знаем заранее, какие идеи и уравнения запрещать, и, даже если бы знали, не приходится ожидать, что подобный запрет будет осуществимым или действенным.

Ещё больше осложняет проблему то, что исследователи, двигающие вперёд разработку универсального ИИ, часто работают над чем-то ещё. Как я уже замечал, изучение инструментального ИИ — специализированных безобидных приложений наподобие игровых программ, медицинской диагностики и планирования путешествий — часто ведёт к развитию методов универсального характера, применимых к широкому спектру других задач, и приближает нас к ИИ человеческого уровня.

Рассуждая о возможности свёртывания исследований в области ИИ, Рассел пишет: «Как большинство исследователей ИИ, я содрогаюсь при мысли об этом. Кто смеет указывать мне, о чём можно думать и о чём нельзя? Любой, кто предлагает покончить с изучением ИИ, должен быть очень убедительным. Прекратить исследования ИИ означало бы отказаться не просто от одного из главных путей к пониманию того, как устроен человеческий разум, но и от уникальной возможности улучшить положение человека — создать намного более совершенную цивилизацию. Экономическая ценность ИИ человеческого уровня измеряется в тысячах триллионов долларов, и следует ожидать колоссального импульса на продолжение этих исследований со стороны корпораций и властей. Он пересилит туманные возражения философа, как бы тот ни почитался в качестве «обладателя особого знания», по выражению Батлера»[3101]^, [3102].

Какой же тогда путь снижения рисков следует избрать?

Надо заметить, что большая часть обеспокоенных экзистенциальными ИИ-рисками учёных не являются сторонниками таких радикальных мер, как введение ограничений на исследования в области ИИ. Тот же Бостром, например, предлагает организовать мониторинг развития в этой области, расширить международное сотрудничество между командами, занимающимися исследованиями в области ИИ (чтобы избежать «гонки вооружений» в этой области). Бостром рекомендует ограничение области принятия решений ИИ-агентами, предлагает различные способы влияния на обучение моделей (например, создание этически выверенных датасетов) и так далее[3103]. Его анализ этой области, безусловно, заслуживает внимания, хотя некоторые его выводы и идеи, на мой взгляд, являются небесспорными.

Ещё с начала 1970-х гг. учёные исследуют так называемую «проблему ограничения свободы» компьютерных программ. В рамках этой парадигмы современные исследователи рассматривают и различные механизмы контроля систем ИИ, близких к сверхинтеллекту. Так, например, Роман Ямпольский, основатель и директор Лаборатории кибербезопасности в Луисвиллском университете (University of Louisville, UofL), в своей работе «Герметизация сингулярности. Проблема ограничения свободы искусственного интеллекта» (Leakproofing the Singularity. Artificial Intelligence Confinement Problem), отталкиваясь от идеи «герметично замкнутой» сингулярности, предложенной австралийским философом Дэвидом Чалмерсом, предлагает конкретный протокол, цель которого — создать безопасную замкнутую среду, способную «ограничить свободу» сверхинтеллекта при его использовании человечеством[3104]^, [3105].

Если говорить об Илоне Маске, то и он, несмотря на использование вульгарных метафор, не является противником научно-технического прогресса. Маск хоть и высказывается (или даже действует в духе максимы «Не можешь победить — возглавь»), но активно способствует развитию технологий машинного обучения, стремясь скорректировать вектор технологического развития. В 2015 г. он пожертвовал 10 млн долларов волонтёрской организации «Институт будущего жизни» (Future of Life Institute), работа которой направлена на «смягчение рисков, грозящих человечеству в будущем». Эта некоммерческая организация, в частности, занимается исследованием угроз, которые несёт в себе искусственный интеллект[3106]. Осенью того же года Маск вместе с другими предпринимателями и специалистами из Кремниевой долины основал неоднократно упомянутую в книге компанию OpenAI. В число основателей, помимо самого Маска, вошли Сэм Альтман, Грэг Брокман, Джон Шульман, а также уже знакомые нам Илья Суцкевер и Войцех Заремба. Создание компании поддержали Рейд Хоффман — сооснователь компании LinkedIn, Питер Тиль — сооснователь PayPal и Джессика Ливингстон — партнёр-основатель венчурного фонда Y Combinator.

Суммарные стартовые инвестиции в компанию составили миллиард долларов. Цель OpenAI — способствовать повышению открытости разработки в области ИИ. Организация заявляет, что будет «свободно сотрудничать» [freely collaborate] с другими учреждениями и исследователями, сделав свои патенты и исследования открытыми для общественности[3107]^, [3108]^, [3109]^, [3110]^, [3111]^, [3112].

Маск и Альтман заявили, что одним из мотивов создания OpenAI стали опасения по поводу экзистенциальных рисков со стороны универсального ИИ [artificial general intelligence][3113]^, [3114]. OpenAI заявляет: «Трудно представить себе, в какой мере система ИИ человеческого уровня может принести пользу обществу, и столь же трудно понять, насколько она может навредить обществу в случае ошибок, допущенных при её создании, неправильного применения <…> Из-за удивительной истории развития ИИ трудно предсказать, когда ИИ человеческого уровня окажется в пределах досягаемости»[3115]. OpenAI заявляет, что ИИ «должен воплощать желания людей и в соответствии с духом свободы должен быть как можно более широко и равномерно распределённым…»[3116]

В связи с этим возникает риторический вопрос: «Действительно ли мы готовы позволить проникнуть в наше общество автономным программным и аппаратным агентам, детали работы которых известны лишь немногим избранным? Конечно, нет»[3117].

Альтман ожидает, что рассчитанный на десятилетия проект позволит создать системы ИИ, превосходящие людей в интеллектуальном плане[3118].

Однако возможность реализации контринтуитивной стратегии Маска и Альтмана, направленной на снижение рисков развития ИИ путём предоставления возможностей ИИ как можно большему числу людей, вызывает сомнения у более радикально настроенных «алармистов». Например, Бостром полагает, что в ситуации «плохой кнопки» основатели OpenAI изменят своей стратегии и не будут её раздавать всем («Если у вас будет кнопка, которая может причинить вред миру, вы не захотите дать её всем»)[3119]. Масло в огонь подлил факт выдачи лицензии компании Microsoft на использование GPT-3 в её собственных продуктах и сервисах. И хотя OpenAI и заявила, что «сделка не повлияет на дальнейший доступ [пользователей] к модели GPT-3 через API OpenAI»[3120], у многих людей возник вполне резонный вопрос: значит ли это, что OpenAI будет руководствоваться в предоставлении доступа к передовым разработкам в области ИИ чисто коммерческой логикой, усиливая тем самым доминирование крупных корпораций в обществе? И насколько такая логика сочетается с декларированными OpenAI лозунгами о демократизации ИИ и снижении ИИ-рисков за счёт расширения доступа к технологиям?

Есть ещё одно из направлений деятельности Маска, которое в некоторой степени связано с проблемой ИИ-рисков. Речь идёт о компании Neuralink, делящей с OpenAI здание Pioneer Building в Сан-Франциско. Эта компания специализируется на исследованиях в области интерфейсов «машина — мозг» (Brain Computer Interfaces, BCI), что по замыслу позволит людям тесно интегрироваться с будущими системами ИИ[3121]. Можно сказать, что они стремятся сделать человечество частью будущего сверхразума, чтобы оно смогло избежать роли тупиковой ветви эволюции.

Идеи, подобные идеям Маска, высказывают и другие известные предприниматели из сферы информационных технологий. Например, основатель компании Microsoft Билл Гейтс формулирует свои взгляды следующим образом: «Я принадлежу к лагерю тех, кто озабочен возникновением сверхинтеллекта. Сначала машины будут делать для нас много полезной работы и не будут обладать сверхинтеллектом. Это будет позитивным явлением, если мы нормально управляем процессом. Однако через несколько десятилетий ИИ станет достаточно сильным, чтобы вызвать беспокойство. Я согласен с Илоном Маском и другими на этот счёт и не понимаю, почему некоторые люди не чувствуют такого же беспокойства»[3122]. При этом Билл Гейтс поясняет, что не пытается притормозить научно-технический прогресс, а всего лишь хочет привлечь внимание к двум потенциальным проблемам: 1) ИИ начинает выполнять работу, к которой привыкли люди; 2) универсальный ИИ может эволюционировать в состояние, «конфликтующее с целями человеческих систем»[3123].

В целом, анализируя мнения учёных и бизнесменов относительно ИИ-рисков, заметно, что в действительности между взглядами, скажем, Бострома и Цукерберга, Маска и Ына мы не находим никакой зияющей пропасти. Даже Бостром, заслуживший себе репутацию алармиста, весьма далёк от идей Батлера. Набор мер, предлагаемый Бостромом, вовсе не предполагает «возврата в пещеры» и даже запрета развития ИИ.

Если рассматривать позицию представителей противоположного лагеря, взяв в качестве примера, скажем, Марка Цукерберга, то его взгляды на деле далеки от шапкозакидательского оптимизма. Даже в неформальных рассуждениях на тему ИИ-рисков за приготовлением говяжьих рёбрышек видно, что он вовсе не отрицает наличия этих рисков и необходимости принимать их в расчёт[3124]. На поверку вопрос об ИИ-рисках становится вопросом меры: как мы оцениваем те или иные риски? Когда и в какой мере следует уделять им внимание? Какие из них переоценены, а какие недооценены в глазах общественности?

Анализируя опасения, высказываемые в отношении развития ИИ, можно выделить несколько групп рисков, безусловно заслуживающих более подробного рассмотрения. Давайте попробуем приглядеться к этим группам поближе, чтобы лучше понять все pro et contra в отношении их серьёзности.

7.3.1 Влияние технического прогресса на общество: история проблемы

Массовое внедрение систем, основанных на последних достижениях в области ИИ, — это, мягко говоря, не первая технологическая революция в истории человеческого общества и не первый случай, когда перемены в технологическом укладе ставят под угрозу множество рабочих мест, что, в свою очередь, создаёт базу для тяжёлых социальных потрясений.

Вопреки распространённому заблуждению, Конфуций, по всей видимости, никогда не желал своим врагам жить в эпоху перемен. Древняя китайская мудрость гласит: 寧為太平犬，莫做亂離人, что значит «Лучше быть собакой в мирное время, чем человеком во времена хаоса», но это изречение более относится к войне, чем к переменам в жизни общества. Страх перед меняющимся миром — это, по всей видимости, всё-таки примета Нового времени. Могущественные боги научно-технического прогресса, мирно дремавшие в течение большей части Средневековья, пробудились и наделали много шума сначала в Европе, а затем и во всём мире. Технологическая революция решительно вторглась в быт феодальных общин, дав начало эпохе огораживаний. Стремительный рост ткацкой промышленности, начавшийся с появления и распространения ручных ткацких станков и развития ткацкой мануфактуры в Англии, привёл к быстрому росту цен на основное сырьё — шерсть. Чтобы расширить площадь пастбищ для овец, лендлорды сгоняли крестьян с земель, ликвидируя земледельческие общины. Это привело к серьёзным социальным проблемам — множество людей осталось без средств к существованию. Правительство боролось с этим крайне негуманными, но соответствующими духу времени методами. Вспыхивавшие восстания (например, восстание Томаса Кета) подавлялись, ужесточались наказания, принимались законы против бродяг. Например, в 1495 г. английский парламент принял статут, предписывающий властям «хватать всех таких бродяг, бездельников и подозрительных и заковывать в колодки и держать их так три дня и три ночи на хлебе и воде; и по истечении этих трëх дней и трëх ночей выпускать их на волю, приказывая, чтобы те больше не появлялись в городе».

Согнанные с земли люди пополнили строй промышленных рабочих в городах. Но промышленность развивалась недостаточно быстро, чтобы потреблять эту высвободившуюся рабочую силу. Это были годы, в которые, по меткому замечанию Томаса Мора, «овцы съели людей».

Таким образом, смена технологического уклада привела к социальной катастрофе.

Впрочем, как спустя два столетия заметил один из идейных прародителей современных интернет-троллей Джонатан Свифт, в данном случае удовлетворялся вовсе не овечий аппетит. В своём памфлете «Скромное предложение, имеющее целью не допустить, чтобы дети бедняков в Ирландии были в тягость своим родителям или своей родине, и, напротив, сделать их полезными для общества»[3144] Свифт предложил продавать детей бедняков в качестве деликатеса для стола представителей элиты. Далее в тексте памфлета изложены рецепты приготовления младенцев в пищу и калькуляции, доказывающие экономические выгоды от реализации предложенного плана.

Во второй половине XVIII в. появились первые станки, основанные на силе пара, что подстегнуло новую волну безработицы и привело к серии стихийных протестов. Проблема заключалась не только в том, что люди теряли работу, — при потере работы квалифицированный специалист мог найти себе новое место. Но в результате внедрения машин исчезали целые профессии, на освоение которых люди тратили многие годы. Это ставило работников в крайне тяжёлое положение, поскольку им теперь надо было осваивать новое ремесло, что для многих было неподъёмной задачей. Случаи уничтожения машин появились в Англии в конце XVIII в., а в 1811 г. возникло массовое движение луддитов, которое быстро распространилось по всей Англии и привело к разрушению ряда шерстяных и хлопкообрабатывающих фабрик.

Своим предводителем луддиты называли некоего Неда Лудда. Лудду приписывалось уничтожение двух чулочных станков, производивших дешёвые чулки и грозивших разорением опытным вязальщицам. Подпись Лудда стояла под множеством писем и прокламаций, однако реальное существование этого исторического персонажа в наши дни подвергается сомнению. В народной молве Лудд стал генералом Луддом и даже «королём Луддом». Поговаривали, что он живёт в Шервудском лесу, подобно Робин Гуду[3145]. Возможно, реальным прототипом Лудда был ткач Эдвард Ладлэм, но это не точно[3146]^, [3147].

Реакция английского правительства была жёсткой — в качестве наказания за уничтожение машин была установлена смертная казнь, а сами восстания были подавлены войсками. Последнее из восстаний луддитов было разгромлено в 1817 г.

7.3.2 Сегодня в мире: прогресс и перспективы

«Через 30 лет роботы смогут делать практически всё, что умеют делать люди, — такой прогноз дал Моше Варди, профессор вычислительной инженерии и директор Института информационных технологий Кена Кеннеди (Ken Kennedy Institute for Information Technology) при Университете Райса (William Marsh Rice University). — Это приведёт к тому, что более 50% жителей Земли станут безработными. Мы приближаемся к тому времени, когда машины превзойдут людей почти в любом деле, — говорит Варди. — Я считаю, что обществу нужно посмотреть в лицо этой проблеме до того, как она встанет во весь рост. Если машины будут способны делать почти всё, что умеют люди, что тем останется делать? Вопрос, который я хочу поставить, звучит так: „Действительно ли технология, которую мы разрабатываем, приносит пользу человечеству?“»

Варди выступил с этим заявлением в 2016 г. на ежегодной встрече Американской ассоциации содействия развитию науки (American Association for the Advancement of Science), на которой он представил доклад под названием «Умные роботы и их влияние на общество» (Smart Robots and Their Impact on Employment)[3148].

Прав ли Варди? Реальна ли обрисованная им перспектива? Можно ли делать подобные предсказания, основываясь на нынешних достижениях?

Некоторые публичные ораторы заявляют, что все достижения последних десятилетий в области искусственного интеллекта есть не что иное, как мистификация, созданная для относительно честного отъёма денег у легковерных инвесторов.

Например, в 2018 г. английский изобретатель Эндрю Фентем опубликовал в издании The Register статью под названием «Мифологизация вопроса: ренессанс искусственного интеллекта — это просто дорогое компьютерное оборудование и пиар, брошенные на старую идею» (Mything the point: The AI renaissance is simply expensive hardware and PR thrown at an old idea), в которой пишет: «В области искусственного интеллекта не было значительного концептуального прогресса более 30 лет. Большая часть того, что мы сейчас наблюдаем в исследованиях искусственного интеллекта и в средствах массовой информации, — это то, что происходит, когда огромное количество очень дорогого компьютерного оборудования и изощрённая PR-кампания бросаются на довольно старую идею»[3149].

Доктор биологических наук, профессор Савельев и вовсе заявляет: «Я пережил уже три больших цикла, когда удалось расхитить колоссальные средства из бюджета на создание искусственного интеллекта. Я думаю, что ещё будет не один цикл. Я просто завидую ребятам, которые умудряются в третий раз обманывать население этой планеты на одну и ту же тему. Здорово, я бы тоже так хотел, но мне не дают». Вот в чём, по мнению Савельева, заключается основной недостаток систем искусственного интеллекта, на преодоление которого уйдут столетия:

Человеческий мозг обладает творчеством по одной простой причине. Я сейчас объясню почему. У нас между вот этими одиннадцатью миллиардами нейронов каждый день образуются две связи, и две связи рвутся. И так всю жизнь. Мозг думает не потому, что там сигналы бегают, как в больном воображении инженера недоученного. Не поэтому. Это у инженера в голове мозг работает, как электрический проводник. Там, простите меня, приходит один синапс, один-единственный контакт между нейронами, которых от ста тысяч до миллиона у каждой нервной клетки из одиннадцати миллиардов. А из этого, посчитайте, один такой синапс, в него приходит, медиаторов двадцать пять штук, в разных комбинациях, которые кодируют сигнал. И сигнал идёт электрохимический, а не чистая проводимость. Это по проводам электричество бегает. А здесь информационные сигналы все электрохимические. Близко нет. И самое главное, что эти контакты образуются и разрушаются всю жизнь. То есть, это что значит? Я привожу постоянно пример. У нас сто пятьдесят миллиардов вообще целиком во всей нервной системе нейронов, в коре одиннадцать миллиардов. То есть, это что означает? Что нам надо подождать ещё двести лет, и тогда мы сможем создать суперкомпьютер, посадив в обмотку каждого нейрона по китайцу с паяльником, который будет через два дня перепаивать контакты. Они не программируются, вот в чём фокус. А именно в них творчество. То есть, не комбинаторика: как поменять доллары на евро и обратно. Не как в шахматы выиграть. Не эта вся глупость, которая имитирует псевдонаучную деятельность, а совсем другое — морфогенез. У нас мозг думает, принимает решения, выбирает за счёт морфогенеза[3150].

К сожалению, высказывания что Фентема, что Савельева демонстрируют лишь их недостаточные знания в области методов ИИ, а также о прогрессе, происходящем в этой области. Например, Савельев не в курсе, что с морфогенезом у искусственных нейронных сетей всё в полном порядке: программные модели прекрасно обходятся без миллиардов людей с паяльниками, причём они обладали этой способностью ещё на самой заре электронной вычислительной техники. Моделировать образование или исчезновение связей между нейронами можно, меняя хранящиеся в памяти машины данные, без внесения изменений в её физическую конструкцию — именно эту простую мысль высказывает Тьюринг в уже упоминавшемся нами ранее письме Эшби[3151]. Фентем, по всей видимости, ничего не знает ни о современных свёрточных нейросетевых архитектурах, ни о LSTM, ни о словарных эмбеддингах, ни о механизме внимания и трансформерах, ни о генеративно-состязательных сетях — вообще ни о чём из огромного арсенала новых методов и архитектур, созданных за последние два-три десятилетия. Подобно маленькому ребёнку, который думает, что взрослые перестали его видеть, если он зажмурил глаза, подобные критики ИИ, по всей видимости, думают, что если они ничего не знают о прогрессе в какой-то области, то сам этот прогресс просто отсутствует.

Забавно разбирать эти тезисы в одной из заключительных глав работы, львиная доля которой посвящена как раз летописи достижений в области ИИ, в том числе относящихся к последнему десятилетию. Удивительно стремление человеческого разума к разнообразным теориям заговора. В погоне за увлекательным сюжетом в духе произведений Дэна Брауна некоторые люди готовы игнорировать даже очевидные факты. Фукидид в «Истории Пелопоннесской войны» писал: «…Потому что это привычка человечества — подвергаться бездумной надежде на то, чего они хотят, и использовать собственные суждения, чтобы отбросить то, что им не нравится». Факты, однако, упрямая вещь, они, подобно садовым граблям, выжидают удобный момент, чтобы проучить того, кто всерьёз собрался их игнорировать.

За последние полтора десятилетия науке удалось решить целый ряд сложных задач из области искусственного интеллекта. Ирония заключается в том, что многие замеченные публикой проекты, вроде Deep Blue или Alpha Go, в действительности лишь косвенно отражают прогресс, проделанный технологиями машинного обучения. Куда большее значение для производственного уклада имеют технологии, позволяющие машинам эффективно решать производственные задачи, с которыми раньше могли справиться только люди. Системы машинного зрения, способные со сверхчеловеческой точностью распознавать объекты, попавшие в объектив цифровых камер, системы распознавания и синтеза речи, модели для обработки естественного языка, геоинформационные и поисковые системы — всё это вещи, которые стремительно меняют облик производства и торговли, приводят к перестройке логистических цепочек и титаническим сдвигам на рынке труда, заметным даже невооружённым глазом. Пока внимание публики сосредоточено на медленном, но уверенном прогрессе в области беспилотного транспорта, совершенно незаметно в нашу жизнь пришли автоматизированные операторы колл-центров. На сентябрь 2023 г. одна лишь система, разработанная компанией «АБК» (дочерней компанией «Сбера», в которой ваш покорный слуга на протяжении почти семи лет занимал пост директора по информационным технологиям), совершает ежесуточно около 850 000 разговоров с клиентами суммарной продолжительностью более 800 000 минут. Сегодня «Сбер» продолжает активно развивать эту платформу под брендом VSRobotics. При этом за время с начала пандемии коронавируса число ежесуточно выполняемых с её помощью голосовых коммуникаций с клиентами выросло примерно десятикратно.

Телемаркетинг, справочные системы, работа с просроченной задолженностью, поддержка операций — всё это области, в которых роботы сегодня взяли на себя огромный объём задач, ещё вчера решавшихся исключительно людьми. Торговые автоматы пришли в московских офисах на смену буфетам. Многочисленные цепочки торговых посредников уступили значительную долю рынка электронным торговым площадкам. Наблюдая за успехами Amazon и ростом капиталов Джеффа Безоса, мало кто задумывается о том, что на складах этой компании уже давно трудятся роботы.

В марте 2012 г. Amazon приобрела за 775 млн долларов компанию Kiva Systems, известную сегодня под названием Amazon Robotics. В конце 2014 г. на десяти складах Amazon уже трудилось в общей сложности около 15 000 роботов[3152]. На 2023 г. число складских роботов Amazon превысило[3153] 750 000. Складской робот Amazon — небольшая тележка высотой около 30 см, способная перевозить более 300 кг груза. Согласованным перемещением тележек управляет логистическая система ИИ, берущая на себя задачу оптимизации транспортных операций внутри склада.

В 2022 г. компания DHL подписала с Boston Dynamics договор на 15 млн долларов о поставке роботов-грузчиков Stretch, которые будут работать на складах DHL в Северной Америке.

И Amazon, и DHL[3154], как и многие другие компании, не прочь продолжить автоматизированные логистические цепочки и за пределы складских помещений. На улицах многих городов уже сегодня появились роботы-курьеры. Соответствующие программы, кроме инновационных стартапов, развивают и FedEx, и Postmates, и даже «Яндекс»: в 2020 г. москвичи заметили на улицах города первого робота-курьера, разъезжающего по тротуарам[3155]^, [3156]. «Сбер» ещё с 2017 г. использует в некоторых регионах инкассаторские дроны[3157]. В Сан-Франциско увеличение количества роботов-курьеров привело к активной полемике о необходимости регулирования их применения. Хотя изначально высказывались весьма радикальные предложения, вплоть до полного запрета использования этой технологии, в конечном счёте всё завершилось принятием набора ограничений и выдачей разрешений ряду компаний[3158]^, [3159]. Хотя пока что количество роботов-курьеров существенно уступает числу складских или промышленных роботов, рост их числа лишь вопрос времени.

В промышленности полностью или частично автоматизированные системы уже давно не воспринимаются как нечто необычное. В конце концов, и жаккардовый ткацкий станок, и станки с ЧПУ, появившиеся в XX в., — всё это привычные нам средства автоматизации производства. Однако по мере того, как в распоряжении создателей таких станков появляются новые способы обработки данных, станки становятся способны выполнять более сложные операции, отвоёвывая у человека его ранее исключительные способности и рабочие места.

Пока в производственных процессах ещё участвуют люди, нужны и роботы, способные безопасно работать рядом с этими людьми, так называемые коллаборативные роботы (коботы). Последние годы рынок коллаборативной робототехники стремительно растёт[3160].

Согласно прогнозу компании Juniper Research, к 2023 г. в мире будет использоваться 8 млрд виртуальных голосовых ассистентов (на конец 2018 г. их количество оценивалось в 2,5 млрд)[3161]. По состоянию на январь 2020 г. около 500 млн пользователей во всём мире хотя бы раз в месяц обращались к одному только виртуальному ассистенту Google[3162].

Рекламные боты, строительные и биржевые роботы, роботизированные медицинские системы, автоматизированные системы речевой аналитики, транспортные системы навигации, в конце концов, роботы-пылесосы — всё это стало привычной частью нашей жизни в последние десятилетия. И всё-таки находятся люди, утверждающие, что прогресс в области ИИ — это всего лишь медийная шумиха. Существование таких людей удивляет меня куда больше, чем многие достижения науки и технологии.

7.3.3 Бессмысленный труд: невкусный плод древа прогресса

Если прогресс будет продолжаться и через 30 лет роботы смогут делать практически всё, что умеют люди, — к каким последствиям это приведёт и как отразится на современном обществе?

Хотя и в наши дни противников технического прогресса нередко называют неолуддитами, мы вроде бы живём в куда более травоядные времена, чем два столетия назад. Какое нам дело до гвельфов и гибеллинов? Наши машины изящны, одеты в утончённые дизайнерские корпуса, разве могут они сравниться в своей кровожадности с древними паровыми чудовищами? Представители финансовых кругов и политики стали гораздо вежливее, в цивилизованных странах раз в несколько лет они великодушно проводят выборы и почти никогда не посылают войска против народа для того, чтобы исправить неудачные результаты голосования.

В богатых странах безработные получают неплохие пособия по безработице, которые позволяют людям не умереть с голоду. В истории ручной труд не единожды в массовых объёмах замещался машинным, но каждый раз в экономике со временем возникали новые рабочие места, и уровень безработицы в наши дни вряд ли выше уровня безработицы 100 или 200 лет назад.

Поэтому можно предположить, что людей, работа которых станет невостребованной, ждёт более завидная судьба, чем 200 лет назад. Последние полвека в развитых странах активно растёт число людей, занятых в непроизводственной сфере, и например, в книге «Бредовая работа» (Bullshit Jobs) недавно ушедший от нас антрополог Дэвид Грэбер рассказал о феномене «бесполезных работ, о которых никто не хочет говорить». Он полагал, что такие работы окружают нас повсюду. В 2015 г. аналитическая компания YouGov опросила жителей Великобритании, считают ли они, что их работа является осмысленной с точки зрения окружающих [contribute ’meaningfully’ to the world]. 37% респондентов ответили «нет», а 13% не смогли определиться с ответом. Сходные результаты были получены и во время опроса в Нидерландах. Книга Грэбера[3163] носит отметку особого эмпиризма благодаря ряду приведённых в ней писем «из окопов абсурда»:

Я занимаюсь цифровым консалтингом для отделов маркетинга глобальных фармацевтических компаний. Часто работаю с глобальными PR-агентствами и пишу отчёты с названиями, например, «Как улучшить взаимодействие между ключевыми участниками цифрового здравоохранения». Это чистая, чистейшая фигня и не служит никакой цели, кроме галочек в маркетинговых отделах… Недавно я получил около двенадцати тысяч фунтов за двухстраничный отчёт для фармацевтической компании. Его планировали показать на встрече по глобальной стратегии. В итоге отчёт не понадобился, потому что до этого пункта повестки дня так и не дошли.

Грэбер обращает особенное внимание на то, что следует отличать бессмысленную работу от «отстойной работы» [shit job]. Последний термин используется для обозначения тяжёлой, неблагодарной, но нужной обществу работы. В отличие от тех, кто занят отстойной работой, обладатели бессмысленной работы нередко получают высокие зарплаты и хорошую компенсацию в виде массы свободного времени. И всё же они несчастны. Грэбер считал, что виной тому — ощущение бесполезности. Это наблюдение привело автора к определению бессмысленной работы как «формы оплачиваемой занятости, которая настолько бессмысленна, не нужна или вредна, что даже работник не может оправдать её существование, хотя по условиям контракта он чувствует обязанность притворяться, что это не так»[3164]. Если во времена «Нового курса» Рузвельта «лишние» работники строили дороги за счёт государства, то в наши дни они составляют бессмысленные презентации за счёт корпораций. Так или иначе, «бессмысленная занятость» выполняет роль своеобразного социального демпфера, частично компенсирующего последствия снижения спроса на рабочую силу в производственном секторе в результате постепенного повышения производительности труда (отдельный вопрос заключается в том, хотим ли мы жить в мире, в котором бессмысленная занятость является основным рецептом по борьбе с безработицей).

7.3.4 Висит груша — нельзя скушать: новые рабочие места

Надо отметить, что вопрос с возникновением новых рабочих мест под влиянием научно-технического прогресса является неоднозначным. Если проанализировать долгосрочную динамику рынка труда, можно обнаружить, что на длинной дистанции количество рабочих мест в экономике не сокращалось. Появлялись новые профессии и целые отрасли, а в отраслях, существенно не затронутых автоматизацией, увеличивалось количество занятых. Производство электроники, индустрия программного обеспечения (в том числе компьютерных игр), интернет-маркетинг и торговля — всё это области, неизвестные рынку труда до начала революции в области информационных технологий. Эпоха революции глубокого обучения также создаёт новые области применения человеческого труда — и это не только рабочие места для специалистов в области ИИ. Множество людей задействовано сегодня в обучении специалистов, разметке данных, разработке программно-аппаратных комплексов (как на основе новых моделей машинного обучения, так и предназначенных для их разработчиков), их тестировании и внедрении. Новые сервисы, основанные на достижениях ИИ, нуждаются в дизайнерах, маркетологах, экономистах, специалистах по DevOps (инженерах разработки) и так далее. Благодаря появлению новых отраслей и сервисов развитие технологий ИИ не является «игрой с нулевой суммой» — росту производительности труда сопутствует рост общественных потребностей.

Четвёртая промышленная революция, так же как и три предыдущих, создаёт новые рабочие места, однако требования к квалификации сотрудников, удовлетворяющих всем потребностям новых вакансий, не всегда соответствуют навыкам тех людей, которые лишаются работы в результате автоматизации.

Наивно предполагать, что люди, занятые не самым престижным трудом, по мановению волшебной палочки превратятся в программистов, специалистов по машинному обучению или цифровых адвокатов (о том, кто это, мы поговорим позже). Для переподготовки кадров в массовых масштабах нужны не только существенные финансовые ресурсы, но и специалисты по переподготовке кадров, которых, к сожалению, недостаточно. Предыдущие промышленные революции в среднесрочной перспективе привели к тяжёлым социальным последствиям: падению доходов населения, росту преступности, увеличению смертности и, наконец, к войнам — извечному средству для устранения избыточного населения.

Совершенно очевидно, что без масштабных социальных программ, без энергичной государственной политики в социальной сфере частный сектор экономики не сможет ответить на возникающие вызовы либо эти ответы будут найдены далеко за пределами гуманистической парадигмы.

7.3.5 Идея безусловного основного дохода

Часто в качестве панацеи от негативных социальных последствий научно-технического прогресса называют введение безусловного основного дохода (БОД), называемого также безусловным базовым доходом: каждый гражданин, как работающий, так и безработный, будет получать от государства определённую сумму денег, достаточную для безбедного существования, что навсегда решит проблему бедности, связанной с безработицей.

Удивительно, как хорошо забытое старое легко становится новым. Идее Томаса Пейна и маркиза де Кондорсе удалось более чем на 200 лет пережить своих создателей и предстать в виде своеобразного откровения пред лицом неискушённой публики. Подобное происходило практически каждый раз, когда общество сталкивалось с очередной волной массовой безработицы. Например, во времена Великой депрессии эта идея выросла в большое общественное движение.

Первый всеевропейский опрос, проведённый в апреле 2016 г., показал, что 64% жителей Евросоюза поддержали бы введение безусловного основного дохода. Только 4% граждан после введения безусловного базового дохода откажутся работать. Наиболее убедительными преимуществами данной модели люди считают то, что такие социальные выплаты «уменьшают тревогу о базовых финансовых потребностях» (40%) и помогают обеспечить людям равные возможности (31%).

Идея БОД весьма привлекательна — к числу аргументов, звучащих в её поддержку, обычно относят следующие:

В этом есть, безусловно, изрядная доля смысла, однако на другой чаше весов находятся не менее весомые аргументы:

Удовлетворительного решения обозначенных проблем, особенно при попытке внедрения БОД в отдельном государстве, пока не существует.

Также ясно, что безусловный доход не может остановить рост имущественного неравенства в обществе. Если налоги, собираемые с корпораций (являющихся основными бенефициарами инноваций), будут слишком велики, то это подавит в корпорациях желание осуществлять развитие и внедрение инноваций. Если же налоги, собираемые с корпораций, окажутся недостаточно велики, то рост богатства и могущества корпораций (а значит, и имущественного неравенства в обществе) будет продолжаться. Найти же оптимальный баланс между данными вариантами чрезвычайно сложно.

При этом важно понимать, что научно-технический прогресс во многом осуществляется за счёт общественного, а не частного сектора. Частные компании задействованы в основном на «последней миле» этого пути, осуществляя вложения главным образом в прикладную науку и создание технологий, позволяющих получить прибыль на горизонте финансового планирования. Однако развитие прикладной науки зависит от прогресса науки фундаментальной, а бо́льшая часть фундаментальных исследований осуществляется в некоммерческом секторе, будь то государственная наука или некоммерческие организации, такие, например, как вузы, входящие в Лигу плюща (Ivy League) в США (ассоциацию, объединяющую ряд ведущих вузов страны).

Развитие многих технологий требует вложений существенных сумм денег на длительный период, зачастую с высокими рисками невозврата, на что часто не готовы идти даже самые крупные корпорации. Причины такого положения вещей явно не относятся к технологической сфере.

Ситуацию могла бы поправить передача управления экономикой эффективной системе ИИ, целеполагание для которой будет осуществляться при помощи методов прямой демократии, но такой подход вряд ли понравится финансовой элите и самим технологическим корпорациям, рассматривающим научно-технический прогресс как источник собственной неконтролируемой власти. Поэтому решения, подобные предложенному Свифтом, имеют все шансы оказаться внедрёнными на практике. В своём «Скромном предложении» Свифт доводил до абсурда идеи, многие отголоски которых можно услышать и сегодня. Безо всякого стыда в интеллектуальной среде высказываются предложения об искусственном снижении рождаемости в третьем мире, платежах за стерилизацию, экономическом стимулировании бездетности и так далее. При этом в пользу этих мер выдвигается, как обычно, аргумент об опасности перенаселения, причём если в XIX в. в качестве главного негативного последствия перенаселения обычно называли голод, то в XXI в. на первое место нередко выходят соображения экологического характера. Эту позицию можно, вероятно, назвать «постмальтузианской».

7.3.6 Призрак постмальтузианства

Напомним коротко положения классического мальтузианства. В своём «Очерке о законе народонаселения»[3165] Мальтус пишет о том, что население растёт в геометрической прогрессии (его численность удваивается каждые четверть века в отсутствие войн и болезней), в то время как ресурсы Земли ограниченны (производство продуктов питания растёт в арифметической прогрессии). Таким образом, если ничем не компенсировать биологическую потребность людей к продолжению рода, то рано или поздно средств к существованию перестанет хватать на всех (этот эффект получил название «мальтузианская ловушка»[3166]). При этом рост народонаселения может быть ограничен лишь нравственным воздержанием или несчастьями (войны, эпидемии, голод). Будучи в некотором роде гуманистом, Мальтус ратовал за первое.

На деле теория Мальтуса оказалась несостоятельной в силу двух некорректных допущений, положенных в её основу. Во-первых, рост производительности труда за счёт достижений научно-технического прогресса оказался существенно недооценённым. В результате, вопреки предсказаниям Мальтуса, стоимость сельскохозяйственных угодий в XIX в. снижалась, а не росла. Во-вторых, Мальтус не заметил демографического перехода, который привёл к существенному снижению рождаемости. По мере того как росла производительность труда в сельском хозяйстве, всё большая доля населения переселялась в города, где рождаемость оказывалась заметно ниже. Таким образом, действие этих двух факторов породило ещё и мультипликативный эффект. Сегодня в развитых странах нередко не достигается даже естественное воспроизводство, поскольку репродуктивные модели поведения городских жителей существенно отличаются от репродуктивных моделей аграрного общества. В индустриальной экономике от количественной стратегии (K-стратегии) размножения люди переходят к качественной (Q-стратегии). В аграрном обществе рождение ребёнка означает появление новых рабочих рук в хозяйстве, а значит, экономически обосновано — оно обеспечивает жизнь родителей в старости. Для городского жителя рождение ребёнка воспринимается скорее как роскошь. Прежде чем родить ребёнка, нужно обзавестись жильём, купить машину, найти средства на образование ребёнка и так далее. Воспитание ребёнка связано с многочисленными рисками, трудностями и неудобствами и ставит под вопрос качество жизни родителей. Когда рождение ребёнка перестаёт быть экономической необходимостью, многие люди либо отказываются от рождения детей, либо постоянно откладывают момент рождения ребёнка, нередко так и не совершая этот шаг. Даже там, где родители решаются на столь сложное и ответственное предприятие, обычно возникают семьи с небольшим количеством детей.

Прогресс в области медицины и санитарии в XX в. привёл к росту выживаемости детей даже в обществах с аграрным укладом, что вновь вызвало к жизни страхи о перенаселении. В условиях быстрых темпов урбанизации в Азии горожане первого поколения по инерции придерживались Q-стратегии размножения, что привело к введению целого ряда ограничительных мер. В конце XX в. многим учёным казалось, что мир стоит на пороге глобальной катастрофы. Численность населения росла по гиперболическому закону. По подсчётам, выполненным в 1975 г. немецким астрофизиком Себастьяном фон Хорнером, если бы этот тренд сохранился, к 2025 г. население Земли стало бы бесконечным. Примерно ту же оценку получили за 15 лет до Хорнера авторы статьи в журнале Science под красноречивым названием «Судный день: пятница, 13 ноября 2026 года: в этот день человеческое население приблизится к бесконечности, если оно будет расти так же, как росло за последние два тысячелетия» (Doomsday: Friday, 13 November, A. D. 2026: At this date human population will approach infinity if it grows as it has grown in the last two millenia)[3167].

Однако уже в 1960–1970-е гг. возникло расхождение темпов роста с гиперболическим законом. Одним из первых исследователей, обратившим на это внимание, был Сергей Капица. По мнению Капицы, точка перегиба кривой роста численности приходится примерно на 2005 г. После прохождения этой точки предполагалось замедление, симметричное эпохе гиперболического роста[3168]. В целом прогнозы Капицы оправдались — сегодня темпы роста мирового народонаселения отстают даже от линейных, и всё в большем количестве стран коэффициент рождаемости снижается ниже уровня воспроизводства.

Современные модели предполагают дальнейшую стабилизацию численности населения Земли или её снижение. Например, модель 2020 г. учёных из Вашингтонского университета под руководством Кристофера Мюррея, опубликованная в журнале Lancet[3169], предсказывает достижение населением планеты пика в 2064 г. (9,7 млрд человек в основном сценарии) с последующим его сокращением до 8,8 млрд человек к концу века.

7.3.7 Перспективы различных профессий в эпоху четвёртой индустриальной революции

Какие изменения на рынке труда ждут нас в ближайшее время? У профессий, представители которых в среднесрочной перспективе могут быть массово заменены машинами, есть несколько важных признаков.

На результат будут влиять и другие факторы: величина потенциальной экономии от замены представителя данной профессии на машину (как много людей занято в этой области и много ли они получают?); опасность работы; зрелость конкретных технологий, необходимых для успешной автоматизации; оценка рисков как от человеческого фактора, так и от «машинного» и так далее.

Попробуем рассмотреть несколько конкретных профессий и выделить основные группы риска.

В «красную зону» входят профессии, для которых в настоящее время уже созданы прототипы решений по замене людей автоматизированными системами и где внедрение таких систем не связано с необходимостью радикальных изменений в законодательной сфере. Представители этих профессий уже замещаются машинами и будут далее активно замещаться ими в ближайшие несколько лет.

«Оранжевую зону» формируют профессии, в которых широкому тиражированию решений препятствуют либо законодательные ограничения, либо недостаточная техническая зрелость созданных систем. В зависимости от особенностей законодательного процесса, а также от нюансов развития конкретных технологий профессии «оранжевой зоны» в течение 3–7 лет имеют высокие шансы перехода в «красную зону».

Представители «жёлтой зоны» вряд ли в ближайшие десять лет будут заменены машинами, однако из-за повышения производительности труда в них возможно сокращение количества занятого персонала.

И наконец, к «зелёной зоне» относятся профессии с растущим спросом на специалистов.

В октябре 2020 г. эксперты Всемирного экономического форума (World Economic Forum) представили на суд общественности аналитический отчёт под названием «Отчёт о будущем рабочих мест» (The Future of Jobs Report 2020)[3170], в котором приведены результаты скрупулёзного анализа динамики мирового рынка труда. Авторы отчёта приходят к выводу, что темпы внедрения технологий остаются в целом достаточно постоянными, но в некоторых областях они могут расти. В соответствии с тенденциями последних лет развитие облачных вычислений, индустрии больших данных и электронной коммерции остаётся в числе основных приоритетов для руководителей бизнеса, однако также наблюдается значительный рост интереса к шифрованию, негуманоидным роботам и технологиям искусственного интеллекта. При этом рынок труда находится под двойным давлением — пандемия COVID-19 не только привела к общему экономическому спаду и локдаунам, но также подтолкнула многие компании к внедрению технологий, которые могут значительно изменить структуру спроса на рабочую силу к 2025 г. Простым примером этого тезиса является ускоренное внедрение речевых технологий: на смену колл-центрам, работу которых не так просто поддерживать из-за карантинных мероприятий, приходят голосовые роботы и виртуальные ассистенты. Если до пандемии от внедрения этих технологий многие бизнесы удерживали естественная инерция и недоверие к новым технологиям, то в условиях, когда успешное развитие в рамках привычных парадигм стало просто невозможным, многие компании сделали ставку на технологическую трансформацию.

Тем не менее авторы отчёта считают, что скорость создания новых рабочих мест в результате технического прогресса будет в среднесрочной перспективе преобладать над скоростью ликвидации старых рабочих мест. Предполагается, что в течение пяти лет (с 2020 по 2025 г.) в мире будет ликвидировано 85 млн старых рабочих мест и создано 97 млн новых. При этом будет расти потребность в первую очередь в квалифицированном труде, однако одним из основных вызовов авторы отчёта считают способность общественного сектора обеспечить повышение квалификации и переподготовку сотрудников, чьи рабочие места находятся под угрозой ликвидации.

Среди прочего авторы отчёта приводят список профессий, в пределах которых количество рабочих мест активнее всего сокращалось в 2007–2018 гг., позаимствованный в другом небезынтересном исследовании — статье аналитиков Федерального резервного банка Филадельфии под названием «„Форсированная автоматизация“ под влиянием COVID-19? Предварительные тренды в данных Текущего опроса населения» (“Forced Automation” by COVID-19? Early Trends from Current Population Survey Data)[3171]. «Текущий опрос населения» (Current Population Survey, CPS) — ежемесячное социологическое исследование, осуществляемое Федеральным бюро статистики труда США (US Bureau of Labor Statistics). Выводы филадельфийского исследования в целом созвучны отчёту аналитиков Международного экономического форума. Основной фокус исследователи из Филадельфии делают на том, что потери рабочих мест в ходе пандемии в первую очередь приходятся на работы, которые проще автоматизировать. Поэтому в ходе восстановления экономики после пандемии многие из ликвидированных рабочих мест не появятся вновь.

На основе опроса экспертов авторы отчёта Всемирного экономического форума составили перечень 20 профессий, в которых спрос на рабочую силу в ближайшие годы будет расти, а также 20 профессий, в которых он будет снижаться.

Внимательный читатель заметит, что некоторые профессии попали в обе части списка (например, «механики и наладчики машин»). Это значит, что в одних компаниях количество рабочих мест в этих профессиях сокращается, а в других — растёт, что связано, по всей видимости, с перестройкой существующих бизнес-процессов. При этом важно понимать, что, хотя формально созданные рабочие места могут относиться к той же профессии, что и ликвидированные, на деле они могут предполагать существенно отличающийся набор требований к сотрудникам.

Если внимательно посмотреть на происходящую в наши дни революцию генеративных моделей, проявляющуюся во всё более широком применении моделей, подобных ChatGPT, Midjourney и другим, то нельзя не усмотреть аналогии с заменой кустарного производства промышленным, произошедшей в ходе индустриальной революции. В прошлом сходное влияние на креативные индустрии оказывали распространение книгопечатания, фотографии, кино, телевидения и интернета. Кустарное производство обычно обладает следующими особенностями (для простоты я буду здесь в качестве примера использовать производство шкафов):

• низкой производительностью труда (шкаф производится долго и требует больших трудозатрат);

• как следствие — дороговизной отдельных изделий и недоступностью их для обычных людей (во времена Возрождения шкаф-дрессуар или шкаф-кабинет — весьма дорогие предметы мебели, имевшиеся лишь в домах зажиточных людей);

• сравнительно скромными объёмами производства (шкафов производится мало);

• концентрацией всех производственных функций в руках кустарей-универсалов (весь шкаф целиком делает один мастер, некоторые работы могут доверяться подмастерьям, но полноценного разделения труда ещё не существует);

• достижением высоких уровней индивидуального мастерства (лучшие кустари делают шкафы, являющиеся произведениями искусства);

• более массовая продукция заметно уступает в качестве лучшим образцам (шкафы, которые делают подмастерья или простые плотники, — кособокие и грубые).

По мере появления массового производства и развития средств автоматизации происходят следующие типичные изменения:

• растёт производительность труда (среднестатистический шкаф теперь изготавливается гораздо быстрее);

• как следствие — удешевление и расширение объёмов производства и доступности продукции (шкафы теперь есть почти в каждой семье);

• развивается разделение труда — теперь каждую отдельную деталь или даже технологическую операцию делает отдельный специалист (один нарезает доски, другой выполняет резьбу, третий производит покраску, четвёртый приделывает фурнитуру и т. д.);

• при массовом производстве снижаются трудозатраты на выполнение отдельных операций — как за счёт оптимизации производственного процесса, так и за счёт совершенствования мастерства узкоспециализированных специалистов и, наконец, за счёт автоматизации (например, доски заданного размера или стандартные элементы фурнитуры вполне может производить соответствующий станок);

• растёт качество массовой продукции (шкафы, сходящие с конвейера, относительно однообразны, но они более-менее прямые, без заусенцев и т. д.);

• в элитарном сегменте появляются технологические шедевры, которые просто нельзя было создать без продвинутых технологий (различные «умные» шкафы или сверхзащищённые шкафы-сейфы);

• если в кустарном производстве от мастера нужны и физическая сила, и разносторонние таланты, то промышленность снижает порог входа — рабочим может стать почти каждый, для этого не нужны долгие периоды цехового ученичества и особые задатки.

Все эти изменения неизбежно несут определённые социальные последствия, как позитивные, так и негативные. Среди них: увеличение благосостояния общества, разорение мастеров-кустарей, вложивших жизнь в совершенствование обесценившихся теперь навыков, временная технологическая безработица. В прошлом подобные явления привели к становлению промышленного, а затем финансового капитала, империализму, революциям и войнам.

Отталкиваясь от имеющейся у нас исторической аналогии, можно ожидать примерно следующие последствия от прогресса в области создания генеративных моделей и основанных на них инструментов:

• снижение трудозатрат на создание самого разного творческого контента;

• увеличение количества и разнообразия создаваемых произведений; здесь, скорее всего, будет наблюдаться несколько тенденций: 1) будут охвачены более узкие, «нишевые» темы и области, создание контента для которых в «догенеративную эпоху» просто не окупалось; 2) появится больше индивидуализированных текстов или изображений, ориентированных на запросы маленьких групп людей или даже под отдельных людей; 3) распространение полностью автоматической генерации контента (нейроквесты, динамические сценарии в играх, нейроанекдоты, нейрогороскопы, одноразовые картинки по запросу пользователя, создаваемые в развлекательных целях, и т. д.); 4) появление инструментов для потребителей контента (суммаризаторы и перефразировщики текстов, «объясняторы» картинок и т. п.);

• увеличение качества лучших произведений — при наличии помощника в виде мощной генеративной модели можно будет при желании создавать шедевры нового уровня; авторы смогут опробовать огромное количество вариантов различных элементов своих произведений, отбирая самые удачные, «шлифуя» свои произведения куда более тщательно в рамках того же количества времени — в итоге будут достигнуты новые вершины искусства;

• увеличение количества «мусорного» контента — бесполезных рекламных и SEO-текстов, графоманских произведений и тому подобное;

• по всей видимости, усиление разделения труда при создании контента; хотя оно уже есть и сейчас (например, над созданием текстов нередко работают писатель, редактор, корректор и т. д.), но, скорее всего, при создании многих творческих продуктов произойдёт передел ролей — как отдельные профессии будут развиваться промпт-инженерия, создание обучающего контента для генеративных моделей, оценка сгенерированных фрагментов, управление генерацией и компоновка результатов и так далее;

• снижение порога входа в профессию — модели для оценки и улучшения стиля помогут улучшать стилистику произведений, поисковые модели — подбирать аллюзии и метафоры, электронные редакторы позаботятся о стиле, грамотности, специфических для конкретной области качествах создаваемого текста и так далее.

Эти изменения, скорее всего, затронут множество областей творчества. Такие же процессы будут происходить в генерации текстов, изображений, музыки и даже программного кода. В программировании уже сегодня происходит очередной сдвиг парадигмы, подобный тому, что произошёл с появлением языков высокого уровня или интернет-площадок для массового взаимодействия разработчиков.

Всё это, разумеется, будет иметь свои социальные последствия: изменение социокультурных практик в различных творческих отраслях, усиление власти технологических корпораций, технологическая безработица и ажиотажный спрос на рабочую силу в отдельных областях, изменение практик потребления информации, массовые протесты и судебные разбирательства, появление новых шедевров и направлений в искусстве и так далее. Все эти последствия предсказать сегодня сложно, но, безусловно, следует задумываться о них, если мы хотим минимизировать негативные последствия происходящих или грядущих изменений и извлечь для человечества максимальную пользу из возникающих технологических возможностей.

Ключевым умением в эпоху перемен является, что весьма ожидаемо, умение меняться. В настоящее время на рынке труда сформировался целый ряд своего рода метапрофессий, предполагающих умение их представителей трансформироваться вместе с индустрией. Люди, занятые в области информационных технологий, давно привыкли к тому, что измениться может всё: уходят в небытие одни языки программирования и появляются другие, меняются библиотеки, фреймворки, парадигмы разработки, оборудование, смещаются акценты, меняются задачи… — и опытный специалист принимает эти изменения, следует им и поэтому остаётся востребованным. Подобные явления наблюдаются и во многих других сферах — в педагогике, медицине, электронике, банковской сфере.

7.3.8 Грозит ли человечеству безделье: насколько реальна проблема избытка рабочей силы?

Если задуматься о развитии человечества в целом, то очевидно, что проблемы нашего общества не могут решиться сами собой (точнее, решиться они могут, но не факт, что результат всем понравится). Для их решения нужно предпринимать действия стратегического характера, организовывать глобальные проекты. Но выясняется, что частный сектор неутомимо стремится к прибыли и имеет относительно краткосрочный горизонт планирования, а государства связаны с бизнесом сложной системой сдержек, противовесов и групп влияния, а также страдают от нехватки качественной экспертизы. В итоге принимаются тактические, а не стратегические решения.

Это опасно для человечества в целом — ведь может оказаться, что за пределами горизонта планирования нас ждёт катастрофа, подобно тому как в шахматной партии ход, который на первый взгляд ведёт к выигрышу фигуры, может привести к получению мата. То есть выигрыш в краткосрочной перспективе оборачивается в конечном счёте поражением. Например, массовое применение антибиотиков по поводу и без повода угрожает проблемой возникновения резистентных бактерий, а экологически вредные производства грозят нанести непоправимый ущерб биосфере и привести к несопоставимо большим затратам на ликвидацию своих последствий.

Мне кажется, что это должно стать причиной как минимум для серьёзной общественной дискуссии.

Один из парадоксов современной экономической системы заключается в том, что наряду с проблемой безработицы во многих направлениях хозяйства наблюдается острая нехватка человеческих рук, причём нельзя сказать, что это исключительно новые направления, в которых подготовка специалистов началась сравнительно недавно. Вот лишь короткий список направлений полезного (по моему мнению) применения человеческого труда, в которых явно не помешали бы дополнительные работники:

• Социальная сфера:

• • Усиление заботы о детях и пожилых.

• • Повышение доступности детских садов и социальная поддержка молодых семей.

• Образование:

• • Бесплатное и льготное образование для широких слоёв населения.

• Наука:

• • Биомедицинские исследования.

• • Социальные исследования.

• Экология:

• • Переработка отходов.

• • Очистные мероприятия.

• • Создание и поддержка заповедников.

• Инфраструктура:

• • Энергетика.

• • Транспортная инфраструктура.

• Здравоохранение:

• • Увеличение числа медучреждений, докторов, младшего медперсонала.

• • Продвинутая профилактика.

• R&D:

• • Сервисы и продукты на базе ИИ.

• • Биотехнологии.

• • Чистые технологии и переработка.

• Искусство:

• • Цифровое искусство.

• • Искусство, создаваемое при помощи ИИ.

Конечно, найдутся люди, которые скажут, что не всякий человек способен стать программистом, медиком или учёным, однако не стоит переоценивать влияние «природной предрасположенности». Предки многих современных специалистов, работающих в высокотехнологических отраслях, ещё несколько поколений назад не умели читать и писать. Любознательность и желание учиться формируются у детей в раннем возрасте, и это может создать впечатление, что они являются врождёнными. Однако в большинстве случаев врождённые факторы могут быть с лихвой перекрыты как положительным, так и негативным влиянием среды. В пользу этого свидетельствует вся история развития человеческого общества. Несмотря на это, мы до сих пор выделяем ничтожные ресурсы на воспитание и образование подрастающего поколения. Как изменился бы мир, если бы на воспитание и образование детей в странах третьего мира выделялись средства, сопоставимые с военными бюджетами развитых стран? Педагог, работающий с детьми в детском саду или начальной школе, чаще всего куда более низкооплачиваемый специалист, чем преподаватель старших классов или высшей школы. Однако цена педагогических ошибок, допущенных в раннем возрасте ребёнка, чрезвычайно высока. Нелюбознательный ребёнок, которому взрослые отбили всякое желание познавать окружающий мир и заниматься творческим трудом, во взрослом возрасте становится обузой общества. И несмотря на этот очевидный факт, правительства во всём мире принимают абсолютно недостаточные усилия для того, чтобы сделать воспитание и образование детей качественным и доступным для всех слоёв населения. Как следствие, после взросления плохо обученных детей правительства тратят значительно большие деньги на их встраивание в общество, то есть борются с последствиями своей недальновидной политики.

А если бы развитые страны помогли странам третьего мира улучшить образование и воспитание детей, то это помогло бы решить проблемы терроризма и религиозного фундаментализма в мировом масштабе, что в конечном счёте обошлось бы человечеству дешевле, чем нынешняя борьба с терроризмом.

Как выясняется при детальном рассмотрении, технологическая безработица парадоксальным образом носит вовсе не технологический характер. Дело не в том, что в мировой экономике недостаточно сфер, в которых человеческий труд был бы востребован. Проблема заключается не в «бесчеловечных технологиях», отнимающих у людей их рабочие места, а в том, как сами люди распределяют общественные ресурсы. Как мне кажется, общество, создающее «бессмысленную занятость» на фоне дефицита специалистов во множестве сфер, требует серьёзных изменений.