Воспитание машин. Новая история разума

Введение

Главное отличие этой книги от многих других – попытка рассмотреть искусственный интеллект в глубоком историческом контексте, не ограничиваясь историей последних десятилетий. Следуя Спинозе, мы пытаемся вписать современный момент в ту цепь событий, внутри которой он возникает с необходимостью, а не случайно. Нет лучшего способа заглянуть в будущее, чем как можно основательнее разобраться в прошлом.

Вот и мы в этой книге постараемся выяснить, каковы движущие силы развития технологий и как они определяют ход технологических революций, одну из которых мы как раз и переживаем в настоящий момент. Книга рассчитана на всех, кто интересуется будущим. При этом от читателя не требуется никаких специальных знаний. Объем книги намеренно ограничен, с тем чтобы ее можно было прочесть за пару-тройку вечеров, не теряя логическую нить рассуждений автора.

Основная мысль этой книги в том, что машинный интеллект, когда он появится, неизбежно станет частью общей человеко-машинной цивилизации и унаследует от нее наши человеческие ценности. Так что даже в будущей цивилизации машинного интеллекта, когда интеллект машин далеко превзойдет человеческий уровень, они по-прежнему смогут действовать в наших интересах, а не преследовать чуждые нам цели, как какой-то чужеродный инопланетный разум. Правда, за такой благоприятный для людей сценарий нам придется побороться – создать не просто искусственный интеллект, а дружественный ИИ, и тому, как этого добиться, в книге будет уделено особое внимание.

Но прежде мы должны убедить скептиков в том, что нам вообще следует заниматься этой опасной субстанцией – искусственным разумом. Не проще ли отложить на время исследования и разработки и подождать, пока человечество «созреет» для таких вопросов? Наш ответ на этот аргумент из серии «Не давайте спички детям» состоит в том, что без создания искусственного разума в ближайшие годы человечество просто не сможет обойтись. Индустриальная цивилизация достигла пределов своего развития. Обеспечить приличное существование всему населению Земли (а не только «золотому миллиарду») имеющиеся технологии не в состоянии: биосфера просто не выдержит такой нагрузки. Назревающие экономические проблемы способны разрешить только новые цифровые технологии, главным образом искусственный интеллект. Мы приведем конкретные аргументы, за счет чего и как именно ИИ сможет поднять эффективность мировой экономики.

Но так ли уж драматична на самом деле сегодняшняя экономическая ситуация? Может быть, нынешний глобальный кризис – не структурный, а циклический и все само собой перемелется? Чтобы убедить читателя в том, что мир действительно находится сегодня в одном из переломных исторических моментов, мы начнем с краткого экскурса в историю человеческой цивилизации, что может показаться странным для книги, посвященной машинному интеллекту. Однако автор считает крайне поучительным представить нынешний кризис в одном ряду с великими кризисами прошлого, чтобы убедить читателя, что любой технологический уклад в какой-то момент достигает своих пределов и соответствующий кризис можно разрешить, только перейдя на новый пакет технологий.

Вот почему в главе 1 мы начинаем издалека – с краткого введения в историю технологических укладов: от цивилизации охотников-собирателей через аграрную и промышленную революции к современному обществу, одной ногой уже шагнувшему в новый цифровой уклад. Для каждого уклада мы выведем «на кончике пера» предельное число людей, которое способен прокормить его технологический пакет, убедившись заодно и в том, что предел населения для индустриального уклада уже практически достигнут.

Технологический пакет представляет собой сумму накопленных цивилизацией знаний. Причем, как мы покажем, они увеличиваются гораздо быстрее численности населения (как квадрат количества людей). Поскольку суммарный объем человеческой памяти растет линейно с числом людей, неизбежен момент, когда сложность цивилизации превысит ограниченные возможности человеческого мозга. По мысли автора, именно такой момент мы сегодня и наблюдаем. Появление компьютеров, а затем и искусственного интеллекта есть закономерное следствие этого простого факта.

Таким образом, в главе 1 мы проследим в общих чертах логику развития человеческой цивилизации от древних людей до наших дней, обозначив базовые параметры цивилизации на каждой ступени ее развития. Мы покажем, за счет чего революция позднего палеолита увеличила в конечном итоге население Земли в 100 раз, а последующая аграрная революция – еще в 100 раз. Наконец, почему индустриальное общество не способно прокормить более 10 млрд человек, так как достигло своего предела сложности. Логика дальнейшего развития тоже прояснится: при новом цифровом укладе нам предстоит преодолеть барьер сложности современной цивилизации за счет создания и «приручения» искусственного интеллекта. Только таким образом она сможет развиваться дальше.

В главе 2 мы наконец доберемся до ИИ как закономерного этапа эволюции цифровой техники, созревания нового уклада в недрах предыдущего. Мы проследим, как формировался современный стек цифровых технологий и почему ИИ объективно не мог появиться вплоть до недавнего времени.

Ключом к пониманию цифровой революции является обобщенный закон Мура – рост компьютерных мощностей в 100 раз каждые 10 лет. До 2010-х годов суммарные компьютерные мощности были еще пренебрежимо малы по сравнению с вычислительными возможностями человеческого мышления. Этим объясняется известный парадокс, что до сих пор экспоненциальное развитие вычислительной техники практически не сказывалось на темпах роста производительности труда в большинстве отраслей экономики.

Однако за последние 10 лет ситуация качественно изменилась. Мы покажем, что сегодня совокупная вычислительная мощность компьютеров уже превосходит таковую у людей и представляет собой тот единственный обильный и дешевый ресурс, за счет которого можно повысить эффективность мировой экономики. Но для этого необходимо научить компьютеры делать человеческую работу лучше и дешевле людей: ни много ни мало создать искусственный интеллект. Таким образом, ИИ является замыкающей технологией, открывающей возможность перехода к новому технологическому укладу.

Так называемая революция глубокого обучения 2010-х является ответом на этот вызов. Сегодня мы наблюдаем появление первых несовершенных пока версий слабого ИИ, которые можно уподобить несовершенным поначалу моделям паровых двигателей времен первой промышленной революции. Однако, как мы помним, именно благодаря паровым двигателям аграрная цивилизация стала замещаться индустриальной. Аналогично современный слабый ИИ знаменует собой начало перехода к новому цифровому укладу. Однако закончиться он может лишь с появлением сильного ИИ, повсеместно доступного «интеллекта из розетки», коллективного сетевого мышления искусственных личностей, аналогичного замене паровых двигателей на общедоступную «энергию из розетки» в ходе второй промышленной революции.

В главе 3 мы обратимся к экономике цифрового уклада. За счет чего она будет в разы эффективнее индустриальной? Почему в ней станет производиться больше благ с меньшими затратами? Какие формы организации бизнеса придут на смену транснациональным компаниям индустриального уклада?

Ключевым понятием здесь будет экономика «длинного хвоста» – существенное расширение рынка товаров и услуг при переходе от массового к персональному потреблению и производству. Торжество такой экономики мы наблюдаем воочию, по мере того как YouTube отбирает аудиторию у телевидения, а Amazon – покупателей у традиционных магазинов одновременно с ростом рынка мобильных приложений на платформах Apple, Microsoft и Google. Эти цифровые платформы и являются новыми ячейками будущей цифровой экономики. Именно они предъявляют сегодня основной спрос на технологии искусственного интеллекта и служат драйверами его развития – от слабого к сильному ИИ.

Но прежде чем обратиться к перспективам развития ИИ, в главе 4 мы обсудим социальные проблемы и риски, порожденные резкой сменой технологического уклада, ведь скорость его развития определяют не только те, кто за него, но и те, кто против. Анализ рисков позволит нам сформулировать «техническое задание» на создание безопасного ИИ, необходимого для выживания нашей цивилизации. Мы последовательно рассмотрим проблемы, связанные с грядущей массовой безработицей, нарастанием социальной напряженности и опасностью большой войны по инициативе искусственных стратегов, а также вопрос о том, останемся ли мы хозяевами своей судьбы, когда искусственный разум наконец превзойдет человеческий. Все эти риски вполне реальны, и проблемы, которые нам предстоит разрешить, нетривиальные. Они не сводятся к чисто техническим решениям, а подразумевают активное участие граждан в создании согласованной концепции общественной безопасности, разработку и внедрение национальных платформ цифровой демократии.

С технической точки зрения дружественность искусственного интеллекта должна быть встроена в операционную систему роботов, как были встроены в них «три закона робототехники» Айзека Азимова. А в дополнение к правильным «социальным инстинктам» будущей искусственной психики должны быть созданы и механизмы взаимного контроля всех членов социума, включая агентов и роботов, подобно тому как технология блокчейн автоматически обеспечивает взаимный контроль транзакций в сети. Цивилизация машинного интеллекта обязана иметь систему встроенной коллективной безопасности по аналогии с новейшими ядерными реакторами, в которые безопасность встроена на физическом уровне.

После того как мы разобрали, кому и зачем нужен сильный ИИ, а также каким требованиям он должен удовлетворять, чтобы улучшить, а не ухудшить нашу жизнь, переходим к конкретным планам по его разработке. А именно: в главе 5 мы представим замысел создания искусственной психики роботов «по образу и подобию» человеческой, с тем чтобы их интеллект был по своей архитектуре как можно ближе к нашему. Мы определим методологию разработки сильного ИИ – обратную инженерию архитектуры мозга – и сформулируем ее цель: создание искусственной психики в качестве будущей операционной системы роботов. В довершение покажем, как может выглядеть цифровая платформа массовой робототехники со встроенной системой коллективной безопасности.

Наконец, в главе 6 мы сможем заглянуть в будущее с разной степенью уверенности на разных временны́х горизонтах, начиная с ближайших 5–10 до 20–40 лет – предполагаемого времени появления ИИ сверхчеловеческого уровня. Самое удивительное в этой картине – как разительно будет отличаться от современности мир наших детей и внуков. Но именно такое ускорение исторического времени вызывает разворачивающаяся на наших глазах революция в области искусственного интеллекта.