От «Энигмы» до ChatGPT

Глава 2. Человек вместе с машиной — больше, чем каждый в отдельности

Невозможно и в десяти книгах рассказать обо всех наиболее значимых технических открытиях, которые привели к появлению нейросетей, чат-ботов, больших языковых моделей, известных сегодня как ИИ, которые используют принципы глубокого обучения. Однако, как нам кажется, есть несколько этапов, без которых текущий уровень прогресса был бы невозможен. На них и сконцентрируемся и «атакуем» исключительно с практического угла: посмотрим, каким образом технологии улучшили жизнь человека и какой потенциал они имеют.

Иными словами, если в главе 1 нас больше интересовали воображение и представление ИИ, то следующим логичным шагом было бы посмотреть на то, как технология используется. Попробуем найти ответ на вопрос: «Как интеллектуальная машина помогает человеку?» — а вместе с тем столкнем взгляды технолуддитов и техноевангелистов. Посмотрим, оправданны ли их страхи, или это буйство воображения, возбужденного Голливудом и последними новостями.

Как уже было сказано, изобретений в области ИИ огромное множество, однако практический интерес ведет от более глобального взгляда на технологию к более узкому. И вот в чем, как нам кажется, интересно было бы разобраться:

• 1940 год. Алан Тюринг изобретает Bombe — криптографическую машину, взламывающую код «Энигмы».

• 1961 год. Джозеф Энгельберг и Джордж Девон патентуют и создают роботизированную руку для автоматизации производства.

• 1965 год. Появление первого чат-бота. Джозеф Вейзенбаум из МТИ создает «Элизу» — программу, способную поддержать диалог на английском языке по заданной теме.

• 1979 год. Ганс Моравек проектирует первую машину, которая управлялась с компьютера. Она проехала самостоятельно по комнате, обставленной стульями, не сбив ни одного из них.

• 1997 год. Поражение Гарри Каспарова (является инагентом) в игре с компьютерной программой Deep Blue.

• 1999 год. Компания Sony выпускает на рынок роботизированного питомца AIBO.

• 2008 год. Проект DARPA представляет инвесторам первого голосового ассистента SIRI, который в 2010 году был выкуплен Apple и в 2011-м представлен публике в iPhone 4s.

• 2009 год. Google строит полноценный автомобиль, управление которым осуществляется компьютером.

• 2011 год. Watson, созданный IBM, побеждает человека в Jeopardy! (в российской версии — «Своя игра»).

• 2011–2014 годы. На рынок выходят сразу несколько голосовых ассистентов: Siri от Apple, Google Now от Google, Cortana от Microsoft.

• 2015 год. AlphaGo впервые побеждает человека в игре го, а годом позже одерживает победу над лучшим игроком планеты.

• 2022 год. OpenAI открывает доступ к ChatGPT.

Мы попробуем взглянуть на каждое из технологических чудес с точки зрения пользы, которую они принесли человеку на момент написания этой книги. Немного поразмышляем о том, какой потенциал имеется у каждой из технологий. Какие-то изобретения увлекут нас больше, чем другие, но это не значит, что, например, робот AIBO оказал меньшее влияние на поведение человека, чем AlphaGO. Размышлять об игре го нам интереснее, чем о роботе-питомце, — в силу увлечения игрой, не более.

Первый пример того, что человек с машиной может сделать значительно больше и лучше, чем один человек или одна машина

А теперь начинается самое интересное. Первая глава нашего исследования была формализованная: использовались работы ученых, на основе их выводов строились определенные предположения, повторялись некоторые шаги, проделанные ими раньше. Это было необходимо, чтобы проверить воспроизводимость результатов. Теперь же мы вместе с читателем будем вместе исследовать исторические этапы, предшествовавшие появлению современного искусственного интеллекта.

Уже здесь мы призовем на помощь ИИ. Есть множество сервисов, от ChatGPT до аналогов, которые используют его в своей работе. Один из них — perplexity.ai, благодаря функциям которого мы сможем сформировать направление нашего исследования. Стоит сделать уместный комментарий: автор этих строк — не эксперт в области ИИ, а в первую очередь педагог и ученый, исследующий влияние технологии ИИ на профессию учителя и науку в целом. Эта тема, может быть, никогда бы и его не заинтересовала, однако ИИ разрушает привычный уклад работы с информацией, поэтому отмахнуться от него уже не удастся. В будущем описанные в книге ситуации и инструменты, возможно, приведут к серьезным изменениям в том, как мы взаимодействуем с интернетом и информацией (а может, и нет). Но эта глава — не про общие размышления, а про вполне конкретный вопрос.

В начале главы мы выделили двенадцать событий, которые, как нам кажется, особенно повлияли на развитие технологий. Но еще важнее изменения в поведении людей и нашем представлении о том, что можно, а что нет. Например, изобретение компьютера Тьюрингом трансформировало криптографию и расширило пределы того, что доступно человеку. Девон и Энгельберг, создав роботизированную руку, оградили человека от рисков, связанных с опасными производствами, но при этом лишили миллионы людей рабочих мест, автоматизировав конвейерное производство чего угодно.

Однако не все изобретения достойны детального исследования с позиции, какую пользу технология принесла и какие социальные изменения запустила. Мы сейчас даже не знаем, что освещать больше, а что меньше, однако абсолютно точно понимаем, что начинать стоит с Тьюринга и «Энигмы». Ровно об этом мы и спросили perplexity.ai.

Как нам кажется, вполне «бодрая» подборка для исследователя. По самым скромным подсчетам, сервис с ИИ сэкономил около часа времени на поиск материала. И это всего один запрос. Теперь дело за малым: прочитать и найти то, что относится к нашему исследованию. И вот на какие вопросы нам предстоит ответить:

• Что было поводом для создания технологии?

• Какие изменения в поведении человека и способах взаимодействия с информацией она привнесла?

Появление компьютера — не революция, а неизбежность

Мы намеренно оставим некоторые моменты в повествовании нераскрытыми. Предлагаем читателю самостоятельно исследовать и заполнить эти пробелы. Занятие будет увлекательным. Однако при этом сконцентрируемся только на одной фундаментальной причине того, почему появился компьютер. Она настолько простая, что каждый ученик первого класса проходит путь аналогичным Тьюрингу способом.

Компьютер — это не революция, а эволюция. Мы попробуем посмотреть на появление первой вычислительной машины не как на прорыв, а как на единственный доступный путь развития технологии. Рождение вычислительной машины было неизбежностью, которую предопределила группа лиц. Тьюринг вошел в историю как создатель машины Тьюринга (МТ) — первого компьютера, который имел ряд свойств, недоступных или доступных в ограниченном виде у машин, созданных до него. Однако наивно предполагать, что лишь он один работал над данным «волшебным устройством».

Это первый серьезный пробел, который мы предложим читателю исследовать самостоятельно. Мы укажем вам направление для облегчения задачи, но не более, — и в этом нам опять поможет ИИ. Мы зададим ему следующий вопрос: кто, кроме Алана Тьюринга, работал над созданием первой интеллектуальной машины? Я понимаю, что такие изобретения не рождаются в вакууме, поэтому мне нужны имена людей, которые помогли, повлияли или иным образом вдохновили Тьюринга на создание компьютера общего назначения.

ChatGPT составил интересный и развернутый ответ.

Действительно, все ученые из списка выше помогли Тьюрингу создать компьютер, который мы используем сегодня. Хотя это далеко не все, кто внес вклад в рождение технологии, это достаточно обширная область исследования — если, конечно, читателю еще интересно посмотреть в ту сторону. Но нам важно понять, почему история приписывает именно Тьюрингу создание машины, оставляя за рамками повествования всех остальных.

Когда Тьюринг решал задачу создания компьютера, у него была вполне конкретная цель — и это даже не взлом кода «Энигмы», а нечто гораздо большее. Он вдохновлялся работой, которую проделали ученые до него. Манипулировал идеями, которые были ими использованы, смело добавлял к ним свои и развивал идеи других. Компьютер Тьюринга — умелая компоновка множества фундаментальных, алгоритмизированных принципов. Но один вопрос, который редко можно встретить в материале, посвященном ему, больше всего занимал внимание изобретателя.

Как может родиться что-то оригинальное из набора программируемых функций? Если это когда-нибудь произойдет, значит машина смогла выйти за рамки своих функций? А человек? Может, он тоже — набор программируемых функций? Возможно, мы не более чем исполнители кода вселенной, выраженного в непонятных нам физических законах. Биохимический ураган гормонов в теле, состоящем из плоти и крови.

Тьюринг особенно интересовался проблемой того, как «функционирует» математика в рамках квантовой физики. Никто не сможет достоверно сказать, однако мы попробуем предположить, что в 1936 году именно его интерес и интуитивное понимание квантовой механики привели к криптографии, которой в современном мире необходимо овладеть каждому ученому. Именно он взломал код «Энигмы» — с помощью других ученых, но дизайн Bombe создан именно им. Тьюрингу, как нам кажется, было важно понять, как устроен мир на субатомном уровне.

Тьюринг, скорее всего, считал, что если мир на самом низком уровне управляется случайностью или статистической вероятностью или все предопределено, то было бы интересно в этом разобраться. В ранние свои годы он считал, что на субатомном уровне не существует ничего, кроме хаоса, неопределенности, которые и управляют миром. Если фундаментальное устройство мира хаотично, то, может быть, человек способен проявить свободу воли — то самое качество, которое отличает нас от машины? А если человек обладает свободой воли, то может ли умная машина в условиях хаоса сделать что-то за рамками определенной кем-то программы? Если да, то какая это должна быть машина? Тьюрингу почему-то было важно понять, как устроен мир на субатомном уровне.

Тьюринг строил универсальную машину, это стало смыслом его жизни и главной темой его работы. В человеке от природы заложено стремление к универсальности, а машина, которую он впервые описал в 1936 году и построил в 1945-м, стала наиболее универсальной из всего созданного человеком. Для этого потребовалось разработать новые, точные принципы используемых человечеством алгоритмов и механических процессов. В то время мир все еще представлялся механистическим. Это значит, что процессы происходят линейно, вселенная предсказуема и все элементы в ней закономерны. Этот взгляд впервые был представлен Исааком Ньютоном в конце XVII века и не подвергался сомнению вплоть до XX века. Это будет вторым большим пробелом в нашем повествовании. Мы предлагаем читателю провести самостоятельное исследование того, что привело к смене представлений о мире.

Чтобы было легче искать, используйте следующий промпт в любой нейронной сети, perplexity.ai или chatGPT: «Какой взгляд на мир существовал до ньютоновского и как трансформировалась механистическая картина мира. Приведи данные о каждом из ученых, внёсших вклад в эту трансформацию. Расскажи, кто впервые это описал и почему происходило смещение от одной картины мира к другой».

Тьюринг в какой-то момент уверенно заявил, что все известные и неизвестные алгоритмы, а также механические процессы могут быть воспроизведены в универсальной машине. И его желание разместить в «ящике с проводами» все существующие функции в итоге привело к созданию современного компьютера. Бесспорно, в современных ноутбуках, компьютерных станциях и новых ИИ можно распознать универсальную машину Тьюринга, которая наконец-то, спустя почти сто лет, начинает делать то, что предрекалось исследователями и мечтателями. Машина становится не только умной, но и универсальной.

Человек и машина, сущности максимально универсальные

Принцип универсальности родом из физики и означает, что основополагающие законы природы работают одинаково хорошо независимо от размера, формы и состава отдельно взятых элементов и системы в целом. Физика в нашем повествовании слишком все усложняет и не представляет интереса для исследования, но при этом универсальность в контексте дальнейшего размышления важна. Поэтому мы попробуем объяснить ее человеческим языком, на простых примерах.

В любой сложной системе с большим количеством взаимосвязанных элементов наступает момент, когда одно изменение, независимо от значимости, существенно улучшает понимание законов взаимодействия элементов и доступность новых областей знания, а также деятельности, происходящей в рамках отдельно взятой системы, превращая в процессе простую систему, которая существовала в заданных рамках, в универсальную — ту, что существует в любых условиях и разных контекстах. Но удивительнее всего то, что она становится универсальной не за счет укрупнения, а благодаря уменьшению. Ведь возрастает вариативность, и появляется возможность взаимодействия на ранее недоступном уровне.

Начнем рассказ об универсальности с чего-то всем нам понятного — с алфавита. Тем более что второе исследование, которое идет параллельно с этим, посвящено науке чтения, а именно тому, как понимать больше при меньших усилиях. Одной из интересных находок исследования феномена чтения стал алфавит, история которого — длинная и запутанная. Мы лишь раскроем часть ее и подведем к тому, что алфавит — одна из первых и наиболее важных универсальностей, созданных человеком.

История букв полна тайн, вокруг которых строят гипотезы и теории. Подтвердить или опровергнуть их достаточно сложно, однако у нас другая задача. Самая первая система записей, известная человеку, — пиктограммы. Они использовались для обозначения слов и идей повсеместно. Со временем пиктограммы превращались в разных культурах в разнообразные символы и знаки, используемые для ведения записей, в основном религиозного характера. Но в какой-то момент кто-то разработал упрощенную письменность, в которой использовалось ограниченное число символов, представляющих звуки. В знак признательности фонетическая наука названа в их честь (phone по-гречески — «звук»). Да, это еще один пробел, который мы предлагаем вам восполнить самостоятельно. Попробуйте спросить perplexity.ai или ChatGPT вот что: «Расскажи мне историю алфавита, как он появился? Рисунки, картинки, руны, потом буквы или как?»

С появлением алфавита стало возможным выразить не только смысл отдельных слов, идей, описать какое-то явление, но и любое возможное слово, феномен, событие и абстрактную концепцию. Универсальность алфавита повысила вариативность письменной речи настолько, что благодаря возможности зафиксировать на бумаге что угодно, имеющее звук, знание стало универсальным и появилась возможность передавать его не только из уст в уста, но и из поколения в поколение, без участия человека. Письменная речь стала неотъемлемой частью нашей культуры. Именно об этом говорил Харари, когда утверждал, что взломан код человеческой цивилизации.

Точно такая же судьба постигла математику. Харари, уже упомянутый выше, в книге «Sapiens. Краткая история человечества» осторожно предположил, что первая найденная запись принадлежала «перу», если так можно выразиться, бухгалтера. Кушим, подписавший глиняную табличку, считал мешки ячменя своеобразным способом. Взгляните сами на картинку.

Система, использованная Кушимом (возможно, это первое известное человечеству имя), включала достаточно непростые обозначения для определения, в какой период какое количество продукта было произведено, продано, куплено. Но даже эта система предлагает объяснение, почему используется именно она. Сможете самостоятельно сформулировать запрос ИИ? Удастся вам найти направление дальнейшего исследования этого факта? Если, конечно, вам это интересно.

Можно предположить, что черточка прибавляет, перечеркнутая вычитает. Знак хештега может считаться десятью, а хештег с рядом стоящей чертой — 11. Два хештега — двадцать и так далее. Римляне, возможно, использовали именно логику, когда придумывали свои цифры. Подобных систем множество: вавилонская, римская, египетская. Все они разные, но одинаково похожи, построены на символах и черточках. И всем им недоставало одного важнейшего элемента, без которого невозможны ни алгебра, ни какие-либо сложные исчисления. И его придумал другой человек, от имени которого происходит слово «алгоритм», — по крайней мере так гласит легенда. Аль-Хорезми хоть и не первый, но однозначно вошел в историю благодаря тому, что предложил знак, который описывал отсутствие чего-либо, — ноль.

Как ни странно, ноль существовал задолго до того, как его предложил использовать Аль-Хорезми. Евклид и Архимед применяли что-то схожее в своих расчетах, но почему-то тогда это понятие не прижилось. В III–IV веках индийский математик и астроном Брахмагупта осуществлял сложные расчеты из линейной алгебры, которые без понимания принципа «ничего» невозможно было бы сделать. Однако повторимся: ноль в Индию пришел только в IX веке, когда его предложил Аль-Хорезми. Скорее всего, и он не в одиночку это сделал, а использовал чьи-то идеи. Появление ноля было не только своевременным, но и неизбежным. Как и появление современного компьютера, и последовавшего за ним ИИ, и всех дальнейших разработок в этой области. Это поиск максимальной универсальности, способ дотянуться до минимально возможной идеи, концепции, понятия, которыми можно безопасно манипулировать, изменяя комплексную систему по необходимости.

Лингвистическая универсальность, буквы позволяют нам передать знание на большие расстояния, без участия человека. Они открывают возможность писать историю, священные писания, делать научные открытия, обрисовывать новые абстрактные концепции, создавать культуру цивилизации — с этим трудно не согласиться. Кто-то скажет про музыку, живопись, танцы, однако у нас есть возражения. Да, искусство представляет неотъемлемую часть культурного кода цивилизации, но не доминирует. Буквы, слова и цифры пронизывают все слои деятельности человека. Последние, наверное, серьезнее всего. Математическая универсальность, которая при помощи ноля и единицы может выразить любое возможное число, в наше время становится цифровой. А уже последняя позволяет при помощи нолей и единиц создать практически что угодно, если не все.

Всё, что существует, рано или поздно станет цифровым

— Алиса, включи что-нибудь бодрящее.

— Алиса, погода.

— Алиса, какие пробки на дорогах?

Согласитесь: мы ведь даже не задумываемся, отдавая команды ассистенту. И не удивляемся, когда «Алиса» выдает ответ. А попробуйте скомандовать «Алиса, давай придумаем» — и получите личного ассистента, умеющего общаться за рамками доступного контекста, придумывать истории, однако пока не помнящего предыдущих запросов. Однако до момента, когда с цифровым ассистентом можно будет общаться почти как с человеком, осталось недолго.

В XXI веке, чтобы спросить что-то, компьютер или даже клавиатура не нужны: например, этот абзац «напечатан» голосом. Магия или неизбежность? Нам кажется, что все-таки второе.

Даже химический процесс оцифровался

Кто-нибудь задумывался, как с помощью нажатия на специально отведенную область экрана смартфона получается фотография? Большинство явлений воспринимаются нами как данность. Возьмем хотя бы ту же фотографию — казалось бы, ничего особенного. Но так было не всегда. Посмотрите на самую первую фотографию — по крайней мере, она чаще остальных используется в качестве примера.

Это первая гелиогравюра или фотография, снятая человеком — изобретателем Жозефом Нисефором Ньепсом. Говорят, что снимок сделан из окна его мастерской, отсюда и название — «Вид из окна в Ле Гра».

А вот та же комната двумя-тремя столетиями позже.

История фотографии запутанная и долгая, а вот ее цифровизация происходила стремительно. В 1975 году Стивен Сассон построил первую цифровую камеру из остатков оборудования, оставшихся после производства на фабрике Eastman Kodak. Она была размером с тостер и могла за 23 секунды сделать 0,01-мегапиксельную фотографию, которую сохраняла на пленку от аудиокассеты.

Руководители Kodak тогда, в конце 1970-х, не поверили в устройство; к тому же их бизнес-модель, построенная на производстве химических реагентов, не предполагала цифровых фотографий, а каннибализация собственного бизнеса ради трансформирующей рынок инновации казалась неслыханной идеей. Сассон же продолжил работу над цифровой камерой, а в 1994 году, почти двадцать лет спустя, вместе с Nikon сконструировал первый цифровой фотоаппарат, доступный широкой общественности.

Начиная с этого момента фотография стала универсальной: ее мог делать кто угодно и когда угодно. Для печати не требовался сложный процесс проявки изображения. Если снимок получался неудачным, можно было нажать на кнопку, удалить и сделать новый. Не требовалось покупать и менять пленку после 24, 36 или 48 кадров. А сегодня на наших смартфонах изображений больше, чем фотограф из 1980-го снимал за всю жизнь.

Ноль и единица создали цифровую фотографию, а она универсальная, она меняет контекст, сохраняя свойства. Теперь это не артефакт, хранящийся в альбоме на долгую память и просматриваемый семьей во время праздников, а обыденность и неотъемлемая функция телефона. Сегодня 85% всех фотографий сделаны со смартфона. Точно такая же судьба постигла и почту.

От бумаги до ноля и единицы

Еще одна удивительная и показательная трансформация случилась с личной перепиской. Древний Египет, Персидская империя и империя инков, династия Хан для передачи депеш, указов использовали посыльных, глашатаев. Система пересылки корреспонденции в том или ином виде существует уже как минимум 4000 лет. Однако формы того, как люди обмениваются мнениями, идеями, претерпели любопытную метаморфозу: от руками написанного письма до напечатанного на клавиатуре электронного; от электронного письма до сообщения в два-три слова, отправленного через Telegram; от текстового сообщения в «телеге» до голосового.

Почтовая служба в России появилась еще в X веке, а в XVI веке сеть «почтовых отделений», если их можно так назвать, насчитывала 1600 пунктов доставки корреспонденции. Письмо, отправленное из Москвы в Новгород, доходило до адресата за три дня, а через всю страну по сложным маршрутам — тяжело даже вообразить; смеем предположить, что это могло занять месяц и более. При этом всегда присутствовали риски потери сообщения в силу ряда факторов: от простого ограбления курьера до случайного выпадения письма из пачки.

Остальной мир существовал в аналогичных условиях: сообщение из Европы в Америку доставлялось десять дней по морю. Все изменилось в 1971 году, когда Рэй Томлинсон, инженер, работавший над проектом, который впоследствии и стал сетью «Интернет», написал программу, позволявшую отправлять сообщения между двумя компьютерами, соединенными друг с другом. До этого инженеры оставляли сообщения на компьютерах, за которыми они работали. Но программа Рэя изменила представление о том, как еще можно. Именно он ввел в использование символ @ в адресах электронной почты.

Что еще удивительнее, так это тот факт, что за более чем пятидесятилетнюю историю электронная почта оказалась самым устойчивым способом передачи информации. Электронное письмо 2023 года не сильно отличается от письма 1971-го. Разве что интерфейс составления сообщений стал удобнее, появились почтовые клиенты, множество сервисов. Электронная почта из средства коммуникации двух и более человек превратилась в способы продвижения продукции через рассылки, злоупотребления спамом, распространения частного мнения, согласования и подписания условий взаимодействия между частными лицами и юридическими организациями.

В 1992 году электронная почта перестала быть просто текстовой: с этого момента ее стало можно использовать для пересылки изображений, аудио-, видео- и прочих файлов. А 2020 год, год пандемии и всемирных ограничений, сделал ее одним из инструментов коммуникации бизнеса и потребителя. Она стала одним из ключевых способов связи коллег, работающих удаленно, учеников и учителей. Электронная почта, текст, закодированный нулями и единицами, способный передавать разнородную информацию, изображения, видео, документы, превратился в универсальный и самый устойчивый метод передачи смысла, закодированного любым доступным способом.

Теперь мы делаем фотографию и не тратим время и силы на проявление и печать, сохраняем несколько строк кода из нолей и единиц на компьютерах, мобильных устройствах и даже не думаем об этом. Письма больше не идут до адресата неделями и месяцами, а преодолевают межконтинентальные расстояния за доли секунды. То же произошло и с другими сферами деятельности человека, например с графическим дизайном, анимацией, книгопечатанием, телефонией. Теперь для этого нам нужна только соответствующая программа, исполняющая код из нулей и единиц, внутри коробки с проводами.

Стоимость подобной универсальности почти нулевая или близка к этому. Код из нолей и единиц не стоит ничего, работа человека, его пишущего, — да, стоит. Однако, если вы разработаете код однажды, потом стоимость репликации упадет до нуля. А результат, который можно получить, безгранично богат. Мы расширили границы возможного и параллельно уменьшили область невозможного. Да, мы еще многого не понимаем, однако благодаря определенным комбинациями из ноля и единицы можем понять больше, даже то, чего еще не знаем. Нужно лишь время и воображение.

Падение стоимости производства, достигнутой благодаря универсальности ноля и единицы, толкает развитие технологий вперед и трансформирует принципы и привычные поведенческие шаблоны работы с информацией. Возьмем для примера деньги, которые сами по себе не несут ценности, но обладают значением лишь в руках человека. Цифровизация финансовой системы, начатая еще Питером Тилем, привела к тому, что сейчас в кошельке вместо мелочи и купюр аккуратно сложены пластиковые карты, производство которых значительно дешевле, чем эмиссия тонны разноцветных фантиков. Стоимость использования ноля и единицы в финансовой области несравнимо меньше, чем стоимость чего-то аналогового: отсюда и взрывное развитие финансовых технологий.

Идея компьютера, предложенная Тьюрингом, пусть и признанным гением, необходима для создания технологии, однако недостаточна, чтобы та в какой-то момент достигла предела универсальности и вырвалась из определенной в момент создания области. Для расширения границ доступного, как уже сказано выше, требуется понимание некоторых неразделимых принципов — атомарных, если можно так выразиться. Нужно описание логического принципа, величины, которую невозможно более декомпозировать на меньшие составные элементы, как ноль и единица в математике, буква в лингвистике или четырехкомпонентный ген в биологии.

Чтобы запрограммировать в ноль и единицу подобную логику, требуется сложная структура взаимодействий, позволяющая расшифровывать, хранить и исполнять программы. И при исполнении кода необходимо добиться молниеносной скорости передачи данных, почти как между нейронами в мозге; а это возможно исключительно при определенной зрелости технологии. То, что Тьюринг задумал в 1936 году и впервые исполнил в 1940-м (в машине, взломавшей «Энигму»), сегодня воспроизводится в каждом микрочипе. Тьюрингу удалось создать математическую красоту и логическую универсальность, воспроизводимую двумя цифрами — нолем и единицей.

Эволюция современного компьютера и появление ИИ не требовали переизобретения принципиальной логики Тьюринга. ИИ и компьютеру для исполнения новых функций не нужно принципиально новых изобретений, лишь иная комбинация ноля и единицы, вычислительные мощности и цифровое пространство для хранения данных. Большая скорость передачи информации, больший объем хранилища информации не требовали принципиального пересмотра логики компьютера и цифровой среды. Принцип, сформулированный Тьюрингом и предопределивший появление ИИ, можно сформулировать так:

Все процессы, от механических до мыслительных, какими бы глупыми, ничтожно малыми, энергозатратными или бессмысленными они ни были, можно запрограммировать в компьютере, ничем принципиально не отличающемся от вычислительной машины из 1936 года.

Одна из фундаментальных идей, лежащих в основе современного компьютера, — возможность программирования любого механического и когнитивного, если так можно выразиться, процесса в некий код, состоящий из знаков 0 и 1. Если так, то существует ли способ программирования креативности, понимания, мышления, самообучения? Оказалось, что да, но для этого необходимо научить компьютер играть.

Как возникла наша биосфера? Пожалуй, это один из самых загадочных вопросов. Что послужило причиной появления такого биологического многообразия? Приведем для примера несколько теорий.

• Жизнь постепенно появлялась из ничего, миллионами лет формировался набор аминокислот, которые в дальнейшем скомбинировались в сложные полимеры.

• Аммоний, водород, метан в атмосфере Земли и немного электричества в виде молний создали всё те же аминокислоты.

• Заброшена на Землю шальным метеоритом.

• Живая и неживая материя взаимодействовали друг с другом, создавая сбалансированную саморегулирующуюся экосистему, которая и позволила появиться жизни на Земле.

При всем многообразии ни одна из теорий не затрагивает, как стоило бы, вопроса: при каком стечении обстоятельств и каком количестве комбинаций набор случайных химических элементов способен превратиться в то, что осознаёт себя и окружающую действительность, умеет влиять на среду и подчинять ее себе при необходимости.

Земля — это творец. Художник, который при помощи ограниченного набора аминокислот, длительного периода времени, бесчисленных попыток создал интеллект. А сможем ли мы при наличии закрытой системы, длительного времени и бесконечного числа попыток повторить этот трюк? Воспроизвести последовательность, удивительное стечение обстоятельств, при которых человек поймет, что такое творчество, сможет его запрограммировать в сложный набор из нолей и единиц. Есть мнение, что тогда, по идее, машина обзаведется разумом. А с разумом придет и цель.

Творчество — не более чем поиск знания методом проб и ошибок. Долгий, мучительный, но в итоге результативный. ДНК — это творческий «перебор» комбинаций природой. И на наш взгляд, искусственному интеллекту, чтобы стать мыслящим, не хватает последнего элемента в наборе нолей и единиц — творческой переменной. А какая она и как это может получиться, мы попробуем разобраться на примере древнейшей игры на Земле — го.

Медитативная, завораживающая, гипнотизирующая. Именно так ее описывают регулярно играющие люди. А те, кто играет достаточно долго, говорят, что за доской можно почувствовать пульс вселенной, понять, как появилась жизнь и что такое «творить». Игроки, выставляя поочередно камни на пересечение линий доски, на поле 19 на 19, создают течение камней, вырисовывают уникальные схемы и мыслят на пределе своих возможностей. Го — одна из тех игр, которые сложно понять; однако, если вам это удастся, вы вдобавок осознаете, что такое понимание.

Проблема, которая встает перед игроком за доской, — разобраться в том, что происходит, какой результат и какая цель у каждого поставленного на поле камня. Новичок, впервые держащий в руках черный или белый камень, теряется на пустой доске, но со временем начинает видеть игру и осознавать свою роль в ней. Неудивительно, что такая простая игра стала самой долгоиграющей на Земле: по некоторым данным, ей не одно тысячелетие.

Сложность ее кроется в простоте, как бы парадоксально это ни звучало. Профессионал обладает чувством игры. Часто, спросив его, почему он сделал именно такой ход, в ответ можно услышать: потому что чувствовал его важность. Человеческая интуиция — ключ к победе. И это искры творчества, высеченные из знаний человека, которые он аккумулировал всю жизнь. Знание и понимание — строительные блоки творчества и интуиции, а го — священный Грааль инженеров, работающих на ИИ.

Как запрограммировать интуицию и понимание? Что для этого требуется? Как оказалось — одна простая игра с бесконечным множеством комбинаций. Есть мнение, что конфигураций камней на доске для го больше, чем атомов во вселенной. Так что комбинаторный перебор становится бесполезным занятием — и любой компьютер, построенный на принципе пересчета, окажется слабее девятилетнего хорошо играющего человека.

Простые и очевидные правила создают ситуации, в которых каждое действие игрока многозначное, сложное, неявное, трудно предугадываемое. Все это приводит к крайне неоднозначному набору вариантов действий. Мало знать правила игры, творчески подходить к выбору поведения и стратегии, обладать серьезными аналитическими способностями. Важнее интуитивные, имеющие смысл в конкретной ситуации действия. На наш взгляд, это и можно назвать творчеством, умением принимать неожиданные, уместные и результативные решения в условиях высокой неопределенности.

Каждый может принять решение при наличии достаточных фактов, а вот действовать в условиях неопределенности и при этом достигать результата способен только творческий человек. А жизнь, по большому счету, невообразимо сложная игра на принятие решений, в которую можно сыграть только один раз, вслепую и не особо понимая правил.

Чтобы понять сложность го по сравнению с другими настольными играми, попробуем рассмотреть ее глубину и ширину в сравнении с шахматами. Тогда мы поймем, почему пересчет комбинаций помог Deep Blue одержать победу на Каспаровым (является инагентом), а в случае с го потерпел неудачу. Для победы над человеком в го компьютеру не хватало некоторых свойств человеческого мышления, а именно умения оценивать множественные аспекты среды и принимать решения, не только анализируя сложившуюся ситуацию, но и полагаясь на «чувства».

Глубина и ширина игры объясняют, почему метод пересчета для победы над человеком не подходит. Взгляните на доски.

Ширина игры на поле шахмат — это примерно 35 возможных стартовых позиций, а у го при размере доски 19 на 19 количество возможных конфигураций на старте — около 250. При этом глубина игры — количество ходов, сделанных попеременно, — в шахматах около 80. В среднем шахматная партия заканчивается на 70-м ходу, а партия в го — на 150-м.

Предположим, мы хотим спрогнозировать конфигурацию досок на четыре хода вперед. Учитывая, что средняя ширина игры в шахматы составляет 35, нам необходимо проделать простую математическую операцию: 35 × 35 × 35 × 35 = 1 500 625 различных положений фигур на доске. А теперь возьмем доску для го и проделаем точно такую же операцию: 250 × 250 × 250 × 250 = 3 906 250 000 возможных вариантов расположения камней. Компьютеру проанализировать такое не под силу. Нужен другой подход.

Естественно, это слишком упрощенная математика, однако стоит помнить, что наша цель — познакомить с игрой го и показать ее сложность. Но было бы ошибкой предположить, что шахматы проще. Отнюдь: игра в шахматы не менее сложная, но значительно меньшая по глубине и ширине.

Го — сложная система взаимодействий камней на доске, с непонятными свойствами, которые проявляются исключительно в процессе игры и проникают во все ее аспекты. Она требует от игрока умения принимать решения в условиях, когда невозможно предугадать результат, и вынуждает полагаться на чувства и действовать в соответствии с изменяющейся средой. Обманчивая простота делает го невообразимо сложной и многогранной. Как научить компьютер играть, если перебор комбинаций не подходит? Научить думать и «чувствовать», принимать решения в зависимости от состояния доски. Иными словами, необходимо научить компьютер мыслить.

В 1948 году Дональд Хебб описал предположения о методе, которым мозг человека тренирует и обучает себя. Тогда это было настоящей революцией, настолько, что гипотеза Хебба превратилась в «обучение Хебба», один из фундаментальных алгоритмов машинного обучения.

Гипотеза Хебба заключается в том, что нейроны головного мозга при взаимодействии возбуждаются друг о друга. Эффективность и длительность возбуждения усиливаются со временем, а связь между двумя нейронами укрепляется, возникают новые шаблоны и модели поведения.

Чтобы обучить AlphaGo, ученым необходимо создать алгоритм, который повторяет работу мозга. Для победы программа должна повторить не только образ мышления живого человека, но еще и интуитивные действия при изменяющихся условиях, коду из ноля и единицы необходимо «ожить». Да, в контролируемой и «узкой» среде доски для игры в го с полем 19 на 19, но все же. Научить выбирать самостоятельно оптимальное действие ради воздействия на среду обитания.

Deep Blue, чтобы научиться перебирать комбинации, потребовалась группа экспертов, а AlphaGo использовала кардинально иной подход. Она научилась играть в го, как это сделал бы человек: методом проб и ошибок. Разработчики загрузили в программу сотню тысяч любительских партий и позволили программе играть против самой себя. Так она училась, училась и училась. До тех пор, пока однажды не победила чемпиона Европы — Фань Хуэя, который на момент матча обладал вторым даном в рейтинге игры.

Игра против себя, разными версиями, позволила программе научиться на собственных ошибках. Идея, заложенная программистами в основу AlphaGo, вдохновила последующие исследования ИИ, но главное — заставила задуматься над тем, что значит быть человеком.

Искусственные нейронные сети, которые стали возможными в том числе благодаря AlphaGo, позволяют современным компьютерам и человеку делать намного больше, чем раньше. Сегодня нейронная сеть может научить себя — пусть и в пределах того, что ей позволит человек, но она на это способна. Тем не менее вопрос, что значит научиться и что такое интеллект, остается открытым. Более того, не просто открытым, а проблемой, к которой пока сложно подступиться.

Кажется, если мы сможем ответить на вопрос, что такое интеллект, то и создать искусственный интеллект не будет проблемой. Ближе всего к этому подобрались Эндрю Барто и Ричард Саттон. В 1998 году они издали книгу «Обучение с подкреплением», в которой формализовали принципы этого подхода. Мы предлагаем применять немного иной термин — «обучение с “сильной” петлей обратной связи».

Любой учитель скажет, что несложно выдать задачи ученикам для самостоятельной отработки, да и проверить любой объем тоже не станет серьезной неприятностью при обучении чему-либо. Проблема возникает в момент, когда необходимо предоставить обратную связь и скорректировать будущие действия. Форма и формат обратной связи от учителя к ученику — одно из узких мест системы обучения. Барто и Саттон пытаются решить проблему интеллекта через «сильную» петлю обратной связи, обучая исполнителя, действующего в определенных условиях, взаимодействовать со средой.

В самом широком смысле средой может быть что угодно. Для трейдера, торгующего на рынке, это график котировок. Учительская среда — класс с учениками. Исследователю для успешной публикации нужна среда научных работ. Писатель учится рисовать миры в безграничной среде своего воображения. Средой игрока в шахматы, го, шашки, нарды становятся поле и фигуры.

Цель очевидна: исполнитель взаимодействует со средой, а та предоставляет обратную связь — то, что можно увидеть или прочувствовать. Однако существует один особый вид обратной связи, который и делает из нее «сильную»: вознаграждение. Чем оно выше в ходе действия, тем корректнее принятое решение.

Отдельно стоит отметить, что в нашем случае не идет речи о теории вознаграждения, скорее о математическом расчете. Трейдеру для принятия решений нужно точно понимать отношение между риском, доходностью и убыточностью сделки. Учителю в школе — «силу» группы и способ обучения. Ученому — возможно, понимание усилий для написания и актуальность темы. Игроку в го — рассчитать ход, который увеличит вероятность победы.

Подобная модель взаимодействия с окружающей средой превосходно переносится на повседневную жизнь. Когда вы проголодались, то обычно решаете разогреть обед, и даже это простое действие имеет сложную модель принимаемых решений и действий — с задачами, подзадачами, которые вместе делают из простого «разогреть обед» сложный процесс:

• Открыть холодильник.

• Достать из холодильника контейнер со вчерашним пловом.

• Найти на полке нужный контейнер.

• Протянуть руку и вынуть его.

Другой набор сложных взаимодействий связан с подготовкой тарелки, вилки и разогрева. Каждое действие требует поиска объекта, создания целенаправленного движения тела. На ходу принимаются моментальные решения о том, что в какую руку брать, как нести — по отдельности или всё вместе. Каждый шаг подзадачи регулируется целью и выступает подкреплением и основанием для следующего действия, чтобы избавиться от чувства голода. Мы не говорим о том, какую роль в этом процессе играет тело, которое регулирует необходимость утолить чувство голода и определяет предпочтения в еде.

Решения принимаются в зависимости от вероятности получения награды в результате действия. Очевидно, что никто не выберет такую последовательность для утоления голода: взять в руки телефон, полистать ленту социальной сети, выключить телефон.

Гроссмейстер поступает аналогично, принимает решение о следующем ходе в соответствии с тем, как он представляет себе ожидаемое ответное действие оппонента и его реакции. Полагается он при этом на моментальное, интуитивное ощущение ситуации, желаемого итога, который может получиться в результате отдельного перемещения фигуры или серии ходов.

Ребенок впервые встает на ноги, опираясь на предметы, балансирует недалеко от того, что может помочь ему избежать падения, пытается сделать первые шаги, понимая, что ходить лучше, чем когда тебя переносят из одного место в другое. Наградой за многократные падения станет возможность перемещаться самостоятельно.

Так и происходит естественное обучение: природа учит через взаимодействия с объектами среды, подталкивает проверить пределы доступного. Как это ни удивительно, такой же подход лежит в основе многих теорий обучения и развития интеллекта.

Стоит поднять вопрос, почему современные образовательные учреждения не используют подход, при котором обучение происходит в процессе органичного взаимодействия со средой. Учителя впервые видят детей во время практики, а это четвертый курс. Финансисты работают с деньгами только после того, как окончили университет, — и это если повезет. Почему бы не сделать обратный цикл, когда обучаешься во взаимодействии? Мы согласны, что подобный вариант не подходит в тех областях, в которых действия сопряжены с риском и здоровьем, например в медицине. Проблема в том, что подобное не практикуется и там, где можно позволить себе некоторые «вольности».

Через взаимодействие со средой, обучаясь на своих ошибках и успехах, оценку вознаграждения, которое получает лишь в конце партии, AlphaGo научилась играть с человеком на нечеловеческом уровне. Программа принимает решение о каждом следующем ходе, после того как «ощутила» среду, и после многократных попыток понимает, какое действие кажется лучшим. Для программы доска, черные или белые камни, определенное их положение — не отдельные элементы системы. Они расцениваются как целостный механизм, проблемное пространство, в котором ей придется следовать цели, победить, влияя на среду с большим числом неизвестных и высоким уровнем неопределенности. Соответственно, ее задача — изменять своими действиями среду, придавая ей форму, которая увеличит шансы на победу.

Если спросить игрока после удачной партии о сделанном ходе, часто в ответ можно услышать: «Не знаю, мне показалось это верным» или «Я так чувствовал». Когда наблюдаешь за AlphaGo, складывается впечатление, что компьютер приобрел интуитивное понимание сложных аспектов игры. Машина на «подсознательно-процессорном» уровне фундаментально переосмыслила, что такое преимущество, какой должна быть сфера влияния после каждого сделанного хода, переоценила потенциал выставляемых камней и научилась действовать достаточно агрессивно на тактической фазе, когда оппоненты ведут борьбу за одну клетку игрового поля. Остается только проверить способности программы в игре с профессионалом.

Первой серьезной «жертвой» AlphaGo стал чемпион Европы, обладатель второго дана Фань Хуэй. Однако его уровень, каким бы хорошим игроком он ни был, не сравнится с профессионалами, воспитывающимися в Китае, Южной Корее и Японии. Чтобы действительно проверить предел возможностей AlphaGO, команда Deep Mind предложила матч из пяти игр многократному чемпиону мира Ли Седолю. На момент состязания с компьютером Ли был непобедимым игроком. Победа AlphaGo над ним означала очередную веху в развитии компьютерных технологий и серьезный шаг к созданию полноценного искусственного интеллекта.

Такие технологии не только определят будущее развитие ИИ и компьютера, но и дадут надежду, что мы сможем когда-нибудь дотянуться до скрытого от человека знания. Мы не будем в деталях пересказывать все пять матчей, в четырех из которых программа одержала победу; любой желающий может найти в интернете документальный фильм AlphaGo — The Movie, где подробно показано, что такое го и как проходили матчи. Вместо этого мы сконцентрируемся на двух ходах, 37-м и 78-м; один сделала машина, другой — человек. Оба они фантастически сложные и дают небольшое представление о том, чему машина может научить человека.

Мы сделаем смелое предположение, что именно ход 37 во второй игре и ход 78 в четвертой предопределили будущее развитие технологии ИИ, а также проникновение ее во все сферы деятельности человека: от медицины до работы с текстом. Ход 37 ошеломил лучших игроков по всему миру. То был странный ход, который можно легко счесть ошибочным. Ли же так не думал, ему потребовалось почти пятнадцать минут на ответ.

«Вчера я был удивлен, — говорил Ли Седоль на конференции после поражения. — Но сегодня я лишился дара речи. Если взглянуть на то, как играла машина, это было чистое поражение по моей части. С самого начала не было ни одного момента, когда преимущество в игре было на моей стороне».

Го — это игра за территорию. Так думает человек; у машины на этот счет совсем иное, если можно так сказать, мнение. AlphaGo не расценивает доску, камни, определенные позиции как отдельные элементы, а видит их как единое последовательное действие, которое необходимо для победы. Программе все равно, каков счет, главное — победа. Именно это привнесло в игру, в которой несколько тысяч лет были успешными исключительно люди, новую перспективу. Стиль компьютера совмещает в себе гибкость, открытость, но при этом в нем отсутствуют бытовавшие ранее убеждения и мнения авторитетных игроков о том, какой ход лучше, а какой хуже. Ни один опытный игрок не будет действовать на второй линии, например. Однако в одной из тренировочных игр AlphaGo посчитала, что это будет разумнее, чем стандартный подход, и в итоге создала более выгодную для себя позицию на доске.

Действия машины на доске часто контринтуитивные, но сильные. Многие профессионалы даже не рассматривали бы большинство из них, а AlphaGo удается благодаря им создавать запутанную взаимосвязь различных групп. Связь получается настолько сложной, что ее практически невозможно сломать. Это удалось только однажды: на 78-м ходу в четвертой игре. То была последняя игра программы, в которой победу одержал человек — Ли Седоль.

Ли удалось сделать игру настолько сложной, что компьютер «растерялся» и был в полной уверенности, будто преимущество на его стороне. Программа не смогла верно оценить последствия хода 78, что привело к дальнейшим ошибкам и в итоге позволило человеку одержать победу. Один из миллиона игроков способен на такое. Ли Седолю удалось сделать невозможное, единственно верное действие, вероятность совершения которого — 1 из 10 000. Он создал положение, при котором холодный разум машины не смог корректно оценить ситуацию и провести соответствующую оценку. Репортеры окрестили это «ходом Бога».

Какой бы удивительной ни была AlphaGo, ее создал человек по некоему образу и подобию себя. Однако это всего лишь игра — с правилами, логикой, строгостью. Холодная логика, идеальная игра, однако жизнь нелогична и запутанна. Ее правила не выражены в строгих законах, потому-то так сложно принимать решения: здесь победа или поражение не столь очевидны. Если коротко, то машина существует в среде строгой логики, а жизнь — сфера нечеткой логики. А не всегда предшествует Б, а В не всегда оказывается следствием Б. Там, где у машины из А следует Б, у человека Б может следовать из А, а может и нет.

Принятие решений в игре относительно просто описать и алгоритмизировать, а в жизни они принимаются в условиях недостатка информации, без четкого представления о последствиях. Свойства среды не поддаются влиянию, а изменяются еще до того, как решение принято. Человек действует инстинктивно, почти без обдумывания, в соответствии с тем, как представляет себе будущее. Чем критичнее ситуация, тем быстрее принимаются решения.

Логика машины хотя и строгая, но, как показала доска 19 на 19 и набор черно-белых камней, не всегда понятная. Наверное, так случилось потому, что машина «чувствует» и «думает» иначе, чем человек. Это может научить нас новаторству, поможет преодолеть рамки прошлых убеждений, снимет некоторые ограничения. Человек вместе с машиной найдут множество интересных решений, которые могут сработать, а могут и не сработать. Создание ИИ — неизбежный этап развития человеческой цивилизации, при котором машина нас не заменит, а органично дополнит; не захватит контроль над миром, а расширит горизонт возможного и в итоге трансформирует общество. Компьютер изменил наши способы работы с информацией: ее хранения, переработки, потребления. Нейронные сети помогают делать то, что компьютер умеет гораздо быстрее и эффективнее, а благодаря человеческой фантазии пределы компьютерных вычислений становятся почти безграничными. Для этого нужна щепотка творчества.

Мы, люди, не можем сформулировать, какая технология в будущем станет востребованной. Генри Форду говорили, что нужна лошадь чуть быстрее. Стив Джобс считал, будто ни один клиент не знает, что ему требуется. Любая технология, от ткацкого станка до ИИ, проста, тривиальна и востребована только после того, как она появилась и прошла путь от первых пользователей до массового потребителя.

Действия человека управляются не им самим, а маленькими, случайными изменениями в среде. Это небольшие колебания, которые могут вызывать лавинообразные сдвиги в шаблонах поведения, способах применения привычных нам вещей. А иногда, в редких случаях, появляется что-то, изменяющее все вокруг: паровой двигатель, телефон, автомобиль, первый компьютер, компьютерная мышь, смартфон и многие другие инновации, сформировавшие мир. Мы убеждены, что ИИ будет одним из таких колебаний, за которыми последуют грандиозные изменения. Об этом мы поговорим далее. Попробуем привести несколько примеров применения ИИ, немного похулиганим и проверим, верно ли утверждение Харари о взломе человеческой цивилизации.

Внимательный читатель заметил, что, в отличие от первой главы, в этой нет ни одной ссылки на источник. Это не потому, что автор ленивый, а сделано с умыслом. Читателя приглашают к спору. Если вы с чем-то не согласны, хотите перепроверить, оппонировать, то можно побеседовать с автором в Telegram, личной переписке или на форуме:

• TG: t.me/zettelkasten_ch;

• email: rustam.agamaliev@gmail.com

• форум: https://zttl.space.

Однако ниже мы все же приведем список использованных для вдохновения источников.