Демон внутри. Анатомия искусственного интеллекта

СУЩЕСТВУЕТ ЛИ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ?

Что такое искусственный интеллект и чего от него ждать? Уже сегодня умные вещи пишут за нас, читают нас, развлекают нас, думают за нас, решают за нас. Умные вещи слушают нас, узнают нас, встречают и провожают нас, замеряют наш пульс, наш восторг, нашу апатию, наш гнев, нашу радость, наше горе. Они сбивают из наших эмоций своё компьютерное масло, чтобы сделать нашу жизнь удобной, счастливой и вечной. Или, быть может, им дана задача залезть в нас, расколоть нас, чтобы управлять нами изнутри? Мы не хотим об этом думать, но в следующей войне умные вещи будут убивать нас.

Умные вещи, которым мы отдаем самое интимное, что у нас есть, будут жить за нас, используя наш опыт для того, чтобы однажды превзойти нас. Но будут ли они страдать за нас, умирать за нас? В обмен на маску покорности матрица даст вам вечную жизнь в виде записи на флешку — и сотрет при этом ненужные ей воспоминания.

Учёные, политики, инженеры всё больше уверены, что наука с приходом суперкомпьютеров изменилась. Для того, чтобы узнать, что будет завтра, надо всего лишь загрузить в машину все данные о сегодня, и она выдаст точное предсказание... Чтобы открыть природные взаимосвязи, не нужны больше интуиция, опыт, образование. Гений, не нужен! Эйнштейн, Менделеев, Лейбниц —достаточно соединить датчики с процессором, и результат прилетит вам на любое устройство! Нажимать на кнопки мы считаем трудом и предпочитаем касание, но скоро и это покажется слишком большим усилием. Действительно ли, человека всё ещё можно называть разумным?

Насколько фрики в лабораториях продвинулись в изобретении гаджетов, которые нас заменят? Сначала нас, а потом их самих? Так называемая «пандемия» коронавируса показала, что если закрыть всё население планеты дома, заводы, перешедшие на безлюдные технологии, не остановятся. Дивному новому миру не требуются люди в таком количестве, и мы уже видим, как нашу численность регулируют. Пока мягко.

Погрузят ли нас всех в нирвану 5G, где мы будем до одурения смотреть фильмы с полным погружением, а наша жизнь будет становиться всё более виртуальной, пока, наконец, мы не поменяемся с киногероями местами? Разрешит ли вам робот Виталий сидеть в джакузи с резиновой Зиной, или с пластичным Паулем, пока он деловито убирает квартиру? Вам, от которого ничего уже не зависит? Или, получив пропуск на выход из умной квартиры, мы будем драться друг с другом за отбросы на умных свалках, надеясь на то, что про нас просто забыли?

Как разворачивается гонка, победа в которой может дать власть над миром — и что сегодня делать людям, чтобы выжить? Неужели придется соединиться с компьютером в одну кибернетическую систему, как предлагает Илон Маск, превратившись в придаток сверхразумной машины?

Отвечая на все перечисленные вопросы, я начал писать эту книгу. Меня больше всего привлекала возможность показать балет научных идей, догадок и прозрений, балет, в котором главные партии исполняют талантливые учёные: математики, биологи, психологи, нейроученые, и, что очень важно, философы. В процессе работы я обратил внимание на хайп, который окружает развитие искусственного интеллекта. Цепляющие заголовки у одних вызывают эйфорию, у других — страх. При этом, практически отсутствуют анализ и изучение истории вопроса — а это необходимо для того, чтобы человек, обладающий критическим мышлением, правильно оценил открывающиеся возможности, а также осознал риски. Можно ли в столь важных вопросах опираться на мифы, пропаганду заинтересованных структур или конспирологию? Эта прорывная область знаний ещё только складывается, и вокруг многих концепций здесь идут ожесточённые споры. Однако уже сейчас крайне важно понимать, как использовать системы ИИ во благо всего человечества, для выхода людей на новые уровни творческих и когнитивных способностей, а не для разъединения, массовой слежки и новых способов убийств.

Когда мы слышим «искусственный интеллект» (или «ИИ», или «Пекин»), то чаще всего наше воображение рисует образ из кино. Кто-то видит зловещий красный глаз Хала-9000 из фильма «Космическая одиссея 2001 года». Кто-то —красивую девушку Аву из фильма Ex Machina. Ава выглядит человеком, но для нас это такой же черный ящик, как Хал. Оба сообразительнее человека, оба при этом могут сыграть в поддавки, чтобы, усыпив наше доверие, нанести предательский удар.

Программисты, читая эти строки, наверняка посмеиваются. Им, и только им одним известно, что «искусственный интеллект» — это всего лишь сложный алгоритм, код, программа работы нейросети. Все, что не объясняется математикой, программисты считают мистикой, в том числе такие понятия, как человеческое сознание или свобода воли. Они уверены, что еще немного кода — и человек будет расколот окончательно. Впрочем, вот уже несколько десятилетий программисты, когнитивисты и коннективисты изучают нематоду, круглого червя с мозгом всего в 800 нейронов (против почти ста миллиардов нейронов у человека). Они так и не смогли предсказать, что этот тупица собирается делать в следующую секунду.

Для китайского инженера, который приходит в ангар менять водяное охлаждение, ИИ сидит в железе бесконечных рядов сервера. Для домохозяйки Анестейши из Техаса ИИ — это цилиндрик Алекса, который стоит в углу за трюмо. «Привет, Алекса!» «Добрый вечер, Анестейша, ты проживешь ещё 12 лет. Извини, я перепутала. 21». Для конголезского мальчика Тьерри ИИ — это его работа в тесной клети на шахте оловянного рудника. Для самого богатого человека в мире Джеффа Безоса ИИ —основа пищевой цепочки его бизнеса, на которую работает и Тьерри, и китайские инженеры, и русские программисты, и сотни тысяч других людей, включая ту самую техасскую домохозяйку.

Для профессора Иванова ИИ — это «глубокое машинное обучение», «неокортекс», «восходящий подход». Его коллега, доктор наук Петров, считает, что ИИ нам прислали прямиком из ЦРУ, как в свое время криптовалюту. На самом деле ИИ — это изобретатель биткойна Сатоши Накамото, штатный сотрудник ЦРУ по прозвищу Страшила. Теперь вся криптовалюта мира идет на покупку Страшиле некоторого количества ума. Страшила всё видит в цветах «Сбербанка», где все сотрудники заменены роботами, а управляет ими йог силою мысли. Йогом же управляют элиты, ведь ничто в мире не происходит без тайной договоренности.

Профессор Сидоров считает, что никакого «искусственного интеллекта» нет. Гагарин в космос летал и никакого искусственного интеллекта не видал. Ни искусственного, ни естественного. Разума не существует, он игра рептилоидов, с которыми бесполезно, что бороться, что сотрудничать. Есть дистанционный интеллект, говорит Сидоров. Захотел — включил, захотел — выключил. Ум переместился с белка на песок, от человека на кварц микросхемы. Человеческая мысль тянется вроде сопли, если ее в одном месте прибыло, то в другом убыло. Мы уже не можем запомнить телефонные номера. Как только они оказываются в памяти телефона, то самоудаляются из головы. Как только информация стала общедоступной — считайте, что ее нет. Она стала ничьей, и потому подлежит приватизации, говорит Сидоров. Как и вся память низших. У высших все по-другому, они могут нанять себе профессиональную память.

Снова мы слышим голос профессора Иванова: «Нет никакого естественного интеллекта, потому что человек ничем не отличается от животного. Да, он крупнее крысы и мозг его весит больше. Но нейросети скоро превзойдут его».

Что произойдет тогда? Технократы верят в то, что смогут всех цифровизовать и, в конце концов, записать каждого на электронный носитель. Те, кто побогаче, смогут иногда выгружаться «в реал», чтобы размять ноги. Для них будут созданы особые миры наподобие того, что показан в сериале «Мир Дикого Запада» — из настоящих ингредиентов. Вы не отличите андроида от человека. Следующий этап —само-замкнутые вселенные, которые будут возникать и умирать без шума и пыли при помощи алгоритма. В таком виртуальном, но очень реальном мире можно будет смело делать мертвую петлю на фанерном самолете. Разобьетесь — не беда, искусственный интеллект новых нарожает. И даже Тот Свет создаст, с адом и раем — игра есть игра. С волшебным стоп-словом, чтобы выйти. Или без него — неважно, ведь ваша копия будет храниться вечно.

В этом месте мне захотелось написать: и тут я проснулся. А безумные профессора растворились в тонком воздухе, как обитатели заколдованного острова в «Буре» у Шекспира.

Они действительно растворились, но над тем, что они сказали, стоило бы поразмыслить — точно так же красавице Миранде стоило бы прокрутить в голове все, что приключилось с ней на острове волшебника Просперо. И не слишком доверять ни злобному Калибану, ни той гоп-компании, которую пожелал спасти от смерти ее отец.

Я думаю, что будущее не предопределено, и те, кто предлагает нам тот или иной его вариант под девизом «другого пути нет», хотят навязать нам свое видение. Те, кто говорит, что машина будет править миром и человечеству остается лишь обсудить условия капитуляции, хотят, чтобы это стало самосбывающимся пророчеством.

Как они собираются лишить человека воли к действию, хорошо показал коронавирус. Прежде всего, для этого нужно разъединить людей, сделать так, чтобы они утратили сам мотив к коммуникации. Затем нужно сделать так, чтобы действительно важные вещи людей не заботили. Может быть, для этого и была создана так называемая «экономика внимания»: ведь, погруженный в приватизированный виртуальный мир, где его покупают и продают прямо в тот момент, когда он потребляет «контент», человек ничего не будет делать. Его внимание расфокусировано, он находится не в со-знании, а в возле-знании — то есть, его критическое мышление отключено. Человек перестает думать о реальной жизни, о своем собственном завтрашнем дне, который он иначе мог бы изменить, о своей семье, об обществе, в котором живет. Я все жду, когда у совершенного потребителя «экономики внимания» начнёт расти шерсть, как у бедняков, высланных на Дурацкий Остров в пророческом романе Николая Носова «Незнайка на Луне».

Мы находимся в начале эпохи, где то, что называют сегодня «искусственным интеллектом», будет играть ключевую роль. Например, на наших глазах «наука о данных» выжигает то, что еще осталось от великой европейской науки. Это произошло незаметно — ведь «старый добрый искусственный интеллект» XX века ещё основывался на математической логике. Сегодня эти подходы практически полностью заменены вероятностными и статистическими моделями. Эти модели оказались успешными — например, в компьютерном зрении или в имитации человеческого языка, — поэтому технократы стали думать, что могут всё. Теперь можно упразднить все классические науки, начиная с физики. Как? Например, мы хотим предсказать, что произойдет в следующую секунду за окном. Раньше мы должны были применять множество теорий, от гравитации до квантовой механики. Теперь достаточно записать множество видео о том, что происходит за окном, скормить их суперкомпьютеру и сделать комплексный статистический анализ. Получится предсказание гораздо лучшего качества, чем то, что сделали бы физики! Значит, институты физики пора закрывать.

Так можно поступить с каждой наукой — хотя жрецы-технократы скажут, что оставят по нескольку человек в каждой области на развод, чтобы было кому скармливать машине данные.

Что же делать? Каждый год в англоязычных странах снимают десятки, если не сотни футуристических фильмов и телесериалов. В них будущее показано страшным, привлекательным, диким, завораживающим, райским, адским, абсурдным, нелепым, смешным. Чаще страшным. Люди вписываются в эти антиутопии или выпадают из них. Чаще выпадают.

В фокусе этих произведений оказываются разнообразные идеи, изобретения и технологии — и моделируется реакция на них отдельных людей и общества. Вспомним, хотя бы, сериал «Черное зеркало», где в каждой серии обыгрывается то или иное технологическое достижение, и показана его обратная сторона. Мы понимаем, что за технологический прогресс надо платить. Комфорт требует полного подчинения бездушной системе. Удобства оборачиваются расчеловечиванием. Перекладывание ответственности на гаджет приводит к появлению монстров. Выявляя болевые точки, часто этим и ограничиваются. В произведениях массовой культуры все проблемы решаются сверхчеловеком, который одерживает верх в самой безвыходной ситуации. Так массовое сознание получает дозу транквилизатора. Все под контролем, капитан Америка все разрулит.

Массовая аудитория уже давно включает в себя и «креативный класс», который точно так же подвержен циклам возбуждения и успокоения. Этим классом управлять, пожалуй, даже легче, чем простыми работягами, потому что креаклы податливей к атакам символами. Так и образованные классы, и массы потихоньку привыкают шокирующему и совершенно бесчеловечному миру, в который нас ведут крупные корпорации и правительства.

Конечно, на английском есть и книги с глубоким анализом происходящего, где многие вещи называют своими именами. Эти книги не раскручивают так, как массовую литературу: их функция прежде всего в настройке обратной связи системы. Без обратной связи не бывает управления. Бенефициары системы хотят знать тонкие места, хотят понимать, где может порваться или рвануть, и хотят к этому подготовиться. Таким образом, для самых внимательных, для наименее подверженных воздействию масскульта, для тех, кто дает себе труд вникнуть в проблему, появляется возможность что-то понять и осознать.

Увы, Россия, страна, пославшая в космос первого человека, перестала задумываться о будущем. Она живет на безумном контрасте цифровизации и суеверий, невежества и быстрого технологического прогресса, веры в компьютеры и упадка критического мышления. Страна открыта самым новым, самым смелым технологиям, одна из первых применяет их на практике: будь то бесконтактные банковские операции, криптовалюты, распознавание лиц, социальный мониторинг, дистанционное обучение, системы тотальной слежки и так далее. При этом, в обществе не происходит осмысления или даже обсуждения проблем, которые несут эти технологии. По этим темам в России не производят фильмы, практически не пишут книги. Зачем? Мы не метрополия, а колония. Англоязычные произведения массовой культуры полностью контролируют наши мысли и наши страхи, напрямую или через локальные адаптации.

Правительство активно навязывает обществу, народу, бизнесу, повестку цифровизации как некую кампанию, на которой крупным игрокам можно заработать, а остальным придется с этим смириться. При этом, облики грядущего исправно поставляются нам Голливудом. Культурная провинция станет и цифровой провинцией, ценной лишь поставками новой нефти — человеческого поведения марки Urals.

Технократы считают, что нельзя упускать прибыли от новых технологий, а будущее, которое они несут, простых людей интересовать не должно: кто-то в Силиконовой долине уже подумал над этим. При этом наш общественный идеал фантастическим образом лежит в глубоком прошлом, в дворянско-купеческом раю, в придворных интригах в камзолах XVIII века, в Нарышкиных, Голицыных и в эпохе Алексея Михайловича.

Не в силах совладать с настоящим, мы не думаем о будущем. Массовому сознанию нельзя давать время на размышления, оно не должно выходить из состояния шока, поэтому создается атмосфера непрекращающегося скандала, эйфории, а с недавних пор и катастрофы. Ковид облегчил задачу: индустрия гостеприимства рухнула, зато производство истерии и страха выдвинулось на первое место. С запуганными людьми можно делать что угодно, и абсурдные распоряжения в сочетании с системами цифрового контроля позволяют технократам форматировать сознание. Прежде всего, стираются личности детей и подростков, на них пишут, как на чистых листах бумаги. Так рождается будущее, в котором, как проговариваются некоторые технократы, уже не должно быть человека.

Эта книга родилась как ответ на запрос многих, которые хотели бы разобраться, что находится внутри «чёрного ящика» — ящика Пандоры новых технологий. Вы увидите, что за индустрией искусственного интеллекта стоит целая пирамида материальных ресурсов, знаний и человеческого труда. Я постарался сделать изложение доступным не только для «гиков» или «технарей», поэтому сложные концепции поясняются на простых примерах, представляются через парадоксы, мысленные эксперименты и метафоры, которыми, в сущности, являются все научные понятия.

Книга ни в коей мере не претендует на полноту охвата темы. Она была написана еще до ковида, который резко ускорил развитие человечества. Во время карантина 2020 года я написал продолжение этой книги, где подробно разбираю социальные и антропологические последствия масштабного появления систем искусственного интеллекта в повседневной жизни. Эта книга называется «Человек взломанный» и выйдет после «Демона внутри». Речь в ней пойдет о новой сущности, которая своими чертами напоминает государство — о глобальном Цифровом Левиафане, а также о социальной и человеческой сингулярностях, ждущих нас впереди.

Но и второй книги оказалось недостаточно, чтобы показать, как родилась новая реальность цифрового Левиафана и роевого сознания, идущего на смену личности, утраченной «человеком взломанным». Поэтому сейчас я работаю над третьей книгой серии, в которой подробно остановлюсь на истории искусственного интеллекта как понятия и практики. Двигаясь во времени, мы увидим, как наука перешла от дешифровки мира к дешифровке человека. Рассматривая машину как своё расширение, человек стал с двойным усердием штурмовать природу — и не заметил, как изменился сам. В последние годы успехи в техническом воплощении систем ИИ связываются прежде всего с учеными из США и Великобритании, поэтому принято показывать развитие отрасли с их точки зрения. При этом игнорируются достижения ученых из Германии, России, Польши, Финляндии и других стран. Я постарался восполнить этот пробел.

История исследования человеческого разума и его двойника, разума искусственного сопряжена с захватывающими эпизодами, драматической схваткой идей и личностей, которая продолжается и поныне. Отправляясь в мысленное путешествие с целью понять, что такое «искусственный интеллект», давайте уговоримся на полную катушку использовать интеллект естественный.

Может быть, в процессе мы узнаем кое-что и о нём.

Игорь Шнуренко, сентябрь 2020