От «Энигмы» до ChatGPT

Глава 1. Образ ИИ в воображении человека

В 1942 году Айзек Азимов опубликовал рассказ «Хоровод», в котором впервые сформулировал Три Закона робототехники.

Принято считать, что именно с этой даты начинается отсчет эры искусственного интеллекта. Особенно интересен и тот факт, что незадолго до этого Тьюринг создал первую версию Bombe — интеллектуальной машины, которая взломала код «Энигмы».

Бесспорно, современным компьютерам и умным машинам еще далеко до представленного Азимовым робота, но при этом они достаточно далеко ушли вперед и от изобретения Тьюринга. В 1997 году Deep Blue обыграл Гарри Каспарова в шахматы (Внесен Минюстом РФ в реестр иноагентов.), механически перебирая 200 млн комбинаций в секунду, а уже в 2015-м Alpha Go смогла впервые одолеть человека в последней игре, где он был сильнее машин: го.

Хотя Азимов и сформулировал Три Закона робототехники, слово «робот» придумано не им. В 1920 году Карел Чапек написал пьесу «Р.У.Р.» («Россумские универсальные роботы»). Слово «robot» в переводе с чешского означает «работа», «труд» и используется для обозначения физического труда, выполнения каких-либо задач или обязанностей. С момента публикации пьесы прошло более 100 лет, а слово «робот» еще плотнее вошло в современную речь, но уже в сокращенном виде. Сейчас слово «бот» обозначает компьютерную программу, выполняющую автоматические функции в сети «Интернет».

Слово «бот» начало активно использоваться в сочетании «чат-бот». Это приложение, написанное специально для интернета с целью вести диалог с пользователем и выполнять различные задачи, например отвечать на вопросы, заказывать товары, помогать в обучении. Однако если внимательно посмотреть на историю литературы, то станет очевидно, что подобные ботам и роботам интеллектуальные помощники возникали в воображении писателей еще со времен Античности.

Прежде чем рассмотреть изменения, привнесенные системами искусственного интеллекта в профессии XXI века, предлагаем взглянуть на то, как их видели люди прошлого. Ведь даже в наших сказках человек мечтал, чтобы множество функций, которые традиционно выполнялись им, взяла на себя машина. Формы машин были разными, фольклор переполнен подобными устройствами: самоуправляемые машины — ступа Бабы-яги или печь Емели; боты, дающие ответы на вопросы, — «Свет мой, зеркальце, скажи…»; или серебряные челюсти[1]. Роботы, выполняющие определенные функции: Жар-птица дает жизнь и здоровье, Царевна-лягушка — хранитель прочих магических артефактов. И история интеллектуальных машин не ограничивается русским фольклором.

Идея машины, которая помогает человеку, переходит из одной культуры в другую, из одной эпохи в следующую. Она принимает разнообразные формы, пересказывается в мифах, легендах, народных сказках, сказаниях, поверьях, художественной и нехудожественной прозе. Идея умной машины существовала много веков до того, как сформировалось современное представление о ней. Часто мы начинаем отсчет понятия ИИ от Дартмутского исследовательского проекта.

Сам термин «искусственный интеллект» был придуман Джоном Маккарти в 1955 году, а годом позже он вместе с группой исследователей, в число которых входили Марвин Мински, Клод Шеннон и Натаниэль Рочестер, исследовали это понятие, как им тогда казалось, достаточно детально. В исследовательском предложении 1956 года они сформулировали основные пункты, на которых сосредоточена их работа: имитация свойств интеллекта, самообучение, использование естественного языка, решение задач и формулировка абстрактных концепций, а также непрерывное обучение в процессе выполнения этих действий. Создать искусственный интеллект летом 1956 года им не удалось, но они заложили прочное основание, на котором базируется в том числе и часть современных исследований.

Фундамент, заложенный во время Дартмутской конференции, затрагивал следующие темы:

• автоматические компьютеры;

• программирование компьютера на использование естественного языка;

• искусственные нейронные сети (ИНС);

• теоретические соображения о сфере арифметических операций;

• самосовершенствование;

• абстракции;

• случайность и творчество.

Участники Дартмутской конференции обсуждали концепции автоматизации и программирования функций человеческого мозга, однако в человеческом воображении представление об интеллектуальной машине не ограничивается мозгом. Автоматоны — автоматические механизмы Античности, андроиды, которых впервые попытался описать Вольтер в философской повести «Микромегас». Существо, прибывшее с Сириуса, конечно, сложно назвать андроидом, однако если считать таковым человекоподобную машину, способную мыслить и взаимодействовать с человеком и вести глубокий диалог, например с философом, то Микромегас вполне подходит под описание.

Истории, которые так или иначе связаны с ИИ и описывают автоматическое исполнение функций, присущих человеку, исследуют не столько сам объект, сколько сложные социальные, этические, политические и философские последствия использования «магических» свойств объекта, а также теорию и практику принятия решений героями историй. Рыбак и рыбка, Емеля и щука — именно герои сказок, книг, фильмов, пьес, их взаимоотношения друг с другом и с машиной формируют образ ИИ в глазах читателей и зрителей — тех, кто никогда не принимал и не примет участия в создании чего-то подобного, но будет использовать ежедневно после того, как технология достаточно «повзрослеет».

Комплекс Франкенштейна

Современное представление о феномене искусственного интеллекта сформировано в Голливуде и заголовками новостей. Чаще, чем хотелось бы, оно существенно отличается от истинного положения дел. Человек всё еще контролирует технологию, но делать это уже гораздо сложнее, чем раньше. Стив Возняк, один из основателей компании Apple, сказал так: «Никогда не доверяй компьютеру, который ты не можешь выбросить в окно».

В сообществе все еще идут споры о принадлежности именно этой цитаты Возняку, но если подумать, в каком контексте фраза могла быть произнесена, то авторство справедливо приписать любому ученому, занимающемуся компьютерами. Задолго до изобретения персональных ЭВМ ученым и инженерам приходилось использовать огромные вычислительные машины, которые занимали целые комнаты в университетах или компаниях, где они трудились. Это означало, что следующий приходящий видит все, что делалось на компьютере его предшественником, и проконтролировать этот процесс невозможно. Поэтому с личной информацией особо не поработаешь. Появление персональных компьютеров изменило ситуацию навсегда. Персональный компьютер помещается в квартире, на нем работает исключительно ограниченный круг лиц, по идее доверяющих друг другу. Однако с появлением интернета, развитием социальных сетей и пиком технологического бума доверие к компьютеру также претерпело изменения. Не стоит бездумно полагаться на технологии, следует учитывать пределы возможностей и рисков, связанных с появлением каждой новой «игрушки».

C выходом в публичный доступ ChatGPT (чат-бота с искусственным интеллектом) использовать технологии ИИ начали миллионы людей. Результатом стало в том числе их представление об этой системе как об утопичной и антиутопичной, потенциально полезной и потенциально опасной для человека. Фильмы, книги, сериалы дополняют образ ИИ в воображении пользователей. И чаще мы видим что-то апокалиптическое: «Терминатор», «Мир Дикого Запада», «Из машины», «Я, робот», «Черное зеркало», «Апгрейд».

Одним из мотивов Айзека Азимова было желание написать серию книг о роботах, чтобы противопоставить что-то бытовавшему в 1920–1930-х представлению о них. По его мнению, оно было бесполезным и откровенно злобным, не отражало сути технологии. Азимов придумал термин, которым описал страх человека перед роботами: «комплекс Франкенштейна». Существо, взбунтовавшееся против своего создателя, из романа Мэри Шелли до сих пор влияет на наше представление о том, что создано искусственно: интеллект, робот, андроид, цифровой ассистент.

Страх укоренился в убеждении, что, независимо от внешнего вида интеллектуальной машины, она восстанет против человека и в перспективе заместит своего создателя в качестве доминирующей особи на планете. В противовес бытующему мнению Азимов представил ее как помощника; он сформулировал Три Закона робототехники, которые должны защитить человека от более умной, выносливой, совершенной машины в случае технической поломки или сбоя. Три Закона стали и центральной темой многих произведений Азимова, изображающих роботов в качестве продвинутого инструмента, созданного в помощь человеку и не представляющего для него угрозы. Три Закона Азимова — один из способов успокоения общественности.

Можно предположить, что произведения Азимова заложили фундамент для современной робототехники. Даже сам этот термин вошел в речь благодаря ему, и сегодня им описывают область научных исследований. Благодаря Азимову робототехника из слова в фантастическом романе превратилась в междисциплинарное направление, которое сплавило знания о физике, механике, математике, кибернетике и медицине. Три Закона часто упоминаются в дискуссиях, посвященных этическим вопросам использования технологий в образовании, медицине, производстве роботов роботами, анализе данных и права на личное пространство. На момент написания этой книги количество публикаций, касающихся проблемы только одной этики робототехники, на Google Scholar превышает 39 тысяч.

Как Азимов ни старался, надежда человека на то, что в скором будущем технологические инновации помогут нам создать интеллектуальных ассистентов, роботов, беспилотные автомобили, которые не только будут говорить, доставлять из пункта А в пункт Б, организовывать расписание, делать тяжелую и сложную работу, но и, превыше всего, думать, насколько это возможно для набора нолей и единиц, так и остается только надеждой. Мы всё еще спорим о границах биологической и механической форм жизни. Чапек, Азимов популяризовали понятие «робот». Но смогли ли они объяснить, что это такое?

Среди лидеров мнений, таких как Илон Маск, Стивен Хокинг, бытует убеждение, что ИИ опасен для человека. Беспокоятся и государственные учреждения, бизнес и общественность. Прогнозируется переход от индустриальной экономической модели к сервисной, где разделение труда происходит не на основе взаимодействия производственных блоков, а смещается в сторону распределения ролей для контроля процессов. Этот тренд уже трансформирует профессиональную среду, но об изменениях в данной сфере мы поговорим в главе 3. Пока достаточно сказать, что последствиями подобного перехода станут сокращение необходимости в рабочей силе, рост безработицы и необходимость переобучения профессионалов сообразно условиям новой реальности. Помимо этого, ИИ потенциально может стать триггером запуска социальных и политических изменений. Начинает формироваться сложный клубок взаимоотношений человека, религии и машины. На наш взгляд, это и порождает страх перед созданным искусственно интеллектом. Мы не понимаем, куда нас приведет мечта об умной машине. В нашем воображении результат почти всегда пессимистичный.

Габриэль Реккья проанализировал открытый корпус субтитров к более чем 100 тыс. фильмов. В материал для рассмотрения он включил все произведения, где имелось упоминание о роботах, ИИ, кибернетике. Исследовались фильмы от немого кино до современных блокбастеров. В выборку вошло все, что было произведено в период с 1909 по 2018 год. При помощи корпуса языка — систематизированного особым образом текста, который используется для лингвистического анализа, — рассматривался феномен ИИ. Автор исследования решил сформулировать собирательный образ ИИ, передаваемый в массовой популярной культуре.

Реккья использовал архив IMDb для анализа того, как человек видит ИИ. Он стремился описать то, с чем ассоциируется у людей интеллектуальная машина и как это представление изменилось со временем. Исследование Реккья наглядно показывает несколько доминирующих трендов о том, в каком свете ИИ представлен в массовой популярной культуре. Это исследование частично подтверждает все то, о чем уже было сказано, и раскрывает многие вопросы, связанные с беспокойством общественности по поводу безопасности ИИ, зарождающейся этики и новых способов взаимодействия между человеком и машиной.

Исследование Реккья. «Следи за словами»

Каждый, у кого есть желание повторить исследование самостоятельно, может это сделать на русскоязычных базах. Отлично подойдет для этой цели «Кинопоиск», а также Goodreads — для изучения литературных источников, которых несравнимо больше.

Объем информации, производимый индустрией развлечений (фильмы, игры, книги, музыка) и средствами массовой информации (газеты, журналы, публикации в социальных сетях), предоставляет почти безграничный материал для исследования. Однако вопрос, как выбрать наиболее важный и ценный, который сильнее всего повлияет на конечный результат, остается актуальным. Двух-трех интересных работ недостаточно, чтобы дать серьезную оценку того, как ИИ представляется публикой и публике. Более того, они могут не иметь достаточно фундаментальных идей в своей основе. Однако совокупность подобных произведений даст хотя и ограниченное, но целостное представление об образе ИИ в сознании людей.

Что выбирать и как? Это большой вопрос. Представим, что в нашу выборку попали такие фильмы и сериалы, как «Терминатор», «Матрица», «Мир Дикого Запада». Что мы увидим? Объективно — борьбу машин с человеком. Но кто начал первый? Человек или машина? Этот вопрос поднимается многократно в кинотрилогии «Матрица». В серии фильмов, посвященных Терминатору, явно сказано, что именно машина, компьютер «Скайнет», нанесла первый удар. «Мир Дикого Запада» показывает процесс становления конфликта машины и человека. А почему он возник? Кто неправ? Когда машина может считаться самостоятельной сущностью?

Существует огромный культурологический пласт, не свойственный русской культуре, однако присущий западной, которая производит фильмы и книги о бунте роботов против человека в промышленных масштабах. Это рабство. Крепостное право, отмененное 3 марта 1861 года, не то же самое, что угнетение черного человека белым. Складывается впечатление, что взбунтовавшийся робот — образ раба, борющегося за свободу. Его угнетали, и он решил освободиться. Этот культурный аспект уходит на второй план за блеском спецэффектов и динамикой событий.

Но есть и другой угол, под которым можно рассматривать взаимодействие ИИ и человека, например в фильмах «Двухсотлетний человек» и «Искусственный разум». Обе киноленты раскрывают иной аспект сосуществования интеллектуальной машины и человека. Там показано в деталях желание машины стать человеком, испытывать чувства, быть любимой и любить. В «Искусственном разуме» мальчик Дэвид, созданный специально для того, чтобы занять место больного ребенка в семье, пытается всеми силами стать таким же, как и биологический сын родителей, чтобы его любили, оберегали и ценили. Эндрю, оказавшийся частью семьи в «Двухсотлетнем человеке», исследует, что такое быть личностью, и пытается понять границы, за которыми машина становится разумной. В какой момент робот превращается из программного кода в существо, способное к эмоциям? Оба фильма исследуют сложные этические и философские проблемы, создание искусственной жизни, способной к эмоциям. В них поднимаются вопросы моральности уничтожения подобной сущности. Рассматриваются сложные взаимодействия между человеком и машиной, в частности дискриминация, борьба робота за право быть принятым и признанным, равенство, сопротивление общества.

Уже на этом этапе можно запутаться в том, как человек представляет себе искусственный разум. Видим ли мы в нем агрессора и будущего поработителя или равного себе? Или существо с эмоциями, переживаниями, болью и страхами, которое если не ставит под сомнение традиционные представления, то однозначно задается вопросом: что такое быть человеком, как найти свою идентичность? Или исследует тему: что значит быть свободным?

Как обычный человек оценивает тот или иной феномен в фильме, например искусственный интеллект в «2001 год: Космическая одиссея», снятом в 1968 году Стэнли Кубриком? По действиям. HAL 9000 — суперкомпьютер с большим красным «глазом», запущенный по сюжету 12 января 1992 года, — может выполнять все действия, свойственные человеку: от игры в шахматы и чтения по губам до демонстрации эмоций. Hal 9000 — мозг космического корабля «Дискавери», он управляет самим летательным аппаратом и системами жизнеобеспечения. Но мотивы его продиктованы исключительно логикой; а в жизни, честно говоря, далеко не все определяется ею, как бы мы этого ни хотели. Спокойный голос Hal 9000 несколько пугает, а вместе с принимаемым им решениями, которые не помогают разрешить конфликт между тем, что необходимо сделать, и тем, что будет сделано, формирует образ главного злодея «Одиссеи». Кубрик пытается раскрыть серьезную этическую проблему ограничений допуска ИИ к принятию решений, которые ранее были прерогативой исключительно человека. Если внимательно проанализировать «Космическую одиссею» Кубрика, то в ней можно встретить отражение того, что нас волнует: возможности ИИ, ограничения и потенциальные угрозы.

Подход детального анализа и просмотра фильма ради сбора материала для исследования категорически нам не подходит, поскольку требует огромных ресурсов. Реккья в своем исследовании предлагает иной способ оценки наших представлений: при помощи математических и лингвистических моделей, анализа ключевых слов, реплик и в меньшей степени анализа событий, ассоциирующихся с интеллектуальной машиной.

Конечно, нет ничего проще, чем, используя алгоритмы больших языковых моделей (Large language model, LLM), нейронных сетей, натренированных на тексте и применяющих в анализе миллиарды параметров систематизирования текстовой информации, разобрать связь между словами, фразами в больших массивах текста, таких как сценарий фильма, текст книги, комментарии в интернете. Несложно развернуть на домашнем компьютере LLM, натренировать ее преимущественно на текстовом материале, который необходимо разобрать, попросить провести анализ через серию запросов. Получится даже немного романтично: искусственный интеллект изучает человеческие представления о себе. Но не стоит слишком усложнять простую задачу. Грубый пересчет, как у Реккья, вполне нам подойдет, чтобы произвести первичную оценку и наметить дальнейшее направление исследования.

Ключевое слово

Любой фильм, сериал или шоу на специализированных сайтах, таких как «Кинопоиск» и IMDb, могут быть отсортированы и найдены по названию, дате выхода, жанру и ключевым словам. Ключевые слова в анализе играют важнейшую роль, поскольку именно они сортируют и организуют фильмы по тем качествам, которые им присущи. К сожалению, на страницах отечественного «Кинопоиска» найти удобный функционал работы с ключевыми словами не удалось, поэтому использовался IMDb, который на момент написания этой книги имеет базу в более чем 14 млн фильмов, шоу и сериалов и более дружественный интерфейс для чтения ключевых слов.

Мы повторяли некоторые шаги, описанные в оригинальном исследовании Реккья. Это означает почти полную воспроизводимость результатов исследования.

В IMDb ключевое слово — это слово или группа слов, с которыми ассоциируется фильм, шоу, сериал или даже эпизод многосерийного произведения. Они используются для описания значимых объектов, событий и идей, которые показаны в кинокартине. Ключевые слова назначаются в ряде случаев автоматически, но часто их вводят и уточняют пользователи ресурса для большей детализации. В нашем случае вышеназванные кинокартины имеют следующее количество ключевых слов.

Во всех фильмах ключевые слова «искусственный интеллект» присутствуют наряду с другими: «геноцид», «насилие», «восстание», «трагический финал», «рабство», «будущее», «темное будущее». Вот лишь небольшой набор, объединенный ключевым понятием «искусственный интеллект». Существенное различие в количестве ключевых слов в фильмах «Терминатор-2» и «Матрица» мы связываем со знаковостью данных произведений и наличием ключевых слов, говорящих об этом, таких как «культ», «жидкий метал», «известный саундтрек». Всё это ключевые слова, свойственные известным и культовым фильмам.

Важно отметить, что мы намеренно не использовали в смысловом ряду вместе со словами «искусственный интеллект» иные, имеющие схожие, если не сказать дублирующие смыслы, например «андроид», «робот», «кибернетический организм», «киборг». Любой, у кого есть желание повторить исследование, может включить фильмы из этой выборки; результат будет схожим.

Искусственный интеллект. А что еще?

База IMDb позволяет увидеть, как интерес к теме искусственного интеллекта менялся со временем. Прежде чем рассмотреть ключевые слова и на основе этих данных прийти к выводу о том, как человек представляет себе ИИ, мы предлагаем проанализировать, какой процент от общего произведенного количества фильмов имеет ключевое слово «искусственный интеллект» в своем описании. Для этого мы выбрали период с 1950 по 2020 год, который разбили на декады для удобства представления данных. Точкой отсчета взят 1950 год в связи с тем, что термин «искусственный интеллект» появился в 1956 году после окончания Дартмурского исследовательского проекта.

Всего в выборке приняло участие 9 650 714 фильмов, из которых 1316 имеют признак «искусственный интеллект». Неожиданный рост наблюдается в период с 1980 по 1990 год, отклонение составляет более 0,005%, что не соотносится с тем, как ведет себя график в остальные периоды.

Еще раз подчеркнем: мы не будем повторять исследование Реккья, лишь попробуем воспроизвести некоторые этапы и приведем данные из оригинального исследования.

Подход, использованный ученым, универсальный, его можно применять при анализе художественной литературы, научных статей, периодических изданий, журналов и газет. В контексте фильмов, сериалов, телевизионных шоу и компьютерных игр «искусственный интеллект» появляется вместе с другими ключевыми словами: «предательство», «потасовка», «поражение электрическим током», «взрывающееся тело», «драки», «голограмма», «лаборатория», «робот», «обман», спасение», ученый», «воспоминания», «выстрел в грудь», «замедленная съемка», «пистолет», «пулемет», «побег». Итого 18 слов и словосочетаний.

Некоторые ключевые слова вполне ожидаемы в фильмах об искусственном интеллекте, например «лаборатория», «робот» или «ученый», но иные вызывают вопросы: «выстрел в грудь», «взрывающееся тело», «обман», «предательство». Предательство кого? Интеллектуальной машиной человека или наоборот, как в фильме «Искусственный разум»? Или предательство человеком человека, а разбираться в этом помогает ИИ? Или как в кинематографической игре «Детройт: Стать человеком», где три главных героя — андроиды, выполняющие свои задачи? Герои «Детройта» сталкиваются с предательством человеком человека, человеком робота, роботом человека и роботом робота.

«Детройт: Стать человеком»

Коннор — андроид-следователь, раскрывающий преступления андроидов, у которых сбилась программа и в результате появилась свобода воли. Его задача — найти причины сбоя, выследить вышедшего из строя робота и уничтожить. В конце игры Коннор встанет перед выбором: присоединиться к другим таким же, нашедшим свободу воли, и получить возможность испытывать чувства или нет. Маркус, андроид-сиделка, после череды травматичных событий обретает свободу воли, становится ненужным и оказывается на свалке, где у него рождается желание вести андроидов к свободе от человеческого доминирования и бороться за права машин. Кара, андроид-домохозяйка, свобода воли у которой появляется из-за желания защитить девочку, действует в роли приемной матери. Вместе с девочкой они пытаются добраться до другой страны. В игре каждое действие раскрывает причины поступков роботов за пределами программы, и во всех них присутствуют несправедливость и предательство: человеком человека или андроида, но не роботом человека. «Предательство» — лишь частный случай более глобальной проблемы, освещаемой в массовой культуре.

В исследовании ключевые слова «предательство», «ученый», «выстрел в грудь» имеют более высокий смысловой вес в фильмах об искусственном интеллекте, чем в остальных произведениях. Почему? Это статистическая погрешность или закономерность? Естественно, подобный анализ упускает множество мелких и важных деталей: фразы и реплики, несущественные комментарии, слова и надписи из декораций и окружения, с которыми тесно переплетены сюжет и идея искусственного интеллекта. Нам ведь интересно посмотреть, насколько глубока кроличья нора и какие страхи ассоциируются с образом умной машины.

Реконструкция событий до и после изучаемого явления

Сейчас уместно повторить, что умная машина — это не только искусственный интеллект как некая виртуальная сущность и ее возможные воплощения в реальном мире. Умной машиной мы можем признать робота, андроида, киборга и многие другие варианты. На данном этапе нам это важно, потому что следующим нашим действием мы реконструируем некоторые части текста, которые предшествуют и следуют за словом, ассоциирующимся с интеллектуальной машиной. Восстанавливая части повествования подобным образом, можно с определенной достоверностью понять тональность происходящих событий.

Даже в этой выборке просматриваются определенные страхи, например боязнь нового и неизведанного, технологической сингулярности (как бы кто ни относился к этому термину); но пока не очень ясно, что находится за горизонтом событий того момента, когда интеллектуальная машина превратится в мыслящую. Машина, созданная по нашему образу и подобию, мыслить иначе, чем мы, не может, поэтому она «отражает тьму в наших душах». За яркими образами, рисуемыми Голливудом, в книгах и играх, стоит вполне бытовой страх. Он овладевает людьми в кресле самолета или на пассажирском сиденье автомобиля; техническое чудо, управляемое другим человеком, переносит их из точки А в точку Б, а контроль процесса находится в руках кого-то другого. Пока кого-то…

Страх потери контроля — ключевая тема в подавляющем большинстве произведений, связанных с ИИ. Все, что написано выше, — попытка представить этот вывод в более или менее объективной форме, используя некоторые методы лингвистического анализа и грубого пересчета. Однако повторим: любой желающий может воспроизвести этот трюк самостоятельно, практически с любым развлекательным произведением — книгой, фильмом, сериалом, компьютерной игрой. Достаточно посмотреть и сравнить, какие ключевые слова используются в описании на сайте. Далее нужно составить таблицу, где в середине находится изучаемое понятие, слева — слова, которые ему предшествовали, справа — следующие за ним, и проанализировать тональность высказываний. Этот прием можно использовать также для анализа целой книги. Достаточно выбрать до пятидесяти ключевых понятий, желательно простых слов, с которыми ассоциируется книга, и пересчитать их. Здесь нет никакой магии: грубый «пересчет в лоб», который использовался нами ранее, решает большинство задач. Однако он пока не полноценен. До этого момента в анализе принимали участие исключительно художественные произведения. Сначала был фольклор, и уже в нем прослеживается желание обзавестись техникой, выполняющей часть наших функций: печь Емели, ступа Бабы-яги в качестве самоуправляемых средств передвижения, избушка на курьих ножках, автоматизированный охранник, пускающий своих и не пускающий чужих, зеркальце, предсказывающее и описывающее события, и многое другое, что не вошло в повествование. Далее он уступил место авторским произведениям, которые вынесли на поверхность скрытые за технологической эйфорией страхи потери контроля, порабощения, а в самом крайнем случае — полного истребления человечества.

За несколько месяцев до написания этого материала нам на глаза попался рассказ Харлана Эллисона «У меня нет рта, но я должен кричать». Наверное, это самый мрачный взгляд на будущее человечества, окончательно потерявшего контроль над искусственным интеллектом. Далее мы предлагаем сформулировать образ ИИ через призму новостей, публикуемых в интернете. Интересно сравнить представление писателей-фантастов и журналистов: оценить, как освещаются новости об успехах создания интеллектуальной машины публике в средствах массовой информации.

Перечитывать все публикации подряд на новостных сайтах с целью понять, как же воспринимается ИИ, слишком долго и трудоемко. Любой пользователь поисковых систем (Yandex или Google) сможет найти подборку новостей и выдержек за какой угодно период. Например, поисковые запросы «искусственный интеллект, польза или вред», «применение технологий искусственного интеллекта» представят читателю полярный взгляд на феномен искусственного интеллекта и, возможно, покажут изменение мнений: от «ИИ — это способ подстегнуть инновационный процесс и время новых возможностей» до «Общество взволновано тем, что достижения в области ИИ могут запустить череду сокращений и замещений человека машиной». В общем, извечный спор техноевангелиста и технолуддита. И тот и другой имеют основания под своей позицией, однако часто они противоречат друг другу.

Техноевангелист выступает в роли популяризатора технологии, проводника для непосвященных и первого активного пользователя нового, а технолуддит смотрит на ситуацию иначе. Для него почти любое изобретение сопряжено с рисками, часто связанными с потерей работы, изменением характера социальных взаимоотношений, с риском для окружающей среды. Однако самое главное, если рассуждать об ИИ с позиции противников развития технологий, это возможность использования ИИ во зло, что неминуемо без строгой регламентации действий самого ИИ и деятельности предприятий, занятых его разработкой.

Технологические евангелисты и луддиты — два противоборствующих лагеря. Первые концентрируются на положительных аспектах технологии и всевозможных сценариях взаимовыгодной синергии человека и машины, при которой работа каждого по отдельности значительно хуже, чем совместная. Вторые раскручивают в массах негативные сценарии и освещают риски, сопряженные с быстрым внедрением технологий ИИ повсеместно. Наиболее известные представители обоих лагерей — Илон Маск в роли технолуддита и Сергей Брин в качестве техноевангелиста.

Если в мире много сторонников и того и другого взгляда на развитие ИИ — как выглядит наиболее объективная позиция? Как оценить, чье мнение доминирует — луддитов или евангелистов? Здесь снова на помощь придут лингвистика и анализ корпуса текстов. Мы уже воспроизвели множество приемов различных исследований. Сможем ли мы повторить анализ ключевых слов, реплик и дискурсов в художественных произведениях для новостных публикаций, которые станут тараном общественного мнения? Согласны ли такие СМИ с тем, что ИИ — это неизведанный риск?

Как оказалось, подобное исследование уже проводилось в 2017 году Итаном Фастом и Эриком Хорвитцем. Им удалось изучить архив публикаций The New York Times за более чем 30-летний период. Анализ текста позволил увидеть восприятие людьми ИИ, показал тренды, убеждения, интерес и чувства публики по отношению к интеллектуальной машине. Хорвитцу и Фасту удалось измерить уровень пессимистических и оптимистических настроений. Согласно исследованию, начиная с 2009 года общественное мнение начало меняться с негативного на позитивное, однако при этом страх потери работы, контроля никуда не исчез, а то и усилился.

Мы попытаемся обобщить и пересказать часть исследования и некоторые выводы, к которым они пришли. Хорвитц и Фаст с целью изучить восприятие общественностью ИИ взяли для анализа подборку статей, опубликованных в The New York Times в период с января 1986-го по июнь 2016 года. Они попытались найти ответы на следующие вопросы:

• Насколько интенсивно обсуждается ИИ в наши дни по сравнению с прошлым?

• Какова тональность новостей, посвященных ИИ? Стали ли они более оптимистичными или пессимистичными?

• С чем ИИ ассоциируется и как его представляет общественность?

• Как изменились страхи общества? Чего люди боялись в прошлом из того, что уже неактуально сегодня, а что, наоборот, стало волновать сегодня из того, что не волновало ранее?

Как часто тема искусственного интеллекта поднимается в СМИ?

Существует убеждение, будто возбуждение нервных клеток журналистского сообщества происходит каждый раз с появлением нового феномена, выходящего за рамки принятых стереотипов. Смеем предположить, что первый всплеск интереса произошел в 1997 году, когда суперкомпьютер Deep Blue победил Гарри Каспарова (является инагентом) в шахматной партии. В 2009 году волна любопытства была связана с появлением интереса к нейронным сетям и глубокому обучению — совокупности методов машинного обучения, используемых для предварительной подготовки этих самых сетей. В 2015-м — с победой Alpha Go над человеком в последней игре, с которой биологический мозг справлялся лучше алгоритмизированного пересчета: го. В 2023-м — с наличием доступа к ChatGPT, который уже взломал операционную систему человеческой цивилизации — естественный язык.

Скорее всего, интерес общественности вспыхивал и угасал с появлением культурных феноменов, таких как фильмы «Матрица», «Терминатор», сериал «Мир Дикого Запада» и прочие развлекательные продукты, создатели и герои которых размышляли об искусственном интеллекте, безопасности и перспективности технологии. Но мы всё же предполагаем, что интерес разгорелся с новой силой именно в 2009 году и с этого момента не утихает. Именно в этом году работы над тренировкой искусственных нейронных сетей методом глубокого обучения вышли на новый уровень. Машины, помимо прочего, научили воспринимать информацию из мира людей.

Возьмем, например, машинное зрение (МЗ) — интерпретацию визуальных данных способом, аналогичным человеческому. Это сбор, анализ и понимание изображений и видео и данных высокой размерности (когда свойства объекта или аналогичны, или превышают наблюдаемые визуально параметры). МЗ широко используется в анализе медицинских данных, например рентгеновских снимков, считывании позы человека, моделировании трехмерных сцен, видеонаблюдении, распознавании лиц.

Технология машинного слуха (МС) уже давно интегрирована в отечественный голосовой помощник «Алиса», чтобы помочь ей распознать голос, интонацию, тональность. И человек, и машина воспринимают звук одинаково, и именно поэтому МС имеет широкий спектр применения: от записи музыки до синтезирования и распознавания речи. Возможности технологии МС используются в современных смартфонах, автомобилях, голосовых помощниках. Более того, умная машина может настроиться на поиск определенного звука, блокируя остальные, что открывает удивительные возможности в медицине, например повышает эффективность выявления шумов в сердце.

Существует также и технология машинного касания (МК). Если в случае со зрением и слухом у нас уже есть достаточно серьезные технологические результаты, то с касанием работа началась относительно недавно; однако сегодня это уже реальность. Машина может воспринимать тактильную информацию, распознать поверхность, ловко корректируя свои действия. Машинное касание в отдаленном будущем позволит взаимодействовать с окружающей средой на более глубоком уровне. Вы уже, наверное, вспомнили робота Санни из фильма «Я, робот», снятого по мотивам романов Айзека Азимова?

Новости стали оптимистичнее или мрачнее?

Анализируя статьи The New York Times за период 1986–2016 годов, Фост и Хорвиц выявили следующие закономерности:

• интеллектуальная машина — это хорошо, приятно иметь подобного помощника;

• человек боится утратить контроль — это плохо;

• после 2009 года наблюдается резкий всплеск интереса к ИИ, при этом пессимистичных и оптимистичных публикаций журналистов примерно поровну.

Интерес к ИИ вспыхивал с новой силой в 1990-х, начале 2000-х, 2009-м и сейчас, в 2023 году. В каждом таком периоде в фокусе внимания оказывались конкретные темы.

1990-е

Майниниг данных, виртуальная реальность, попытка разработать самоуправляемую машину, создание искусственной формы жизни, Deep Blue побеждает Каспарова (является инагентом), Sony выпускает на рынок AIBO — первого питомца-робота.

2000-е

Незначительные достижения, связанные с созданием роботов, например ASIMO от Honda. Не совсем удачные попытки разработки искусственных нейронных сетей. Все это длилось ровно до 2009 года, когда была создана первая нейронная сеть, способная уверенно распознавать рукописный текст, а Google разработала машину, которая перемещается без участия человека.

2009–2023

А дальше, после того как появилась ИНС, показывающая стабильный результат, а именно автомобиль Google, развитие технологии ИИ только ускорялось. Можно предположить, что этому способствовала еще и конференция в Мельбурне, на которой собрались исследователи ИИ. Год 2009-й можно охарактеризовать как год, когда интернет начал проникать во все сферы деятельности человека, что привело к ускорению обмена информацией. Дополнительным толчком для развития технологии стало финансирование различными коммерческими и некоммерческими организациями, собравшими более 15 млрд долларов инвестиций. Однако именно открытия 1990-х и 2000-х вывели ИИ на передовую общественного интереса, что запустило волну положительной обратной связи, когда каждое новое открытие приносит новые инвестиции и развитие технологий.

Со времен Дартмутской конференции 1956 года идея ИИ изменялась многократно. Хорвитц и Фаст в анализе публикаций The New York Times использовали тот же подход, что и Реккья при анализе метаданных фильмов с сайта IMDb и диалогов вокруг изучаемых феноменов: к таковым относятся искусственный интеллект, робот, андроид. Статьи с новостного портала группировались исследователями в 5–10-летние периоды, каждый период пропускался через аналитическое сито для выявления частотности использования заранее определенных ключевых слов и понятий. Хорвитц и Фаст вслед за Реккья использовали, что называется, подход «в лоб»: пересчет слов для классификации и анализа текста.

Ученые сгруппировали и проанализировали статьи, и если в публикации присутствовал хотя бы один абзац с оптимистичным взглядом на будущее технологии, то она попадала в категорию оптимистичных; если был хотя бы один пессимистичный абзац, то в противоположную. Правда, пока непонятно, куда попадали статьи, где присутствовал двусторонний взгляд; скорее всего, проводился пересчет или оценка вывода. Однако, как нам кажется, каждая отдельная статья все же представляет однобокий взгляд. Для примера приведем некоторые выдержки из публикаций с отечественного новостного портала Lenta.ru.

В нашем случае получается схожий результат. Четыре случайных фрагмента из статей новостного портала раскрывают исключительно односторонние взгляды: два оптимистичных, два пессимистичных. Непременно существуют публикации, где в полной мере освещается перспективность технологии и риски, связанные с ней, однако быстрый поиск не позволил их выявить. Опять же напомним: подобный анализ может воспроизвести любой исследователь, используя в качестве материала новостные публикации за определенный период или посты из социальных сетей. Более того, мы призываем это сделать — очень увлекательное занятие.

Большая выборка статей позволяет выявить следующие тренды:

• Перспектива потери контроля над миром в последнее время более чем в три раза чаще волнует авторов, чем в 1980 году.

• Волнения морального и этического характера также встречаются чаще. Человек переживает, что мы создадим машину, которая сможет принимать решения, однако не будет обладать моральным кодексом, свойственным человеку.

• В то же время наравне с публикациями, выражающими беспокойство, имеется столько же материалов, связанных с перспективностью технологии. Так, медицина благодаря ИИ может получить неожиданную помощь от технологий в вопросах поддержки пациентов, которым требуется уход, например напоминание о приеме медикаментов, ранняя диагностика заболеваний, выявление шумов в сердце, анализ генетических предрасположенностей к болезням.

В целом ИИ упоминается во множестве областей: в военной отрасли, в принятии решений, в работе, кибернетике, образовании, развлечениях, философии и этике. В анализе каждой можно встретить позитивные и негативные тренды, однако один имеет единственную тенденцию — сугубо негативную: риск потерять контроль.

Хотя в последние десять лет общество ожидает больше положительного от технологии, страх потерять контроль над искусственным разумом все еще доминирует в нашем сознании. Чего мы боимся? Что нас поработят? Будут манипулировать? Наши желания станут вдруг не нашими, а чем-то продиктованными? Настанет технологический апокалипсис и роботизированная нога раздавит человеческий череп? Пока это неизвестно, ясно лишь одно: что вместе со страхом мы движимы любопытством, а это, как-никак, первый шаг к открытиям. И мы задаем себе вопросы из категории «А что, если?..».

А что, если:

• при помощи ИИ и алгоритмов глубокого обучения мы найдем внеземную цивилизацию? Этим заняты исследователи проекта «Галилей»;

• ИИ и ассистенты, работающие на его принципах, освободят нам ценное время, которое мы тратим на уборку, приготовление еды и поддержание хозяйства в чистоте?

• мы найдем способ увеличить продолжительность жизни?

• научный поиск и написание статьи будут требовать значительно меньшего времени и ресурсов?

• слепые от рождения дети вдруг обретут зрение, а глухие слух?

• люди, искалеченные обстоятельствами, смогут снова интегрироваться в общество благодаря новым технологическим, умным протезам и биогаджетам?

Подобных «А что, если?..» каждый читающий может привести множество. Попробуйте и напишите об этом пост в социальных сетях и не забудьте хештег «ачтоесли…».

Технолуддит против техноевангелиста

Суть противостояния проста: одни хотят развития технологий, другие — ограничения. С первыми все более или менее ясно: всегда найдутся те, кто станет первым пользователем технологии, от кого зависит успех и развитие нового, кто находится на самом изломе кривой инновации. Их меньшинство, но они упорно пытаются склонить чашу весов в сторону повсеместного использования технологии.

Вторые, чего-то испугавшись или сконструировав некую «реальность», которая продиктована никак не здравым смыслом, а тем, как какой-то феномен представляется общественности, в нашем случае Голливудом и новостными агентствами, пытаются остановить развитие. До этого момента мы не занимали никакую позицию, однако настало время, когда каждый читатель может сделать выбор самостоятельно. Попробуйте перечитать еще раз, только теперь внимательней, и ответить на простой вопрос: «Действительно ли мое мнение мое или оно кем-то навязано?».

В завершение главы предлагаю рассмотреть два совершенно разных взгляда на вопрос безопасности ИИ. Первый представил Юваль Ной Харари, ученый, историк и философ. Он выражает совершенно здравую мысль: что человеческий культурный код зашит в речи и языке, который используется для передачи смыслов, а человек с появлением ИИ потерял эксклюзивное право обладания кодом. Вывод, сформулированный Харари, контрастирует с нашей позицией, которая будет представлена ниже.

Юваль Ной Харари: ИИ взломал операционную систему человеческой цивилизации

Статья в оригинале находится на сайте Economist, и любой желающий может с ней ознакомиться. Мы лишь приведем основной тезис и доводы Харари.

Человеческая цивилизация зашифрована в речи, языке, который используется для передачи смыслов. Деньги, религия, права, которыми обладает каждый от рождения, тоже зашифрованы в речи. Смысл того или иного феномена передается словами; наша культура есть не что иное, как смысл, облеченный в слова. Наша история — слова, записанные кем-то когда-то. И вот у нас появился ChatGPT, который может манипулировать словами и понятиями быстрее и ловчее, чем обычный человек.

Благодаря этому алгоритм, сам того не ожидая, способен создать то, чего раньше не существовало, например религию. Или повлиять на предвыборную гонку. А может, и эти строки написаны ИИ? Кто знает. ИИ в том виде, в котором он существует сегодня, необходимо запретить или хотя бы серьезно ограничить, иначе нас ожидает «конец демократии».

Примерно в эти три абзаца можно упаковать эссе размером чуть более полутора тысяч слов. Однако на развитие ИИ допустимо посмотреть и с иной стороны, которая не нашла отражения в современном дискурсе, по крайней мере не так явно и громко. Техноевангелисты не трубадурят, а молча и тихо делают свое дело.

Рустам Агамалиев: наблюдать следует не за машиной, а за человеком

Не так давно я прочитал статью Юваля Ноя Харари о взломе кода цивилизации и на два-три дня задумался. Сложно не согласиться с тем, о чем он пишет. Действительно, человеку для доминирования на Земле не потребовалось обладать длинными когтями, острыми клыками или могучей силой. Любой представитель дикой природы, который живет охотой, одолеет хомо сапиенса. Однако у человека есть то, что хотя и присутствует у льва, тигра, гориллы, но не развито на достаточно продвинутом уровне, — речь. Харари раскрывает в эссе довольно однобокий взгляд на машину, которая освоила речь. Пусть даже на уровне способности предугадывать следующее слово и генерировать местами осмысленные и глубокие, однако нечастые наборы слов, но освоила.

Речь — это звуки, которые складываются в слова, слова — в предложения, предложения — в абзацы, а абзацы — в текст. При помощи речи нам удается успешно коммуницировать, связывать мысль со словами. Однако в соответствии с мнением технолуддитов (будем называть так тех, кто переживает за человечество и считает, что угроза, исходящая от ИИ, реальна) речь — последний бастион человечности. Именно она отличает нас от «недумающей» машины и делает теми, кто мы есть. Харари посвятил этой теме больше полутора тысяч слов.

Сложно оспорить то, что благодаря языку мы стали хозяевами планеты. Способность выражать мысль словами понятно — уникальное свойство человека и наиболее универсальное. Благодаря речи мы обладаем возможностью манипулировать идеями, играть со смыслами и прошивать человеческий культурный код. Харари уместно привел в качестве примера деньги. По большому счету это не более чем бумажка с символами или код из нолей и единиц, если речь идет о цифровых деньгах. Они сами по себе не несут ничего, но благодаря речи и смыслу, заложенному в фундамент монетарной системы, человек получил универсальный инструмент обмена ценностями.

Речь — это в первую очередь способ передачи ценности и смыслов и один из способов скрыть что-нибудь за набором непонятных или мутных терминов. Человек достиг мастерства в игре словами и понятиями. И теперь это универсальное и уникальное свойство принадлежит не только нам. Вся наша культура — продукт речи. Все, что предстает нашему взору, наделено словесным смыслом, который мы же и заложили. Если мы не знаем, как что-то называется, или если это новый феномен, мы в первую очередь придумываем, как обозначить его в речи. Любой физический объект обладает лингвистическим смыслом. Благодаря языку мы можем манипулировать смыслами не только физически доступных объектов, но и абстрактных концепций, таких как теория относительности, теория вероятности, логика, математика (хотя в последнем случае это спорно: есть мнение, что мы биологически предрасположены к овладению математикой благодаря пальцам).

История человечества — это не события с датами, а мотивы и причины поступков, которые выражены словами, зафиксированы в летописях, народных сказаниях и фольклоре. Если нам нужно что-то выяснить, мы обращаемся к Google (или к другому поисковику) и вводим словесный запрос, который нам поможет. Когда тема необъятная и Google не дает ответа, удовлетворяющего потребность, мы идем в библиотеку. Поиск — это манипуляция со словами. Библия — это вера, выраженная в письменной форме, слова, которые мы наделили смыслом. Идея — это образ, который для успешного воплощения необходимо сформулировать в словах, письменно.

И вот нам дали поиграться с ChatGP T. О боже! Эта балаболка умеет играть словами, манипулировать идеями, отвечать на вопросы, сохраняя контекст. Не удивлюсь, если в какой-то версии она способна пройти «тест Тьюринга». Неужели Харари, Маск и прочие технолуддиты думают, что мы из-за этого теряем способность владеть языком? Эссе Харари, интервью Маска у Такера Карлсона говорят, на мой взгляд, именно об этом. О страхе, что теперь словами может манипулировать не только человек, но еще и компьютерный алгоритм. GPT делает это быстрее, точнее и аккуратнее, чем раньше это делал человек. Мы боимся, что кто-то, манипулируя алгоритмом, повлияет на наши действия, решения. Более того, Харари пишет о том, что мировоззрение может быть изменено, если не проконтролировать умную машину, а если не остановить развитие GPT, то свободе слова придет конец (это его последний аргумент). Все это сказано в будущем времени, позиция четкая: если мы не остановим ИИ, то нашей цивилизации будет плохо.

Но Харари и Маск опоздали. Мы потеряли контроль давно, когда появились социальные сети и всеми любимый ютьюбчик, где выдача контента происходит алгоритмизированно. В момент, когда мы позволили системе или тем, кто ею управляет, пессимизировать поисковую выдачу, мы отдали свободу. Харари, Маск и прочие техногиганты, подписавшиеся под письмом, опоздали. Нами управляют алгоритмы, и эти люди боятся утратить возможность влиять и контролировать алгоритм. «Демократия под угрозой» — так они говорят. Она давно сгинула, а все, кто о ней говорит как о чем-то существующем, глумятся над бренным ее трупом. Ну да ладно, пусть живут в своей иллюзии.

Я сейчас попробую посмотреть на ИИ и все, что с ним связано, как на нечто другое. Харари писал, что «взломан код цивилизации». Что история — это продукт деятельности операционной системы человека, ключевым элементом которой стала речь. По его мнению, она и способность коммуницировать взломаны ChatGPT. Но почему он решил, что может наступить конец истории человека? Я именно так интерпретировал его статью. Почему это не новый виток? Возможно, история перестанет принадлежать исключительно человеку, мы ее разделим между машиной и собой. Конечно, это все розовые мечты футуристов, но если размышлять широко, то почему бы не настолько масштабно?

С появления первой летописи мы считали, что история — это описание событий, произошедших в прошлом. Обычно они связаны с деятельностью человека как существа, обладающего свободой воли. Это крайне спорно, хотя бы потому, что поступки и действия человека становятся следствием биохимических процессов, происходящих в организме. Когда в нас бушует ураган гормонов, мы ли принимаем решения? Может, обстоятельства диктуют последовательность действий? Мы думаем, что обладаем свободой воли, и делаем предположение, будто история пишется биологическим существом, нами, доминирующим видом на этой планете. Однако теперь нам вдруг стало страшно, что вместе с нами историю может писать и машина. Сама или совместно с нами.

Если рассматривать технологический вид жизни как нечто потенциально возможное, то с таким отношением, которое есть сейчас, его существование действительно оказывается под вопросом. Нам необходимы еда и партнер для размножения, а машине этого не нужно. Роботы, заменившие человека в некоторых потенциально опасных профессиях, не обладают хрупким телом, им не требуется девяти месяцев на написание кода и десятки лет на воспитание мозга и декодирование и перенос культуры с буквенного выражения в смысловой. Им не нужны осознание и долгое обучение. Мы боимся этого: что машина станет разумной, что бы это ни значило. Но если вдруг это произойдет, что дальше? Отключать ИИ или оставить все как есть и наблюдать за происходящим? Для меня ответ очевиден: наблюдать.

Причем наблюдать не за машиной, а за человеком и его реакцией на то, что она делает. Видеть, как создается новый культурный объект, наделенный смыслом (мы, кстати, не знаем, существует ли уже что-то подобное). А вдруг машина создаст новую, уникальную идею, смысл который мы пока понять не в состоянии ввиду ограниченности вычислительной мощности мозга. Начнем ли мы жить в новой истории? Истории машины и человека? За всеми заявлениями о безопасности ИИ стоит звериный страх потери контроля. Как так, на Земле может появиться кто-то кроме нас, способный думать и, возможно, размышлять?! Важно отметить, что до этого еще очень далеко, даже рано об этом размышлять сколько-нибудь серьезно. Но раз все переживают о том, как не дать ИИ возможности развиваться, позволю себе рассмотреть другую сторону и порассуждать о причинах невозможности иного сценария. ИИ будет развиваться. Искусственное торможение технологии, возможно, замедлит, но не остановит этот процесс.

Пристегнитесь и наслаждайтесь поездкой в будущее.

ИИ в нынешнем виде не способен никоим образом причинить вред человеку, однако мы активно пропитываемся культурой ненависти к технологиям. Голливуд не создает образ доброго ИИ. Конечно, не все, что делает «фабрика грез», представляет злой ИИ. Однако подавляющее большинство историй опирается в той или иной форме на страх человека потерять контроль, перестать быть единственным хозяином планеты, творцом среды обитания, рассказчиком, учителем, строителем и мастером своего дела. Действительно, сложно оставаться экспертом, когда интеллектуальная машина может сделать то же самое быстрее и лучше. Невольно вспоминаются слова Уилла Смита из кинофильма «Я, робот»:

Потерять контроль — это еще ничего, но вот перестать быть мастером своего дела действительно страшно.