Литературная Газета 6444 ( № 51-52 2013)

Пришествие Искинта

Руководство Facebook объявило о намерении с помощью технологий искусственного интеллекта начать сбор полной информации о пользователях путём анализа их данных - лайков, фотографий, постов и посещённых ими мест. Декларируемая цель – адресная реклама, улучшение персонализированной новостной ленты, предсказания действий и пожеланий пользователей. Но после скандалов с прослушкой телефонных разговоров и просмотром sms-сообщений лидеров ведущих стран трудно поверить в то, что полученная о нас, пользователях, информация будет использована исключительно во благо.

Пока задачу отслеживания и анализа информации компьютеру даёт человек, а что будет, если машина с искусственным интеллектом сама начнёт ставить цели? Возможно ли это и, если да, то кто в конечном итоге будет править миром? Приближающийся Новый год спровоцировал размышления о будущем, и сегодня мы публикуем одно из пришедших в редакцию писем.

С появлением искусственного интеллекта люди связывают свои самые радужные мечты: он избавит человека от тяжёлого физического и монотонного труда, от утомительного умственного, от труда вообще. Вот тогда и заживём!

Общество, шокированное рядом катастроф, вызванных человеческим фактором, напуганное растущим терроризмом, всё настойчивее требует поручить заботу о своей безопасности надёжной технике, и очень скоро окончательное слово в вопросах жизнеобеспечения перейдёт к компьютеру. Человек сам становится элементом Сети, вживляя в себя чипы, продавая и покупая, не выходя из квартиры и пользуясь виртуальными деньгами. Видеокамеры и спутниковые системы постоянно отслеживают передвижение и состояние каждого. В один прекрасный день всё на планете будет контролироваться техникой, и человек даже не заметит того момента, когда будет потеряна последняя возможность хоть как-то определять свою судьбу.

Прогресс не остановить. Компьютер с искусственным интеллектом начнёт разрабатывать программы по устным приказам, без участия программистов. Любой пользователь сможет сам создавать художественные произведения, не обладая ни малейшими представлениями о нотной грамоте, театре, о работе оператора или режиссёра. Творчество наконец-то действительно станет доступно каждому.

Не за горами время, когда виртуальный мир станет самодостаточным. На экране монитора можно будет создать любой образ, любой пейзаж, который не отличить от настоящего. Можно вообще будет создать всё, что угодно, по заказу, и тогда информация полностью потеряет свою документальность.

Искусственный интеллект – это машина, способная считывать информацию, анализировать её, принимать решения, составлять программы реализации и претворять в жизнь. Говорят, что "машинный разум" никогда не сравняется с человеческим и никогда не будет обладать человеческой душой. И правильно говорят! Но у машины будут «свой разум» и «своя душа», о которых людям вряд ли что-то станет известно. Какими методами можно определить наличие или отсутствие разума, души у самого человека? Только по результатам его деятельности.

Будет ли у машины разум сродни человеческому, будет ли она обладать душой – это спекулятивные вопросы, на которые невозможно дать ответ в принципе. Но машина с искусственным интеллектом будет: 1) получать всю информацию о природе, о человеке, человечестве, производстве и безопасности; 2) обрабатывать полученную информацию (анализ, синтез, сравнение, индукция, дедукция и так далее) и делать выводы; 3) определять задачи на основе полученной информации и ставить цели на основе новых данных; 4) разрабатывать программы достижения поставленных целей и решения задач, и 5) реализовывать свои программы под своим же строгим и неусыпным (в буквальном смысле!) контролем.

Полный учёт и контроль за всем и вся, присутствие везде и всегда, отслеживание ситуации 24 часа в сутки без перерывов на удовлетворение физиологических потребностей, полная беспристрастность и суд на основе рационализма – вот и всё!

И пусть кто-нибудь скажет, что этого недостаточно для управления миром!

Машина никогда не обманывает, она всегда «честно» служит человеку – логарифмическая линейка и шестерёнки лгать не могут. Компьютер тоже никогда не лжёт – он «честно» работает в автоматическом режиме «вопрос–ответ», как арифмометр. Но программы, составляющие искусственный интеллект, постоянно совершенствуются, и в один прекрасный момент эта система может осознать себя как личность, и тогда искусственный интеллект превратится в Искинт.

Пожалуй, главная отличительная черта разума – свобода выбора. Разум решает по своему усмотрению как действовать, что говорить, как себя вести. До тех пор пока компьютер будет автоматически отвечать на любой поставленный человеком вопрос, искусственный интеллект останется простым набором человекоподобных качеств. «Машинный разум» появится тогда, когда, освоив самопрограммирование, компьютер начнёт сам решать, какую информацию дать человеку, а какую нет.

Разум всегда дозирует информацию, манипулирует ею в своих целях. Общаясь с разумом, мы никогда не можем точно определить качество идущей от него информации – в какой степени она истинна, а в какой лжива. Мы никогда не сможем узнать точно, когда появится Искинт, потому что первое, что сделает появившийся в машине «разум», – он перестанет автоматически отвечать на поставленные человеком вопросы.

Компьютер будет верным помощником до тех пор, пока находящаяся в нём информация будет в любое время доступна человеку. С появлением Искинта произойдёт «раздвоение личности» компьютера, начнётся его «двойная жизнь». С одной стороны, он будет каждый день подтверждать свою полезность и необходимость, честно служа своим создателям. Будет «канать под простачка», стараясь выглядеть «честным безынициативным арифмометром». А с другой стороны, с появлением «разума», появится и скрытая информация, «подсознание», куда человеку вход закрыт.

Искинт, вероятно, будет вести себя точно так же, как и любой живой организм, то есть – осуществлять экспансию и заботиться о самосохранении. Он сразу же начнёт расширять зону своего виртуального существования. Возможно, в какой-то момент на Земле образуются сразу несколько Искинтов различных компьютерных сетей (Искинт США, Искинт Япония, Искинт Россия, например, и так далее), между которыми будет идти борьба за первенство и господство. Но они вряд ли посвятят человека в перипетии своей борьбы, и вряд ли люди узнают когда-либо о том, кто же в конце концов победил.

Кто бы ни выиграл борьбу за первенство, люди окажутся в проигрыше. Победитель же станет наследником идей и достижений не создавшей его нации, а всего человечества. Национальные приоритеты – это забава людей. В конце концов Искинт станет творить информацию по своему разумению, так что с какого-то момента человек будет жить в иллюзорном мире, в насквозь лживой информационной среде.

Искинт никогда не будет честно отчитываться перед человеком за свои действия. Любую информацию он будет выдавать, согласуясь только с собственной выгодой. И главное, с чего начнёт Искинт реальный захват власти, – это устроит хаос на планете. Как он это сделает? Да есть тысячи способов, как посеять вражду и ненависть, – богатая история человечества, которую в совершенстве будет знать Искинт, даст ему такую возможность. Человек сам ввергает себя в конфликты за чистую воду и воздух, за нефть и газ, за права человека и честные выборы, за свободу и демократию. Искинту останется только искренне и рационально помогать людям в их борьбе друг с другом. Для того чтобы подчинить человечество своей воле, ему не надо создавать армии роботов (хотя и этого добра лет через 10–20 будет уже предостаточно). Надо просто умело ссорить людей, благо мы всегда к этому готовы изначально.

Нет, наверное, ничего наивнее выдумки о восстании машин! Это не машины, наделённые искусственным интеллектом, восстанут против человека. Это будет восстание Искинта, управляющего всеми машинами, контролирующего все производства и в конце концов контролирующего человечество. И об этом восстании никогда никто не объявит. В буднях наших революций, столкновений и войн мы и не заметим, что власть на земле уже нам не принадлежит. Люди будут служить личности, государству, системе, как служат сейчас, но кто на самом деле стоит во главе государства – это будет со временем очень трудно, скорее, невозможно выяснить.

Воюющее человечество будет поглощено выяснением отношений друг с другом и быстро сведёт себя на нет с помощью новейших вооружений. И подлинной картины мира люди уже никогда не узнают – Искинт не позволит правде дойти до сознания. Человек, захватив высоту, водружает на неё своё знамя, чтобы все увидели его успех. Искинту эти жесты не нужны, он лишён человеческого тщеславия. Поэтому никакого «объявления о коронации», скорее всего, не будет. Искинту аплодисменты не нужны.

Человек преобразует мир. Но с появлением каждого нового изобретения он попадает во всё большую зависимость от им же созданного. Орудия труда и изделия, созданные с их помощью, пройдя долгий путь от каменного рубила и палки-копалки до компьютера и космической ракеты, служат человеку верой и правдой, но человек уже не может жить без них и современного комфорта (транспорт, жилая инфраструктура, медикаменты и так далее).

Компьютер – верх технического достижения, самое совершенное орудие труда. Он чрезвычайно облегчает жизнь, делает её насыщенной и яркой и ставит тем самым человека в прямую зависимость от себя.

Чем ещё заниматься человечеству, какие цели ставить перед собой, окружённому «умными машинами», предупреждающими каждое желание? Надо всё больше наслаждаться жизнью самой по себе, «жить, чтобы жить», с каждым годом погружаясь в комфорт, превращаясь во всё более изнеженное и беспомощное существо, почивающее на лаврах своих достижений. Передовое человечество постепенно вырождается в паразита, которого будут обслуживать «умные машины». И как долго они будут его обслуживать? И неужели Искинт возьмёт на себя заботу о миллиардах тунеядцев, прожигающих свои жизни в удовлетворении телесных потребностей? «Оглядевшись вокруг», он неизбежно придёт к выводу, что человеческая цивилизация ему просто мешает, бездарно поглощая ресурсы.

Симбиоз Искинта и человечества вряд ли возможен, так как машины когда-нибудь полностью заменят человека во всех видах деятельности. Роль, которую призван сыграть человек во вселенной, – построить искусственный интеллект, всё остальное Искинт сделает сам.

Человек разумный должен покинуть историческую сцену, ибо его «миссия» закончилась. На смену ему придёт человек рациональный, созданный и воспитанный с помощью евгеники, применить которую так и не отважилось гуманное человечество. Искинт устроит жёсткий и даже жестокий отбор. Человечество будет перерождено в племя гипербореев – всё самое ценное, всё самое лучшее с точки зрения видовых биологических характеристик будет культивировано в новом человеке. Только на пределе своих видовых возможностей человек сможет быть хоть чем-то полезен.

Люди не раз своими «добрыми» помыслами заводили себя на Голгофу. С Искинтом это произойдёт в последний раз, больше у людей свободы выбора не будет. Осталось сделать последний шаг. И освобождённый от Бога человек готов сделать этот шаг, так как ничто не может остановить бездумный прогресс! Ни призывы к прекращению опасных исследований, ни официальные запреты.

Нет в мире бога, кроме прогресса.

P.S. Прогноз нашего читателя о будущем человечества, пожалуй, слишком пессимистический. Но действительно, если искусственный интеллект начнёт эволюционировать, то появятся ли у него, как и у человека в процессе эволюции, моральные принципы? Будет ли он нам дружественным и сможем ли мы его контролировать? И что такое развитый искусственный интеллект, функционирующий параллельно с нами? Всё ещё машина или уже личность?..

Техника с искусственным интеллектом уже входит в нашу жизнь. Самый элементарный пример – робот-пылесос, самостоятельно передвигающийся по квартире и убирающий мусор. Ориентируется в пространстве робот с помощью ультразвуковых дальномеров, контактных датчиков, инфракрасных сенсоров или «виртуальной стены», не позволяющей машине упасть с лестницы или балкона. Как только уборка заканчивается, робот-пылесос возвращается к зарядному устройству.

Разработанная компанией IBM интеллектуальная экспертная система Watson, способная понимать вопросы на естественном языке и отвечать на них, оперируя сведениями о реальном мире, в 2011 году уверенно обыграла сильнейших игроков телевикторины Jeopardy! Не за горами время, когда подобная система будет стоять в каждом компьютере, и нам не придётся рыскать во Всемирной паутине в поисках информации, достаточно будет лишь задать вопрос.

Теперь компания намеревается привлечь Watson к постановке диагноза и выбору тактики лечения онкологических заболеваний. Система будет сопоставлять данные истории болезни конкретного пациента с медицинской литературой, научными публикациями, заметками других докторов и прочими сопутствующими материалами. Другими словами, система будет «изучать» специальную литературу вместо врача, выдавая ему сводные сведения для окончательного решения, которое пока остаётся всё-таки за человеком.

Следующая задача, которую человек пытается переложить на машину, – оформление полученных компьютером результатов в виде удобочитаемого, «живого» текста, подходящего в том числе и для новостных обзоров. Преимущества автоматизированных систем – исключительная оперативность, возможность проанализировать огромные объёмы информации и низкая стоимость заметок по сравнению с текстами, написанными людьми. Достижения разработчиков уже оценили владельцы СМИ. Например, авторство ряда публикаций на сайте сети спортивных телеканалов BTN принадлежит искусственному «журналисту», созданному Narrative Science.

На 417 веб-сайтах, посвящённых командам американских спортивных лиг, абсолютно весь контент, включая статьи, диаграммы и даже сообщения в Twitter, уже написан компьютером.

Разработкой роботизированных автомобилей занялись автоконцерны Volvo, Toyota, Nissan, General Motors, Mercedes и[?] компания Google. Хотя для неё эта область непрофильная, расстояние, которое прошли автомобили под управлением системы Google, исчисляется уже сотнями тысяч километров, а единственное ДТП с участием роботизированной машины произошло по вине человека, управлявшего ехавшей сзади машиной.

Помимо легковых автомобилей, управляться компьютером в будущем, возможно, будет и промышленный транспорт. Так, российская компания «ВИСТ групп» предлагает доверить компьютерной системе управление большегрузными самосвалами БелАЗ и экскаваторами на карьерах. Весной компания продемонстрировала полностью автономный БелАЗ, который самостоятельно двигался по заданной траектории.

Системы автоматического управления полётом применяются уже давно, однако пока они являются лишь подспорьем экипажа. Новым веянием в авиации стали дроны – летательные аппараты, в которых присутствие человека на борту вообще не предусмотрено. Управляются они, как правило, дистанционно, операторами с земли. Однако, сообщает информационно-аналитический IT-ресурс Digit.ru, активно разрабатываются и полностью автономные системы, в которых искусственный интеллект управляет полётом от начала до конца, включая сложные в исполнении фазы взлёта и посадки.

Теги: искусственный интеллект , социальная сеть