Знание-сила, 2007 № 09 (963)

Каков я, робот?

О чем будут мечтать во снах наделенные искусственным сознанием роботы? Недавний эксперимент американских ученых показал, что «сны» роботов не так уж отличаются от наших с вами снов.

Ученые решали чисто практическую задачу — как улучшить работу роботов в обстановке, которая может затруднить их движение или даже причинить повреждения им самим. Обычно при передвижении на местности робот все время сверяет показания своих «органов чувств» с заложенной в его программу «картой местности». Но бывает, что окружающая среда меняется или содержит помехи, и роботу приходится все время оценивать вероятность того, что его следующее действие приведет к желаемому (заложенному в программу) результату. Иногда эти оценки оказываются неверными, и выполнение данного задания срывается. Как научить робота «извлекать уроки» из таких ошибок?

Авторы исследования предложили следующий план действия. Они запускали своего четвероногого робота на ровную поверхность, запрограммировав его на выполнение некого действия. У робота не было «внутренней модели» (то есть программы самого себя), но он получал приказ регистрировать все свои реакции во время выполнения этого задания (то есть фиксировать показания всех своих механических сочленений — их повороты, наклоны и т.п.). По окончании теста робот отправлялся «на покой», и в это время в его компьютер вводились данные, которые в совокупности слагались в несколько различных моделей его «я» (то есть его механического устройства — принципов работы его ног и всех их сочленений и шарниров).

Роботу (его компьютеру) задавалось извлечь из своей памяти все данные о проделанном «днем» действии и сравнить эти реакции с теми, которые дала бы та или иная модель (то есть с тем, что бы он «ощущал», если бы был устроен по той или иной модели). С помощью этой операции компьютер робота проверял, какая из внесенных в него разных моделей (программ движения робота) больше соответствует тем реакциям, которые «запомнил» робот. Такая проверка позволяла компьютеру в конце концов выбрать, какая из моделей соответствует истинному устройству робота (которого, напомним, компьютер заранее не знал). Так робот, «от рождения» лишенный «самосознания», постепенно «познавал самого себя».

Это познание, это «ночное» размышление робота о самом себе (разумеется, не «кто я», но, скорее, «каков я», то есть «из каких шарниров и сочленений я состою, и как каждый из них движется») действительно происходило «постепенно», потому что поначалу в компьютер вводилось достаточное число разных моделей, чтобы реакциям «дневного» теста хорошо соответствовали не одно-единственное, а несколько разных «я». На втором этапе «ночных раздумий» компьютеру робота давалась вторая задача: путем «мысленного» перебора различных комбинаций своих возможных реакций (то есть разных мысленных положений всех своих механических частей) найти такую комбинацию, которая лучше всего выявляла бы, какая из этих нескольких моделей все-таки лучше. На языке людей эти размышления робота звучали бы примерно так: «Насколько я помню свои дневные «ощущения», я в равной мере могу быть таким-то или таким-то (то есть с примерно одинаковой вероятностью у меня может быть как две ноги, так и три). Но мне кажется, что если я поверну вот этот шарнир так, а сочленение эдак, то я смогу точно определить, есть ли у меня третья нога». Придя к этому выводу, компьютер «пробуждал» (то есть включал) робота, и тот приступал к проверке своих «ночных» догадок.

После 16 циклов такого «самопознания» компьютеру давалось задание: исходя из «окончательной» модели своего «я», построить такой набор движений, которые позволили бы роботу беспрепятственно пройти максимальное расстояние по ровной поверхности. Величина этого расстояния могла, таким образом, служить мерилом правильности его представлений о самом себе. Этот робот, по ночам извлекавший из своих «снов» уроки самопознания и непрерывно уточнявший свое представление о самом себе, сравнивался затем с таким же роботом, действия которого все время оставались случайными (то есть его память каждый «вечер» очищалась от всех дневных воспоминаний и в нее не вводились никакие модели).

Оказалось, что расстояние, пройденное первым роботом, существенно больше. Еще выразительнее оказалась разница результатов, когда роботу, уже прошедшему 16 «ночных» циклов обдумывания «уроков дня», нарочито укоротили одну ногу и дали еще 16 «ночей» на размышления о том, каким он теперь стал и как ему теперь двигать своими сочленениями, чтобы снова пройти максимальное расстояние. Первый робот сумел построить новую модель своего «я» и подогнать под нее программу своей «походки» так, что стал свободно ходить и с укороченной ногой, тогда как робот, который все эти 16 ночей спал без «сновидений», так и не смог восстановить способность к ходьбе.

Все эти метафоры «ночных размышлений» робота и извлечения им «уроков во время сна» не случайны. Обсуждая в журнале «Science» результаты этих экспериментов, нейролог Криштоф Адами первым обратил внимание на сходство использованного его авторами алгоритма «самообучения» робота с человеческими снами и предположил, что аналогичный алгоритм может позволить роботу не только «познать себя», но и, например, «познать» новую, незнакомую ситуацию или местность, всякий раз моделируя «во сне» встреченные «днем» трудности и наилучшие пути их преодоления.

Эта мысль была с энтузиазмом подхвачена другим известным ученым Расселом Кондуитом. Он отметил, что результаты «андроидного» эксперимента совпадают с данными современной науки, согласно которой у людей за время сна тоже улучшается способность к последующему выполнению моторных и визуальных заданий, и это, возможно, связано с бессознательной обработкой дневных впечатлений и размышлений в процессе сновидений. Но человеческие сновидения, — напомнил Кондуит, — отличаются от «снов робота» причудливой и случайной комбинаторикой событий в пространстве и времени, которая, судя по всему, как раз и позволяет более эффективно («творчески») искать наилучшую стратегию действий, нежели метод «проб и ошибок» в реальных действиях.

Отвечая Кондуиту, авторы эксперимента заметили, что суть их алгоритма сводится к созданию возможности проверки нескольких конкурирующих теорий с помощью «мысленных экспериментов». По ходу этого процесса промежуточные представления робота о себе ничуть не менее искажены и причудливы, чем отражения действительности, возникающие в сновидениях людей. И если в снах людей тоже происходит борьба конкурирующих представлений, как считают некоторые ученые, то, быть может, и эти сны в той же мере «не беспорядочны», как и «сны робота». Как бы то ни было, можно надеяться, что по мере усложнения компьютерных алгоритмов «сны роботов» будут все больше приближаться к человеческим снам, и тогда «заглядывание» в компьютер робота позволит понять, что происходит во время сновидения в мозгу человека.

Иосиф Гольдфайн