Искусственный ты. Машинный интеллект и будущее нашего разума

Что значит обладать сознанием? Во время бодрствования и сновидений вы каждое мгновение каким-то образом ощущаете себя собой. Услышав любимую мелодию или почувствовав аромат утреннего кофе, вы испытываете осознанные переживания. Хотя утверждение о том, что сегодняшние искины обладают сознанием, будет, пожалуй, преувеличением, со временем, когда они станут более сложными, может, и у них появится самоощущение? Способен ли искусственный разум испытывать чувственные переживания или эмоции, такие как жгучее любопытство или мучительная скорбь? А может быть, он способен испытывать переживания совершенно иного характера, чем наши? Назовем это проблемой искусственного сознания. Независимо от того, насколько поразительными станут искины будущего, если машины в принципе не способны обладать сознанием, то они могут иметь суперинтеллект, но внутренней ментальной жизни у них все равно не будет.

В контексте биологической жизни интеллект и сознание, судя по всему, неразделимы. Высокоразвитые биологические существа, обладающие интеллектом, имеют, как правило, сложные и тонкие внутренние переживания. Но будет ли эта закономерность распространяться и на небиологический разум? Многие полагают, что да. Например, трансгуманисты, такие как Рэй Курцвейл, склонны считать, что сознание неусовершенствованного человека померкнет в сравнении с внутренней жизнью и переживаниями сверхразумного ИИ[19]. Но, как мы увидим, такие заключения преждевременны. Не исключено, что андроиды, в машинном разуме которых горит искра сознания, вроде Долорес из телесериала «Мир Дикого Запада» или Рейчел из фильма «Бегущий по лезвию», нереальны. Даже если искины превзойдут нас интеллектуально, мы все равно будем стоять выше их в одном принципиально важном аспекте – способности ощущать себя собой.

Попробуем просто оценить, насколько непостижимо сознание, даже в случае человека.

Сознание искина и трудная проблема

Философ Дэвид Чалмерс сформулировал «трудную проблему сознания», задав вопрос: почему вся информация, которая обрабатывается в мозге, должна ощущаться внутренне определенным образом? Почему нам необходимы осознанные переживания? Чалмерс подчеркивал, что эта проблема, судя по всему, не имеет чисто научного ответа. Например, мы можем разработать всеобъемлющую теорию зрения и выяснить в деталях, как обрабатывается в мозгу зрительная информация, но при этом все равно не понять, почему вся информация, обрабатываемая зрительной системой, непременно сопровождается субъективными переживаниями. Чалмерс противопоставляет трудную проблему сознания тому, что он называет «легкими проблемами», которые связаны с сознанием и имеют, в принципе, научные ответы (это может быть механизм внимания, то, как мы распределяем все по категориям или реагируем на раздражители)[20]