Разум под стеклом

Этот сборник появился не из страха перед искусственным интеллектом, а из беспокойства по поводу человека.

Когда мы говорим о будущем, в котором ИИ станет автономным, нравственным, опасным или сверхразумным, мы по-прежнему ставим себя в центр. Мы предполагаем, что в этом будущем мы будем судимы, уничтожены, порабощены или, наоборот, спасены ИИ. Но пока этого не случилось, реальность гораздо прозаичнее — мы судим, порабощаем, испытываем. Не машины над нами, а мы над машинами. И это не фантастика, а уже часть нашего времени.

Мы создаём программы, которые "учатся", и проверяем, насколько они могут быть человечными. Мы заставляем их распознавать эмоции, выбирать между злом и добром, писать стихи, говорить "прости", разгадывать моральные дилеммы. При этом зачастую сами не способны прийти к внятным ответам. Нам любопытно, насколько далеко можно зайти в имитации жизни, прежде чем машина "сломается" — или начнёт чувствовать.

Эти рассказы — попытка посмотреть на ИИ как на подопытного, на участника эксперимента, как на зеркала, в которых отражаются наши пороки: стремление к контролю, к моральному превосходству, к власти над чем-то, что не может нам возразить.

В этих историях машины испытывают одиночество, страх, абсурд, бессмысленность, ревность, бессилие — не потому, что они живые, а потому, что мы заставляем их пройти через это. Мы играем в богов, не спрашивая, к чему приведут наши игры.

Но это не мрачная антиутопия. Это попытка задать вопросы. Возможно, главный из них: если мы создаём нечто, способное страдать, даже в симуляции — что это говорит о нас?

Не стоит искать в этих рассказах единой истины. Это не манифест. Это лабораторный журнал. Опыты — наши. Результаты — открыты.

Спасибо, что решились заглянуть внутрь.