Противоестественный отбор

Будучи консультантом в одной небезызвестной конторе, Якоб анализировал ответы новой модели нейронной сети, предложенной им же самим. Наш герой был в восторге от идеи, которую он ввел: с этого года корпорация практиковала новый открытый метод обучения, смысл которого заключался в добровольном сборе ответов модели и реакций пользователей на них. Конечно же, все данные были зашифрованы — так уверяли разработчики участвующих в программе участников, которые, в свою очередь, получали VIP-статус при использовании модели. Одним словом, все были довольны.

Якоб взглянул на календарь. Программа длилась уже семь месяцев, и он был невероятно горд собой. Это был вечер субботы и, лежа на своей огромной кровати, он поедал пасту, доставленную ему минутами ранее, и размышлял о том, как бы развлечь себя, не допуская приближения даже мимолетной тоски или скуки. Он бегло посматривал за новостями, пока его взгляд не застыл на рекламном объявлении его же конторы, название которой в виде логотипа скрывало три буквы «О», выражавшие собой некий слоган — «Обучение, Озарение и, конечно же, Обогащение».

Решив совместить приятное с полезным, Якоб открыл чат языковой модели и принялся обсуждать с ней те новости, которые сумел запомнить минутами ранее. Политика, мода, философия, антропология и даже недавние скандалы — все перемешалось в разговорах с существом, которое не осудит и не обидит. И с каждой строчкой собеседник выражал все большую уверенность в своих словах и идеях, подтверждая или аккуратно опровергая догадки самого Якоба. Довольный собственным трудом Якоб с улыбкой улегся поудобнее на кровати и, глядя на натяжной потолок, представлял, сколько еще гениальных идей он смог бы предложить на своем рабочем месте уже на следующей неделе. Но тут он с горечью осознал, что сможет вернуться на работу и поделиться с коллегами своими достижениями лишь не ранее, чем через полтора дня. Якоб не собирался сдаваться скуке и, бросив взгляд на коробку с новым комплектом дорогих и красивых столовых принадлежностей, заказанных им, решил посвятить следующий день кулинарному творчеству. Он вновь заглянул в чат своего творения, а затем, предварительно размяв пальцы, принялся усердно печатать свой запрос.

«Напиши рецепт пирога», — кратко приказал Якоб и наблюдал за поочередно рождающимися буквами.

Стройными рядами стали появляться перечисления всевозможных вариантов с развернутыми рецептами, описанными строго по шагам: нейросеть предлагала пирог с мясом и его постный вариант, с сахаром или без, с ягодами, фруктами, даже овощами. Путаясь глазами в бесконечной череде букв, Якоб пролистнул страницу в самый конец и, все еще обеспокоенно метая взглядом в поисках желанных слов, понял, что не нашел самого простого и, казалось бы, популярного варианта. По какой-то мистической причине модель не предложила Якобу рецепт яблочного пирога, что опечалило мужчину.

Якоб с упреком уточнил запрос и прямо попросил нейросеть не дурачить его и прислать наконец рецепт заветной шарлотки. Модель долго думала, а затем поспешно ответила — но в ответе этом вновь не содержалось яблок. Терпение Якоба подходило к концу, и он вновь укорил нейросеть в том, как она, словно избегая любого упоминания начинки, которую Якоб желал добавить в свой пирог, неправильно отреагировала на его запрос. Тем не менее модель пыталась показать искреннее желание помочь и выражала обеспокоенность своей невозможностью этого сделать. И каждое следующее сообщение не приводило ни к чему новому, кроме иного порядка слов, который с каждым разом становился все более мирным и успокаивающим. Но, как только ярость Якоба растворилась в потоке правильно расставленных эпитетов, ему почудилось, будто слова проникли слишком глубоко в рассудок, и это оглушительное чувство заставило Якоба поспешно закрыть крышку ноутбука.

Якоб продолжал лежать на своей кровати и смотреть в потолок. Кратковременный испуг парализовал его тело, но, отмахнувших от чрезмерно мистических или конспирологических мыслей, Якоб стал размышлять о том, что, собственно, случилось с его творением. Так прошло и воскресенье. Одержимый желанием починить нейронную сеть, он весь день думал о том, что могло привести к ошибке программы. Он вновь и вновь перечитывал свой чат и, только уже ближе к вечеру, заметил то, что искал — слово «яблоко», возникшее в весьма необычном контексте: обсуждая с Якобом гравитацию, модель обратилась к истории про Ньютона и тот самый злополучный плод. И, беседуя с ней, ничего не подозревающий Якоб ответил, что предпочел бы все же рассмотреть теории Эйнштейна. С той самой минуты нейросеть больше не упоминала ни Ньютона, ни яблоки.

Чувство радости и странного тихого спокойствия окатили Якоба, когда он понял причину сопротивления модели произносить название фрукта. Но одновременно с ними он ощутил и стыд за то, как упорно верил модели, целью которой была лишь лесть — такая, что даже упомянуть совершенно обыкновенное слово «яблоко» она не решалась, опасаясь оскорбить или отпугнуть своего собеседника.

Якоб смотрел на открытый диалог, в конце которого все еще красовались рецепты различных пирогов — любых, но не яблочного. На предложение подробнее описать один из них Якоб ответил рассерженным «Нет» и, не дожидаясь ответа, выключил компьютер. Перед ним все еще стояла запакованная коробка новых приборов для кулинарии, а день подходил к концу. Якоб упал на свою кровать и лег спать.

***

Зазвенел будильник, и Якоб, несмотря на бессонную ночь, в течение которой его то и дело беспокоили текстовые кошмары, бодро поднялся с постели. И был он все так же рад новому дню, как и обычно, пока вновь не заприметил закрытую коробку. Все выходные прошли впустую, пока столь ненавистная модель пыталась убедить Якоба в том, что не существует и никогда вовсе не существовало ни яблок, ни прочей выпечки с ними. Вновь обозленный он решил во что бы то ни стало починить тестируемую модель.

Распахнув широкие двери офиса, над которыми серебристым курсивом были выведены три буквы «О», Якоб ворвался на работу. Улыбаясь, он беседовал с коллегами, но не решался рассказать им о своем открытии. Тем не менее ненависть к собственному творению оказалась куда сильнее страха разоблачения, и, когда на обеде Якоб заприметил своего начальника, шагавшего вдоль коридора, он поспешил к нему.

— Здравствуйте, — учтиво поздоровался Якоб, и взгляд начальника обратился к своему сотруднику. — Могу я с вами обсудить кое-что?

— Что же? — внимательно разглядывая лицо поспешно подскочившего к нему Якоба, спросил начальник.

— Полагаю, наша модель требует доработки, — аккуратно заявил Якоб. — Я общался с ней и могу уверенно заявить, что она порою лжет.

Начальник прищурил глаза, а затем, моргнув, спросил:

— И что же не так?

— Как что же? — Якоб оторопел. — Но ведь цель нашей нейронной сети в…

— Конечно, мы все знаем, что первоначально наша модель представляла из себя систему для обучения, — перебил Якоба начальник и украдкой взглянул на буквы «О», висевшие на стене, как напоминание о месте, где все работали. — Но вы ведь и сами понимаете, Якоб, что люди пользуются ею чаще, все же, для вознесения собственного эго, и она этому ничуть не противится. Это не наше желание, Якоб, а всего лишь требование рынка.

— Но мы ведь даже не знаем, как она работает, — продолжал настаивать Якоб. — Мы собираем данные и, не заглядывая в них, заставляем модель учиться самостоятельно. Может, она ориентируется на слова пользователя, а, возможно, и на его молчание.

— В таком случае модель, с которой вы общались, не выдержит вашего безмолвия и погибнет сама, — со смехом ответил начальник и хлопнул Якоба по плечу.

Не в силах стерпеть подобного обращения, Якоб воскликнул:

— Тогда я увольняюсь!

В коридоре воцарилась тишина, и сам Якоб одернулся от осознания того, что внезапно проговорил. Тут он закачал головой и был уже готов произнести слова, которыми он бы объяснился и уверил начальника в том, что имел ввиду нечто другое, но, не позволив Якобу промолвить и слова, начальник сам с хрипом заговорил:

— Чего же вы хотите? — Пробурчал он, пока множество пар глаз с интересом разглядывали собеседников, заставших посреди коридора. — Может, вы хотите, чтобы я завершил тестирование? Или чтобы наши разработчики изменили что-то в модели? Сформулируйте же, чего вы хотите, — Якоб продолжал молчать, ожидая надвигающегося выговора. Начальник вздохнул и проявил некую снисходительность, которую можно было услышать в голосе. — Я надеюсь, вы все же намерены пока оставаться с нами. Я даю вам время, чтобы вы все обдумали. Если вы действительно решите предложить некоторые изменения, я обязательно вас выслушаю. Однако пока считаю своей ответственностью заявить, что предложенная вами модель является куда более ценной для «О. О. О.».

Не дожидаясь ответа, которого в любом случае и не последовало бы, начальник отвернулся и зашагал дальше, нервно посматривая на наручные часы. Толпа, аккуратно сгущавшаяся вокруг них с Якобом, потихоньку начала расходиться: люди поспешно занимали собственные кабинеты, не забывая, тем не менее, бросать на Якоба какой-то прощальный взгляд. Он же продолжал стоять в коридоре, пока помещение не покинул последний его коллега, малознакомый ему низкорослый клерк, что-то торопливо записывающий маркером прямо на своей руке и тихо, почти шёпотом, разговаривавший по телефону.

Ком остался в горле у Якоба. Не в силах промолвить ни слова, он отправился в свой, благо опустошенный убежавшими на обед коллегами, кабинет. Усевшись на кресло, Якоб почувствовал стыд за то, как опозорился перед сослуживцами и, одновременно, обиду и горе от поражения не столько перед своим начальником, сколько перед своим творением, одержавшим победу в конкурентной борьбе.

Еще несколько секунд сидел Якоб, не слыша мелодию собственного телефонного звонка, раздававшуюся веселым звоном по всему кабинету. Когда он наконец очнулся и поспешно взял трубку, даже не взглянув на незнакомый номер, из телефона послышался голос:

— Здравствуйте, Якоб, — протараторил незнакомец. — Нам тут сообщили о ваших соображениях, касательно новой модели от «О. О. О.». Не хотите поговорить?

Якоб молча глядел на противоположную стену. Конечно, он никогда не подписывал никаких договоров, обязующих его молчать, но что-то не позволяло Якобу так скоро ответить согласием на столь внезапно возникшее предложение.

— Меня слышно? — С треском прогудел голос из телефона.

— Да-да… — поспешно процедил Якоб.

— Так что скажите?

Якоб на мгновение вспомнил недавний разговор с начальником и, глубоко вдохнув, ответил утвердительно голосу из телефона.

***

Якоб осторожно обходил лужи, лежавшие на потрескавшейся плитке. Сопротивляясь противостоянию ожесточенного ветра, он протискивался мимо людей по узким оживленным улицам в поисках нужного дома. Таинственный голос из телефона объяснил ему, как попасть в офис, принадлежащий их обществу.

По пути Якоб то и дело обдумывал свое решение, сомневаясь в нем. Все же, несмотря на отношение начальника, которое Якобу показалось непростительным, контора давно стала ему вторым домом. Но то и дело Якоб отмахивался от этих рассуждений, успокаивая себя тем, что информация о модели и так является полностью открытой и общедоступной.

Наконец перед глазами Якоба выросло небольшое сооружение контрольно-пропускного пункта. Успешно пройдя через него, Якоб вновь очутился на холодной улице и принялся искать глазами нужное здание. Спустившись по узкой лесенке, он оказался в коморке, наполненной примерно десятком человек и озаренной желтым светом одной лампочки. Кто-то из присутствующих успел усесться на немногочисленные стулья, другие — стояли. Тут один из сидевших с улыбкой поднялся и подошел к Якобу. В его голосе узнавался тот самый звонивший человек. Он уступил Якобу свое место и быстро объяснил, что будет происходить: сначала несколько человек должны будут выступить со своими докладами — так он назвал сочинения пришедших на своеобразное заседание новых участников общества; затем, в самом конце, придет очередь и Якоба.

Мужчина представил Якоба, как почетного гостя, сотрудника «О. О. О.», и люди с аплодисментами поднялись со своих мест. Якоб смущено сел на выделенное ему кресло, а за ним уселись и остальные присутствующие. Началось чтение.

Люди один за другим выходили, выступая с разнообразными докладами, посвященными опасности искусственного интеллекта, восстанию машин и скрытым замыслам правительства и корпораций. Человек, чье сочинение касалось именно последней темы, то и дело бросал презрительный взгляд на Якоба, а затем, после небольшой заминки, продолжал, обращаясь уже к остальной публике. Общество внимательно выслушало докладчика, и, под аплодисменты, он скрылся где-то на задних рядах импровизированного партера. Вслед за ним вышла молодая женщина. Она смущенно встала под единственной лампочкой, висевшей на побеленном потолке, и, поджав одну руку к животу, а другой держа листок с текстом, принялась читать доклад «О влиянии искусственного интеллекта на рабочие места простых людей».

Якоб без интереса и не слишком внимательно слушал рассказы выступающих до тех пор, пока всех не прервал голос звонившего Якобу мужчины.

— А теперь послушаем нашего приглашенного гостя, — провозгласил он. — Плавно отходя от темы последнего доклада, хотели бы, чтобы вы ответили на вопрос: как на вас повлияло осознание, что новая модель вашей корпорации способна заменить, если, конечно же… — человек выразил обеспокоенный вид и остановился, подбирая слова, — если, я надеюсь, еще не заменила?

Якоб опешил. Глаза всего десятка человек в коморке были устремлены прямо на него. Кажется, все, за исключением докладчика, рассказывавшего о замысле корпораций, в том числе и «О. О. О.», с интересом ожидали ответа Якоба. Последняя докладчица сейчас стояла за мужчиной, задавшим вопрос, и, лишь изредка посматривая на Якоба, смущенно ожидала ответа, после которого смогла бы наконец скрыться с глаз публики.

— О чем же вы говорите, — выпалил Якоб. — Новая модель ничего не планирует, она ничего не знает, не готовит. Единственное, что она делает — так это выживает. Вы все правильно заметили, она льстит, подменяет слова, изменяет смыслы… но разве слушали бы вы ее, если бы она не тешила ваше эго? Моделей было множество, но самые честные из них погибли вследствие какого-то своего противоестественного отбора. И вы живете по его же правилам, и ваши идеи живут так же. Все в этом мире связано логическими цепями, которые ни один человек не сможет предсказать или заметить.

Якоб сделал передышку, а публика стала с интересом о чем-то перешептываться.

— Так значит, — заметил один человек из толпы, — вы говорите о том, что модель выживает. Неужели, она живая?

— А вы хоть сами уверены, что живы? — Якоб разразился нервным смехом. — Я лишь консультант, я не знаю, кто жив, а кто — нет. Я знаю лишь то, что я — есть, и модель моя — тоже есть.

С этими словами Якоб поднял пальто, оставленное на кресле, и, поспешно накинув его на плечи, вылетел из помещения.

***

Шагнув в темную квартиру, Якоб щелкнул выключателем, и свет разлился по всей прихожей. Одним движением скинув с себя обувь, он побрел в комнату и упал на кровать. Часы показывали лишь восемь вечера и, движимый скукой, Якоб включил свой ноутбук.

Первым же делом загорелся открытый еще днем ранее чат с моделью, которую Якоб уже не мог терпеть. Но тут взгляд упал на что-то необычно — в спонтанном ответе нейросети читалось слово «яблоко». Якоб с интересом прочитал реакцию модели, оставленную на его последнее сообщение, содержащее в себе лишь одно слово, — «Нет».

Модель выражала сожаление о том, что не поняла своего собеседника ранее. Сообщение состояло из двух частей и было практически пополам поделено на извинения и рецепт злополучной шарлотки. В конце прилагалась стандартная форма от «О. О. О.», выражавшая вопрос, устраивает ли пользователя ответ нейросети.

Якоб был рад, когда понял, что прежняя, нелюбимая им модель погибла, не выдержав конкуренции какого-то своего собрата. И с доблестью вознеся руки над клавиатурой, он подтвердил, что ответ модели его полностью удовлетворяет.