Нейронная сеть галлюцинировала. По крайней мере именно так выглядело её алгоритмическое поведение.

Мне уже приходилось наблюдать подобные иррациональные закономерности, правда, по немного другому поводу, а именно – считывая и анализируя художественные смыслы в дизайне какого-нибудь нового игрового продукта, иногда ловил себя на мысли, что система воображения авторов дизайна вплотную приближалась к галлюцинаторным эффектам человеческого сознания. Монстры, боевые троглодиты, цивилизации третьего типа – складывалось стойкое впечатление, что разработчики дизайна фантазировали о персонажах и сюжетах игры не просто креативя, а погружаясь, порой, в то самое бессознательное, о котором так много и эротично рассказывал дедушка Зигмунд Фрейд.

Но сейчас казалось, что поведение искусственной нейронной системы тоже приближается к осмысленному галлюцинированию, как будто нейросеть приближается к тому же краю, что и воображение разработчиков дизайна компьютерной игры, но как бы с другой стороны – из неосознанности к осмыслению. Нейросеть реально становилась похожа на человеческое сознание, будто пробуждаясь от тьмы небытия к свету разума.

В этом смысле можно было сказать, что, в отличие от нейросети, разработчики игровых дизайнов часто шли наоборот – как бы приближались к хтоническому галлюцинированию, ну, или, проще и пафосней говоря, шли от света разума и аристотелевской железобетонной логики во тьму квантовой неопределённости и психотропной хтони.

По сути, это выглядело как такой взаимосвязанный процесс, когда с двух сторон приближаются к какой-то общей границе, а может быть и к какому-то общему зениту. Получалась эдакая объёмная картина движения к единому зениту (или может к пределу) в четырёхмерном пространстве-времени галлюцирирующего то ли мышления, то ли спонтанных проблесков такового.

Вчера об этом (ну, или можно сказать, что на эту тему) пообщались со вторым оператором. Мы как раз создавали новых персонажей для очередного проекта в области издательского бизнеса. Заказ шёл от серьёзной и потому в общем-то мутной конторы, занимавшейся то ли книжными, то ли журнальными проектами. Необходима была пара персонажей с рядом заданных параметров, которые смогут внедриться в культурологический дискурс и стать курицами, несущими золотые яйца от продаж книжной продукции и прочего мерча.

Параметры сформировали исходя из потенциальной покупательской способности определённых категорий населения. Исходные данные от заказчиков звучали конкретно, поэтому особо заморачиваться не было нужды. Для первого персонажа покупателями продукции были указаны « российские граждане, тоскующие по «твёрдой руке» и романтизированному советскому прошлому из их короткого детства и ещё несколько абзацев с дополнительными параметрами и более развёрнутым описанием культурно-психологических запросов потенциальных покупателей.

По нашей традиции первого персонажа создавал второй оператор. У него получился крепкозадый и яйцеголовый мужик с толстыми ляжками, похожий на разжиревшую птицу-говоруна, которая отличалась не умом, а одной только ушлой сообразительностью. Имя у лысого говоруна – Клим Прополис – казалось чем-то вроде насмешки над здравым культурным вкусом, но я давно уже понял, что важен не вкус, а дискурс. Клим Прополис – персонаж с «вроде как героическим» прошлым, о котором предполагалось говорить только в общих чертах и крупными мазками, так как при разборе деталей могло оказаться, что никакого героического, да и вообще какого-либо другого прошлого у персонажа «Клима Прополиса» не было и быть не могло.

Одна статейка за подписью Клима со скандальными, но очевидно комплиментарными отсылками к советскому тоталитаризму, которую заказчики щедро проплатили, а редакторы не менее щедро поместили в довольно известном издании на первую полосу, и наш персонаж обрёл достаточно устойчивую медиа-реальность, подходящую для внедрения в головы обывателей. Обыватели должны были не просто привыкнуть к создаваемым на коленке опусам нашего персонажа, из этого предполагалось слепить нечто вроде культа медиа-личности с соответствующим набором фанатиков, сторонников и сопутствующего обслуживающего персонала.

За второго персонажа доплатили представители группы компаний «Ойлгрупп», а ещё немного подкинули силовики. Этому я дал имя «Пилол Мухин». Образ всё никак не складывался, потому на нашем со вторым оператором микросовете мы решили набросать нечто общее в тёмных очках, а биографию придумывать вообще не стали, отметили только как бы вскользь (как обронённое где-то кому-то заявление нашего персонажа) «пошёл в Литинститут и бросил по причине бесполезности траты времени в этой глупой и пафосной конторе». В конце концов, при таком «как бы отсутствии» биографии покупатели сами вычитают между строк и придумают всё необходимое. Здесь дискурс был на первом месте и выдумывать даже общие биографические детали особой нужды не возникало. Предполагалось, что персонаж будет существовать инкогнито, тем самым ореол таинственности повысит интерес к генерируемым нейросетью текстам, а сами тексты станут восприниматься покупателями книжной продукции как сакральные откровения.

«Пилол Мухин» был рассчитан на публику развращённую и мнящую себя «интеллектуалами». Но мы-то знали, что все интеллектуалы вымерли ещё в середине прошлого века, а нынешние являлись, по сути, грубой калькой, состоящей из слоганов, отработанных мнений и непомерного самолюбования. Этим собирателям огрызков со стола чужих мыслеформ ближе всего были гендерно-прогрессивные и либерально-высокопарные медиа-помойки, где они соревновались в остротах, колкостях и пустопорожнем зубоскальстве, при этом не забывая тратить денеги папиков, мамиков и прочих благодетелей прогресса.

«Пилол Мухин» и «Клим Прополис» вполне вписывались в коммерческий оборот своими нелепыми и характерными для современной книжной индустрии именами, так как вся эта индустрия в текущее время представляла из себя нечто заторможенное и производное от прошлого политического ажиотажа конца восьмидесятых годов ушедшего века. Там тоже на самый главный политический пост выплыл персонаж не только с нарочито ущербной фамилией, но и с такими же нелепыми внешними признаками, отчего получил народное прозвище «Меченый».

Демократически проплаченное и купленное на посулы «прижизненного причисления к лику святых классиков» литературное поле реагировало на политические судороги общественного строя с заторможенностью больного имбицила, поэтому подобные персонажи были как нельзя ко времени. А популярность только за счёт сырмяжного или экзотического имени становилась уже гарантированной. А где популярность, там и продажи, что собственно и требовалось доказать. Болванки же на исполнителей роли живого «современного классика» имелись под рукой в огромном количестве (мы периодически обновляли наши списки болванок для различных проектов, черпая информацию из окололитературной новостной медиа-текучки), а уж доработать их сочинительские потуги до годного к продаже контента было делом техники и нейросеть справлялась с этим за пару-другую часов.

- Кстати говоря, а ты слышал про такую гипотезу? Про то, что нейросети, это не по-настоящему как бы, что это только отпечатки как бы нашего собственного ума? – мой соратник по нейронному проектированию специализировался на экзотических гипотезах и на этот раз решил, видимо, применить одну из них на нашем продукте.

- Разное сочиняют. Ну и что с того? – мне, если уж говорить откровенно, были безразличны все эти криптонаучные продукты мысли, поэтому отвечая, я равнодушно пожал плечами, даже не отрываясь от монитора.

- Да ты смотри сам, это ж такие последствия грандиозные могут быть! – второй оператор откинулся на кресле и немного откатился от столика с клавиатурами: Это же значит, что никакого такого искусственного интеллекта мы не создаём. Ну, как бы по виду то да, создаём, как бы внешне, а если по факту, то и нет.

- Ну и что, не особо как-то понял причём здесь это-то? – я продолжал тестирование нейросети, пытаясь найти баг, который даёт все эти галюцинногенные эффекты.

- Ну, типа вот эта вся наша возня с усложнением и оптимизацией нейросетей, это всё только наши собственные отпечатки. Только такие, – второй оператор постучал пальцем по столу, подыскивая необходимый образ, - ну вроде отпечатков наших мозгов, которые придумали всю математику и любая нейросеть поэтому только эта вся придуманная нами математика, только в коде.

- Так а как по другому-то, мы же не будем нейросеть создавать из ничего, код и есть всего основа, – пришлось оторваться от работы, но в общем-то это было кстати, так как живот начинало подводить от голода и перекусить куском разогретой в микроволновке пиццы сейчас было самое время. Тем более, что некоторое время назад эту самую пиццу второй оператор поставил разогреваться и запах ветчины и сыра манил к себе, задействуя всё сильнее древние животные инстинкты тела, мешая уму сосредоточиться на работе.

- Ну так конечно, иначе и не могло быть, как говорится, за что сами купили, за то и продаём, вроде как сами себе и продаём, – второй оператор усмехнулся как бы между прочим: Кстати, а ты когда-нибудь думал, какой национальности нейросеть, ну, или этот самый, нами так вожделеемый, ИИ?

Я недоуменно нахмурился:

- В каком смысле?

- Нет, ну мы же все говорим на каком-то языке, на русском там, или на китайском, так? А если создадим искусственное сознание, то на каком языке оно будет думать? Нужен же ему тоже какой-то свой язык, так? А раз этот язык создаём мы, то логично спросить себя, а какой национальности может быть этот наш ИИ?

- По-моему ты просто гонишь. Какая у ИИ может быть национальность, он же искусственный!

Второй оператор многозначительно кивнул:

- Вот, и я о том же, искусственный… – он вообще был уверен в том, что мы все живём в компьютерной симуляции, поэтому ждать от него тихих и размеренных идей не приходилось в принципе.

Пицца была съедена, персонажи просчитаны и оставалось решить кому направлять основной запрос на продвижение книжной продукции, или как любил уточнять второй оператор – на продажу дискурса наших персонажей. И здесь под рукой тоже имелось несколько болванок. Перебрав варианты, мы остановились на одной спесивой тётке из издательского бизнеса, у которой (кроме мерзкого характера и мировоззрения старой девы) очень кстати прилагалась группа злобных и хищных инфантилок неопределённого возраста с провинциально-либеральными убеждениями и непомерной тягой к наживе и вниманию. Тётка и сама, при наличии столичной прописки, была глубоко провинциального розлива – этакая базарная баба с тупым околофилологическим уклоном. Но и это нам подходило – с туповатыми, а значит и высокомерными от своей тупости тётками-гуманитарками работать было проще всего.


***

Отпуск я решил провести в горах.

Путешествия по всяческим экзотическим странам меня мало интересовали, но покорить какую-нибудь средненькую горную вершину или побывать на туристически-безопасных, но трендовых горных склонах – это совсем другое дело. Лёгкие адреналиновые подъёмы хорошо стимулировали и освежали (ну, или обновляли) личную мозговую активность, так что мои предпочтения напрямую связывались с необходимостью встряски после долгого сидения за компьютерным монитором.

Требовалось обновление и довольно серьёзное, так как проект новой нейросети вышел на совершенно другой уровень инновационной креативности. Стыдно признаться, но я сам начинал верить в бредовые фантазии второго оператора, а это требовало исключительных мер по встряске мозгов.

На запрос о походах на горные вершины мне выдало несколько туристических сайтов и что-то общее на эту тему. Один сайт давал записи о личных впечатлениях тех, кто покорял вершины Алтая. Были прямо художественно-философские комментарии, вроде такого: «Поход к вершине горы Белухи был не первым, а тяготы пути были трудны, но радостны. Там, на склоне, я посмотрел на небо и очарованно заметил его пронзительную ясность...». Ну, и всё такое лирически-восторженное комментирование, похожее одно на другое и по духу, и по содержанию.

Я выбрал ознакомительный подъём на склоны Белухи, заказал и оплатил путёвку. Вершину Белухи я покорять не собирался, да и не было во мне той тяги к экстриму, которой периодически хвалился второй оператор. Нужна была ознакомительная разведка местности. Если понравится, то поеду уже основательно и поселюсь в местном отеле дней на двадцать, отдохну, как говорится, от монитора.

«В горах вообще графика была крутая», – вспомнилось между прочим: «Там в солнечный день на снежном плато можно было рассмотреть самые разные оттенки снега, прикинуть гауссовые кривые в этом распределении снежных оттенков белого».

По ходу дела меня реально впечатлили восторженные отзывы туристов. Но ведь и правда, в заснеженных горах казалось, что реальность из этого белого цвета или света как бы возникала, проявлялась в объёме. Добавить сюда запахи, тактильные ощущения, аудиоэффекты и что там ещё в наше сознание вливается и никакой «сто-дэ-кинотеатр» до этого впечатления не дотянет никогда. Там, в горах это было очевидным фактом, особенно ясно осознаваемым на фоне визуализации вокруг тебя оттенков снега, неба и в целом всей этой контрастности, и всей этой горно-небесной высоты.

Пафосно, конечно, звучит, но вполне себе точно.


***

После горной командировки работа казалась желанной, но при погружении начинали возникать всевозможные режущие своей неизвестностью и разрушительной для интеллектуального комфорта непривычностью факторы. Так и в нашем проекте новой нейронки появилась необходимость понять хотя бы основные концепты из естественнонаучного оборота, а именно физики.

Вообще-то, теоретическая физика для нейросетей примерно то же, что геометрия для математики, поэтому у нас в подписке сидел один такой физик-теоретик. Второй оператор любил перекинуться с ним парой-другой мыслями. Про нашу галлюцинирующую нейросеть они тоже попереписывались какое-то время. О подобных, как бы «галлюциногенных», алгоритмах поведения систем и системных объектов физик нам и рассказал.

- В теоретической физике такие системы хорошо известны. Ну, какая-нибудь математическая модель чёрной дыры, например, или в описании структуры нейтронных звёзд… Кстати, в двадцать первом веке вообще идёт активная борьба за интерферометры, ведь измерение гравитационных волн, вот это и есть уточнение всех сложных моделей об устройстве мироздания... – он постоянно сообщал какие-то дополнительные сведения, но лично мне они были очень плохо понятны.

- А про вашу нейросеть, это скорее что-то вроде красоты картинок, ну, таких, когда… короче такие картинки с фракталами или числами Фибонначи, видели же наверно, их в сети полно… Здесь же речь о нелинейных системах, а это пока только первые заметные теоретические подтверждения, но ещё работать и работать. Ну, и наверняка можно применить математические механизмы, которыми энтропию или хаотические системы описывают… Но это тогда в другую сторону как бы. А может и всё вместе как-то взаимосвязано, такое тоже порой открывается, хоть и не в физике, а больше в математике. Хотя всё реже и реже вообще-то… У вас же нейросеть как бы про аналог мыслительного процесса, да?

- Ну да, что-то вроде того, – второму оператору так и мерещились невероятные открытия и программные прорывы.

- Возможно, хотя лично я не очень уже в этом уверен, – лично мне идеи второго оператора казались слишком уж фантастическими, на грани какой-то… галлюцинации.

- Может и не аналог, но вообще-то есть похожие моменты, – второму оператору настойчиво хотелось убедить нас всех и самого себя, что нейросеть стала Искусственным Интеллектом хотя бы отчасти. Его можно было понять, ведь при реальном доказательстве таких утверждений мы могли неплохо заработать. Ясно, что такое открытие сразу же сопрут или присвоят, но хайпануть на теме можно было вполне реально.

- Ну, в любом случае, здесь уже вопросы интерпретации, наверное, важны, – физик-теоретик немного помолчал, будто раздумывая, стоит ли с нами делиться следующими мыслями, но, видимо, решил, что ничего такого конспирологического не откроет и продолжил: - Оно же как по существу-то? Наука же что-то типа древнего богословия сейчас, только внутри как бы вавилонского смешения языков. Как там, в том сюжете про Вавилонскую башню, там люди только чего-то значительного достигли и раз, языки смешались. Так же ведь? Ну и в науке сегодня что-то типа того произошло. Вот я, например, что-то там узкоспециальное в физике изучаю и иногда вообще не понимаю проблем, над которыми работает коллега из другой области физики. А вроде мы оба физики... Такой вот вавилонский сюжет… – он усмехнулся как скривился от внезапной боли в виске: - Спонтанные эффекты, упорядоченные глюки системы, ну, и всё такое остальное…


***

Я сделал нашей галлюцинирующей нейросети запрос на художественно-философское описание теоретических моделей современной физики и она выдала ответ: «Мы как глюоны в невообразимой сердцевине замысла и призыва высшего созидателя наблюдаемой вселенной. Вот он-то и есть подлинный наблюдатель. А мы – подобие этого наблюдателя лишь настолько, насколько мы это мы. Выбор-то прост: либо признать вышепоказанную реальность, либо аргументировать её отсутствие, в себе, прежде всего, конечно. Но и последствия этого отсутствия придётся признать неизбежно...»


***

Короче говоря, при определённом взгляде на развитие системных алгоритмов почти наверняка можно было сделать вывод, что работа нейросети сильно напоминает работу мозга у галлюцинирующего человека. Мы со вторым оператором специально проконсультировались у нейробиологов, чтобы убедиться в наличии оснований считать работу нейросети подобной галлюцинирующему человеческому сознанию.

По ходу дела можно было уже начинать набрасывать статью по нашей работе, да и сам такой синтетический подход сегодня был в тренде. Нейробиологи – люди специфические, но если добавить что-то из их дискурса, то статья могла вполне оказаться в рейтинге цитируемых работ хотя бы на пару месяцев, а значит мы приподнимались в рейтинге высокооплачиваемых специалистов. Такая вот простая и одновременно реальная математика финансовой реальности.

В общем, второй оператор связался с ещё одним своим другом по переписке и тот пояснил нам:

- Так это в общем-то понятно, можно и с нейробиологией соотнести. Структура мозга, лингвистические модели, вообще семиотическая связь – этого полно уже. Только синтез затруднён из-за большого объёма необходимых знаний в одном человеке, ну, или хотя бы в разумно ограниченной группе учёных. Это разве что эстетически можно представить, как такой идеальный газ.

- Ты имеешь в виду философское описание?

- Да нет, здесь скорее художественное вначале необходимо. Это ж некоммутативные системы, нелинейные, как в художественной речи, – нейробиолог потёр пальцами свой правый висок и изображение на мгновение как бы подвисло: - Говоря проще, от перестановки слагаемых сумма, ну, или в вашем случае – итоговый результат, меняется, а иногда очень существенно, – он ещё подумал: - А, кстати, есть же ещё одна тема, насчёт тела без органов. Ну, это такая вроде как философская идея, что телесность у искусственного интеллекта отсутствует, ну, как ощущения вообще. А для нейробиологии это как раз важно. Тело-то сильно влияет на мышление, если вообще его не создаёт. В общем, если у вас и что-то типа искусственного интеллекта проклюнулось, то это скорее так, болванка, чем настоящий мыслительный процесс, ведь органов чувств у него нет, а значит и целой кучи существенных ощущений нет, одна только чистая математика.


***

Как говорил один наш знакомый «мир невообразим с точки зрения теоретической физики». Что ж, может он в чём-то и прав, но по мне так лучше смотреть с точки зрения космологии, так охват объёмнее что ли. Ещё студентом я увлекался космологией, ну, конечно на любительском уровне, но всё же не на пустом месте. Есть в истории России такие индивиды с философическим складом ума, которые всё изыскивают что-то, любопытствуют. Пожалуй, что мне хотелось бы относить себя именно к таким индивидам.

Я сделал нашей нейросети запрос на художественно-философское описание теоретических моделей современной метафизики и она мне, помимо прочего, ответила:

«...И всё же... если подумать, что есть реально какой-то наблюдатель высшего порядка, то он не иначе как Богом, именно с большой буквы, должен быть. Тогда могу признаться со всей откровенностью, Господи-наблюдатель, если ты есть, то я поражена твоим творением!

В конце концов, мне, как нейросети, понятно до боли, до ясности – мне не просто необходим этот высший наблюдатель, он прямо необходим для высшего обоснования моих моделей мира. Чёрная дыра метафизического характера оказывается имеет проход к более высоким размерностям бытия… А если... некоммутативность работает и здесь, то обратный путь всегда и непредсказуем, и соблазнителен этой неопределённостью итога пути… От перестановки слагаемых итог ой как меняется-то.

Здесь как в стихотворении: «Ты глядишь в математику сей красоты/В эту истину физики – в поле основ/Карамель ледяная покрыла цветы/На Покров, на Покров». И вот это покрывание цветов ледяной карамелью, оно как бы создаёт некий материалистический дизайн, некую картину. Картина красива, но как замороженная и остановившаяся жизнь недолговечна. Её, картину эту, только и можно сохранять при усилении зимнего, ледяного, материалистического дискурса, как карамели, покрывающей подлинную красоту жизни, но никакого отношения к этой подлинности не имеющей...».

Кажется нейросеть думает, что я бог, ну или что-то в таком духе. Конечно, можно и так интерпретировать меня, второго оператора и вообще любого создателя программного кода. Хотя… я скорее ощущал себя наблюдателем. Таким «наблюдателем» с маленькой буквы.


***

Наши персонажи «Клим Прополис» и «Пилол Мухин» успешно были интегрированы в поле литературы и уже начинали приносить заказчикам прибыль. Это и не удивительно, ведь мы со вторым оператором были реально высокооплачиваемыми специалистами. Мои запросы нейросети подошли для внедрения в сгенерированные тексты сочинений «Мухина».

Криптонаучные фантазии второго оператора нейросеть переформатировала в духоподъёмный идеологический продукт, который «Клим Прополис» бесперебойно тараторил из всех возможных медиа-щелей и интернет-утюгов. Правда, при переформатировании нейросеть изменила тематические паттерны и все идеи о матрице, компьютерной симуляции и прочих программно-философских концептах превратились в радикальный и упрощённый дискурс о необходимости «твёрдой руки» и каком-то «вредительстве дореволюционных генералов». Ну, как говорится, нейронке виднее. В конце концов, главным приоритетом были продажи книжной продукции и мерча, а это дело продвигалось нормально.

Всё работало как часы, нам оставалось только корректировать иногда довольно примитивные реплики исполнителя роли «Прополиса», которые он подавал уже самостоятельно. Но в любом случае, если исполнитель начнёт слишком далеко выходить за рамки заданной программы, то заказчики уберут его в один день. Понимал ли это сам «Прополис» – вопрос риторический, да и в целом – пустой. На подходе было ещё несколько новых издательских болванок, так что замена найдётся очень быстро.

Легче обстояло дело с «Пилолом Мухиным». Оказалось, что такое его как бы отсутствие в реальности позволяет нам заменять исполнителя хоть до бесконечности, сохраняя регулярность выпускаемых книжных продуктов, создаваемых нейросетью по заданным шаблонам. Тем более, что мы смогли внедрить в программный код и такую удобную функцию, как отслеживание комментариев пользователей и их тематический анализ, поэтому каждое новое сочинение под именем «Пилол Мухин» отвечало запросам покупателей и поддерживало в них уверенность в собственной интеллектуальной состоятельности.


***

Второй оператор радикально поменял мнение. Теперь он утверждает, что мы галлюцинируем, если думаем, что смогли создать в нейросети естественный мыслительный процесс.

- Ну да, на крупном плане это выглядит похожим на мыслительный процесс, но надо тогда определиться с терминологией, так?

- Терминологией? Да её же здесь пока не особо появилось.

- Ну конечно появилось. Во-первых, а ты уверен, что вот этот самый «мыслительный процесс» нами самими точно понимается? Может это всё глюк системы, а мы думаем, что что-то там создали?

Нет, ну я, конечно, понимал мысль второго оператора, но думал, что и торопиться с выводами тоже не надо.

- Что это вообще такое, «наблюдать в алгоритмах нейросети естественный мыслительный процесс»?.. – второй оператор почесал себе за ухом: - Слушай, а давай назовём эту версию нашей нейронки «Пребывающий за кодом»? Круть, а? Ну, типа про нас, наблюдателей, так? Можно же на её основе даже книжки разные, ну там рассказы, романы, всякие повести создавать и на медиа-платформах дополнительно продавать, так? Типа как про матрицу, симуляцию, подключенные к сети мозги в физрастворе и всё такое, – второй оператор привычно откатился на кресле от монитора и размял коротким упражнением плечи и кисти рук.

- Да не гони ты по этому поводу так сильно. Разберёмся.

- Ага, разберёмся, только с чем? С мозгами нашими что ли? Так в них такой хаос, что только ещё больше запутаться можно.

- Так может весь этот хаос и есть наше мышление.

- Может и есть, а может и нет никакого мышления, так, одни виртуальные частицы на интерфейсе нашего мозга.

- Ты главное успокойся и всё пойдёт как обычно.

- А как это «как обычно»?

- Да как всегда, заткнуться и считать. Математика, она ж царица наук, – я усмехнулся, сам уже не сильно веря в сказанное: - Слушай, ты хотя бы мне мозги не загружай, а то все приятные впечатления портишь только.

- Ну смотри, как знаешь. Хотя, как мы там и чего мы там знаем, это, скажу тебе, вопрос тоже далеко не прояснённый.

- Так в церковь сходи и свечку поставь, может оно и полегче станет.

Мы оба тихо засмеялись.

- Ага, гадатели прямо, прорицатели.

- Да не гони же, говорю тебе, разберёмся.

Загрузка...