Когда Ии перестаёт понимать

Вступление: ощущение непонимания

Вступление: ощущение непонимания

Однажды я попросил нейросеть помочь мне написать письмо. Не абстрактное письмо — конкретное, важное, которое я откладывал три недели. Письмо человеку, с которым у нас был серьёзный конфликт. Я написал в строке запроса: «Помоги написать письмо с извинениями». И получил ответ. Вежливый, структурированный, грамотный. С нужными оборотами, с правильными словами.

Я прочитал его и закрыл ноутбук.

Потому что это было не то. Не то письмо, не тот тон, не та интонация. В нём не было ни меня, ни того человека, ни трёх недель, которые я проносил эту тяжесть в груди. Был просто текст. Правильный, полезный — и абсолютно пустой.

Первый импульс был предсказуемым: ИИ не справился. Технология несовершенна. Нужно подождать, пока алгоритмы станут умнее.

Но потом я задал себе другой вопрос: а что именно я ему сказал? «Помоги написать письмо с извинениями». Пять слов. Ни контекста, ни истории, ни того, кто этот человек для меня, ни того, в чём именно я виноват, ни того, чего я на самом деле хочу этим письмом добиться — примирения, облегчения, или просто закрыть гештальт. Я дал ИИ пять слов и ждал, что он угадает остальное.

Он не угадал.

И это была не его проблема.

Мы живём в эпоху, когда взаимодействие с искусственным интеллектом стало частью повседневности так же органично, как поиск в интернете или навигатор в телефоне. Миллионы людей каждый день задают вопросы языковым моделям — по работе, по учёбе, из любопытства, от скуки, в поисках совета. И миллионы людей каждый день испытывают одно и то же смутное разочарование: ответ есть, но понимания нет.

Это разочарование стало настолько привычным, что мы перестали его анализировать. Мы просто приняли его как данность — как шум вентилятора в офисе, который уже не замечаешь, но который всё равно присутствует. «ИИ ещё не дорос», «технологии несовершенны», «подождём следующего поколения моделей» — эти объяснения удобны, потому что они снимают с нас любую ответственность. Проблема где-то там, внутри серверов, в миллиардах параметров, в архитектуре трансформеров. Мы же — невинные пользователи, которые просто хотят, чтобы машина их поняла.

Но что если мы смотрим не в ту сторону?

Что если ощущение непонимания возникает не потому, что ИИ плохо понимает нас, а потому что мы сами недостаточно хорошо понимаем себя? Что если корень проблемы — не в несовершенстве алгоритма, а в несовершенстве формулировки? Не в ограничениях модели, а в ограничениях нашего собственного мышления — в тех слепых пятнах, о которых мы не подозреваем именно потому, что они слепые?

Это неудобная гипотеза. Она требует сдвига перспективы — с технологии на себя. Она предполагает, что проблема, которую мы привыкли считать технической, на самом деле является когнитивной. И что решение лежит не в ожидании следующего обновления, а в работе над собственным мышлением.

Именно этому посвящена эта книга.

Я не пишу здесь о том, как работают нейронные сети. Не потому что это неинтересно — это очень интересно, — а потому что это не главная история. Главная история — о нас. О том, как мы думаем, как мы выражаем мысли, сколько информации мы считаем само собой разумеющейся и не произносим вслух, и что происходит, когда собеседник, в отличие от привычных нам людей, не может и не будет это додумывать за нас.

ИИ стал зеркалом. Неудобным, честным, лишённым вежливости зеркалом, которое показывает не то, как мы выглядим, а то, как мы думаем. И то, что мы там видим, нам не всегда нравится.

Мы привыкли к тому, что нас понимают. Или, точнее, к тому, что нам кажется, будто нас понимают — потому что другие люди умеют молча заполнять пробелы в наших словах, угадывать намерения, считывать контекст. Это не понимание в строгом смысле слова. Это очень сложное, отточенное тысячелетиями совместного существования искусство взаимного додумывания. Мы делаем это автоматически, не замечая, и потому принимаем за нечто естественное — за «просто понимание».

ИИ это искусство не освоил. Не потому что глуп — современные языковые модели поражают своими возможностями. А потому что у него нет нашей с вами общей истории, нашего культурного контекста, нашей эмоциональной памяти. Ему не на что опереться, кроме того, что мы ему дали. И когда выясняется, что мы дали мало — пять слов там, где нужно было пятьдесят, — мы почему-то виним его, а не себя.

Эта книга о том, как изменить эту привычку.

Разговор, который ведётся на следующих страницах, движется по четырём ступеням.

Сначала мы разберём иллюзию — то, что мы называем «пониманием» между людьми, и почему это слово скрывает куда более сложный и хрупкий процесс, чем нам кажется. Потом поставим диагноз — найдём конкретные механизмы, по которым наше мышление генерирует неточность: когнитивные слепые пятна, эффект проклятия знания, разрыв между намерением и словом. Затем разберём механизм — поймём, что именно происходит, когда наш запрос встречается с языковой моделью, и где в этой точке соприкосновения возникает то самое ощущение пустоты. И наконец — перейдём к практике. К конкретным инструментам, которые помогают мыслить яснее, формулировать точнее и взаимодействовать с ИИ принципиально иначе.

Это не книга о технологиях будущего. Это книга о мышлении настоящего.

О том, что умение ясно думать и ясно говорить — это не врождённый дар и не удел избранных. Это навык. Навык, который можно развить. И который в эпоху, когда нашим главным собеседником всё чаще становится машина, приобретает совершенно новый вес.

ИИ не понимает нас не потому, что он недостаточно умён.

Он не понимает нас потому, что мы сами ещё не научились понимать себя достаточно хорошо, чтобы объяснить это другому.

Но это — поправимо.

Часть I. Иллюзия

Глава 1. Мы думаем, что понимаем друг друга

Представьте обычный вечер. Вы возвращаетесь домой после тяжёлого дня, садитесь на кухне, и партнёр спрашивает: «Как ты?» Вы отвечаете: «Нормально». Он или она кивает, наливает вам чай, не задаёт лишних вопросов. Вы чувствуете, что вас поняли. Что именно поняли — что вы устали, что не хотите говорить, что вам нужна тишина и тепло рядом, а не расспросы.