От «Энигмы» до ChatGPT

Заключение

В предисловии к этой книге мы задались вопросом: станет ли человек в далеком будущем испытывать нужду учиться больше, понимать глубже, исследовать дальше? Честно говоря, у нас была наивная иллюзия, будто можно приблизиться к ответу: если не найти его, то хотя бы нащупать направление для дальнейшего исследования. Оказалось, что вся наша работа — лишь попытка заглянуть в замочную скважину огромного потенциала, стоящего за интеллектуальной машиной нового поколения, которая оперирует естественной речью гораздо лучше, чем среднестатистический человек.

В попытке это сделать нам удалось частично осветить страх человека перед интеллектуальной машиной. Мы заглянули «под капот» логики, которая позволила современному компьютеру обрести цифровую интуицию. В завершение мы использовали сервисы, такие как ChatGPT, Perplexity.ai, twee.com, в повседневной работе. Рассказ получился динамичным и позитивным, но это не означает, что в нем нет места для скепсиса и опасений. По нашему мнению, эти страхи имеют другой аспект, чем мы изначально думали.

Не потери контроля следует опасаться, а утраты интеллектуальных функций, которые сделали нас хозяевами планеты. Стоит задать себе вопрос: будут ли люди учиться всё меньше и меньше по мере того, как машины становятся всё умнее и умнее? Невольно вспоминается герой анимационного фильма «ВАЛЛ-И». Человечество покинуло планету в поисках «лучшей жизни» и претерпело парадоксальную метаморфозу. Творец превратился если не в паразита, то во что-то, что сложно определить.

В завершение мы рассмотрим феномен предвзятости автоматизации, расскажем, что это, и попробуем задать последний вопрос этой книги, ответ на который предлагаем пытливому читателю найти самостоятельно.

Так или иначе каждый из нас сталкивался с этим феноменом. Например, когда мы управляем автомобилем, услужливый голос «Алисы» говорит, что через двести метров надо повернуть налево; и мы послушно поворачиваем, хотя знаем, что если ехать прямо, то дорога будет короче. Когда пишем письмо и почтовый клиент указывает на ошибку в расстановке запятых, мы доверяем ему и вносим коррективы, хотя помним правила, которым нас учили, и они говорят совсем иное. Фитнес-трекер, показывающий вместо десяти тысяч шагов всего восемь, подталкивает нас пройти еще два-три километра, хотя тело кричит, что устало.

Каждый из нас хотя бы раз доверял умной машине больше, чем себе, особенно когда представленная информация противоречила опыту или чувствам. Чаще всего решение принимается в пользу машины, даже вопреки здравому смыслу. Вольтер был прав, говоря, что здравый смысл не так уж и распространен.

Еще в 1990 году компания Deloitte обратила внимание на такое явление, когда автоматизация снижает общий уровень ошибок, но при этом увеличивает их количество среди допущенных человеком. Если автоматика сокращает ошибки в целом, но человек начинает допускать их чаще, это может привести к серьезным последствиям, особенно в таких местах, как атомные станции.

Автоматизация идеальна для рутинных операций, но опасна, если на нее слишком полагаться. Отдавая рутинные задачи на откуп машинам, мы снижаем умственную нагрузку, что может привести к потере понимания происходящего. Надеяться на то, что мы избежим чрезмерного доверия к автоматизации, было бы наивно. Мы уже полагаемся на навигатор за рулем, автокорректор при написании текстов и счетчик калорий в спорте. Возможно, мы не глупеем, но точно становимся менее внимательными.

Чрезмерное доверие к алгоритмам может привести к ошибкам из-за бездействия или неправильных действий. Внимание, необходимое для принятия решений и решения проблем, рассеивается, что может стать причиной возникновения опасных ситуаций.

Если большинство процессов автоматизированы, то возникает последний вопрос: изменилась ли роль человека с появлением все более умных машин?