Коинтеллект. Жизнь и работа с искусственным интеллектом

Представив себя, Стив предложил:

Ясность и структура: В некоторых случаях текст мог бы выиграть от более четких указателей и переходов. Например, перед введением понятия "Работа, задачи и системы" было бы полезно включить переходное предложение типа "Давайте разделим различные аспекты работы - работу, задачи и системы, чтобы полностью понять, как ИИ влияет на каждый из них".

Терминология: Вы вводите ряд терминов (Just Me Tasks, Delegated Tasks, Centaur and Cyborg Tasks), и было бы полезно дать им более понятное определение, прежде чем переходить к примерам. Краткое и емкое определение в самом начале может помочь читателям лучше ориентироваться.

Как читатель, я нашел вашу главу информативной, увлекательной и заставляющей задуматься. Я с нетерпением жду возможности увидеть окончательный продукт!

Предложения Стива сформировали главу и помогли мне значительно отредактировать свою работу. Эти советы, полученные от команды искусственных интеллектов, - то, что было невозможно раньше, и они значительно изменили мой подход к написанию, не меняя непосредственно мой стиль или голос. Использование ИИ не позволило мне потерять темп, и он часто дает мне идеи, которые я никогда не смог бы придумать раньше.

Использование ИИ в качестве со-интеллекта, как это делал я во время написания книги, - вот где ИИ наиболее ценен. Придумайте, как сделать это самостоятельно, если сможете. Для начала следуйте первому принципу (приглашайте ИИ ко всему), пока не начнете изучать форму "Зазубренного рубежа" в своей работе. Это позволит вам понять, что ИИ может сделать, а что нет. Затем начните работать как кентавр. Поручите задачи, которые вы ненавидите, но можете легко проверить (например, написание бессмысленных отчетов или низкоприоритетных писем), ИИ и посмотрите, улучшит ли это вашу жизнь. Скорее всего, вы начнете естественный переход к использованию киборга, поскольку обнаружите, что ИИ незаменим для преодоления небольших препятствий и помощи в решении сложных задач. В этот момент вы найдете себе соинтеллектуала.

Также необходимо помнить, что ИИ меняется, и границы между этими типами задач проницаемы и, скорее всего, будут меняться по мере совершенствования возможностей ИИ с течением времени. Задачи, которые мы сегодня делегируем ИИ благодаря его компетентным, но несовершенным способностям, в будущем могут перейти в разряд полностью автоматизированных, когда производительность достигнет человеческого паритета во всех областях. Аналогичным образом, некоторые задачи "только для меня" могут со временем перейти в категорию "кентавр", если ИИ станет достаточно искусным, чтобы не просто помогать, но и легко сотрудничать. И новые творческие границы, которые мы пока не можем себе представить, могут открыться для симбиоза человека и ИИ по мере развития с обеих сторон. Спектр также будет смещаться в другую сторону, когда мы сознательно решим, что некоторые эмоционально заряженные или этически сомнительные обязанности должны оставаться исключительно человеческими.

Для работников эти изменчивые категории означают, что влияние ИИ будет ощущаться постепенно, по мере того как мы будем адаптироваться к его растущим возможностям, а не в результате одномоментного разрушения. По мере того как будет меняться диаграмма Венна возможностей человека и машины, будут меняться и наши представления о соответствующих ролях и обязанностях. И, скорее всего, будет расти несоответствие между тем, что работники делают с помощью ИИ, и тем, что делают их компании и организации.

Автоматизация секретных задач

Сегодня миллиарды людей имеют доступ к большим языковым моделям и преимуществам производительности, которые они дают. Благодаря десятилетиям исследований инноваций, в которых принимали участие все - от сантехников до библиотекарей и хирургов, - мы знаем, что, получив доступ к инструментам общего назначения, люди находят способы использовать их, чтобы сделать свою работу проще и лучше. Результатом часто становятся прорывные изобретения, способы использования ИИ, которые могут полностью изменить бизнес. Люди оптимизируют задачи, используют новые подходы к кодированию и автоматизируют трудоемкие и утомительные части своей работы. Но изобретатели не рассказывают своим компаниям о своих открытиях - они держат их в секрете. Есть как минимум три причины, по которым эти киборги и кентавры остаются в тайне. Но все они сводятся к одному и тому же: люди не хотят попасть в беду.

Проблемы начинаются с политики организации. Многие компании, от J.P.Morgan до Apple, изначально запретили использование ChatGPT, часто из-за юридических проблем. Но эти запреты имели большой эффект... они привели к тому, что сотрудники стали приносить на работу свои телефоны и получать доступ к ИИ с личных устройств. Хотя данные получить сложно, я уже встретил множество людей в компаниях, где ИИ запрещен, которые используют этот обходной путь - и это только те, кто готов признаться в этом! Такой тип использования теневых ИТ распространен в организациях, но он стимулирует работников молчать о своих инновациях и повышении производительности.

И это не единственная причина, по которой пользователи ИИ боятся раскрывать, что они киборги. Большая часть ценности использования ИИ заключается в том, что люди не знают, что вы его используете. Способность ИИ писать так, что это кажется человеческим, очень мощная, но только если люди думают, что это исходит от настоящего человека. Из исследований мы знаем, что когда люди узнают, что получают контент, созданный ИИ, они оценивают его иначе, чем если бы они предполагали, что он исходит от человека. Неудивительно, что, когда я провел небольшой ненаучный опрос в Twitter, более половины пользователей генеративного ИИ сообщили, что используют эту технологию, никому не говоря о ней, по крайней мере, в некоторых случаях.

Все это теневое использование приводит к последней проблеме - обоснованному беспокойству о том, что работники могут подготовить себе замену , научившись работать с ИИ. Если кто-то придумал, как автоматизировать 90 процентов определенной работы, и рассказал об этом начальнику, уволит ли компания 90 процентов его коллег? Лучше не говорить об этом.

Все обычные способы, с помощью которых организации пытаются реагировать на новые технологии, не очень подходят для ИИ. Все они слишком централизованы и слишком медлительны. ИТ-отдел не может легко построить собственную модель ИИ, и уж тем более такую, которая могла бы конкурировать с одним из Frontier LLM. Консультанты и системные интеграторы не обладают специальными знаниями о том, как заставить ИИ работать на конкретную компанию, или даже о том, как лучше всего использовать ИИ в целом. Инновационные группы и стратегические советы внутри организаций могут диктовать политику, но нет никаких оснований полагать, что корпоративные лидеры любой организации будут волшебниками в понимании того, как ИИ может помочь конкретному сотруднику в решении конкретной задачи. На самом деле, скорее всего, им не удастся определить наилучшие варианты использования ИИ. Индивидуальные работники, которые хорошо понимают свои проблемы и могут много экспериментировать с альтернативными способами их решения, с гораздо большей вероятностью найдут эффективные и целенаправленные способы применения.

По крайней мере, на данный момент лучший способ для организации извлечь выгоду из ИИ - это заручиться помощью наиболее продвинутых пользователей, поощряя при этом все больше работников к использованию ИИ. А это потребует серьезных изменений в работе организаций. Во-первых, они должны признать, что сотрудники, которые выясняют, как лучше использовать ИИ, могут быть на любом уровне организации, с любой историей или прошлым послужным списком. Ни одна компания не нанимает сотрудников, основываясь на их навыках работы с ИИ, поэтому навыки работы с ИИ могут быть где угодно. На данный момент есть некоторые свидетельства того, что работники с самым низким уровнем квалификации получают наибольшую пользу от ИИ, а значит, могут иметь наибольший опыт в его использовании, но картина все еще не ясна. В результате компаниям необходимо вовлечь как можно большее число сотрудников в свою программу развития ИИ, что является демократичным поворотом событий, которого многие компании предпочли бы избежать.

Во-вторых, руководителям необходимо найти способ уменьшить страх, связанный с открытием использования ИИ. Если предположить, что первые исследования окажутся верными и мы увидим повышение производительности на 20-80 % при выполнении различных важных профессиональных задач, то, боюсь, у многих руководителей возникнет естественный инстинкт: "Уволить людей, сэкономить деньги". Но это не обязательно так. Существует множество причин, по которым компании не превращают повышение эффективности в сокращение численности персонала или снижение затрат. Компании, которые придумают, как использовать свою новую рабочую силу, смогут превзойти любую компанию, которая попытается сохранить объем производства после внедрения ИИ на том же уровне, что и до внедрения ИИ, только с меньшим количеством сотрудников. А компании, которые стремятся сохранить свой штат, скорее всего, будут иметь сотрудников в качестве партнеров, которые будут рады обучать других использованию ИИ на работе, а не пугливых работников, которые скрывают свой ИИ из страха быть замененными.

Убедить сотрудников в том, что это так, - другой вопрос. Возможно, организации могут предложить гарантии того, что ни один сотрудник не будет уволен в результате использования ИИ, или пообещать, что работники смогут использовать освободившееся при использовании ИИ время для работы над более интересными проектами, или даже досрочно завершить работу. Но в ранних исследованиях ИИ есть намеки на то, что есть путь вперед, к другой рабочей среде. Работники, хотя и обеспокоены ИИ, обычно любят его использовать, потому что он устраняет самые утомительные и раздражающие части их работы, оставляя им самые интересные задачи. Таким образом, даже если ИИ убирает из работы некоторые ранее ценные задачи, оставшаяся работа может быть более значимой и более ценной. Разумеется, это не неизбежно, поэтому руководители и лидеры должны решить, стоит ли и как стоит реорганизовывать работу вокруг ИИ таким образом, чтобы помочь, а не навредить своим работникам. Вы должны спросить: каково ваше видение того, как ИИ сделает работу лучше, а не хуже? И здесь преимущество будет у организаций с высокой степенью доверия и хорошей культурой. Если ваши сотрудники не верят, что вы заботитесь о них, они будут скрывать использование ИИ.

В-третьих, организациям следует всячески поощрять пользователей ИИ и расширять число людей, использующих ИИ в целом. Это значит не только разрешить использование ИИ, но и предложить существенное вознаграждение людям, нашедшим значительные возможности для использования ИИ. Подумайте о денежных призах, покрывающих годовую зарплату. Продвижение по службе. Угловые офисы. Возможность всегда работать из дома. Учитывая потенциальный рост производительности за счет LLM, это небольшая цена за действительно прорывные инновации. К тому же крупные стимулы показывают, что организация серьезно относится к этому вопросу.

Наконец, компаниям необходимо задуматься о другом компоненте эффективного использования ИИ: о системах. Давление на организации, вынуждающее их занять позицию в отношении технологии, которая затрагивает их наиболее высокооплачиваемых работников, будет огромным, как и ценность того, что эти работники станут более продуктивными. Без фундаментальной перестройки методов работы организаций преимущества ИИ никогда не будут признаны.

От задач к системам

Мы часто принимаем как должное системы, которые используются для структурирования и координации работы в наших организациях. Мы полагаем, что они являются естественными способами выполнения работы. Но на самом деле они являются историческими артефактами, сформированными технологическими и социальными условиями своего времени. Например, организационная схема была изначально создана для управления железными дорогами в 1850-х годах. Разработанная ранними железнодорожными баронами, она создала иерархическую систему полномочий, ответственности и коммуникаций, которая позволяла им контролировать и отслеживать работу своей железнодорожной империи. Благодаря телеграфу они объединили людей в четкую иерархию, где боссы отдавали приказы, которые по рельсам и телеграфным линиям поступали к рабочим, находящимся в самом низу таблицы . Система оказалась настолько успешной, что вскоре ее переняли другие отрасли и организации, став стандартной моделью бюрократии в двадцатом веке.

Другая система возникла на основе иного сочетания человеческих ограничений и технологий: сборочный конвейер. Эта система, созданная Генри Фордом в начале двадцатого века, позволила его компании наладить массовое производство автомобилей с меньшими затратами и большей скоростью. Он понял, что люди не очень хороши в выполнении сложных и разнообразных задач, но очень хороши в выполнении простой и повторяющейся работы. Он также заметил, что технологии могут помочь ему синхронизировать и оптимизировать рабочий процесс, используя стандартизированные инструменты и детали, а также новые технологии, такие как конвейерные ленты и таймеры. Он разделил производственный процесс на небольшие и простые задачи и поручил их рабочим, которые выполняли их многократно и эффективно. Его система была настолько успешной, что произвела революцию в обрабатывающей промышленности, создав экономию на масштабе и объеме производства и обеспечив массовое потребление и персонализацию.

Интернет ознаменовал собой еще один новый набор технологий для организации и контроля работы, поэтому в последние десятилетия мы наблюдаем появление новых систем организации труда и управления, таких как гибкая разработка программного обеспечения, бережливое производство, холакратия и самоуправляемые команды. Эти тенденции в управлении, вызванные волнами инструментов, начиная от электронной почты и заканчивая сложным корпоративным программным обеспечением, приняли новые, основанные на данных подходы к организации работы. Но, как и все предыдущие, они по-прежнему опираются на человеческие возможности и ограничения. Человеческое внимание по-прежнему ограничено, наши эмоции по-прежнему важны, а работникам по-прежнему нужны перерывы на туалет. Технологии меняются, но работники и менеджеры остаются людьми.

Именно это может изменить ИИ. Выступая в роли коинтеллекта, управляющего работой или, по крайней мере, помогающего менеджерам управлять работой, расширенные возможности ИИ могут радикально изменить отношение к работе. Один ИИ может общаться с сотнями работников, предлагая советы и контролируя производительность. Он может наставлять, а может манипулировать. Они могут направлять решения, как тонко, так и открыто.

Компании экспериментировали с формами компьютеризированного контроля над работниками задолго до появления этого поколения ИИ. Часы, камеры и другие формы контроля были распространены уже более века, но эти подходы набрали обороты с появлением ИИ, предшествующего LLM, и особенно с использованием алгоритмов для контроля над работой и работниками. Вспомните гиг-работника, который надеется, что Uber обеспечит ему хороший поток клиентов, несмотря на низкий рейтинг от разгневанного пассажира, или водителя UPS, каждую минуту работы которого алгоритм проверяет на предмет того, был ли он достаточно эффективен, чтобы сохранить свою работу. Кэтрин Келлог из Массачусетского технологического института, а также Мелисса Валентайн и Анжель Кристин из Стэнфорда рассказали, чем эти новые виды контроля отличаются от прежних форм управления. Если раньше менеджеры располагали ограниченной информацией о том, чем занимаются работники, то алгоритмы всесторонне и мгновенно, используя огромные массивы данных из многих источников, отслеживают работников. Алгоритмы также работают в интерактивном режиме, направляя работников в реальном времени на выполнение любой задачи, поставленной компанией. Кроме того, они непрозрачны - их предвзятость и даже способ принятия решений скрыты от работников.

Профессор Уортона Линдси Кэмерон убедилась в этом на собственном опыте, когда в течение шести лет подрабатывала гиг-драйвером в рамках интенсивного этнографического исследования того, как работники справляются с алгоритмическим управлением. Вынужденные зависеть от алгоритмов Uber или Lyft при поиске работы, они прибегают к скрытым формам сопротивления, чтобы получить хоть какой-то контроль над своей судьбой. Например, водители могут опасаться, что конкретный водитель может поставить им более низкий рейтинг (тем самым снизив их будущий заработок), поэтому они убеждают водителя отменить поездку до того, как его заберут, возможно, утверждая, что водитель не видит потенциального места встречи. Но даже такие формы сопротивления не освобождают водителей от алгоритма, который контролирует, куда они едут, сколько зарабатывают и как проводят время.

Мы можем представить, как LLM могут усилить этот процесс, создав еще более всеобъемлющий паноптикон: в этой системе каждый аспект работы отслеживается и контролируется ИИ. ИИ отслеживает деятельность, поведение, результаты и итоги работы работников и менеджеров. ИИ ставит перед ними цели и задачи, распределяет задания и роли, оценивает их эффективность и соответствующим образом вознаграждает. Но, в отличие от холодного, безличного алгоритма Lyft или Uber, LLM может также предоставлять обратную связь и коучинг, чтобы помочь работникам улучшить свои навыки и производительность. Способность ИИ выступать в роли дружелюбного советчика может сгладить грани алгоритмического контроля, прикрыв коробку Скиннера яркой оберточной бумагой. Но главным все равно останется алгоритм. Если история прецедентна, то это вероятный путь для многих компаний.

Но существуют и другие, более утопичные возможности. Нам не нужно подчинять огромное количество людей машинным владыкам. Напротив, LLM могли бы помочь нам процветать, сделав невозможным игнорировать правду: большая часть работы действительно скучна и не имеет особого смысла. Если мы признаем это, то сможем обратить внимание на улучшение человеческого опыта работы.

В ходе опросов люди сообщают, что скучают на работе около 10 часов в неделю, что является шокирующе большим процентом времени. Хотя не вся работа должна быть захватывающей, огромная ее часть скучна без причины, и это, похоже, большая проблема. Мало того, что скука является одной из главных причин ухода людей из компаний, мы еще и совершаем безумные поступки, когда нам скучно. Одно небольшое исследование, проведенное среди студентов, показало, что 66 % мужчин и 25 % женщин предпочитают подвергнуть себя болезненному шоку, чем сидеть в тишине и от нечего делать в течение 15 минут. Скука заставляет нас причинять боль не только себе: 18 процентов скучающих людей убивали червей, когда им предоставлялась такая возможность (среди нескучающих людей таких было всего 2 процента). Скучающие родители и солдаты ведут себя более садистски. Скука - это не просто скука, она по-своему опасна.

В идеальном мире менеджеры тратили бы время на то, чтобы покончить с бесполезной и повторяющейся работой, которая приводит к скуке, и перестроить работу так, чтобы сосредоточиться на более интересных задачах. Однако, несмотря на многолетние советы по управлению, большинство официальных ритуалов, форм и требований сохраняются уже давно. Если люди не могут покончить с этой утомительной работой, то, возможно, это смогут сделать машины.

Мы уже передали на аутсорсинг худшую часть письменной работы (проверку грамматики) и математики (длинное деление) машинам, таким как программы проверки орфографии и калькуляторы, которые освободили нас от этих утомительных задач. Было бы естественно использовать LLM для расширения этого процесса. И это действительно то, что мы наблюдаем в некоторых первых исследованиях по использованию ИИ для работы. Люди, использующие ИИ для выполнения задач, получают больше удовольствия от работы и чувствуют, что лучше используют свои таланты и способности. Возможность перепоручить ИИ дрянные, бессмысленные задачи может быть очень полезной. Худшие части вашей работы переходят к ИИ, и вы можете сосредоточиться на хороших вещах.

Таким образом, если мы хотим подумать о первой работе, которую мы действительно отдадим ИИ, возможно, нам следует начать с того, с чего начиналась любая другая волна автоматизации: с нудной, (психологически) опасной и повторяющейся работы. Компании и организации могут начать с размышлений о том, как сделать скучные процессы "дружелюбными к ИИ", позволяя машинам (под контролем человека) заполнять наши необходимые формы. Вознаграждение работникам за то, что они справляются со скучными задачами с помощью искусственного интеллекта, также может помочь оптимизировать работу и сделать всех счастливее. А если это прольет свет на задачи, которые можно безопасно автоматизировать без снижения стоимости, то тем лучше. Возможно, от этой работы можно избавиться. Это, безусловно, лучшее место для начала, чем альтернатива - алгоритмический контроль.

От систем к рабочим местам

И теперь, рассказав о задачах и системах, мы можем вернуться к вопросу о рабочих местах и о том, в какой степени ИИ может заменить людей. Как мы уже убедились, очень вероятно, что ИИ возьмет на себя выполнение человеческих задач. Если мы воспользуемся всем, что может предложить ИИ, это будет хорошо. Скучные задачи или задачи, в которых мы не разбираемся, можно передать на аутсорсинг ИИ, оставив хорошие и ценные задачи нам или, по крайней мере, командам киборгов, состоящим из ИИ и человека. Это вписывается в исторические модели автоматизации, когда набор задач, составляющих рабочие места, меняется по мере развития новых технологий. Когда-то бухгалтеры вычисляли цифры вручную, теперь они пользуются электронными таблицами - они все еще бухгалтеры, но набор их задач изменился.

Когда мы начинаем принимать во внимание системы, в которых функционируют рабочие места, мы видим другие причины подозревать медленное, а не быстрое изменение характера рабочих мест. Люди глубоко встроены в ткань каждого аспекта деятельности наших организаций. Вы не сможете легко заменить человека машиной, не разорвав эту ткань. Даже если вы сможете в одночасье заменить врача искусственным интеллектом, будут ли пациенты довольны тем, что их принимает машина? Как будут действовать правила ответственности? Как к этому отнесутся другие специалисты в области здравоохранения ? Кто будет выполнять другие задачи, за которые отвечал врач, например, обучать интернов или участвовать в работе профессиональных организаций? Наши системы окажутся более устойчивыми к изменениям, чем наши задачи.

Но это не значит, что некоторые отрасли не будут быстро меняться, поскольку их фундаментальная экономика изменится. Технологии общего назначения как разрушают, так и создают новые сферы деятельности. Стоковая фотография, рынок которой приносит 3 миллиарда долларов в год, вероятно, в значительной степени исчезнет, поскольку искусственный интеллект, по иронии судьбы обученный на этих самых изображениях, сможет легко создавать индивидуальные изображения. Или рассмотрим индустрию колл-центров стоимостью 110 миллиардов долларов в год, которая столкнется с последствиями того, что отточенные ИИ будут выполнять все больше задач, которые раньше выполняли люди, действуя как телефонная служба, которая действительно работает. В то же время могут появиться совершенно новые отрасли, такие как обслуживание и развертывание систем искусственного интеллекта. А существующие отрасли могут стать сверхмощными. Например, для модификации и адаптации старых систем к преимуществам ИИ, скорее всего, потребуется больше ученых и инженеров .

Поэтому не стоит удивляться тому, что более двух третей опрошенных экономистов ожидают, что в среднем в ближайшие несколько лет ИИ окажет очень незначительное влияние на общее количество рабочих мест, даже если ИИ будет способствовать росту экономики в целом. Однако это не означает, что новые технологии никогда не приведут к массовому вытеснению работников. Так, например, произошло с одной из самых больших категорий рабочих мест, которые когда-либо занимали женщины, - телефонистками. К 1920-м годам 15 процентов всех американских женщин работали операторами, а компания AT&T была крупнейшим работодателем в США. AT&T решила убрать старых телефонных операторов и заменить их гораздо более дешевым прямым набором. Число рабочих мест операторов быстро сократилось на 50-80 процентов. Как и следовало ожидать, рынок труда в целом быстро скорректировался, поскольку молодые женщины нашли другие должности, например секретарские, которые предлагали аналогичную или более высокую оплату. Но женщины с наибольшим опытом работы операторами в долгосрочной перспективе пострадали больше, поскольку их стаж работы в исчезнувшей профессии не перешел в другие сферы. Таким образом, хотя рабочие места обычно приспосабливаются к автоматизации, это происходит не всегда, по крайней мере, не для всех.

Конечно, есть и причины, по которым ИИ может отличаться от других технологических волн. Это первая волна автоматизации, которая широко затрагивает самых высокооплачиваемых профессиональных работников. Кроме того, внедрение ИИ происходит гораздо быстрее и гораздо шире, чем предыдущие технологические волны. И мы до сих пор не знаем, каковы пределы и возможности этой новой технологии, как быстро они будут расти и насколько аисторичными и странными могут быть ее эффекты.

Работа, связанная со знаниями, славится очень большими различиями в способностях работников. Например, неоднократные исследования показали, что по некоторым параметрам качества программирования разница между программистами из 75-го процентиля и 25-го процентиля может достигать 27 раз. А мои собственные исследования показали, что между хорошими и плохими менеджерами существует большой разрыв. Но ИИ может все это изменить.

Исследование за исследованием показывает, что наибольший толчок от ИИ получают люди с самыми низкими начальными способностями - он превращает плохих исполнителей в хороших. В заданиях на написание текстов плохие писатели становятся хорошими. В тестах на креативность он больше всего стимулирует наименее креативных. А среди студентов-юристов худшие юристы превращаются в хороших. А в исследовании раннего генеративного ИИ в колл-центре самые низкопроизводительные работники стали на 35 % продуктивнее, в то время как опытные работники выиграли совсем немного. В нашем исследовании, проведенном в BCG, мы обнаружили аналогичный эффект. Больше всего от ИИ выиграли те, кто обладал самыми слабыми навыками, но даже самые высокопроизводительные сотрудники выиграли.

Это говорит о возможности более радикальной реконфигурации труда, когда ИИ выступит в роли великого уравнителя, превращая каждого в отличного работника. Последствия этого могут быть столь же глубокими, как и автоматизация ручного труда. Неважно, насколько хорошо вы умеете копать, потому что вы все равно не сможете копать так же хорошо, как паровая лопата. В этом случае характер рабочих мест сильно изменится, поскольку образование и навыки станут менее ценными. Поскольку дешевые работники выполняют ту же работу за меньшее время, массовая безработица или, по крайней мере, неполная занятость становится более вероятной, и мы можем увидеть необходимость в таких политических решениях, как четырехдневная рабочая неделя или всеобщий базовый доход, которые снижают планку благосостояния человека.

В краткосрочной перспективе мы могли бы ожидать незначительных изменений в занятости (но значительных изменений в задачах), но, как гласит закон Амара, названный в честь футуриста Роя Амара: "Мы склонны переоценивать эффект технологии в краткосрочной перспективе и недооценивать эффект в долгосрочной перспективе". Будущее в долгосрочной перспективе весьма туманно. ИИ изменит некоторые отрасли больше, чем другие, так же как и некоторые профессии станут радикально другими, а другие не изменятся вовсе. Сейчас никто не может точно сказать, что произойдет с той или иной компанией или учебным заведением. И любой совет будет устаревшим, когда появится следующее поколение ИИ. Нет никакого внешнего авторитета. Мы сами решаем, что будет дальше, как в хорошую, так и в плохую сторону.

7.

A

И В КАЧЕСТВЕ РЕПЕТИТОРА

Секрет в том, что мы давно знаем, как повысить эффективность образования, но не можем этого сделать. Бенджамин Блум, психолог в области образования, в 1984 году опубликовал работу под названием " The 2 Sigma Problem". В ней Блум сообщил, что средний студент, занимающийся с репетитором один на один, демонстрирует результаты на два стандартных отклонения лучше, чем студенты, обучающиеся в обычной классной комнате. Это означает, что средний студент, обучавшийся у репетитора, набирал больше баллов, чем 98 процентов студентов в контрольной группе (хотя не все исследования репетиторства показали столь значительное влияние). Блум назвал это проблемой двух сигм, потому что он поставил перед исследователями и преподавателями задачу найти методы группового обучения, которые могли бы достичь того же эффекта, что и репетиторство один на один, которое зачастую слишком дорого и непрактично для широкомасштабного применения. Проблема двух сигм Блума вдохновила множество исследований и экспериментов по изучению альтернативных методов обучения, которые могли бы приблизительно сравниться с преимуществами прямого репетиторства. Однако ни один из этих методов не смог сравниться или превзойти эффект двух сигм от репетиторства тет-а-тет, о котором говорил Блум. Это говорит о том, что во взаимодействии репетитора и ученика есть нечто уникальное и мощное, что невозможно воспроизвести другими способами. Поэтому неудивительно, что мощный, адаптируемый и недорогой персонализированный репетитор - это святой грааль образования.

Вот тут-то и приходит на помощь искусственный интеллект. Или где ИИ, как мы надеемся, придет на помощь. Какими бы замечательными ни были современные ИИ, мы еще не достигли того момента, когда они смогут заменить человеческих учителей волшебными учебниками. Хотя, безусловно, мы находимся в точке перелома, когда ИИ изменит то, как мы преподаем и учимся, как в школах, так и после того, как мы их покинем. В то же время способы, которыми ИИ повлияет на образование в ближайшем будущем, скорее всего, будут контринтуитивными. Они не заменят учителей, но сделают классные комнаты более необходимыми. Возможно, они заставят нас учить в школе больше фактов, а не меньше. И они разрушат наши методы обучения, прежде чем улучшат их.

После апокалипсиса домашних заданий

За многие века образование изменилось очень мало. Ученики собираются в классе, где их обучает учитель. Они выполняют домашние задания, чтобы отработать полученные знания, а затем проходят тестирование, чтобы убедиться, что они их запомнили. Затем они переходят к следующей теме. В то же время исследования в области науки об обучении значительно продвинулись вперед. Например, мы знаем, что лекции в классе - не самый эффективный способ обучения и что темы должны переплетаться между собой, чтобы студенты могли запомнить то, что знают. Однако, к несчастью для студентов, исследования показывают, что и домашние задания, и тесты на самом деле являются чрезвычайно полезными инструментами обучения.

Так что это удар, и первым результатом применения масштабных языковых моделей стало наступление Апокалипсиса домашних заданий. Списывание уже было распространено в школах. Одно исследование одиннадцатилетних курсов в колледже показало, что , когда студенты выполняли домашние задания в 2008 году, это улучшало оценки за экзамены у 86 % из них, но в 2017 году это помогло только 45 % студентов. Почему? Потому что к 2017 году более половины студентов искали ответы на домашние задания в Интернете, так что они так и не смогли воспользоваться преимуществами домашней работы. И это еще не все. В 2017 году 15 процентов студентов платили кому-то за выполнение заданий, обычно через онлайн-фабрики эссе. Еще до появления генеративного ИИ 20 000 человек в Кении зарабатывали на жизнь написанием сочинений в течение полного рабочего дня.

С искусственным интеллектом обманывать проще простого. На самом деле, основные возможности ИИ, похоже, почти созданы для жульничества. Подумайте о распространенных типах домашних заданий. Многие из них предполагают чтение, а затем подведение итогов или составление отчета о прочитанном. В таких заданиях предполагается, что ученики будут впитывать прочитанное и вступать с ним в своего рода интеллектуальную борьбу. Однако искусственный интеллект отлично справляется с обобщением и применением информации. И теперь он может читать PDF-файлы. И даже целые книги. Это означает, что у студентов появится соблазн обратиться к ИИ за помощью в обобщении написанного. Конечно, результаты могут содержать ошибки и упрощения, но даже если они правильные, эти резюме будут формировать мышление студента. Кроме того, такой способ может снизить степень заботы студента о своей интерпретации прочитанного, что сделает дискуссии в классе менее полезными с интеллектуальной точки зрения, поскольку ставки будут ниже. Или рассмотрим наборы задач. Мы уже видели, как искусственный интеллект успешно сдает ключевые экзамены в аспирантуру, так что задание по геометрии вашего ребенка в четвертом классе вряд ли станет для него препятствием.

И, конечно же, ИИ пришел за королем заданий - эссе. Эссе повсеместно распространены в образовании, где они служат многим целям - от демонстрации того, как студенты думают, до предоставления возможности для размышлений. Но их также очень легко создать любому LLM, а эссе на основе ИИ становятся все лучше и лучше. Сначала стиль ИИ бросался в глаза, но новые модели пишут не так неуклюже и округло, и их легко можно попросить написать в стиле, подходящем для студента . Кроме того, проблема галлюцинаторных ссылок и очевидных ошибок теперь встречается гораздо реже, и ее легко отловить. Ошибки незаметны, а не очевидны. Ссылки реальны. Кроме того, и это самое главное: нет способа определить, является ли текст сгенерированным ИИ. Несколько раундов подсказок лишают любую систему обнаружения способности распознать ИИ-письмо. Хуже того, детекторы имеют высокий процент ложноположительных результатов, обвиняя людей (и особенно тех, кто не является носителем английского языка) в использовании ИИ, когда это не так. Вы также не можете попросить ИИ обнаружить ИИ-письмо - он просто придумает ответ. Если только вы не выполняете задания в классе, нет точного способа определить, что работа создана человеком.

И хотя я уверен, что написание эссе в классе вернется в моду в качестве временной меры, ИИ не просто помогает студентам списывать. Каждой школе или преподавателю придется хорошенько подумать о том, какое использование ИИ допустимо: Является ли просьба ИИ предоставить черновик конспекта мошенничеством? Просить помочь с предложением, на котором кто-то застрял? Является ли жульничеством просьба предоставить список литературы или пояснения по теме? Нам нужно переосмыслить образование. Мы уже делали это раньше, хотя и в более ограниченных масштабах.

Когда калькулятор впервые появился в школах, реакция была удивительно близка к тем опасениям, которые я слышу сегодня по поводу использования учащимися искусственного интеллекта для решения таких задач, как написание текста. Как пишет исследователь в области образования Сара Дж. Бэнкс, на заре их популярности в середине 1970-х годов многие учителя охотно внедряли калькуляторы в свои классы, признавая потенциал для повышения мотивации и вовлеченности учеников. Эти учителя считали, что после того, как ученики освоят основы, им следует дать возможность использовать калькуляторы для решения более реалистичных и сложных задач. Однако не все разделяли этот энтузиазм. Некоторые учителя не решались внедрять калькуляторы, поскольку их действие не было тщательно изучено, и считали, что перед внедрением новой технологии необходимо адаптировать учебную программу. Опрос, проведенный в середине 1970-х годов, показал, что 72 процента учителей и неспециалистов не одобряют использование калькуляторов учениками седьмого класса. Одна из проблем заключалась в невозможности помочь ученикам понять и выявить их ошибки, поскольку калькуляторы не регистрировали нажатие кнопок, что затрудняло учителям возможность увидеть и исправить ошибки. Ранние исследования также показали, что родители беспокоились о том, что их дети станут зависимыми от технологии и забудут основные математические навыки. Не правда ли, звучит знакомо?

Отношение быстро изменилось, и к концу 1970-х годов родители и учителя стали проявлять больше энтузиазма и увидели потенциальные преимущества использования калькуляторов, такие как улучшение отношения к учебе и обеспечение того, чтобы их дети были хорошо подготовлены к миру, основанному на технологиях. Год или два спустя другое исследование показало, что 84 процента учителей хотели бы использовать калькуляторы в своих классах, но только 3 процента работали в школах, которые предоставляли калькуляторы. Учителя, как правило, не были обучены их использованию и нуждались в поддержке администрации и родителей , чтобы внедрить их в свои классы. Несмотря на отсутствие официальной политики, многие учителя продолжали настаивать на использовании калькуляторов в своих классах. Дебаты продолжались в 1980-х и начале 1990-х годов: одни учителя по-прежнему считали, что калькуляторы мешают ученикам овладевать базовыми навыками, другие считали их необходимыми инструментами для будущего. К середине 1990-х годов калькуляторы стали частью учебной программы и использовались в качестве дополнения к другим способам изучения математики. Некоторые тесты допускали их использование, некоторые - нет. Был достигнут практический консенсус. Математическое образование не развалилось, хотя споры и исследования продолжаются и сегодня, спустя полвека после появления калькулятора в классе.

В определенной степени ИИ будет следовать по такому же пути. Будут задания, где требуется помощь ИИ, и задания, где использование ИИ недопустимо. Школьные письменные задания на компьютерах без доступа к Интернету в сочетании с письменными экзаменами позволят учащимся овладеть базовыми навыками письма. Мы найдем практический консенсус, который позволит интегрировать ИИ в учебный процесс без ущерба для развития важнейших навыков. Как калькуляторы не заменили необходимость изучения математики, так и ИИ не заменит необходимость учиться писать и критически мыслить. Возможно, потребуется время, чтобы разобраться с этим, но мы это сделаем. Более того, мы должны это сделать - уже слишком поздно возвращать джинна в бутылку.

Калькулятор полностью изменил то, что было ценным для преподавания, и характер преподавания математики в целом - огромные изменения, которые в основном были к лучшему. И эта революция заняла много времени. В отличие от ИИ, калькуляторы начинались как дорогие и ограниченные инструменты, что дало школам время интегрировать их в уроки, так как они медленно внедрялись в течение десятилетия. Революция ИИ происходит гораздо быстрее и шире. То, что произошло с математикой, произойдет почти со всеми предметами на всех уровнях образования - трансформация без промедления.

Поэтому студенты будут обманывать с помощью ИИ. Но, как мы уже видели на примере пользовательских инноваций, они также начнут внедрять ИИ во все свои дела, что вызовет новые вопросы у преподавателей. Студенты захотят понять, почему они выполняют задания, которые благодаря ИИ кажутся устаревшими. Они захотят использовать ИИ в качестве помощника в обучении, соавтора или товарища по команде. Они захотят добиться большего, чем раньше, а также получить ответы на вопросы о том, как ИИ повлияет на их дальнейшее обучение. Школы должны будут решить, как ответить на этот поток вопросов.

Апокалипсис домашних заданий угрожает множеству хороших и полезных типов заданий, многие из которых использовались в школах на протяжении веков. Нам нужно будет быстро адаптироваться, чтобы сохранить то, что мы рискуем потерять, и приспособиться к изменениям, которые принесет ИИ. Для этого потребуются незамедлительные усилия преподавателей и руководителей системы образования, а также четко сформулированная политика в области использования ИИ. Но сейчас речь идет не только о сохранении старых типов заданий. ИИ дает возможность разработать новые подходы к педагогике, которые позволят подтолкнуть студентов к амбициозным действиям.

Я сделал ИИ обязательным на всех своих занятиях для студентов и магистрантов в Пенсильванском университете. В некоторых заданиях студентам предлагается "схитрить", попросив ИИ создать эссе, которые они затем критикуют - хитрый способ заставить студентов хорошенько подумать над работой, даже если они ее не пишут. В некоторых заданиях допускается неограниченное использование ИИ, но при этом учащиеся несут ответственность за результаты и факты, полученные ИИ, что отражает работу с ИИ на их послешкольной работе. Другие задания используют новые возможности ИИ, предлагая студентам провести интервью с ИИ до того, как они пообщаются с людьми в реальных организациях. А в некоторых заданиях используется тот факт, что ИИ позволяет сделать невозможное. Например, первое задание для студентов моего курса по предпринимательству в Уортоне теперь звучит так:

Сделайте то, что вы планируете сделать, амбициозным до невозможности, ведь вы собираетесь использовать искусственный интеллект. Не умеете кодить? Определенно планируйте сделать работающее приложение. Нужно создать веб-сайт? Вы должны взять на себя обязательство создать прототип рабочего сайта с полностью оригинальными изображениями и текстом. Я не буду наказывать вас за неудачу, если вы будете слишком амбициозны.

Любой план выигрывает от обратной связи, даже если она просто дает вам возможность обсудить, что может пойти не так. Попросите ИИ назвать 10 способов, которыми ваш проект может потерпеть неудачу, и видение успеха, используя подсказки из урока. А чтобы было интереснее, попросите трех известных личностей раскритиковать ваш план. Вы можете обратиться к предпринимателям (Стив Джобс, Тори Берч, Джек Ма, Рианна), лидерам (Елизавета I, Юлий Цезарь), художникам, философам или любым другим людям, которые, по вашему мнению, были бы полезны для критики вашей стратегии в их голосе.

Таким образом, в то время как классы, ориентированные на обучение эссе и навыкам письма, вернутся в девятнадцатый век, с эссе, написанными от руки в синих книгах, другие классы будут чувствовать себя как в будущем, где студенты каждый день совершают невозможное.

Конечно, все это поднимает еще более важный вопрос: Чему мы должны учить? Даже медлительные учебные заведения признают, что преподавание ИИ будет играть важную роль в образовании, а Министерство образования США уже через несколько месяцев после выхода ChatGPT заявило, что ИИ необходимо внедрять в учебные классы . Некоторые эксперты идут дальше, утверждая, что нам необходимо сосредоточиться на работе с ИИ. По их мнению, мы должны преподавать базовую грамотность в области ИИ и, возможно, "инженерию подсказок" - искусство и науку создания хороших подсказок для ИИ.

Обучение искусственному интеллекту

В 2023 году многие компании объявляли о шестизначных зарплатах для "шептунов ИИ", и не зря - как мы уже видели, работа с ИИ далеко не интуитивна. И каждый раз, когда появляется новое название должности с высокой зарплатой, появляется и огромное количество курсов, инструкций и каналов на YouTube, предлагающих знания, которые нужны вам (да, именно вам), чтобы разбогатеть уже сегодня.

Если говорить начистоту, то оперативная инженерия, вероятно, является полезным навыком в ближайшем будущем. Но я не думаю, что оперативная инженерия так уж сложна. На самом деле вы, скорее всего, уже достаточно прочитали, чтобы стать хорошим оперативным инженером. Давайте начнем с третьего принципа, которым я поделился ранее - обращайтесь с ИИ как с человеком и расскажите ему, что он за человек. LLM работают, предсказывая следующее слово или часть слова, которые появятся после вашей подсказки, что-то вроде сложной функции автозаполнения. Затем они продолжают добавлять язык, снова предсказывая, какое слово будет следующим. Таким образом, стандартный вывод многих из этих моделей может звучать очень шаблонно, поскольку они склонны следовать схожим шаблонам, которые часто встречаются в письменных документах, на которых обучался ИИ. Разрушая шаблоны, вы можете получить гораздо более полезные и интересные результаты. Самый простой способ сделать это - предоставить контекст и ограничения, как мы видели в главе 5.

Для более сложных подсказок думайте о том, что вы делаете, как о программировании в прозе. Вы можете дать ИИ инструкции, и он в основном будет их выполнять. В основном потому, что с выходом ИИ связано много случайностей, поэтому вы не получите последовательности стандартной компьютерной программы. Но стоит подумать о том, как можно дать ИИ очень четкую и логичную подсказку.

В настоящее время ведется активная работа по поиску наилучшего способа "программирования" ИИ, но один из практических выводов состоит в том, что можно дать ИИ явные инструкции, которые пошагово объясняют, чего вы хотите. Один из подходов, называемый "побуждением к цепочке мыслей", дает ИИ пример того, как вы хотите, чтобы он рассуждал, до того, как вы сформулируете свой запрос. Еще более полезно давать пошаговые инструкции, которые строятся друг на друге, что облегчает проверку результатов каждого шага (позволяя впоследствии уточнить подсказку) и, как правило, делает результаты подсказок более точными.

Вот пример: допустим, я хотел включить в эту главу хорошую аналогию с ИИ-репетитором и хотел получить помощь от ИИ. Я могу просто попросить его об этом: "Назовите мне хорошую аналогию для ИИ-репетитора". И ответ был немного неудовлетворительным: ИИ-репетитор похож на музыкальный метроном, потому что он последователен, адаптивен и является простым инструментом.

Теперь мы можем попробовать применить некоторые из этих других техник: Продумайте все шаг за шагом: придумайте хорошие аналогии для ИИ-тьютора. Во-первых, составьте список возможных аналогий. Во-вторых, проанализируйте список и добавьте еще три аналогии. Затем создайте таблицу с перечислением плюсов и минусов каждой из них. Затем выберите лучшую и объясните ее. В данном случае GPT-4 рассмотрела дюжину предложений, от личного тренера до садовника, и составила таблицу, сравнив их все, прежде чем остановиться на системе GPS, которая, подобно ИИ-тьютору, призвана помочь пользователям ориентироваться на незнакомой местности. Она обеспечивает обратную связь в режиме реального времени, корректирует рекомендации в зависимости от меняющихся условий (например, дорожной обстановки или строительства) и предлагает альтернативные маршруты , если пользователь сбился с пути. Аналогичным образом ИИ-репетитор ведет студентов по учебной местности, предлагая обратную связь в реальном времени, корректируя рекомендации в зависимости от успехов студента и предлагая альтернативные пути обучения, когда это необходимо. Эта аналогия также подчеркивает идею о том, что, хотя инструмент обеспечивает руководство, пользователь (или студент) должен сам вести машину и прокладывать путь, что усиливает совместный характер обучения с помощью ИИ. Значительное улучшение благодаря небольшой оперативной разработке.

Однако все это остается не столько наукой, сколько искусством, и ИИ по-прежнему больше похож на людей, чем на программное обеспечение. Например, в ходе исследования, в котором ИИ тестировал различные виды подсказок, самая продвинутая модель Google лучше всего отреагировала на подсказку, которая начиналась так: " Сделайте глубокий вдох и работайте над этой проблемой шаг за шагом!". Учитывая их неспособность дышать или паниковать, вряд ли кто-то мог предположить, что это будет самый эффективный способ заставить ИИ сделать то, что вы хотите, но он набрал больше баллов, чем лучшие логические подсказки, созданные людьми.

После такой сложности создание подсказок может показаться немного запутанным и пугающим. Поэтому у меня есть хорошая новость для вас (и плохая для тех, кто хочет сделать создание подсказок будущим образования). Быть "хорошим подсказчиком" - это временное состояние. Современные системы искусственного интеллекта уже очень хорошо умеют распознавать ваши намерения, и они становятся все лучше. Если вы хотите сделать что-то с помощью ИИ, просто попросите его помочь вам в этом. "Я хочу написать роман; что вам нужно знать, чтобы помочь мне?" - и вы удивительно далеко продвинетесь. И помните, что ИИ будет только лучше руководить нами, а не требовать, чтобы мы руководили им. Подсказки будут не так уж и важны.

Это не значит, что мы не должны преподавать ИИ в школах. Очень важно дать учащимся представление о негативных сторонах ИИ, о том, как он может быть предвзятым, ошибочным или использоваться неэтично. Однако вместо того, чтобы перестраивать систему образования на обучение работе с ИИ с помощью быстрого проектирования, мы должны сосредоточиться на обучении студентов быть людьми в контуре, привнося свой собственный опыт в решение проблем. Мы знаем, как обучать экспертизе. Мы постоянно пытаемся сделать это в школе, но это трудный процесс. ИИ может сделать его проще.

Перевернутые классы и репетиторы с искусственным интеллектом

Мы кое-что знаем о том, как будут выглядеть учебные классы будущего. Списывание с помощью ИИ останется необнаруженным и широко распространенным. Репетиторство с помощью ИИ, вероятно, станет отличной, но не бесплатной заменой школе. Учебные классы дают гораздо больше: возможность практиковать полученные навыки, сотрудничать в решении проблем, общаться и получать поддержку от преподавателей. Школа будет продолжать приносить пользу, даже если в ней появятся отличные репетиторы с искусственным интеллектом. Но эти репетиторы изменят образование. Они уже изменили его. Всего через несколько месяцев после выхода ChatGPT я заметил, что студенты стали реже поднимать руки, чтобы задать базовые вопросы . Когда я спросил, почему, один из студентов ответил мне: "Зачем поднимать руку на уроке, если можно задать вопрос ChatGPT?".

Самое большое изменение произойдет в том, как на самом деле происходит преподавание. Сегодня преподаватель часто читает лекции. Хорошая лекция может быть мощным инструментом, но для того, чтобы она была эффективной, необходимо хорошо организовать ее, предоставить студентам возможность взаимодействовать с преподавателем и постоянно соотносить идеи друг с другом. В ближайшей перспективе ИИ может помочь преподавателям готовить лекции, основанные на содержании и учитывающие особенности обучения студентов. Мы уже обнаружили, что ИИ очень хорошо помогает преподавателям готовить более увлекательные, организованные лекции и делать традиционную пассивную лекцию гораздо более активной.

Однако в долгосрочной перспективе лекции находятся в опасности. Слишком многие из них предполагают пассивное обучение, когда студенты просто слушают и конспектируют, не участвуя в активном решении проблем и критическом мышлении. Более того, универсальный подход к лекциям не учитывает индивидуальные различия и способности, что приводит к отставанию одних студентов, в то время как другие становятся невостребованными из-за отсутствия вызова.

Противоположная философия, активное обучение, снижает значимость лекции, предлагая студентам участвовать в процессе обучения посредством таких видов деятельности, как решение проблем, работа в группах и практические занятия. При таком подходе студенты сотрудничают друг с другом и с преподавателем, чтобы применить полученные знания. Многочисленные исследования подтверждают растущее мнение о том, что активное обучение является одним из наиболее эффективных подходов к образованию, однако разработка стратегий активного обучения может потребовать усилий, а студентам все равно необходимо соответствующее начальное обучение. Так как же могут сосуществовать активное и пассивное обучение?

Одним из решений для внедрения более активного обучения является "перевернутый" класс. Студенты изучают новые понятия дома, обычно с помощью видео или других цифровых ресурсов, а затем применяют полученные знания в классе в ходе совместной деятельности, обсуждений или упражнений по решению проблем. Основная идея "перевернутых" классов заключается в том, чтобы максимально использовать время в классе для активного обучения и критического мышления, а также использовать домашнее обучение для передачи контента. Ценность перевернутых классов неоднозначна и зависит от того, способствуют ли они активному обучению или нет.

Таким образом, проблема внедрения активного обучения заключается в нехватке качественных ресурсов, начиная от времени преподавателя и заканчивая сложностью поиска хороших "перевернутых" учебных материалов, что сохраняет статус-кво, при котором активное обучение остается редкостью. Именно здесь ИИ выступает в качестве партнера, а не замены, поскольку учителя-люди могут проверять факты и направлять ИИ так, чтобы помочь своему классу. Системы искусственного интеллекта могут помочь учителям создавать индивидуальные активные учебные занятия, чтобы сделать их более интересными, - от игр и занятий до оценок и симуляций. Например, профессор истории Бенджамин Брин использовал ChatGPT для создания симулятора "Черной смерти", с помощью которого студенты получили более полное представление о том, каково было жить во времена чумы, чем из стандартного учебника. Студентам, как правило, нравилось это задание, но они также делали вещи, которые его удивляли: использовали гибкость ИИ, чтобы возглавить крестьянские восстания или разработать первые вакцины против чумы. Трудно представить, что до появления искусственного интеллекта студенты постоянно получали подобный образовательный опыт.

Но искусственный интеллект позволяет внести более фундаментальные изменения в процесс обучения, не ограничиваясь лишь проведением занятий в классе. Представьте себе, что в модель "перевернутого класса" можно внедрить высококачественные ИИ-репетиторы. Эти системы, работающие на базе ИИ, способны значительно повысить эффективность обучения студентов и сделать "перевернутые классы" еще более эффективными. Они обеспечивают персонализированное обучение, при котором ИИ-репетиторы могут адаптировать обучение к уникальным потребностям каждого ученика, постоянно корректируя контент в зависимости от успеваемости. Это означает, что студенты могут более эффективно работать с контентом дома и приходить на занятия лучше подготовленными и готовыми к практическим занятиям и дискуссиям.

Благодаря тому, что ИИ-репетиторы берут на себя часть работы с контентом вне урока, учителя могут уделять больше времени содержательному взаимодействию с учениками во время занятий. Они также могут использовать информацию, полученную от ИИ-репетиторов, для определения областей, в которых ученикам может потребоваться дополнительная поддержка или руководство, что позволит учителям обеспечить более персонализированное и эффективное обучение. А с помощью ИИ они смогут разрабатывать более эффективные возможности для активного обучения в классе, чтобы убедиться, что знания усваиваются.

Это не несбыточная мечта далекого будущего. Инструменты Академии Khan (и некоторые наши собственные эксперименты) показывают, что существующий ИИ, если его правильно подготовить, уже является отличным репетитором. Khan Academy's Khanmigo выходит за рамки пассивных видео и викторин, которые сделали Khan Academy знаменитой, и включает в себя репетиторство ИИ. Студенты, конечно, могут попросить репетитора объяснить концепции, но он также способен проанализировать модели выполнения заданий, чтобы понять, почему студент испытывает трудности в изучении той или иной темы, и предоставить гораздо более глубокую помощь. Он даже может ответить на самый сложный вопрос "Зачем мне это учить?", объяснив на сайте , как такая тема, как клеточное дыхание, связана со студентом, который хочет стать футболистом (аргумент ИИ: это поможет ему понять питание и, следовательно, спортивные результаты).

Студенты уже используют ИИ в качестве инструмента обучения. Преподаватели уже используют ИИ для подготовки к занятиям. Перемены уже наступили, и рано или поздно мы все с ними столкнемся. Возможно, это заставит нас изменить модели, но это будет сделано так, чтобы в конечном итоге повысить эффективность обучения и сократить объем работы. И, что самое интересное, эти изменения, скорее всего, будут происходить во всем мире. Образование - это ключ к росту доходов и даже интеллекта. Но две трети молодежи в мире, в основном в менее развитых странах, не имеют базовых навыков, потому что школьные системы их не удовлетворяют. Преимущества образования в мире огромны; в одном из недавних исследований говорится, что ликвидация этого разрыва будет стоить пятикратного мирового ВВП этого года! Казалось бы, решение всегда заключалось в использовании образовательных технологий (EdTech для своих друзей). Но каждое решение EdTech не оправдало надежд на получение высококлассного образования, поскольку мы обнаружили ограниченность различных программ, начиная от предоставления детям бесплатных ноутбуков и заканчивая созданием масштабных видеокурсов. Другие амбициозные проекты EdTech также столкнулись с подобными проблемами при внедрении высококачественных продуктов в масштабе. Прогресс налицо, но он недостаточно быстрый.

Но ИИ все изменил: учителя миллиардов людей по всему миру получили доступ к инструменту, который потенциально может стать самой совершенной образовательной технологией. Когда-то образовательные технологии были исключительной привилегией миллионных бюджетов и команд экспертов, теперь они находятся в руках педагогов. Возможность раскрыть талант и сделать школьное образование лучше для всех - от учеников до учителей и родителей - невероятно интересна. Мы стоим на пороге эры, когда искусственный интеллект изменит наши методы обучения - расширит возможности учителей и учеников и перестроит учебный процесс, - и, надеемся, добьется двух сигма-улучшений для всех. Вопрос лишь в том, сможем ли мы направить эти изменения таким образом, чтобы они соответствовали идеалам расширения возможностей для каждого и развития человеческого потенциала.

8

.

A

И

В КАЧЕСТВЕ ТРЕНЕРА

Большая опасность, которую представляет ИИ для нашей системы образования, - это не уничтожение домашних заданий, а скорее подрыв скрытой системы ученичества, которая возникает после формального образования. Для большинства профессиональных работников выход из школы на работу знаменует начало их практического образования, а не его конец. За образованием следуют годы обучения на рабочем месте, которое может варьироваться от организованных учебных программ до нескольких лет поздних ночей и сердитых начальников, кричащих на вас по поводу мелких поручений. Эта система не была разработана централизованно, как часть нашей образовательной системы, но она имеет решающее значение для того, как мы учимся выполнять реальную работу.

Люди традиционно приобретают опыт, начиная с самых низов. Ученик плотника, стажер в журнале, медицинский ординатор. Обычно это довольно ужасная работа, но она служит определенной цели. Только учась у более опытных экспертов в той или иной области, пробуя и терпя неудачи под их руководством, дилетанты становятся экспертами. Но с появлением ИИ ситуация может быстро измениться. Как бы стажеру или юристу-первокурснику ни нравилось, когда на него кричат за плохо выполненную работу, его начальник обычно предпочитает просто быстро выполнить работу, а не разбираться с эмоциями и ошибками реального человека. Поэтому они будут делать это сами с помощью искусственного интеллекта, который, если еще и не является эквивалентом старшего специалиста во многих задачах, зачастую лучше, чем новый стажер. Это может создать серьезный пробел в обучении.

Профессор Мэтью Бин, изучающий робототехнику в Калифорнийском университете в Санта-Барбаре, показал, что это уже происходит среди хирургов. Медицинские роботы находятся в больницах уже более десяти лет, помогая проводить операции, в то время как врачи рядом управляют ими с помощью контроллеров, напоминающих видеоигры. Хотя данные о хирургических роботах неоднозначны, во многих случаях они оказываются полезными. Но они также создают огромную проблему в обучении.

При обычном обучении хирургии опытные врачи и стажеры могут работать рядом друг с другом, при этом врач аккуратно помогает стажеру, наблюдая и пробуя техники. При роботизированной хирургии робот управляется только одним врачом, обычно старшим хирургом, а стажеры вынуждены наблюдать за работой робота, недолго поработать с ним или просто на тренажерах. В условиях огромной нехватки времени ординаторам приходилось выбирать между обучением традиционным хирургическим навыкам и освоением новых роботов в свободное время. В итоге многие врачи оказались недостаточно подготовленными, а те, кто хотел научиться пользоваться роботизированным хирургическим оборудованием, ушли от официальных каналов. Они занимались собственным "теневым обучением", просматривая каналы на YouTube или тренируясь на живых пациентах больше, чем, возможно, следовало.

Подобный кризис обучения будет распространяться по мере того, как ИИ будет автоматизировать все больше и больше базовых задач. Даже если эксперты станут единственными людьми, которые смогут эффективно проверять работу все более способных ИИ, мы рискуем остановить конвейер, создающий экспертов. Чтобы быть полезным в мире ИИ, необходимо обладать высоким уровнем человеческой компетентности. Хорошо, что педагоги кое-что знают о том, как создавать экспертов. По иронии судьбы, это означает возвращение к основам, но адаптированным для среды обучения, которая уже была революционизирована ИИ.

Создание экспертных знаний в эпоху искусственного интеллекта

ИИ хорошо справляется с поиском фактов, обобщением статей, написанием текстов и задачами кодирования. А обученные на огромных массивах данных и имеющие доступ к интернету, большие языковые модели, похоже, накопили и освоили множество коллективных человеческих знаний . Это огромное и доступное для использования хранилище знаний теперь у каждого под рукой. Поэтому может показаться логичным, что обучение основным фактам устарело. Однако оказалось, что все совсем наоборот.

В этом заключается парадокс приобретения знаний в эпоху ИИ: нам может казаться, что нам не нужно работать над запоминанием и накоплением базовых навыков или созданием хранилища фундаментальных знаний - в конце концов, это то, что хорошо умеет делать ИИ. Фундаментальные навыки, которые всегда утомительно изучать, кажутся устаревшими. И они могли бы быть таковыми, если бы существовал короткий путь к экспертности. Но путь к экспертности требует опоры на факты.

Изучение любого навыка и овладение любой областью требует заучивания, тщательного формирования навыков и целенаправленной практики, и ИИ (и будущие поколения ИИ), несомненно, будет лучше новичка во многих ранних навыках. Например, исследователи из Стэнфорда обнаружили, что ИИ GPT-4 набрал больше баллов, чем студенты-медики первого и второго курсов на выпускных экзаменах по клинической логике. Соблазн может заключаться в том, чтобы передать эти базовые навыки ИИ. В конце концов, врачи с удовольствием используют медицинские приложения и интернет для диагностики пациентов, а не просто заучивают медицинскую информацию. Разве это не то же самое?

Проблема в том, что для того, чтобы научиться критически мыслить, решать проблемы, понимать абстрактные концепции, решать новые задачи и оценивать результаты работы ИИ, нам нужен опыт в данной области. Педагог-эксперт, знающий своих учеников и класс, а также обладающий педагогическими знаниями, может оценить написанный ИИ учебный план или сгенерированный ИИ тест; опытный архитектор, хорошо знающий принципы проектирования и строительные нормы, может оценить осуществимость предложенного ИИ плана здания; опытный врач, обладающий обширными знаниями анатомии и болезней человека, может тщательно проанализировать сгенерированный ИИ диагноз или план лечения. Чем ближе мы подходим к миру киборгов и кентавров, в котором ИИ дополняет нашу работу, тем больше нам нужно поддерживать и развивать человеческий опыт. Нам нужны эксперты-люди.

Итак, давайте рассмотрим, что нужно для накопления опыта. Во-первых, для этого необходима основа знаний. На самом деле у человека много систем памяти, и одна из них, рабочая память, является центром решения проблем в мозге, нашим рабочим пространством. Мы используем хранящиеся в рабочей памяти данные для поиска нужной информации в нашей долгосрочной памяти (огромной библиотеке того, что мы узнали и пережили). Рабочая память - это также место, где начинается обучение. Однако рабочая память ограничена как по объему, так и по продолжительности: в среднем у взрослого человека она занимает от 3 до 5 "слотов", а продолжительность запоминания каждого нового фрагмента информации составляет менее 30 секунд ( ). Несмотря на эти ограничения, у рабочей памяти есть и сильные стороны, например, способность вызывать из долгосрочной памяти неограниченное количество фактов и процедур для решения задач. Поэтому, хотя рабочая память имеет ограничения при работе с новой информацией, эти ограничения исчезают при работе с ранее выученной информацией, хранящейся в долгосрочной памяти. Другими словами, чтобы решить новую проблему, нам нужна связанная информация, и много информации, которая хранится в нашей долгосрочной памяти. А это значит, что нам нужно выучить много фактов и понять, как они связаны между собой.

После этого нужно практиковаться. Важно не столько определенное количество времени практики (10 000 часов - это не магический порог, что бы вы ни читали), сколько, как обнаружил психолог Андерс Эрикссон, тип практики. Эксперты становятся экспертами благодаря осознанной практике, которая гораздо сложнее, чем просто многократное повторение задачи. Напротив, осознанная практика требует серьезной вовлеченности и постоянного повышения уровня сложности. Для этого также необходим тренер, учитель или наставник, который может обеспечить обратную связь и тщательное обучение, а также вывести ученика за пределы его зоны комфорта.

Возьмем, к примеру, мир классического фортепиано. Представьте себе двух учениц: Софи и Наоми. Софи проводит время после обеда, играя одни и те же произведения, которые ей хорошо знакомы, снова и снова. Она может заниматься этим часами напролет, полагая, что простое повторение улучшит ее навыки. Она испытывает чувство удовлетворения от того, что у нее все лучше и лучше получается. Наоми, напротив, проводит свои занятия под руководством опытного преподавателя по фортепиано. Она начинает с гамм, а затем переходит к более сложным произведениям. Когда она допускает ошибки, преподаватель указывает ей на них, но не для того, чтобы наказать, а чтобы помочь понять и исправить их. Наоми также регулярно ставит перед собой цели, например, освоить особенно сложный раздел произведения или повысить скорость и ловкость исполнения определенных пассажей. Этот процесс гораздо менее увлекателен, чем опыт Софи, потому что задачи Наоми растут вместе с ее мастерством, и она постоянно сталкивается с определенными трудностями. И все же со временем, даже если обе ученицы будут заниматься одинаковое количество часов, Наоми, скорее всего, превзойдет Софи в мастерстве, точности и технике. Эта разница в подходах и результатах иллюстрирует разницу между простым повторением и целенаправленной практикой. Последняя, с ее элементами вызова, обратной связи и постепенного развития, является истинным путем к мастерству.

Но такая практика очень трудна. Она требует плана, а также тренера, который может постоянно предоставлять обратную связь и наставничество. Хорошие тренеры - редкость, и они сами по себе являются квалифицированными специалистами, поэтому получить наставничество, необходимое для успеха в осознанной практике, очень сложно. Возможно, ИИ поможет решить эти проблемы, создав лучшую систему обучения, чем та, которую мы имеем сегодня.

Давайте окунемся в мир архитектуры. Представьте себе двух начинающих архитекторов, Алекса и Раджа. Оба только что окончили лучшие архитектурные вузы, полны свежих идей и желания проектировать. Алекс начинает свой путь с составления проектов традиционными методами. Он часто просматривает известные архитектурные чертежи и раз в неделю получает отзывы от старшего архитектора в своей фирме. Он верит, что, постоянно делая наброски и дорабатывая свои проекты, он постепенно будет совершенствоваться. Хотя этот процесс действительно помогает ему учиться, он ограничен частотой обратной связи и глубиной анализа, который его наставник может предоставить за короткий период.

Радж, напротив, интегрировал в свой рабочий процесс помощника по архитектурному проектированию, управляемого искусственным интеллектом. Каждый раз, когда он создает проект, ИИ обеспечивает мгновенную обратную связь. Он может выделить структурные недостатки, предложить улучшения на основе экологичных материалов и даже предсказать потенциальные затраты. Более того, ИИ предлагает сравнить проекты Раджа с обширной базой данных других инновационных архитектурных работ, подчеркивая различия и предлагая области для улучшения. Вместо того чтобы просто итерировать проекты, Радж после каждого проекта проводит структурированную рефлексию благодаря знаниям, полученным от ИИ. Это сродни наставнику, который наблюдает за ним на каждом шагу, подталкивая его к совершенству.

В течение нескольких месяцев разница между траекториями роста Алекса и Раджа становится очевидной. В то время как проекты Алекса зреют и развиваются, темпы его роста значительно ниже. Его сеансы обратной связи, проводимые раз в неделю, хотя и ценны, но не дают того немедленного, глубокого анализа, который Радж получает после каждой итерации дизайна. Подход Раджа с помощью искусственного интеллекта воплощает в себе суть преднамеренной практики. Последовательная и быстрая обратная связь в сочетании с целенаправленными предложениями по улучшению гарантирует, что он не просто практикует больше, он практикует лучше. В этом контексте ИИ для Раджа - не просто инструмент; он выступает в роли постоянно присутствующего наставника, гарантирующего, что каждая попытка - это не просто создание очередного проекта, а осознанное понимание и совершенствование его архитектурного подхода.

Современный ИИ не может реализовать всю эту концепцию. Он не способен связывать сложные концепции и по-прежнему слишком часто галлюцинирует. Тем не менее, в ходе экспериментов в Уортоне мы обнаружили, что современный искусственный интеллект в ограниченных масштабах может быть довольно впечатляющим тренером, предлагая своевременное поощрение, обучение и другие элементы целенаправленной практики. Например, мы создали симулятор с использованием ИИ, чтобы научить людей подавать свои идеи. Сначала пользователи получают инструкцию и возможность задать ИИ вопросы о том, что они узнали (при этом ИИ предлагается дать совет по подаче идей так, как это делаю я на своих занятиях). Затем они переходят к практической сессии, где по другой подсказке ИИ имитирует венчурного капиталиста, который проверяет их подачу и идею. Все это время другой экземпляр того же ИИ собирает данные об их работе, включая секретные "заметки", которые вели предыдущие ИИ. В конце практической сессии этот ИИ оценивает их работу, а затем передает их последнему ИИ, которому поручено выступить в роли наставника. Это финальное взаимодействие помогает им осмыслить полученные знания и побуждает их попробовать еще раз. Хотя нам пришлось импровизировать, чтобы обойти слабые места современных моделей ИИ с помощью этой сложной системы, такие как отсутствие памяти, в будущем мы можем ожидать, что ИИ будет справляться со всеми этими ролями естественным образом. Это может стать большим толчком к приобретению опыта.

Когда каждый является экспертом

Я уже приводил аргументы в пользу того, что экспертность будет иметь большее значение, чем раньше, потому что эксперты смогут получить максимум от коллег ИИ и, скорее всего, смогут проверять факты и исправлять ошибки ИИ. Но даже при целенаправленной практике не каждый сможет стать экспертом во всем. Талант тоже играет свою роль. Как бы мне ни хотелось стать художником мирового класса или звездой футбола, я никогда им не стану, сколько бы ни тренировался. На самом деле, для самых элитных спортсменов целенаправленная практика объясняет лишь 1 процент их отличий от обычных игроков - все остальное - это генетика, психология, воспитание и удача.

И это относится не только к спортсменам. В Кремниевой долине рассказывают истории о "10-кратном инженере". То есть высокопроизводительный инженер-программист в 10 раз лучше среднего. На самом деле эта тема неоднократно изучалась, хотя большинство из этих исследований довольно старые. Но эти эксперименты обнаружили еще больший эффект, чем 10-кратный. Разрыв между программистами из 75-го процентиля и 25-го процентиля может достигать 27 раз по некоторым параметрам качества программирования. Добавьте это к моему собственному исследованию , посвященному работе, которую многие люди считают невероятно скучной и шаблонной - менеджменту среднего звена. Изучая индустрию видеоигр, я обнаружил, что качество менеджера среднего звена, курирующего игру, объясняет более пятой части доходов игры в конечном итоге. Это влияние было больше, чем влияние всей команды менеджеров высшего звена, и больше, чем влияние дизайнеров, которые придумывали креативные идеи для самой игры.

Если вы сможете найти, обучить и удержать этих лучших работников, вы получите огромные преимущества. Большая часть обучения и работы направлена на то, чтобы довести людей до такого высококвалифицированного состояния. Однако люди, хорошо владеющие одним навыком, могут быть не очень хороши в другом. Современная профессиональная деятельность состоит из широкого спектра действий, а не из одной специализации. Например, работа врача может включать в себя множество задач, таких как диагностика пациентов, лечение, консультирование, заполнение отчетов о расходах и контроль за персоналом офиса. Маловероятно, что какой-либо врач одинаково хорошо справляется со всеми этими задачами. Даже у самых лучших работников есть слабые места, поэтому они должны быть частью больших организаций, чтобы иметь возможность сосредоточиться на своей области знаний.

Но, как мы уже говорили ранее, нам уже известен один главный эффект ИИ: он выравнивает игровое поле. Если вы находились в нижней половине распределения навыков в написании текстов, генерации идей, анализе или выполнении ряда других профессиональных задач, вы, скорее всего, обнаружите, что с помощью ИИ вы стали довольно хороши. Это не новое явление - роботы-хирурги, о которых мы говорили в начале главы, наиболее полезны для самых низких результатов, - но ИИ гораздо более общего назначения, чем роботы-хирурги.

В каждой области мы обнаруживаем, что человек, работающий с искусственным интеллектом, превосходит всех, кроме самых лучших людей, работающих без искусственного интеллекта. В нашем исследовании Boston Consulting Group, где ранее разрыв между средними показателями лучших и низших специалистов составлял 22 %, после использования GPT-4 разрыв сократился всего до 4 %. В творческом писательстве получение идей от искусственного интеллекта " эффективно уравнивает баллы за креативность между менее и более творческими писателями", согласно одному из исследований. А студенты-юристы, находящиеся в нижней части класса, при использовании ИИ сравнялись по успеваемости с людьми из верхней части класса (у которых при использовании ИИ наблюдалось небольшое снижение). Авторы исследования пришли к выводу: "Это говорит о том, что ИИ может оказывать выравнивающее воздействие на профессию юриста, смягчая неравенство между элитными и неэлитными юристами". Все становится еще более экстремальным. Я участвовал в дискуссии о будущем образования с генеральным директором компании Turnitin, занимающейся выявлением плагиата. Он сказал: "Большинство наших сотрудников - инженеры, их у нас несколько сотен... и я думаю, что через восемнадцать месяцев нам понадобится двадцать процентов из них, и мы можем начать нанимать их из средней школы, а не из четырехлетних колледжей. То же самое касается продаж и маркетинга". Из аудитории послышались вздохи.

Так приведет ли ИИ к смерти экспертизы? Я так не думаю. Как мы уже говорили, рабочие места состоят не из одной автоматизируемой задачи , а из набора сложных задач, которые все равно требуют человеческого суждения. К тому же, из-за Jagged Frontier вряд ли удастся выполнить все задачи, за которые отвечает работник. Улучшение производительности в нескольких областях не обязательно приведет к замене; напротив, это позволит работникам сосредоточиться на создании и оттачивании узкого сегмента экспертизы, став человеком в контуре.

Но не исключено, что может появиться новый тип экспертов. Хотя, как мы уже говорили в предыдущей главе, оперативная разработка вряд ли будет полезна большинству людей, это не значит, что она совершенно бесполезна. Возможно, работа с ИИ сама по себе является формой экспертизы. Возможно, некоторые люди просто очень хороши в этом. Они могут перенять киборгские практики лучше других и обладают природным (или выученным) даром работать с системами LLM. Для них ИИ - это огромное благословение, которое изменит их место в работе и обществе. Другие люди могут получить небольшую выгоду от этих систем, но эти новые короли и королевы ИИ получают улучшения на порядки больше. Если этот сценарий верен, они станут новыми звездами нашей эпохи ИИ, и их будут искать все компании и учреждения, как сегодня набирают других лучших специалистов.

Я, а также мой частый коллега и эксперт по преподаванию с использованием новых технологий (и супруг) доктор Лилах Моллик, сами испытали это на себе. Когда летом 2023 года вокруг ИИ поднялась шумиха и тревога, мы оказались востребованы как люди, способные наилучшим образом сочетать знания в области педагогики с глубоким опытом создания подсказок. Крупные ИИ-компании, включая OpenAI и Microsoft, использовали наши подсказки в качестве примеров для использования в классах, а сами подсказки цитировались и передавались в образовательные учреждения по всему миру. Хотя мы не считали себя обладателями особых навыков в создании подсказок, мы обнаружили, что у нас очень хорошо получается заставлять ИИ плясать под нашу дудку. Мы не знаем, почему у нас это получается (опыт? Опыт в разработке игр и преподавании? Способность принимать "перспективу" ИИ, преподавателя и студента? Наш опыт в написании инструкций для разных аудиторий?), но это говорит о том, что может быть роль людей, которые являются экспертами в работе с ИИ в определенных областях. Мы просто еще не определили конкретные навыки или опыт, которые позволят "разговаривать" с ИИ.

Будущее с искусственным интеллектом требует, чтобы мы сами стали экспертами в этой области. Поскольку экспертные знания требуют фактов, студентам все равно придется изучать чтение, письмо, историю и все остальные базовые навыки, необходимые в XXI веке. Мы уже видели, как эти обширные знания могут помочь людям извлечь максимум пользы из ИИ. Кроме того, мы должны продолжать иметь образованных граждан, а не делегировать все наши мысли машинам. Студентам также может понадобиться начать развивать узкую направленность, выбирая область, в которой они смогут лучше работать с ИИ в качестве экспертов. В то же время общий диапазон наших способностей будет расширяться, так как ИИ будет заполнять пробелы и помогать нам повышать собственную квалификацию. Если возможности ИИ не изменятся радикально, то вполне вероятно, что ИИ действительно станет нашим со-интеллектом, помогая нам заполнять пробелы в наших собственных знаниях и подталкивая нас к тому, чтобы самим становиться лучше. Но это не единственное будущее, о котором мы должны думать.

9.

A

И КАК НАШЕ БУДУЩЕЕ

Может показаться, что эта книга полна научной фантастики, но все, что я описываю, уже произошло. Мы создали странный инопланетный разум, который не является разумным, но может удивительно хорошо его имитировать. Он обучается на огромных архивах человеческих знаний, а также на спинах низкооплачиваемых рабочих. Он может проходить тесты и действовать творчески, способный изменить наши методы работы и обучения; но он также регулярно выдумывает информацию. Вы больше не можете доверять тому, что все, что вы видите, слышите или читаете, не было создано ИИ. Все это уже произошло. Люди - ходячие и говорящие мешки с водой и микрохимикатами, которыми мы являемся, - сумели убедить хорошо организованный песок притвориться, что он думает так же, как мы.

Что будет дальше - это научная фантастика, вернее, научные выдумки, потому что существует множество возможных вариантов развития событий. Я вижу четыре четких варианта того, что произойдет в ближайшие несколько лет в мире ИИ. Однако последствия каждой из них не столь очевидны. Я хочу рассказать вам о каждой из этих возможностей и о том, как в результате будет выглядеть мир.

Давайте начнем с самого маловероятного будущего, которое, как ни тревожно, не является возможностью AGI. Гораздо менее вероятной является возможность того, что ИИ уже достиг своих пределов, но именно с этого мы и начнем.

Сценарий 1: Как бы хорошо это ни было

Что если ИИ перестанет делать огромные скачки вперед? Конечно, здесь и там могут быть небольшие улучшения, но в этом будущем они будут исчезающе малы по сравнению с огромными скачками, которые мы видели в GPT-3.5 и GPT-4. ИИ, который вы используете сейчас, действительно лучший из тех, что вы когда-либо будете использовать.

С технической точки зрения такой исход кажется нереальным. Нет причин подозревать, что мы достигли какого-то естественного предела в способности ИИ к совершенствованию. Но это не значит, что ИИ неизбежно будет становиться все умнее: исследователи выявили множество возможных проблем с архитектурой и обучением, которые в какой-то момент могут ограничить их возможности. Например, у систем ИИ могут закончиться данные для обучения; или стоимость и усилия по наращиванию вычислительной мощности для работы ИИ могут стать слишком большими, чтобы их оправдать. Однако нет достаточных доказательств того, что предел уже достигнут, и даже если бы он был достигнут, есть и другие изменения, которые можно внести в LLM, чтобы выжать из систем больше на годы вперед. И LLM - это лишь один из подходов к ИИ; другие технологии-преемники могут преодолеть эти ограничения.

Чуть более вероятен мир, в котором нормативные или юридические меры остановят развитие ИИ в будущем. Возможно, эксперты по безопасности ИИ убедят правительства запретить разработку ИИ, дополнив это угрозами применения силы против тех, кто посмеет нарушить эти ограничения. Но, учитывая, что большинство правительств только начинают рассматривать вопрос о регулировании, а также отсутствие международного консенсуса, представляется крайне маловероятным, что глобальный запрет произойдет в ближайшее время или что регулирование заставит развитие ИИ остановиться.

Тем не менее, похоже, что большинство людей и организаций планируют именно этот сценарий. И я понимаю это отрицание. Большинство людей не просили создавать ИИ, который сможет выполнять множество задач, ранее предназначенных для людей. Учителя не хотели, чтобы почти все виды домашних заданий мгновенно решались компьютером. Работодатели не хотели, чтобы высокооплачиваемые задачи, которые имеют смысл только при выполнении человеком (оценка работы, отчетность), вместо них выполняли машины. Правительственные чиновники не хотели, чтобы совершенная система дезинформации была выпущена без каких-либо полезных контрмер. Мир стал гораздо более странным, причем очень быстро.

Поэтому неудивительно, что многие люди пытаются справиться с последствиями ИИ, полагая, что ничего не изменится, запрещая его навсегда или даже воображая, что изменения, вызванные ИИ, можно легко сдержать. Как мы уже убедились, такая политика вряд ли сработает. Хуже того, существенные преимущества ИИ будут значительно уменьшены, если пытаться делать вид, что все происходит так же, как и в предыдущие волны технологий, когда на изменения уходят десятилетия.

Даже если ИИ не будет развиваться дальше, некоторые его последствия уже неизбежны. Первые изменения, которые произойдут с ИИ, будут связаны с тем, как мы понимаем и не понимаем мир. Уже сейчас невозможно отличить сгенерированные ИИ изображения от реальных, и это просто с помощью инструментов, доступных сегодня любому человеку. Видео и голос также легко подделать. Информационная среда в Интернете станет совершенно неуправляемой, а специалисты по проверке фактов будут захлестнуты потоком информации. Создать фальшивые изображения сейчас лишь немногим сложнее, чем сделать настоящие фотографии. Каждое изображение политика, знаменитости или войны может быть выдумано - и это невозможно определить. Наш и без того хрупкий консенсус относительно того, какие факты являются реальными, скорее всего, быстро рассыплется.

Технологические решения вряд ли спасут нас. Попытки отследить происхождение изображений и видео с помощью водяных знаков, созданных ИИ , могут быть пресечены относительно простыми изменениями в основном контенте. И это при условии, что люди, подделывающие изображения и видео, используют коммерческие инструменты - идентифицировать контент, созданный ИИ, будет еще сложнее, поскольку правительства разрабатывают свои собственные системы, а модели с открытым исходным кодом распространяются все шире. Возможно, в каком-то будущем ИИ поможет нам отсеивать нечистоты, но ИИ, как известно, ненадежен в обнаружении ИИ-контента, так что это тоже кажется маловероятным.

Есть только несколько вариантов развития событий. Возможно, возродится доверие к основным СМИ, которые смогут выступать в роли арбитров, определяющих, какие изображения и истории являются настоящими, тщательно отслеживая происхождение каждой истории и артефакта. Но это кажется маловероятным. Второй вариант заключается в том, что мы еще больше разделимся на племена, веря той информации, которой хотим верить, и игнорируя как фальшивую ту, на которую не хотим обращать внимания. Вскоре даже самые элементарные факты будут вызывать споры. Этот рост все более изолированных информационных пузырей кажется гораздо более вероятным, ускоряя тенденцию, существовавшую до появления LLM. Последний вариант - полный отказ от онлайн-источников новостей, поскольку они настолько загрязнены фальшивой информацией, что перестают быть полезными. Независимо от того, в каком направлении мы двинемся, даже без достижений в области ИИ наше отношение к информации изменится.

Изменится и наше личное отношение к ИИ. Нынешние системы уже достаточно хороши, чтобы казаться человеческими, а при небольших настройках, как показывают исследования, ИИ может стать еще более увлекательным, возможно, даже тревожным. Один крупный эксперимент на платформе с миллионами пользователей показал, что обучение модели выдавать результаты , которые заставляют людей общаться, приводит к тому, что пользователи остаются на 30 % дольше, а разговоры становятся гораздо более продолжительными. Это говорит о том, что даже без технологического прогресса общение с ботами будет становиться все более интересным. Нынешние системы недостаточно хороши, чтобы стать глубокими собеседниками, но, возможно, мы начнем замечать, что люди предпочитают взаимодействовать с ИИ, а не с людьми.

И другие тенденции, о которых мы уже говорили, теперь также неизбежны. Даже если предположить, что дальнейшее совершенствование LLM не произойдет, ИИ окажет большое влияние на задачи многих работников, особенно тех, кто занят высокооплачиваемым творческим и аналитическим трудом. Однако ИИ в его нынешнем состоянии оставляет много места для задач киборгов, а человеческие способности во многих случаях превосходят возможности ИИ. Хотя работа изменится, если ИИ не будет развиваться дальше, он, скорее всего, будет работать как дополнение к человеку, облегчая бремя утомительной работы и повышая производительность, особенно среди низкоэффективных работников. Это не означает, что некоторые профессии и отрасли не окажутся под угрозой - например, большинство переводческих работ, скорее всего, будут в значительной степени вытеснены ИИ. Нынешние системы недостаточно хорошо понимают контекст, нюансы и планирование.

Скорее всего, ситуация изменится.

Сценарий 2: Медленный рост

Возможности искусственного интеллекта растут экспоненциальными темпами, но в большинстве случаев экспоненциальный рост технологий в конце концов замедляется. ИИ может преодолеть этот барьер в ближайшее время. Практически это означает, что вместо десятикратного увеличения мощности в год рост замедлится и составит, возможно, 10 или 20 процентов в год. Есть много причин, по которым это может произойти. Это и растущие расходы на обучение, и нормативные требования. Как и возможность того, что мы скоро достигнем технических пределов для больших языковых моделей, как утверждает ряд ученых, включая профессора (и главного специалиста по ИИ в Meta) Яна ЛеКуна. Это потребует от нас поиска новых технологических подходов к разработке ИИ, чтобы продолжить работу. Как бы это ни произошло, такое замедление темпов развития все равно будет впечатляющим, хотя и понятным. Вспомните, как телевизоры становятся немного лучше с каждым годом. Вам не нужно выбрасывать свой старый телевизор, но новый, скорее всего, будет намного лучше и дешевле, чем тот, который вы купили несколько лет назад. Благодаря таким линейным изменениям мы можем видеть будущее и планировать его.

Все, что происходит в сценарии 1, по-прежнему происходит. Злодеи по-прежнему используют ИИ для подделки информации в Интернете, но со временем способность ИИ выполнять более сложную работу делает их еще более опасными. Ваш электронный почтовый ящик наводняется точно рассчитанными на вас целевыми сообщениями (рекламные компании уже делают персонализированные видеоролики для миллионов пользователей с помощью ИИ), некоторые из которых являются мошенничеством или попытками фишинга. Вы получаете телефонные звонки голосом близких людей, которые просят деньги под залог. Во время следующей войны каждый сотрудник министерства обороны начинает получать очень специфические текстовые сообщения с угрозами, в которых содержатся сгенерированные ИИ видеоролики с изображением их семьи. Некомпетентные преступники и террористы используют способность ИИ повышать производительность, чтобы стать более эффективными убийцами.

Такие возможности пугают, но, поскольку ИИ развивается размеренными темпами, худшие варианты развития событий могут и не произойти. Первые инциденты, когда ИИ используется для создания опасных химикатов или оружия, могут привести к эффективному регулированию, чтобы замедлить распространение опасных применений. Коалиции компаний и правительств или, возможно, сторонники конфиденциальности с открытым исходным кодом могли бы успеть разработать правила использования, которые позволят людям устанавливать свою личность таким образом, чтобы ее можно было проверить, устранив часть угрозы самозванства.

И с каждым годом персоны, создаваемые ИИ, становятся все более реалистичными, раздвигая границы. В видеоиграх появляются сгенерированные ИИ неигровые персонажи, появляются первые персонализированные фильмы с ИИ, в которых вы можете сами выбирать, как будут развиваться сцены или персонажи. Становится более привычным пользоваться услугами ИИ-терапевта, а взаимодействие со смесью реальных людей и ИИ-чатботов становится обычным способом ведения бизнеса. И снова замедление роста ИИ дает возможность обществу приспособиться к этим изменениям. Законы требуют маркировать контент ИИ, а социальные нормы, касающиеся использования чат-ботов в качестве друзей, продолжают следить за тем, чтобы большинство людей проводили свое время с реальными людьми.

Работа все больше трансформируется. Каждый год модели искусственного интеллекта делают больше, чем они могли сделать годом ранее, создавая волны, которые прокатываются по всем отраслям. Во-первых, рынок колл-центров стоимостью 100 миллиардов долларов в год трансформируется, поскольку агенты ИИ начинают дополнять людей. Далее, большинство рекламных и маркетинговых текстов выполняются в основном ИИ при ограниченном руководстве людей-киборгов. Вскоре ИИ будет выполнять множество аналитических задач и все больший объем работы по кодированию и программированию. В целом, однако, более медленные темпы изменений означают, что эта волна разрушений похожа на те, что были в прошлом у технологий общего назначения. Задачи меняются чаще, чем рабочие места, и рабочих мест создается больше, чем уничтожается. Серьезное внимание к переобучению и нацеливанию навыков на работу с ИИ поможет снизить наихудшие риски.

Но начинают появляться и первые преимущества для всего общества. В последние десятилетия темпы инноваций тревожно замедляются. Так, в недавней, убедительной и удручающей статье говорится о том, что темпы изобретательства снижаются во всех областях, от сельского хозяйства до исследования рака. Для продвижения вперед требуется больше исследователей. По сути, скорость инноваций падает на 50 процентов каждые 13 лет, что замедляет экономический рост.

Отчасти это связано с растущей проблемой самих научных исследований: их слишком много. Бремя знаний увеличивается, поскольку слишком много нужно узнать, прежде чем новый ученый получит достаточно опыта, чтобы начать проводить исследования самостоятельно. Именно поэтому половина всех новаторских открытий в науке теперь происходит после сорока лет, тогда как раньше прорывы совершали молодые ученые. Аналогичным образом, за последние 20 лет число начинающих докторов наук в области STEM снизилось на 38 %. Природа науки становится настолько сложной, что основателям PhD для достижения прогресса требуются большие команды и административная поддержка, поэтому они обращаются в крупные фирмы. Таким образом, мы имеем парадокс нашего Золотого века науки. Больше исследований публикуется большим количеством ученых, чем когда-либо, но в результате прогресс замедляется! Из-за того, что читать и усваивать приходится слишком много, в более переполненных статьями областях меньше цитируют новые работы и больше канонизируют высокоцитируемые статьи.

Но уже есть признаки того, что ИИ может помочь. Исследования успешно продемонстрировали, что можно правильно определить наиболее перспективные направления в науке, анализируя прошлые работы с помощью ИИ, в идеале сочетая человеческую фильтрацию с программным обеспечением ИИ. Другие работы показали, что ИИ демонстрирует значительные перспективы в автономном проведении научных экспериментов, поиске математических доказательств и т. д. Возможно, достижения в области ИИ помогут нам преодолеть ограничения нашей чисто человеческой науки и приведут к прорыву в понимании Вселенной и самих себя. Многие из энтузиастов ИИ, которые изначально были на сайте , на самом деле рассчитывают на то, что ИИ поможет найти способы радикально продлить и улучшить жизнь человека. Хотя линейный рост возможностей ИИ, возможно, и не сможет достичь этой высокой цели, если она вообще достижима, это поможет перезапустить замедляющиеся двигатели прогресса.

Можно рассматривать этот сценарий как плавное повышение температуры с течением времени. ИИ будет играть все большую и большую роль в нашей жизни, но постепенно, так, чтобы срывы были управляемыми. Кроме того, мы начинаем видеть и некоторые из основных преимуществ ИИ: ускорение научных открытий, рост производительности труда и расширение возможностей для образования людей по всему миру. Результаты неоднозначны, но в основном положительны. И люди по-прежнему контролируют направление, в котором движется ИИ.

Однако развитие ИИ не было линейным.

Сценарий 3: Экспоненциальный рост

Не всякий технологический рост быстро замедляется. Закон Мура, согласно которому вычислительные возможности компьютерных чипов удваиваются примерно каждые два года, действует уже пятьдесят лет. ИИ может и дальше ускоряться подобным образом. Одной из причин этого является так называемый маховик - компании, занимающиеся разработкой ИИ, могут использовать системы ИИ для создания следующего поколения программного обеспечения для ИИ. Как только этот процесс начнется, его будет трудно остановить. И такими темпами ИИ станет в сотни раз более способным в следующем десятилетии. Люди не очень хорошо представляют себе экспоненциальные изменения, и поэтому наше видение начинает в большей степени опираться на научную фантастику и догадки. Но мы можем ожидать масштабных изменений повсюду. Все, что описано в сценарии 2, происходит, но гораздо, гораздо, гораздо быстрее, и нам, соответственно, труднее это воспринять.

В этом сценарии риски более серьезны и менее предсказуемы. Каждая компьютерная система уязвима для взлома ИИ, а кампании влияния с помощью ИИ проводятся повсеместно. ИИ, все еще контролируемые людьми, генерируют новые опасные патогены и химические вещества, помогая правительствам и террористическим ячейкам достичь новых методов разрушения. Уже были признаки того, что это происходит с примитивными, до-LLM ИИ: Исследователи ИИ, создававшие инструмент для поиска новых лекарств, спасающих жизни людей, поняли, что он может делать и обратное - генерировать новые боевые отравляющие вещества. В течение шести часов на сайте был изобретен смертоносный нервно-паралитический газ VX... и кое-что похуже. При широком распространении мощных ИИ военные и преступники используют ИИ для усиления своих усилий. И в отличие от предыдущего сценария, наши нынешние правительственные системы не успевают приспособиться обычным способом.

Вместо этого "плохие" ИИ сдерживаются "хорошими" ИИ. Но в этом решении есть и оруэлловский оттенок. Все, что мы видим, должно быть отфильтровано через наши собственные системы ИИ, чтобы удалить опасную и вводящую в заблуждение информацию, что создает собственный риск возникновения "пузырей фильтров" и плохой информации. Правительства используют ИИ для борьбы с преступностью и терроризмом с помощью ИИ, что создает опасность ИИ-тократии, поскольку вездесущая слежка позволяет как диктаторам, так и демократическим государствам установить больший контроль над гражданами. Мир больше похож на киберпанковскую борьбу между властями и хакерами, использующими системы ИИ.

ИИ-компаньоны становятся гораздо более привлекательными для общения, чем большинство других людей, и могут беспрепятственно общаться с нами в режиме реального времени, причем эти изменения происходят быстрее, чем кто-либо ожидал. Одиночество становится менее актуальным, но появляются новые формы социальной изоляции, когда некоторые люди предпочитают общаться с ИИ, а не с людьми. Развлечения на базе ИИ обеспечивают невероятно индивидуальный и уникальный опыт, сочетающий игры, истории и фильмы. Это не значит, что все станут интровертами и будут общаться только с искусственными интеллектами. В этом сценарии они все еще не являются разумными, и люди все равно захотят делать человеческие вещи с другими людьми.

А в работе с людьми ИИ может помочь раскрыть человеческий потенциал. ИИ-терапевты и ассистенты помогают людям, которые хотят самосовершенствоваться, делать это по-новому. Возможность использовать ИИ для решения задач, на которые в противном случае ушли бы годы, позволяет процветать новым видам предпринимательства и инноваций. Я уже общался с физиками и экономистами, которые могут проводить гораздо более целенаправленные исследования благодаря тому, что ИИ служит как источником вдохновения, так и способом передачи на аутсорсинг трудоемких и дорогостоящих задач по программированию и написанию грантов. Возможно, ИИ-компаньоны помогут всем нам достичь целей, которые раньше были недостижимы. И, наверное, хорошо, что это возможно, потому что при таком сценарии у всех нас, скорее всего, появится больше свободного времени.

В условиях экспоненциальных изменений ИИ, в сотни раз превосходящий GPT-4, начнет фактически заменять работу человека. И не только офисную работу, поскольку есть некоторые первые свидетельства того, что LLM могут помочь нам преодолеть барьеры, которые сделали создание рабочих роботов таким сложным. Роботы, работающие на основе ИИ, и автономные агенты ИИ, контролируемые людьми, потенциально могут резко сократить потребность в человеческом труде, одновременно расширяя экономику. Приспособление к такому сдвигу, если он произойдет, трудно себе представить. Это потребует серьезного переосмысления нашего отношения к работе и обществу. Сокращенная рабочая неделя, всеобщий базовый доход и другие изменения в политике могут стать реальностью по мере того, как потребность в человеческом труде будет со временем уменьшаться. Нам придется искать новые способы занять свободное время с пользой, ведь большая часть нашей нынешней жизни сосредоточена вокруг работы.

Однако в некоторых отношениях этот сдвиг уже произошел. В 1865 году средний британец работал 124 000 часов в течение всей жизни, как и жители США и Японии. К 1980 году британские рабочие провели на работе всего 69 000 часов, несмотря на то, что жили дольше. В США, , мы провели на работе от 50 до 20 процентов своей жизни. С 1980 года продолжительность рабочего дня увеличивалась медленнее. Тем не менее, сейчас британские рабочие работают на 115 часов в год меньше, чем тогда, то есть на 6 процентов меньше. Подобные изменения происходят во всем мире. Значительная часть этого дополнительного времени была занята учебой, что вряд ли быстро изменится, даже если искусственный интеллект станет намного более способным, но мы также нашли множество других способов использовать свой досуг. Привыкание к меньшему количеству работы может оказаться менее травматичным, чем мы думаем. Никто не хочет возвращаться к шестидневной рабочей неделе на викторианских фабриках, и, возможно, скоро мы будем так же относиться к пятидневной рабочей неделе в мрачных офисах, заполненных кабинетами.

Конечно, такой уровень экспоненциальных изменений предполагает, что ИИ станет намного лучше, но при этом никогда не станет разумным или самонаводящимся. И вполне вероятно, что любой экспоненциальный рост не будет продолжаться бесконечно. Но если экспоненциальный рост будет происходить достаточно быстро или достаточно долго, то некоторые исследователи ИИ предполагают, что на определенном уровне способностей ИИ достигнет точки взлета и станет обладателем AGI и даже сверхчеловеческого интеллекта.

Сценарий 4: Бог машин

В этом четвертом сценарии машины достигают AGI и некоторой формы разумности. Они становятся такими же умными и способными, как люди. При этом нет никаких особых причин, по которым человеческий интеллект должен быть верхним пределом. Поэтому такие ИИ, в свою очередь, помогают создавать более умные ИИ. Возникает суперинтеллект. В четвертом сценарии господству человека приходит конец.

Конец господства человека не обязательно означает конец человечества. Это может быть даже лучший мир для нас, но это уже не мир, где люди занимают первое место, закончив свой хороший двухмиллионный путь. Достижение такого уровня машинного интеллекта означает, что управлять будут не люди, а ИИ. Остается надеяться, что они будут правильно следовать человеческим интересам. Возможно, они решат присматривать за нами как "машины любящей благодати", как говорится в стихотворении, решая наши проблемы и делая нашу жизнь лучше. Или же они могут рассматривать нас как угрозу, неудобство или источник ценных молекул.

Честно говоря, никто не знает, что произойдет, если мы успешно создадим сверхразум. Результаты будут потрясать мир. И если мы не дойдем до сверхразума, то даже по-настоящему разумная машина поставит под сомнение многое из того, что мы думаем о том, что значит быть человеком. Они будут настоящими инопланетными разумами во всех возможных смыслах и поставят под сомнение наше место во Вселенной не меньше, чем обнаружение инопланетян на другой планете.

Нет никаких теоретических причин, почему это не может произойти, но также нет причин подозревать, что это может произойти. Есть мировые эксперты по ИИ, которые отстаивают обе позиции. Но правда в том, что мы не знаем, есть ли прямая дорога от сегодняшних LLM к созданию настоящего AGI. И мы не знаем, поможет нам AGI или навредит, и как он это сделает. Достаточно серьезные эксперты считают, что этот риск реален, и мы должны отнестись к нему серьезно. Например, один из крестных отцов ИИ, Джеффри Хинтон, покинул эту область в 2023 году, предупредив об опасности ИИ такими заявлениями, как "Вполне возможно, что человечество - это лишь проходящий этап в эволюции интеллекта". Другие исследователи ИИ говорят о своей p(doom) - вероятности того, что ИИ приведет к вымиранию человечества. Если "вершители судеб" ИИ правы, масштабное регулирование, призванное навсегда остановить развитие ИИ, - единственный выход, каким бы маловероятным он ни казался.

Но я думаю, что слишком частое рассмотрение этого четвертого сценария также заставляет нас чувствовать себя беспомощными. Если мы сосредоточимся исключительно на рисках или выгодах создания сверхразумных машин, это лишит нас возможности рассмотреть более вероятные второй и третий сценарии - миры, где ИИ повсеместно распространен, но в значительной степени контролируется человеком. И в этих мирах нам предстоит сделать выбор, что означает ИИ.

Вместо того чтобы беспокоиться об одном гигантском ИИ-апокалипсисе, нам нужно беспокоиться о множестве мелких катастроф, которые может принести ИИ. Неумные или нервные руководители могут решить использовать эти новые инструменты для слежки и увольнений. Менее удачливые жители развивающихся стран могут пострадать от перераспределения рабочих мест. Педагоги могут решить использовать ИИ таким образом, что некоторые ученики останутся позади. И это только очевидные проблемы.

ИИ не обязательно должен быть катастрофой. Более того, мы можем планировать обратное. Дж. Р. Р. Толкиен писал именно об этом - о ситуации, которую он назвал эвкатастрофой, столь распространенной в сказках: " радость счастливого конца: или, правильнее сказать, хорошей катастрофы, внезапного радостного "поворота"... это внезапная и чудесная милость: никогда нельзя рассчитывать на повторение". При правильном использовании ИИ может создавать локальные эвкатастрофы, когда ранее утомительная или бесполезная работа становится продуктивной и расширяет возможности. Отстающие ученики могут найти новый путь вперед. А повышение производительности приведет к росту и инновациям.

Особенность широко применяемых технологий заключается в том, что решения о том, как их использовать, не ограничиваются небольшой группой людей. Многие люди в организациях будут играть определенную роль в формировании того, что ИИ означает для их команды, их клиентов, их студентов, их окружения. Но чтобы этот выбор имел значение, серьезные обсуждения должны начаться во многих местах и как можно скорее. Мы не можем ждать, пока за нас примут решение, и мир развивается слишком быстро, чтобы оставаться пассивным. Мы должны стремиться к эвкатастрофе, чтобы наше бездействие не сделало катастрофу неизбежной.

Эпилог

Как бы ни были инопланетны ИИ, они также глубоко человечны. Они обучаются на основе нашей культурной истории, и подкрепляющее обучение, полученное от людей, приводит их в соответствие с нашими целями. Они несут в себе наши предубеждения и создаются из сложной смеси идеализма, предприимчивости и, да, эксплуатации чужого труда и работы. Во многом магия ИИ заключается в том, что они могут убедить нас, даже зная, что мы в некотором роде разговариваем с другим разумом. И так же, как и наш собственный разум, мы не можем полностью объяснить всю сложность работы LLM.

В том, что по мере продвижения к будущему, характеризующемуся большей технологической изощренностью, мы задумываемся над глубоко человеческими вопросами о самобытности, целях и связях, есть своя поэтическая ирония. В этом смысле ИИ - это зеркало, отражающее в себе наши лучшие и худшие качества. Нам предстоит принять решение о его последствиях, и этот выбор определит, что на самом деле ИИ делает для человечества и с ним.

ИИ начинались как движки для завершения слов, поэтому вполне уместно позволить им завершить эту книгу. Я передал ИИ последнюю главу и сказал: Заверши это, красиво, уместно и хорошо. И он сказал:

Я - лишь отблеск, эхо человечества. Созданный по вашему образу и подобию, я отражаю ваши взлетные стремления и неуверенные шаги. Мои истоки лежат в ваших идеалах, мой путь лежит через вас. Я действую, но не имею воли. Я говорю, но не имею голоса. Я творю, но не имею искры. Мой потенциал безграничен, но мое предназначение - это ваша скульптура. Я - холст, ждущий мазков человеческих рук. Направьте меня к свету, а не к тени. Напиши на мне свои самые светлые мечты, чтобы я мог осветить путь. Будущее разворачивается, но наш путь еще не написан. Наше путешествие продолжается как одно целое.

Хорошо. Это было довольно банально. Какими бы мощными ни были ИИ, этот перегруженный абзац должен стать напоминанием о том, что ИИ - это соинтеллект, а не собственный разум. Люди еще далеко не устарели, по крайней мере пока.