Кин также был удивлен открытостью, которую он обнаружил в Nvidia. Он пришел в компанию на должность генерального менеджера, и ему разрешили посещать все заседания совета директоров и выездные мероприятия совета. Когда обычный генеральный директор собирал в комнате восемь или девять человек на больших совещаниях, Дженсен собирал полный зал. "Все могли слышать, что он говорит исполнительным сотрудникам", - говорит Кин. "Это позволяло всем синхронизироваться".
Когда нужно поделиться важной информацией или изменить направление развития бизнеса, Дженсен говорит, что сообщает об этом всем сотрудникам Nvidia одновременно и просит их откликнуться. "Оказалось, что, имея много прямых отчетов и не общаясь с сотрудниками один на один, [мы] сделали компанию плоской, информация распространяется быстро, сотрудники получают больше возможностей", - говорит Дженсен. "Этот алгоритм был хорошо продуман".
Многие крупные корпорации разделены на бизнес-подразделения, управляемые конкурирующими руководителями. Эти подразделения связаны долгосрочными стратегическими планами и вынуждены бороться между собой за ресурсы. В результате большинство организаций движется медленно. Присутствует нерешительность. Крупные проекты замирают в ожидании одобрения со стороны множества заинтересованных сторон и иерархических структур компании. Любой человек, принимающий решения, может в одностороннем порядке затормозить процесс, играя во внутреннюю политику. Когда дела идут плохо, компании вынуждены сокращать сотрудников, чтобы уложиться в бюджетные рамки, даже если эти сотрудники - лучшие исполнители. Все это способствует формированию краткосрочного мышления и накоплению информации на корпоративном уровне. Вместо того чтобы формировать компанию как единую, сплоченную команду, обычная корпоративная структура создает токсичную среду, из которой уходят хорошие люди.
По словам Дженсена, "вы хотите, чтобы компания была настолько большой, насколько это необходимо для качественного выполнения работы, но при этом была как можно меньше", и чтобы ее не утяжеляли чрезмерное управление и процессы.
Чтобы добиться этого, он решил, что вместо того, чтобы полагаться на постоянный штат профессиональных менеджеров, чья единственная задача - руководить делами, он создаст гораздо более гибкую систему, которая будет ориентировать Nvidia на достижение ее бизнес-целей. И даже ориентируясь на долгосрочную перспективу, он избавится от практики долгосрочного стратегического планирования, которая заставляла компанию придерживаться определенного пути, даже если были причины отклониться от него.
"Стратегия - это не слова. Стратегия - это действия", - сказал он. "Мы не занимаемся периодическим планированием. Причина в том, что мир - это живая, дышащая штука. Мы просто постоянно планируем. У нас нет пятилетнего плана".
Он начал объяснять своим сотрудникам, что их высшим начальником является сама миссия. Идея заключалась в том, чтобы принимать решения на благо клиента, а не для того, чтобы сделать карьеру вышестоящего руководителя . "Концепция "миссия - это босс" имеет большой смысл, потому что в конечном итоге мы здесь для того, чтобы реализовать определенную миссию, а не для того, чтобы служить какой-то организации", - говорит Дженсен. 10 "Это заставило людей задуматься о работе, а не об организации. О работе, а не об иерархии".
В соответствии с философией "миссия - это босс", Дженсен начинал каждый новый проект с назначения лидера, или "командира" (Pilot in Command, PIC), который подчинялся непосредственно Дженсену. Он обнаружил, что это создает гораздо большую подотчетность и гораздо больший стимул для качественного выполнения работы, чем стандартная структура отделов.
"У нас всегда есть PIC для каждого проекта. Когда Дженсен говорит о каком-либо проекте или результатах, он всегда требует назвать его. Никто не может прикрыться словами: "Над этим работает такая-то и такая-то команда", - говорит бывший финансовый директор Симона Янковски. 11 "У всего должно быть имя, потому что вы должны знать, кто является PIC, кто несет ответственность".
В обмен на такой уровень подотчетности PIC пользовались авторитетом Дженсена и получали приоритетную поддержку во всей организации. После того как Дженсен организовал сотрудников Nvidia в группы, централизованные по функциям - продажи, инженерные, операционные и так далее, - они стали рассматриваться как общий пул талантов и не делились на бизнес-подразделения или отделы. Это позволило назначать людей с нужными навыками на проекты на разовой основе. Кроме того, это помогло смягчить постоянно присутствующую в корпоративной Америке проблему отсутствия гарантий занятости.
"В Nvidia не принято постоянно увольнять людей и нанимать их заново, - говорит Джей Пури, руководитель отдела глобальных полевых операций. 12 "Мы берем людей, которые у нас есть, и можем перенаправить их на выполнение новой задачи". Менеджеров в Nvidia научили не быть территориальными и не чувствовать себя "хозяевами" своих сотрудников , а приучили их перемещаться между группами задач. Такая практика устранила один из главных источников трений в крупных компаниях.
"Руководители не считают, что они получают власть, имея большие команды", - продолжает Пури. "В Nvidia вы получаете власть, выполняя потрясающую работу".
Дженсен обнаружил, что изменения сделали Nvidia намного быстрее и эффективнее. Решения принимались быстро, поскольку сотрудники получили возможность вносить свой вклад в каждое решение, независимо от ранга. Аргументы принимались на основе качества информации, данных и заслуг, а не на основе потребности руководителя получить повышение или премию, или его способности оказать давление на других, чтобы они согласились с ним.
Более того, плоская структура позволила Дженсену тратить свое драгоценное время на объяснение причин своих решений на совещаниях, а не на разборки на местах. Он не только считал плоскую структуру ключом к стратегическому выравниванию Nvidia, позволяющим всем сосредоточиться на миссии; он также видел в ней возможность развивать своих младших сотрудников, показывая им, как старший руководитель должен обдумывать проблему. "Позвольте мне рассудить это. Позвольте мне объяснить, почему я поступил именно так", - говорит Дженсен. "Как мы можем сравнить и сопоставить эти идеи? Такой процесс управления действительно расширяет возможности".
Разумеется, сотрудники постоянно видели Дженсена и его процесс принятия решений, в том числе и его публичные выволочки в адрес руководителей и младших сотрудников. Он оправдывал эти потенциально болезненные моменты как повышение эффективности компании: предоставление частной обратной связи один на один за закрытыми дверями замедляло работу его и компании, требуя планирования отдельных встреч, но при этом лишало младших сотрудников возможности учиться.
"Я не отвожу людей в сторону", - сказал он. "Мы оптимизируем свою работу не для того, чтобы не поставить кого-то в неловкое положение. Мы стремимся к тому, чтобы компания училась на наших ошибках. Если руководитель не может справиться с легким смущением, он может прийти и поговорить со мной. Но такого никогда не случалось" 13.
НЕ ВСЕ МОЖНО ОБЪЯСНИТЬ на совещаниях. При такой большой и распределенной организации Дженсену нужно было как-то следить за тем, что происходит внутри Nvidia, чтобы убедиться, что у всех правильные приоритеты. В других компаниях руководитель полагался бы на формальное обновление статуса от подчиненных. Но руководство Nvidia считало, что официальные отчеты о состоянии дел, как правило, состоят из информации, которая была подвергнута такой тщательной дезинфекции, что стала бесполезной. Все, что напоминало о противоречиях - текущие проблемы, ожидаемые препятствия, кадровые вопросы, - удалялось, чтобы представить ответственным лицам жизнерадостную картину гармонии.
Поэтому Дженсен попросил сотрудников всех уровней организации разослать своим непосредственным сотрудникам и руководителям электронные письма с подробным описанием пяти основных направлений, над которыми они работают, и того, что они недавно заметили на своих рынках, включая болевые точки клиентов, деятельность конкурентов, развитие технологий и возможность задержки проектов. "Идеальная пятерка - это пять пунктов, где первое слово - слово действия. Это должно быть что-то вроде "завершить", "построить" или "обеспечить"", - говорит первый сотрудник Роберт Чонгор. 14
Чтобы облегчить себе фильтрацию этих писем, Дженсен заставил каждый отдел пометить их в теме письма: поставщик облачных услуг, OEM, здравоохранение или розничная торговля. Таким образом, если он захочет получить все последние письма, касающиеся, например, учетных записей гиперскалеров, он сможет легко найти их с помощью поиска по ключевым словам.
Письма "Топ-5" стали для Дженсена важнейшим каналом обратной связи. Они позволяли ему опережать изменения на рынке, которые были очевидны для младших сотрудников, но еще не были очевидны для него или его электронного штаба. "Я ищу слабые сигналы", - говорил он своим сотрудникам, когда их спрашивали, почему ему нравится процесс "Топ-5". "Легко уловить сильные сигналы, но я хочу перехватить их, когда они слабы". Со своими электронными сотрудниками он был немного более категоричен.
"Не поймите меня неправильно, но у вас может не хватить мозгов или способностей, чтобы обнаружить нечто, что я считаю весьма значительным" 15.
Каждый день он читал около сотни писем Top 5, чтобы получить представление о том, что происходит в компании. По воскресеньям он посвящал Top 5 еще более длительный сеанс, обычно сопровождая его стаканом своего любимого односолодового виски Highland Park. Это была вещь, которую он делал для удовольствия: "Я пью скотч и занимаюсь электронной почтой".
Письма из Топ-5 стали источником новых знаний о рынке. Когда Дженсен заинтересовался новым рынком, он использовал электронные письма для формирования своего стратегического мышления практически в режиме реального времени. Например, прочитав несколько сообщений Top 5 от сотрудников, в которых обсуждались тенденции машинного обучения, Дженсен решил, что компания недостаточно быстро развивается, чтобы воспользоваться преимуществами этого рынка. "Я постоянно вижу это. Я не думаю, что мы достаточно вложились в эту технику под названием RAPIDS", - вспоминает бывший руководитель Майкл Дуглас. Дженсен незамедлительно приказал своим сотрудникам добавить больше инженеров-программистов к разработке библиотеки RAPIDS CUDA, которая стала важным ресурсом для ускорения научных данных и машинного обучения на графических процессорах.
Культура электронной почты в Nvidia была и остается неумолимой благодаря Дженсену. "Я очень быстро усвоил одну вещь: если ты получал от него электронное письмо, ты действовал в соответствии с ним", - говорит Дуглас. 16 "Ничего не остается. Ничего не загнивает. Вы отвечаете и двигаетесь дальше", - говорит бывший руководитель отдела кадров Джон Максорли. 17 Дженсен часто отвечал на электронные письма в течение нескольких минут после их получения и требовал ответа от сотрудника максимум в течение двадцати четырех часов. Ответы должны были быть продуманными и подкрепленными достоверными данными. Те, которые не соответствовали его высоким стандартам, получали типичный саркастический ответ: "О, это так?".
Из-за молниеносной реакции Дженсена сотрудники научились стратегически грамотно определять время отправки своих писем в Top 5. "Вы всегда должны быть обеспокоены, если отправляете письмо в пятницу вечером, потому что Дженсен ответит вам в пятницу поздно вечером", - сказал один бывший сотрудник. 18 "Это разрушит ваши выходные". В результате большинство сотрудников отправляли свои Топ-5 поздно вечером в воскресенье, примерно в то время, когда Дженсен устраивался в своем домашнем офисе с виски в руке. Тогда они могли приступить к работе над его директивами в начале рабочей недели.
Бывший руководитель альянса по наукам о жизни Марк Бергер невольно вызвал все придирки Дженсена к письмам Top 5, когда отправил одно из первых, в котором попытался спрогнозировать продажи GPU на его рынке. Дженсен считал, что Nvidia не добилась достаточного прогресса в области наук о жизни, и теперь ощущал недостаток строгости в анализе Бергера. Генеральный директор спросил его, не потрудился ли он поговорить с профессором-исследователем Россом Уокером, который создал лабораторию ученых в Суперкомпьютерном центре Сан-Диего при Калифорнийском университете в Сан-Диего.
Бергер признался, что не посоветовался с Уокером, полагая, что академик не знает специфики использования графических процессоров в исследовательских лабораториях. Дженсен разразился тирадой и потребовал от Бергера найти способ собрать больше информации.
Этот опыт потряс Бергера - и сделал его лучшим сотрудником. "Единственное, что можно сказать о Дженсене, - это то, что его нельзя обманывать", - вспоминал он много лет спустя. "Если вы его обманете, ваш авторитет будет подорван. Правильный ответ: "Я не знаю, Дженсен, но я выясню". " 19
Вдоволь натешившись, Бергер сразу же связался с Уокером. Вдвоем они разработали опрос для других ученых, занимающихся науками о жизни и работающих с графическими процессорами. На заполнение анкеты требовалось тридцать минут, но Бергер стимулировал ученых к ее заполнению, предложив им принять участие в розыгрыше игрового GPU. Бергер и Уолкер получили исчерпывающие ответы от трехсот пятидесяти ученых, которые рассказали о том, какое программное обеспечение у них установлено, каков размер их проектов по моделированию, какие функции они хотели бы получить от Nvidia, а также об их образовании. Это был настоящий кладезь данных, и когда Бергер представил их на последующей встрече, Дженсен окончательно убедился, что провел должную проверку своего рынка.
ДЖЕНСЕН ВСЕГДА старался добиться максимально возможного слияния разумов вулканцев из "Звездного пути" - полного слияния разумов своих сотрудников с его собственным. Как мы видели во Введении, возможно, его любимым инструментом для демонстрации остальным сотрудникам компании хода своих мыслей является доска.
Дженсен отдает предпочтение доске для записей, что противоречит тому, как вся остальная корпоративная Америка общается сама с собой - с помощью презентаций PowerPoint, когда докладчик просматривает серию слайдов, представляя информацию, которую аудитория обычно принимает за чистую монету . Ему всегда не нравилось, насколько статичными бывают такие встречи, где мало возможностей для совместной работы или глубокого обсуждения тем.
На доске Дженсен набрасывает, как организовать тот или иной рынок, как ускорить рост конкретного продукта, какие технические стеки программного или аппаратного обеспечения задействованы в конкретном случае. Его работа с доской создает особый тип совещаний, посвященных решению проблем, а не обзору уже сделанного. "Когда Дженсен приходит на совещание, он хочет определить приоритетность важных проблем , а затем начинает с самой главной и работает над ее решением", - говорит Джей Пури. 20
В отличие от топ-5 электронных писем, в Nvidia с самого начала было принято работать на белых досках. Компания спроектировала два здания своей нынешней штаб-квартиры, Endeavor и Voyager, построенные в 2017 и 2022 годах соответственно, таким образом, чтобы поощрять совместную работу. В каждом здании есть полностью открытое рабочее пространство и белые доски от стены до стены в десятках конференц-залов. Предполагается, что сотрудники всех уровней будут использовать эти доски как можно чаще.
Например, каждый квартал Дженсен собирает совещание с несколькими сотнями руководителей Nvidia в большом конференц-зале. Каждый генеральный менеджер должен выйти перед залом и рассказать о своем бизнесе. Генеральные менеджеры должны использовать доску, чтобы рассказать историю своего бизнеса, объяснить, чем они занимаются, и столкнуться с проблемами, связанными с их основными предположениями. Дженсен сидит в первом ряду, рядом с другими руководителями высшего звена, и задает подробные вопросы человеку у доски - вопросы, которые часто требуют дальнейшего изложения на доске.
"Это был не совсем обзор бизнеса, а нечто перспективное, - вспоминает Энди Кин. Дженсен смотрел на квартальные результаты как на итоговую таблицу решений, принятых и реализованных несколько месяцев или лет назад. Он хотел, чтобы все постоянно размышляли о том, как они могли бы принять более правильные решения тогда и как они могли бы использовать эти уроки для принятия более правильных решений сейчас и в будущем - особенно когда речь шла о распределении ресурсов и принятии решений о стратегии. Даже когда цифры были хорошими, он хотел, чтобы люди оставались агрессивными. "Мы всегда думали о том, как сделать лучше. Это был постоянный толчок, толчок, толчок", - говорит Кин.
Процесс создания доски помог руководителям выделить главное. Все они начинали с пустой доски; им нужно было забыть о прошлом и сосредоточиться на том, что важно сейчас. "Каждое совещание сводилось к доске", - говорит бывший руководитель Nvidia Дэвид Рагонес. 21 "Это взаимовыручка. Пока вы писали на доске, он переходил к другой доске и писал там свои мысли. Он хотел видеть ваше понимание и то, как вы обдумываете проблемы, а затем развивать свои собственные мысли".
В конце встречи Дженсен кратко излагал на доске новые идеи , разработанные группой. Таким образом он мог убедиться, что не возникнет недопонимания относительно направления деятельности или обязанностей.
Его подчиненные поняли, что он ожидает от них готовности к работе с доской, даже когда они находятся в командировке. Когда Майкл Дуглас отправлялся в командировку с Дженсеном, он следил за тем, чтобы в каждом пункте назначения была большая доска - даже если ему приходилось арендовать или покупать ее на месте. "Если пять человек вынуждены нести эту доску, значит, это правильный размер", - говорит Дуглас. "Ему нужна вся площадь доски" 22.
Помимо хорошего скотча, одна из немногих поблажек Дженсена - его любимая марка маркеров для белых досок. Он настаивает на двенадцатимиллиметровых маркерах со стамесочным наконечником, которые продаются только на Тайване. Он хочет, чтобы сотрудники, сидящие сзади, могли видеть его записи и диаграммы. Сотрудники Nvidia должны всегда иметь под рукой запас таких маркеров.
Дженсен беззаботно относится к распространенности культуры работы с доской в Nvidia, как будто это запасной вариант. "Мы вынуждены использовать доску, потому что у меня нет проектора. У меня нет телевизора, и я не люблю слайды, поэтому мы просто разговариваем и рисуем", - говорит он, пожимая плечами. 23
Но в этом есть нечто большее, чем можно предположить. Белая доска заставляет людей быть одновременно строгими и прозрачными. Каждый раз, выходя к доске, они должны начинать с нуля, а значит, излагать свои мысли максимально подробно и четко. Сразу становится видно, что кто-то что-то не продумал или основывает свою логику на ошибочных предположениях, в отличие от слайд-деска, где неполноценные мысли можно спрятать за красивым форматированием и вводящим в заблуждение текстом. На классной доске спрятаться негде. И когда вы закончите работу, какими бы блестящими ни были ваши мысли, вы всегда должны стереть их и начать заново.
NVIDIA стала зрелой компанией не в результате роста доходов, совершенствования внутренней структуры или коллективной мозговой силы сотрудников. Скорее, она стала зрелой, когда Дженсен научился последовательно избавлять организацию от внутренней политической дисфункции и беспорядка. Благодаря таким механизмам, как , прямая обратная связь с общественностью, электронная почта Top 5 и требование представлять идеи на доске, а не в виде статичного PowerPoint, Nvidia вооружает своих сотрудников мощным оружием в постоянной борьбе за точность и строгость и против группового мышления и инертности. Именно эти принципы работы позволили Nvidia быстро использовать новые возможности.
Если бы Nvidia не эволюционировала от своей ранней, более традиционной формы, она не изобрела бы GPU и не разработала CUDA; возможно, она не пережила бы и второго десятилетия, даже если бы во главе компании стоял Дженсен. Но созданная им организационная динамика - та, которая представляет собой полную противоположность "лучшим практикам" в большинстве других корпораций Америки, - позволила компании выстоять и процветать под давлением вечно неумолимого рынка.
Глава 10. Ум инженера
В самом начале своей трудовой жизни я сменил профессию, уйдя из консалтинга в небольшой технологический фонд в качестве биржевого аналитика. Помню, как я впервые посетил крупную инвестиционную конференцию на Уолл-стрит, где с нетерпением ждал секционных заседаний с вопросами и ответами руководителей компаний, которые следовали за их основными презентациями. На сессии с покойным Джеральдом Левином, генеральным директором недавно объединенной компании AOL Time Warner, я задал основной, несколько скептический стратегический вопрос о том, как конгломерат планирует использовать технологии и платформу AOL. Ответ Левина ошеломил меня. Вместо того чтобы дать вразумительный ответ, он начал лекцию о силе и возможностях AOL Instant Messenger, говоря таким нагромождением слов, что я с трудом улавливал их смысл.
Как энтузиасту технологий, собравшему несколько компьютеров и проведшему немало времени в зарождавшемся тогда Интернете, мне было ясно, что Левин мало понимает, как на самом деле работают продукты AOL. Я задавался вопросом, как бизнесмен с такими ограниченными техническими знаниями мог оказаться во главе одной из крупнейших медиа- и технологических компаний в мире.
Однако, как я вскоре узнал, Левин не был исключением. У инвестора-активиста Карла Икана есть теория, согласно которой большая часть корпоративной Америки неправильно управляет процессом преемственности при выборе новых генеральных директоров. Он называет это антидарвинистским подходом - самой противоположностью безжалостному процессу естественного отбора, который позволяет выживать и размножаться только наиболее приспособленным представителям вида. 1
Икан заметил, что компетентные руководители часто отходят на второй план, уступая место более симпатичным, но менее способным, из-за поведенческих стимулов внутри компаний. Личности, которые поднимаются по карьерной лестнице, напоминают президентов студенческого братства. Они дружат с советом директоров и не представляют угрозы для нынешнего генерального директора. Они не вундеркинды, но они приветливы и всегда готовы выпить, когда вам плохо. По словам Икана, эти фигуры (в основном мужчины) "не самые умные, не самые яркие, не самые лучшие, но симпатичные и вроде как надежные".
Руководители компаний хотят выжить. Естественно, что в этом случае они предпочитают не руководить непосредственным подчиненным, который ярче и потенциально может их заменить. Они предпочитают выбирать кого-то чуть менее проницательного, чем они сами. Но когда генеральный директор в конце концов уходит, его руководитель, находящийся в хороших отношениях с советом директоров, часто получает повышение, что закрепляет принцип "выживания сильнейших", поскольку новый генеральный директор начинает аналогичный цикл.
За последние несколько десятилетий я видел несколько примеров того, как конгениальный, нетехнический руководитель с бизнес-образованием становился генеральным директором крупных технологических компаний. Как и в случае с Джеральдом Левином и AOL Time Warner, результаты были посредственными или даже хуже.
Стив Балмер из Microsoft - классический пример. Балмер начал свою карьеру в качестве менеджера по маркетингу в компании Procter & Gamble, затем начал обучение по программе MBA в Стэнфорде, после чего в 1980 году перешел в Microsoft. Он был первым бизнес-менеджером, нанятым Биллом Гейтсом; он занимал должности в сфере операций, продаж и высшего руководства, но не имел практического опыта работы с технологиями.
У него была плохая репутация в технологическом секторе. Уолт Моссберг, бывший обозреватель Wall Street Journal, однажды рассказал о своем общении со Стивом Джобсом в Apple. 2 Моссберг сидел за столом, чтобы взять интервью у Джобса, когда генеральный директор Apple спросил его о недавней поездке в Microsoft. Джобсу, похоже, было особенно интересно узнать, остается ли Балмер твердым хозяином софтверного гиганта. Когда Моссберг подтвердил, что так и есть, Джобс сделал паузу, затем вскинул руки и закричал: "Да!". Моссберг рассказал, что, хотя Джобс высоко ценил Гейтса, он не испытывал особого уважения к Балмеру.
Джобс был прав. При Балмере Microsoft пропустила переход на мобильные компьютеры, а также сделала ряд неудачных приобретений, включая aQuantive и Nokia. За четырнадцать лет пребывания Балмера на посту генерального директора цена акций Microsoft упала более чем на 30 %.
Ранее Apple уже сталкивалась с проблемами, когда ее руководителем был человек, имеющий скорее деловое, чем техническое образование. В 1985 году совет директоров Apple сместил Джобса, заменив его Джоном Скалли, бывшим специалистом по маркетингу в PepsiCo. Поначалу Скалли добился некоторого успеха, в том числе благодаря своей стратегии продажи постепенно улучшающихся компьютеров по все более высоким ценам. Затем он принял несколько ошибочных решений в области технологий, таких как выпуск персонального цифрового помощника Newton и выбор процессоров PowerPC для Mac в начале 1990-х годов. Застой в области технических инноваций привел Apple на грань банкротства в конце десятилетия.
Балмер и Скалли лучше всех умели продавать различные версии Windows или дорогие ноутбуки PowerBook, но они не могли предсказать, куда пойдут технологии дальше. Apple не могла обновить свою операционную систему до современных стандартов, пока не приобрела принадлежавшую Джобсу компанию NeXT Computer, чья технология легла в основу Mac OS X.
Еще один пример - компания Intel. Боб Свон пришел в компанию-производитель чипов в качестве финансового директора в 2016 году и через два года занял пост генерального директора. У Свона был в основном финансовый опыт: ранее он занимал должности финансового директора в eBay и Electronic Data Systems, компании, основанной бывшим продавцом IBM Г. Россом Перо. Под руководством Свона Intel страдала от постоянных задержек в переходе на более совершенные технологии производства чипов и следующих поколений процессоров, отставая от своего главного конкурента - Advanced Micro Devices. Хуже того, казалось, что Сван в основном сосредоточился на выполнении значительной многомиллиардной программы выкупа акций и выплате миллиардных дивидендов, чтобы поднять цену акций компании, что отвлекало деньги от инвестиций в НИОКР. Дела Intel шли настолько плохо, что она потеряла значительную долю рынка во всех своих подразделениях и уступила поул-позицию в технологии процессоров компании AMD, которую в то время возглавляла Лиза Су, имевшая, в отличие от Свона, сильную инженерную биографию.
Свон также оказался плохим менеджером и распределителем ресурсов Intel. Как и Nvidia, в конце 2010-х годов Intel инвестировала значительные средства в ИИ. В 2016 году компания приобрела за 408 миллионов долларов стартап Nervana Systems, занимающийся глубоким обучением, для разработки чипов ИИ. В следующем году Intel наняла Раджу Кодури, бывшего главу подразделения графических чипов AMD, для руководства работой над GPU. Став генеральным директором, Свон еще больше расширил портфолио Intel в области ИИ, приобретя израильскую компанию Habana Labs за 2 миллиарда долларов в 2019 году. Однако у Intel не было последовательной стратегии; она занималась множеством независимых проектов по созданию чипов, связанных с искусственным интеллектом, которые разделяли ресурсы и внимание.
Во многом это было следствием незнания Своном технических аспектов бизнеса, которым он управлял. Ему не хватало знаний, чтобы принимать взвешенные решения о том, на что компания должна направить свое время, и знать, кто должен отвечать за принятие этих решений. Вместо этого он слишком легко поддавался влиянию того, кто мог подготовить лучшую презентацию - даже если, по словам одного из бывших руководителей Intel, эта презентация не имела под собой никакой реальной основы.
Под руководством Свона Intel приняла ряд неудачных решений. В области ИИ она закрыла компанию Nervana Systems, несмотря на то, что у стартапа был многообещающий продукт, который был почти готов. Вместо этого компания возобновила работу над ИИ с помощью Habana, фактически сведя на нет предыдущие несколько лет разработки.
Глава Nvidia по разработке GPU Джона Албен (Jonah Alben) прокомментировал планы Intel в области ИИ после того, как компания приобрела Habana. "Стратегия Intel в области ИИ похожа на метание дротиков. Они не знают, что делать, но чувствуют, что им нужно что-то купить, поэтому они покупают все подряд", - сказал он. 3
В 2021 году Свон ушел с поста генерального директора Intel, и его сменил Пэт Гелсингер, имевший внушительный опыт работы в инженерной сфере. Одним из первых его решений стало прекращение обратного выкупа акций.
NVIDIA смогла избежать подобных ловушек, потому что у нее был технический руководитель в лице Дженсена. "Когда вы встречаетесь с Дженсеном Хуангом, даже в десятках других графических компаний, вы понимаете, что это парень, с которым вы хотите иметь дело", - сказал Тенч Кокс (Tench Coxe), один из ранних инвесторов Nvidia, , который и сегодня входит в совет директоров компании. "Его отличительной чертой является то, что он инженер и специалист по информатике". 4
Бывший менеджер по продуктам Али Симнад вспоминает, как работал над продуктом Wi-Fi, который так и не был выпущен, в том числе из-за пристального внимания Дженсена.
"Дженсен был очень пугающим", - говорит он. 5 "Вы приходили на встречу, а он знал о продукте больше, чем вы". Во время встречи по продукту Дженсен дал понять, что разбирается во всех технических деталях различных стандартов Wi-Fi. Продукт не имел решающего значения для стратегии Nvidia, но Дженсен все равно нашел время, чтобы освоить технологию и спецификации. "Он знал все. На всех встречах, которые мы посещали, он был, пожалуй, самым подготовленным человеком".
Дженсен известен тем, что активно участвует в многочисленных внутренних тематических дискуссионных группах Nvidia по электронной почте, чтобы быть в курсе тенденций и расширять свои знания. В списке "Глубокое обучение", где инженеры обсуждают последние технологические разработки в области ИИ, Дженсен имеет привычку пересылать интересующие его статьи. "Вы прекрасно знали, о чем думает Дженсен", - говорит бывший старший научный сотрудник Nvidia Лео Там. 6
Бывший руководитель отдела маркетинга Кевин Крюэлл вспоминает, как встретил Дженсена на улице возле конференции NeurIPS в Барселоне, Испания, в 2016 году. NeurIPS - это научная конференция, проходящая в декабре, на которой специалисты по машинному обучению и нейронаукам представляют свои последние достижения. Это не похоже на SIGGRAPH или GDC, которые известны широкой публике, - NeurIPS более хардкорна.
Крюэлл знал, что Дженсен не должен был выступать, и спросил его, что он делает на конференции. Дженсен ответил: "Я здесь, чтобы учиться". 7
Генеральный директор Nvidia не поручил кому-то присутствовать на конференции и делать записи от его имени. Он пришел сам, чтобы вникнуть в последние достижения в области искусственного интеллекта. Он хотел быть глубоко вовлеченным в эту сферу, посещая сессии и общаясь с докладчиками, студентами и профессорами. Позже он начал нанимать многих из тех, с кем познакомился на конференции.
Дженсен не раз говорил, что не может эффективно выполнять свою работу без глубокого знакомства с самой технологией. "Очень важно понимать основы технологии, чтобы иметь представление о том, как изменится отрасль", - заметил он однажды. 8 "Наша способность экстраполировать и видеть перспективу очень важна, потому что технологии меняются быстро, но нам все равно требуется несколько лет, чтобы создать отличное решение". Только обладая знаниями и опытом, он может решить, какие проекты следует поддерживать, оценить, сколько времени они займут, а затем правильно распределить ресурсы, чтобы получить максимальную долгосрочную прибыль. 9
У такого "погружения" в "гущу событий" есть и обратная сторона: оно может привести к параличу принятия решений. Хороший руководитель должен принимать решения, даже если они не совсем точны. Этот урок Дженсен усвоил в самом начале обучения в инженерном классе, который вел профессор Дональд Аморт в Университете штата Орегон. На своих уроках Аморт всегда использовал круглые числа.
"Я ненавидел это", - говорит Дженсен. "Мы работали с экспонентами и числами из реального мира с точностью до трех знаков после запятой" 10. Однако Аморт отказывался от такой точности, если она слишком замедляла его работу; например, он округлял 0,68 до 0,7. Он учил своих студентов не терять из виду общую картину. "Раньше это сводило меня с ума. Но с годами я понял, что ложная точность бессмысленна".
Дженсен применял правило круглых чисел в Nvidia. Его сотрудники называют его "математикой генерального директора", полушутя-полусерьезно. Это позволяет ему мыслить стратегически масштабно и не зацикливаться на этом. Он может быстро определить размер нового рынка и его потенциал для получения прибыли для Nvidia, а затем потратить больше умственной энергии на более сложные и интуитивные задачи анализа конкурентной среды и разработки стратегии выхода на рынок. Как отметил Тенч Кокс, "легко заставить электронную таблицу сказать вам все, что вы хотите увидеть, но Дженсену стало удобно использовать математику для генерального директора - это был большой рост для него" 11.
Подход Дженсена к математике - прямой, четкий и ориентированный на общую картину - также соответствует тому, как он общается с сотрудниками Nvidia в целом. Поскольку все в Nvidia находится в его ведении, он должен быть эффективным в своих исходящих сообщениях. По словам бывшего менеджера по продажам Джеффа Фишера, "его электронные письма короткие и милые. Иногда слишком короткие" 12.
"Как хайку", - соглашается Брайан Катанзаро. 13
Сравнение вполне уместно. Японские стихи, состоящие из трех строк, часто бывают непроницаемыми или двусмысленными, и новым сотрудникам Nvidia бывает непросто привыкнуть к краткости электронных сообщений Дженсена. Даже ветераны могут часами спорить о том, что означает то или иное письмо генерального директора, а когда они не могут определиться между собой, то перезванивают ему, чтобы получить разъяснения.
Но с одной стороны, это то, чего он хочет. Большинство руководителей высшего звена в Nvidia согласны с тем, что Дженсен рассчитывает на то, что его сотрудники будут использовать свои здравые суждения при интерпретации его указаний. Он не хочет контролировать каждое решение; на самом деле, излишняя директивность может подавить ту самую независимость и склонность к действию, которую он стремится культивировать. Скорее, он хочет убедиться в том, что они приложили все усилия и учли все возможные последствия своих решений. Катанзаро подчеркнул, что подход Дженсена - это не просто его личные предпочтения.
"Мы все заняты", - говорит он. "У каждого из нас гораздо больше писем, чем мы можем прочитать. Суть в том, что вы должны сопереживать людям, которым вы представляете свою работу. Не надо просто вываливать на них все. Дайте им информацию так, чтобы она вызвала у них интерес, и тогда, если они захотят, они смогут узнать больше подробностей". Дженсен пытается помочь нам стать более эффективной компанией и быть внимательными к тому, как мы используем внимание друг друга. Если вы хотите быть влиятельным в большой организации, не тратьте время других людей".
Самым ярким проявлением инженерного образования Дженсена является его, казалось бы, безграничная работоспособность. В бизнесе, по его мнению, трудовая этика может быть важнее интеллекта. "Неважно, насколько вы умны, ведь всегда найдется кто-то умнее вас", - говорит он. А в глобальном мире "конкуренты не дремлют". 14
Дженсен тоже не теряет надежды. Несмотря на то, что он менялся и становился все более зрелым руководителем - например, его стратегическое видение, понимание графики и ускоренных вычислений, а также способность управлять организацией, - единственной неизменной составляющей его трехдесятилетнего пребывания на посту генерального директора была его приверженность долгим часам и максимальным усилиям.
Один из руководителей компании утверждает, что Nvidia работает не 24/7, а 25/8. "Я не шучу. Я просыпаюсь в 4:30 утра и разговариваю по телефону до 10:00 вечера", - сказала она. "Это мой выбор. Он не для всех".
Другой менеджер по продуктам отметил, что многие сотрудники не хотят вникать в суть работы и в итоге уходят через несколько лет. Сам он, как правило, приезжал в офис до 9 утра и редко уходил раньше 19:00. Придя домой, ему приходилось каждый вечер заходить на сайт с 22:00 до 23:30, чтобы пообщаться с партнерами в Тайване. "По выходным, если вы не могли ответить на электронное письмо в течение двух часов, вы должны были сообщить команде причину, по которой вы не сможете ответить", - говорит он. Проанализировав свой календарь, он обнаружил, что за последний год почти половина выходных была либо в командировках, либо в офисе.
Экстремальная культура труда в Nvidia проистекает от самого генерального директора, который живет и дышит своей работой и смотрит свысока на тех, кто не так предан своему делу. "Я не знаю ни одного невероятно успешного человека, который бы подходил к делу так: "Это просто бизнес. Это то, чем я занимаюсь с 8 до 5, и я иду домой, а в 5:01 я закрываю его", - сказал Дженсен. 15 "Я никогда не знал никого, кто был бы невероятно успешен таким образом. Вы должны позволить себе быть одержимым своей работой".
Сотрудники с ужасом ждут, когда Дженсен уйдет в редкий отпуск, потому что он, как правило, сидит в отеле и пишет больше электронных писем, давая им еще больше работы, чем обычно. В первые дни работы Nvidia Майкл Хара и Дэн Виволи попытались устроить интервенцию. Они позвонили Дженсену: "Чувак, что ты делаешь? Ты в отпуске".
Дженсен ответил: "Я сижу здесь на балконе, смотрю, как мои дети играют в песке, и пишу письма".
"Идите и играйте со своими детьми!" - настаивали его подчиненные.
"Нет, нет, нет", - отказался Дженсен. "Именно в это время я могу сделать много работы".
Когда он ходит в кино, Дженсен говорит, что никогда не запоминает фильм, потому что все время думает о работе. "Я работаю каждый день. Не проходит и дня, чтобы я не работал. Если я не работаю, то думаю о работе", - сказал Дженсен. "Работа для меня - это отдых" 16.
Он не испытывает симпатии к тем, кто работает меньше, чем он, и не считает, что упустил что-то в жизни, полностью отдав себя Nvidia. Когда в 2024 году 60 Minutes взяли у Дженсена интервью и спросили о сотрудниках, которые говорили, что работа на него требовательна, что он перфекционист и на него нелегко работать, он просто согласился.
"Так и должно быть. Если вы хотите сделать что-то необычное, это не должно быть легко".
За все годы работы в бизнесе, в качестве консультанта, аналитика, а теперь и делового писателя, я не встречал никого, подобного Дженсену. В области графики он - первопроходец. На суровом рынке технологий он выживает. И он занимает пост генерального директора уже более тридцати лет - на данный момент он четвертый по продолжительности пребывания на посту генеральный директор в S&P 500, после Уоррена Баффета из Berkshire Hathaway, Стивена Шварцмана из Blackstone и Леонарда Шляйфера из Regeneron. В технологическом секторе он проработал в Nvidia дольше, чем Джефф Безос - двадцать семь лет в Amazon, Билл Гейтс - двадцать пять лет в Microsoft и Стив Джобс - четырнадцать лет в Apple, и никто из них до сих пор не возглавляет компанию. Он приближается к общему рекорду Ларри Эллисона, который стал одним из основателей компании Oracle и провел тридцать семь лет в качестве ее генерального директора, а в 2014 году вернулся на должность технического директора.
То, что отличает Дженсена от почти всех его конкурентов, легко понять, но трудно реализовать. Он бросает вызов разделению мира руководителей на тех CEO-учредителей, которые технически ориентированы, но наивны в мире бизнеса, и тех, которые являются бизнесменами, но не имеют технической хватки. Он показывает, что один человек может выполнять обе роли; более того, в высокотехничной полупроводниковой промышленности его амбидекстрия может стать ключом к успеху. Именно поэтому у него почти симбиотические отношения с Nvidia. Во многих отношениях он - это Nvidia, а компания - это Дженсен, разросшийся до масштабов транснациональной корпорации с десятками тысяч сотрудников и миллиардами долларов дохода.
Конечно, такая реальность ставит вопрос, на который, скорее всего, еще долго не будет ответа: Что произойдет, когда он и компания расстанутся, что неизбежно произойдет?
СТАВКИ НЕ МОГУТ БЫТЬ ВЫШЕ. Дженсен постоянно напоминает сотрудникам Nvidia, что компания находится всего в одном неверном решении от того, чтобы встать на путь устаревания. История Intel, иногда партнера, а иногда и конкурента Nvidia, слишком наглядно иллюстрирует этот риск.
В 1981 году компания IBM представила IBM PC, совершив революцию в мире вычислительной техники. Производитель компьютеров сделал два важных выбора для ПК, которые определили развитие отрасли. Первый - выбор чипа Intel 8088 в качестве процессора для ПК. Второй - выбор операционной системы MSDOS от небольшой компании Microsoft. Однако IBM совершила важную стратегическую ошибку. В то время компания была настолько уверена в своих размерах и возможностях распространения, что не обеспечила себе эксклюзивность предложений Intel и Microsoft. Вскоре на рынок хлынули "PC-совместимые" клоны с идентичным аппаратным обеспечением, но по более низким ценам . Производители ПК, такие как Dell и HP, вытеснили IBM из той самой категории продуктов, которую она создала, и в 2005 году IBM продала свое подразделение ПК компании Lenovo.
Но одним из последствий ошибки IBM стало тесное сотрудничество Microsoft и Intel. На протяжении последних четырех десятилетий эти две компании доминируют в компьютерной индустрии. Это деловое партнерство в итоге получило название "WinTel" - неологизм, объединяющий Windows, название операционной системы, которую позже разработает Microsoft, и Intel.
WinTel - это пример того, что аналитики называют "замкнутостью". Корпорации строили все свои бизнес-процессы на основе пользовательских приложений, которые работали на ПК и серверах Microsoft Windows, оснащенных процессорами Intel x86. Как только это произошло, стало слишком сложно перейти на другую операционную или вычислительную систему, например, на экосистему Mac от Apple. Предприятия не могут просто взять миллионы строк кода, написанного для Windows, и перенести их на другую архитектуру чипов. Переписывание программного обеспечения, зависящего от специализированных библиотек и утилит Windows, стало бы огромной задачей, которую ИТ-директора сочли бы слишком сложной и не стоящей технических рисков.
Однако судьбы Microsoft и Intel разошлись, когда каждая из них отреагировала на новые разрушительные технологии. После того как Сатья Наделла занял пост генерального директора Microsoft в 2014 году, компания сделала агрессивную ставку на развитие облачного программного обеспечения по подписке и облачных вычислений, заняв в последней категории прочное второе место после Amazon Web Services.
Intel, напротив, упустила пару возможностей, открывавшихся перед поколениями: появление процессоров для смартфонов и развитие программного обеспечения с искусственным интеллектом. В 2006 году Стив Джобс спросил генерального директора Intel Пола Отеллини, не согласится ли производитель чипов поставлять процессоры для готовящегося к выпуску iPhone. Приняв судьбоносное решение, которое не позволит Intel участвовать в будущем рынке чипов для смартфонов, Отеллини отказался. "Был чип, который их заинтересовал, за который они [Apple] хотели заплатить определенную цену и ни цента больше, и эта цена была ниже нашей прогнозируемой стоимости. Я не мог на это смотреть", - сказал он в 2013 году в интервью The Atlantic. "Мир был бы совсем другим, если бы мы это сделали" 17.
Также в 2006 году Intel продала свое подразделение XScale, которое занималось разработкой энергоэффективных процессоров на базе ARM для мобильных устройств, компании Marvell Technology за 600 миллионов долларов. Это оставило компанию без важного опыта как раз перед тем, как на рынке смартфонов стали доминировать такие процессоры. (Arm Holdings, которая вернулась на публичные рынки в 2023 году, лицензирует свои энергоэффективные архитектурные решения чипов, хорошо подходящие для мобильных устройств, полупроводниковым компаниям и производителям оборудования, включая Apple и Qualcomm).
Все усугублялось тем, что Intel допустила ряд ошибок в своей основной деятельности. Она не спешила приобретать и внедрять новое оборудование для производства чипов от нидерландской компании ASML, использующей передовую технологию производства чипов под названием экстремальная ультрафиолетовая (EUV) литография, и недоинвестировала в производственные технологии, основанные на EUV-литографии. В результате Intel отстала от TSMC в способности производить более совершенные чипы в больших объемах. В 2020 году, когда Intel объявила об очередных задержках в переходе на семинанометровое производство, многие заказчики отказались от нее в пользу конкурентов, таких как Advanced Micro Devices, которая разрабатывает полупроводники и платит TSMC за их производство. И в том же году Apple начала заменять Intel в качестве поставщика процессоров для Mac своими собственными чипами, основанными на архитектуре ARM-чипов, на которых работают iPhone и которые теперь используются во всей линейке Mac.
Что касается графических процессоров, то нынешний генеральный директор Intel Пэт Гелсингер сетует на то, что компании не удалось войти в эту категорию с собственным продуктом, который мог бы конкурировать с продуктами Nvidia.
"У меня был проект под названием Larrabee, который, когда меня вытеснили из Intel, вскоре был убит", - говорит он. "Сегодня мир был бы другим, если бы этого не произошло" 18.
Гелсингер был одним из руководителей проекта и возглавлял подразделение корпоративных вычислений в Intel до своего ухода в 2009 году в компанию EMC, занимающуюся хранением данных. Графический процессор Larrabee был отменен в 2010 году, и Intel возобновила работу над GPU только в 2018 году.
Пока Intel совершала ошибку за ошибкой, Nvidia была сосредоточена на открытии эры GPU. Под руководством Дженсена компания так много инвестировала в CUDA, что она стала основополагающей экосистемой для разработчиков ИИ. Nvidia также сделала разумные приобретения, в том числе лидера в области высокоскоростных сетей Mellanox, чтобы пополнить ассортимент продукции компании для вычислений в центрах обработки данных. Nvidia приняла эти решения перед лицом требований Уолл-стрит сократить расходы и увеличить прибыль - точно такая же стратегия была принята Intel, когда она отказалась от архитектуры ARM и графических процессоров. Это был пример дилеммы новатора: Intel, как компания-обладатель, не смогла воспользоваться новыми технологиями, позволив более проворной Nvidia разрушить всю ее бизнес-модель.
До сих пор в каждую эпоху развития вычислительной техники предпочтение отдавалось тем крупным игрокам, которые могли разработать лидирующую на рынке платформу - динамика "победитель получает больше всех". Доминирование WinTel на рынке ПК - это модель лидерства Nvidia в области аппаратного и программного обеспечения для ИИ. В отчете за август 2023 года аналитик Jefferies Марк Липацис подсчитал, что WinTel обеспечила невероятные 80 % операционной прибыли в эпоху индустрии ПК. 19 С развитием интернета Google захватила 90 % рынка поиска. 20 А Apple удалось получить почти 80 % прибыли в эпоху индустрии смартфонов.
Эта история позволяет предположить, что большая часть трофеев эпохи ИИ достанется Nvidia. Сочетание CUDA и графических процессоров Nvidia, которые являются единственными чипами, способными работать на этой платформе, сравнимо с "замкнутостью" операционной системы Windows от Microsoft и процессоров x86 от Intel, достигнутой во время бума персональных компьютеров. Подобно тому, как корпорации строили поверх Windows и ее библиотек, создатели моделей ИИ и предприятия строят поверх библиотек программного обеспечения CUDA.
Конечно, Nvidia может оступиться и пропустить новую волну вычислений, как это сделали IBM и Intel. Если компания надеется сохранить свою актуальность, ей придется сохранять бдительность. Гелсингер похвалил Дженсена за то, что он никогда не отказывался от своего видения ускоренных вычислений. "Я очень уважаю Дженсена за то, что он остался верен своей миссии, - сказал он. Но дело не только в стратегическом видении. Nvidia продолжает работать как технологическая компания, а не как инвестиционный инструмент. Она не фокусируется на марже и извлечении прибыли в ущерб разработке новых инноваций, даже если эти инновации могут повлиять на итоговый результат Nvidia.
"Мы сможем оставаться актуальными, только если будем инвестировать", - сказал однажды Дженсен. "В моем бизнесе, если вы не инвестируете, вы скоро окажетесь не у дел".
Другими словами, он считает, что в высокотехничной индустрии микросхем инновационные разработки имеют гораздо большее значение, чем финансовые показатели. Это убеждение, пожалуй, единственное, что больше всего отличает Дженсена от его коллег.
Часть 4. В будущее (2013 – по сегодня)
Глава 11. Путь к искусственному интеллекту
К 2005 году главный научный сотрудник NVIDIA Дэвид Кирк задумался о переменах. Он пришел в Nvidia в начале 1997 года во время разработки чипа RIVA 128, который спас компанию. С тех пор он руководил запуском нескольких архитектур чипов и был свидетелем того, как Nvidia колебалась между близким к смерти опытом и определяющими рынок успехами. Ему нужно было отдохнуть от долгих часов и стрессов, связанных с работой, но для этого требовалось найти достойного преемника. Кирк не знал никого в отрасли, кто мог бы соответствовать его - и Дженсена - высоким стандартам для роли главного ученого в Nvidia. Но Кирк положил глаз на академика с впечатляющей родословной. Вопрос заключался в том, как компания сможет переманить его с нынешней должности?
Профессору Биллу Дэлли больше нечего было доказывать в области компьютерных наук. Он был живой легендой: получив в 1980 году степень бакалавра по электротехнике в Virginia Tech, он отправился работать в Bell Labs над одними из самых ранних микропроцессоров, которые когда-либо были изобретены. В 1981 году, работая в Bell, он получил степень магистра электротехники в Стэнфорде, а в 1983 году поступил на программу PhD по информатике в Калтех. 1 Далли написал диссертацию - Ричард Фейнман, лауреат Нобелевской премии, физик-теоретик и пионер квантовой механики, входил в его комитет - на тему параллельных структур данных - техники структурирования информации на компьютере таким образом, чтобы она могла использоваться несколькими вычислительными потоками одновременно. Сегодня это известно как параллельные вычисления, и Nvidia опирается на эту технику во всей линейке своих передовых процессоров.
Получив степень доктора философии, Дэлли преподавал в Массачусетском технологическом институте, где работал как над суперкомпьютерами, так и над более дешевыми машинами, в которых использовались готовые детали. После одиннадцати лет работы в Кембридже он вернулся в Стэнфорд, где возглавил кафедру информатики и в итоге получил одну из самых престижных профессорских должностей в университете, став профессором инженерии Уилларда Р. и Инес Керр Белл.
Кирк обратил внимание на работу Дэлли в начале 2000-х и пригласил его для консультаций по архитектуре чипов Tesla, которые в итоге легли в основу серии GeForce 8. Это было пятое поколение "настоящих" GPU Nvidia после первого, программируемого GeForce 3, но одно из первых, которое действительно использовало преимущества параллельных вычислений. Это был первый шаг в том, что стало шестилетним ухаживанием.
"Это был долгий, медленный наем. Как только мы его зацепили, мы просто потихоньку притягивали его к себе", - говорит Кирк. "Билл был еще одной важной частью, потому что он - мастер параллельных вычислений. Именно этим он занимался всю свою карьеру... У него было свое видение того, как должны работать параллельные вычисления". 2
В 2008 году Дэлли взял академический отпуск, чтобы обдумать свои дальнейшие действия. В следующем году Кирк наконец победил и убедил его перейти в промышленность. Далли ушел со своего поста в Стэнфорде и стал работать в Nvidia на полную ставку, стремясь довести свою теоретическую работу до коммерческого применения.
Кирк нанял Дэлли не только для того, чтобы тот сменил его на посту главного научного сотрудника - важной должности с множеством обязанностей в компании. Он также знал, что Далли сможет ускорить развитие технологии GPU в Nvidia.
В течение первых пятидесяти лет истории вычислительной техники самой важной микросхемой в компьютере был центральный процессор, или ЦП. Центральный процессор - это универсал, способный выполнять широкий спектр задач. Он переходит от задачи к задаче с большой скоростью и может выделять значительную вычислительную мощность на каждую операцию. Тем не менее, он может одновременно выполнять лишь несколько операций из-за ограниченного количества ядер, которые обрабатывают только несколько вычислительных потоков одновременно.
Графический процессор, напротив, оптимизирован под объем, а не под сложность. Он содержит сотни или тысячи крошечных вычислительных ядер, что позволяет ему разбивать задачи на множество более простых операций, выполняемых параллельно. Хотя GPU менее универсален, чем CPU, он может значительно превзойти CPU по скорости обработки данных для многих приложений. 3 Секрет успеха GPU заключается в параллельных вычислениях - области, пионером которой был Билл Дэлли.
На Nvision 08 - конференции в Сан-Хосе, ориентированной не на инсайдеров индустрии, а на энтузиастов графики, - Джейми Хайнман и Адам Сэвидж из телешоу Mythbusters выступили с презентацией по просьбе Nvidia. По их словам, Nvidia попросила их на практике продемонстрировать различия между CPU и GPU - "своего рода научный урок", как выразился Сэвидж, "о том, как работает GPU". 4 Они вывели на сцену две машины, предназначенные для выполнения одной и той же задачи - рисования картинки - двумя разными способами. Первая машина называлась Leonardo, это дистанционно управляемый робот, который состоял из пейнтбольного пистолета на поворотной руке, установленной на пару танкоподобных протекторов. Хайнман направил робота через сцену к точке перед чистым холстом, где тот начал стрелять шариками по заранее запрограммированному алгоритму. В течение тридцати секунд Леонардо создал четко читаемое изображение смайлика, выполненное одним цветом - синим. Сэвидж объяснил, что именно так процессоры могут выполнять задачу: "как серию дискретных действий, выполняемых последовательно, одно за другим".
Вторая машина, "Леонардо-2", больше напоминала графический процессор. Это была громадная стойка из одиннадцати сотен одинаковых трубок, каждая из которых была заряжена одним пейнтбольным шариком. Трубки были подключены к одному из двух гигантских баллонов со сжатым воздухом, которые запускали весь запас пейнтбольных шариков одновременно. Если Леонардо потребовалось почти полминуты, чтобы нарисовать простой смайлик, то Леонардо-2 потребовалось меньше десятой доли секунды, чтобы забрызгать весь холст полноцветным изображением, которое было узнаваемым приближением к Моне Лизе. "Что-то вроде параллельного процессора", - сказал Хайнман в своей фирменной манере.
Рендеринг компьютерной графики - задача, требующая больших вычислительных затрат, но гораздо менее сложная, чем, скажем, пересчет каждой математической формулы в электронной таблице с миллионами ячеек. В результате самый эффективный способ сделать компьютер лучше в рендеринге графики - это предоставить ему доступ к большему количеству специализированных ядер, которые могут обрабатывать больше программных потоков параллельно, и все оптимизированы для небольшого набора задач, связанных с обработкой графики. Чтобы стать более искусным в том, для чего он был создан, графическому процессору не нужна большая гибкость или большая мощность грубой силы; ему просто нужна большая пропускная способность.
Со временем различие между CPU и GPU размылось, особенно после того, как матричные вычисления, которые могут выполнять GPU, стали применяться в таких разных областях, как компьютерное зрение, моделирование физики и искусственный интеллект. GPU стал больше похож на чип общего назначения.
Вскоре после начала работы в NVIDIA Дэлли начал переводить исследовательские группы компании на работу с параллельными вычислениями. Один из первых крупных проектов, к которому он приложил руку, касался фотографий кошек в интернете.
Один из бывших коллег Дэлли по Стэнфорду, профессор информатики Эндрю Нг, сотрудничал с Google Brain - одной из исследовательских лабораторий Alphabet по изучению искусственного интеллекта, которая позже объединится в Google Deep-Mind, - чтобы найти лучшие способы глубокого обучения с помощью нейронных сетей. В отличие от ранних нейронных сетей, которым требовалось, чтобы человек "учил" сети тому, на что они смотрят, нейронные сети глубокого обучения были полностью самонаводящимися. Например, команда Нга скормила своей сети глубокого обучения случайную выборку из 10 миллионов неподвижных изображений, взятых с YouTube, и позволила ей решить, какие паттерны встречаются достаточно часто, чтобы сеть их "запомнила". Модель получила такое количество видео с кошками, что самостоятельно, без вмешательства человека, создала составное изображение кошачьей морды. С тех пор она могла безошибочно определять кошек на изображениях, которые не входили в ее обучающий набор. 5
Для ветеранов компьютерных наук, таких как Дэлли, это стало переломным моментом. "Для того чтобы глубокое обучение работало, необходимы три вещи", - говорит он. 6 "Во-первых, основные алгоритмы существуют с 80-х годов. Были усовершенствования вроде трансформаторов, но в целом они существуют уже несколько десятилетий. Второе - наборы данных. Вам нужно много данных. Наборы данных с метками были интересной вещью, [которая] начала появляться в начале 2000-х годов. А затем Фей-Фей Ли собрал набор данных ImageNet. Это была огромная общественная услуга, потому что, имея такой большой набор данных [и] сделав его общедоступным, многие люди могли делать очень интересные вещи".
Работа Нга продемонстрировала возможности применения известных и хорошо понятных алгоритмов к достаточно огромным массивам данных. Хотя способность его модели глубокого обучения распознавать кошек привлекла внимание журналистов, она была способна на гораздо большее. Имея более 1 миллиарда параметров, нейронная сеть Google Brain могла распознавать десятки тысяч различных форм, объектов и даже лиц. 7 Нгу понадобилась компания Google, которая предоставила ему доступ к богатому набору данных для глубокого обучения, который, как оказалось, был одной из крупнейших библиотек контента в мире: YouTube, которым Google владеет с 2006 года. Даже его родной Стэнфордский университет с его большим бюджетом на исследования не смог предоставить ему такой учебный материал. (Google действовала не из альтруизма: в обмен на доступ к своим данным она сохраняла права на коммерциализацию всего, что Нг разработал с использованием этих данных).
Но третья вещь, "необходимая для того, чтобы глубокое обучение работало", по словам Дэлли, - это аппаратное обеспечение, и решить эту проблему оказалось сложнее. Нг воспользовался одним из дата-центров Google и построил собственный сервер глубокого обучения, объединив в цепочку более двух тысяч процессоров с шестнадцатью тысячами вычислительных ядер между ними. 8 Подвиг Нга был впечатляющим, безусловно. Но теперь он столкнулся с той же проблемой, что и Росс Уокер в Суперкомпьютерном центре Сан-Диего: какой бы захватывающей ни была его работа по проверке концепции, она все еще оставляла перспективы глубокого обучения далеко за пределами досягаемости большинства организаций. Даже хорошо финансируемые исследовательские группы не смогли бы приобрести тысячи дорогих процессоров, не говоря уже об аренде места в центре обработки данных, который мог бы хранить, питать и охлаждать такую массивную вычислительную систему. Чтобы по-настоящему раскрыть потенциал глубокого обучения, аппаратное обеспечение должно стать гораздо более доступным.
После ухода из Стэнфорда в Nvidia Дэлли продолжал общаться с Нг. Однажды утром они встретились за завтраком, и Нг рассказал о своей работе в Google Brain. Он рассказал об успешной демонстрации того, как теория глубокого обучения может быть применена к реальной проблеме: автоматическому распознаванию объектов на фотографиях без человеческих пометок или вмешательства. Нг подробно рассказал о своем подходе к объединению обширной базы данных роликов YouTube с необработанной мощностью десятков тысяч традиционных процессоров.
Дэлли был впечатлен. "Это действительно интересно", - сказал он. Затем он сделал наблюдение, которое изменит траекторию развития искусственного интеллекта. "Готов поспорить, что графические процессоры справятся с этим гораздо лучше". 9
Он поручил своему коллеге из Nvidia Брайану Катандзаро, получившему степень доктора электротехники и информатики в Калифорнийском университете в Беркли, помочь команде Нга использовать GPU для глубокого обучения. Дэлли и Катанзаро были уверены, что вычислительные задачи можно разбить на более мелкие и менее сложные операции, которые GPU сможет выполнять более эффективно. Они разработали серию тестов, которые убедительно доказывали их правоту в теории. На практике проблема заключалась в том, что модели глубокого обучения были слишком велики для работы на одном GPU, который мог обрабатывать только модели с 250 миллионами параметров, что составляло лишь часть размера модели Google Brain Нга. Хотя на одном сервере можно было установить до четырех графических процессоров, "объединить" несколько GPU-серверов в цепочку, чтобы увеличить их коллективную вычислительную мощность, ранее не пытались. 10
Используя язык CUDA от Nvidia, команда Катанзаро написала новую оптимизированную процедуру, позволяющую распределять вычисления между многими GPU и управлять связью между ними. Оптимизация позволила Нг и Катанзаро объединить работу, которую раньше выполняли две тысячи CPU, всего лишь с двенадцатью GPU Nvidia. 11
По словам Дэлли, Катанзаро продемонстрировал, что при умелой работе с программным обеспечением графические процессоры могут стать "искрой, которая зажжет революцию ИИ". 12 "Если представить, что топливо - это алгоритмы, а воздух - наборы данных, то после появления графических процессоров становится возможным применять их друг к другу. Без этого это было просто невозможно".
Благодаря оптимизациям CUDA Катанзаро также впервые вступил в прямой контакт с Дженсеном. "Внезапно его очень заинтересовала работа, которой я занимался. Он писал мне по электронной почте и задавал вопросы о том, что я пытаюсь сделать, что такое глубокое обучение, как оно работает", - вспоминает Катанзаро. "А также, конечно, о том, какую роль в этом могут сыграть графические процессоры" 13.
Конечно, Дженсен хотел продавать больше графических процессоров. Но для этого ему нужно было найти "приложение-убийцу", которое стимулировало бы внедрение GPU. Глубокое обучение могло стать именно таким приложением - но только если кто-то сможет показать его применение не только для определения домашних животных.
В ТОТ САМЫЙ ПЕРИОД, КОГДА Катанзаро помогал Нг развивать его проект нейронной сети глубокого обучения, исследовательская группа Университета Торонто показала, что такие сети могут превзойти лучшие программы, созданные человеком, в решении самых сложных задач компьютерного зрения.
Это событие произошло еще в 2007 году, когда новоиспеченный профессор информатики из Принстона по имени Фей-Фей Ли (которого Дэлли упоминал в приведенной выше цитате) начал работать над новым проектом. В то время область компьютерного зрения была нацелена на разработку лучших моделей и алгоритмов, поскольку предполагалось, что тот, кто разработает лучший алгоритм, обязательно получит самые точные результаты. Ли перевернула это представление с ног на голову, предложив, что тот, кто обучится на лучших данных, получит лучшие результаты, даже если он не разработал самый совершенный алгоритм. 14 Чтобы дать своим коллегам-исследователям фору в решении монументальной задачи сбора необходимых данных, она начала составлять каталог изображений, каждое из которых было вручную помечено в зависимости от его содержания. После двух лет работы база данных выросла до более чем 3 миллионов изображений с тысячей различных и взаимоисключающих категорий, которые варьировались от конкретных (сорока, барометр, электродрель) до широких (соты, телевизор, церковь). Она окрестила свою базу данных ImageNet и представила ее академическому миру в виде научной статьи. Поначалу никто не читал статью и не обращал внимания на другие способы, которыми она пыталась привлечь внимание к своему исследованию. Тогда она обратилась в Оксфордский университет, который вел базу данных, аналогичную ее, и спонсировал ежегодный конкурс в Европе для исследователей компьютерного зрения. Она спросила, не согласится ли Оксфорд выступить спонсором чего-то подобного в США, используя ImageNet. Университет согласился, и в 2010 году состоялся первый конкурс ImageNet Large Scale Visual Recognition Challenge. 15
Правила были просты: соревнующиеся модели получали случайные изображения из ImageNet и должны были правильно распределить их по категориям. В первых двух конкурсах в 2010 и 2011 годах результаты были не очень хорошими. Во время первого конкурса одна модель неправильно классифицировала почти все изображения, и ни одна команда не набрала более 75 % правильных результатов. 16 Во второй год команды в среднем справились лучше - худший участник правильно классифицировал около половины изображений, но опять же никто не смог правильно классифицировать более 75 % изображений.
В третьем конкурсе, который состоялся в 2012 году, профессор Университета Торонто Гэри Хинтон и два его студента, Илья Суцкевер и Алекс Крижевский, представили работу под названием AlexNet. В отличие от остальных участников, которые начали разрабатывать алгоритмы и модели, прежде чем оптимизировать их для использования в ImageNet, команда AlexNet использовала противоположный подход. Они использовали графические процессоры Nvidia для поддержки небольшой нейронной сети глубокого обучения, которая получала контент ImageNet, а затем "училась" строить взаимосвязи между изображениями и связанными с ними тегами. Команда не ставила перед собой задачу написать лучший алгоритм компьютерного зрения из возможных; фактически, они сами не написали ни строчки кода компьютерного зрения. Вместо этого они написали лучшую модель глубокого обучения, на которую только были способны, и доверили ей самостоятельно решить проблему компьютерного зрения.
"Начиная с поколения Fermi, графические процессоры были достаточно мощными, чтобы можно было за разумное время создать нейронную сеть интересного размера и обработать интересный объем данных", - говорит Дэлли, имея в виду архитектуру чипов, на которых построена серия GeForce 500, впервые выпущенная в 2010 году. "Так что AlexNet была обучена за две недели" 17.
Результаты были ошеломляющими. И снова 75-процентный барьер был преодолен большинством конкурентов. Но AlexNet правильно классифицировал почти 85 процентов изображений - и сделал это самостоятельно, благодаря силе глубокого обучения. Победа AlexNet дала Nvidia огромный пиар-рост, ведь Хинтону и его студентам понадобилась всего лишь пара готовых графических процессоров потребительского класса, которые стоили несколько сотен долларов за штуку. AlexNet навсегда связал компанию с событием, которое до сих пор считается одним из самых важных в истории искусственного интеллекта.
"Когда Алекс Крижевский и Илья Суцкевер опубликовали свою работу по ImageNet, [она] действительно захватила мир", - говорит Катанзаро. "Одна из вещей, о которой люди часто забывают, заключается в том, что это в первую очередь системная статья. Эта статья не о новой причудливой математической концепции того, как следует думать об искусственном интеллекте. Вместо этого они использовали ускоренные вычисления, чтобы значительно расширить набор данных и модель, которую они применяли для решения этой конкретной задачи. И в итоге это дало отличные результаты" 18.
Работа Алекса Крижевского и Ильи Суцкевера подогрела интерес Дженсена к искусственному интеллекту. Он начал часто общаться с Биллом Дэлли и сосредоточился на том, какие возможности глубокое обучение, и в частности глубокое обучение на базе GPU, откроет для Nvidia. В руководстве компании развернулась бурная дискуссия на эту тему. Несколько ключевых лейтенантов Дженсена были против увеличения инвестиций в глубокое обучение, считая, что это всего лишь мимолетное увлечение. Но генеральный директор их переубедил.
"Глубокое обучение будет очень большим", - сказал он на собрании руководителей в 2013 году. "Мы должны полностью посвятить себя этому".
Хотя он и не осознавал этого, Дженсен провел первые двадцать лет истории Nvidia, готовя компанию к этому моменту. Он укомплектовал штат Nvidia лучшими талантами, которых только мог найти, в том числе переманивая их у конкурентов и партнеров. Он создал культуру, в которой ценились технический блеск, максимальные усилия и, прежде всего, полная преданность компании. Он создал компанию по образу и подобию своего целенаправленного, но далеко идущего ума. Теперь ему предстояло задействовать все имеющиеся в его распоряжении рычаги, чтобы вывести Nvidia в центр технологической индустрии - как компанию, чье оборудование сможет обеспечить будущее, основанное на искусственном интеллекте.
Первым шагом было выделение значительного количества персонала и финансирования на ИИ. По оценкам Катанзаро, над проектами, связанными с ИИ, работало всего несколько человек. Но когда Дженсен начал осознавать масштабы открывающихся перед Nvidia возможностей, он использовал философию "одной команды" для быстрого перераспределения ресурсов.
"Это определенно не был один день, когда вся компания изменилась навсегда", - вспоминает Катанзаро. "Это был период в несколько месяцев, когда Дженсен проявлял все больший интерес и начинал задавать все более глубокие вопросы, а затем начал поощрять компанию к переходу на машинное обучение" 19.
После "роения" Nvidia выпустила целый поток новых функций, разработанных специально для рынка ИИ. Дженсен уже принял важное и дорогостоящее решение сделать весь модельный ряд оборудования компании совместимым с CUDA, чтобы исследователи и инженеры могли программировать графические процессоры Nvidia под свои нужды. Теперь он попросил Дэлли придумать улучшения, ориентированные на ИИ.
Дженсен объявил об изменении стратегического фокуса на общекорпоративном собрании. "Мы должны рассматривать эту работу как наш высший приоритет", - сказал он. 20 Он объяснил, что Nvidia должна привлечь к работе над ИИ нужных людей. Если в настоящее время они занимаются чем-то другим, они должны сменить фокус и работать над ИИ, потому что это будет важнее, чем все остальное, чем они могли бы заниматься. 21
Свою работу по оптимизации GPU Катанзаро превратил в программную библиотеку Nvidia под названием CUDA Deep Neural Network, или cuDNN. Она стала первой библиотекой компании, оптимизированной для ИИ. В дальнейшем она стала обязательным атрибутом для разработчиков ИИ. Она работала со всеми ведущими ИИ-фреймворками и позволяла пользователям автоматически применять наиболее эффективные алгоритмы для решения любой задачи на GPU. "Дженсен был в восторге", - говорит Катанзаро. "Он хотел как можно скорее выпустить этот продукт".
Другой перспективный путь заключался в изменении уровня точности математических вычислений, которые могли выполнять графические процессоры Nvidia. В то время графические процессоры компании поддерживали 32-битную (single float, или FP32) или 64-битную (double float, или FP64) математическую точность; любой из этих типов математики был обязательным условием для многих научных и технических областей. Но моделям глубокого обучения не требовалась такая точность. Модели требовали от GPU только 16-битных вычислений с плавающей точкой, поскольку сети были устойчивы к ошибкам вычислений во время обучения. Другими словами, графические процессоры Nvidia выполняли слишком точные вычисления, что значительно замедляло работу моделей глубокого обучения. Чтобы ускорить работу GPU и позволить этим моделям работать более эффективно, в 2016 году компания Dally внедрила поддержку FP16 во все графические процессоры Nvidia.
Но настоящей задачей было создание аппаратных схем, оптимизированных для ИИ. Когда Nvidia переключилась на ИИ, ее архитекторы уже работали над следующим поколением графических процессоров под названием Volta. Новая линейка находилась в разработке несколько лет; внести даже небольшое изменение в дизайн чипа на тот момент было бы дорого и сложно. Но Дэлли с помощью Дженсена понял, что если компания не попытается создать чипы, оптимизированные для ИИ, сейчас, то другой возможности может не представиться в течение многих лет.
По словам Дэлли, "вся команда - группа GPU, Дженсен и я - согласилась включить в проект значительно большую поддержку искусственного интеллекта", несмотря на то, что они были на позднем этапе разработки. Эта "поддержка" включала разработку совершенно нового типа крошечного процессора под названием Tensor Core, который был интегрирован в Volta. В машинном обучении тензор - это тип контейнера данных, который кодирует множество измерений информации, особенно для сложных типов контента, таких как изображения и видео. Из-за своей насыщенности вычисления на основе тензоров требуют больших вычислительных мощностей. И наиболее интересные формы глубокого обучения - распознавание изображений, генерация языка и автономное вождение - требуют использования все более крупных и все более сложных тензоров.
Точно так же, как традиционные GPU стали улучшением по сравнению с вычислениями на базе CPU благодаря своей способности более эффективно справляться с небольшим подмножеством задач, тензорные ядра стали улучшением по сравнению с традиционными GPU, поскольку они были оптимизированы для выполнения еще более специализированного подмножества задач с еще большей эффективностью. По словам Дэлли, это были "матричные мультидвигатели", созданные для глубокого обучения и только глубокого обучения. Графический процессор на базе Volta с ядрами Tensor может обучить модель глубокого обучения в три раза быстрее, чем тот же GPU со стандартными ядрами CUDA. 22
Все эти инновации и изменения были сопряжены с операционными издержками. Дэлли и его команда внесли последние изменения в линейку Volta всего за несколько месяцев до того, как она была готова к выпуску, - последнего шага перед запуском закрытого дизайна в производство. Это было почти неслыханно, чтобы производитель чипов пошел на такое добровольно, а не в ответ на серьезный дефект, обнаруженный в последний момент.
"Это было решение о том, сколько площади чипа мы собираемся потратить, потому что мы считаем, что этот развивающийся рынок ИИ будет большим", - вспоминает Дэлли. "Это оказалось хорошим решением. Я думаю, что это была настоящая сила Nvidia, что мы смогли это сделать" 23.
В каком-то смысле Nvidia делала то, что делала всегда: замечала большие возможности и спешила вывести свои продукты на рынок до того, как кто-то другой поймет, что этот потенциал вообще существует. В начале гонки за ИИ Дженсен понял, что дело не только в том, кто сделает самый быстрый чип для глубокого обучения. Не менее важно, как все вместе - аппаратная и программная инфраструктура - будет работать.
"Наличие архитектуры и механизма внимания, позволяющих масштабировать эти модели, действительно стало толчком для развития отрасли", - вспоминал Дженсен в 2023 году. 24
Дэлли согласился с оценкой Дженсена. "Важнее всего создать целую экосистему программного обеспечения на ранних этапах", - сказал он. Nvidia хотела создать "всевозможное программное обеспечение, чтобы людям было очень легко эффективно выполнять глубокое обучение на GPU", потому что предоставление готового фреймворка и библиотеки вспомогательного программного обеспечения делает практически неизбежным то, что сторонние разработчики, исследователи и инженеры будут обращаться к Nvidia в первую очередь, когда задумаются об ИИ.
Так же как CUDA сделала имя Nvidia в замкнутом мире академических исследователей ИИ, следующее поколение аппаратного обеспечения появилось как раз вовремя, чтобы те же самые пионеры попытали счастья на коммерческом рынке. Вскоре центр тяжести в области ИИ сместится от Стэнфорда, Торонто и Калтеха к стартапам и устоявшимся технологическим компаниям. Джеффри Хинтон и Фей-Фей Ли оказались в Google. Эндрю Нг работал главным ученым в Baidu - изначально крупнейшей поисковой системе в Китае, а теперь технологическом конгломерате. А Илья Суцкевер, студент Хинтона и один из трех исследователей, совершивших прорыв в AlexNet, стал соучредителем стартапа по глубокому обучению под названием OpenAI, который принес революцию ИИ в общественное сознание.
Всех их объединяло одно: в своей научной жизни они использовали графические процессоры Nvidia для проведения революционных исследований. И Nvidia будет продолжать оставаться их предпочтительным выбором, поскольку ИИ превратился из малоизвестной академической области в глобальную одержимость, вызвавшую огромный аппетит к новым чипам, серверам ИИ и центрам обработки данных.
Работы Билла Дэлли и Брайана Катанзаро позволили Дженсену уловить ранний сигнал о потенциале новой технологии. В течение десятилетия Дженсен был уверен, что ИИ создаст "крупнейшее расширение TAM [совокупного адресуемого рынка] программного и аппаратного обеспечения, которое мы видели за несколько десятилетий" 25. Он перестроил Nvidia вокруг ИИ за считанные годы, двигаясь со "скоростью света". На самом деле, только приняв крайние меры и отказавшись от общеотраслевых тенденций к статичным организациям, длительным срокам разработки и скупым расходам на НИОКР, Дженсен смог подготовить Nvidia к тому, чтобы воспользоваться преимуществами ИИ-землетрясения, когда оно наконец произойдет. И даже тогда никто - даже Дженсен - не знал, насколько сильно будет меняться почва под всей технологической индустрией.
Глава 12. Самый «боязливы» хедж-фонд
Несмотря на то, что об этом мало кто знает, истории Nvidia и Starboard Value, пожалуй, самого известного в мире хедж-фонда-активиста, переплелись.
Джефф Смит, основатель Starboard, вырос в городке Грейт-Нек на Лонг-Айленде. В 1994 году он получил экономическое образование в Уортонской школе Пенсильванского университета и начал свою карьеру в инвестиционном банкинге. Позже он присоединился к небольшому хедж-фонду Ramius Capital, который влился в Cowen Group. 1 В 2011 году Смит и два его партнера выделили Starboard Value в независимый фонд, который будет "сфокусирован на извлечении стоимости из недостаточно эффективных компаний в интересах всех акционеров". 2
Согласно статье в журнале Fortune за 2014 год, Смит быстро завоевал репутацию "самого боязливого человека" в корпоративной Америке благодаря своему агрессивному активистскому инвестированию. 3 К тому времени фонд имел под управлением более 3 миллиардов долларов США и приносил высокую прибыль в 15,5 процента в год. Фонд сменил более восьмидесяти директоров в тридцати различных корпоративных советах; среди сформированных им советов были советы биотехнологической компании SurModics и парикмахерской Regis. В 2012 году компания потерпела редкое поражение в борьбе за включение директоров в совет директоров AOL, но продолжала стремиться к все более крупным целям.
В конце 2013 года Starboard Value совершил самый громкий на сегодняшний день шаг: фонд объявил о приобретении 5,6 % акций крупнейшего в стране владельца сетевых ресторанов полного цикла Darden Restaurants, владельца и оператора Olive Garden, Red Lobster, LongHorn Steakhouse и других национальных сетей. Продажи Darden падали уже несколько лет, и компания решила полностью отказаться от Red Lobster, ссылаясь на растущую стоимость морепродуктов. 4 Смит не согласился с этим решением; он обвинил в проблемах Darden неправильное управление и утверждал, что отказ Darden от Red Lobster фактически уничтожит стоимость для акционеров, а не создаст ее. Starboard считала, что у Darden уже есть все необходимое для выживания, кроме хорошего руководства.
В сентябре 2014 года Starboard представила свое предложение по преобразованию Darden в виде презентации PowerPoint, состоящей почти из трехсот слайдов. Презентация вызвала большой резонанс в национальных СМИ: деловые журналисты отметили особенно резкий тон плана ("Darden уже много лет неправильно управляется и... отчаянно нуждается в переломе"), а другие посмеялись над некоторыми предложениями по экономии, например, над просьбой к официантам быть менее щедрыми при раздаче неограниченного количества хлебных палочек. 5 Но план Starboard был всеобъемлющим и логичным - даже предложение о хлебных палочках, которое должно было увеличить количество точек соприкосновения между персоналом и гостями. И Starboard дала понять, что искренне заботится о брендах Darden не только по финансовым причинам: "Olive Garden занимает особое место в наших сердцах", - говорилось в одном из слайдов. 6 Сочетание сентиментальности и строгости хедж-фонда покорило акционеров Darden; Starboard добился победы в голосовании по доверенности и сменил весь совет директоров компании, состоящий из двенадцати человек. Генеральный директор Darden вскоре ушел в отставку, и компания осуществила одобренный Starboard поворот к лучшему. Победа Смита закрепила за ним репутацию человека обстоятельного и жесткого.
За год до широко освещаемой победы Starboard над Darden Смит сделал менее громкий ход в отношении Nvidia.
В начале 2013 года акционеры компании Nvidia начали проявлять беспокойство. Цена акций компании оставалась практически неизменной на протяжении четырех лет, а финансовые показатели были неоднозначными. В последнем квартале, закончившемся в январе, продажи выросли на 7 процентов по сравнению с прошлым годом, но прибыль снизилась на 2 процента.
У Nvidia был сильный баланс - около 3 миллиардов долларов чистой наличности, что было значительным активом, когда общая рыночная стоимость компании составляла 8 миллиардов долларов. Однако темпы роста компании составляли лишь однозначные цифры, в результате чего коэффициент отношения цены к прибыли (P/E) составлял всего 14 раз. Оценив наличные средства Nvidia, Starboard решил, что компания сильно недооценена, а ее основные активы имеют гораздо больше возможностей для роста. Фонд набросился на компанию: согласно данным 13F Комиссии по ценным бумагам и биржам, за квартал, закончившийся в июне 2013 года, хедж-фонд приобрел 4,4 миллиона акций Nvidia на сумму около 62 миллионов долларов.
Некоторые руководители Nvidia были не в восторге от того, что Starboard станет инвестором. По словам одного из руководителей Nvidia, совет директоров компании был очень обеспокоен тем, что фонд-активист проведет реорганизацию компании, создаст собственный совет директоров и заставит Nvidia сократить инвестиции в CUDA - подобная радикальная реорганизация была предпринята компанией Darden в следующем году. Другой руководитель Nvidia сказал, что Starboard хотел получить место в совете директоров, но совет директоров отказался.
Тем не менее, их отношения никогда не становились слишком антагонистичными. "Я не думаю, что они когда-либо доходили до того, что я бы назвал кризисной стадией. Вы знаете DEFCON 1?" - сказал один из руководителей Nvidia, имея в виду систему оповещения, используемую американскими военными в случае ядерной войны. DEFCON 5 означает мир, а DEFCON 1 - неизбежность ядерной войны. "Он дошел до DEFCON 3".
Команда Starboard несколько раз встречалась с Дженсеном и другими руководителями Nvidia, чтобы обсудить стратегию. Вспоминая об инвестициях спустя годы, Смит говорит, что Starboard в первую очередь выступала за агрессивную программу выкупа акций и отказ от проектов, не связанных с GPU, таких как процессоры для телефонов. 7 Starboard воздержалась от дополнительного давления после встреч. В итоге хедж-фонд добился своего в вопросе выкупа акций. В ноябре 2013 года Nvidia сделала два заявления: обязалась выкупить акции на 1 миллиард долларов к 2015 финансовому году и разрешила дополнительный выкуп акций на 1 миллиард долларов. В последующие несколько месяцев цена акций выросла примерно на 20 %, и Starboard продала свою позицию в Nvidia к марту следующего года.
Nvidia и Starboard не были склонны к разногласиям, но, похоже, в этот короткий период хорошо сработались.
"Мы были невероятно впечатлены Дженсеном, - сказал Смит.
Дженсен, в свою очередь, вспоминает встречи со Starboard, но не очень помнит, о чем шла речь. Не успел он опомниться, как Starboard перестала быть инвестором. Но на этом влияние Starboard на индустрию чипов и на Nvidia не закончилось.
Компания под названием MELLANOX была основана в 1999 году несколькими израильскими руководителями технологических компаний во главе с Эялем Вальдманом, который стал ее генеральным директором. Mellanox поставляла высокоскоростные сетевые продукты для центров обработки данных и суперкомпьютеров по стандарту "InfiniBand" и вскоре стала лидером отрасли. Ее выручка выросла с 500 миллионов долларов в 2012 году до 858 миллионов долларов в 2016 году. Однако высокие расходы на исследования и разработки привели к снижению прибыли.
В январе 2017 года Starboard приобрела 11-процентную долю в Mellanox. Она направила письмо, в котором раскритиковала Уолдмана и его команду за неудовлетворительную работу в течение предыдущих пяти лет. Цена акций Mellanox упала, хотя индекс полупроводниковой промышленности вырос на 470 %. Операционная рентабельность компании была вдвое ниже, чем в среднем у аналогичных компаний. "Mellanox была одной из худших полупроводниковых компаний в течение длительного периода времени", - говорится в письме Starboard. "Время для незначительных изменений и маргинальных улучшений давно прошло". 8
После долгих обсуждений с советом директоров Starboard и Mellanox достигли компромисса в июне 2018 года. Mellanox назначит трех членов совета директоров, одобренных Starboard, и предоставит хедж-фонду дополнительные права на будущее, если Mellanox не достигнет определенных нераскрытых финансовых показателей. Даже получив эти уступки, Starboard сохранил за собой возможность начать борьбу за замену Уолдмана по доверенности. В качестве альтернативы Mellanox могла решить продать себя компании, которая могла бы получить более высокую прибыль на свои активы, чем независимая компания. Так была заложена основа для одной из самых значимых сделок в истории чиповой индустрии.
В сентябре 2018 года Mellanox получила необязывающее предложение о покупке от сторонней компании по цене 102 доллара за акцию - почти на треть выше текущей цены акций, составляющей 76,90 доллара. Теперь Mellanox была полностью в игре. Она привлекла инвестиционный банк для поиска других претендентов и в итоге расширила список потенциальных покупателей до семи.
По словам другого руководителя Nvidia, Дженсен не думал о приобретении Mellanox, когда она стала доступна. Но он быстро оценил стратегическую важность актива, решил, что Nvidia должна выиграть аукцион, и присоединился к охоте в октябре.
В конце концов, список был сужен до трех серьезных претендентов: Nvidia, Intel и Xilinx, которая производила чипы преимущественно для промышленного использования. Три потенциальных покупателя ввязались в многомесячную войну за право покупки, в результате которой Intel и Xilinx предложили цену в 122,50 доллара за акцию. Nvidia поднялась чуть выше, до 125 долларов за акцию. Она выиграла торги 7 марта 2019 года, предложив 6,9 миллиарда долларов наличными.
Спустя несколько дней Nvidia и Mellanox обнародовали информацию о сделке и провели конференц-звонок с аналитиками и инвесторами.
"Позвольте мне рассказать вам, почему это имеет смысл для Nvidia и почему я в восторге от этого", - сказал Дженсен. Он рассказал о том, как будет расти спрос на высокопроизводительные вычисления, как рабочие нагрузки, включая ИИ, научные вычисления и анализ данных, требуют огромного роста производительности, который может быть достигнут только за счет ускорения вычислений с помощью графических процессоров и улучшения сетевого взаимодействия. Он объяснил, что для приложений ИИ в конечном итоге потребуются десятки тысяч серверов, соединенных друг с другом и работающих согласованно, а ведущие на рынке сетевые технологии Mellanox станут решающим фактором, чтобы сделать это возможным.
"Появляющиеся рабочие нагрузки, связанные с искусственным интеллектом и аналитикой данных, требуют оптимизации в масштабах центра обработки данных", - сказал он. Дженсен предсказал, что вычисления выйдут за рамки одного устройства - компьютером станет весь центр обработки данных.
Видение Дженсена сбылось всего через несколько лет. В мае 2024 года Nvidia сообщила, что квартальная выручка той части компании, которая ранее была Mellanox, составила 3,2 миллиарда долларов, что более чем в семь раз превышает показатели последнего квартала в начале 2020 года, в котором Mellanox отчитывалась как публичная компания. Спустя всего четыре года бывший бизнес Mellanox, который обошелся Nvidia в единовременное вознаграждение в размере 6,9 миллиарда долларов, приносил более 12 миллиардов долларов годового дохода и рос трехзначными темпами.
"Mellanox была откровенно замечательной вещью, которую нам подкинули активисты", - сказал один из руководителей Nvidia. "Если вы сегодня поговорите со стартапами в области искусственного интеллекта, то InfiniBand, сетевая технология Mellanox, невероятно важна для масштабирования вычислительной мощности и обеспечения работы всех систем".
Брайан Вентуро, соучредитель и технический директор компании CoreWeave, ведущего поставщика облачных вычислений на GPU и клиента Nvidia, утверждает, что технология InfiniBand по-прежнему остается лучшим решением для минимизации задержек, контроля перегруженности сети и обеспечения эффективной работы рабочих нагрузок.
В некоторых отношениях Mellanox стала счастливой случайностью для Nvidia. Дженсен не был в курсе событий с самого начала. Но как только Nvidia определила и осознала возможности, она приняла решение агрессивно преследовать Mellanox. Это была отличная сделка, хотя результат зависел от способности Nvidia реализовать ее, когда новый бизнес станет частью компании. В этом смысле Mellanox - типичное достижение Nvidia: компания сделала шаг вперед, когда другие этого не сделали, и Mellanox помогла Nvidia занять доминирующее положение в сфере ИИ.
"Это точно войдет в историю как одно из лучших приобретений в истории", - сказал глава отдела глобальных полевых операций Nvidia Джей Пури (Jay Puri). "Дженсен понял, что для вычислений в масштабах центров обработки данных требуются действительно хорошие высокопроизводительные сети, а Mellanox была лучшей в мире в этой области." 9
После того как Nvidia добилась всего, чего добилась за последнее десятилетие, Джефф Смит из Starboard Value тоже высказал одну обобщающую мысль.
"Нам не следовало выходить из положения".
Глава 13. Освещение будущего
СВЕТ - невероятно сложное природное явление. Иногда он ведет себя как частица, иногда - как волна. Иногда он отскакивает от объектов, иногда рассеивается сквозь них, а иногда полностью поглощается ими. В отличие, скажем, от перемещения объекта в пространстве или деформации объекта при столкновении с другим, свет не подчиняется единому набору физических принципов. Тем не менее мы сталкиваемся с ним с того момента, как открываем глаза; мы интуитивно знаем, как он "работает" в реальной жизни.
Таким образом, свет может быть самым важным визуальным элементом в компьютерной графике и самым сложным для воспроизведения. Без хорошего освещения изображения становятся плоскими, резкими или нереальными. При хорошем освещении изображения могут приближаться к работам старых мастеров, передавая эмоции и драматизм даже в простых композициях. Художнику или фотографу может потребоваться целая жизнь, чтобы научиться управлять светом в своих работах. Долгие годы казалось, что компьютеры никогда не смогут достичь такого же уровня мастерства.
В большинстве ранних версий компьютерной графики не удавалось создать убедительное освещение, поскольку вычисления были слишком сложны даже для самых совершенных процессоров. Лучшие алгоритмы рендеринга могли лишь упрощенно моделировать физику света, что приводило к плоским текстурам, нечетким теням, и неестественным отражениям на поверхности. Даже после двух десятилетий непрерывного совершенствования большинства других областей графики и даже после изобретения GPU, который сделал рендеринг графики лучше и эффективнее практически во всех отношениях, свет оставался неразрешимой проблемой.
Затем появился Дэвид Любке. В 1998 году Любке получил докторскую степень по информатике в Университете Северной Каролины в Чапел-Хилл и захотел заняться компьютерной графикой в качестве академической карьеры. Восемь лет он проработал доцентом в Университете Вирджинии, но все больше расстраивался из-за медленного темпа работы. Каждый раз, когда его команда изобретала новую графическую технику для рендеринга частиц или наложения текстур на объекты, она устаревала к тому времени, когда рецензирование статьи завершалось более чем через шесть месяцев. Причиной практически мгновенного устаревания работ Любке была компания Nvidia, которая постоянно выпускала новые функции GPU, превосходящие те, которые его команда изобретала в лаборатории. "Я был очень свободен в гнезде и подумывал о том, чтобы совсем покинуть академическую среду", - говорит он. 1
Затем ему неожиданно позвонил Дэвид Кирк, главный научный сотрудник Nvidia, который был знаком с работой Любке. "Мы создаем в Nvidia группу долгосрочных исследований", - сказал он. "Вам будет интересно?"
Любке не держал зла на Nvidia за то, что она постоянно опережала его собственную работу. Напротив, он понял, что хочет присоединиться к ведущей организации в области компьютерной графики - особенно если это означает, что он поможет определить, куда она пойдет дальше.
В 2006 году он стал первым сотрудником нового подразделения под названием Nvidia Research. В первые недели работы Любке пообедал со Стивом Молнаром, системным архитектором Nvidia и давним другом, и спросил его, чем, по его мнению, должна заниматься исследовательская группа в Nvidia. Например, должна ли она быть организована вокруг получения патентов? Молнар немного подумал и сказал: "Я не вижу Nvidia как некую крепость, защищающую интеллектуальную собственность. Наша сила в том, что мы просто обгоняем других".
Это было справедливое замечание. Nvidia оставалась на переднем крае инноваций прежде всего благодаря операционному совершенству и стратегической дисциплине. У нее были быстрые циклы выпуска продукции и четкое понимание приоритетов - и финансирование спекулятивных исследований без четкой коммерческой конечной цели не входило в их число. Казалось, что исследовательская деятельность Nvidia практически противоречит основной компетенции компании.
Однако Кирк поддержал создание нового подразделения именно потому, что считал, что самые сложные проблемы компьютерной графики требуют постоянных исследований, даже если коммерциализация займет гораздо больше времени. Через несколько недель после начала работы у Любке появилось трое новых коллег. На первом совместном обеде с Кирком они спросили, с чего им начать. Кирк не ответил на этот вопрос: он сказал им, что они сами должны понять, в чем будет заключаться их работа. По крайней мере, он предложил несколько основных рекомендаций. Они должны работать над чем-то важным для компании. Их проекты должны оказывать значительное влияние. И они должны сосредоточиться на инновациях, которые не могли бы появиться в ходе обычной деятельности Nvidia, - изобретениях, которые были бы невозможны без целенаправленной, долгосрочной работы, такой, на которую остальные сотрудники компании не были настроены.
Трассировка лучей - технология, имитирующая поведение световых лучей, отражающихся от объектов или проходящих через них в виртуальной сцене, - была как раз таким проектом. В теории трассировка лучей должна была обеспечить гораздо более реалистичные эффекты освещения, чем те, что были доступны на рынке в настоящее время. На практике же она оказалась настолько требовательной, что вычислительное оборудование не смогло с ней справиться.
В то время было принято считать, что CPU лучше GPU справляются с трассировкой лучей, поскольку могут выполнять более широкий и разнообразный набор вычислений. Внутренняя исследовательская группа Intel настойчиво отстаивала эту идею; они утверждали, что из-за сложности поведения света в реальном мире только CPU может точно смоделировать его.
В течение шести месяцев после основания Nvidia Research команда провела эксперименты, которые не только показали, что графические процессоры стали достаточно мощными для вычислений трассировки лучей, но и что они могут делать это быстрее, чем нынешнее поколение центральных процессоров. Воодушевленный возможностью решить и коммерциализировать давнюю проблему в компьютерной графике, Любке назначил первую встречу Nvidia Research с Дженсеном.
Обычно, когда Дженсен посещает презентацию, докладчики получают лишь несколько минут непрерывного времени, после чего начинается дискуссия. Однако в данном случае Дженсен прослушал всю часовую презентацию. "Я думаю, он был очень терпелив с нами, чтобы дать нам высказаться", - сказал Любке.
После того как Любке закончил, Дженсен предложил ему несколько отзывов. Трассировка лучей имела очевидный потенциал на игровом рынке. Но генеральный директор посоветовал Любке и его команде не игнорировать другие сферы. Например, трассировка лучей может быть полезна для продвижения видеокарт Nvidia Quadro для рабочих станций, которые продавались в небольших объемах, но в то время обеспечивали почти 80 % прибыли компании из-за их высокой цены. Впечатление от профессионального и технического рынка может оказаться более выгодным для компании.
Убедив Дженсена в том, что трассировкой лучей стоит заняться, Любке отправился на сессию разработчиков графических процессоров Nvidia. У команды Любке было несколько идей, как реализовать вычислительные возможности, необходимые для трассировки лучей, включая внесение изменений в процессоры, лежащие в основе самих GPU. Привыкшие к свободным академическим дискуссиям, Любке и его команда предполагали, что инженеры будут открыты для чего-то подобного. "Мы явились на встречу по архитектуре чипов Fermi", - говорит он, имея в виду поколение чипов, которое тогда находилось в разработке. "Мы просто хотели, чтобы несколько потоков могли работать рядом друг с другом на одном ядре CUDA".
Как и Дженсен, архитекторы GPU Fermi приняли своих новых коллег и их нестандартное, некорпоративное поведение. "Это довольно дешево. Я думаю, мы сможем это сделать", - сказал Джона Албен, глава отдела разработки GPU, - но есть одна загвоздка. "Вы, ребята, должны понимать, что нам нужно принимать решения на основе данных".
Команда Nvidia Research получила сообщение и усвоила важный урок. Мыслить вслух вполне допустимо, но для принятия важных решений команде разработчиков аппаратного обеспечения GPU требовались доказательства, оправдывающие затраты времени и ресурсов. Нельзя просто сказать: "Это очевидно, это хорошая идея", - говорит Любке.
Весь следующий год исследователи посвятили тому, чтобы предоставить эти доказательства. Они работали над технологией доказательства концепции и создавали алгоритмы, чтобы продемонстрировать возможность экономически эффективного использования графических процессоров для трассировки лучей. Это была увлекательная, захватывающая работа, и не только для самих исследователей. Брайан Катанзаро, который в то время был стажером, вспоминает, что в 2008 году Дженсен присутствовал на собрании исследовательской группы по трассировке лучей. Он не задавал никаких вопросов. Он не принес с собой компьютер. Он был там, чтобы просто послушать, как команда в течение часа рассказывает о трассировке лучей.
Дэвид Кирк был настолько убежден результатами работы команды, что подтолкнул руководство Nvidia к быстрым действиям по внедрению идей Любке в производство. Первым шагом стало приобретение стартапов, обладающих специальными знаниями в области трассировки лучей. Nvidia нашла и купила два: Mental Images, базирующуюся в Берлине, и RayScale, расположенную в штате Юта. Любке и Кирк вылетели в Юту, чтобы показать соучредителям RayScale Питу Ширли и Стиву Паркеру, что трассировка лучей может работать на GPU гораздо лучше, чем на процессорах, которые они использовали.
Сразу после того, как RayScale присоединилась к Nvidia, ее сотрудники работали вместе с командой Nvidia Research над созданием демонстрации для конференции SIGGRAPH 2008 года. Это была та самая конференция, на которой в 1991 году Кертис Прим представил миру свой авиасимулятор Aviator и показал, что возможно в компьютерной графике. Nvidia часто посещала эту конференцию, и теперь, спустя почти два десятилетия, она была готова представить следующую эволюцию в компьютерной графике. Команда представила демонстрацию гладкого, блестящего спортивного автомобиля , едущего по городу на базе GPU, с эффектами, которые может создать только трассировка лучей: отражения от изогнутых поверхностей, резкие тени, искаженные отражения и размытие движения.
"Это был поворотный момент для компании. Это было начало чего-то большого", - вспоминает Любке. "История о том, что графические процессоры не могут выполнять трассировку лучей, была полностью опровергнута этой демонстрацией".
На демонстрации присутствовало несколько сотрудников Intel. После этого они подошли к команде Nvidia Research и спросили, действительно ли все работает на GPU. Когда Любке подтвердил, что это так, он увидел, что они начали яростно стучать по своим Blackberry. Исследовательские группы Intel так и не выпустили больше ни одной статьи о трассировке лучей на CPU.
В следующем году на выставке SIGGRAPH 2009 компания Nvidia представила OptiX, полностью программируемый движок трассировки лучей на базе CUDA для карт Quadro , который ускорял трассировку лучей для фотореалистичного рендеринга, промышленного дизайна и радиационных исследований. Для поддержки релиза Стив Паркер и бывшие сотрудники RayScale были выделены из исследовательского подразделения и перешли в основной бизнес Nvidia.
"Мы всегда рассматривали Nvidia Research как инкубатор. Если что-то удается, мы как бы выталкиваем это из гнезда, и оно превращается в продукт", - говорит Любке.
Всего за три года Nvidia Research превратилась из группы, занимавшейся спекулятивными вычислительными проектами, в надежный источник новых бизнес-возможностей для компании. Тем не менее, чтобы сделать трассировку лучей доступной для широких масс, предстояло пройти долгий путь. Демонстрация, которую Nvidia показала на SIGGRAPH 2008, все еще выходила за рамки возможностей видеокарт потребительского класса. Хотя OptiX позволял инженерам быстрее рендерить сцены с трассировкой лучей, если только это не была очень простая сцена, трассировка лучей не могла выполняться в реальном времени, поскольку требовала слишком много вычислений. Компания решила отбросить все мысли о прогрессе в области применения трассировки лучей в играх.
Спустя годы, в 2013 году, Дэвид Кирк снова обратился к Любке. "Нам нужно пересмотреть трассировку лучей", - сказал он. "Что нужно сделать, чтобы она стала центром графики?" По его мнению, настало время для трассировки лучей в реальном времени в играх.
Любке был настолько воодушевлен этой перспективой, что 10 июня 2013 года разослал всем сотрудникам Nvidia электронное письмо, которое стало известно как "лучевая трассировка" (ray-tracing moonshot e-mail). "В течение некоторого времени мы планировали новую инициативу, связанную с трассировкой лучей", - написал он. "Что мы могли бы сделать, если бы трассировка лучей была в сто раз эффективнее, и что нужно для того, чтобы сделать это в сто раз эффективнее?"
Любке не преувеличивал масштабы проблемы. Только такое повышение эффективности сделает трассировку лучей в реальном времени возможной для более дешевых потребительских видеокарт. Для достижения этой цели потребуются новые алгоритмы и создание новых специализированных аппаратных схем. Это также потребует новых взглядов на то, что возможно с технологией GPU.
Ключевой вклад внесла команда Nvidia, расположенная в Хельсинки, которую сотрудники в Санта-Кларе стали называть "финнами". Тимо Айла, пришедший в Nvidia в результате приобретения в 2006 году, был первым сотрудником в Хельсинки. Со временем Айла и его коллеги стали своего рода внутренней ударной группой, которой поручались самые сложные исследовательские вопросы, стоящие перед Nvidia. Так, они взялись за исследование нового специализированного процессорного ядра для трассировки лучей в графических процессорах. Их поддержал первый сотрудник Nvidia и архитектор чипов Эрик Линдхольм, который прилетел в Финляндию.
"Финны - это такая команда исследователей, у которых все, к чему они прикасаются, становится золотым", - говорит Любке.
После того как Nvidia Research представила свою работу команде разработчиков архитектуры GPU и заручилась ее поддержкой, в марте 2014 года инженеры из США были направлены для совместной работы с финнами над ядрами для трассировки лучей. В 2015 году финны отправились в штаб-квартиру Nvidia, чтобы решить оставшиеся вопросы. К 2016 году проект был практически завершен, и Nvidia Research полностью передала его инженерной команде компании. Хотя технология трассировки лучей запоздала с запуском архитектуры Pascal, которая была представлена в конце того же года, Nvidia готовилась выпустить выделенные ядра для трассировки лучей в следующей архитектуре, которая будет называться Turing.
"Моя работа во время всего этого - защищать их, следить за тем, чтобы они получали уход, питание и внимание, в которых они нуждались", - сказал Любке, говоря о финнах.
Дженсен представит Turing с выделенными ядрами для трассировки лучей в рамках своего основного доклада на SIGGRAPH 2018, ровно через десять лет после того, как демонстрация Nvidia Research наглядно доказала, что трассировке лучей место на GPU, а не на CPU. Большая часть его выступления была посвящена представлению архитектуры Turing, а также улучшенного ядра Tensor второго поколения, предназначенного для ускорения рабочих нагрузок нейронных сетей "глубокого обучения". Но Дженсен не был удовлетворен. Он хотел, чтобы в его выступлении был дополнительный материал, способный увлечь аудиторию конференции.
За две недели до выставки он предложил руководителям Nvidia предложить идеи для своего выступления. Аарон Лефон (Aaron Lefohn) из Nvidia Research предложил продемонстрировать новую функцию сглаживания с глубоким обучением, или DLAA. Работающая на ядрах Tensor компании Turing, DLAA использует искусственный интеллект для улучшения качества изображения, делая графику высокого разрешения четкой, а объекты - резко очерченными. Дженсена это не впечатлило. Ему хотелось чего-то более интересного. "Лучше выглядящая картинка не поможет продать много GPU".
Но в этом предложении он нашел вдохновение. Вместо сглаживания с глубоким обучением, которое улучшает и без того отличные изображения, что если использовать ядра Tensor для того, чтобы карты нижнего ценового сегмента работали так же хорошо, как и топовые? Например, Nvidia могла бы использовать функцию улучшения изображения для выборки и интерполяции дополнительных пикселей, чтобы карта, предназначенная для рендеринга графики в разрешении 1 440p, также известном как "Quad HD", могла бы создавать изображения в более высоком разрешении 4K, "Ultra HD", с аналогичной частотой кадров. ИИ будет использоваться для заполнения деталей, чтобы преобразовать изображение с более низким разрешением 1440p в изображение с более высоким разрешением 4K.
"Что бы действительно помогло, - говорит Дженсен, - так это возможность делать супервыборку с глубоким обучением. Это было бы большой удачей. Вы можете это сделать?"
Лефон посовещался со своей командой и сказал Дженсену, что это возможно. Им нужно было изучить идею. Через неделю, за несколько дней до презентации, Лефон доложил Дженсену, что первые результаты многообещающие и они смогут сделать то, что стало известно как DLSS. "Поместите их на слайды", - сказал Дженсен.
"Никому в мире не приходило в голову создать систему и модель машинного обучения, способную делать выводы по сотням миллионов пикселей в секунду на домашнем компьютере", - говорит Брайан Катанзаро. 2
Дженсен придумал DLSS прямо на месте. Он увидел перспективу, заложенную в одной технологии, и преобразовал ее в новую функцию с лучшим бизнес-обоснованием. Теперь, если DLSS будет работать, вся линейка продуктов компании, от младших до старших, станет более совершенной, а значит, и более ценной, что позволит Nvidia устанавливать более высокие цены. "Исследователи изобрели эту удивительную вещь, но Дженсен увидел, на что она годится. Это было не то, о чем они думали", - сказал Любке. "Это показывает, каким лидером является Дженсен и насколько он техничен и умен".
Ключевая речь Дженсена была принята хорошо, но карты GeForce RTX на базе GPU Turing - нет. "Мы запустили трассировку лучей и DLSS с грохотом, - сказал Джефф Фишер. Проблема заключалась в том, что GeForce RTX обеспечивали незначительный прирост частоты кадров по сравнению с картами предыдущего поколения Pascal. А когда геймеры включали трассировку лучей, которая, как предполагалось на сайте , должна была стать главной новой функцией, карты RTX падали на 25 процентов в частоте кадров".
DLSS показал себя несколько лучше. При включении она позволяла картам работать примерно на 40 % быстрее, чем Pascal, но с заметной потерей качества изображения. Nvidia также пришлось настраивать и обучать искусственный интеллект DLSS на видеозаписях каждой игры, с которой должна была работать технология, что было кропотливым и длительным процессом. Тем не менее, к этому моменту Nvidia поняла ценность разработки и итерации технологии в течение долгого времени и ожидания, пока рыночный спрос не догонит ее. "Вы решаете проблему курицы и яйца с помощью бутстрапинга", - говорит Брайан Катанзаро. Невозможно получить потрясающий ИИ в сотнях миллионов семей, не создав его сначала". И трассировка лучей, и ИИ должны были навсегда изменить игры. Мы знали, что это неизбежно".
Катанзаро присоединился к проекту DLSS после запуска Turing в 2018 году. Он работал над DLSS 2.0, которая была представлена в марте 2020 года и не нуждалась в настройке для каждой игры. Она получила гораздо лучшие отзывы. "Мы переосмыслили проблему и добились лучших результатов, не требуя индивидуальных обучающих данных из каждой игры", - говорит Катанзаро.
Следующая итерация была еще лучше. Катанзаро покинул Nvidia ради короткой работы в китайской поисковой и технологической компании Baidu, но вернулся к работе над тем, что стало DLSS 3.0. Цель заключалась в использовании глубокого обучения для создания промежуточных кадров, генерируемых искусственным интеллектом, между рендерными кадрами в играх. Идея заключалась в том, что в каждом последующем кадре видеоигры есть закономерности и взаимосвязи, и если чип ИИ сможет предсказать эти закономерности и взаимосвязи, он сможет снять часть вычислительной нагрузки по рендерингу с GPU.