Dylan Patel on GPT-5’s Router Moment, GPUs vs TPUs, Monetization

a16z www.youtube.com

Краткое содержание

В этом подкасте обсуждается текущее состояние и будущее аппаратного обеспечения для ИИ, включая модели монетизации, конкуренцию между компаниями, проблемы с центрами обработки данных и советы для крупных технологических компаний.

  • Обсуждение GPT-5 и его возможностей, а также стратегий монетизации OpenAI.
  • Анализ роста NVIDIA и угроз со стороны кастомных кремниевых решений.
  • Обзор проблем с центрами обработки данных, включая энергопотребление и охлаждение.
  • Советы для технологических гигантов, таких как NVIDIA, Google, Meta, Apple и Microsoft, о том, как оставаться конкурентоспособными в эпоху ИИ.
  • Обсуждение политики в области ИИ и экспортного контроля.

Введение и ландшафт аппаратного обеспечения ИИ

В начале подкаста подчеркивается важность аппаратного обеспечения в сфере ИИ, особенно полупроводников и центров обработки данных. Отмечается, что компании, занимающиеся аппаратным обеспечением для ИИ, такие как Nvidia, играют ключевую роль в текущей "золотой лихорадке" в области ИИ. Подчеркивается, что для успешной конкуренции с Nvidia недостаточно просто повторить их решения, необходимо предложить что-то принципиально новое и превосходящее их технологии.

Реакции на GPT-5: Разочарование?

Обсуждается GPT-5 и высказывается мнение, что новая модель может быть разочарованием для некоторых пользователей. Отмечается, что в некоторых случаях старые модели, такие как GPT-4.5 и GPT-3, могут быть предпочтительнее для определенных задач. Подчеркивается, что GPT-5 тратит меньше вычислительных ресурсов на один запрос, что может быть связано с использованием "маршрутизатора", который направляет запросы на разные модели в зависимости от их сложности.

Бизнес моделей ИИ: Стоимость, монетизация и маршрутизатор

Обсуждается бизнес-модель OpenAI и способы монетизации бесплатных пользователей. Отмечается, что OpenAI использует "маршрутизатор" для направления запросов на разные модели, что позволяет оптимизировать использование вычислительных ресурсов и предлагать бесплатным пользователям доступ к более мощным моделям в определенных случаях. Рассматриваются альтернативные способы монетизации, такие как взимание комиссии за агентские услуги, предоставляемые ИИ.

Экономика ИИ: Стоимость против производительности

Подчеркивается, что стоимость становится все более важным фактором при разработке моделей ИИ. Отмечается, что OpenAI увеличила пропускную способность своей инфраструктуры и снизила стоимость токенов. Обсуждается, как разработчики ищут способы оптимизировать использование моделей ИИ, чтобы снизить затраты.

Ценообразование на основе использования и прилипчивость продукта

Обсуждается вопрос ценообразования на основе использования и прилипчивости продуктов, связанных с ИИ. Отмечается, что клиенты не всегда хотят платить за фактическое использование, предпочитая фиксированные тарифы. Подчеркивается важность разработки удобного пользовательского интерфейса для получения обратной связи от пользователей и улучшения моделей ИИ.

Совет Сэму Альтману: Монетизация OpenAI

Предлагается совет Сэму Альтману, генеральному директору OpenAI, о том, как монетизировать компанию. Рекомендуется немедленно запустить систему, позволяющую пользователям вводить данные кредитной карты в чат GPT и соглашаться на комиссию за агентские услуги, предоставляемые ИИ. Подчеркивается, что OpenAI должна интегрировать свой ИИ с различными платформами для покупок и бронирования, чтобы зарабатывать деньги на решениях о покупках.

Рост NVIDIA и будущее вычислений ИИ

Анализируется рост NVIDIA и перспективы компании в будущем. Отмечается, что спрос на вычислительные ресурсы для ИИ продолжает расти, особенно со стороны крупных компаний, занимающихся обучением моделей и рекламой. Обсуждается вопрос о том, сможет ли NVIDIA сохранить свои лидирующие позиции в долгосрочной перспективе, учитывая конкуренцию и развитие моделей с открытым исходным кодом.

Кастомный кремний: Угрозы для NVIDIA

Рассматривается угроза для NVIDIA со стороны кастомных кремниевых решений, разрабатываемых такими компаниями, как Google и Amazon. Отмечается, что эти компании значительно увеличили свои заказы на собственные чипы. Подчеркивается, что NVIDIA может столкнуться с проблемами, если другие компании научатся более эффективно использовать специализированные кристаллы.

Бум стартапов в сфере производства кремния

Обсуждается бум стартапов в сфере производства кремния и большой объем капитала, вливающийся в эту область. Отмечается, что некоторые компании получают значительное финансирование, даже не выпустив чип. Подчеркивается, что для успешной конкуренции с NVIDIA необходимо предложить прорывные технологические решения, а не просто незначительные улучшения существующих технологий.

Энергопотребление и охлаждение центров обработки данных: Следующее узкое место

Обсуждается проблема энергопотребления и охлаждения центров обработки данных. Отмечается, что, хотя ИИ потребляет много энергии, это не является основной проблемой. Главная проблема заключается в том, чтобы построить инфраструктуру для обеспечения необходимой мощности и охлаждения. Подчеркивается, что стоимость графических процессоров и сетевых подключений намного превышает стоимость электроэнергии и охлаждения.

Роль Intel в эпоху ИИ

Обсуждается роль Intel в эпоху ИИ. Подчеркивается, что миру нужна Intel, чтобы конкурировать с TSMC, которая в некоторой степени является монополией. Отмечается, что Intel отстает от TSMC в разработке технологических процессов, но не настолько, чтобы это было абсурдно. Предлагаются советы генеральному директору Intel, Липу Бутану, о том, как улучшить компанию и сделать ее более конкурентоспособной.

Совет технологическим гигантам: NVIDIA, Google, Meta, Apple, Microsoft

Предлагаются советы технологическим гигантам о том, как оставаться конкурентоспособными в эпоху ИИ. Для NVIDIA рекомендуется инвестировать в инфраструктуру центров обработки данных. Для Google рекомендуется открыть Komodo на TPU и быть более агрессивными в отношении центров обработки данных. Для Meta рекомендуется сосредоточиться на реализации видения носимых устройств с интегрированным ИИ и выпускать больше продуктов за пределами своего основного IP. Для Apple рекомендуется потратить больше денег на инфраструктуру ИИ и осознать, что интерфейсом для вычислений станет ИИ. Для Microsoft рекомендуется вытрясти всю дурь из компании и сосредоточиться на продукте.

Политика в области ИИ и экспортный контроль

Обсуждается политика в области ИИ и экспортный контроль. Отмечается, что Китай может направлять гораздо больше ресурсов на развитие ИИ, как только решит это сделать. Подчеркивается, что Китай может ввозить чипы контрабандой и строить центры обработки данных за пределами Китая. Обсуждается вопрос о том, является ли Китай регулятором ИИ.

Summarize any YouTube video in seconds

Get summaries like this one for any video, in your language, with the free Summ app.

Download on the Apple Store
Get it on Google Play

Расшифровка

YouTube Transcript Generator

0:00 У Nvidia сетевые возможности будут лучше, чем у вас. У них будет лучший HPM. У них будет лучший узел процесса. Они выйдут на рынок быстрее. Они смогут набирать скорость быстрее. У них будут более выгодные переговоры с компаниями TSMC, SKH Highix, производителями памяти и кремния, а также со всеми производителями стоек, медных кабелей и т. д. Они будут иметь лучшую экономическую эффективность. Поэтому вы не можете просто так сделать то же самое, что и Nvidia. Вам придется сделать настоящий прыжок вперед каким-то другим способом. Тебе нужно быть в 5 раз лучше. Дилан, добро пожаловать в подкаст. Спасибо, что пригласили меня. Мы уже некоторое время пытаемся с вами связаться . Вы занятой человек. Но, но, но это сработало. Ум Гу хочет, чтобы вы рассказали, почему мы так рады видеть Дилана в подкасте и что мы хотим обсудить. Послушай, я думаю, Дилан, ты проделал исключительную работу, освещая то, что происходит в сфере аппаратного обеспечения ИИ , в сфере полупроводникового ИИ, а теперь еще и в

0:45 сфере центров обработки данных. И знаете, если просто посмотреть, то на данный момент самая дорогая компания на планете — это компания, занимающаяся полуавтоматическим программным обеспечением в области искусственного интеллекта, верно? Я думаю, что крупнейшее IPO в сфере ИИ на данный момент было проведено компанией, занимающейся облачными технологиями ИИ. Именно это сейчас и происходит в любую золотую лихорадку в первые дни: кирки, свиньи и неприятности приносят деньги, и я думаю, что это как раз тот этап, на котором мы находимся. Очень рад видеть вас здесь сегодня. Потрясающий. Спасибо. Рад поговорить на мои любимые темы. Удивительный. Что ж, пожалуй, начнем с GP5. Знаете, на прошлой неделе к нам приходили некоторые исследователи, такие как Кристина и Изабелла . Что, эм, ты сказал, что это разочаровывает. Э-э, почему бы вам не поделиться своими реакциями или тем, какие возможности вы надеялись увидеть, или вообще. Я думаю, это зависит от того, на каком уровне вы находитесь, верно? Хм, и,

1:33 например, если вы используете только GPD5 и до этого вы были, ну, знаете, подписчиком за 20 или 200 долларов в месяц, то у вас больше нет доступа к версии 4.5, которая, по моему мнению, по-прежнему является лучшей предварительно обученной моделью для определенных вещей. Эм, или у вас больше нет доступа к, эм, 03, который, возможно, думает в среднем 30 секунд, верно? в то время как GPD5, даже когда вы используете мышление, э-э, думает в среднем всего лишь от 5 до 10 секунд, верно, э-э, что является интересным явлением, верно, э-э, но в принципе, как GPD5 не тратит больше вычислений как таковых, модель стала немного лучше, э-э, на ванильной основе, верно, 40 к 5 на самом деле довольно хорошо, но, э-э, когда вы думаете, вы знаете, что это за кривая интеллекта, верно,

2:19 чем больше вычислений вы тратите, тем лучше становится модель, э-э, и это зависит от того, больше ли это модель, э-э, в чем GPD5 не прав, вы можете, вы можете видеть, что это не большая модель, э-э, она примерно того же размера, э-э, и вы знаете, или вы думаете больше, верно, э-э, но опять же, это то, что первые модели мышления OpenAI, вы знаете, первые несколько э-э, э- э, поколений 01 03 думали долго, э-э, и тратили много токенов, э-э, если вы будете, э-э, и когда вы посмотрите, например, э-э, вы знаете, модели энтропийного мышления, которые на самом деле думают, даже когда вы переводите их в режим мышления, они думают гораздо меньше, чтобы получить те же результаты или лучшие результаты, верно? Как и OpenAI. Итак, я думаю, что OpenAI во многом оптимизирован, ну, если я спрошу, я думаю, что самый глупый вопрос, который я задал, был такой, как я спросил 03 однажды,

3:04 свинина - это красное мясо или белое? И он думал примерно 48 секунд. Я подумал: «Что ты делаешь?» Как это должно быть, просто как это должно быть, это должно быть, просто как скажите мне ответ. И, как вы знаете, приятно то, что GBD5 будет думать гораздо меньше, даже если вы выберете режим мышления вручную. Но что еще важнее, у них есть своего рода автоматическая функциональность, маршрутизатор, который позволяет им решать, стоит ли направлять трафик на обычную модель? Мне направить на, возможно, мини, если вы превысили лимит скорости, или мне направить на мышление, верно? Эм, а я думаю, сколько? Но в целом мыслящая модель будет думать меньше. Таким образом, на каждый запрос опытного пользователя сейчас тратится меньше вычислительных ресурсов, чем раньше. Но разве это не еще интереснее? Теперь OpenAI может контролировать, сколько вычислительных ресурсов

3:50 вам выделяется, верно? если мы находимся в ситуации высокой нагрузки, может быть, немного настроить маршрутизатор, чтобы она была меньше, верно? Может быть, я понятия не имею, что они делают. Эм, вы знаете, за кулисами, но сейчас есть этот мем, что по сути все, что они сделали, это мем, верно? Это неправда, но все, что они сделали, это взяли все три плюс пару моделей поменьше, поставили фрезер впереди и, знаете ли, предложили это по более низкой цене блендера, по сути, верно? Я думаю, что-то подобное есть, да? Стоимость внезапно стала иметь значение, и они нашли способ, как этим управлять. Думаю, да, я имею в виду, и они говорили о том, как им удалось значительно увеличить пропускную способность своей инфраструктуры, потому что я сам регулярно использовал 03 или 4.5, верно, а теперь я вынужден использовать Auto, что иногда дает мне, вы знаете, эквивалентную модель мышления 03, но иногда дает мне, вы знаете, просто обычную базовую

4:35 модель, что отстой, но, как я думаю, для бесплатного пользователя это на самом деле довольно интересно, верно, э-э, бесплатный пользователь практически никогда не получал модели мышления, не используя их, э-э, или во многих случаях они просто открывают веб-сайт и задают свой запрос, и теперь иногда их запрос направляется туда, так что иногда они получают гораздо лучшую модель, но теперь иногда, вы знаете, открытие, я могу изящно уменьшить их, э-э, если им нужно, верно, и это похоже, я думаю, я думаю, маршрутизатор указывает на будущее открытого глаза с точки зрения бизнеса, верно, вы можете посмотреть на своего рода модельные компании, верно, антропогенная полностью сосредоточена на B2B, верно, э-э, API-код и т. д., там, где или облачный код, что бы это ни было, верно, открытый AAI, да, у них есть этот бизнес, Kodaks и API-бизнес, но на самом деле большую часть

5:21 дохода составляют потребители, верно? Да, это потребительские подписки, но у них нет возможности продавать что-то дополнительно, например, зарабатывать деньги на всех бесплатных пользователях, верно? Ну, в любом другом приложении, потребительском приложении, бесплатный пользователь все равно платит за рекламу. Хм, но это же несовместимо с ИИ, да? Как будто это полезный помощник. Вы не можете просто ухудшить результаты пользователя, вставляя рекламу. Баннерная реклама тоже не особо работает в ИИ. Итак, как теперь их монетизировать? И я думаю, что они с маршрутизатором уже близки к пониманию того, как монетизировать этого пользователя, верно? Хм, с новым генеральным директором по приложениям, если вы видели ее продукт, который она запустила в Shopify, э-э, я думаю, это был Shopify — агент по покупкам, верно? И теперь этот лайк сразу же нажимает, типа, о, если пользователь задает запрос с низким значением v, типа, эй, а почему

6:09 небо голубое? Просто перенаправьте их на mini, верно? как будто вы знаете, что модель может ответить прекрасно, и это часть запросов, верно, и но если они спрашивают, например, какой лучший адвокат по делу о вождении в нетрезвом виде рядом со мной, да, внезапно, это как будто вы знаете, что вы в тюрьме, у вас есть один шанс, вы знаете, типа, к черту все, дайте мне спросить Чада GPT, кто лучший адвокат по делу о вождении в нетрезвом виде, и теперь внезапно вы понимаете, что модель не способна на это сегодня, но достаточно скоро она сможет, вы знаете, связаться со всеми адвокатами в округе и, э-э, вы знаете, каковы их результаты и, возможно, поискать их судебные документы и что-то еще и и и нанять лучшего адвоката для или или самолета. Договориться о сокращении, как часть этого. Да, конечно, они получат свою долю, верно? Но это гораздо лучший способ монетизации бесплатного пользователя. Это как, знаете, у Etsy сейчас 10% трафика поступает

6:54 из чата, и компания ничего с этого не получает, но они очень скоро это сделают, верно? Ну, отчасти это потому, что Amazon блокирует чат, но, как вы знаете, есть способ зарабатывать деньги на решениях о покупках, будь то бронирование билетов или поиск товаров. Эм, а те, кого вы сейчас называете свободными пользователями, мне безразличны. Я отправлю тебя к своей лучшей модели. Я отправлю тебя к агентам. Я собираюсь потратить на вас невообразимое количество вычислений, потому что я могу на этом заработать. Но если это будет запрос типа «помоги мне с домашним заданием», я пришлю тебе достойную модель, верно? Мне не нужно тратить на тебя деньги. Эм, и вот как я думаю, открывая, я, наконец, смогу зарабатывать деньги на бесплатном пользовании. И я думаю, что это самое большое преимущество роутера, верно? Это очень интересно. Я думаю, это первый раз, когда мы увидели запуск новой модели, где

7:40 в какой-то степени стоимость является главным пунктом, верно? Я имею в виду, что до сих пор всегда было так: у кого самая умная модель, у того и самый высокий балл MLU. Теперь у нас внезапно появились люди, которые используют модели для кодирования по 8 часов в день, и, знаете, удивительно, что если взять большое контекстное окно, то лучшая модель создает тысячи долларов затрат в месяц, так что стоимость имеет значение, и поэтому в какой-то степени баланс между стоимостью и производительностью — это новый эталон для конкурентоспособной модели, где стоимость больше не важна. Это то, что мы здесь видим, или, я имею в виду, я думаю, определенно верно. Например, OpenAI заявила, что удвоила свои ограничения по скорости для, ну, вы знаете, c для большого количества пользователей, они значительно увеличили количество токенов, которые они обслуживают с этого запуска, что фактически говорит об экономическом релизе, и я думаю, что, вероятно, также означает, что все токены стали дешевле, верно? В противном случае,

8:25 да, конечно, конечно. Я думаю, самое смешное, что вы знаете всю эту стоимость. Вы упомянули, что мы видели это в коде, как будто курсору пришлось убрать безлимитный облачный код. Изначально у них был такой супердорогой план с безлимитными тарифами, а потом у них был только недельный лимит. Теперь у них что-то вроде почасовой оплаты . Эм, и я видел безумную ветку в Twitter, где один парень сказал, что он изменил свой график сна, да? Ну, смоделировано по образцу моряков в заливе, которые, как вы знаете, во время плавания не могут спать, верно? Как одиночное плавание под парусом. ээ, они как бы немного вздремнут, когда доберутся до нужного места, чтобы утром, когда не будет сильного ветра, они все еще могли бы быть в безопасности. Ну, но ведь они не могут спать спокойно, да? И поскольку Enthropic пришлось установить ограничения по скорости,

9:11 основанные не только на неделе, но и на количестве часов, он, по сути, спит, знаете ли, несколько раз в день, но небольшими отрезками времени, чтобы максимально эффективно использовать ресурсы. А на Reddit есть еще и таблица лидеров, где люди как бы соревнуются, сколько токенов они используют в рамках своей подписки. И вот один парень тратит около 30 000 долларов в месяц. Поэтому я собираюсь найти какого-нибудь разработчика в Индии, с которым мы будем заниматься парным программированием, чтобы я мог работать в дневной цикл, он мог работать в ночной цикл, и мы оба могли бы вместе максимизировать квоту для аккаунта. Таково ли будущее? Ну, я имею в виду, что очевидно, что люди пользуются отрицательной валовой прибылью, ну, вы знаете, за счет предлагаемых подписок. Знаешь, я думаю, что Anthropic, вероятно, получает положительную валовую прибыль от моей подписки. Как будто я недостаточно кодирую, но есть много людей, которые определенно теряют деньги. Эм, и как вы сказали, это экономическая проблема,

9:57 она будет все больше и больше подталкивать, я думаю, к ценообразованию на основе использования, верно? Я думаю, если у вас есть базовый товар, который вы перепродаете в какой-то степени, и который составляет большую часть вашей себестоимости, верно? Вам нужно перейти к ценообразованию на основе использования, насколько, по-вашему, насколько, по-вашему, насколько, например, захват клиентов и прилипание к этим продуктам с кодом - это как? Да, мне интересно, что вы думаете по этому поводу. Как только вы используете IDE, как только вы интегрируете, вы знаете один из побочных продуктов CLI, например, насколько это прилипчиво или это вопрос на миллиард долларов, это очень консервативная оценка. Посмотрите, и у Эда Эндрю Парти есть этот замечательный слайд, где он в основном говорит, что если вы создаете агентскую систему сегодня, верно? Но по сути, это вот этот цикл, где половина цикла - это

10:43 модель, которая думает правильно и пытается что-то сделать, другая половина - это пользователь, проверяющий, что сделал агент, правильно ли это, предоставляющий обратную связь и пытающийся направить его в правильном направлении, потому что вы знаете, мы не может длиться вечно, в конце концов вам придется повернуть его обратно. Половина из них — это поставщик модели, верно? Они пытаются построить лучшие модели. Другая половина , как мне кажется, заключается в разработке наилучшего пользовательского интерфейса, который позволит пользователю оставлять отзывы. И я думаю, что в этом есть ценность . Так что, я думаю, здесь есть определенная доля липкости, да? Итак, что же представляют собой все эти различные инструменты с точки зрения визуализации, например, редактирования кода, верно? Как мне проще всего визуализировать изменения кода? Как мне проще всего визуализировать, на что они влияют, на какие файлы, как я могу получить быструю обратную связь для небольших изменений , а для сложных — сложную обратную связь? Есть же инструменты, которые на самом деле рисуют для вас диаграммы того, что они делают, верно? Так что я думаю, так что я думаю, это будет битва. Так что, я думаю, в этом есть что-то прилипчивое, вы понимаете, насколько

11:29 это был отличный вопрос. Так что в этом смысле людям следует оформлять подписку, чтобы закрепить за собой право пользоваться услугой, а не переходить на ценообразование, основанное на использовании . Ну, я думаю, что это клиенты не хотят устанавливать цены, основанные на использовании, потому что очень сложно гарантировать, что вы об этом знаете, и очень сложно заставить их это сделать . И вы на самом деле хотите гарантий и вы готовы, скажем так, пойти на довольно высокие расходы, чтобы не устанавливать цены на основе использования . Я думаю, что именно компании-модели хотят ценообразование на основе фактического использования. Я думаю, что потребителям, честно говоря, очень сложно не устанавливать цены на основе использования, просто потому что изменчивость настолько велика, верно? Ну, знаете, это как если бы мы, программисты, сравнивались с теми, для кого это работа на полный рабочий день, верно? Разница в использовании составляет всего около 20 раз. И если это так, то это стоит больших денег, верно? Я думаю, что это то, что касается предприятий,

12:15 мы могли бы видеть более фиксированные расценки, поскольку можно будет больше усреднить. У вас есть разработчик, который пользуется им целый день. знать в общем смысле, например, сколько часов в день они программируют и как это выглядит. С квотами на вибрацию сложнее. Ага. Прежде чем мы закончим с Open, я хочу задать общий вопрос. Что, если бы кто-то сидел здесь и говорил: «Эй, Дилан, я выслушаю всё, что ты мне скажешь. Дашь ли ты какой-нибудь совет, если это сделает Open более ценным?» Что бы вы им сказали? Я бы сказал, немедленно запустить метод, позволяющий вам ввести данные кредитной карты в чат GPT и согласиться с тем, что для всего, что он делает для вас агентски, он возьмет Xcut, а затем запустит этот продукт, потому что, где он совершает покупки, верно? как будто мы знаем, что все знают, что Anthropic и

13:00 OpenAI и все другие лаборатории покупают среды RL Amazon, Shopify, Etsy и все различные способы совершать покупки в Интернете на сайтах авиакомпаний прямо сейчас, просто эй, интегрируйте мой календарь, я хочу, я хочу полететь туда в четверг, убедиться, что я не пропущу встречу, классная книга, правильно, типа сделайте эту интеграцию, типа супер, хорошо знаю мои предпочтения, люблю ли я проход или окно, все эти вещи, правильно, и просто возьмите ставку, как будто я думаю, что это принесет им много денег, как только они это запустят. И я думаю, они уже над этим работают , но мне бы хотелось услышать, что он думает по этому поводу. Ну, потому что за последние 6 месяцев он существенно изменил тон своей рекламы , верно? Раньше он говорил: «Ни в коем случае». И теперь он такой: «Может быть, знаешь, есть способ сделать это, не причиняя вреда пользователю».

13:47 И я думаю, что именно так вы монетизируете бесплатного пользователя, верно? Так что, я думаю, это, вероятно, то, что я ему сказал бы, и задал бы ему целый ряд вопросов на эту тему. Я хочу перейти на Nvidia. У Nvidia выдался просто потрясающий год. Они выросли почти на 70%. Каковы возможные пути отсюда? Как вы себе представляете, как это будет происходить? Эм, это зависит от того, насколько вы надеетесь на дальнейший рост, но я думаю, что у вас, ребята, хорошая точка зрения. У нас есть хорошее представление о том, как быстро растет доход многих из этих компаний, особенно компаний, занимающихся разработкой кода, но также и многих других приложений. Я думаю, мы ясно видим, что спрос ускоряется, верно? Ну, а если посмотреть на тренировочный процесс, то, я думаю, гонка уже началась. Знаете, Мета-

14:34 мета значительно выросла. Google значительно вырос. Знаете, если вы просто посмотрите еще раз на открытые и антропогенные вычисления и на те вычисления, которые у них есть и которые они получают в этом году, от Google и Amazon для энтропических вычислений и от Microsoft, Cororeweave, Oracle для OpenAI, 30% чипов пойдут только этим двум компаниям. Эм, но на самом деле это нормально, ну, около 70% материала, который, например, снимается, ну, треть из него - это реклама, будь то Bite Dance или Meta или многие другие люди, которые делают рекламу. И тогда все равно возникает вопрос: откуда же берется остальная треть чипсов? Ну, они в основном нерентабельные поставщики, и я не думаю, что можно с уверенностью сказать, что они продолжат расти, то есть, продолжат

15:20 привлекать все большие и большие раунды финансирования. Так что же там происходит? Эм, я думаю, я думаю, что с тем, о чем мы говорили ранее, модель Quen coder 3 на самом деле очень дешева, если вы запускаете ее локально или если вы запускаете ее в облаке со всеми этими библиотеками вывода, эм, и так далее, есть такие вещи, так что я думаю, вопрос в том, насколько она будет продолжать расти, эм, потому что, очевидно, вы знаете, я думаю, что первая треть определенно резко возрастет прямо по сравнению с openthropic, вы знаете, лабораторные расходы, вторая треть, реклама будет расти, она не будет расти как сумасшедшая, но я думаю, что определенно есть точка перегиба, которая может быть достигнута с помощью рекламы Gen Gen AI . Я знаю, что Метрополитен много экспериментировал с этим. Хм, но я могу быть полностью уверен, что произойдет огромный перекос в плане скорости отклика , когда вы начнете показывать мне

16:05 персонализированную рекламу. Ну, как будто каждый человек в рекламе похож на меня, и я думаю: «Ладно, да». Разве что немного лучше, так что я чувствую себя лучше, верно? И я такой: «Я хочу его купить». Ага. Хм, интересно, но я понятия не имею, как это будет масштабироваться, верно? Но если вы спросите, насколько это может масштабироваться, например, насколько большую ценность мы здесь создаем, то это то, можем ли мы создать достаточно ценности, чтобы на самом деле продолжать расти в течение длительного времени. Если вы просто возьмете разработку программного обеспечения ИИ правильно, мы знаем, что мы можем легко получить около 15% больше производительности из... Я не думаю, что это так, я думаю, что намного выше, нет, нет, мы с... с... с... я разговаривал со многими предприятиями, например, с классическим предприятием напрямую, вы знаете, развертывание GitHub Copilot, которое дает вам около 15%, мы можем сделать гораздо больше, но, чувак, типа, ты же знаешь, насколько плох GitHub Copilot... Типа, типа, как они... как они посмотрели на доход AR, так забавно.

16:54 Это так забавно, если посмотреть на график доходов AR, и это похоже на то, как будто Quad Code за 3 месяца их превзошел, и как будто Курсор легко их превзошел, а затем даже такие компании, как Replet и Windsurf/Cognition собираются их обогнать, как будто вы проповедуете, так что смотрите, давайте предположим, что мы можем довести это до 100%. Значит, мы можем удвоить производительность разработчика, верно? Около 30 миллионов разработчиков по всему миру, плюс-минус. Ага. Верно. Допустим, ценность рекламы составляет 100 тыс. на разработчика. Для мирового сообщества этот показатель может оказаться немного высоким . В США этот показатель низкий, а во всем мире он высокий. Итак, это 3 триллиона долларов. Ага. Ага. Верно. Так что, возможно, мы здесь создаем технологию, которая добавляет три триллиона долларов к стоимости ВВП. Теоретически мы могли бы внедрить это в графические процессоры, поскольку это основное требование к модели кодирования, как и в этом варианте использования. Так что, по крайней мере, в теории, генерация ценности будет

17:39 продолжать расти, верно? А вот как это применить к отрасли, гораздо сложнее. Я думаю, я думаю, мы уже видели, как ИИ создает ценность, превышающую все ожидания, так что есть как бы вся эта известная проблема в 300 миллиардов или в 200 миллиардов, теперь это проблема в 600 миллиардов, я уверен, так что скоро появится проблема в 1 триллион, но в этом, конечно, есть некоторая реальность, но вы знаете, мы игнорируем это, например, расходы на инфраструктуру сегодня составляют пять лет дохода, а не один, и доход не выглядит как ровный, но я думаю, хм, я думаю, главное, что ИИ уже создает больше ценности, чем тратится. Дело в том, что нарушается принцип получения стоимости, верно? Я обоснованно считаю, что OpenAI не использует и 10% той ценности, которую он уже создал в мире

18:25 . Эм, просто с помощью чата, да? И я думаю, то же самое применимо к Anthropic и Cursor и к любому другому, на кого вы смотрите. Я думаю, что прирост стоимости действительно нарушен. Эм, даже если говорить о внутренних вопросах, я думаю, что то, что мы смогли сделать с помощью четырех разработчиков в плане автоматизации, наши расходы на API Gemini абсурдно низки, и тем не менее мы просматриваем все разрешения и нормативные документы по каждому центру обработки данных с помощью ИИ, и мы делаем спутниковые фотографии каждого центра обработки данных, и мы можем маркировать наши наборы данных, а затем узнавать, какие генераторы используют люди, что такое градирни, и отслеживать ход строительства подстанции. Все эти вещи автоматизированы, и это возможно только благодаря genai, но мы делаем это с очень небольшим количеством разработчиков, и затем, как

19:11 получение ценности, которое я могу сгенерировать, продавая эти данные, консультируясь с ними, настолько велико, но компании, которые это делают, как будто они ничего с этого не получают, так что я думаю, что здесь есть проблема получения ценности, которая намного превосходит своего рода творение, и и и по мере того, как вы получаете модели, такие как GBD5 или модели с открытым исходным кодом, вы продолжаете ее снижать. Как будто для этих компаний становится все труднее и труднее получать прибыль, потому что они получают, знаете ли, 50% валовой прибыли на основе вывода, если они, знаете ли, или даже меньше во многих случаях. Другими словами, вы говорите, что мы становимся массовым товаром, и поэтому вы не можете получить прибыль, и поэтому вам следует умерить свои ожидания относительно того, сколько вы можете потратить на графические процессоры. Ну, нет, я думаю, вы можете... Я думаю, что все еще есть способы сильно повлиять на получение стоимости, верно? Хм, но я уже

19:59 говорил, что реклама — это огромный источник дохода, и это должно произойти раньше, прежде чем мы увидим значительный рост. Хм, нет, я думаю, другая проблема в том, что есть много капитала, который не был потрачен, верно? Как будто гиперскейлеры все еще могут увеличить капитальные затраты на 20–30% в следующем году, верно, по сравнению с тем, что они делают в этом году. Кроме того, такие компании, как Coreweee и Oracle, за счет того, что они используют рынки капитала, могут привлекать гораздо больше, чем 20–30 % капитальных затрат. А если пойти дальше по списку, то там окажутся крупнейшие в мире инфраструктурные фонды, такие как Brookfield и Blackstone. На самом деле они направляют все свои усилия на то, чтобы вкладывать еще больше средств в инфраструктуру ИИ. А потом есть суверенные фонды благосостояния мира, такие как G42, или, знаете, норвежский, или GIC, и

20:45 Сингапур, эти люди только начали прикасаться к ИИ, и поэтому я думаю, что может появиться гораздо больше капитальных вложений, которые не обязательно будут экономически мотивированы с самого начала. Хм, я скорее говорю, что экономически мотивированные капитальные затраты могут расти только на определенную величину, но есть и множество других подобных ситуаций, из которых неясно, знаете ли, если у вас есть электронная таблица, и вы основываетесь на реальном бизнесе, что вы действительно должны тратить столько-то. Но люди будут верить, потому что они верят, я верю, я думаю, вы верите, как в инфрастуктуру, вы знаете, люди верят, что вы получите от этого прибыль, но нет такого стопроцентно уверенного способа, как вы знаете, доказать это. Ага. Насколько угрожает Nvidia собственный кремний, если это вообще возможно? Я думаю, что это самое главное, верно, когда мы смотрим

21:32 на заказы от Google и, ээ, от Amazon, особенно они... и Meta, их собственный кремний - это не то же самое, что Microsoft, их собственный кремний - отстой, ээ, но остальные три... Они действительно значительно увеличили свои заказы за последний год... эм, вы знаете, Amazon производит миллионы Tranium, Google производит миллионы TPU, ээ, TPU явно используются на 100%, верно, Tranium там нет, но я думаю, Amazon придумает, как это сделать. Хм, и антропный будет. Ну, так вот, я думаю, что самая большая угроза для Nvidia заключается в том, что люди поймут, как можно использовать пользовательские кристаллы более широко. Хм, и это похоже на то, что если ИИ сконцентрирован, то специализированный кремний справится лучше. Хм, и это даже не

22:17 говоря о команде разработчиков OpenAI и прочем, верно? Если ИИ действительно сконцентрирован, то они сделают лучше, используя специализированные кристаллы, но если он широко распространится, потому что есть все эти модели с открытым исходным кодом из Китая, и есть все эти библиотеки программного обеспечения с открытым исходным кодом от Nvidia и Китая, и это сделает затраты на развертывание минимальными, то, возможно, выслушайте меня здесь, если TPU от Google сможет конкурировать с Nvidia в теории, сможет ли он сделать это на открытом рынке, стоит ли он сейчас больше, чем Google. Разве не должна Google начать продавать свои чипы всем желающим? Я имею в виду, что теоретически они должны быть в состоянии достичь более высокой рыночной капитализации. Я, я, конечно, так думаю. Я думаю, Google даже обсуждает это внутри себя. Я думаю, это потребует большой перестройки культуры, а также большой перестройки того,

23:05 как работает Google Cloud, как работает команда TPU, как работают команды разработчиков программного обеспечения Jack и XLA . Я полностью уверен, что они могли бы это сделать. Хм, им просто пришлось бы хорошенько встряхнуться, чтобы сделать это. Хм, да, но я я я я полностью считаю, что Google следует продавать TPU внешним покупателям, не просто сдавая их в аренду, а физически. Забавно, если в теории побочное хобби имеет более высокий потенциал стоимости компании в качестве всего бизнеса, особенно если учесть деградацию поискового бизнеса. Я имею в виду, да. Я думаю, но я думаю, что если бы вы спросили, как Сергей, например: «Слушай, как ты думаешь, что более ценно продавать чипы и стойки, или облако, или Gemini?» Эм, он бы сказал: «Нет, нет, нет, нет, нет. Как будто Близнецы будут стоить

23:51 гораздо больше. Просто это ещё не сегодня, верно?» Хм, и поэтому я думаю, что сегодня вы снова сказали, что Nvidia — самая большая, это похоже на целую проблему концентрации, верно? Если мир станет сверхконцентрированным с точки зрения клиентов, то Nvidia не будет самой дорогой компанией в мире, верно? Но если он будет все больше и больше распыляться, что, пожалуй, мы уже начинаем видеть, учитывая, что многие модели с открытым исходным кодом становятся все лучше и лучше, а также учитывая, что их развертывание становится все проще, то можно утверждать, что Nvidia останется самой дорогой компанией в мире еще долгое время. Хм, и исторически, без каламбуров, программное обеспечение поглотило мир на большинстве рынков, верно? Я имею в виду, если посмотреть на ранние дни сетевых технологий, то Cisco была самой дорогой компанией на планете, верно? Какое-то время это уже не так.

24:39 Парни, которые создавали сервисы на основе Google, Amazon или Meta, в конечном итоге затмили их. Вот почему Nvidia создает все эти программные библиотеки, вот так вот, и они пытаются коммерциализировать вывод, вот так... Эм, ребята, вы ведь даже не инвестировали в поставщика API вывода, не так ли ? Ну, у нас есть все виды поставщиков моделей, но я говорю об инвестициях в поставщика API, я думаю, верно, это верно. Я думаю, я разговаривал с одним из членов команды, может быть, с Rajco или с кем-то еще о том, почему вы, ребята, не инвестируете в нечто вроде совместного проекта или фейерверка, и аргумент был таким: ну, мы думаем, что простое обслуживание моделей без их создания будет своего рода коммерциализацией, верно, у нас есть некоторые в стабильной диффузионной экосистеме, с чем-то вроде фола.

25:25 Да, там немного другая динамика. Я думаю, что они, как правило, делают гораздо более сложные модели, чем ребята из LM. Я думаю, что это немного другое. Эм, но, как вы, ребята, не имеете ничего из этого, как вы знаете, с основанием 10 или любого из этого, типа инвестиций в API, потому что вы думаете, эм, это от кого-то из команды инфраструктуры, что вы, ребята, думаете, что это станет общедоступным, потому что программное обеспечение, которое создает Nvidia, из-за VLM и SDG lang, которое является как бы программным обеспечением с открытым исходным кодом, выходящим из Беркли, и теперь, как вы знаете, имеет свои собственные среды, эм, теперь и поддерживается многими, как это, будучи общедоступным, означает, что поставщики API не обязательно стоят тонны, верно, это своего рода ваш аргумент, может быть, эм, я думаю, что это имеет отношение ко всему этому, то есть, вы знаете, почему, почему, да, почему вы это делаете? Переключение передач. А как насчет стартапов в сфере производства кремния? А что вы думаете по

26:10 этому поводу? Я имею в виду, что в эту сторону вливается огромное количество капитала, и мы это видели. У меня нет цифр, но, вероятно, миллиарды инвестируются в стартапы. Да, конечно, конечно. Я имею в виду, если вы смотрите на такие компании, как, эм, вы знаете, как, я думаю, это довольно впечатляет, что несколько компаний, эм, э, etched и revos, и ряд других компаний, вы знаете, Maddx и другие, получили такой объем финансирования, который у них был, даже не выпустив чип, верно, эм, вы знаете, в прошлом, да, кремниевые компании зарабатывали деньги или собирали деньги, но они, по крайней мере, выпускали чип, прежде чем они получали, знаете, большой раунд, но, как etched и revos, собирали, знаете ли, много денег, никогда не выпуская чип публично, что, я думаю, я имею в виду, это хорошо говорит о том, что да, кремний очень

26:57 капиталоемкий, если вы создаете чип, особенно ускоритель, в котором так много движущихся частей. Хм, и есть около 10 различных компаний, занимающихся разработкой ускорителей ИИ, которые появились за последние несколько лет. Я думаю, что есть гораздо больше таких, которые говорят: «Да». Ага. Ага. Это справедливо. Ну, и потом, и потом, и потом есть старая гвардия, которая продолжает собирать деньги, верно? Как Grock, Surris, Zanova, Tenstor и так далее, верно? Как, например, Graphcore был куплен SoftBank и SoftBank тоже влил деньги в это начинание , верно? В настоящее время вкладывается много капитала, чтобы подорвать лидирующие позиции Nvidia и лишить ее этой позиции. Хм, но это становится сложным, да? Это как будто бы можно победить Nvidia, да? Мне кажется, гиперскейлеры в каком-то смысле

27:43 повезло, ведь они могут делать практически то же самое, что и Nvidia, верно? Они ведь подневольные клиенты, то есть они сами, верно? Это огромная проблема, и они могут просто победить в цепочке поставок, верно? Как будто я пользуюсь услугами более дешевых провайдеров. По сути, это упражнение по сжатию маржи. Ага. Ага. И, может быть, для определенных рабочих нагрузок, таких как системы рекомендаций метафор , они будут иметь лучшее, вы знаете, они смогут специализироваться больше. Хм, но по большей части, нет, мы нацелены на те же рабочие нагрузки. мы можем просто упростить цепочку поставок или большую ее часть внутри компании и сократить маржу, и все будет хорошо. Эм, но в случае с этими другими компаниями, у них нет постоянных клиентов, поэтому теперь вам приходится с этим бороться. Ну, я использую ту же экосистему, эм, и либо я могу нанять какого-нибудь поставщика кремниевых чипов, который в любом случае возьмет сверху маржу, и это сократит мою цену, или

28:30 я могу попытаться сделать все своими силами, но тогда это будет очень сложно, не так ли? Например, я буду заниматься разработкой всего программного обеспечения, я буду заниматься проектированием всех кремниевых чипов, я буду создавать все эти разные IP, я буду управлять всей цепочкой поставок чипов, стоек, всего, верно? В конечном итоге это требует огромных усилий с точки зрения размера команды. Ну, в конце концов, эй, я получаю 75% валовой прибыли как Nvidia. Хм, AMD продает свои графические процессоры с валовой прибылью в 50%. Хм, и им трудно заниматься разработкой Nvidia, хотя они в этом деле хороши, верно? То есть, они такие и есть, но им все равно требуется больше площади кремния, больше памяти для достижения той же производительности, и их приходится продавать дешевле. Таким образом, их маржа сжимается. Это имеет смысл. Но посмотрите, я думаю, если взглянуть на это исторически, обычно, если новый выход на рынок не побеждал за счет незначительного улучшения чего-то

29:16 существующего, что иногда случается, но, скорее всего, они совершали какой-то прорывной технологический скачок, где у нас был другой подход, у нас была другая технология, это возможно здесь, я имею в виду, в какой-то степени, может быть, это немного упрощает, но я думаю, что одна из причин, по которой победила модель Transformer, заключалась в том, что она невероятно хорошо работает на графических процессорах, как и рекуррентная нейронная сеть, которая выглядит столь же производительной, но она ужасно работает на графическом процессоре. Итак, мы выбрали модель для архитектуры? И теперь трудно придумать архитектуру, которую вы бы хорошо знали, это касается дизайна аппаратного и программного кода , верно? Как будто сейчас много шума вокруг нейроморфных вычислений, да? Теоретически это потрясающе и суперэффективно. Ну ладно, отлично. Как нет экосистемы оборудования, так нет и экосистемы программного обеспечения. Потребовалось бы, знаете ли, чтобы десятки тысяч

30:02 людей, которые сегодня являются лучшими в области ИИ, сосредоточились на этом, чтобы хотя бы доказать, стоит ли это делать или нет, с точки зрения аппаратного обеспечения, программного обеспечения, модели. И вот, например, взгляните на Grocery Samanova, они все как бы опережают модели, которые были ведущими в то время, когда они проектировали свои чипы, и поэтому они пошли на определенные компромиссы, верно, они поместили намного больше памяти на чип, и Nvidia и Nvidia сказали: «Ну, мы не сделаем это намного быстрее, по крайней мере, верно, ну, скорее, если сравнить объем памяти SRAMM на чипах Nvidia». Это намного ниже. Да. Правильный. Вместо DAM они перешли на SRM , но тогда у них обычно меньше DRAM. Так что тут тоже есть компромисс , да? Меньше DMA, больше SRAM, а поскольку на чипе больше SRAM , то и вычислений на чипе нужно меньше. И в итоге они проиграли, да? Эм, потому что размеры моделей стали слишком большими и все такое, да?

30:48 Эм, и у вас есть эта супер странная динамика, когда они делают ставку на что-то, что на самом деле лучше, верно? У меня нет никаких сомнений, что Cerebrris будет работать с определенными типами моделей лучше, чем Nvidia или Grok или, эй, Dojo, верно, Dojo работает, вы знаете, Dojo от Tesla будет работать с определенными типами моделей намного лучше, чем чипы Nvidia, потому что они оптимизированы для этого, но потом это типа «ну, на самом деле, даже в задачах визуализации сейчас используют Vision Transformers», так что это типа «окей, круто», размеры моделей выросли и все такое, так что в итоге это, знаете ли, уловка 22, когда вы оптимизируете для чего-то, и теперь, как сейчас, у вас новая эра ускорителей ИИ, компании такие: «Хорошо, мы будем оптимизировать для Transformers». Но когда они начали проектировать, они подумали: «Ладно, трансформаторы — это плотные модели вот такого размера. Что лучше всего? Скрытое измерение — 8 КБ,

31:34 размеры партий вот такие, а последовательности — вот такие. Так что давайте просто создадим супербольшой систолический массив». Хм, чтобы вы могли, знаете ли, создать максимальную эффективность. И вот что получается, посмотрите на DeepSeek или, знаете, посмотрите, чем занимаются лаборатории. На самом деле их формы гораздо меньше. на самом деле вам нужно сделать кучу небольших умножений матриц, не огромных, огромных, огромных, знаете, единичных умножений матриц на слой, и затем это заканчивается тем, что вы знаете, что чип, для которого вы разрабатываете, на самом деле не очень эффективен для этого, и поэтому программное обеспечение постоянно развивается из-за того, что, из-за того, что, гм, лучше всего работает на Nvidia, и вы видите, знаете ли, что делает DeepS или Alibaba, или то, что лаборатории делают внутри, гм, и вы даже видите это, как в случае с Google, например, их модели Gemma с открытым исходным кодом принимают разные решения, потому что формы TPU

32:20 отличаются от форм GPU. Хм, а GPU и TPU на самом деле не так уж и далеки друг от друга, верно? Как вы могли бы сказать, да, они очень разные, но, как и Blackwell и TPU, они на самом деле очень похожи по дизайну. Хм, хотя, чтобы победить Nvidia, нельзя просто так победить эту цепочку поставок, верно? У вас нет этого постоянного клиента. Так что теперь вам нужно сделать что-то такое, что даст вам пятикратное преимущество в эффективности оборудования для определенного типа рабочей нагрузки. а потом молиться, чтобы нагрузка не изменилась, верно? Потому что Nvidia также оптимизирует генерацию своей архитектуры . Они добавили много всего, чтобы сделать свои модели, свои чипы намного лучше для существующих моделей, но это похоже на то, что они делают большие шаги каждый год, каждые два года по направлению к чему-то, в то время как вам приходится идти куда-то влево и надеяться, что модели там и останутся, верно?

33:07 Хм, потому что вам нужно выиграть в 5 раз, так как у Nvidia будет более высокая эффективность цепочки поставок . у них будет время, чтобы продать вас с точки зрения нового узла процесса или новой памяти или вы знаете, что угодно, любую технологию, верно даже AMD, верно, они вышли на 2 нанометра раньше Nvidia, у них была более высокая плотность, э-э, HBM, э-э, они используют 3D- укладку всех этих вещей в цепочке поставок, которая должна быть лучше, чем у Nvidia, и все же они все еще проигрывают, есть еще аспект программного обеспечения, верно У Nvidia есть фантастика, да, и затем есть еще программное обеспечение, верно, но это похоже на то, что у Nvidia будет лучшая сеть, чем у вас, у них будет лучшая, э-э, HBM, у них будет лучший узел процесса, они выйдут на рынок быстрее. Они смогут быстрее наращивать производство, будут вести лучшие переговоры, будь то TSMC или SKH Highix, и со стороны памяти и кремния, или со всеми людьми, занимающимися стойками, или с медными кабелями, со всем. Они будут иметь лучшую экономическую эффективность. Так что вам

33:53 придется стать в 5 раз лучше. Но, справедливости ради, если бы у кого-то появился жизнеспособный конкурент, который был бы хотя бы немного конкурентоспособен по цене, то, как я предполагаю, многие крупные потребители графических процессоров немедленно перевели бы туда часть доходов, чтобы просто иметь второе место, верно? Вот это и есть сегодняшняя компания AMD, верно? А Microsoft, я имею в виду, все еще пользуется довольно ограниченной популярностью , верно? Конечно. Meta продолжает у них покупать, и Microsoft купила много, а потом они перестали, потому что... ну да, они знают, что AMD дает вам все эти преимущества, но в итоге все равно не лучше по производительности на ватт, и у них гораздо большая команда разработчиков программного обеспечения, в чем они в некоторой степени конкурентоспособны, как и во всех этих динамиках, о которых я уже говорил, так что вы не можете просто сделать то же самое, что и Nvidia, и сделать это лучше, да, или попытаться выполнить лучше, как AMD, вам нужно действительно сделать рывок вперед в каком-то другом направлении, но это так,

34:40 цикл проектирования занимает так много времени, что модели будут меняться, верно? Потому что они думают: «О, как будут выглядеть TPU и GPU следующего поколения ? Хорошо, давайте оптимизируем их под это». И путь исследования, вы знаете, замечательный, и да, нейроморфные вычисления могут быть для нас самым оптимальным решением. Но никто над этим не работает, потому что нужно продвигаться по древу технологий, вы ведь это выбрали, верно? Если вы перезапустите дерево технологий, вы скажете: «Ну, это отстой». Эм, и если он разветвляется в этом направлении, а вы здесь, то вы влипли, потому что вы должны быть 5x, есть мода. э-э, потому что цепочка поставок означает, что 5x на самом деле превращается в 2,5x, а затем Nvidia может немного сократить свою маржу, если вы действительно конкурентоспособны, и тогда 2,5x становится где-то на 50% лучше, и тогда да, так что в итоге это становится слишком сложно, эм, и программное обеспечение, да, все, типа берет ваш 5x и делает его, о, на

35:25 самом деле вы только на 50% лучше, и цепочка поставок в сфере обороны, конечно, да, цепочка поставок в сфере обороны, и затем они получают, они получают это правильно, так что это как и сам Лютник сказал, что мы должны были сделать это для редкоземельных минералов, и это интересно. Эм, Китай, в Китае есть провинции, в которых действуют похожие правила, согласно которым H20 недостаточно эффективен для развертывания, что очень странно, потому что это, очевидно, лучший чип искусственного интеллекта, который есть у Китая. Хм, Huawei все еще немного отстает. Ну , интересно то, что, знаете ли, эффективность — это не такая уж большая проблема в Китае, потому что у них просто есть инфраструктура электроснабжения, которая ее поддерживает. Так что даже если они используют менее мощные чипы, вы понимаете, можно подумать, что это не имеет значения, потому что у Китая такой бесконечный запас энергии, что, вы понимаете,

36:12 их это, в общем-то, устраивает. Интересно, а в Америке это большая проблема , да? как эм, были, были компании, которые, как вы знаете, не стали бы, они, как вы знаете, Дженсен продолжает говорить, что он не может раздавать H20 в Америке бесплатно, но я буквально слышал, как компании, как они говорят, как сейчас, говорят, как да, нет, я имею в виду, я бы не стал, потому что у меня только столько мощности, эм, как я буду, вы знаете, в центрах обработки данных, готовых к работе, эм, в течение следующего года, если я куплю H20, у меня буквально будет меньше вычислительной мощности, и тогда я проиграю, даже если бы он был бесплатным, как будто это не имеет смысла, эм, в то время как Китаю все равно, они могут построить это, эм, у них есть сила. Эм, мне любопытно, чем все это закончится. Знаете, позиция Китая действительно жесткая. Они даже выпустили что-то вроде: «Мы проверяем, есть ли в H20 задние двери». Это

36:57 как: «В H2O нет задней двери. Типа, расслабься». Эм, вы знаете, это как будто... вы знаете, GPU GPU обычно как бы отделены от публичного Интернета файрволом . Как и вы, вы проходите через множество этапов, прежде чем добраться до кластеров графических процессоров. Ну, то есть задняя дверь на стене вообще не имеет значения. Хм, я не знаю. Я думаю, будет интересно посмотреть, потому что Китай, безусловно, может направить гораздо больше ресурсов на развитие ИИ, как только решит... но ведь есть же тут конкурирующие интересы, верно? Потому что они хотят, чтобы Huawei была лучше Nvidia. Ага. И вот как Nvidia аргументировала свою позицию администрации. например, если мы этого не сделаем, то, по-моему, это очень весомый аргумент, например, в Triton, который в

37:43 любом случае является обычной библиотекой машинного обучения, например, в Bite Dance, есть открытый исходный код некоторых вещей, которые подключаются к этому, что очень круто, и есть все эти другие библиотеки, и это не только модели, которые Китай открывает с открытым исходным кодом, это программное обеспечение для Nvidia, которое китайские компании открывают с открытым исходным кодом, в каком-то смысле, например, Nvidia продает графические процессоры, и это опять же аргумент Nvidia, что они смогли, вы знаете, помешать Huawei создать экосистему программного обеспечения, а западная экосистема лучше. Хм, но с другой стороны, если вы снова считаете, что модели приносят обществу большую экономическую ценность, чем оборудование, и я на самом деле так считаю . Просто сегодня существует проблема прироста стоимости. Хм, тогда вы даете Китаю гораздо больше, предоставляя им H2O, а вскоре и версию Блэквелла, урезанную, как и сказал Трамп, верно? Ну, против, ну, вы знаете,

38:31 продавать им чипсы, да? Экономическая выгода, полученная от продажи им чипов, не так велика, как, как вы знаете, возможность каким-то образом продать им услуги ИИ. Так является ли Китай регулятором ИИ? Хм, я так не думаю. Я думаю, я думаю, опять же, что есть много такого, что мы видим, это то, что даже при продаже H20 в Китай, и в будущих версиях чипа H20e и других чипов, мы все еще видим, как китайские компании, такие как Alibaba, арендуют графические процессоры за пределами Китая, потому что графические процессоры, которые они могут получить за пределами Китая, намного лучше с точки зрения производительности, затраченной на их аренду, или даже как сингапурская компания, которая фактически является китайской компанией, строит центры обработки данных, и устанавливает в

39:17 них чипы. Так что я не думаю, что Китай ограничивает власть как таковую. Дело в том, что вы знаете, что сможете сделать это, только если вы сможете тратить столько, сколько вы можете. В следующем году китайские компании увеличат свои капитальные затраты гораздо больше, чем американские компании в процентном отношении . В абсолютном выражении американские компании, как вы знаете, по-прежнему тратят больше на ИИ. Хм, но в процентном отношении китайские компании вырастут еще больше в следующем году, а у вас все еще есть проблема с тем, что объем долларов, потраченных на ИИ, в токенах или в чем-то еще будет ниже, потому что эти чипы хуже. Так что мощность не является определяющим фактором. Капитал всегда нужен, по крайней мере сегодня, сейчас Китай может потратить гораздо больше капитала, если захочет. они субсидируют полупроводниковую промышленность на сумму около 150–200 миллиардов долларов в год через государственные предприятия, через капитальные вложения, которые

40:03 не приносят дохода и т. д. Так что, это не значит, что они не могли бы сделать то же самое с экосистемой ИИ, верно? Учитывая, что капитальные затраты Meta составляют около 60 миллиардов, верно? Эм, а капитальные затраты Google составляют около 80 миллиардов, верно? Как будто они могли потратить гораздо больше за один раз. Они просто еще не решили. Эм, и я просто думаю, что в США наше строительство ограничено мощью, верно? Как у Google есть куча TPU, ожидающих, когда центры обработки данных будут подключены и готовы, так же и у Meta есть графические процессоры, верно? мы писали о том, как мета теперь строит что-то вроде палаток. Разве это не связано в какой-то степени с их нежеланием продавать их более широкой экосистеме? Я имею в виду, если они хотят быть ограниченными в своих собственных центрах обработки данных и они, вы знаете, не арендуют центры обработки данных, построенные для их собственных гиперобъектов, для масштабирования сценариев использования своих гиперобъектов достаточно быстро,

40:49 тогда да, это ограничивает их, верно? Если бы они были на открытом рынке, были бы мы все равно ограничены? Ага. Да, конечно. Ведь, как и в случае с такими компаниями, как Coreweave, ценность Coree заключается в том, что они действительно быстро строят инфраструктуру, верно? Да, и программное обеспечение у них хорошее, я думаю, но ведь у многих их клиентов нет ничего, кроме железа, верно? Просто заменяйте графические процессоры всякий раз, когда они ломаются и активно работают в сети, и я думаю, они будут работать где угодно. Джензену они тоже нравятся . Да. Они пойдут. Да. Ага. Это тоже очень важно. Но им понравится, потому что это деконцентрированная экосистема, которая лучше для Nvidia. Работая в Intel, я прекрасно понимаю, о чем он думает. Ага. Так что, я думаю, что на самом деле важно то, что Cororeweave это не волнует, верно? Они говорят: «О, криптоцентр обработки данных. Я превращу его в центр обработки данных ИИ, верно? Они купили компанию за 10 миллиардов долларов, которая

41:36 занимается майнингом криптовалют, а пару лет назад она стоила около 2 миллиардов долларов». И дело не в том, что их бизнес по майнингу биткоинов растёт. Это потому, что у них есть центры обработки данных, да? Как и везде, люди пытаются построить электроснабженные центры обработки данных. И такие компании, как Cororeweave и Oracle, переходят на это. На самом деле сегодня Google просто не купил 8% компании по майнингу криптовалют под названием Terowolf, верно? Хм, не потому, что они собираются заняться майнингом криптовалют. Нет, потому что им нужны данные. Им нужна власть. Им нужна власть, верно? И, похоже, все гиперскейлеры, как говорится, наплевали на мои обещания по устойчивому развитию, потому что им нужна мощность как можно быстрее, верно? эм, они, знаете ли, они делают вещи, которые не так просты, на перемещение корабля уходит немного больше времени, но

42:21 даже если вы не делали этого в своих собственных построенных центрах обработки данных, на открытом рынке все равно остается много проблем. Дефицит есть, да? И это сильно сдерживает выход американских чип-поясов. Да, возможно, другие могли бы сделать это немного быстрее, например, Cororeweave или другие, верно? Хм, у Oracle тоже открытый ум. Да, но это по-прежнему серьезно сдерживает развитие США. Хм, даже несмотря на то, что капитал уже потрачен, чипы составляют, как вы знаете, от 60 до 80% стоимости кластера в зависимости от того, какие чипы вы покупаете. Получается, что они уже купили фишки. Их просто некуда разместить, потому что центры обработки данных не готовы. Поставляется в Google, применяется в Microsoft, применяется в Meta, применяется ко многим людям. Ну, я имею в виду, что в США действительно сложно построить инфраструктуру. Итак,

43:08 взаимосвязь энергосетей, передача электроэнергии, подстанции, э-э, все эти вещи, типа подрядчиков по электротехнике, электриков, э-э, в Техасе, если вы готовы стать разъездным электриком, это как зарплата нефтяника, верно? Раньше, если ты физически развит, ты мог заработать, ну, 100 тысяч долларов в Западном Техасе, но кому, черт возьми, это нужно? Хм, теперь это похоже на то, что вы могли бы, вы могли бы уехать за 200 миль от Далласа, который все еще является приличным городом, и построить центр обработки данных, и заняться прокладкой проводов в нем, и всем остальным, что касается передачи данных, и ваша зарплата теперь выросла бы в 2 раза по сравнению с тем, что было всего несколько лет назад. Проблема рабочей силы тоже является проблемой, и да, я думаю, что в Китае таких проблем нет, просто они еще не потратили капитал. Но капитал тоже является проблемой,

43:54 учитывая масштабы расходов, верно? Например, выручка Nvidia в этом году составит более 200 миллиардов долларов, а в следующем году ожидается более 300 миллиардов долларов, плюс Google собирается потратить около 50 миллиардов долларов на центры обработки данных TPU , верно? И Amazon собирается потратить кучу денег на центры обработки данных Trainium. Как будто масштаб долларов быстро растет до уровня государства. И что еще более важно, так это возможность решить, на что потратить деньги и что будет экономически эффективно. И поэтому в какой-то степени Китай все еще ограничен этим, но они могут ввозить чипы контрабандой. Они могут строить центры обработки данных за пределами Китая. Они могут арендовать центры обработки данных за пределами Китая и быть более эффективными, знаете, чипы Blackwell или что-то в этом роде, верно? Знаете ли вы, что Bite Dance

44:40 не просто так является крупнейшим или вторым по величине клиентом Google Cloud , верно? и они получают, вы знаете, вы знаете, они получают от них много-много Блэквелла, верно? То же самое и с Oracle, и с Microsoft, и все эти компании в любом случае сдают тонны чипов в аренду Китаю, потому что это более выгодно, чем производить их самостоятельно. Так что в Китае нет такого менталитета, при котором правительство делает то, что нужно, а инфраструктурные компании, такие как Alibaba, Tencent, Bite Dance и т. д., — нет. Так в чем же конечная цель центров обработки данных? Я имею в виду, что нам нужно больше мощности, нам нужно больше охлаждения. В конце концов, все данные будут находиться рядом с ядерным реактором или большим количеством солнечной энергии, вы знаете, рядом с глубоким уровнем, например, с глубоководной морской водой, которую мы используем для охлаждения или чего-то в этом роде, или что-то в этом роде? Я думаю, что охлаждение

45:26 похоже на физическое охлаждение центра обработки данных. Вы знаете, есть целая история о том, что ИИ потребляет так много энергии, и это не совсем так. Вы знаете, сельское хозяйство использует в 100 раз больше воды, чем центры обработки данных ИИ. Даже к концу десятилетия все останется прежним, и это как будто Альфа-альфа стоит очень мало. Так что, в любом случае, это похоже на охлаждение, вы не знаете, люди экспериментировали с подводными центрами обработки данных, чтобы снизить затраты на охлаждение, но это не имеет смысла. Это экономия в 5–10%, но с другой стороны, если вы хотите выкачать воду из океана, то вам придется разместить центр обработки данных в океане. Это как если бы вы хотели его обслуживать, то вы бы попали в беду, верно? То же самое и с властью. Мы много говорим о том, что электроэнергия на самом деле не так уж и дорога. Это просто трудно построить, не так ли? как добраться до нужного места, чтобы получить нужное пространство и преобразовать его в напряжения и все, что нужно этим чипам.

46:13 Поэтому дело не столько в величине власти, сколько в том, где она находится и как она движется. Ну и величина тоже, да? Что будет происходить с точки зрения общего мирового потребления энергии. Данные ИИ по-прежнему составляют доли процента. Это даже не конец десятилетия. Эм, вы знаете, в США около 10% нашей мощности будут приходиться на центры обработки данных, что по -прежнему похоже на электричество от нашей электроэнергии, а с точки зрения энергии это даже меньшая доля, верно? О, да, да, потому что если подумать о переходе на электромобили, то, вероятно, можно добиться большего размаха, чем вы знаете, со всеми центрами обработки данных ИИ, которые мы можем построить в первую очередь. Но за пределами, как в Европе, это число не растет так быстро, и, как во всех других странах, я думаю, нам нужно построить намного больше энергии, но это не какое-то сумасшедшее количество, а просто сделать это правильно — вот что

46:59 сложно. Ага. И опять же, как и стоимость электроэнергии, вы посмотрите на эти сделки, которые люди подписывают, они все еще подписывают, даже несмотря на то, что цена взлетела с нескольких центов за киловатт-час для этих огромных покупок до 10, вы все равно знаете, когда вы думаете о полном кластере TCL, вы знаете, что стоимость графического процессора, сетевых подключений и всего этого намного превосходит мощность, и то же самое с охлаждением. Эм, каков будет процент мощности, если я сделаю 4-летний амортизированный центр обработки данных GPU, какой будет процент мощности? Если вы строите Blackwell, 80% стоимости центра обработки данных на базе графических процессоров — это капитальные затраты. Ага. Верно. Это закупка графических процессоров, это сетевые подключения, это физическое оборудование для преобразования энергии в центре обработки данных. Эм, все эти вещи составляют примерно 80% стоимости. А

47:44 20% — это ваша земля, ваша электроэнергия, ваше охлаждение, ваши градирни, ваше резервное питание, ваши генераторы и все такое. Это как будто ничего. Вот почему не имеет значения, потратите ли вы на это на 10% или на 50% больше . Хм, потому что в конечном итоге именно такие дорогие вещи и являются причиной того, почему поступок Илона выглядит глупым, верно? Они потратили гораздо больше денег на генераторы за пределами центра обработки данных и на эти мобильные охладители для охлаждения воды для их жидкостного охлаждения вместо более экономически эффективного варианта, поскольку он позволил бы центру обработки данных запуститься на три месяца быстрее. И вот эти 3 месяца дополнительного времени на обучение стоят гораздо больше с точки зрения совокупной стоимости владения, учитывая производительность, которую вы получаете от чипов, и время вывода продукта на рынок, и все это происходит намного быстрее. Поэтому это было правильное решение. Даже несмотря на то, что эта

48:30 часть центра обработки данных увеличила стоимость, все остальное никуда не делось, и вы по-прежнему платите за чипы, а если они простаивают, то это того не стоит . Верно. Точно так же, как и в обход сетей, в обход всего, что связано с взаимосвязью, всего, что связано с коммунальными услугами. Точно. Точно. Что вы думаете об Intel? Куда идет Intel? Я думаю, что миру, в частности США, нужна корпорация Intel. Миру нужна Я думаю, миру нужна Intel, потому что дела у Samsung идут хуже, чем у Intel. на переднем крае разработки технологических процессов, по моему мнению, гм, даже на основе того, что различные клиенты в отрасли проводили тестовые чипы, например, Intel против Samsung, они думают, я думаю, отрасль в целом согласна с тем, что Intel продвинулась дальше, э-э, вы знаете, в плане технологического процесса класса 2 нм, чем Samsung, но обе они значительно отстают от TSMC, а TSMC в

49:17 какой-то степени является монополией, гм, вопрос номер один, который всегда задают люди, это почему TSMC не зарабатывает больше денег? Почему они повышают цены только в следующем году, на 3–10 % в зависимости от того, что именно. И такое ощущение, что TSMC — монополия. Как будто они могли бы собрать гораздо больше, но они, гм, хорошие тайваньцы, а не какие-то грязные американские капиталисты. Если бы TSMC принадлежала или управлялась американцами (я думаю, что большая часть акций принадлежала бы американцам, если говорить о фондовых рынках Нью-Йоркской фондовой биржи и всем прочем, как вы знаете), они бы подняли цены гораздо сильнее. Эм, и, и, например, есть такая сложная, трудная вещь, которую нужно сделать, например, эй, есть один остров, который управляет всеми передними полупроводниками, а не только всеми передними кромками, как большинство в производстве задних кромок. Хм, нужно что-то сделать. Intel

50:05 отстает, но не настолько, чтобы это было абсурдно, а настолько, чтобы если бы что-то случилось с Тайванем, у Intel были бы самые передовые технологии в мире, верно? Ну, просто это неэкономично. Можно ли сохранить Intel как единую компанию, если вы хотите, чтобы они были конкурентоспособны? Я думаю, что процесс разделения занял бы так много времени и усилий руководства, что к тому времени вы бы уже обанкротились, верно? И это большая проблема. Я думаю, что Intel должна быть отдельной компанией, верно? Но правильное разделение компании и все необходимое для этого время управления — это просто абсурд. А вместо этого вам нужен Лип Бутан, генеральный директор Intel. Знаете, вокруг него сейчас много шума, ведь он один из величайших инвесторов в полупроводниковую промышленность, верно? Он инвестировал во множество разных компаний, в первую очередь, эм, вы знаете, он

50:50 был в совете директоров, например, SMIC, которая фактически является китайской TSMC, что является большой драмой или, как большая, одна из крупнейших компаний по производству инструментов в Китае, он был первым инвестором в них, потому что, вы знаете, тогда был многополярный мир, и он делал хорошие инвестиции, эм, но, как вы знаете, сейчас люди сходят с ума по этому поводу, но это как будто нет, он, он признает, он, он компании, как он понимает цепочку поставок, ему нужно, чтобы не тратить свое время на разделение компании, потому что тогда он никогда не наладит компанию как следует. Проблема Intel в том, что им требуется пять -шесть лет, чтобы пройти путь от проектирования до поставки продукта. Хм, в некоторых случаях еще и когда они заклеивают чип, верно? Как вы знаете, вы отправляете

…

Share

Краткое содержание видео YouTube