Чего боится Nvidia?
Несколько новостей прошедших недель, которые складываются в интересную историю.
25 августа OpenAI поделилась цифрами своего ИИ-чипа Jalapeño, который компания разрабатывает вместе с Broadcom. Результаты впечатляющие: 700-ваттный Jalapeño дал до 1,9× пропускной способности на киловатт против 1400-ваттного флагмана Nvidia при задержке до 3,6× ниже. Развертывание чипов начнется до конца года, второе и третье поколения уже в работе.
Jalapeño нацелен только на инференс – запуск уже обученных моделей. Туда же метит и другой контракт OpenAI: стартап Cerebras, разрабатывающий чипы для запуска моделей на повышенной скорости. Именно на таких чипах работает режим Ultrafast для GPT-5.6 Sol: до 750 токенов в секунду, до 14 раз быстрее стандартного запуска.
OpenAI – не единственная компания, пытающаяся отстроиться от Nvidia. Google с 2013 года разрабатывает успешную линейку тензорных TPU, свои разработки есть у Amazon, Microsoft, а недавно и Anthropic начала собирать “железную” команду.
При этом лишь Google TPU используются для обучения новых моделей, остальные создают чипы только для инференса, оставляя обучения Nvidia. Этому есть объяснение: инференс менее чувствителен к сетевым сбоям. А вот при обучении вылет одного из ускорителей может привести к перезапуску дорогущего тренировочного рана. Здесь Nvidia вне конкуренции: она сильна не только ускорителями, но и сетевой инфраструктурой вокруг них, а также языком программирования CUDA, ставшим стандартом для обучения нейросетей.
Вот только спрос на нейросети сейчас растет настолько быстро, что заметная часть выручки смещается в инференс. Это чувствуют и в Nvidia: компания по хитрой схеме приобрела интеллектуальную собственность стартапа Groq, который также занимается решениями для быстрого запуска ИИ. А начиная с Blackewell, в линейке Nvidia есть решения именно для инференса.
Но на этом рынке Nvidia неожиданно оказывается одним из многих игроков. Связка, когда у ИИ-компании есть своя модель, свой чип для ее запуска и свое облако – опасна для бизнеса Хуанга. Вот чего боится Nvidia: не чипа OpenAI, а лаборатории, которой Nvidia больше не нужна.
Поэтому компания рассматривает еще один путь…
20 августа Nvidia заплатила $7 млрд за неэксклюзивную лицензию на Model Factory от Poolside – это американский стартап, который прямо сейчас развивает “фабрику моделей”, позволяющую тренировать новую версию открытого ИИ каждые 6 недель. Одновременно в Nvidia перешли 109 сотрудников Poolside, которые будут заниматься линейкой открытых моделей Nemotron – фактически, перед нами покупка компании, просто замаскированная таким образом, чтобы обойти антимонопольные ограничения.
26 августа появилась информация, что Nvidia покупает за $12,9 млрд Hugging Face – главную площадку, где выкладываются открытые модели, их дообученные варианты, разнообразный софт, сеты для обучения, бенчмарки и так далее.
Ну и параллельно можно вспомнить, что именно Хуанг является одним из главных защитников открытых моделей в США. Самое интересное: Хуанг яро защищает в том числе и китайские открытые модели, плюс выступал против ограничений на поставки чипов в Китай. Но, как ни странно, Nvidia не очень страшны собственные китайские разработки в чипах – ведь обученные на них модели затем будут уходить на международный рынок и хоститься на любых чипах.
Складывается вполне красивая связка: Nvidia лоббирует открытые модели на высоком уровне, развивает Hugging Face как “входную точку”, параллельно вкладывается в свою линейку Nemotron. Смысл всех этих усилий простой: скачанные открытые модели пользователи скорее всего будут крутить именно на железе Nvidia – а это дополнительный спрос для компании.
Лаборатории строят чипы, чтобы не зависеть от Nvidia. Nvidia строит модели, чтобы не зависеть от лабораторий. Через два года все будут делать всё — и единственное, что не будет принадлежать никому, это открытые веса. Пока не будет
—
Как разбираться в открытых моделях, выбрать подходящую под свое железо и запустить за вечер – я рассказывал в отдельном лонгриде:
👉 Читаем здесь
24
14
9
