OpenAI показала, как её собственный ИИ-процессор Jalapeno превосходит ускорители Nvidia по показателю производительности на ватт
Компания OpenAI раскрыла новые подробности о своём ИИ-процессоре Jalapeno, разработанном при помощи Broadcom и Celestica и представленном пару месяцев назад. Теперь компания поделилась конкретными показателями производительности, показав, что её разработка превосходит продукты Nvidia.
Почти вдвое в пике
Jalapeno содержит лишь один вычислительный кристалл размером с фотошаблон, произведённый по техпроцессу TSMC N3P, но на подложке также имеется чиплет ввода-вывода и память HBM4, обеспечивающая пропускную способность 15,4 ТБ/с на стек.
При этом вычислительные ядра и память разделены на блоки, что обеспечивает каждому блоку ядра локальное представление с низкой задержкой о назначенном ему блоке HBM.
Фото SemiAnalysis (X)
Jalapeno вместо стандартных 16-битных или 8-битных форматов использует числовые форматы MXFP, которые дополнительно сжимают данные для математических вычислений ИИ — до 4 бит в MXFP4. В матричном процессоре Jalapeno используется систолическая матрица с неподвижным весом. В стандартном процессоре чип должен постоянно считывать данные из памяти, выполнять вычисления и записывать результат обратно в память. Это создает узкое место всей системы. Систолическая матрица работает иначе: данные поступают в сетку тесно связанных между собой обрабатывающих ячеек, передаваясь напрямую от одной ячейки к другой без постоянных остановок для чтения/записи во внешнюю память.
OpenAI завершила предтренировку модели Bel с более чем 10 трлн параметров
Согласно результатам внутренних тестов, Jalapeno является самым эффективным чипом для задач инференции. В бенчмарке InferenceX он показал в 1,5-1,9 раза большую производительность на ватт при пиковой пропускной способности и в 1,7-3,6 раза меньшую сквозную задержку, чем Nvidia GB200/GB300 на основе тестирования моделей OpenAI GPT-OSS 120B, DeepSeek R1 670B и Kimi K2.5 1T. Что касается потребления, официально это 700 Вт, но зачастую под нагрузкой процессор реально потребляет лишь около 550 Вт.
Отдельного внимания стоит тот факт, что чип не оптимизирован специально для какого-либо одного семейства моделей и технически может запускать любую модель.