25 августа OpenAI опубликовала первые измеренные результаты собственного чипа для инференса Jalapeño. В тестах компании ускоритель показал в 1,5–1,9 раза больше вычислительной работы на ватт и в 1,7–3,6 раза меньшую задержку, чем системы на базе Nvidia GB200 и GB300.
Для наиболее интерактивных нагрузок производительность Jalapeño оказалась выше в 2,1–4,1 раза. OpenAI намерена начать развертывание процессора в собственной инфраструктуре до конца 2026 года.
Jalapeño сравнили с тремя ИИ-моделями
Компания протестировала ускоритель с помощью публичного бенчмарка InferenceX от SemiAnalysis. Он измеряет весь процесс обработки запроса и позволяет одновременно оценивать пропускную способность, энергопотребление и задержку.
Для GPT-OSS 120B OpenAI сравнила Jalapeño с Nvidia GB200. Собственный процессор показал примерно в 1,9 раза большую пиковую производительность на киловатт: 85 448 против 44 960 mixed TPS/кВт. Полная задержка составила 1,03 секунды против 1,8 секунды.
На DeepSeek R1 670B соперником стал GB300. Jalapeño обеспечил 19 641 mixed TPS/кВт против 11 781, что соответствует преимуществу примерно в 1,7 раза. Задержка оказалась в 3,6 раза ниже: 1,65 секунды против 5,99 секунды.
На Kimi K2.5 1T собственный чип OpenAI показал 18 195 mixed TPS/кВт против 11 862 у GB300. Задержка составила 1,56 секунды против 5,31 секунды. Таким образом, преимущество достигло примерно 1,5 и 3,4 раза соответственно.
Источник: OpenAI.]
При сравнении энергопотребления OpenAI использовала заявленную производителями мощность ускорителей. Для Jalapeño показатель составляет 700 Вт, для GB200 — 1200 Вт, для GB300 — 1400 Вт. Компания добавила, что фактическое устойчивое энергопотребление ее чипа в проведенных тестах не превышало 550 Вт.
ИИ помог спроектировать собственный чип
При создании Jalapeño OpenAI применяла свои ИИ-модели. По словам разработчиков, это помогло пройти путь от первоначального проекта до передачи финального дизайна в производство за девять месяцев. Нейросети участвовали в поиске вариантов реализации, проверке решений и оптимизации арифметических блоков.
ИИ продолжили использовать после создания процессора. С помощью Codex на базе GPT-Astra инженеры менее чем за два месяца оптимизировали для Jalapeño три модели с открытыми весами, которые изначально не входили в производственный план.
Загрузка...
forklog.com
Для отдельных блоков attention и mixture-of-experts в GPT-OSS сгенерированные ИИ реализации оказались в 1,5–1,8 раза быстрее решений, написанных инженерами. OpenAI подчеркнула, что преимущество относится только к выбранным компонентам, а не ко всей модели.
OpenAI расширила собственный ИИ-стек
В отдельной публикации о вычислительной стратегии финансовый директор OpenAI Сара Фрайар назвала Jalapeño частью более широкой вертикально интегрированной инфраструктуры. Она включает дата-центры, процессоры, память, сети, ИИ-модели, программное обеспечение и конечные продукты.
По словам Фрайар, собственный чип дает OpenAI больше контроля над стоимостью инференса и позволяет выбирать оборудование под конкретные задачи. Компания намерена направлять нагрузки туда, где получает лучшее соотношение производительности и цены, и сохранять «ценовую дисциплину» при работе с поставщиками.
В вычислительный портфель OpenAI входят Microsoft и Nvidia, а также AWS, AMD, Broadcom, Cerebras, CoreWeave, Oracle, SB Energy и SoftBank. Компания подчеркнула, что создание Jalapeño не означает отказа от сторонних ускорителей. Она продолжит широко использовать процессоры партнеров как для обучения, так и для инференса.
Экономическая ставка заключается в снижении стоимости единицы вычислений. OpenAI рассчитывает, что увеличение производительности оборудования позволит обслуживать больше запросов при тех же ресурсах и улучшит соотношение выручки к затратам на инфраструктуру.
Фрайар ожидает и обратного эффекта. Она сослалась на парадокс Джевонса: повышение эффективности способно не сократить общее потребление вычислений, а увеличить его за счет появления новых экономически оправданных задач для ИИ.
Jalapeño станет первым поколением собственной платформы OpenAI. Процессор второго поколения уже находится на продвинутой стадии разработки, а компания начала проектирование третьего. Первые Jalapeño планируют внедрить в инфраструктуру OpenAI до конца года.
Напомним, в августе OpenAI временно замедлила масштабирование новых ИИ-моделей и на две недели приостановила обучение с подкреплением последних систем, предназначенных для последующего развертывания.
Как человек стал «телом» для машины - ForkLog
Представьте сидящего в грузовике водителя службы доставки, где ИИ следит за всеми его действиями, диктует маршрут и штрафует за любое «неправильное» движение
forklog.com