OpenAI 公布了其代号为 Jalapeño 的定制推理芯片的性能基准测试结果。该芯片在 SemiAnalysis 的评估中击败了 Nvidia 的 Blackwell 架构、AMD 芯片和 Google 芯片。与 Nvidia 的 Blackwell 相比,Jalapeño 在标准测试套件中的每瓦吞吐量最高达到其 1.9 倍,并将端到端延迟最高降至原来的 1/3.6。OpenAI 与 Broadcom 合作开发了该芯片,并利用其生成式 AI 模型将从设计到流片的时间压缩至 9 个月,计划于 2026 年底前开始在生产数据中心部署首批少量芯片。该公司表示,在建立定制芯片基础以降低运营成本并减少对单一供应商依赖的同时,仍将继续从 Nvidia 和其他第三方合作伙伴处采购加速器。SemiAnalysis 指出,第一代芯片通常不具备竞争力,但 Jalapeño 打破了这一趋势,在多个开源模型上实现了行业领先的性能。
Jalapeño 在 SemiAnalysis 基准测试中实现最高 1.9 倍的每瓦吞吐量
OpenAI 使用 InferenceX 对 Jalapeño 进行了评估。InferenceX 是由 SemiAnalysis 维护的公开基准测试框架,用于衡量端到端 AI 请求处理能力。该系统在三个大规模模型上进行了基准测试:GPT-OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T。在测试范围内,与参与基准测试的 Nvidia Blackwell 配置相比,Jalapeño 实现了高出 1.5 至 1.9 倍的峰值每瓦吞吐量。Jalapeño 将端到端响应时间降至原来的 1/1.7 至 1/3.6。
SemiAnalysis 表示:“Jalapeño 击败了 Blackwell……在几乎所有场景中均是如此,而且没有针对曲线上的任何特定点进行调优。它不仅在低延迟场景中表现出色,在高吞吐量场景中同样如此。”研究显示:“总体而言,第一代芯片并不具备竞争力,但 OpenAI 打破了这一趋势,成为行业领先者,并击败了我们能够在多个顶级开源模型上测试的所有 Nvidia、AMD 和 Google 芯片。”
OpenAI 开发 Jalapeño 旨在消除 AI 服务中的关键结构性瓶颈,在处理输入上下文时计算密集型的预填充阶段与生成输出令牌时受内存限制的解码阶段之间实现平衡。
OpenAI 利用 AI 模型在 9 个月内完成芯片设计
OpenAI 透露,其生成式 AI 模型在创建 Jalapeño 的过程中发挥了关键作用。该芯片由 OpenAI 与 Broadcom 合作开发。工程团队利用内部模型以及 Codex 和 GPT-Astra 等领域专用平台,仅用 9 个月就完成了从初始概念到芯片流片的过程。
除了最初的硬件综合之外,OpenAI 还利用 AI 优化算术逻辑电路,并生成高度优化的软件内核。对于 GPT-OSS 中选定的架构模块,AI 编写的实现性能比人类专家编写的内核高出 1.5 至 1.8 倍,从而将外部模型的软件适配启动阶段大幅缩短至不到 2 个月。
OpenAI 计划于 2026 年底部署,Nvidia Rubin 平台正在崛起
OpenAI 计划于 2026 年底前开始在其生产数据中心部署首批少量 Jalapeño 芯片,随后在 2027 年扩大基础设施规模。
SemiAnalysis 警告称,硬件环境仍在快速演变。Nvidia 已开始交付其下一代 Rubin 平台的首批产品。该平台配备升级后的高带宽内存(HBM4),待 Jalapeño 实现量产后,将进一步加剧竞争。
常见问题
OpenAI 的 Jalapeño 芯片相比 Nvidia Blackwell 具备哪些性能优势?
在 SemiAnalysis 评估的标准测试套件中,与 Nvidia 的 Blackwell 相比,Jalapeño 的每瓦吞吐量最高达到其 1.9 倍,并将端到端延迟最高降至原来的 1/3.6。
OpenAI 花了多长时间开发 Jalapeño 芯片?
OpenAI 与 Broadcom 合作使用其生成式 AI 模型,在 9 个月内完成了从初始概念到芯片流片的过程。
OpenAI 何时开始部署 Jalapeño 芯片?
OpenAI 计划于 2026 年底前开始在其生产数据中心部署首批少量 Jalapeño 芯片,随后在 2027 年扩大基础设施规模。