OpenAI 部署了其 Jalapeño ASIC,并搭配 AMD EPYC Turin CPU 作为主机处理器,每套系统均配置了 1.5TB 内存。OpenAI 副总裁兼硬件负责人 Richard Ho 表示,与 Turin 相比,英伟达的 Vera CPU“在这种成熟度方面……略显落后”。Ho 在接受 Tom's Hardware Premium 采访时表示,据他介绍,这一部署决策是出于降低风险的考量,同时也考虑到了合作伙伴对 Turin 平台的使用经验。这一选择体现了 OpenAI 在不断发展的 AI 推理硬件领域采取的务实方式,即在性能目标与部署成熟度之间取得平衡。在这一领域,英伟达和 Arm 基于 Arm 架构的 CPU 正与 AMD 和英特尔已经成熟的 x86 平台展开竞争。
OpenAI 将 Jalapeño ASIC 与 AMD EPYC Turin CPU 搭配使用
SemiAnalysis 在该芯片发布后介绍了 Jalapeño 的机架级部署情况。Ho 告诉 Tom's Hardware,选择 Turin 是“务实的”,并解释了硬件选型的方法。“我们处理这一设计的方式,主要是为了降低风险,并能够快速完成设计。Vera 作为独立方案,在这种成熟度方面略显落后。Turing 设备很强。它完成了我们需要完成的工作,部分原因是我们的合作伙伴对它有一定经验,”Ho 表示。
Ho 强调了 OpenAI 针对 Jalapeño 项目的风险管理策略。“对于 Jalapeño 项目,我们试图做出非常务实的决策。我们希望在性能和成本目标上采取激进策略,但不想承担不必要的风险。这感觉像是一个不错的设计决策,能够符合我们在制定这些设计决策时遵循的参数,”他告诉 Tom's Hardware Premium。
Richard Ho 解释选择 Turin 而非英伟达 Vera 的原因
OpenAI 与英伟达保持着密切的合作关系,这引发了人们对其选择 Turin 的疑问。Tom's Hardware 询问 Ho,考虑到英伟达的 Vera 和 Arm 的 AGI 被描述为智能体 CPU,据称与 AMD 和英特尔的 x86 同类产品相比,它们能够加速智能体循环中涉及的复杂推理,OpenAI 为何仍做出这一选择。
Ho 的回应聚焦于 Turin 和 Vera 之间的成熟度差异。英伟达的 Vera 代表了该公司首次为数据中心开发的定制 CPU 核心。据英伟达称,OpenAI 被列为“探索 Vera CPU”的客户之一,同时也是 Arm 的 AGI 部署合作伙伴之一。
基于 Arm 的 CPU 挑战 AI 数据中心中的 x86
Arm 将 AArch64 ISA 定位为优于 x86,并声称其 AGI CPU 的性能是现代 x86 平台的两倍以上。该说法基于内部估算,而非实际基准测试。分析师表示,尽管 AGI 获得了 20 亿美元的承诺,但两年后的市场渗透率仍将处于个位数的低位。
英伟达将其基于 Arm 的 Vera 与 x86 竞争产品进行了比较,声称其性能比竞争对手的 AMD Turin 芯片提升 1.8x。该数据来自一套综合基准测试,其中 Vera 在 SPEC CPU 2026 单核结果中仅领先 AMD EPYC 9755 3%。
Turin 与 Vera 架构之间的技术差异
Ho 关于 OpenAI 合作伙伴拥有 Turin 使用经验的评论,揭示了硬件团队的思路。在 Turin 和 Vera 的主机系统维护方面,两者存在实际差异。Vera 采用板载设计,而 Turin 芯片采用插槽式设计。无论如何,服务器中并不常见更换芯片,但 Turin 更易于更换。
总体而言,x86_64 比 AArch64 更加成熟。Arm 自 20 世纪 80 年代中期就已存在,不过,直到 x86 推出 64 位扩展 12 年后,Arm 才出现真正的 64 位扩展。尽管过去二十年间 Arm 已逐步进入数据中心,但 x86 仍拥有深厚得多的基础,其历史可追溯至数十年前。
OpenAI 拥有一些现成的硬件。鉴于这种多样性,Jalapeño 未来有可能采用不同的主机系统进行部署,或与 Arm 的 AGI 或英伟达的 Vera 搭配使用。
常见问题
OpenAI 为什么选择 AMD EPYC Turin 而不是英伟达 Vera 来部署 Jalapeño?
Richard Ho 表示,选择 Turin 是出于务实的降低风险考量。他解释称,与 Turin 相比,Vera“在这种成熟度方面……略显落后”,而且 OpenAI 的合作伙伴拥有 Turin 平台的使用经验。这一决策在保持激进的性能和成本目标的同时,优先考虑了减少不必要的风险。
英伟达 Vera 与 AMD EPYC Turin CPU 之间有哪些技术差异?
Vera 是英伟达首款面向数据中心、采用 Arm 架构的定制 CPU 核心,并采用板载设计。Turin 采用 x86_64 架构,芯片使用插槽式设计,因此更便于进行物理维护。英伟达声称,Vera 在特定基准测试中的性能比 Turin 提升 1.8x,但 SPEC CPU 2026 的整体结果显示,Vera 仅领先 AMD EPYC 9755 3%。