OpenAI 模型在 AMD GPU 上实现 14% 的 PPA 提升,并针对 Jalapeño 实现 13% 优化

AMD+5.44%
SNPS-0.36%

关键要点

  • 2025 年初的芯片启动调试期间,OpenAI 的 GPT-4o 将 Jalapeño 向量单元的标准单元面积减少了 13%,将矩阵单元的标准单元面积减少了 10%。
  • 借助与 AMD 的合作,OpenAI 模型在旗舰级 GPU IP 上实现了最高 14% 的 PPA 改进,并在不到五个月内取得了相当于一年进展的成果。
  • 在 9,881 次计分评测中,GPT-6.2 Astra 在 PicoRV32 和 OpenTitan Ibex RISC-V 核心上表现出最高性能。

OpenAI 的前沿模型正通过在定制硬件和第三方硬件上提供专家级优化,加速芯片设计。2025 年初,OpenAI 工程师使用 GPT-4o 协助设计 Jalapeño——该公司的首款定制推理芯片,并取得了显著的功耗、性能和面积(PPA)改进,这些改进在 Jalapeño 的硅片启动过程中得到了硅片验证。

Jalapeño 的向量单元通过采用替代逻辑实现方式和划分流水线级,对浮点加法器和乘法器、转换函数、归约逻辑及特殊功能单元进行了优化。矩阵单元这一算术组件则在浮点加法器、乘法器和低精度点积电路方面不断改进;其中,一项乘法器重新设计将单元面积减少了约 15%,同时将延迟从两个时钟周期降至一个。在 Jalapeño 整体设计工作中,团队估计,模型提出的改动使向量单元的标准单元面积减少了约 13%,矩阵单元则减少了 10%。

OpenAI 与 AMD 合作改进 PPA,并在其旗舰 GPU IP 上观察到相较于经过高度优化的基准设计最高达 14% 的改进。模型通过重写描述芯片电路的 SystemVerilog RTL 代码,发现了进一步的改进,相当于在不到 5 个月内取得了约一年的进展。AMD 已将其中一些改动纳入近期送去制造的设计,并将其他改动加入其生产设计文件,以供未来版本使用。AMD 还使用 OpenAI 模型编写的设计,在其即将推出的下一代旗舰 CPU 的关键模块中验证了个位数百分比的 PPA 提升。

开源处理器上的芯片设计能力评估

为了衡量不同代际模型在芯片设计能力方面的进展,OpenAI 在两款开源 32 位 RISC-V 核心上测试了连续几代模型:PicoRV32(一款为可重编程芯片,即 FPGA 设计的紧凑型核心)和 OpenTitan 的 Ibex(其安全芯片中的嵌入式处理器)。两者都是适用于嵌入式、微控制器级工作负载的完整处理器核心。

模型获得每个核心的原始硬件描述,并被要求提高吞吐量,即核心每秒可以执行的指令数。设计会经过仿真检查;如果未通过检查,或面积超过原始核心的 16 倍,则得分为零。对于通过检查的设计,评估会在隐藏工作负载上测量每个时钟周期执行的指令数,然后乘以使用 Yosys 估算的最高时钟频率。在每次运行预算均约为 112,000 个 token 的情况下,GPT-6.2 Astra 在两个核心上的平均得分均最高,而 GPT-6.1 Sol 在两个核心上的得分也都高于 GPT-5.6 Sol。

在第二项任务中,模型会获得书面需求,以及展示核心如何与系统其余部分连接的开源代码模板。模型需要选择数据如何流经核心,以及如何将工作划分为不同阶段。在每次运行约 112,000 个 token 的情况下,所有五个模型在 PicoRV32 和 Ibex 上,根据书面需求设计核心的得分都高于改进现有设计时的得分。GPT-6.2 Astra 在 Ibex 上取得的提升高于在 PicoRV32 上的提升。完整评估涵盖两项任务、两个核心和所有 token 预算,共有 9,881 次计分运行。

Synopsys 合作与专家级设计推理

OpenAI 的模型已展现出达到专家级微架构师水平的 RTL 推理能力,能够重写执行计算、控制操作或传输数据的电路。模型使用 Synopsys 工具验证每次重写是否保留了模块的行为,并评估功耗、性能和面积之间的权衡。

为使模型开发基于可信的评估器,并拓展其能够应对的设计挑战,OpenAI 正与 Synopsys 合作训练 GPT-Synopsys。这是一款旨在像专家芯片设计师一样使用 Synopsys 电子设计自动化(EDA)工具的新模型。此次合作将前沿智能与工程师已经用于设计和验证芯片的 EDA 工具相结合。

关键事实

  • 从 2025 年初开始,GPT-4o 被用于协助设计 OpenAI 的首款定制推理芯片 Jalapeño
  • 模型提出的改动使 Jalapeño 向量单元的标准单元面积减少了约 13%,矩阵单元则减少了 10%
  • 矩阵单元的一项乘法器重新设计使单元面积减少了约 15%,同时将延迟从两个时钟周期降至一个
  • 一项加法器重新设计在保持两个时钟周期延迟的同时,将单元面积减少了约 15%
  • 与 AMD 的合作使旗舰 GPU IP 相较于经过高度优化的基准设计提升最高达 14%
  • AMD GPU 上的改进相当于在不到 5 个月内取得了约一年的进展
  • AMD 使用 OpenAI 模型设计,在其即将推出的下一代旗舰 CPU 的关键模块中验证了个位数百分比的 PPA 提升
  • 每次运行约 112,000 个 token 时,GPT-6.2 Astra 在开源 RISC-V 核心 PicoRV32 和 Ibex 上的平均得分均最高
  • GPT-6.1 Sol 在两个 RISC-V 核心上的得分均高于 GPT-5.6 Sol
  • 完整评估涵盖 RTL 优化和根据需求进行设计两项任务,共有 9,881 次计分运行
  • 在根据书面需求设计核心时,所有五个模型的得分都高于优化现有设计时的得分
  • Synopsys 合作将训练 GPT-Synopsys 使用 Synopsys EDA 工具进行芯片设计

常见问题

OpenAI 模型在 Jalapeño 的向量单元和矩阵单元中实现了多大幅度的面积缩减?

OpenAI 的模型使 Jalapeño 向量单元的标准单元面积减少了约 13%,矩阵单元则减少了 10%。向量单元的优化涉及浮点加法器和乘法器、转换函数、归约逻辑及特殊功能单元,采用了替代逻辑实现方式并划分了流水线级。在矩阵单元中,一项乘法器重新设计将单元面积减少了约 15%,同时将延迟从两个时钟周期降至一个;另有一项加法器重新设计,在保持两个时钟周期延迟的同时,将单元面积减少了约 15%。

OpenAI 模型为 AMD 的旗舰 GPU IP 带来了哪些 PPA 改进?

OpenAI 的模型使 AMD 旗舰 GPU IP 的功耗、性能和面积相较于经过高度优化的基准设计提升最高达 14%。模型通过重写 SystemVerilog RTL 代码发现了改进,相当于在不到 5 个月内取得了约一年的进展。AMD 已将其中一些改动纳入近期送去制造的设计,并将其他改动加入其生产设计文件,以供未来版本使用。AMD 还使用 OpenAI 模型编写的设计,在其即将推出的下一代旗舰 CPU 的关键模块中验证了个位数百分比的 PPA 提升。

在开源 RISC-V 处理器评估中,哪个 OpenAI 模型变体表现最佳?

每次运行约 112,000 个 token 时,GPT-6.2 Astra 在紧凑型核心 PicoRV32 和 OpenTitan 的嵌入式处理器 Ibex 上的平均得分均最高。GPT-6.1 Sol 在两个核心上的得分也都高于 GPT-5.6 Sol。RTL 优化和根据需求进行设计两项任务的完整评估共计 9,881 次计分运行。在这两个处理器核心上,所有受测模型变体根据书面需求设计核心时的得分,都高于尝试优化现有设计时的得分。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论