AMD 和英特尔将 PyTorch 的 CPU 优化集成到统一的 oneDNN 库中

AMD-8.76%
INTC-2.54%
ARM-4.70%
QCOM-2.69%
GOOGL-0.98%

关键要点

  • AMD 将其 ZenDNN 库集成到英特尔开源的 oneDNN 框架中,以统一 x86 架构上的 PyTorch CPU 优化。
  • 根据 oneDNN 的 GitHub 数据,集成后的库在 PyTorch 推理中使用 Float32 时性能提升了 1.24 倍,使用 BFloat16 时提升了 2.21 倍。
  • AMD 每年捐款 20,000 美元,成为 UXL Foundation 指导委员会成员,推动 AMD 和英特尔处理器上的统一 AI 开发。

AMD 和英特尔正在通过 oneDNN 框架,将各自针对 PyTorch 的 CPU 优化整合到一个统一库中。AMD 已将其 ZenDNN 库并入由 UXL Foundation 发布、由英特尔推动的开源 oneDNN。该合作由 x86 Ecosystem Advisory Group 推荐,该组织是两家芯片制造商于 2024 年共同发起的一项倡议。此次整合旨在通过为 AMD 和英特尔处理器提供统一的 AI 推理代码路径,简化 x86 CPU 上的 AI 开发。

AMD 将 ZenDNN 库并入英特尔的 oneDNN 框架

AMD 一直维护着名为 ZenDNN 的 oneDNN 下游版本,该版本现已并入开源 oneDNN。英特尔最初开发了 oneDNN。该库建立在此前的深度学习库之上,之后并入 UXL Foundation。英特尔是 UXL Foundation 的创始成员之一,其他成员包括 Arm、Qualcomm、Google Cloud 等。oneDNN 后端用于 CPU 推理,旨在加速 PyTorch 等框架在新款英特尔和 AMD 芯片上的相关工作负载。

微软数据中心

AMD 作为指导成员加入 UXL Foundation

AMD 宣布加入 UXL Foundation,成为“指导成员”,每年贡献 $20,000,以换取“影响 UXL Foundation 未来”的权利。UXL Foundation 发布的 oneDNN 库现已同时纳入 AMD 和英特尔的优化。英特尔是 UXL Foundation 的创始成员之一,其他成员包括 Arm、Qualcomm、Google Cloud 等。

oneDNN 为 PyTorch 推理带来性能提升

2023 年底 oneDNN 作为后端加入 PyTorch 时,使用 Float32 数据类型可将性能提升至 1.24 倍,使用 BFloat16 数据类型则可将性能提升至 2.21 倍。根据 oneDNN GitHub 的介绍,该库“会在运行时检测硬件特性”,为平台生成经过优化的内核,同时提供低精度数据类型。它还针对矩阵乘法和卷积等常见 AI 和机器学习操作提供了优化指令。

统一库支持跨平台 AI 开发

对于开发者而言,此举简化了在不同系统上使用 PyTorch 的过程,确保单一后端能够为所运行的硬件提供适当的优化。尽管此次整合侧重于 x86 架构,但 oneDNN 是一个跨平台库,同样支持 Arm 和 RISC-V 架构。两家公司此前也曾通过 x86 Ecosystem Advisory Group 展开合作,例如今年早些时候公布的 x86 ACE 扩展。

常见问题

AMD 和英特尔宣布了哪些关于 PyTorch CPU 优化的消息?

AMD 和英特尔宣布将各自针对 PyTorch 的 CPU 优化整合到名为 oneDNN 的统一库中。AMD 正在将其 ZenDNN 库并入由 UXL Foundation 发布、由英特尔推动的开源 oneDNN 框架。

AMD 作为指导成员加入 UXL Foundation 需要支付多少费用?

AMD 每年贡献 $20,000,以指导成员身份加入 UXL Foundation;该角色能够影响 UXL Foundation 的未来。

oneDNN 为 PyTorch 带来了哪些性能提升?

2023 年底 oneDNN 作为后端加入 PyTorch 时,使用 Float32 数据类型可将性能提升至 1.24 倍,使用 BFloat16 数据类型则可将性能提升至 2.21 倍。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论