AMD 和英特尔正在通过 oneDNN 框架,将各自针对 PyTorch 的 CPU 优化整合到一个统一库中。AMD 已将其 ZenDNN 库并入由 UXL Foundation 发布、由英特尔推动的开源 oneDNN。该合作由 x86 Ecosystem Advisory Group 推荐,该组织是两家芯片制造商于 2024 年共同发起的一项倡议。此次整合旨在通过为 AMD 和英特尔处理器提供统一的 AI 推理代码路径,简化 x86 CPU 上的 AI 开发。
AMD 将 ZenDNN 库并入英特尔的 oneDNN 框架
AMD 一直维护着名为 ZenDNN 的 oneDNN 下游版本,该版本现已并入开源 oneDNN。英特尔最初开发了 oneDNN。该库建立在此前的深度学习库之上,之后并入 UXL Foundation。英特尔是 UXL Foundation 的创始成员之一,其他成员包括 Arm、Qualcomm、Google Cloud 等。oneDNN 后端用于 CPU 推理,旨在加速 PyTorch 等框架在新款英特尔和 AMD 芯片上的相关工作负载。
![微软数据中心]()
AMD 作为指导成员加入 UXL Foundation
AMD 宣布加入 UXL Foundation,成为“指导成员”,每年贡献 $20,000,以换取“影响 UXL Foundation 未来”的权利。UXL Foundation 发布的 oneDNN 库现已同时纳入 AMD 和英特尔的优化。英特尔是 UXL Foundation 的创始成员之一,其他成员包括 Arm、Qualcomm、Google Cloud 等。
oneDNN 为 PyTorch 推理带来性能提升
2023 年底 oneDNN 作为后端加入 PyTorch 时,使用 Float32 数据类型可将性能提升至 1.24 倍,使用 BFloat16 数据类型则可将性能提升至 2.21 倍。根据 oneDNN GitHub 的介绍,该库“会在运行时检测硬件特性”,为平台生成经过优化的内核,同时提供低精度数据类型。它还针对矩阵乘法和卷积等常见 AI 和机器学习操作提供了优化指令。
统一库支持跨平台 AI 开发
对于开发者而言,此举简化了在不同系统上使用 PyTorch 的过程,确保单一后端能够为所运行的硬件提供适当的优化。尽管此次整合侧重于 x86 架构,但 oneDNN 是一个跨平台库,同样支持 Arm 和 RISC-V 架构。两家公司此前也曾通过 x86 Ecosystem Advisory Group 展开合作,例如今年早些时候公布的 x86 ACE 扩展。
常见问题
AMD 和英特尔宣布了哪些关于 PyTorch CPU 优化的消息?
AMD 和英特尔宣布将各自针对 PyTorch 的 CPU 优化整合到名为 oneDNN 的统一库中。AMD 正在将其 ZenDNN 库并入由 UXL Foundation 发布、由英特尔推动的开源 oneDNN 框架。
AMD 作为指导成员加入 UXL Foundation 需要支付多少费用?
AMD 每年贡献 $20,000,以指导成员身份加入 UXL Foundation;该角色能够影响 UXL Foundation 的未来。
oneDNN 为 PyTorch 带来了哪些性能提升?
2023 年底 oneDNN 作为后端加入 PyTorch 时,使用 Float32 数据类型可将性能提升至 1.24 倍,使用 BFloat16 数据类型则可将性能提升至 2.21 倍。