AMD 发布了内部基准测试结果,声称其 Ryzen AI Max+ 395 系统在设备端 AI Agent 工作流中的表现优于英伟达 DGX Spark。HEPA 基准测试显示,Ryzen 系统完成完整 AI Agent 工作流的速度快 15%,端到端完成时间为 311.6 秒,而 DGX Spark 为 367.1 秒。AMD 将这一性能优势归因于 Zen 5 CPU 架构,以及同时多线程(SMT)和 AVX-512/VNNI 指令集的支持,而英伟达的 Grace Blackwell CPU 不具备这些特性。该公司指出,AI Agent 流水线的八个阶段中有七个在 CPU 上执行,只有最终生成阶段由 GPU 处理。AMD 表示,由于这些数据为公司自行发布的结果,因此基准测试结果仍需第三方验证。
AMD 报告称,HEPA 基准测试中的 AI Agent 工作流完成速度快 15%
HEPA 基准测试衡量了两套系统执行完整 AI Agent 工作流的表现。AMD 的 Ryzen AI Max+ 395 系统在 311.6 秒内完成工作流,而 DGX Spark 用时 367.1 秒,速度快 15%。根据 AMD 的指标,其 CPU 编排性能优势为 34%。该公司报告称,Ryzen 系统的 CPU 准备时间为 152.1 秒,而 DGX Spark 为 229.9 秒。
AI Agent 流水线的八个阶段中有七个在 CPU 上执行
AMD 将 AI Agent 流水线描述为由八个阶段组成:规划、解析、OCR、分块、嵌入、检索、生成和验证。其中七个阶段在 CPU 上执行,只有最终生成阶段由 GPU 处理。这种架构分工解释了 CPU 性能差异为何会对工作流总完成时间产生可测量的影响。在两套系统中,CPU 准备阶段都占据了执行时间的大部分。
Zen 5 SMT 和 AVX-512 被列为性能差异化因素
AMD 指出,特定的 CPU 架构特性是其性能优势的基础。Ryzen AI Max+ 395 中的 Zen 5 核心支持同时多线程(SMT)、AVX-512 和 VNNI 指令集。AMD 表示,英伟达的 Grace Blackwell CPU 不支持 SMT。该公司还声称,根据性能指标计算,每个工作流的三年硬件折旧成本大约低 27%。AMD 指出,这项基准测试结果为公司自行发布的数据,仍需第三方验证。
常见问题
AMD 声称其在 HEPA 基准测试中具有什么性能优势?
AMD 报告称,其 Ryzen AI Max+ 395 系统完成 AI Agent 工作流的速度比英伟达 DGX Spark 快 15%,端到端用时分别为 311.6 秒和 367.1 秒。
为什么 CPU 性能在 AI Agent 工作流中很重要?
据 AMD 称,AI Agent 流水线的八个阶段中有七个在 CPU 上执行,只有最终生成阶段由 GPU 处理。Ryzen 系统的 CPU 准备时间为 152.1 秒,而 DGX Spark 为 229.9 秒。
AMD 指出哪些 CPU 特性优于英伟达?
AMD 指出,其 Zen 5 核心支持同时多线程(SMT)、AVX-512 和 VNNI 指令集,并表示英伟达的 Grace Blackwell CPU 不支持 SMT。