谷歌云正通过将其基于 Arm Neoverse 平台打造的定制 Google Axion 处理器集成到 TPU 8i Max 系统中,扩大 Arm 架构处理器在其 AI 基础设施中的应用,以提供高要求 AI 工作负载所需的计算性能和能效。继 Axion 部署到 TPU 8t 和 TPU 8i 系统后,此次将其扩展至 TPU 8i Max,进一步加强了 CPU 与 AI 加速器之间的协同运行。随着 AI 应用持续扩展,系统性能不再单纯取决于加速器——CPU 在数据准备、工作负载编排以及运行用于维持整体系统效率的基础设施软件方面同样发挥着重要作用;随着 AI Agent 逐步具备推理、工具使用和复杂任务协调能力,对 CPU 计算性能的需求也在不断增长。
谷歌强调通过 CPU 与加速器协同设计扩展 AI 基础设施
Google Axion 为谷歌 AI 基础设施中的大规模训练、实时推理以及不断增长的智能体 AI 工作负载需求提供 CPU 计算基础。借助 Axion,谷歌将 Arm Neoverse 平台在性能和能效方面的优势融入专为其基础设施打造的定制芯片设计中。将 Axion 集成到 TPU 8i Max,凸显了通过协同设计 CPU 和加速器来扩展 AI 基础设施的重要性。
谷歌云 AI 与计算基础设施副总裁兼总经理 Mark Lohmeyer 表示:“要大规模提供 AI 性能,我们必须对 CPU 和加速器进行协同设计,使它们能够无缝协作。我们的 Arm 架构 Google Axion 处理器具备 TPU 系统繁重主机工作负载所需的性能、能效和灵活性。借助 TPU 8i Max,我们进一步扩展这一协同设计基础,帮助客户处理最复杂的 AI 应用。”
Axion N4A 的性价比最高可达 x86 虚拟机的 2 倍
今年早些时候,谷歌云推出了 Google Axion N4A,其性价比最高可达同代同级 x86 架构虚拟机的 2 倍。在 Axion N4A 上运行 GKE Agent Sandbox,客户可以安全隔离智能体 AI 工作负载,同时将性价比提升 30%。
除了为 AI 加速器提供主机计算能力,Google Axion 还支持通用云实例,为 AI Agent 执行环境和编排框架提供所需的计算资源。
GKE 上的 Agent Substrate 原生支持 Axion,容器密度提升 10 倍
GKE 上的 Agent Substrate 原生支持 Google Axion 处理器,提供内置安全防护的开源 AI Agent 执行环境。该环境专为支持数百万次沙盒操作而设计,其密度是标准容器执行环境的 10 倍。
从为谷歌最新 TPU 系统提供主机计算,到支持大规模 AI Agent 运作,Arm 架构在 AI 基础设施中的应用范围持续扩大,并进一步巩固其在 AI 计算生态系统中的地位。
常见问题
Google Axion 是什么?它在 TPU 系统中如何使用?
Google Axion 是基于 Arm Neoverse 平台打造的定制处理器,谷歌云已将其集成到包括 TPU 8t、TPU 8i 和 TPU 8i Max 在内的 TPU 系统中。它提供 CPU 计算能力,用于数据准备、工作负载编排和基础设施软件运行,以支持高要求 AI 工作负载。
Axion N4A 的性能与 x86 虚拟机相比如何?
Google Axion N4A 的性价比最高可达同代同级 x86 架构虚拟机的 2 倍。在 Axion N4A 上运行 GKE Agent Sandbox 时,客户可以安全隔离智能体 AI 工作负载,同时将性价比提升 30%。