谷歌云 TPU 8tx 采用 AMD EPYC 处理器进行 AI 计算

AMD-8.76%
GOOGL-0.98%
NVDA-1.92%

关键要点

  • AMD 第五代 EPYC 处理器已应用于谷歌云 TPU 8tx,用于数据准备和工作负载调度,并借助硬件机密计算保障加速器通信安全。
  • AMD 表示,已有超过 10 家超大规模云服务商和前沿人工智能实验室选用 EPYC 处理器,作为 AI 加速器部署的主机 CPU。
  • TPU 8tx 是首个采用硬件强制机密计算的云 TPU 系统,可在整个 AI 处理流程中持续保护加密数据。

AMD 于 10 日宣布,其第五代 EPYC 服务器处理器已应用于 Google Cloud TPU 8tx,为数据准备、工作负载调度和加速器通信提供计算支持,同时集成硬件机密计算能力。此次采用旨在满足企业保护模型权重、敏感数据和 AI Agent 部署的需求。这一进展反映出超大规模云服务提供商正加速部署专有 AI 芯片;随着定制加速器需要强大的主机处理平台来管理数据流、工作负载编排以及外围服务连接,这也为 CPU 集成创造了新机遇。

AMD EPYC 获超过 10 家超大规模云服务提供商采用

AMD 表示,EPYC 处理器已被超过 10 家领先的超大规模云服务提供商和前沿 AI 实验室选为主机 CPU。部署范围涵盖 AMD Instinct、NVIDIA GPU 和定制 AI 加速器 ASIC。通过支持不同的计算架构,AMD 扩大了其服务器处理器的部署版图。AI 加速器负责主要的模型计算,而主机 CPU 必须持续提供数据、安排工作负载,并连接外围应用和服务。随着系统规模扩大,CPU 的内存带宽、输入/输出能力和软件兼容性都会影响加速器能否充分发挥性能潜力。

TPU 8tx 引入硬件强制执行的机密计算

据双方声明,TPU 8tx 是首个采用硬件强制执行机密计算的云 TPU 系统。该系统结合 EPYC 处理器、AMD Infinity Guard 安全功能和 Google TPU 架构,以支持推理、微调和强化学习工作负载。这种集成有助于企业在云环境中运行涉及敏感信息的 AI 应用。此次合作回应了企业将 AI Agent 部署到线上环境时的需求,在这类场景中,数据和知识产权保护已成为强制要求。

EPYC 处理器为 AI 系统提供加密数据保护

在系统运行中,EPYC 处理器利用安全加密虚拟化技术,与 TPU 协同保护使用中的数据。在加速器获得受保护内存的直接访问权限之前,系统会先验证其身份和安全配置。提示词、模型权重和中间数据在 CPU 内存中以及主机与加速器之间传输时始终保持加密,硬件隔离则在加速器执行期间提供保护。这种架构在整个数据处理流程中维持加密,同时满足现代推理模型所需的低延迟性能。

Google 与 AMD 高管详述合作目标

Google Cloud AI 和计算基础设施副总裁兼总经理 Mark Lohmeyer 表示,企业将 AI Agent 引入正式线上环境时,必须确保数据和知识产权得到保护。第五代 EPYC 与第八代 TPU 架构的结合,标志着云 TPU 首次引入硬件强制执行的机密计算,同时满足现代推理模型的低延迟要求。AMD 计算与企业 AI 业务集团高级副总裁兼总经理 Dan McNamara 表示,强大的 AI 系统需要能够满足加速器需求的 CPU 基础。EPYC 在多代产品中持续投入性能、内存带宽和输入/输出能力,并通过与云服务提供商开展工程合作,支持客户扩大 AI 部署。

AMD 与 Google Cloud 现有的合作涵盖通用计算、计算密集型工作负载、存储和加速工作负载,EPYC 也为 Google Cloud 的多项机密计算服务提供支持。合作扩展至 TPU 8tx,进一步深化了双方在 AI 加速系统领域的合作。随着企业将内部数据和专有模型引入云环境,主机 CPU 的竞争如今也涉及安全机制和整体系统集成能力。

常见问题

AMD 于 10 日宣布了哪些与 Google Cloud 相关的消息?

AMD 宣布,其第五代 EPYC 服务器处理器已应用于 Google Cloud TPU 8tx,为数据准备、工作负载调度和加速器通信提供计算支持,同时集成硬件机密计算能力,以保护模型权重、敏感数据和 AI Agent 部署。

有多少家超大规模云服务提供商选择了 AMD EPYC 处理器?

据 AMD 称,EPYC 处理器已被超过 10 家领先的超大规模云服务提供商和前沿 AI 实验室选为主机 CPU,部署范围涵盖 AMD Instinct、NVIDIA GPU 和定制 AI 加速器 ASIC。

TPU 8tx 与之前的云 TPU 系统有何不同?

TPU 8tx 是首个采用硬件强制执行机密计算的云 TPU 系统。它结合 EPYC 处理器、AMD Infinity Guard 安全功能和 Google TPU 架构,支持推理、微调和强化学习工作负载,同时在整个处理过程中维持加密数据保护。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论