人工智能技术:AMD EPYC 支持 Google Cloud TPU 8tx

AMD-8.76%
GOOGL-0.98%
NVDA-1.92%

关键要点

  • 第五代 AMD EPYC 处理器现已支持谷歌云 TPU 8tx 基础设施,将 AMD CPU 的性能、AMD Infinity Guard 安全防护与谷歌云 TPU 的 AI 加速能力相结合。
  • 根据公告,TPU 8tx 使用 AMD 安全加密虚拟化技术,将机密计算保护范围扩展至与其连接的加速器,确保数据在 CPU 内存中及传输过程中均处于加密状态。
  • 在 GPU 和专用 AI 加速器部署中,AMD EPYC 为 10 多家领先的超大规模云服务商和前沿 AI 实验室提供主机 CPU。

AI 技术快速发展,AMD 今日宣布,第五代 AMD EPYC 处理器支持 Google Cloud TPU 8tx 基础设施。这一首个为云端张量处理单元(TPU)系统提供硬件级机密计算的方案,将 AMD EPYC CPU 的性能、AMD Infinity Guard 安全功能与 Google Cloud TPU 的 AI 加速能力结合起来。这一合作体现了行业技术的发展趋势:越来越注重为最敏感的 AI 工作负载集成基于硬件的安全保护。

AMD EPYC 处理器支持安全 AI 计算

在 TPU 8tx 系统中,第五代 AMD EPYC 处理器负责管理工作负载编排、数据准备,以及与 TPU 加速器之间的高性能通信。该系统利用 AMD EPYC CPU 的 AMD 安全加密虚拟化(SEV)功能,并与 TPU 配合,将机密计算保护范围从 CPU 扩展到相连的加速器,帮助保护数据在两者之间传输时的安全。

在授予对受保护内存的直接访问权限之前,先验证加速器的身份和安全配置,有助于确保客户提示词、模型权重和中间数据在 CPU 内存中以及主机与加速器之间传输时始终处于加密状态,并在加速器执行任务时提供硬件隔离。借助由第五代 AMD EPYC 主机处理器支持的 Google Cloud TPU 8tx 机密计算架构,组织可以在云端大规模运行最敏感的 AI 工作负载,同时不牺牲数据保护。

面向推理与深度学习工作负载的基础设施

AMD 与 Google Cloud 扩大合作,将 AMD EPYC CPU 的性能、AMD Infinity Guard 安全功能和 x86 软件兼容性,与 Google Cloud TPU 的 AI 加速能力结合起来,帮助企业部署推理、微调和强化学习工作负载。这些保护措施有助于企业在推理型和智能体 AI 应用中更放心地使用敏感信息。

AMD EPYC 处理器也是 Google Cloud 更广泛机密计算产品组合的基础:AMD SEV 技术有助于保护 Confidential VMs、Confidential GKE、Confidential Space、Confidential Managed Service for Apache Spark 和 Confidential Dataflow 上的工作负载。TPU 8tx 将双方的合作扩展至机密 AI 加速,覆盖云规模的企业 IT。

扩大主机 CPU 在专用 AI 生态系统中的作用

此次扩展进一步强化了 AMD EPYC 处理器作为加速型 AI 基础设施基石的作用。在使用 GPU 和专用加速器的系统中,AMD EPYC CPU 被选作主机处理器,负责准备数据、协调工作负载并管理与加速器之间的通信。随着超大规模云服务商、前沿 AI 实验室和模型提供商构建日益专用化的 AI 基础设施,CPU 的选择仍是系统性能和部署的重要因素。

AMD EPYC 处理器是 10 多家领先超大规模云服务商和前沿 AI 实验室所选用的主机 CPU,适用于 GPU 和专用 AI 加速器 ASIC。AMD EPYC 处理器在采用 AMD Instinct GPU、Nvidia GPU 和专用硅芯片的系统中承担这一职责。如此广泛的应用,为客户提供了一个经过验证的 CPU 平台,可适配多种加速器,并由成熟的 x86 软件生态系统提供支持。

AMD 与 Google Cloud 跨代处理器合作

AMD 与 Google Cloud 已在多个 EPYC 处理器世代开展合作,支持通用型、计算密集型、存储密集型和加速型工作负载。双方已在当前的 Google Cloud Compute Engine C4D、N4D、H4D、Z4D 和 G4 虚拟机方面展开合作。多年来,双方的合作也涵盖企业级安全技术,包括由 Google 安全专家对 AMD 安全处理器固件进行深入审查。

借助 TPU 8tx,此次合作扩展将帮助企业在生产环境中运行现代推理型和智能体 AI 工作负载,同时不牺牲数据保护。

常见问题(FAQ)

Google Cloud TPU 8tx AI 技术如何提升云基础设施中的数据安全?

TPU 8tx 将第五代 AMD EPYC 处理器与 Google Cloud 机密计算架构结合起来,利用 AMD 安全加密虚拟化(SEV)技术,将机密计算保护范围从 CPU 扩展到相连的加速器。对加速器身份和安全配置进行验证,确保客户提示词、模型权重和中间数据等信息在 CPU 内存中以及主机与加速器之间传输时始终处于加密状态,并在加速器执行任务时提供硬件隔离。

AMD EPYC 支持 AI 工作负载方面有哪些最新技术进展?

第五代 AMD EPYC 处理器现已作为主机 CPU 支持 Google Cloud TPU 8tx 基础设施,负责管理工作负载编排、数据准备以及与 TPU 加速器之间的通信。AMD EPYC 已被 10 多家领先超大规模云服务商和前沿 AI 实验室选作主机 CPU,用于 AMD Instinct GPU、Nvidia GPU 和专用硅芯片。

AMD 与 Google Cloud 在云技术领域合作了多久?

AMD 与 Google Cloud 已在多个 EPYC 处理器世代开展合作,支持通用型、计算密集型、存储密集型和加速型工作负载,并应用于 Google Cloud Compute Engine C4D、N4D、H4D、Z4D 和 G4 虚拟机。多年来,双方还在企业级安全技术方面开展合作,包括由 Google 安全专家对 AMD 安全处理器固件进行深入审查。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论