谷歌发布 TorchTPU 开源项目,挑战英伟达在 AI 芯片领域的主导地位

GOOGL-0.98%
NVDA-1.92%
AMZN-0.29%

关键要点

  • 谷歌周二将 TorchTPU 开源,使 AI 应用无需重写代码即可在张量处理单元上运行。
  • 根据公告,85% 的 AI 应用使用 PyTorch,PyTorch 最初由 Meta 于 2016 年为英伟达 GPU 开发。
  • 谷歌与 Meta、Hugging Face、Inferact 和 RadixArk 合作,推出 TPU 智能体套件,协助开发者将应用迁移至谷歌云。

谷歌周二宣布,TorchTPU(谷歌推出的 PyTorch 版本)现已作为开源项目发布。这一发布使谷歌与亚马逊一道,向英伟达在 AI 行业的主导地位发起挑战。在该行业中,大多数 AI 应用默认编写为在英伟达芯片上运行。PyTorch 是一款广受欢迎的开源工具包,85% 的 AI 应用都使用它来构建、训练和运行 AI 模型。该工具包最初由 Meta 于 2016 年开发。当时,英伟达 GPU 已经是 AI 研究的标准硬件,因此 PyTorch 的许多功能都是专门为英伟达芯片构建的。

谷歌发布用于张量处理单元的 TorchTPU

谷歌的 TorchTPU 允许 AI 应用在谷歌的 AI 芯片上运行,这些芯片称为张量处理单元(TPU)。该工具可以轻松将现有 PyTorch 应用迁移到 TPU 和谷歌云。开发者只需简单修改配置,无需重写应用即可完成迁移。谷歌与 Meta、Hugging Face、Inferact(vLLM 的开发者)以及 RadixArk(SGLang 的开发者)直接合作,以确保 TorchTPU 的功能和代码库能够像原版 PyTorch 一样,与这些热门 AI 开发工具良好协作。

谷歌推出了专用的 TPU 代理工具包,帮助开发者将应用迁移到谷歌芯片和云端,并在迁移过程中修复错误。该公司还更新了 LiteRT 工具,使其能够更好地与 PyTorch AI 应用协作;LiteRT 可在手机、笔记本电脑和嵌入式设备上运行 AI。

亚马逊周一发布 TorchNeuron

亚马逊周一发布了名为 TorchNeuron 的自有 PyTorch 版本,并作出了类似宣布。TorchNeuron 允许 AI 应用无需重写即可移植到亚马逊自研的 AI 芯片 Trainium 和 AWS。亚马逊表示,正在向 PyTorch 主项目提交代码,将各种功能与英伟达芯片解耦,使其默认对任何硬件更加开放。

PyTorch 与英伟达硬件的开发历史

PyTorch 最初由 Meta(当时名为 Facebook)于 2016 年开发,远早于大语言模型改变 AI 行业。当时,英伟达 GPU 已经是 AI 研究的标准硬件,因此 PyTorch 的许多功能都是专门为与英伟达硬件协作而构建的。2022 年,Meta 将 PyTorch 移交给 Linux 基金会,后者是一个管理许多重要开源项目的非营利组织。

常见问题

谷歌周二宣布了哪些与 PyTorch 相关的消息?

谷歌周二宣布,TorchTPU(谷歌推出的 PyTorch 版本)现已作为开源项目发布。TorchTPU 允许 AI 应用在谷歌的张量处理单元(TPU)上运行,并让开发者只需简单修改配置、无需重写应用,即可将现有 PyTorch 应用迁移到 TPU 和谷歌云。

什么是 PyTorch,它在 AI 开发中的使用范围有多广?

PyTorch 是 AI 应用开发者和初创企业用于构建、训练和运行 AI 模型的热门开源工具包。85% 的 AI 应用都在使用它。PyTorch 最初由 Meta(当时名为 Facebook)于 2016 年开发,并于 2022 年移交给 Linux 基金会。

亚马逊的 TorchNeuron 与谷歌的 TorchTPU 有何不同?

亚马逊周一发布了 TorchNeuron,允许 AI 应用无需重写即可移植到亚马逊的 Trainium 芯片和 AWS。亚马逊还在向 PyTorch 主项目提交代码,将各种功能与英伟达芯片解耦。谷歌的 TorchTPU 提供了将应用移植到谷歌 TPU 的类似能力,并与 Meta、Hugging Face、Inferact 和 RadixArk 建立了合作关系,此外还配备了 TPU 代理工具包等专用工具。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论