谷歌周一宣布推出两款专用人工智能计算系统,扩充其第八代张量处理单元产品线,以挑战英伟达在人工智能硬件领域的主导地位。TPU 8tx 和 TPU 8i Max 配置分别满足人工智能处理对隐私保护和内存带宽的需求。它们与现有 TPU 选项共同为企业提供了四种训练和运行人工智能模型的配置。谷歌开发 TPU,作为专为自身服务打造的人工智能加速器,如今已为近 100 家客户提供服务,其中包括人工智能实验室和大学。此次发布正值英伟达面临日益加剧的市场压力:在首席执行官黄仁勋承认与一名被美国情报机构怀疑为中国从事间谍活动的女性有婚外情后,其股价周四下跌 9.3%,周一又下跌 5%。谷歌首席技术专家兼人工智能与基础设施高级副总裁 Amin Vahdat 表示,随着计算从人类规模转向智能体规模,企业正要求加速器能够在人工智能模型的超大上下文窗口中进行推理。
TPU 8tx 引入硬件级机密计算
TPU 8tx 旨在保护人工智能模型处理过程中的敏感信息。数据在存储和传输过程中会加密,但处理数据通常需要先在内存中解密。该配置采用硬件级机密计算,在运行期间隔离客户数据和专有模型参数。
该系统将 TPU 8t 硅片与第五代 AMD EPYC 处理器及谷歌的低延迟 Boardfly 网络相结合。谷歌称,与 TPU 8t 相比,该系统可将延迟最多降低一半,同时新增保护几乎不会造成性能损失。企业可以在同一系统上微调和运行模型,而不必在集群之间传输敏感信息。
TPU 8i Max 采用双芯片设计,内存带宽翻倍
TPU 8i Max 旨在解决自主智能体分析数据、代码库、文档或数小时视频时面临的内存限制。谷歌将两颗 TPU 8i 芯片整合到一个封装中,与 TPU 8i 相比,计算能力、片上 SRAM 和高带宽内存吞吐量均翻倍。该设计在相同的机架占用空间内装入了两倍的硅片。
Vahdat 写道,该系统“旨在解决另一个问题:内存墙”。谷歌正开源 TPU Sync,这是一款可在芯片、服务器和存储设备之间迁移人工智能工作内存的软件。该公司称,该系统可将某些数据传输延迟和响应启动时间缩短 90% 以上。
英伟达股价在首席执行官丑闻披露后下跌
在首席执行官黄仁勋承认与一名被美国情报机构怀疑为中国从事间谍活动的女性有婚外情后,英伟达股价周四暴跌 9.3%,并在周一交易中再跌 5%。英伟达董事会已启动独立调查,但该公司表示,没有证据表明公司机密遭到泄露。
谷歌 TPU 成为英伟达硬件的替代选择
据报道,OpenAI 正计划购买谷歌的 TPU,以降低对英伟达的依赖,但此事尚未得到证实。谷歌不断扩充的芯片产品线可能会增强人工智能开发者的议价能力。谷歌通过开源 TorchTPU 项目,在专用硬件和软件领域展开竞争。该项目让开发者无需重写应用程序,就能在 TPU 上运行 PyTorch 和 Hugging Face 模型。
谷歌公布的性能数据是将新系统与早期谷歌硬件进行比较,而非与英伟达最新产品进行比较。该公司没有公布这两种新配置的价格或上市日期。
常见问题
谷歌周一宣布了哪些人工智能芯片相关消息?
谷歌周一宣布推出两款专用人工智能计算系统:TPU 8tx 和 TPU 8i Max。这两种配置加入谷歌第八代张量处理单元产品线,为企业提供四种训练和运行人工智能模型的选择。
TPU 8tx 如何在人工智能处理过程中保护敏感数据?
TPU 8tx 采用硬件级机密计算,在运行期间隔离客户数据和专有模型参数。该系统将 TPU 8t 硅片与第五代 AMD EPYC 处理器及谷歌的 Boardfly 网络相结合。与 TPU 8t 相比,它可将延迟最多降低一半,同时新增保护几乎不会造成性能损失。
英伟达股价为何在周四和周一下跌?
在首席执行官黄仁勋承认与一名被美国情报机构怀疑为中国从事间谍活动的女性有婚外情后,英伟达股价周四暴跌 9.3%,周一又下跌 5%。英伟达董事会已对此事启动独立调查。