Google 为 Gemini 推理开发 Frozen v2 芯片,效率提升 10 倍

GOOGLG+0.09%

关键要点

  • Google 正在为 Gemini 推理专门开发 Frozen v2 服务器芯片,计划于 2028 年部署。
  • Frozen v2 在单位功率下可比 Google 最新的 TPUs 多支持六到十倍的代币量。
  • 随着 Alphabet 扩张 AI 基础设施,将其 2026 年资本开支预测上调至 1950 亿至 2050 亿美元。

据称,Google 正在开发一款名为 Frozen v2 的服务器芯片,专为 Gemini 推理设计,部署时间目标最早可至 2028 年。参与该项目的工程师推测,该芯片在单位功耗下可提供比 Google 最新一代张量处理单元(TPU)高 6 到 10 倍的代币吞吐。该进展出现之际,Alphabet 将其 2026 年资本开支预测上调至 1950 亿至 2050 亿美元之间;第二季度资本开支达到 449 亿美元,而自由现金流为负 59 亿美元,公司为满足 AI 需求而扩大基础设施。

Frozen v2 架构与效率预测

Frozen v2 正在被打造为专门用于 Gemini 推理的服务器芯片。与张量处理单元不同,张量处理单元保留了在运行时运行不同模型并作出执行决策的灵活性;Frozen v2 则会将 Gemini 架构的部分内容直接固化到硅片中。

该芯片将保留模型权重可更新的能力,同时将架构层面的决策进行硬编码,从而让后续的 Gemini 版本只要在其基础设计保持兼容的前提下即可运行。据称,较早的 Frozen 设计会将 Gemini 的模型权重固定在硬件中,因此一旦这些权重发生变化,该芯片就会变得过时。

据称,参与 Frozen v2 的工程师预计,该芯片在单位功耗下可提供比 Google 最新一代 TPU 高 6 到 10 倍的代币吞吐。外界称,Google 将该芯片部分视为一项实验,而不是一款会以与通用型 TPU 相同规模进行量产的产品。

预期收益来自于消除不必要的计算,并减少内存与计算之间的数据移动。代价是灵活性,因为一旦 Google 对模型进行了大幅重设计,Gemini 专用处理器就会变得不那么有用。

Alphabet 的 AI 基础设施支出

Alphabet 表示,Gemini 模型在第二季度每分钟处理 220 亿个 API 代币。公司将 2026 年资本开支预测上调至 1950 亿至 2050 亿美元之间,并预计 2027 年开支还会再次增加,因为客户需求持续超过可用产能。

第二季度资本开支达到 449 亿美元,而自由现金流为负 59 亿美元,公司为满足需求而扩大基础设施。

Google 尚未确认 Frozen v2、其规格或其 2028 年计划。公司也没有否认该项目,称并非每一项实验都会走向量产,而且芯片探索属于其全栈方法的一部分。

最初的 Frozen v2 报道于 7 月 20 日(周一)发布,后续报道则在 7 月 21 日出现。

常见问题

Google 的 Frozen v2 芯片是什么?
Frozen v2 是一款据称由 Google 正在为 Gemini 推理开发的实验性服务器芯片。它会将 Gemini 架构的部分内容直接嵌入硅片,同时保持模型权重可更新,部署目标最早可至 2028 年。

Frozen v2 相比当前芯片能高多少效率?
据称,参与 Frozen v2 的工程师预计,该芯片在单位功耗下可提供比 Google 最新一代张量处理单元高 6 到 10 倍的代币吞吐;不过 Google 将其部分视为实验,而不是用于大规模制造的产品。

Alphabet 当前的 AI 基础设施成本是多少?
Alphabet 第二季度资本开支达到 449 亿美元,自由现金流为负 59 亿美元。公司将其 2026 年资本开支预测上调至 1950 亿至 2050 亿美元之间,并预计随着客户需求超过可用产能,2027 年还会进一步增长。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论