英伟达的 Vera Rubin 平台在最新的 MLPerf Inference v6.1 测试中公布了基准测试结果,显示在 Qwen3-VL 基准测试中,其吞吐量较该公司的 GB300 NVL72 提高最高达 3.7 倍,在 DeepSeek-R1 上则最高提高 2.5 倍。性能提升给 AI 基础设施运营商带来了财务压力,他们必须决定现有 GPU 集群是否仍能与更新的系统竞争,后者每个机架和每兆瓦能够生成多得多的代币。英伟达在其官方 MLPerf 公告中详细介绍了这些结果,并将 Vera Rubin 的参测描述为在更广泛部署前的预览性提交,其中 3.7 倍这一数字代表特定工作负载上的最佳实测提升,而非适用于所有 AI 应用的普遍性能声明。
英伟达 Vera Rubin 在 MLPerf 测试中实现 3.7 倍吞吐量提升
在最新的 MLPerf Inference v6.1 测试中,Vera Rubin NVL72 在 Qwen3-VL 基准测试中的吞吐量最高达到英伟达 GB300 NVL72 的 3.7 倍。在 DeepSeek-R1 上,提升幅度最高达到 2.5 倍。英伟达报告称,包含 288 个 GPU 的四个 GB300 NVL72 机架实现了 99% 的扩展效率,而仅软件改进就较上一轮 MLPerf 测试带来了最高 1.6 倍的性能提升。3.7 倍这一数字代表特定工作负载上的最佳实测提升,并不意味着每个 AI 应用的运行速度都提高了 3.7 倍。
AMD 在 MLPerf 竞赛中提交 Instinct MI355X 加速器
AMD 最新提交的产品包括 Instinct MI355X 和 MI350 系列加速器。由 Crusoe 运营的一个 512 GPU 系统实现了 MLPerf 提交记录中的最高聚合代币吞吐量。这一结果带来了异常快速的替换周期,AI 云运营商需要反复决定现有集群是否仍能与更新的系统竞争,后者每个机架和每兆瓦能够生成多得多的代币。
CoreWeave 将可转换票据发行规模扩大至 37 亿美元
CoreWeave 最近将一项可转换票据发行规模从 30 亿美元扩大至 37 亿美元,为这个已大量依赖债务和股权融资的行业再添一轮大型融资。Nebius 也转向进行数十亿美元规模的融资。路透社本周报道称,随着投资者质疑该行业还需要多少额外资本,与 AI 相关的借款人正日益支付更高的利差。英伟达认为,更高的吞吐量可以降低每个代币的成本,这意味着更新的硬件最终可能通过更好的经济效益证明其投资合理性,但该公司尚未公开提供一个简单的机架价格,使投资者能够将 3.7 倍的基准测试提升直接与采购成本进行比较。
常见问题
英伟达 Vera Rubin 在 MLPerf 测试中实现了多大幅度的性能提升?
在最新的 MLPerf Inference v6.1 测试中,英伟达的 Vera Rubin NVL72 在 Qwen3-VL 基准测试中的吞吐量最高达到英伟达 GB300 NVL72 的 3.7 倍,在 DeepSeek-R1 上的提升最高达到 2.5 倍。包含 288 个 GPU 的四个 GB300 NVL72 机架实现了 99% 的扩展效率。
CoreWeave 在最新的可转换票据发行中筹集了多少资金?
CoreWeave 将一项可转换票据发行规模从 30 亿美元扩大至 37 亿美元,为 AI 基础设施领域增加了又一轮大型融资。