英伟达 Vera Rubin NVL72 系统现已在 Azure 预览版中推出,搭载 Nemotron 模型

NVDA-13.84%
MSFT-2.61%
RTX-1.20%
DELL-11.05%
MSI-0.26%

关键要点

  • 英伟达和微软于 11 月 19 日在 Azure 预览版中推出 Vera Rubin NVL72 系统,将机密计算集成到企业级 AI 基础设施中。
  • Nemotron 3.5 Super、Nemotron 3.5 Lightning 和专用模型登陆 Foundry Managed Compute,EY 通过 Programmed Training 将准确率提升了 55%。
  • 英伟达在 MLPerf Training v6.1 中将 GB200 NVL72 系统扩展至 10,240 个 GPU,达到该轮基准测试中展示的最大规模。

英伟达和微软于 11 月 19 日宣布,Vera Rubin NVL72 机架级系统已在 Azure 数据中心运行,目前已在 Azure 上开放预览。Nemotron 3.5 Super、Nemotron 3.5 Lightning,以及多个检索、解析和安全模型现已在 Foundry Managed Compute 上提供,体现了两家公司扩大合作、推进企业 AI 基础设施发展的努力。

Azure 中的 Vera Rubin 系统与机密计算

英伟达的 Vera Rubin NVL72 系统现已在 Azure 数据中心运行,并将在预览阶段逐步扩大通过 Azure 虚拟机提供的访问范围。两家公司正将机密计算扩展至裸金属和机架级 AI 系统,并利用英伟达的证明机制,在向环境释放敏感模型、数据或密钥之前检查该环境。此外,英伟达将 GB200 NVL72 系统扩展至 10,240 个 GPU,并在 MLPerf Training v6.1 中以这一规模创下纪录,展示了集成基础设施的性能能力。

Foundry Managed Compute 上的 Nemotron 模型套件

英伟达的 Nemotron 3.5 系列现已在 Foundry Managed Compute 上提供,包含多个专用版本。Nemotron 3.5 Super 专为长时间运行的智能体设计,而 Nemotron 3.5 Lightning 则针对快速响应和工具使用进行了优化。该套件还包括用于检索任务的 Nemotron Embed 和 Rerank、用于文档提取的 Nemotron Parse,以及用于安全过滤的 Nemotron Content Safety。Nemotron 3.5 Bolt 和 Transcribe 语音模型即将推出。微软新增了 Programmed Training,这是一项无服务器后训练服务;Foundry Managed Compute 现已支持自定义模型权重。英伟达报告称,EY 使用 Programmed Training 调整 Nemotron 模型,以对采购记录进行分类,在测试集上实现了 55% 的准确率提升,与专有前沿模型相比,成本降低了 15 倍。

边缘、本地部署和云电脑扩展

Azure Local(微软的 Azure 本地部署版本)将支持硬件合作伙伴提供的 RTX Pro 6000 Blackwell GPU,并扩展至 Jetson Thor 和 Jetson Orin 平台,用于机器人和机器视觉应用。Foundry Local 将扩大对 Nemotron 3.5 的支持,英伟达的 Cosmos 物理 AI 模型也即将登陆该平台。在 PC 方面,微软和英伟达正在展示搭载英伟达 RTX Spark 芯片的 Windows PC 本地语言模型体验;本周,这款芯片已进入华硕、戴尔和微星的迷你台式机。面向 GPU 加速型 Windows 365 云电脑的 Direct Stream 支持最多两个 4K 流,帧率为每秒 60 帧。目前已开放有限预览注册,公开预览计划于 2027 年初推出。Bing 搜索模型正在 RTX Pro 6000 Blackwell GPU 上运行,展示了该硬件在生产环境中的部署情况。

关键信息

  • 英伟达 Vera Rubin NVL72 系统已在 Azure 数据中心运行,目前已在 Azure 上开放预览
  • Nemotron 3.5 Super、Nemotron 3.5 Lightning、Nemotron Embed、Nemotron Rerank、Nemotron Parse 和 Nemotron Content Safety 已在 Foundry Managed Compute 上提供
  • Nemotron 3.5 Bolt 和 Transcribe 语音模型即将登陆 Foundry
  • Azure Local 将支持硬件合作伙伴提供的 RTX Pro 6000 Blackwell GPU,并扩展至 Jetson Thor 和 Jetson Orin 平台
  • 面向 GPU 加速型 Windows 365 云电脑的 Direct Stream 支持最多两个 4K 流,帧率为每秒 60 帧;公开预览计划于 2027 年初推出
  • EY 使用 Programmed Training 调整 Nemotron 模型,以对采购记录进行分类,实现了 55% 的准确率提升,与专有前沿模型相比,成本降低了 15 倍
  • 英伟达将 GB200 NVL72 系统扩展至 10,240 个 GPU,并在 MLPerf Training v6.1 中以这一规模创下纪录
  • Bing 搜索模型在 RTX Pro 6000 Blackwell GPU 上运行
  • 英伟达的 RTX Spark 芯片本周已进入华硕、戴尔和微星的迷你台式机
  • Cosmos 物理 AI 模型即将登陆 Foundry Local

常见问题

Foundry Managed Compute 上目前提供哪些 Nemotron 模型?

英伟达的 Nemotron 3.5 系列现已在 Foundry Managed Compute 上提供,包含多个专用版本。Nemotron 3.5 Super 专为长时间运行的智能体设计,而 Nemotron 3.5 Lightning 则针对快速响应和工具使用进行了优化。该套件还包括用于检索任务的 Nemotron Embed 和 Rerank、用于文档提取的 Nemotron Parse,以及用于安全过滤的 Nemotron Content Safety。Nemotron 3.5 Bolt 和 Transcribe 语音模型即将推出。

Direct Stream 何时会向公众开放 Windows 365 云电脑服务?

面向 GPU 加速型 Windows 365 云电脑的 Direct Stream 支持最多两个 4K 流,帧率为每秒 60 帧。目前已开放有限预览注册,公开预览计划于 2027 年初推出。

Azure Local 将支持哪些 GPU?

Azure Local(微软的 Azure 本地部署版本)将支持硬件合作伙伴提供的 RTX Pro 6000 Blackwell GPU,并扩展至 Jetson Thor 和 Jetson Orin 平台,用于机器人和机器视觉应用。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论