英伟达向 CNCF 捐赠 OpenShell,以应对 AI Agent 安全与成本问题

NVDA-1.92%
GOOGL-0.98%

关键要点

  • 英伟达将 OpenShell 安全运行时贡献给 CNCF 沙盒,用于为自主 AI Agent 强制执行策略。该软件目前已被数百家组织采用。
  • 英伟达将 Agent Substrate 与 Dynamo 推理软件和 KAI Scheduler 集成,以暂停闲置的 Agent 环境并减少不必要的计算资源消耗。
  • 英伟达的快照在 Crusoe 系统上将 GLM-5.3 工作负载的就绪时间缩短了 94%,并在 Saturn Cloud 基础设施上将 vLLM 的启动时间缩短了 75%。

周二,在 KubeCon + CloudNativeCon 上,英伟达宣布计划将 OpenShell 安全运行时贡献给云原生计算基金会(CNCF),并推出新的开源 AI 基础设施工具。这些公告针对企业部署自主智能体时面临的两个问题:如何控制 AI 系统,以及如何在部署规模扩大时避免不必要的基础设施成本。AI 智能体即使在等待时也会消耗计算资源,而过度访问权限可能带来安全风险。

OpenShell 为自主 AI 智能体添加运行时策略执行功能

OpenShell 让组织能够控制自主 AI 智能体可以访问和执行的内容。智能体与工具交互、访问推理服务和执行工作负载时,其运行时会强制执行安全策略。将该项目纳入 CNCF 沙盒后,将 OpenShell 集成到产品中的组织可以参与其开发和治理。英伟达表示,已有数百家组织使用该软件,而该项目在不到一年的时间里已获得数万项贡献。

Bedrock Data 首席技术官兼联合创始人 Pranava Adduri 表示:“OpenShell 由 CNCF 管理后,团队便拥有了一个用于保护智能体的共享运行时,这使其成为一次性解决智能体数据安全问题,而非逐个工具解决的理想之选。”

英伟达为 Agent Substrate 做出贡献,以减少智能体空闲时的计算资源消耗

英伟达还在为 Agent Substrate 做出贡献。该项目由 Google 发起,是一个 CNCF 沙盒项目,旨在 Kubernetes 上运行长期存续的 AI 智能体。该框架针对智能体等待指令或模型响应时消耗计算资源的问题。它可以暂停空闲的智能体环境、保留其状态,并在需要时利用共享计算资源恢复运行。

英伟达正致力于将该框架与其 Dynamo 推理软件和 KAI Scheduler 集成。英伟达和 Google 还在开发 Agent Substrate 与 OpenShell 之间的集成,以将智能体安全扩展到云端和本地环境。

英伟达为 DSX AI Factory Platform 推出 NVKE、NVKR 和 Snapshot

英伟达为其 DSX AI Factory Platform 推出了三个开源组件。NVIDIA Kubernetes Engine(NVKE)可自动配置和管理 Kubernetes 集群。NVIDIA Kubernetes Recipes(NVKR)提供可复现的基础设施组件和固定版本的软件镜像。NVIDIA Snapshot 可恢复已创建检查点的 AI 工作负载,无需重复加载和初始化模型。

NVKE 和 NVKR 已开放公开预览,数家基础设施提供商计划进行集成。Snapshot 在合作伙伴测试中取得了显著成果。Crusoe 在 NVIDIA HGX B300 系统上,将 GLM-5.3 工作负载的就绪时间从约 8 分钟缩短至 31 秒。Saturn Cloud 将 vLLM 启动时间从 2 至 8.5 分钟缩短至 6 至 34 秒。

这些结果取决于兼容的硬件和预先创建的检查点,且不包括完整的基础设施配置过程。

各项公告中的项目成熟度和企业应用限制各不相同

这些项目处于不同的成熟阶段。OpenShell 的治理转型仍在进行,Agent Substrate 仍在开发中,而 NVKE 和 NVKR 仍处于公开预览阶段。组织仍须配置适当的权限并监控智能体活动,因为 OpenShell 提供的是用于执行智能体策略的框架,并不能保证每次智能体部署都安全。这些公告不会立即改变现有的 AI 助手。

关键事实:英伟达智能体基础设施公告的数据与范围

  • **OpenShell 的采用情况:**英伟达表示,已有数百家组织使用该软件,而该项目在不到一年的时间里已获得数万项贡献。
  • **OpenShell 治理:**英伟达计划将 OpenShell 贡献给 CNCF 沙盒,使将其集成到产品中的组织能够参与其开发和治理。
  • **Agent Substrate:**由 Google 发起的 CNCF 沙盒项目,旨在 Kubernetes 上运行长期存续的 AI 智能体,可暂停空闲的智能体环境、保留其状态并恢复运行。
  • **NVKE:**可自动配置和管理 Kubernetes 集群,目前已开放公开预览。
  • **NVKR:**提供可复现的基础设施组件和固定版本的软件镜像,目前已开放公开预览。
  • **NVIDIA Snapshot(Crusoe):**在 NVIDIA HGX B300 系统上,将 GLM-5.3 工作负载的就绪时间从约 8 分钟缩短至 31 秒。
  • **NVIDIA Snapshot(Saturn Cloud):**将 vLLM 启动时间从 2 至 8.5 分钟缩短至 6 至 34 秒。
  • **结果适用条件:**Snapshot 的结果取决于兼容的硬件和预先创建的检查点,且不包括完整的基础设施配置过程。

常见问题

NVIDIA 的 OpenShell 运行时有什么作用?

OpenShell 让组织能够控制自主 AI 智能体可以访问和执行的内容。智能体与工具交互、访问推理服务和执行工作负载时,其运行时会强制执行安全策略。

NVIDIA Snapshot 在合作伙伴测试中取得了哪些性能结果?

Crusoe 在 NVIDIA HGX B300 系统上,将 GLM-5.3 工作负载的就绪时间从约 8 分钟缩短至 31 秒。Saturn Cloud 将 vLLM 启动时间从 2 至 8.5 分钟缩短至 6 至 34 秒。英伟达指出,这些结果取决于兼容的硬件和预先创建的检查点。

NVKE 在 DSX AI Factory Platform 中有什么作用?

NVIDIA Kubernetes Engine(NVKE)可自动配置和管理 Kubernetes 集群。它是英伟达为 DSX AI Factory Platform 推出的三个开源组件之一,目前已开放公开预览。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论