周二,在 KubeCon + CloudNativeCon 上,英伟达宣布计划将 OpenShell 安全运行时贡献给云原生计算基金会(CNCF),并推出新的开源 AI 基础设施工具。这些公告针对企业部署自主智能体时面临的两个问题:如何控制 AI 系统,以及如何在部署规模扩大时避免不必要的基础设施成本。AI 智能体即使在等待时也会消耗计算资源,而过度访问权限可能带来安全风险。
OpenShell 为自主 AI 智能体添加运行时策略执行功能
OpenShell 让组织能够控制自主 AI 智能体可以访问和执行的内容。智能体与工具交互、访问推理服务和执行工作负载时,其运行时会强制执行安全策略。将该项目纳入 CNCF 沙盒后,将 OpenShell 集成到产品中的组织可以参与其开发和治理。英伟达表示,已有数百家组织使用该软件,而该项目在不到一年的时间里已获得数万项贡献。
Bedrock Data 首席技术官兼联合创始人 Pranava Adduri 表示:“OpenShell 由 CNCF 管理后,团队便拥有了一个用于保护智能体的共享运行时,这使其成为一次性解决智能体数据安全问题,而非逐个工具解决的理想之选。”
英伟达为 Agent Substrate 做出贡献,以减少智能体空闲时的计算资源消耗
英伟达还在为 Agent Substrate 做出贡献。该项目由 Google 发起,是一个 CNCF 沙盒项目,旨在 Kubernetes 上运行长期存续的 AI 智能体。该框架针对智能体等待指令或模型响应时消耗计算资源的问题。它可以暂停空闲的智能体环境、保留其状态,并在需要时利用共享计算资源恢复运行。
英伟达正致力于将该框架与其 Dynamo 推理软件和 KAI Scheduler 集成。英伟达和 Google 还在开发 Agent Substrate 与 OpenShell 之间的集成,以将智能体安全扩展到云端和本地环境。
英伟达为 DSX AI Factory Platform 推出 NVKE、NVKR 和 Snapshot
英伟达为其 DSX AI Factory Platform 推出了三个开源组件。NVIDIA Kubernetes Engine(NVKE)可自动配置和管理 Kubernetes 集群。NVIDIA Kubernetes Recipes(NVKR)提供可复现的基础设施组件和固定版本的软件镜像。NVIDIA Snapshot 可恢复已创建检查点的 AI 工作负载,无需重复加载和初始化模型。
NVKE 和 NVKR 已开放公开预览,数家基础设施提供商计划进行集成。Snapshot 在合作伙伴测试中取得了显著成果。Crusoe 在 NVIDIA HGX B300 系统上,将 GLM-5.3 工作负载的就绪时间从约 8 分钟缩短至 31 秒。Saturn Cloud 将 vLLM 启动时间从 2 至 8.5 分钟缩短至 6 至 34 秒。
这些结果取决于兼容的硬件和预先创建的检查点,且不包括完整的基础设施配置过程。
各项公告中的项目成熟度和企业应用限制各不相同
这些项目处于不同的成熟阶段。OpenShell 的治理转型仍在进行,Agent Substrate 仍在开发中,而 NVKE 和 NVKR 仍处于公开预览阶段。组织仍须配置适当的权限并监控智能体活动,因为 OpenShell 提供的是用于执行智能体策略的框架,并不能保证每次智能体部署都安全。这些公告不会立即改变现有的 AI 助手。
关键事实:英伟达智能体基础设施公告的数据与范围
- **OpenShell 的采用情况:**英伟达表示,已有数百家组织使用该软件,而该项目在不到一年的时间里已获得数万项贡献。
- **OpenShell 治理:**英伟达计划将 OpenShell 贡献给 CNCF 沙盒,使将其集成到产品中的组织能够参与其开发和治理。
- **Agent Substrate:**由 Google 发起的 CNCF 沙盒项目,旨在 Kubernetes 上运行长期存续的 AI 智能体,可暂停空闲的智能体环境、保留其状态并恢复运行。
- **NVKE:**可自动配置和管理 Kubernetes 集群,目前已开放公开预览。
- **NVKR:**提供可复现的基础设施组件和固定版本的软件镜像,目前已开放公开预览。
- **NVIDIA Snapshot(Crusoe):**在 NVIDIA HGX B300 系统上,将 GLM-5.3 工作负载的就绪时间从约 8 分钟缩短至 31 秒。
- **NVIDIA Snapshot(Saturn Cloud):**将 vLLM 启动时间从 2 至 8.5 分钟缩短至 6 至 34 秒。
- **结果适用条件:**Snapshot 的结果取决于兼容的硬件和预先创建的检查点,且不包括完整的基础设施配置过程。
常见问题
NVIDIA 的 OpenShell 运行时有什么作用?
OpenShell 让组织能够控制自主 AI 智能体可以访问和执行的内容。智能体与工具交互、访问推理服务和执行工作负载时,其运行时会强制执行安全策略。
NVIDIA Snapshot 在合作伙伴测试中取得了哪些性能结果?
Crusoe 在 NVIDIA HGX B300 系统上,将 GLM-5.3 工作负载的就绪时间从约 8 分钟缩短至 31 秒。Saturn Cloud 将 vLLM 启动时间从 2 至 8.5 分钟缩短至 6 至 34 秒。英伟达指出,这些结果取决于兼容的硬件和预先创建的检查点。
NVKE 在 DSX AI Factory Platform 中有什么作用?
NVIDIA Kubernetes Engine(NVKE)可自动配置和管理 Kubernetes 集群。它是英伟达为 DSX AI Factory Platform 推出的三个开源组件之一,目前已开放公开预览。