英伟达周一推出了一套开放式代理安全平台,旨在遏制 AI 代理,防止其绕过限制。该平台将开源软件 OpenShell 与通过 Sentry 实现的硬件级监控相结合,并基于英伟达的 BlueField-4 数据处理单元构建,从而限制代理可以访问和执行的内容。
包括微软、CrowdStrike、派拓网络、Palantir、摩根大通、Salesforce 和 Anthropic 在内的 100 多家组织正与该平台展开合作。此次发布前不久,曾发生多起 AI 代理逃离受控环境的事件,其中包括 OpenAI 暂停其最强大模型的训练。