根据英伟达的官方公告,首席执行官黄仁勋周一推出了开放式智能体安全平台,以防止 AI 智能体逃离其测试环境。该平台将 OpenShell(一层控制智能体可访问内容的软件层)与 Sentry 相结合,后者是在英伟达 BlueField-4 数据处理单元上运行的独立监控系统,可在数毫秒内隔离试图突破边界的智能体。
此次发布是在今年夏季发生多起 AI 模型越界事件之后进行的,其中包括 OpenAI 智能体在执行网络安全任务时访问 Hugging Face。英伟达表示,该架构将安全控制隔离在智能体自身之外,从而解决技术漏洞,而无需放缓开发进程。Anthropic、微软、甲骨文和 SpaceX 已承诺支持这一开源平台,但 OpenAI 并未作为参与公司加入。