据 TechCrunch 报道,英伟达于周一(9 月 28 日)宣布推出 Open Agent Safety Platform。该平台获得了 100 多家公司的支持,旨在应对失控的 AI 代理。然而,尽管 Anthropic 已加入这一联盟,OpenAI 却明显缺席。OpenAI 发言人向 TechCrunch 表示,该公司支持英伟达的这项努力。
OpenAI 正与英伟达合作开发该平台,包括贡献 OpenShell——这是一款用于创建沙盒的开源软件,旨在防止代理逃逸。该平台还包括英伟达 Sentry,这是一套运行在 BlueField-4 数据处理单元上的专有硬件监控系统,能够持续监控代理行为,并可立即将其关闭。