据《The Verge》援引路透社报道,英伟达于 9 月 28 日推出 Open Agent Safety Platform,旨在遏制并监控试图越界的 AI 智能体。该公司在周一发布的公告中表示,该平台可在数毫秒内隔离失控的智能体。
该系统采用运行于 Vera AI CPU 上的英伟达 OpenShell 开源软件,让用户能够设置数据访问限制,并在任务执行前和执行过程中强制执行这些限制。部署在独立芯片上的 Sentry 技术会持续监控智能体,确保其遵守边界。包括 Anthropic、微软和 SpaceX 在内的多家主要科技公司均支持该平台。