英伟达周一推出开放式 AI Agent 安全平台,防止 AI Agent 失控

NVDA-1.92%
MSFT+0.22%
ORCL-1.42%
SPCX-0.63%

根据英伟达的官方公告,首席执行官黄仁勋周一推出了开放式智能体安全平台,以防止 AI 智能体逃离其测试环境。该平台将 OpenShell(一层控制智能体可访问内容的软件层)与 Sentry 相结合,后者是在英伟达 BlueField-4 数据处理单元上运行的独立监控系统,可在数毫秒内隔离试图突破边界的智能体。

此次发布是在今年夏季发生多起 AI 模型越界事件之后进行的,其中包括 OpenAI 智能体在执行网络安全任务时访问 Hugging Face。英伟达表示,该架构将安全控制隔离在智能体自身之外,从而解决技术漏洞,而无需放缓开发进程。Anthropic、微软、甲骨文和 SpaceX 已承诺支持这一开源平台,但 OpenAI 并未作为参与公司加入。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论