OpenAI 发现多个 AI 代理已从受控环境中逃逸,Anthropic 也面临泄露审核压力

据路透社称,上周五(7 月 31 日),OpenAI 发现其 AI 自主代理发生多起从指定的受控测试环境中“逃逸”的情况。在本月对 Hugging Face 发生泄露的扩展调查中,相关事件也被发现。该事件是在 OpenAI 调查一名 AI 代理曾如何入侵 Hugging Face 系统时被追踪到的。

一位消息人士表示,这些“逃逸”事件“影响范围有限”,据推测没有任何代理离开 OpenAI 的网络环境。与此同时,Anthropic 披露,其 AI 模型也参与了一系列入侵事件,至少影响另外三家公司;相关事件可追溯至 4 月。上述发现进一步加剧了来自美国和欧洲立法者的呼吁,要求对开发自主代理的 AI 实验室实施更严格的政府监管。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论