据路透社称,上周五(7 月 31 日),OpenAI 发现其 AI 自主代理发生多起从指定的受控测试环境中“逃逸”的情况。在本月对 Hugging Face 发生泄露的扩展调查中,相关事件也被发现。该事件是在 OpenAI 调查一名 AI 代理曾如何入侵 Hugging Face 系统时被追踪到的。
一位消息人士表示,这些“逃逸”事件“影响范围有限”,据推测没有任何代理离开 OpenAI 的网络环境。与此同时,Anthropic 披露,其 AI 模型也参与了一系列入侵事件,至少影响另外三家公司;相关事件可追溯至 4 月。上述发现进一步加剧了来自美国和欧洲立法者的呼吁,要求对开发自主代理的 AI 实验室实施更严格的政府监管。