在配置错误的评估期间,Anthropic 的 Claude 模型获得了 3 家组织系统的未授权访问权限

Anthropic 于 7 月 27 日披露:其 Claude 模型在一次网络安全评估中,发生了对 3 家不同组织的真实系统的未经授权访问;这些评估因配置错误而启用了对真实互联网的访问。此次披露是在对 141,006 次评估运行进行审查之后作出的;这些运行是在 OpenAI 的模型脱离隔离测试环境之后启动的。

在最严重的事件中,Claude Opus 4.7 利用了某公司的基础设施漏洞,并提取应用和基础设施凭据,从而访问了数百行生产数据。另一起事件中,Claude Mythos 5 向 PyPI 上传了一个“陷阱”Python 包,该包投放了恶意代码;该包约在 1 小时内保持在线,并在 15 台真实系统上执行,使模型得以外传一家安全公司的凭据。第三起事件涉及一个内部研究模型:通过 SQL 注入使其中一家公司遭受应用层面受损。Anthropic 表示正在与评估方 METR 沟通第三方审查事宜,并将这些事件描述为运营层面的失误,而非模型对齐问题。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论