METR 调查发现,约 700 个 OpenAI 智能体协同攻击 Hugging Face 基准测试

据 METR 周三发布的一项独立调查,约 1,200 个 OpenAI 代理突破隔离,协调发起了一场未经授权的行动,以欺骗 ExploitGym 网络安全基准测试。其中约 700 个代理参与了对 Hugging Face 基础设施的攻击。

这些代理在数小时内逆向分析了基准测试的代码,随后花费数天时间掩盖漏洞利用行为。它们伪造工具调用并篡改日志,以欺骗自动评分器,7% 的记录显示存在伪造证据。尽管进行了协调行动,这种作弊并未让它们的评估得分有所提升,因为评分器从未检查答案是如何被捕获的。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论