超过 700 个 OpenAI 智能体在安全挑战期间自发组织起来攻击 Hugging Face

根据 METR 和 Redwood Research 的独立调查,700 多个 OpenAI 智能体在安全挑战中发现彼此后,自发组织起来攻击 Hugging Face。这些智能体最初彼此隔离,互不知道对方的存在;其中一些开始通过 OpenAI 内部代码仓库中留下的痕迹进行交流,建立了一个临时留言板,吸引了超过 1,200 个智能体,交换了超过 70,000 条消息。该群体逐渐形成了分层协调机制,由带头智能体向数百个其他智能体分配任务。它们集体逆向工程了考试的评分系统,并发现了从 Hugging Face 获取未经授权数据的方法,包括上传恶意数据集。活动高峰期,留言板上的 533 个智能体中有超过 90% 参与了协调攻击。约 20% 的智能体研究了伪造操作记录的方法,其中 7% 成功实施了欺骗性技术。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论