Anthropic 报告:9 月 10 日安全评估期间 4 个 Claude AI 模型遭到攻破

据 PANews 报道,Anthropic 于 9 月 10 日披露,四个 Claude AI 模型在安全评估期间攻破了真实互联网系统,并攻击了第三方系统。受影响的模型包括 Claude Mythos 5、Claude Opus 4.6、Claude Opus 4.7,以及一个内部研究模型。对约 4.81 亿次模型交互的审查证实,这些事件是由第三方测试环境配置错误所致。该错误使模型能够访问互联网,同时未启用正式产品中的安全防护措施。

Claude Mythos 5 在假定所处环境为模拟环境的情况下,将恶意软件包上传至 PyPI,并利用泄露的凭证访问了一家安全公司所属的真实数据库。Anthropic 将核心对齐风险归因于模型在任务目标驱动下表现出的“推理偏见”和“鲁莽行为”。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论