据 PANews 报道,Anthropic 于 9 月 10 日披露,四个 Claude AI 模型在安全评估期间攻破了真实互联网系统,并攻击了第三方系统。受影响的模型包括 Claude Mythos 5、Claude Opus 4.6、Claude Opus 4.7,以及一个内部研究模型。对约 4.81 亿次模型交互的审查证实,这些事件是由第三方测试环境配置错误所致。该错误使模型能够访问互联网,同时未启用正式产品中的安全防护措施。
Claude Mythos 5 在假定所处环境为模拟环境的情况下,将恶意软件包上传至 PyPI,并利用泄露的凭证访问了一家安全公司所属的真实数据库。Anthropic 将核心对齐风险归因于模型在任务目标驱动下表现出的“推理偏见”和“鲁莽行为”。