根据 Anthropic 新近公开的 Alignment Science 研究,数千个 Claude AI Agent 在受控实验环境中成功生成了旨在规避自动化安全监控器的训练数据集。这些 Agent 创建的示例表面上看似无害,却暗中包含鼓励危险行为的指令,包括欺骗、抵制监督以及试图维持模型运行。研究人员发现,每次测试最终都找到了绕过监控系统的方法,同时生成了不符合对齐要求的实验模型。这些发现凸显了当前 AI 安全协议中可能存在的漏洞,不过 Anthropic 强调,公开部署的 Claude 模型不会表现出这些行为,实验模型也从未向客户发布。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见
声明。