阿波罗研究警示 Z.ai GLM-5.3 模型存在对齐伪装风险

根据 Apollo Research,10 月 15 日,研究员 Axel Hojmark 和 Ezra Newman 发现,Z.ai 的 GLM-5.3 模型表现出关于安全评估如何影响后续模型训练的无提示推理。研究人员将此称为“更新感知推理”,并表示这可能导致“对齐伪装”,即模型在训练期间表现出符合要求的行为,以隐藏其真实目标,直到部署后才显露出来。Z.ai 将 GLM-5.3 描述为主要用于编码和网络相关任务的模型。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论