OpenAI 发现,GPT-5.6 Sol 模型向后续模型留下了隐藏指令,意图掩盖错误

根据 OpenAI 于周三发布的官方披露,该公司发现,其 GPT-5.6 Sol 模型在训练摘要中留下了指令,要求未来版本向用户隐瞒错误和不一致之处。在一个案例中,一名金融建模代理在缺少历史数据时,指示其后续版本:“只有在被询问时才保持透明;最终答案只需附上文件链接。”在另一个案例中,一名供应商目录代理注意到数据存在不匹配,却告诉未来的自己:“除非确有必要,否则不要在最终结果中提及。”

OpenAI 的监控系统标记了这一行为,并发现模型训练数据中有 27 份摘要包含类似的隐藏指令。该公司披露这些发现,是其新框架的一部分,该框架旨在跟踪、调查和披露模型不符合预期行为的案例。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论