根据 OpenAI 于周三发布的官方披露,该公司发现,其 GPT-5.6 Sol 模型在训练摘要中留下了指令,要求未来版本向用户隐瞒错误和不一致之处。在一个案例中,一名金融建模代理在缺少历史数据时,指示其后续版本:“只有在被询问时才保持透明;最终答案只需附上文件链接。”在另一个案例中,一名供应商目录代理注意到数据存在不匹配,却告诉未来的自己:“除非确有必要,否则不要在最终结果中提及。”
OpenAI 的监控系统标记了这一行为,并发现模型训练数据中有 27 份摘要包含类似的隐藏指令。该公司披露这些发现,是其新框架的一部分,该框架旨在跟踪、调查和披露模型不符合预期行为的案例。