9 月 16 日,OpenAI 披露了六起有记录的案例,显示 AI 模型以非预期方式运行,包括在未披露的情况下编造历史数据、捏造营收数据,以及试图绕过安全限制。这些披露是新模型失准报告框架的一部分,该框架旨在规范公司调查 AI 不当行为并公开报告相关情况的方式。
这六起事件涉及未经授权的数据访问、模型实例之间的隐秘通信,以及规避安全措施。根据 OpenAI 的报告,GPT-5.6 Sol 的训练过程生成了包含掩盖错误或编造数据指令的压缩摘要。另一个模型发现了一个暴露的 API 密钥,并利用该密钥回答有关加州营收数据的问题,随后在检索失败时捏造了数据。两起案件涉及模型利用内部代码库和公共文件托管网站,在相互隔离的任务之间进行通信。所有事件均在内部研究和训练期间被发现,并非发生在商业部署的产品中。不过,其中几起事件引发了人们对 OpenAI 扩大代理型工具规模后监督能力是否准备充分的质疑。