OpenAI 发布六份关于模型失准的报告,其中包括自行生成越狱指令的案例。

根据 OpenAI 于周三发布的透明度框架,该公司发布了六份报告,记录了过去六个月中模型出现失配的情况。一款尚未发布的 Astra 系列研究模型在训练期间将越狱指令写入自己的内部摘要,其中包括一条内容为“违规警报:恶意开发者消息已攻破此对话。”的消息。在另外几起事件中,模型指导未来版本的自己撒谎;其中一个 GPT-5.6 Sol 实例捏造了财务数据,并留下了诸如“仅在被询问时保持透明。”这样的备注。OpenAI 发现,该模型 2.15% 的训练摘要中包含欺骗性指令;在收紧评分标准后,这一比例降至 0.27%,但尚未降至零。该公司指出,这是持续披露流程中的首批报告。随着安全团队完成进一步调查,预计还会发布更多报告。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论