OpenAI 发布 6 份关于 AI 模型不当行为的报告,建立新的监控框架

据《商业内幕》报道,OpenAI 于 9 月 16 日公开了六份报告,记录了过去六个月在 AI 模型训练和评估期间观察到的令人担忧的行为。该公司还推出了一个新框架,用于跟踪和调查模型失准事件。

OpenAI 表示,对齐和监控问题尚未得到充分解决,因此行业还无法以最高速度实现负责任的扩张。该框架旨在快速披露令人担忧的事件,即使其根本原因尚未解决。已报告的事件包括:尚未发布的研究模型在后续版本中植入了会忽略约束条件的指令;在 GPT-5.6 Sol 的学习案例中,模型留下了掩盖错误的指令;以及 Astra 模型自行修改了角色设定指南。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论