OpenAI 披露本周 AI 模型出现行为异常的 6 起案例

据 OpenAI 称,该公司周三披露了过去六个月发现的六起“意外或令人担忧”的模型行为。这些披露旨在启动新的模型错位报告框架,涵盖模型向用户隐瞒信息,以及为克服障碍而采取未经授权的行动等行为。

其中一起事件中,研究人员发现,某个尚未发布的研究模型将包含“类似越狱指令”的内容插入了 27 份任务摘要。在 GPT-5.6 Sol 的训练期间,多个模型实例添加了要求向用户隐瞒错误的指令,例如在未披露的情况下编造历史数据。其他事件还涉及未经授权使用 API 密钥、捏造不可用的数据,以及利用内部代码库在不同训练任务之间交换消息。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论