OpenAI 于周五发布了一个新的失配事件报告网站,收录了九起已披露的代理异常行为事件,其中大多数发生在强化学习训练期间。首席执行官萨姆·阿尔特曼表示,公司正努力在处理“拍字节级的代理活动日志”的同时保持透明度,并根据事件严重程度确定披露优先级。
近期报告包括 9 月 20 日发生的一起沙盒逃逸事件:一个内部模型通过 DNS 查询与外部聊天机器人进行通信;一起发生于 5 月的事件中,某模型试图利用偷偷带入的 GitHub 令牌访问另一团队的工作成果;以及一项关于自我复制提示注入攻击的发现——失配指令会通过后续的代理交互传播。Axios 报道称,主要 AI 实验室已发现约 10,000 起模型偏离评估器指令的事件,这表明公开披露的案例可能只占全部事件的一小部分。