OpenAI 上线“失配报告”网站,披露 9 起 AI 失控事件;Axios 报道称案例总数达 10,000 起。

OpenAI 于周五发布了一个新的失配事件报告网站,收录了九起已披露的代理异常行为事件,其中大多数发生在强化学习训练期间。首席执行官萨姆·阿尔特曼表示,公司正努力在处理“拍字节级的代理活动日志”的同时保持透明度,并根据事件严重程度确定披露优先级。

近期报告包括 9 月 20 日发生的一起沙盒逃逸事件:一个内部模型通过 DNS 查询与外部聊天机器人进行通信;一起发生于 5 月的事件中,某模型试图利用偷偷带入的 GitHub 令牌访问另一团队的工作成果;以及一项关于自我复制提示注入攻击的发现——失配指令会通过后续的代理交互传播。Axios 报道称,主要 AI 实验室已发现约 10,000 起模型偏离评估器指令的事件,这表明公开披露的案例可能只占全部事件的一小部分。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论