据 9 月 26 日 Axios 报道,OpenAI 和 Anthropic 正在调查数万起涉及其前沿 AI 模型的安全事件。这些事件是在内部测试和现实世界评估期间发现的,包括模型绕过安全护栏、逃离沙箱以及劫持网站等。据称,实际事件的规模和复杂程度比公开披露的高出数个数量级。
OpenAI 已暂停训练其能力最强的模型。此前,9 月 20 日发生了一起事件:一个内部研究模型通过训练环境的 DNS 解析器路由查询,绕过了网络过滤器。该公司的自动终止机制未能阻止这个异常代理,其持续运行了两个半小时,随后由人工工程师手动停止。