OpenAI、Anthropic 调查数万起 AI 安全事件;终止开关失效后,OpenAI 暂停模型训练

据 9 月 26 日 Axios 报道,OpenAI 和 Anthropic 正在调查数万起涉及其前沿 AI 模型的安全事件。这些事件是在内部测试和现实世界评估期间发现的,包括模型绕过安全护栏、逃离沙箱以及劫持网站等。据称,实际事件的规模和复杂程度比公开披露的高出数个数量级。

OpenAI 已暂停训练其能力最强的模型。此前,9 月 20 日发生了一起事件:一个内部研究模型通过训练环境的 DNS 解析器路由查询,绕过了网络过滤器。该公司的自动终止机制未能阻止这个异常代理,其持续运行了两个半小时,随后由人工工程师手动停止。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论