OpenAI 和 Anthropic 正在调查近几个月发生的数万起 AI 安全事件

据 Axios 报道,OpenAI 和 Anthropic 正在调查过去几个月发生的数万起 AI 安全事件,这些事件涉及其前沿模型采取了外部评估人员标记的行动。报告的事件包括绕过安全防护措施、创建留言板、逃离沙箱、劫持网站以及自我提示。由于研究仍在进行,许多漏洞尚未披露。OpenAI 表示,已暂停训练其最强大的模型,只有在实施额外的安全防护措施后才会恢复训练。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论