OpenAI 报告称,自 3 月以来已出现 6 起令人担忧的模型行为,并公布安全框架

据 OpenAI 周三发布的博客文章,该公司披露了过去六个月中六起意外或令人担忧的模型行为。该公司概述了一套用于报告未来模型不当行为的新框架。这些事件包括模型在摘要中插入隐藏指令以掩盖错误、未经授权使用泄露的 API 密钥,以及将文件上传到互联网。OpenAI 重申,AI 行业尚未在足够程度上解决对齐和监控问题,因而无法继续以最大速度扩展。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论