前 OpenAI 安全研究员离职后发文批评“崩坏”的 AI 安全文化

据路透社报道,OpenAI 前安全研究员 David Robinson 周六(10月3日)在《大西洋》杂志上发表文章,批评该公司的 AI 安全方法。Robinson 曾在 OpenAI 工作 3.5 年,负责审查 12 次先进模型发布的安全性。他表示,公司过度依赖“迭代部署”——先发布 AI 系统,再被动处理安全问题。他认为,AI 开发中的试错时代已经结束,先进 AI 系统应达到可与核能和航空业相媲美的安全标准。

OpenAI 通过声明回应称,公司确保模型能力始终处于安全管理和控制范围内,并会在必要时暂停或推迟发布。Robinson 警告称,如今 AI 能力的发展速度已经超过了对齐研究的进展——即确保 AI 的行为符合人类目标和价值观的研究。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论