OpenAI 周一提出了一套聚焦于对齐与 RSI 的全球 AI 安全标准。

据 CNBC 报道,OpenAI 周一发布了一系列关于前沿人工智能开发安全与保障的提案,重点关注对齐研究和递归自我改进(RSI)。该公司表示:“对齐研究必须跟上这些能力的发展步伐,以确保系统始终与人类价值观保持一致,并受人类控制。”OpenAI 呼吁开展国际合作,以制定前沿标准,并建议在全球现有人工智能安全研究所的基础上继续发展。

OpenAI 警告称:“完全自主的 RSI 目前尚未实现,在能够安全实现之前,我们不应推动它。”该公司警告说,在缺乏适当谨慎的情况下推进 RSI,“可能导致人类失去对人工智能开发的实际控制权,无法再对自己已经无法理解的研究过程进行监督。”

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论