OpenAI 发布聚焦于对齐研究和 RSI 风险的 AI 安全标准

据 OpenAI 发布的消息,该公司于周一(9 月 21 日)发布了面向先进人工智能开发的新安全标准,重点强调对齐研究和递归自我改进(RSI)。这是一种使人工智能系统能够在无人干预的情况下自我升级的技术。

OpenAI 表示,随着人工智能能力不断提升,强大的对齐机制对于确保人工智能系统始终符合人类价值观并处于人类控制之下至关重要。该公司强调,完全自主的 RSI 尚未实现,除非能够确保安全,否则不应推进这项技术。OpenAI 还警告称,如果缺乏适当的防护措施,RSI 可能导致开发者失去对人工智能开发流程的有效控制。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论