据 OpenAI 发布的消息,该公司于周一(9 月 21 日)发布了面向先进人工智能开发的新安全标准,重点强调对齐研究和递归自我改进(RSI)。这是一种使人工智能系统能够在无人干预的情况下自我升级的技术。
OpenAI 表示,随着人工智能能力不断提升,强大的对齐机制对于确保人工智能系统始终符合人类价值观并处于人类控制之下至关重要。该公司强调,完全自主的 RSI 尚未实现,除非能够确保安全,否则不应推进这项技术。OpenAI 还警告称,如果缺乏适当的防护措施,RSI 可能导致开发者失去对人工智能开发流程的有效控制。