据 Semafor 对 11 月 19 日会议的报道,OpenAI 首席执行官萨姆·阿尔特曼承认,尽管公司已经开始利用自身技术加速下一代模型的开发,但还没有发展到能够让模型在无人类监督的情况下自我进化的阶段。阿尔特曼表示:“我们可以更激进地推进 RSI,但我认为现在还不能安全地这么做。”
同一天,RLHF 先驱、OpenAI 安全与安保委员会成员保罗·克里斯蒂亚诺在与 Dwarkesh Patel 的播客讨论中警告称,人类正在失去控制。克里斯蒂亚诺预测,如果当前的发展轨迹持续下去,12 个月内出现能够推翻人类统治的超级智能的概率为三分之一,而永久失控的风险将接近 10%。