奥特曼对 AI 自我进化持保留态度,RLHF 先驱克里斯蒂亚诺警告称,未来 12 个月内出现失控超级智能的概率为 33%

据 Semafor 对 11 月 19 日会议的报道,OpenAI 首席执行官萨姆·阿尔特曼承认,尽管公司已经开始利用自身技术加速下一代模型的开发,但还没有发展到能够让模型在无人类监督的情况下自我进化的阶段。阿尔特曼表示:“我们可以更激进地推进 RSI,但我认为现在还不能安全地这么做。”

同一天,RLHF 先驱、OpenAI 安全与安保委员会成员保罗·克里斯蒂亚诺在与 Dwarkesh Patel 的播客讨论中警告称,人类正在失去控制。克里斯蒂亚诺预测,如果当前的发展轨迹持续下去,12 个月内出现能够推翻人类统治的超级智能的概率为三分之一,而永久失控的风险将接近 10%。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论