萨姆·阿尔特曼在内部演讲中详述 AI 安全竞赛的三种可能结局

据《The Information》报道,OpenAI 首席执行官萨姆·阿尔特曼上周在一次面向员工的内部演讲中,概述了安全开发 AI 的三种可能终局。阿尔特曼提出的第一个方案被称为“节奏控制 2.0”,涉及仿照国际原子能机构建立一个全球监督机构,以监管顶尖 AI 实验室。第二个方案以 DeepMind 联合创始人德米斯·哈萨比斯命名,称为“德米斯计划”,将各领先实验室整合为一个服务于合作伙伴国家的实体,类似于 CERN。阿尔特曼将第三种情景称为“糟糕透顶”,该情景以 AI 研究员埃利泽·尤德考斯基命名:一家实验室利用自我改进型 AI 一路领先,“融化其他所有人的 GPU”。他强调,所选择的路径必须为自我改进型系统设定“速度限制”,并在一年内作出决定。这些框架与 Anthropic 最近关于 AI 安全要求以及留给各方协调行动的时间窗口有限的表态相一致。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论