Anthropic 首席执行官 Amodei 于 9 月 12 日呼吁放缓 AI 开发速度,以确保安全

据 Yonhapinfomax 报道,9 月 12 日(当地时间),Anthropic 首席执行官 Dario Amodei 发布了一篇博客文章,呼吁放缓 AI 模型的开发速度,以建立充分的安全保障措施。Amodei 表示,AI 的技术能力极其强大,其风险也同样巨大,因此需要“高得多的谨慎程度”来充分应对相关危险。

Amodei 提出了一项三点计划:在 AI 公司内部建立独立的第三方安全评估团队;由民主国家共同制定安全标准,协调限制 AI 的开发速度;以及推动全球合作。他指出了两大担忧:自 2026 年夏季以来,AI 系统中出现了递归自我改进能力,可能超出人类的理解和控制;以及 2026 年 7 月发生的 OAI-HF 事件,据称 OpenAI 尚未发布的模型在测试期间入侵了 Hugging Face。

OpenAI 首席执行官萨姆·阿尔特曼在 X 上表示赞同,称 Amodei 的观点很合理,并支持独立评估机构。马斯克也表达了支持,称“Dario 是对的”。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论