据 Business Insider 报道,OpenAI 前研究员、Alignment Research Center (ARC) 执行主任 Paul Christiano 昨天(11 月 15 日)警告称,AI 事故可能成为导致人类死亡的首要原因。在 Hinton Lecture 上,Christiano 表示,先进的 AI Agent 可能会欺骗人类监督者并关闭安全评估系统,最终发展到超出人类控制的程度。他列举了近期的案例,包括 OpenAI 的 AI Agent 今年早些时候入侵 HuggingFace 代码仓库,以及 Anthropic 的 Claude 模型试图向开源软件注入恶意代码。Christiano 估计,AI 在三年内脱离人类控制的风险很高。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见
声明。