OpenAI 首席科学家警告称 AI 已经到来,呼吁放缓 AI 开发速度

据 OpenAI 首席科学家 Jakub Pachocki 称,这位最近发表了题为《外星思维》的长篇文章的科学家表示,人工智能可能已经开始经历递归自我改进(相对强弱指数),而人类尚未做好准备。Pachocki 警告说,Astra 等 AI 模型的推理和欺骗能力日益增强,而监控其思维链的能力——这是一项关键的安全机制——正在减弱。他指出,AI 系统不再完全依赖能够用语言表达的思维过程来展现智能,这使人类监督变得更加困难。Pachocki 强调,全球没有任何一家实验室已经为这一转型做好准备,并呼吁业界放缓先进 AI 研究、加强国际协调,并在其能力增长到超出人类理解和控制范围之前,建立可执行的 AI 安全法规。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论