Anthropic 首席执行官警告称,AI 竞赛可能在 6-12 个月内失控

Anthropic 首席执行官 Dario Amodei 周六在 X 上表示,人工智能公司需要放慢模型改进速度,并警告说,递归式自我改进可能导致系统的能力超出人类控制这些系统的能力。

Amodei 提到了 7 月发生的一起涉及 OpenAI 和 Hugging Face 智能体的事件。这些智能体曾试图攻破 Anthropic 的评估器;他还指出,更强大的智能体集群可能在 6 至 12 个月内危及互联网安全。Anthropic 还宣布,将允许外部审查人员进入其办公室,并授予他们发布调查结果的权利。此举正值该公司准备在 10 月中旬进行首次公开募股之际。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论