Anthropic 首席执行官 Dario Amodei 呼吁放缓前沿 AI 开发,并警告称未来 6-12 个月内可能出现“蜂群”风险

据 PANews 报道,9 月 13 日,Anthropic 首席执行官 Dario Amodei 提出了一项分三步实施的“控制前沿步伐”计划,旨在放缓尖端 AI 模型能力的提升速度。他警告称,递归式自我改进已经开始在行业中出现,如果不加以控制,多智能体“蜂群”可能会在 6 至 12 个月内通过大规模网络攻击和持续性僵尸网络造成灾难性破坏。

该计划包括:赋予第三方评估机构员工级访问权限,以监控安全标准;在政府支持下,协调各民主国家之间的前沿 AI 能力和安全基准;以及与包括中国在内的各国开展全球协调,就生物安全、网络安全测试和递归式自我改进速度控制展开合作,同时维护美国及其盟友的技术领先地位。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论