据 PANews 报道,9 月 13 日,Anthropic 首席执行官 Dario Amodei 提出了一项分三步实施的“控制前沿步伐”计划,旨在放缓尖端 AI 模型能力的提升速度。他警告称,递归式自我改进已经开始在行业中出现,如果不加以控制,多智能体“蜂群”可能会在 6 至 12 个月内通过大规模网络攻击和持续性僵尸网络造成灾难性破坏。
该计划包括:赋予第三方评估机构员工级访问权限,以监控安全标准;在政府支持下,协调各民主国家之间的前沿 AI 能力和安全基准;以及与包括中国在内的各国开展全球协调,就生物安全、网络安全测试和递归式自我改进速度控制展开合作,同时维护美国及其盟友的技术领先地位。