Anthropic 首席执行官 Dario Amodei 发布了一篇题为《关于 AI 指数级增长的政策》的文章,直接回应日益加剧的反 AI 反弹。Amodei 认为,AI 行业面临的是信任危机,而非沟通危机,并指出,公众对 AI 的焦虑源于合理且有充分记录的风险。该文章确定了四类值得严肃关注的具体风险:网络安全威胁、生物武器开发、人类失去对 AI 系统的控制,以及完全自动化的研究与开发。
Amodei 确定四类 AI 风险
Amodei 在文章中明确指出了他认为值得严肃关注的四个风险领域。这些类别包括网络安全威胁、生物武器开发、人类失去对 AI 系统的控制,以及研究与开发完全自动化的可能性。Amodei 认为,公众对 AI 的担忧植根于这些合理的风险,而不是负面媒体报道或行业领导者的悲观表述。他提议对使用大量算力资源训练的模型进行强制性第三方评估,测试范围涵盖上述四类风险,从而在 AI 实验室与公众之间建立独立的验证层。
Anthropic 承诺投入 2 亿美元开展 AI 影响研究
Anthropic 已承诺投入 2 亿美元,开展旨在了解 AI 更广泛社会影响的研究。这笔投资将资助超越技术安全范畴的问题研究。Amodei 呼吁推出工资再保险计划和有针对性的税收措施,以缓冲预计由 AI 自动化造成的劳动力市场冲击。在配合该文章发布的 ABC News 独家采访中,Amodei 还提出了其他政策建议,包括赋予政府机构暂停被认定为不安全的 AI 部署的权力。
Amodei 提议建立 FAA 式 AI 监管框架
Amodei 偏好的监管框架借鉴了现有模式,并有意选择 FAA 作为类比。根据相关消息来源,航空安全监管并未摧毁航空业,反而使飞行成为地球上最安全的大众交通方式。Amodei 主张赋予政府机构暂停被认定为不安全的 AI 部署的权力,并以既有监管先例作为 AI 治理的模板。
常见问题
Dario Amodei 发布了哪篇有关 AI 反弹的文章?
Dario Amodei 发布了一篇题为《关于 AI 指数级增长的政策》的文章,直接回应日益加剧的反 AI 反弹。他在文章中认为,AI 行业面临的是信任危机,而非沟通危机。
Amodei 确定了哪四类 AI 风险?
Amodei 的文章确定了四类具体风险:网络安全威胁、生物武器开发、人类失去对 AI 系统的控制,以及研究与开发完全自动化的可能性。他提议对高算力模型进行强制性第三方评估,评估范围涵盖这些风险领域。
Anthropic 承诺投入多少资金开展 AI 影响研究?
Anthropic 已承诺投入 2 亿美元,开展旨在了解 AI 更广泛社会影响的研究。这笔投资将资助超越技术安全范畴的问题研究。此外,Amodei 还提出了工资再保险计划和应对劳动力市场冲击的税收措施。