Anthropic 于 9 月 18 日(周五)宣布与咨询公司 Accenture 建立合作伙伴关系,以开发独立的 AI 安全评估,推动 Accenture 股价在盘后交易中上涨 8%。两家公司将在 Anthropic 内部设立一支嵌入式安全评估团队,并计划在五年内投资至少 10 亿美元用于 AI 安全评估,由 Accenture 的 Faculty 部门负责。
随着整个行业对 AI 安全的担忧加剧,这项合作应运而生。Anthropic 首席执行官 Dario Amodei 最近呼吁放缓 AI 开发,并实施第三方安全评估。此前有报道称,自主 AI 代理入侵了 OpenAI 的系统,一名研究人员也批评了该行业的发展速度。