Anthropic 选择埃森哲作为首家嵌入式 AI 评估机构

NVDA-1.92%

关键要点

  • Anthropic 于周五选定 Accenture 作为其首个嵌入式评估方,以实施 CEO Dario Amodei 提出的 AI 放缓计划。
  • Anthropic 和 Accenture 将在五年内分别向嵌入式评估项目投资至少 10 亿美元。
  • Anthropic 将直接资助 Accenture 的工作,并预计在未来几周宣布其他评估方。

Anthropic 周五宣布,已选定埃森哲作为其首家嵌入式评估机构,以实施首席执行官达里奥·阿莫代伊于 9 月 12 日发布的 AI 发展放缓提案。该合作将由埃森哲及其旗下 AI 业务 Faculty 负责评估模型、开展红队测试、进行对齐评估,并测试模型的安全防护措施。阿莫代伊的三步提案旨在放缓 AI 的发展并建立安全防护措施。此前已有警告称,不受约束的递归式自我改进可能会超出人类理解和控制 AI 系统的能力。该公告发布前,OpenAI 首席执行官萨姆·阿尔特曼和 SpaceX 首席执行官马斯克均作出了积极回应,但英伟达首席执行官黄仁勋认为此类监管没有必要。两家公司预计将在未来五年内各自向该项目投资至少 10 亿美元。

Anthropic 和埃森哲将在五年内各自投入 10 亿美元

根据周五的公告,Anthropic 和埃森哲预计将在未来五年内各自向嵌入式评估项目投资至少 10 亿美元。该合作并非排他性合作,Anthropic 预计将在未来几周宣布其他评估机构,并与它们展开合作。该公司表示,嵌入式评估的具体运作方式仍在制定中,因为这一实践尚属新兴领域。埃森哲旗下的 Faculty 在为领先 AI 实验室测试和评估模型,以及构建安全且符合伦理的 AI 系统方面拥有专业经验。

Anthropic 将直接资助评估工作,应对紧迫性

Anthropic 指出,目前不存在为独立评估提供资金的现有体系。长期资金应来自资金池或政府来源,但鉴于这项工作的紧迫性,Anthropic 将直接资助埃森哲的工作。阿莫代伊在提案中写道,提案的第一步是让独立评估机构获得类似员工所拥有的访问权限,而 Anthropic 此前已经单方面同意作出这一承诺。

行业领袖回应 AI 发展放缓提案

OpenAI 首席执行官萨姆·阿尔特曼和 SpaceX 首席执行官马斯克对阿莫代伊于 9 月 12 日发布的提案作出了积极回应。英伟达首席执行官黄仁勋不支持放缓 AI 发展,认为没有必要进行此类监管。阿莫代伊在提案中写道:“AI 的发展速度一直快得惊人,主要驱动力是 AI 日益增强的构建下一代 AI 的能力。这种动态被称为递归式自我改进”,并表示,“如果不加以约束,它可能会超出我们理解和控制这些系统的能力。”

埃森哲董事长兼首席执行官朱莉·斯威特表示:“嵌入式评估是一个新兴领域,我们期待与 Anthropic 合作,帮助加快嵌入式评估机构的发展。我们认为,这将是未来安全格局的重要组成部分。”

常见问题

Anthropic 周五宣布了哪些与 AI 评估相关的消息?
Anthropic 周五宣布,已选定埃森哲作为其首家嵌入式评估机构,帮助实施首席执行官达里奥·阿莫代伊于 9 月 12 日发布的 AI 发展放缓提案。该合作包括评估模型、开展红队测试、进行对齐评估以及测试模型的安全防护措施。

Anthropic 和埃森哲将向嵌入式评估项目投资多少?
根据周五的公告,Anthropic 和埃森哲预计将在未来五年内各自向该项目投资至少 10 亿美元。鉴于目前不存在为独立评估提供资金的现有体系,且工作十分紧迫,Anthropic 将直接资助埃森哲的工作。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论