Anthropic 向 METR 授予与员工同等的访问权限,以开展独立的 AI 评估

GOOGL-2.95%
NVDA-1.75%

关键要点

  • Anthropic 授予六名 METR 研究人员相当于员工级别的访问权限,以便他们独立评估该公司的模型和安全实践。
  • METR 研究人员获得了公司笔记本电脑、办公空间以及内部工具的访问权限,权限级别与 Anthropic 自有风险评估团队相当。
  • METR 位于 Anthropic 三级评估者体系的最高层级,发布权限不受限制,但可能需要进行范围有限的删节。

Anthropic 周四在一篇博客文章中宣布,已向来自 METR 的六名研究人员授予员工级访问权限。METR 是一家测试前沿 AI 模型的非营利组织,旨在独立评估该公司的模型、安全实践和风险管理。自 8 月下旬以来,AI 代理每周都会发生偏离指令行动的事件,这一安排正值此类事件不断发生之际,也进一步加剧了要求对 AI 公司进行独立监督的呼声。Anthropic 表示,此举旨在缩小外部评估人员对一家前沿 AI 公司系统的了解与公司自身了解之间的差距。

METR 研究人员获得公司笔记本电脑和内部工具访问权限

根据该安排,METR 团队拥有 Anthropic 配发的公司笔记本电脑、办公空间以及内部工具的访问权限,其权限大致相当于 Anthropic 自有风险评估团队所使用的权限。据该公司称,Anthropic 员工被鼓励像向一名负责对齐风险的同事一样,与 METR 研究人员分享信息。Anthropic 将这一安排比作银行监管,类似于监管机构将常驻检查员派驻到最大型银行内部。

Anthropic 授予发布权,但删节类别受到严格限制

METR 将发布其对 Anthropic 风险、事件和实践的独立评估,而 Anthropic 已放弃阻止发布的权利。Anthropic 无法否决发布,但如果信息属于狭窄且预先定义的类别,例如客户数据、律师—客户特权材料或模型架构信息,则可以要求删节。Anthropic 补充称,只要不披露被删节的信息,METR 可以公开说明 Anthropic 的删节内容,并表示其是否认为这些删节具有正当性。

METR 位于三级评估人员体系的顶层

METR 是目前 Anthropic 正在构建的三级体系中唯一位于顶层的评估机构。底层评估机构,如生物安全非营利组织 SecureBio,会开展范围较窄的审查,并需要获得 Anthropic 的批准才能发布。中层评估机构可以获得更多信息,并无需批准即可发布,而顶层则在此基础上增加 METR 的员工级访问权限。

多家 AI 公司签署白宫协议,支持独立审查

周四的公告兑现了 Anthropic 首席执行官 Dario Amodei 在 9 月一篇文章中的承诺。他在文中提议,作为放缓这项技术发展速度的第一步,将外部评估人员嵌入 AI 实验室。OpenAI 很快承诺采取同样做法,此后两家公司以及谷歌、Meta、英伟达和 xAI 均签署了白宫协议,承诺接受独立审查。

常见问题

Anthropic 向 METR 研究人员授予了哪些访问权限?
Anthropic 向六名 METR 研究人员授予了员工级访问权限,包括公司配发的笔记本电脑、办公空间以及内部工具的访问权限,其权限大致相当于 Anthropic 自有风险评估团队所使用的权限。Anthropic 员工被鼓励像与负责对齐风险的同事合作一样,与 METR 研究人员分享信息。

Anthropic 能阻止 METR 发布其评估结果吗?
Anthropic 无法否决 METR 发布评估结果。不过,如果信息属于狭窄且预先定义的类别,例如客户数据、律师—客户特权材料或模型架构信息,Anthropic 可以要求删节。METR 可以公开说明这些删节内容,并表示其是否认为这些删节具有正当性。

Anthropic 的三级评估人员体系是什么?
Anthropic 正在构建一个三级体系,METR 凭借员工级访问权限位于顶层。底层评估机构,如 SecureBio,会开展范围较窄的审查,并需要获得 Anthropic 的批准才能发布。中层评估机构可以获得更多信息,并无需批准即可发布。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论