Anthropic 周四在一篇博客文章中分享了三项指标,以帮助人工智能公司监测开发进度。几天前,该公司首席执行官达里奥·阿莫代伊于周六发布了一项放缓计划。这些指标衡量人工智能主导的研发自主性、对人工智能代理的监督,以及 Anthropic 内部的算力分配。阿莫代伊的放缓提议得到了包括 OpenAI 首席执行官萨姆·阿尔特曼、SpaceX 首席执行官马斯克和谷歌 DeepMind 主席德米斯·哈萨比斯在内的行业领导者支持,旨在放缓模型能力提升的速度,同时不牺牲商业优势或美国在人工智能领域的领先地位。
Anthropic 衡量三项开发指标
Anthropic 发布了三项指标的方法论,以鼓励其他组织采用类似的衡量方式。该公司在博客文章中表示,对人工智能开发进行衡量并公开报告,能让社会有机会决定如何使用这些信息。
第一项指标显示,Claude 模型在所衡量的任何研发工作子集中都没有完全自主运行。第二项指标涉及构建一个用于监督和干预人工智能代理行动的系统;研究发现,在任何给定时刻,约有 30,000 个代理正在其使用最广泛的内部平台上开展研究和工程工作。
对于第三项指标,Anthropic 衡量了 7 月 13 日至 7 月 20 日期间的算力使用快照。该公司发现,分配给人工智能研发的算力中约有 6% 用于安全工作;分配给人工智能主导研发的算力中约有 12% 用于安全工作。
Anthropic 表示,这些指标最适合展示模型是如何构建的,并应作为能力评估的补充,后者展示模型能够做什么。该公司表示,实验室外的第三方应能以此为起点,评估人工智能开发的速度。
行业领导者支持阿莫代伊的放缓提议
阿莫代伊于周六发布的放缓计划获得了 OpenAI 首席执行官萨姆·阿尔特曼、SpaceX 首席执行官马斯克和谷歌 DeepMind 主席德米斯·哈萨比斯的支持。在该提议发布前,研究人员曾警告人工智能造成危害的潜力正在不断扩大。
阿莫代伊表示,他的计划旨在放缓模型能力提升的速度,同时不牺牲商业优势或美国在人工智能领域的领先地位。据 Anthropic 周四发布的博客文章称,这项分三步实施的放缓计划在具体执行内容方面说明不多。
Anthropic 在博客文章中表示,随着世界开始考虑如何控制前沿发展的速度,该公司应尽量缩小前沿实验室所知与公众所知之间的差距。该公司表示,将继续发布这些衡量结果,以提高模型透明度。
常见问题
Anthropic 周四分享了哪些指标?
Anthropic 周四在一篇博客文章中分享了三项指标:人工智能主导的研发自主性、对人工智能代理的监督,以及算力分配。第一项指标显示,Claude 模型没有完全自主运行。第二项指标发现,在任何给定时刻,约有 30,000 个代理正在开展研究和工程工作。第三项指标衡量了 7 月 13 日至 7 月 20 日期间的算力使用情况,发现人工智能研发算力中约有 6% 用于安全工作。
Anthropic 为什么发布这些指标?
Anthropic 发布这些指标,是为了帮助人工智能公司监测开发速度,并鼓励其他组织采用类似的衡量方式。该公司在博客文章中表示,对人工智能开发进行衡量并公开报告,能让社会有机会决定如何使用这些信息,旨在尽量缩小前沿实验室所知与公众所知之间的差距。
谁支持达里奥·阿莫代伊的放缓提议?
达里奥·阿莫代伊于周六发布的放缓提议获得了 OpenAI 首席执行官萨姆·阿尔特曼、SpaceX 首席执行官马斯克和谷歌 DeepMind 主席德米斯·哈萨比斯的支持。阿莫代伊表示,他的计划旨在放缓模型能力提升的速度,同时不牺牲商业优势或美国在人工智能领域的领先地位。