谷歌、OpenAI 和 Anthropic 计划成立一家不受政府监管的 AI 安全标准机构

GOOGL-0.98%

关键要点

  • 谷歌、OpenAI 和 Anthropic 计划于 2026 年底或 2027 年初成立前沿人工智能标准管理局。
  • SAFA 将支持开展部署前模型测试、制定人工智能安全事件报告指南,并对独立审计机构进行认证。
  • 在白宫要求企业先就行业共识达成一致后,该机构初期将独立运作。

据 The Information 报道,Alphabet Inc. 旗下的 Google、OpenAI 和 Anthropic 正在推进相关计划,拟在没有政府监督的情况下成立一个由行业主导的 AI 安全标准机构。随着人们对先进 AI 模型所带来风险的担忧加剧,这些公司希望在 2026 年底或 2027 年初成立该组织。预计该倡议将为开发前沿 AI 模型的公司制定标准。GOOGL 股票周四常规交易时段收涨 1.42%;截至发稿,盘后交易下跌 0.18%。针对这项据报道的倡议,这些公司尚未立即回应 Stocktwits 的置评请求。

Google、OpenAI 和 Anthropic 计划为前沿 AI 设立标准机构

据 The Information 报道,这三家公司暂定将该自律组织命名为前沿 AI 标准机构(SAFA)。该机构将支持开展部署前模型测试的第三方组织,制定报告 AI 安全与安保事件的指南,并明确 AI 实验室作出的自愿安全承诺应如何在实践中落实。

SAFA 还将为评估 AI 模型和实验室的独立审计师制定资质要求。据 The Information 报道,工作组成员正在讨论 SAFA 是否应与 AI 标准与创新中心(CAISI)共同开展安全性和能力测试。一些成员认为,CAISI 缺乏对前沿模型进行全面测试的充足资源,因此主张由 SAFA 开展额外评估。

Sriram Krishnan、Arati Prabhakar 被考虑担任领导职务

据报道,工作组已考虑多位知名人士担任领导职务。Sriram Krishnan 曾是风险投资家,也是特朗普政府的高级 AI 政策顾问;Arati Prabhakar 曾在拜登政府担任白宫科技政策办公室主任。据报道,两人都曾被考虑担任首席执行官。

据报道,前美国国务卿 Condoleezza Rice 以及企业家兼风险投资家 David Friedberg 曾进入主席候选名单。据报道,潜在的科学顾问包括 AI 研究非营利组织 METR 的创始人兼首席执行官 Beth Barnes,以及商务部 AI 标准与创新中心顾问、近期获任命为 OpenAI 基金会董事会成员的 Paul Christiano。

白宫要求这些公司先寻求行业共识

这些公司最初设想成立一个由行业主导、联邦政府监督的组织,但该公私合作关系在特朗普政府时期陷入停滞。据 The Information 报道,白宫此前告知 Google、Anthropic 和 OpenAI,它们需要先达成行业共识,然后政府才能介入。目前的计划是让 SAFA 独立运营,不过一些公司代表仍对未来与美国政府建立关系持乐观态度。

在 Stocktwits 上,GOOGL 的散户情绪仍为“看涨”,过去 24 小时没有变化;同期消息量为“高”。GOOGL 股票年初至今上涨近 10%。截至周四发稿时,OPEAZZX 和 ANTHZZX 的散户情绪均为“看跌”。

常见问题

什么是前沿 AI 标准机构(SAFA)?

前沿 AI 标准机构(SAFA)是 Google、OpenAI 和 Anthropic 正在筹划的一个自律组织,SAFA 是其暂定名称。SAFA 将支持开展部署前模型测试的第三方组织,制定报告 AI 安全与安保事件的指南,并明确 AI 实验室作出的自愿安全承诺应如何在实践中落实。该机构还将为评估 AI 模型和实验室的独立审计师制定资质要求。

Google、OpenAI 和 Anthropic 计划何时推出 SAFA?

据 The Information 报道,这些公司希望在 2026 年底或 2027 年初成立该组织。

谁正在被考虑担任 SAFA 的领导职务?

工作组已考虑由 Sriram Krishnan 和 Arati Prabhakar 担任首席执行官。据报道,Condoleezza Rice 和 David Friedberg 曾进入主席候选名单。潜在的科学顾问据报道包括 Beth Barnes 和 Paul Christiano。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论