美国政府与六家主要人工智能公司签署了《白宫超级智能协议》,这是一项旨在安全开发和运营先进人工智能模型的自愿承诺框架。该协议建立了一个四级监督体系,要求参与公司实施内部控制、专门审查团队、独立外部审计以及董事会层面的独立委员会,以监测人工智能模型的能力和对齐情况。该自愿框架不会对不合规行为施加新的法律义务或处罚。
白宫协议建立四级人工智能监督体系
这份名为《白宫超级智能协议——前沿责任联合承诺》的官方文件,重点要求人工智能公司建立控制和审计体系。该监督框架由四个层级组成:用于验证前沿模型能力和对齐情况的企业内部控制系统、负责检查并纠正控制系统是否按预期运行的专门内部团队、独立的外部审计和评估机构,以及董事会下设的独立委员会。后者接收来自内部和外部的信息,并监督纠正措施。
六家科技公司签署自愿人工智能安全承诺
美国总统唐纳德·特朗普与六家公司高管签署了该协议:Anthropic 首席执行官 Dario Amodei;Alphabet 首席执行官 Sundar Pichai;xAI 的马斯克;Meta 的马克·扎克伯格;英伟达的黄仁勋;以及 OpenAI 的 Greg Brockman。扎克伯格通过与特朗普政府官员定期沟通,在最终确定该协议的过程中发挥了关键作用。参与公司同意定期举行会议,制定提升人工智能系统安全性的标准和最佳实践,同时为未来将这些措施纳入法律或法规留下可能性。
协议不包含法律义务或执行机制
该协议本身不会对违规行为施加新的法律义务或制裁,而是基于企业自愿实施的原则运行。协议未具体规定外部评估机构的资质和独立性标准、评估结果的强制披露要求,也未规定在特定风险等级下暂停部署的阈值。
常见问题
什么是《白宫超级智能协议》?
《白宫超级智能协议》是美国政府与六家开发和部署前沿人工智能模型的主要科技公司高管签署的一项自愿承诺。该协议建立了一个用于安全开发和运营先进人工智能的四级监督体系,包括内部控制、专门审查团队、独立外部审计以及董事会层面的独立委员会。
哪些公司签署了白宫人工智能安全协议?
六家公司签署了该协议:Anthropic(由首席执行官 Dario Amodei 代表)、Alphabet(首席执行官 Sundar Pichai)、xAI(马斯克)、Meta(首席执行官马克·扎克伯格)、英伟达(首席执行官黄仁勋)以及 OpenAI(Greg Brockman)。美国总统唐纳德·特朗普也签署了这项自愿承诺框架。
白宫人工智能协议是否为公司设立了法律要求?
没有,该协议不会对违规行为施加新的法律义务或处罚。它作为一项基于企业自行实施的自愿框架运行。协议未规定外部评估机构资质的强制标准、评估结果披露要求,也未规定特定风险等级下的部署暂停阈值。