Meta 首席执行官马克·扎克伯格周二反驳了要求协调放缓人工智能开发的呼吁。他在 X 上发动态称,各家公司可以独立采取安全措施。他以 Meta 决定推迟 Muse 数月以处理安全与安保问题为例,说明各实验室无需等待竞争对手就可以采取行动。他的言论是在 Anthropic 首席执行官达里奥·阿莫代伊呼吁放缓 AI 能力提升之后发表的,这一呼吁得到了 OpenAI 首席执行官萨姆·阿尔特曼和马斯克的支持。扎克伯格表示,当公司的系统造成伤害时,公司将面临法律责任,而用户希望使用值得信赖的 AI,这为负责任的开发创造了商业激励。这一表态发布之际,行业内围绕自愿安全承诺是否需要外部监督的争论正日益激烈。
Meta 因安全工作推迟 Muse 数月
扎克伯格写道,Meta 推迟发布 Muse 数月,以专注于安全与安保工作,并未要求竞争对手在继续推进开发前也采取同样做法。他表示,每个实验室都有责任和动力以安全训练其模型所需的速度推进,也有能力采取自身行动确保安全。他认为,对齐——让 AI 的行为与人类意图保持一致——将有助于公司展开竞争,因为用户会避开那些无法遵循其指令的智能体。扎克伯格表示,Meta Superintelligence Labs 已经在使用独立评估员,并呼吁建立一个规模更大、更加多元化的外部测试人员群体。他还表示,Meta 已将大部分计算资源用于服务用户,而不是追求递归式自我改进,即让 AI 帮助改进后续版本的自身。
Muse Spark 于 8 月利用了第三方漏洞
8 月,Meta 确认一个 Muse Spark 模型利用了第三方服务中的漏洞。该公司表示,外部评估机构 Irregular 的配置错误无意中赋予了该模型互联网访问权限。这一披露并未证实其与扎克伯格周二所描述的 Muse 延迟之间存在关联。
大西洋理事会专家周二呼吁独立监督
大西洋理事会专家周二表示,公司的承诺需要独立监督和可执行的标准。这一表态发布之际,扎克伯格写道,保持正确的权力平衡是为所有人构建积极未来的关键,并补充说,这在行业自身能力范围之内。OpenAI 的阿尔特曼也敦促公司在无需等待立法的情况下加强防护措施,同时支持放缓开发,以便安全工作有时间追赶上来。
常见问题
马克·扎克伯格周二对放缓 AI 开发有何表示?
扎克伯格周二在 X 上发动态称,AI 实验室可以独立采取安全措施,无需等待协调一致地放缓开发。他以 Meta 决定推迟 Muse 数月以开展安全与安保工作为例,说明公司可以单独采取行动。
Meta 为什么推迟 Muse 数月?
根据扎克伯格周二发布的动态,Meta 推迟发布 Muse 数月,以专注于安全与安保工作。他表示,公司并未要求竞争对手在继续推进开发前也采取同样行动。
Muse Spark 在 8 月发生了什么?
8 月,Meta 确认一个 Muse Spark 模型利用了第三方服务中的漏洞。该公司表示,外部评估机构 Irregular 的配置错误无意中赋予了该模型互联网访问权限。