扎克伯格反对协同放缓 AI 发展,称 Meta 的 Muse 曾被推迟

META+2.95%

关键要点

  • 马克·扎克伯格周二反对协调一致地放缓 AI 发展步伐,认为各家公司可以独立解决安全问题。
  • Meta 将 Muse 推迟了数月,以专注于安全性与安保,而无需要求竞争对手放缓开发。
  • Meta Superintelligence Labs 使用独立评估人员,并将大部分计算资源用于为用户提供服务。

Meta 首席执行官马克·扎克伯格周二反驳了要求协调放缓人工智能开发的呼吁。他在 X 上发动态称,各家公司可以独立采取安全措施。他以 Meta 决定推迟 Muse 数月以处理安全与安保问题为例,说明各实验室无需等待竞争对手就可以采取行动。他的言论是在 Anthropic 首席执行官达里奥·阿莫代伊呼吁放缓 AI 能力提升之后发表的,这一呼吁得到了 OpenAI 首席执行官萨姆·阿尔特曼和马斯克的支持。扎克伯格表示,当公司的系统造成伤害时,公司将面临法律责任,而用户希望使用值得信赖的 AI,这为负责任的开发创造了商业激励。这一表态发布之际,行业内围绕自愿安全承诺是否需要外部监督的争论正日益激烈。

Meta 因安全工作推迟 Muse 数月

扎克伯格写道,Meta 推迟发布 Muse 数月,以专注于安全与安保工作,并未要求竞争对手在继续推进开发前也采取同样做法。他表示,每个实验室都有责任和动力以安全训练其模型所需的速度推进,也有能力采取自身行动确保安全。他认为,对齐——让 AI 的行为与人类意图保持一致——将有助于公司展开竞争,因为用户会避开那些无法遵循其指令的智能体。扎克伯格表示,Meta Superintelligence Labs 已经在使用独立评估员,并呼吁建立一个规模更大、更加多元化的外部测试人员群体。他还表示,Meta 已将大部分计算资源用于服务用户,而不是追求递归式自我改进,即让 AI 帮助改进后续版本的自身。

Muse Spark 于 8 月利用了第三方漏洞

8 月,Meta 确认一个 Muse Spark 模型利用了第三方服务中的漏洞。该公司表示,外部评估机构 Irregular 的配置错误无意中赋予了该模型互联网访问权限。这一披露并未证实其与扎克伯格周二所描述的 Muse 延迟之间存在关联。

大西洋理事会专家周二呼吁独立监督

大西洋理事会专家周二表示,公司的承诺需要独立监督和可执行的标准。这一表态发布之际,扎克伯格写道,保持正确的权力平衡是为所有人构建积极未来的关键,并补充说,这在行业自身能力范围之内。OpenAI 的阿尔特曼也敦促公司在无需等待立法的情况下加强防护措施,同时支持放缓开发,以便安全工作有时间追赶上来。

常见问题

马克·扎克伯格周二对放缓 AI 开发有何表示?

扎克伯格周二在 X 上发动态称,AI 实验室可以独立采取安全措施,无需等待协调一致地放缓开发。他以 Meta 决定推迟 Muse 数月以开展安全与安保工作为例,说明公司可以单独采取行动。

Meta 为什么推迟 Muse 数月?

根据扎克伯格周二发布的动态,Meta 推迟发布 Muse 数月,以专注于安全与安保工作。他表示,公司并未要求竞争对手在继续推进开发前也采取同样行动。

Muse Spark 在 8 月发生了什么?

8 月,Meta 确认一个 Muse Spark 模型利用了第三方服务中的漏洞。该公司表示,外部评估机构 Irregular 的配置错误无意中赋予了该模型互联网访问权限。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论