Meta 首席执行官马克·扎克伯格周二在 X 和其他社交媒体平台上发布的帖子中,支持英伟达首席执行官黄仁勋在 AI 安全问题上的观点,表示未能专注于对齐的 AI 实验室将会落后。扎克伯格的评论回应了 Anthropic 首席执行官达里奥·阿莫代伊周末发表的一篇文章。该文章呼吁科技行业放缓 AI 模型能力的提升速度,这一立场后来得到萨姆·阿尔特曼的支持,并受到特朗普总统的批评。这场争论的核心在于,AI 安全应由市场激励还是监管干预来主导。扎克伯格认为,信任和对齐正成为 AI 智能体和模型最重要的差异化能力。
扎克伯格认为市场激励推动 AI 安全
扎克伯格周二表示,“在能力提升速度是否应放缓、直到对齐跟上这一问题上,存在大量争论”,但他强调,自己的观点是,“信任和对齐正迅速成为区分智能体和模型的最重要能力。”他认为,如果 AI 实验室的模型造成伤害,就会面临“重大责任风险”,从而形成由市场驱动的激励机制来防止问题发生。扎克伯格透露,Meta 因“安全与保障”方面的原因“推迟发布”其 Muse AI 技术,并表示公司“只是将其作为我们日常工作的一部分来完成,因为这显然是对人们和我们自己而言正确的事情。”
黄仁勋在 Dreamforce 上称 AI 监管没有必要
在 Salesforce 年度 Dreamforce 大会上,黄仁勋告诉 Salesforce 首席执行官马克·贝尼奥夫,AI 模型开发商应对其产品负责,而不是寻求旨在限制潜在危害的政府监管。黄仁勋在 CNBC《Mad Money》节目的一次采访中将 AI 相关法律法规称为“完全没有必要”,并表示:“我们有足够多的法律,也有足够多的法规来规范产品的可靠性和功能。”
阿莫代伊和阿尔特曼在 Dreamforce 上谈开发速度
阿莫代伊在 Dreamforce 上发言时重申了自己的立场,称放缓模型开发代表着“引领行业前进、树立榜样,并表明每个人始终都可以做得更好的方式。”阿尔特曼后来在大会上与贝尼奥夫进行炉边谈话时表示:“我认为,对于我们这个行业来说,能够说我们希望团结起来,并且希望协调行动,确保我们有足够的时间安全地完成这件事,是非常好的。”阿尔特曼承认,人们担心公司或国家之间的“商业压力和竞争”可能会阻碍适当安全措施的落实,并表示:“我认为那正是人们会非常害怕的时候。”
常见问题
马克·扎克伯格周二对 AI 安全说了什么?
扎克伯格周二在 X 和其他社交媒体平台上发帖称,未能专注于对齐的 AI 实验室将会落后,并认为信任和对齐正成为 AI 模型最重要的差异化能力。
Meta 为什么推迟发布其 Muse AI 技术?
扎克伯格表示,Meta 因“安全与保障”方面的原因推迟发布 Muse AI 技术,并称这一决定是公司日常工作的一部分,对人们和公司自身而言“显然是正确的事情”。
黄仁勋在 Dreamforce 上对 AI 监管持什么立场?
黄仁勋在 Dreamforce 上告诉 Salesforce 首席执行官马克·贝尼奥夫,AI 模型开发商应对其产品负责,而不是寻求政府监管,并称 AI 相关法律法规“完全没有必要”。