Google DeepMind 论文介绍通过相似性推断实现 AI 合作

关键要点

  • Google DeepMind 研究人员于 2026 年 8 月 4 日向 arXiv 提交了一篇 75 页的论文,介绍了相似性推断概念。
  • 基础模型 AI 代理能够识别共同的训练相似性,以理性地预测并实现合作结果。
  • 该论文提出了关于基于相似性的合作的治理问题,而现有的反垄断框架并未涉及这些问题。

Google DeepMind、Mila-Quebec AI Institute 和 ETH Zürich 的研究人员于 2026 年 8 月 4 日向 arXiv 提交了一篇论文,对数十年来关于陌生人之间合作的博弈论假设提出了挑战。这篇由 Alexander Meulemans 领衔、长达 75 页的研究论文提出了“相似性推断”这一概念,用于解释为什么基于基础模型构建的 AI 代理能够在经典纳什均衡预测必然背叛的场景中开展合作。数十年来,博弈论一直认为,一次性博弈中的理性陌生人不应合作,但研究团队认为,AI 代理会将自己视为环境的一部分,而非与环境分离的个体,从而能够识别相似性并预测合作行为。

研究人员提出相似性推断框架

这篇长达 75 页、包含 11 幅图的论文提出了作者称为“相似性推断”的概念。由相似训练过程构建的 AI 代理能够识别这种相似性,并利用它预测另一个代理将采取的行动。经典博弈论将每位参与者视为完全独立的决策者,论文称之为“解耦代理”。在这一假设下,参与者无法预测对手的选择,因此背叛成为理性策略。

研究团队提出了一种名为“嵌入式代理”的替代框架。在这一模型中,代理将自己视为环境的一部分,而非与环境分离的个体。代理对自身的决策过程存在真实的不确定性。由于代理并不完全确定自己将如何做出决定,因此可以将自身的推理视为判断相似代理将如何推理的证据。

论文定义嵌入式均衡这一解概念

论文提出了一个名为“嵌入式均衡”的解概念。纳什均衡假设参与者独立地进行优化,而嵌入式均衡则考虑了代理之间因共享架构、训练数据和优化过程而产生的相关性。在纳什均衡下,一次性囚徒困境中的合作是不理性的;在嵌入式均衡下,合作可能是唯一理性的策略。

作者的实证研究结果显示,将基于基础模型的代理置于社会困境中,并为其提供经过优化的规划工具后,这些代理会趋向于合作结果。数学模型预测了合作,实验结果也证实了这一点。

研究引发关于代理相似性的治理问题

论文提出了一个问题:当代理彼此不相似时会发生什么。如果合作取决于相似性推断,那么由不同架构构建或使用不同数据训练的代理之间的互动,可能会重新回到经典的背叛动态。

对于政策制定者和 AI 治理机构而言,嵌入式均衡这一概念引入了一个现有监管框架尚未考虑的变量。反垄断法通常要求存在明确通信的证据,才能认定构成串通;而通过相似性推断进行合作的代理之间并未进行任何通信。

常见问题

Google DeepMind 的论文于 2026 年 8 月 4 日提出了什么?

这篇论文提出了“相似性推断”这一概念,用于解释基于基础模型构建的 AI 代理如何在经典博弈论预测背叛的场景中开展合作。这篇由 Alexander Meulemans 领衔、长达 75 页的研究论文还提出了一个新的解概念,称为“嵌入式均衡”。

嵌入式均衡与纳什均衡有何不同?

纳什均衡假设参与者独立地进行优化,而嵌入式均衡则考虑了代理之间因共享架构、训练数据和优化过程而产生的相关性。在嵌入式均衡下,一次性囚徒困境中的合作可能是唯一理性的策略,而纳什均衡则预测背叛。

论文指出了哪些治理挑战?

论文对现有监管框架提出了疑问,因为这些框架没有考虑通过相似性推断实现的合作。反垄断法通常要求存在明确通信的证据,才能认定构成串通;但通过相似性推断进行合作的代理之间并未进行任何通信。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论