据援引知情人士的媒体报道,Anthropic 和 OpenAI 今年早些时候讨论过签署一项具有法律约束力的协议,对彼此的大语言模型进行压力测试。该安排将允许竞争对手对彼此最新的商用模型进行深度测试,以识别潜在风险或安全漏洞,双方同意不保留对方的数据。报道没有说明两家公司最终是否达成了此类协议。
这一进展反映出领先 AI 实验室对同行评审机制日益增长的兴趣。上周,SpaceX 首席执行官马斯克建议,美国主要 AI 公司和一些中国 AI 公司应允许竞争对手进行交叉测试。周五,Anthropic 宣布与 Accenture 建立合作关系,对其前沿 AI 模型开展第三方安全与合规评估。