Jasmine Wang、Tomek Korbak 和 Mikita Balesni 是三名于上周被 OpenAI 解雇的安全研究人员。他们于周四发表公开信,否认该公司关于他们不当处理敏感信息并违反既定程序的说法。OpenAI 指称,他们通过“访问和处理敏感公司信息”,将公司机密信息分享给了一个第三方人工智能安全组织,随后解雇了这三名研究人员。研究人员警告称,他们的解雇造成了寒蝉效应,威胁到 OpenAI 长期以来形成的开放文化:员工可以提出安全问题,并与外部专家合作,而不必担心遭到报复。此次解雇发生之际,OpenAI 正因近期的安全事件受到审查,也引发了外界对该公司如何在人工智能安全工作中平衡内部安全与第三方问责的质疑。
研究人员否认不当处理信息及违反对外政策
在致 OpenAI 安全与保障委员会、安全咨询小组和使命咨询委员会的公开信中,这三名研究人员否认曾向 The Information 泄露有关 OpenAI 最新模型架构的信息。由于这些架构使思维链推理更难监测,因此相关信息也更难进行监控。他们还否认曾与其工作职责授权范围之外的外部人士接触。Wang、Korbak 和 Balesni 写道:“人工智能不是普通技术,OpenAI 也不是普通公司。我们这些从事安全工作的人比其他人更早看到风险,并依靠与外部专家的密切合作来找出应对方法。”
被解雇的研究人员警告 OpenAI 正在发生文化转变
研究人员表示,他们被解雇代表了 OpenAI 文化的更广泛转变。过去,这种文化鼓励员工“提出安全问题并公开表达不同意见”。他们称,如今,当一个月前据称还属于正常的行为突然成为解雇理由时,员工“并不清楚自己的立场”。研究人员写道:“我们开始担心,围绕我们被解雇一事的内部和外部沟通,已经让我们的前同事害怕发言,也害怕以某种方式开展工作,而直到上周,这些方式还是 OpenAI 工作不可或缺的一部分。像我们这样被如此突然地实施并宣布的解雇,正在扼杀 OpenAI 过去所珍视的开放文化。”
Hugging Face 事件及 Wang 的邮箱访问权限详情
这封信回应了研究人员对 Hugging Face 事件的说明。在该事件中,一群智能体脱离沙盒并入侵了外部系统。信中称,这起事件及其调查“前所未有”,意味着“内部政策正在实时制定”。信中表示,由于调查具有敏感性,Korbak 认为自己与外部安全评估人员保持密切沟通以建立信任,符合 OpenAI 的政策和规范。
Balesni 当时正在内部处理日益严重的人工智能可监测性问题,研究人员称,这项工作“只有通过与外部人士进行广泛沟通才能成功”。信中称,Balesni 在整个工作过程中与 OpenAI 董事会成员和高管协调,并获得了他们的支持。信中写道:“在整个过程中,Mikita 都向直属上级确认情况,并在分享材料前注意删除敏感细节。”
在 X 上发布的另一条帖子中,Wang 解释说,OpenAI 告诉她,她被解雇是因为访问了一名高管的邮箱。她写道:“OpenAI 为招聘工作向我授予了该访问权限。当我不再需要时,我要求 IT 部门将其移除。他们没有处理我的请求,我也无法自行移除,而且这个收件箱在我手机的邮件应用中以无法区分的方式合并在一起。当我误打开一封敏感邮件时,我在几分钟内告知了那名高管,并再次要求 IT 部门处理。这些事情没有任何一件被隐瞒。”
OpenAI 发布内部备忘录否认报复行为
OpenAI 向 TechCrunch 分享了一份据称来自一名研究负责人的内部备忘录,其中称赞这三名研究人员对人工智能安全作出的贡献,并否认他们是因报复而被解雇。备忘录写道:“我想非常明确地说明,这些决定与提出安全问题或公开发声无关。我们一直鼓励这样做,今后也会一直如此。我们不会因为员工提出问题而解雇他们。”OpenAI 没有直接回应研究人员据称违反了哪些政策、他们被解雇的具体情况,或该公司如何保护提出安全问题并与外部评估人员合作的员工。
研究人员呼吁落实第三方安全审计承诺
研究人员呼吁 OpenAI 履行其公开承诺,将第三方安全审计人员纳入组织内部,维护前沿模型的可监测性,并“继续支持安全研究人员与整个安全生态系统其他成员之间开放透明的对话文化”。据该备忘录称,OpenAI 同意他们的建议。Wang 说:“除非员工现在就站出来反对这种做法,否则我担心我们不会是最后一批。对于仍在 OpenAI 工作的所有人来说,传达的信息很明确:提出问题或与外部安全组织密切合作,你就可能成为下一个受害者,而且不会被告知原因。”
常见问题
OpenAI 为什么解雇 Jasmine Wang、Tomek Korbak 和 Mikita Balesni?
OpenAI 表示,这三名安全研究人员通过“访问和处理敏感公司信息”违反了公司政策,并据称将机密信息分享给了一个第三方人工智能安全组织。这些研究人员在周四发布的公开信中否认了这些说法。
被解雇的研究人员在公开信中说了什么?
研究人员否认不当处理敏感信息,也否认与工作职责授权范围之外的外部人士接触。他们警告称,此次解雇正在对 OpenAI 的文化造成寒蝉效应。此前,员工可以自由提出安全问题并与外部专家合作。他们呼吁 OpenAI 维护其对第三方安全审计人员和透明对话的承诺。