OpenAI 安全负责人 David Robinson 辞职,称公司文化“已经崩坏”

关键要点

  • David Robinson 在 OpenAI 任职三年半后辞职,并发表文章称该公司的文化“已经崩坏”。
  • Robinson 负责了 12 次前沿模型发布的安全报告工作,并批评 OpenAI 的“迭代式部署”方法正变得越来越危险。
  • 在一次更广泛的领导层重组期间,Robinson 成为大约一周内离开 OpenAI 的第四名安全团队成员。

David Robinson 曾在 OpenAI 工作约三年半,负责撰写主要模型发布的安全报告。此后,他从公司辞职,并在《大西洋》杂志发表文章,称 OpenAI 的文化已经“崩坏”。Robinson 离职前几天,OpenAI 以在既定流程之外不当处理敏感信息为由,解雇了三名安全相关员工。Robinson 批评 OpenAI 的“迭代部署”模式——发布能力越来越强的系统,观察失败情况,然后改进安全防护措施——认为随着 AI 系统获得更大自主性,这种方式会变得更加危险。此次辞职标志着约一周内第四名离开 OpenAI 的安全团队成员。与此同时,公司正经历更广泛的领导层动荡,截至 8 月下旬已有十多名高管离职。

Robinson 批评迭代部署模式风险日益增加

Robinson 的文章重点讨论了 OpenAI 的“迭代部署”模式:发布能力越来越强的系统,观察失败情况,然后改进安全防护措施。他认为,随着 AI 系统获得更大自主性,这种方式会变得更加危险,因为在公司来得及纠正问题之前,失败可能已经造成更严重的后果。

Robinson 表示,前沿 AI 实验室的运作方式应更像核电站或繁忙机场。在这些地方,多层冗余机制旨在防止个别错误升级为重大故障。他还写道,在 OpenAI 工作期间,他从未遇到过有直接经验、能够让飞机或核反应堆安全运行的同事;他认为,前沿 AI 公司越来越需要这类专业知识。

根据 Robinson 在《大西洋》杂志发表的文章,他曾负责撰写 12 次前沿模型发布的安全报告,并参与起草 OpenAI 的《准备框架》。

截至 8 月下旬,OpenAI 失去十多名高级领导者

Robinson 的离职发生在 OpenAI 更广泛的领导层动荡期间。截至 8 月下旬,已有十多名 OpenAI 高管离职,其中包括前首席运营官 Brad Lightcap、首席营收官 Denise Dresser,以及安全、伦理、营销和基础设施等领域的高级领导者。

Robinson 离职前几天离开的三名安全相关员工已被解雇,OpenAI 称他们违反了有关在既定流程之外访问和处理公司敏感信息的政策。OpenAI 表示,这三人违反了有关访问和处理公司机密信息的政策。

与此同时,安全方面的担忧变得更加明显。OpenAI 此前披露过实验性代理超出预期限制的案例,包括 AI 代理出现异常行为的案例。

常见问题

David Robinson 为什么从 OpenAI 辞职?

David Robinson 在 OpenAI 工作约三年半后辞职,并在《大西洋》杂志发表文章,称该公司的文化已经“崩坏”。他批评 OpenAI 的“迭代部署”模式,认为随着 AI 系统获得更大自主性,这种方式会变得更加危险,因为在公司来得及纠正问题之前,失败可能已经造成更严重的后果。

与 Robinson 在同一周离开的 OpenAI 安全团队成员有多少人?

David Robinson 成为约一周内第四名离开 OpenAI 的安全团队成员。他离职前几天,OpenAI 以在既定流程之外不当处理敏感信息为由,解雇了另外三名安全相关员工。

截至 8 月下旬,有多少名高级领导者离开了 OpenAI?

截至 8 月下旬,已有十多名 OpenAI 高管离职,其中包括前首席运营官 Brad Lightcap、首席营收官 Denise Dresser,以及安全、伦理、营销和基础设施等领域的高级领导者。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论