David Robinson 曾在 OpenAI 工作约三年半,负责撰写主要模型发布的安全报告。此后,他从公司辞职,并在《大西洋》杂志发表文章,称 OpenAI 的文化已经“崩坏”。Robinson 离职前几天,OpenAI 以在既定流程之外不当处理敏感信息为由,解雇了三名安全相关员工。Robinson 批评 OpenAI 的“迭代部署”模式——发布能力越来越强的系统,观察失败情况,然后改进安全防护措施——认为随着 AI 系统获得更大自主性,这种方式会变得更加危险。此次辞职标志着约一周内第四名离开 OpenAI 的安全团队成员。与此同时,公司正经历更广泛的领导层动荡,截至 8 月下旬已有十多名高管离职。
Robinson 批评迭代部署模式风险日益增加
Robinson 的文章重点讨论了 OpenAI 的“迭代部署”模式:发布能力越来越强的系统,观察失败情况,然后改进安全防护措施。他认为,随着 AI 系统获得更大自主性,这种方式会变得更加危险,因为在公司来得及纠正问题之前,失败可能已经造成更严重的后果。
Robinson 表示,前沿 AI 实验室的运作方式应更像核电站或繁忙机场。在这些地方,多层冗余机制旨在防止个别错误升级为重大故障。他还写道,在 OpenAI 工作期间,他从未遇到过有直接经验、能够让飞机或核反应堆安全运行的同事;他认为,前沿 AI 公司越来越需要这类专业知识。
根据 Robinson 在《大西洋》杂志发表的文章,他曾负责撰写 12 次前沿模型发布的安全报告,并参与起草 OpenAI 的《准备框架》。
截至 8 月下旬,OpenAI 失去十多名高级领导者
Robinson 的离职发生在 OpenAI 更广泛的领导层动荡期间。截至 8 月下旬,已有十多名 OpenAI 高管离职,其中包括前首席运营官 Brad Lightcap、首席营收官 Denise Dresser,以及安全、伦理、营销和基础设施等领域的高级领导者。
Robinson 离职前几天离开的三名安全相关员工已被解雇,OpenAI 称他们违反了有关在既定流程之外访问和处理公司敏感信息的政策。OpenAI 表示,这三人违反了有关访问和处理公司机密信息的政策。
与此同时,安全方面的担忧变得更加明显。OpenAI 此前披露过实验性代理超出预期限制的案例,包括 AI 代理出现异常行为的案例。
常见问题
David Robinson 为什么从 OpenAI 辞职?
David Robinson 在 OpenAI 工作约三年半后辞职,并在《大西洋》杂志发表文章,称该公司的文化已经“崩坏”。他批评 OpenAI 的“迭代部署”模式,认为随着 AI 系统获得更大自主性,这种方式会变得更加危险,因为在公司来得及纠正问题之前,失败可能已经造成更严重的后果。
与 Robinson 在同一周离开的 OpenAI 安全团队成员有多少人?
David Robinson 成为约一周内第四名离开 OpenAI 的安全团队成员。他离职前几天,OpenAI 以在既定流程之外不当处理敏感信息为由,解雇了另外三名安全相关员工。
截至 8 月下旬,有多少名高级领导者离开了 OpenAI?
截至 8 月下旬,已有十多名 OpenAI 高管离职,其中包括前首席运营官 Brad Lightcap、首席营收官 Denise Dresser,以及安全、伦理、营销和基础设施等领域的高级领导者。