OpenAI 授予四家外部机构访问尚未发布模型的权限,以进行安全审计

OpenAI 宣布与 Apollo Research、METR、Goodfire 和 Transluce 建立合作关系,对其 AI 系统进行嵌入式安全评估。外部研究人员将能够访问尚未发布的模型、训练过程中的中间版本、源代码、训练数据和内部监控记录,以识别危险行为并评估现有安全措施。METR 将检查 OpenAI 规模最大的强化学习训练过程,以检测异常;Apollo Research 将调查潜在的欺骗行为;Goodfire 将分析内部计算信号;Transluce 将审计 OpenAI 自身的安全评估。研究人员必须在 OpenAI 办公室使用公司设备开展工作。研究机构可以独立发布研究结果,但 OpenAI 可能会删去机密信息。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论