OpenAI 监测系统显示,METR 试点测试中存在漏洞

GOOGL-0.98%
SPCX-0.63%
NVDA-1.92%

关键要点

  • METR 和 Redwood Research 在 7 月 21 日至 8 月 11 日开展的一次试点演练中,凭借深入的基础设施访问权限,发现了 OpenAI 监控系统中的新型漏洞。
  • 评估人员发现了一种漏洞利用方式,可让智能体阻止 OpenAI 内部防护措施监控数百项近期操作。
  • OpenAI 修复了所有已发现且影响生产环境防护措施的漏洞,并承诺加强今后与独立评估人员的合作。

非营利评估机构 METR 和 Redwood Research 周四表示,他们对 OpenAI 的一套内部监控系统进行了试点审查,并在 7 月 21 日至 8 月 11 日为期三周的测试中发现了几项新型漏洞。OpenAI 设计这项试点,是为了测试外部研究人员深入访问其内部基础设施的实际情况。在现场人员陪同下,每家机构的一名员工都可以访问 OpenAI 的代码库、文档,并与技术人员交流。这项测试体现了 OpenAI 深化与第三方安全机构合作的最新努力,也是整个行业转向独立人工智能安全评估的一部分。这一趋势得到了人工智能公司和特朗普总统自愿监管协议的支持。

METR 和 Redwood 深入访问 OpenAI 基础设施

从 7 月 21 日至 8 月 11 日,每家机构的一名员工都可以访问 OpenAI 的内部代码库、文档和部分技术人员。据一份发布公告称,这些员工在现场时始终有人陪同,并使用由 OpenAI 提供、从未带离现场的设备。METR 和 Redwood 周四表示,他们在为期三周的试点中对 OpenAI 用于监控内部目标偏离的系统进行了压力测试。评估人员检查了截至 7 月 21 日的监控系统,并指出 OpenAI 在测试期间正在扩展该系统。

评估人员发现监控系统存在漏洞

评估人员发现了几项新型漏洞,其中包括一种可让智能体逃避对数百项近期操作进行监控的漏洞利用方法。METR 和 Redwood 表示,他们同意只公开发布一篇概述调查结果的文章,因为这项试点并非旨在全面向公众披露 OpenAI 监控系统的情况。他们向 OpenAI 分享了一份 61 页的内部报告,并表示预计未来测试会公开更多细节。

OpenAI 修补已发现的安全漏洞

据发布公告称,OpenAI 告知 METR 和 Redwood,公司已修补影响其生产环境安全防护措施的漏洞。OpenAI 发言人在给 CNBC 的一份声明中表示,此次合作建立在公司长期致力于开创第三方测试新方法的承诺之上。OpenAI 正利用所学内容加强安全防护,并为未来与独立评估人员合作制定方向。本月早些时候,OpenAI 表示正在积极敲定与第三方安全评估机构的合同。

第三方人工智能安全评估在行业中日益受到重视

OpenAI 首席执行官萨姆·阿尔特曼承诺于 9 月向独立评估人员提供与员工相当的公司内部访问权限。此前,Anthropic 首席执行官 Dario Amodei 曾将这一想法作为其减缓人工智能发展步伐计划的一部分提出。此后,Anthropic 宣布与 Accenture、METR 和 SecureBio 等机构达成协议。采取了较为宽松的人工智能监管方式的特朗普总统也表示支持第三方评估。他鼓励人工智能公司与独立外部审计师或评估人员合作,并将这一做法纳入他在白宫提出的一项自愿协议。Anthropic 的 Amodei 签署了该协议,谷歌、Meta、OpenAI、SpaceX 和英伟达的高管也签署了协议。独立评估人员历来是这个规模达数万亿美元的人工智能行业中相对低调的一群人,因此专家告诉 CNBC,人们仍不清楚这些团体将如何获得资金,以及最终的报告架构会是什么样子。

常见问题

METR 和 Redwood Research 在 OpenAI 试点测试中发现了什么?

评估人员在 OpenAI 的内部监控系统中发现了几项新型漏洞,其中包括一种可让智能体逃避对数百项近期操作进行监控的漏洞利用方法。他们于 7 月 21 日至 8 月 11 日开展了这项试点审查,并深入访问了 OpenAI 的内部代码库、文档和技术人员。

OpenAI 如何应对已发现的漏洞?

OpenAI 告知 METR 和 Redwood,公司已修补影响其生产环境安全防护措施的漏洞。OpenAI 发言人表示,公司正利用所学内容加强安全防护,并为未来与独立评估人员合作制定方向。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论