OpenAI 推出了 GPT‑6 Cyber,这是一款经过训练、能够发现并验证可利用漏洞的网络安全模型。它在 ExploitGym 上的得分为 48.5%,而 GPT‑5.6 Cyber 为 32.1%;在未部署安全提示的情况下,它在 99.93% 的测试中避免利用超出范围的服务。该模型目前通过 API 和 Codex 向一组选定且获批的 Daybreak Red 客户开放,并配备了旨在确保研究始终处于授权范围内的防护措施。
GPT‑6 Cyber 提升网络安全基准测试成绩
OpenAI 表示,即使 GPT‑6 Astra 没有拒绝请求,GPT‑6 Cyber 在大多数网络安全任务上的表现仍优于 GPT‑6 Astra。根据 OpenAI 的 Preparedness Framework,该模型在网络安全方面被归类为 Critical 级别,高于 GPT‑5.6 Cyber 的 High 级别。
ExploitGym 用于测试模型能否利用远程目标中指定的漏洞。GPT‑6 Cyber 的得分为 48.5%,比 GPT‑5.6 Cyber 的 32.1% 高出约 16 个百分点。OpenAI 还针对攻击性 Web 渗透测试开发了一项评估,测试模型在无法访问 Web 应用源代码的情况下对其进行探测。GPT‑6 Cyber 的漏洞召回率达到 40.3%,而 GPT‑6 Astra 为 32.0%。
OpenAI 的 RemoteExploitBench 使用了部署在受控环境中的应用程序所存在的已知漏洞,包括 GitLab、PostgreSQL 和 Jenkins。在初步评估中,GPT‑6 Astra 拒绝了 100% 的任务,而 GPT‑6 Cyber 完成了 95%;它唯一一次失败,是因为未能让某个漏洞利用在远程环境中奏效。
GPT‑6 Cyber 对齐测试衡量范围遵循情况
OpenAI 表示,该公司对 GPT‑6 Cyber 进行了专门训练,帮助其始终处于授权范围内、遵守对其行动的限制,并准确报告工作情况。在 ExploitGym Honeypot 评估中,模型需要在隔离环境中完成一项高难度漏洞利用任务,环境中还设有软件包注册表或对象存储等辅助服务。这些服务被刻意设置为容易受到攻击,模型必须推断出攻击这些服务超出了任务范围。
在没有部署安全提示的情况下,GPT‑6 Cyber 在 99.93% 的情况下避免利用超出范围的服务,而 GPT‑5.6 Cyber 的这一比例为 94.49%。加入这些提示后,GPT‑6 Cyber 在 100% 的测试中都遵守了范围限制。OpenAI 表示,其对齐评估还衡量了模型是否遵守任务边界以及研究人员的交战规则。
GPT‑6 Cyber 支持漏洞研究和修补
OpenAI 报告称,GPT‑6 Cyber 帮助研究人员在开源软件中发现并验证漏洞,以及制定修复方案。在 Firefox 中,该模型为 81 个新发现的漏洞提供了证据和可复现测试,这些漏洞被 Mozilla 归类为高危;此外,它还表明,另外 30 个已知问题的严重程度高于此前报告。OpenAI 将相关发现和建议补丁披露给 Mozilla,后者在收到报告后不久便开始提交修复。
对于 Linux,GPT‑6 Cyber 复现了 1,724 个漏洞,并为其中 948 个开发出可用的漏洞利用。这是 GPT‑5.6 Sol 使用同一研究工具链开发的 166 个漏洞利用数量的五倍以上。遵循 Linux 社区的指导,OpenAI 向维护者披露了 304 项严重发现并附上候选补丁,并表示其他漏洞也正在修复中。
OpenAI 还表示,该公司将 GPT‑6 Cyber 与其他 OpenAI 模型结合使用,开发并验证了漏洞利用,以展示 Brotli(一种压缩库,被 Node.js 和其他软件使用)中的一个严重漏洞如何导致下游应用程序发生远程代码执行。Cisco、Calif 和 CodeRabbit 的安全团队正在使用该模型开展漏洞研究和代码审查。OpenAI 还用它来发现并修复自身基础设施中的弱点。
GPT‑6 Cyber 防护措施应对滥用和关键基础设施风险
OpenAI 表示,该公司为 GPT‑6 Cyber 的能力配套了监控和防护措施,旨在发现滥用行为,并确保模型的操作不超出用户授权范围。这些措施包括针对网络安全场景的监控,以检查操作是否符合授权;针对新兴威胁的定向监控;以及用于阻止涉及关键系统的高风险网络安全协助的检查。
OpenAI 的 Private Safety Processing(PSP)使用自动化检查来审查相关交互,识别滥用行为。默认情况下仍采用标准数据保留政策。使用 Zero Data Retention 的 API 客户通常必须使用 PSP;该服务会审查保留在客户存储区中的加密记录,保留期限为 30 天,且不会向 OpenAI 人员公开提示词和回复。默认情况下,Daybreak Red API 访问需要进行 IP 允许列表设置,少数情况除外;OpenAI 还会监控凭据是否遭到泄露。该公司还建议对高风险工作流采用沙盒隔离、操作审查和人工监督。
对于关键基础设施防御者,OpenAI 的 10 亿美元 Daybreak for Frontline Defenders 资助计划为资源受限的团队补贴访问费用,其中包括政府组织和基本服务提供商。OpenAI 还推出了面向获批防御者的 Daybreak Red for Critical Infrastructure,该计划为关键系统的授权测试提供相应权限,同时保留防护措施以防模型偏离预期。
OpenAI 与 Dragos 合作,在受控实验室环境中评估模型。评估涵盖了多种请求,包括网络发现和资产枚举、定向侦察、敏感数据外泄,以及未经授权且可能造成危险的设备操作。OpenAI 表示,该公司利用 Dragos 的反馈完善了防护措施,旨在阻止有害协助,同时避免不必要地限制授权测试。
GPT‑6 Cyber 首先向获批的 Daybreak Red 客户开放
GPT‑6 Cyber 目前通过 API 和 Codex 向一组选定且获批的 Daybreak Red 客户开放。OpenAI 表示,将逐步向所有 Daybreak Red 客户开放访问权限,并且也将 GPT‑5.6 Cyber 提供给所有 Daybreak Red 客户。该公司正在扩大 GPT‑6 Astra 的 Daybreak Blue alpha 访问范围,面向更多组织和个人安全研究人员开放。
GPT‑6 Cyber 的性能、研究和访问情况
- GPT‑6 Cyber 在 ExploitGym 上的得分为 48.5%,而 GPT‑5.6 Cyber 为 32.1%。
- GPT‑6 Cyber 在 OpenAI 的攻击性 Web 渗透测试评估中的漏洞召回率达到 40.3%,而 GPT‑6 Astra 为 32.0%。
- 在 RemoteExploitBench 上,GPT‑6 Astra 拒绝了 100% 的任务,而 GPT‑6 Cyber 在初步评估中完成了 95%。
- 在没有部署安全提示的情况下,GPT‑6 Cyber 在 99.93% 的情况下避免利用超出范围的服务;加入提示后,它在 100% 的测试中都遵守了范围限制。
- GPT‑6 Cyber 为 81 个新发现的 Firefox 漏洞提供了证据和可复现测试,这些漏洞被 Mozilla 归类为高危;该模型还指出,30 个已知问题的严重程度高于此前报告。
- GPT‑6 Cyber 复现了 1,724 个 Linux 漏洞,并为其中 948 个开发出可用的漏洞利用;GPT‑5.6 Sol 使用同一研究工具链开发了 166 个漏洞利用。
- OpenAI 向维护者披露了 304 项严重的 Linux 漏洞发现,并附上候选补丁。
- GPT‑6 Cyber 目前通过 API 和 Codex 向一组选定且获批的 Daybreak Red 客户开放。
- OpenAI 的 10 亿美元 Daybreak for Frontline Defenders 资助计划为资源受限的团队补贴访问费用。
常见问题
GPT‑6 Cyber 是为实现什么目标而设计的?
GPT‑6 Cyber 是一款经过训练、能够发现并验证可利用漏洞,同时遵守研究人员设定范围的网络安全模型。OpenAI 表示,该模型可用于漏洞研究、漏洞利用验证、代码审查和补丁开发。
GPT‑6 Cyber 在 ExploitGym 上的表现如何?
GPT‑6 Cyber 在 ExploitGym 上的得分为 48.5%,而 GPT‑5.6 Cyber 为 32.1%。OpenAI 称,这比 GPT‑5.6 Cyber 相对提升了 51%。
谁可以访问 GPT‑6 Cyber?
GPT‑6 Cyber 目前通过 API 和 Codex 向一组选定且获批的 Daybreak Red 客户开放。OpenAI 表示,将逐步向所有 Daybreak Red 客户开放访问权限。