OpenAI 的 Pando Git 后端使用 GPT-6 Astra 进行形式化验证

关键要点

  • OpenAI 于 2024 年 4 月将 Pando Git 后端部署到生产环境,使推送延迟中位数降低近 80%,并支持并行更新分支。
  • 根据 OpenAI 的技术报告,GPT-6 Astra 智能体使用 Lean 和 TLA+ 编写形式化验证代码,以证明 Pando 的系统属性并识别实现缺陷。
  • Pando 在单小时内传输超过 57 TB 的 Git 数据,缓存命中率达 99%,通过本地磁盘缓存支持拍字节级的 Git 操作。

OpenAI 于今年 4 月开始使用 Pando 处理生产流量。Pando 是一种用于 Git 仓库的新后端。Codex 支持更多并行开发,导致现有系统需要处理的分支、推送、合并、获取和克隆操作数量增加。Pando 为 OpenAI 的单体仓库提供支持,同时保留与 Git 协议和客户端的兼容性,使工程师和智能体能够使用现有工作流。

OpenAI 构建 Pando 以应对并发 Git 工作

OpenAI 表示,其单体仓库的规模和需求迅速增长。去年年底前后,支撑该仓库的系统开始难以应对,出现获取和推送缓慢、合并失败等问题,可靠性有时降至 90% 以下。该公司构建 Pando,以并行处理对不同分支的推送,并同时向许多读取者提供相同的历史记录,而不中断工程工作或改变团队使用 Git 的方式。

Pando 独立协调对每个分支的更新,使互不相关分支的更新能够并行进行。它还会在多次获取操作之间复用 Git packfile,而不是为每个客户端单独生成一个 packfile。这可能意味着客户端会下载一些已有的对象,但这样一来,服务器只需进行少量计算,就能向许多客户端提供相同的字节数据。

Pando 运用因果一致性扩展 Git 操作

客户端向某个分支推送时,Pando 会将收到的 packfile 作为不可变 blob 存储在 blob 存储区中。它会在元数据存储区中将每次分支更新记录为一个 ref 版本,其中包括新的顶端提交、提供该提交的 pack,以及该 pack 所依赖的早期 ref 版本。OpenAI 表示,blob 存储区和元数据存储区都可通过横向扩展来提升容量。

Pando 为单个 ref 的更新提供可串行化保证,同时在整个仓库范围内采用因果一致性。只有当客户端同时向同一个 ref 推送时,才会发生冲突。读取多个分支的客户端不能假定这些读取结果代表仓库在同一时间点的状态。

对于写入,Pando 会在将传入的 packfile 流式写入 blob 存储区时对其进行验证,而不会将其解包到本地仓库。其写入操作使用多键事务记录一个 ref 版本,并以原子方式更新 ref 指针,从而提供“读己之写”一致性。OpenAI 表示,该操作需要 O(1) 次元数据读取和写入。对于获取操作,Pando 会根据客户端已有的历史记录选择已存储的 pack;据 OpenAI 介绍,这需要 O(log Δ) 次元数据读取,其中 Δ 是客户端已有状态与所需状态之间 ref 版本的最短距离。

Pando 使用已存储的 packfile 和 packfile URI 来提供获取服务。OpenAI 表示,其区域 Express 缓存的缓存命中率超过 99%,而使用标准云服务提供商虚拟机的克隆和获取操作已将 10 Gbps 网络链路跑满。后台压缩会将多个 pack 合并成覆盖集,OpenAI 的单体仓库最多使用 L4 packfile 覆盖集。这些覆盖集有助于提高压缩率,并使获取规划的扩展不必与客户端落后的距离成正比。

GPT-6 Astra 支持 Pando 的形式化验证工作

OpenAI 使用 Codex 构建 Pando,从启动到投入生产仅用了 10 周。核心设计由一名工程师完成,由智能体团队实现,并由少数工程师部署。OpenAI 使用 Rust 从零构建了该项目,没有依赖旧系统,并构建了一套一致性测试套件,让智能体能够根据标准 Git 行为测试变更。它还开发了确定性模拟测试框架,用于检查系统不变量和属性,并发现协商和 pack 规划中的竞争条件与回归问题。

OpenAI 表示,许多模型都为 Pando 做出了贡献。使用 GPT-6 Astra 时,智能体编写了 Lean 和 TLA+,以形式化描述“Pando 理论”。团队利用这些成果查找并修复实现错误,并证明系统属性。多次持续运行的会话持续数百小时,以发现并修复边缘情况。OpenAI 还表示,它全天候运行智能体,使用具备 Daybreak 能力的模型对 Git 和 Pando 进行红队测试。

OpenAI 部署 Pando 并贡献 Git 改进

OpenAI 最初将 Pando 部署为现有源代码管理系统的读写穿透代理。这使两个系统保持同步,并允许流量在不停机的情况下转移至 Pando。该公司还使用 Git CLI 的内部封装程序分阶段迁移客户端,并在 Git 流量迁移的同时,迁移了数百个依赖旧版 API、webhook 和仓库下载的集成。

OpenAI 将其公开发行版的 Git 部署到开发者的机器上,并集成到 ChatGPT 桌面应用中。它创建了用于变更请求、代码审查和自动化 API 的工具,以及 Codex 技能,用于准备现有检出目录并引导智能体使用 Pando。开发者可以要求 Codex 迁移其开发环境和服务。

OpenAI 表示,切换到 Pando 后,合并可靠性得到提升,推送延迟中位数降低了近 80%。该公司还报告称,Pando 只需少数几个 CPU 核心,每天就能传输 1 拍字节的 Git 数据;在单个小时内,Pando 提供的 Git pack 超过 57 太字节,其中超过 99% 的字节来自本地磁盘缓存。

基于 Git 协议和客户端构建系统,也带来了改进 Git 的机会。OpenAI 为 packfile-uri 贡献了多项改进,包括修复与并发下载、传输中断后的清理、恢复已完成的下载,以及接受已有 pack 用于获取时的验证相关的问题。其 Git 构建版本可以并行下载并索引互不相关的 pack,还加入了“显式 haves”功能,让服务器能够单独公布分支当前的顶端提交,而不依赖推送客户端可能从 pack 中省略的历史记录。OpenAI 表示,若干改进已合并到上游 Git,其他改进则已发布在其公开代码仓库中。

Pando 的生产规模与技术细节

OpenAI 表示,Pando 目前为其单体仓库中的所有开发工作提供支持,其设计可扩展跨分支写入,同时通过缓存提供读取服务。该公司还报告称,推送延迟中位数降低了近 5 倍,每天传输的 Git 数据接近 1 拍字节。

  • Pando 于今年 4 月开始处理生产流量。
  • OpenAI 使用 Codex 构建 Pando,从启动到投入生产仅用了 10 周。
  • Pando 使用 Rust 实现,没有依赖旧系统。
  • GPT-6 Astra 智能体编写了 Lean 和 TLA+,以形式化描述“Pando 理论”。
  • Pando 的写入操作需要 O(1) 次元数据读取和写入;获取选择需要 O(log Δ) 次元数据读取,其中 Δ 是客户端当前状态与所请求状态之间 ref 版本的最短距离。
  • OpenAI 的单体仓库最多使用 L4 packfile 覆盖集。
  • OpenAI 报告称,缓存命中率超过 99%;使用标准云服务提供商虚拟机的克隆和获取操作能够将 10 Gbps 网络链路跑满。
  • Pando 在单个小时内提供的 Git pack 超过 57 太字节,其中超过 99% 的字节来自本地磁盘缓存。
  • OpenAI 的对比模拟被描述为合成教学模型,而非生产基准测试。

常见问题

什么是 OpenAI 的 Pando 系统?

Pando 是一种用于 Git 仓库的新后端,为 OpenAI 单体仓库中的开发工作提供支持。它旨在扩展对多个分支的并发推送,并最大限度地提高读取吞吐量,同时保留与 Git 协议和客户端的兼容性。

GPT-6 Astra 如何为 Pando 做出贡献?

OpenAI 表示,使用 GPT-6 Astra 的智能体编写了 Lean 和 TLA+,以形式化描述“Pando 理论”。团队利用这些成果查找并修复实现错误,并证明系统属性。

OpenAI 报告了 Pando 的哪些性能数据?

OpenAI 表示,切换后 Pando 将推送延迟中位数降低了近 80%,只需少数几个 CPU 核心,每天就能传输 1 拍字节的 Git 数据;在单个小时内,Pando 提供的 Git pack 超过 57 太字节。该小时数据中超过 99% 的字节来自本地磁盘缓存。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论