Score Labs 是一家企业级 AI 推理公司,正式亮相并宣布,将于 2026 年 11 月 19 日星期四上午10:00 PT 在微软 Ignite 2026 的英特尔展台剧场舞台上进行演示,展示四种由该公司推理软件 Score Engine 在标准英特尔 Xeon 服务器上实时运行的企业级 AI 用例。该公司设计 Score Engine,旨在实现比 vLLM 和 SGLang 等广泛使用的开源服务软件高 30% 至 4 倍的性能,使企业能够以显著更低的成本,在现有 x86 基础设施上运行复杂的 AI 工作负载,同时掌控敏感数据。
Score Engine 在英特尔 Xeon 上的性能与架构
Score Labs 从零开始打造 Score Engine,其中包含六个专有库,用于控制 AI 模型如何利用处理器的计算单元、内存和网络连接,并针对其运行的每种芯片的具体特性调整推理技术栈。该公司已为其技术提交临时专利申请。在英特尔验证的一项针对长时间运行的 AI Agent 任务的测试中,Score Engine 在搭载四颗英特尔 Xeon 6 或第 5 代英特尔 Xeon 处理器的服务器上运行时,成本效益是英伟达 H100 GPU 的 1.5 倍。同一项工作通过 OpenRouter 接入托管模型 API 时,成本则是运行 Score Engine 的 3 至 17 倍。
企业部署与成本削减
Score Engine 已在企业生产环境中运行。在一个有记录的案例中,某牙科 AI 平台以 Score Engine 取代了一项商业 AI 服务,使其预计每月推理成本降低 80% 以上,同时取得了优于此前方案的结果。该牙科 AI 平台的创始人兼 CEO 表示:“Score Labs 让我们明白,我们不必为了掌控权或成本而牺牲质量。与此前的模型方案相比,我们取得了更好的结果,同时将预计推理费用降低了 80% 以上。同样重要的是,我们现在有办法确保敏感信息留在由我们掌控的基础设施中。”
企业 AI 工作负载优化
企业 AI 的应用已不再局限于简短的聊天机器人交互,还包括阅读数百页合同、处理患者记录、审核交易,以及编写和测试代码,而且通常有许多用户同时使用。这类工作受到的限制,与其说是原始处理能力,不如说是内存容量;而 GPU 独占型基础设施的成本、硬件短缺和电力限制,正迫使企业缩减 AI 计划。大多数数据中心已在运行的标准 x86 服务器(如英特尔 Xeon 系统)能够提供这些工作负载所需的内存。Score Engine 通过充分释放 x86 基础设施的性能,解决了此前的限制。该软件会将每项 AI 任务分配给最适合的硬件,无论是 CPU、GPU 还是混合系统,让企业能够减少 AI 支出,同时将敏感数据保留在自己拥有并掌控的基础设施上。
Score Labs 首席执行官 Sean Cook 表示:“两年来,业内一直认为每项 AI 任务都需要你能买到的最昂贵芯片。对于企业实际要处理的工作——长文档、AI Agent、私人数据——这种想法正让他们付出高昂代价,也拖慢了他们的进度。Score Engine 让企业能够根据任务需求,在英特尔 Xeon 服务器、GPU 或混合系统上运行,并由自己掌控,成本仅为原来的一小部分。”
关键事实
- Score Labs 将于 2026 年 11 月 19 日星期四上午10:00 PT 在微软 Ignite 2026 的英特尔展台剧场舞台上进行演示
- Score Engine 的性能比 vLLM 和 SGLang 高 30% 至 4 倍
- Score Engine 在搭载四颗英特尔 Xeon 6 或第 5 代英特尔 Xeon 处理器的服务器上运行时,成本效益是英伟达 H100 GPU 的 1.5 倍
- 同一工作负载通过 OpenRouter 接入托管模型 API 时,成本是使用 Score Engine 的 3 至 17 倍
- 某牙科 AI 平台以 Score Engine 取代商业 AI 服务后,预计每月推理成本降低了 80% 以上
- Score Engine 由六个专有库组成,用于控制 AI 模型对处理器计算单元、内存和网络连接的利用
- Score Labs 已为其技术提交临时专利申请
- Score Engine 旨在支持领先的开放权重 AI 模型在 CPU、GPU 和边缘设备上运行,适用于云端、本地数据中心和边缘部署
- Score Labs 服务于医疗保健、法律、金融服务和软件开发领域的企业
- 该公司与包括英特尔和微软在内的技术合作伙伴合作
常见问题
与现有开源服务软件相比,Score Engine 能带来哪些性能提升?
Score Engine 的性能比 vLLM 和 SGLang 等广泛使用的开源服务软件高 30% 至 4 倍。在英特尔验证的一项针对长时间运行的 AI Agent 任务的测试中,Score Engine 在搭载四颗英特尔 Xeon 6 或第 5 代英特尔 Xeon 处理器的服务器上运行时,成本效益是英伟达 H100 GPU 的 1.5 倍;通过 OpenRouter 接入的托管模型 API 成本则是使用 Score Engine 的 3 至 17 倍。
Score Engine 如何在保障数据掌控权的同时降低企业 AI 成本?
Score Engine 会将每项工作负载分配给最适合的硬件,在 CPU、GPU 和混合系统之间优化 AI 推理。该软件针对其运行的每种芯片的计算能力和内存特性进行调优,使企业能够在现有 x86 基础设施上运行复杂的 AI 工作负载,例如已部署于大多数数据中心的英特尔 Xeon 服务器。这种方式无需依赖昂贵的 GPU 独占型基础设施,同时让企业能够将敏感数据保留在自己拥有并掌控的基础设施上。某牙科 AI 平台有记录显示,以 Score Engine 取代商业 AI 服务后,预计每月推理成本降低了 80% 以上,且结果有所改善。
Score Engine 面向哪些类型的企业 AI 工作负载?
Score Engine 面向各类企业 AI 工作负载,包括阅读数百页合同、处理患者记录、审核交易,以及编写和测试代码,而且通常有许多用户同时使用。这些工作负载受到的限制,与其说是原始处理能力,不如说是内存容量。Score Labs 服务于医疗保健、法律、金融服务和软件开发领域的企业。