英特尔与 RadixArk 合作优化 SGLang,以适配英特尔基础设施

INTC-3.58%
NVDA-1.98%
AMD-3.17%
GOOGL-1.24%
NET-3.64%

关键要点

  • 英特尔和 RadixArk 宣布合作,针对英特尔 CPU、GPU 和加速器优化 SGLang,并于 11 月 12–13 日在 SGLang Summit 2026 上公布。
  • 该合作将针对特定硬件的优化直接贡献给开源 SGLang 框架,以提升英特尔基础设施在生产环境中的推理效率和成本效益。
  • SGLang Consortium 正式成立,九家创始成员包括英特尔、AMD、英伟达、谷歌和 Meta,旨在协调硬件优化和前沿模型支持。

英特尔和 RadixArk 宣布合作,为英特尔平台(包括 CPU、GPU 和加速器)优化 SGLang,将针对特定硬件的工程工作融入共享的开源软件技术栈。这项合作于 2026 年 11 月 12–13 日在旧金山 Fort Mason 举行的 SGLang Summit 上公布,旨在通过直接向开源框架贡献优化成果,让生产推理在英特尔基础设施上更加高效且更具成本效益。这项计划让开发者能够通过 SGLang 获得更多部署选择,同时推动在多样化硬件平台上构建开放 AI 基础设施这一更广泛的使命。

英特尔-RadixArk 合作框架

英特尔与 RadixArk 的合作强调直接向 SGLang 开源框架贡献针对特定硬件的优化,而非构建专有解决方案。合作涵盖英特尔的全平台产品组合,包括 CPU、GPU 和专用加速器,使 SGLang 成为适用于英特尔基础设施生态系统的统一服务解决方案。

英特尔首席执行官陈立武参加了峰会,并探讨了开发新型芯片架构以降低 AI 能耗的必要性。他将大型计算系统所需的能量与人脑进行比较;人脑的能耗约为 20 瓦。他还表示,希望在未来 10 到 15 年内帮助开发超越 CPU 和 GPU 的架构,并提出神经形态计算或许能以低得多的功耗实现更高性能。

SGLang 生态系统进一步扩展

英特尔与 RadixArk 的合作是 SGLang Summit 2026 上多项硬件支持公告之一。峰会期间,SGLang 联盟正式成立,九家创始成员包括英伟达、AMD、英特尔、谷歌、Meta、Thinking Machines Lab、Cloudflare、Modal 和 RadixArk。该联盟为成员与 SGLang 维护者围绕工程重点开展合作提供了常设论坛,成员将贡献生产部署经验,并通过联合开发聚焦前沿模型支持、推理与多模态工作负载、分布式推理和硬件优化。

与此同时,SGLang-Neuron v0.1.0 开源并进入公开预览阶段,由 RadixArk 的 SGLang 团队与 Amazon Annapurna Labs 共同开发。这款原生支持 PyTorch 的插件将 SGLang 的服务技术栈带到 AWS Trainium,为受支持的语言模型和扩散模型提供服务,并具备异步运行时、优化内核和缓存功能。

关键事实

  • 英特尔和 RadixArk 宣布合作,为英特尔平台(包括 CPU、GPU 和加速器)优化 SGLang;该合作于 11 月 12–13 日在 SGLang Summit 2026 上公布
  • 这项合作强调直接向 SGLang 开源框架贡献优化成果,让开发者能够通过 SGLang 获得更多部署选择
  • 这项工作旨在让生产推理在英特尔基础设施上更加高效且更具成本效益
  • 峰会上,九家创始成员加入 SGLang 联盟:英伟达、AMD、英特尔、谷歌、Meta、Thinking Machines Lab、Cloudflare、Modal 和 RadixArk
  • SGLang-Neuron v0.1.0 开源并进入公开预览阶段,由 RadixArk 和 Amazon Annapurna Labs 共同为 AWS Trainium 开发
  • 英特尔首席执行官陈立武探讨了未来 10 到 15 年芯片架构的演进,包括通过神经形态计算提升性能并降低功耗的可能性

常见问题

英特尔与 RadixArk 的合作重点是什么?

这项合作重点是为英特尔平台(包括 CPU、GPU 和加速器)优化 SGLang。双方将针对特定硬件的优化成果直接贡献给 SGLang 开源框架,以提高生产推理在英特尔基础设施上的效率并降低成本,而非构建专有解决方案。

SGLang 联盟如何支持英特尔等硬件合作伙伴?

SGLang 联盟在峰会上成立,英特尔等九家创始成员加入其中。联盟为成员与 SGLang 维护者围绕工程重点开展合作提供了常设论坛。成员会指派技术代表,参与定期的路线图讨论,并贡献生产部署经验、测试资源和联合开发成果。联盟的重点领域包括前沿模型支持、推理与多模态工作负载、分布式推理和硬件优化;不过,SGLang 维护者仍负责技术决策和代码审查与合并。

SGLang-Neuron 是什么?它如何扩展 SGLang 对硬件的支持?

SGLang-Neuron v0.1.0 是一款原生支持 PyTorch 的插件,由 RadixArk 的 SGLang 团队与 Amazon Annapurna Labs 共同开发,可将 SGLang 的服务技术栈带到 AWS Trainium,为受支持的语言模型和扩散模型提供服务。该预览版本包含异步运行时、优化内核和缓存功能,开发者可通过 AWS Deep Learning Container for SGLang-Neuron 开始使用。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论