Alibaba Cloud M890 完成 Kimi K3.1 Pro 的 Day0 适配

关键要点

  • 阿里云灵骏真武 M890 超节点于 11 月 5 日完成了 Kimi K3.1 Pro 模型权重的 Day 0 适配。
  • 据原文,Kimi K3.1 Pro 的总参数量为 2.8 万亿,并已集成至阿里云超节点基础设施。
  • Kimi K3.1 Pro 适配已在 vLLM 和 SGLang 这两款开源推理框架上完成全流程验证。

11月5日,阿里云凌骏真武 M890 超节点完成了 Kimi K3.1 Pro 模型权重的 Day0 适配。此次适配面向 Moonshot AI 的 Kimi 模型,并在 vLLM 和 SGLang 开源推理框架上通过了全流程验证。Kimi K3.1 Pro 总参数量为 2.8 万亿,将模型与阿里云超节点基础设施及主流开源推理软件连接起来。

阿里云 M890 完成 Kimi K3.1 Pro 权重适配

阿里云凌骏真武 M890 超节点完成了 Kimi K3.1 Pro 模型权重的 Day0 适配。原文指出,该模型是 Moonshot AI 的 Kimi 模型,并称适配于 11月5日完成。

Day0 适配完成后,团队又在 vLLM 和 SGLang 上进行了全流程验证。原文将这两个框架描述为主流开源推理框架。因此,报告所述集成涵盖了超节点适配和推理框架验证。

Kimi K3.1 Pro 拥有 2.8 万亿个参数

据原文,Kimi K3.1 Pro 总参数量为 2.8 万亿。报告将这一模型规格与其在凌骏真武 M890 超节点上的 Day0 适配联系起来。

Kimi K3.1 Pro 与 M890 集成详情

  • 阿里云凌骏真武 M890 超节点完成了 Kimi K3.1 Pro 模型权重的 Day0 适配。
  • 该适配于 11月5日完成。
  • 该模型是 Moonshot AI 的 Kimi 模型。
  • Kimi K3.1 Pro 总参数量为 2.8 万亿。
  • 已在 vLLM 和 SGLang 上完成全流程验证。
  • vLLM 和 SGLang 被描述为主流开源推理框架。

常见问题

阿里云凌骏真武 M890 超节点适配了什么?

该超节点完成了 Moonshot AI 的 Kimi 模型 Kimi K3.1 Pro 的模型权重 Day0 适配。

哪些推理框架通过了验证?

已在 vLLM 和 SGLang 上完成全流程验证,原文将它们描述为主流开源推理框架。

Kimi K3.1 Pro 模型有多大?

Kimi K3.1 Pro 总参数量为 2.8 万亿。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论