11月5日,阿里云凌骏真武 M890 超节点完成了 Kimi K3.1 Pro 模型权重的 Day0 适配。此次适配面向 Moonshot AI 的 Kimi 模型,并在 vLLM 和 SGLang 开源推理框架上通过了全流程验证。Kimi K3.1 Pro 总参数量为 2.8 万亿,将模型与阿里云超节点基础设施及主流开源推理软件连接起来。
阿里云 M890 完成 Kimi K3.1 Pro 权重适配
阿里云凌骏真武 M890 超节点完成了 Kimi K3.1 Pro 模型权重的 Day0 适配。原文指出,该模型是 Moonshot AI 的 Kimi 模型,并称适配于 11月5日完成。
Day0 适配完成后,团队又在 vLLM 和 SGLang 上进行了全流程验证。原文将这两个框架描述为主流开源推理框架。因此,报告所述集成涵盖了超节点适配和推理框架验证。
Kimi K3.1 Pro 拥有 2.8 万亿个参数
据原文,Kimi K3.1 Pro 总参数量为 2.8 万亿。报告将这一模型规格与其在凌骏真武 M890 超节点上的 Day0 适配联系起来。
Kimi K3.1 Pro 与 M890 集成详情
- 阿里云凌骏真武 M890 超节点完成了 Kimi K3.1 Pro 模型权重的 Day0 适配。
- 该适配于 11月5日完成。
- 该模型是 Moonshot AI 的 Kimi 模型。
- Kimi K3.1 Pro 总参数量为 2.8 万亿。
- 已在 vLLM 和 SGLang 上完成全流程验证。
- vLLM 和 SGLang 被描述为主流开源推理框架。
常见问题
阿里云凌骏真武 M890 超节点适配了什么?
该超节点完成了 Moonshot AI 的 Kimi 模型 Kimi K3.1 Pro 的模型权重 Day0 适配。
哪些推理框架通过了验证?
已在 vLLM 和 SGLang 上完成全流程验证,原文将它们描述为主流开源推理框架。
Kimi K3.1 Pro 模型有多大?
Kimi K3.1 Pro 总参数量为 2.8 万亿。