Moonshot AI 将 Kimi K3.1 Pro 描述为一款开放权重、原生多模态的智能体模型。该模型基于 Kimi K3 进行后训练,采用大规模联合强化学习,覆盖数百个下游领域,并拥有 100 万 token 的上下文窗口。Moonshot AI 表示,该模型在编程、3D 创作、金融研究、事实准确性及其他智能体能力方面有所提升。
Kimi K3.1 Pro 采用 MoE 架构和稀疏注意力
Kimi K3.1 Pro 是 K3.1 系列的首款模型,也是 Moonshot AI 迄今能力最强的 3 万亿级模型。模型摘要列出了混合专家(MoE)架构、2.8 万亿总参数和 1040 亿激活参数。该模型有 93 层,其中包括 1 个稠密层,并采用 69 个 KDA 注意力层和 24 个 Gated DSA 注意力层。
与 Kimi K3 相比,该模型用 Gated DeepSeek Sparse Attention(Gated DSA)层取代了完整注意力 Gated MLA 层,以更高效地进行长上下文建模。其视觉编码器为 MoonViT-V2,拥有 4.01 亿参数。列出的模态为文本和图像;其量化方式为 MXFP4 权重 / MXFP8 激活,并采用量化感知训练。
Kimi K3.1 Pro 公布编程、智能体和多模态得分
除非另有说明,Kimi K3.1 Pro 的结果均采用 reasoning effort max、temperature = 1.0 和 top-p = 0.95。该模型在 Terminal-Bench 4.0 上得分为 65.7,在 Terminal-Bench-Science 0.1 上为 38.1,在 SWE Marathon v1.1 上为 51.7,在 BenchCAD w/o tools 上为 72.8,在 BenchCAD w/ tools 上为 92.7,在 Program Bench 上为 31.5,在 DeepSWE v1.1 上为 75.5,在 PostTrain Bench v1.2 上为 36.5。其在 Kimi Code Bench 2.0 (Internal) 和 Kimi Code Bench 3.0 Long-horizon (Internal) 上的得分分别为 77.1 和 61.2。
在智能体基准测试中,该模型在 HLE-Full w/ tools 上得分为 70.0,在 BrowseComp 上为 92.1,在 BioMysteryBench 上为 80.6,在 CharXiv (RQ) w/ python 上为 93.4,在 MMMU-Pro w/ python 上为 90.0。该模型在 GDP.pdf w/ python 上得分为 85.7,在 ChartoGraphy w/ python 上为 90.2,在 BabyVision w/ python 上为 95.4,在 ZeroBench_main w/ python (pass@5) 上为 63.0。其在 Agents' Last Exam (ALL) 上得分为 43.2,在 Agents' Last Exam (CLI) 上为 44.2,在 Automation Bench-AA 上为 73.3。在 GDPval-AA v2.1 (Elo-score) 上得分为 1846;在 AA-Briefcase v1.1 (Elo-score) 上为 1678;在 APEX-Agents 上为 69.4。其他智能体得分包括 OfficeQA Pro v2 上的 64.4、OfficeQA Pro 上的 67.4、Frontier Finance 上的 58.6、Harvey Legal Agent 上的 23.7,以及 HANDBOOK.md 上的 44.6。该模型在 OSWorld V2.1 上得分为 79.6,在 Business Operation (Internal) 上为 37.8;其 DECK-Arena (Internal, Elo-score) 得分为 1456,Design Bench (Internal, Elo-score) 得分为 957。在 Kimi Hallu Bench Hard w/ tools (Internal, lower is better) 上,该模型得分为 8.3。
在推理、知识和多模态基准测试中,列出的得分包括 GDP.pdf 上的 34.6、HLE-Full 上的 51.1、HLE-Diamond 上的 39.4,以及 GPQA-Diamond 上的 94.2。该模型在 CharXiv (RQ) 上得分为 89.0,在 MMMU-Pro 上为 84.1,在 ZeroBench_main 上为 29.8 / 39.0 (avg@5 / pass@5)。其 PerceptionBench 得分为 68.3,Kimi Hallu Bench w/o tools (Internal, lower is better) 得分为 5.4。在网络安全基准测试中,该模型在 ExploitBench 上得分为 74.7,在 ExploitGym 上为 20.7,在 xdev-bench-hard (Internal) 上为 81.0。模型卡说明,除基准名称明确注明越低越好外,得分越高越好;Elo 得分及其他特定于基准测试的指标不能直接与准确率或通过率得分比较。
Kimi K3.1 Pro API 支持兼容的请求格式
选择 kimi-k3.1-pro,即可通过 https://platform.kimi.ai 使用 Kimi K3.1 Pro API。Moonshot AI 表示,该 API 兼容 OpenAI/Anthropic。模型的 reasoning_effort 请求字段支持 "low"、"high" 和 "max",默认值为 "max"。
对于多轮对话和工具调用,模型卡说明,应将 API 返回的完整 assistant 消息原样传回 messages,包括 reasoning_content 和 tool_calls,而不只是 content。该模型采用 Kimi K3.1 Pro License 发布。模型页面链接到使用指南,涵盖视觉输入、结构化输出、partial mode、工具选择、动态工具加载和上下文缓存。
Kimi K3.1 Pro 规格与访问详情
- Kimi K3.1 Pro 是一款开放权重、原生多模态的智能体模型,也是 K3.1 系列的首款模型。
- 该模型拥有 100 万 token 的上下文窗口;模型摘要列出的上下文长度为 1048576。
- 该模型采用混合专家(MoE)架构,拥有 2.8 万亿总参数和 1040 亿激活参数。
- 该模型有 93 层和 1 个稠密层。
- 其注意力层构成为 69 KDA + 24 Gated DSA。
- 其注意力隐藏维度为 7168,并有 96 个注意力头。
- DSA 索引头维度为 128,DSA 索引头数为 32,DSA 索引 top-K 为 2048。
- 潜在 MoE 维度为 3584,每个专家的 MoE 隐藏维度为 3072。
- 该模型有 896 个专家,每个 token 选择 16 个专家,并有 2 个共享专家。
- 其词汇表大小为 16 万。
- 其注意力机制为 KDA & Gated DSA,激活函数为 SiTU-GLU。
- 视觉编码器为 MoonViT-V2,拥有 4.01 亿参数。
- 量化方式为 MXFP4 权重 / MXFP8 激活(量化感知训练);列出的模态为文本和图像。
- 选择 kimi-k3.1-pro,即可通过 https://platform.kimi.ai 使用 API;该 API 被描述为兼容 OpenAI/Anthropic。
- reasoning_effort 字段支持 "low"、"high" 和 "max";默认值为 "max"。
- 对于多轮对话和工具调用,必须将包括 reasoning_content 和 tool_calls 在内的完整 assistant 消息原样传回 messages。
常见问题
Kimi K3.1 Pro 的上下文长度是多少?
Kimi K3.1 Pro 被描述为拥有 100 万 token 的上下文窗口。其模型摘要列出的上下文长度为 1048576。
开发者如何使用 Kimi K3.1 Pro?
选择 kimi-k3.1-pro,即可通过 https://platform.kimi.ai 使用 API。Moonshot AI 表示,该 API 兼容 OpenAI/Anthropic。
Kimi K3.1 Pro 支持哪些推理强度设置?
reasoning_effort 请求字段支持 "low"、"high" 和 "max",默认值为 "max"。