Kimi K3.1 Pro 接入 Featherless API,支持 25.6 万上下文

关键要点

  • Featherless 于 2026 年 11 月 5 日将 Kimi K3.1 Pro 集成到其 API 中,比 Moonshot 于 11 月 4 日发布模型权重晚一天。
  • Kimi K3.1 Pro 的总参数量为 2.8 万亿,每个代币激活 1040 亿参数,并以 Gated DeepSeek Sparse Attention 替换了 24 个全注意力层。
  • Featherless 开发者计划的收费标准为每百万个输入代币 2 美元、每百万个输出代币 10 美元,与 Moonshot 官方 API 费率一致。

Featherless 于 2026 年 11 月 5 日将 Moonshot 的 Kimi K3.1 Pro 添加到其 API。Moonshot 于 11 月 4 日发布了模型权重,距该模型在其自有 API 上线仅 12 天。Featherless 通过与其目录中的 40,000 多个开放模型共用的 OpenAI 兼容 API 提供该模型,并且不会记录提示词或补全内容。

Kimi K3.1 Pro 替换 K3 注意力层

Kimi K3.1 Pro 基于 Kimi K3 进行后训练,并保留了其标志性的模型规模:总参数量 2.8 万亿,每个 token 激活 1040 亿个参数,共 93 层,每个 token 路由至 896 个专家中的 16 个,另有两个共享专家。

注意力堆栈在 24 层中有所变化。K3 将 Kimi Delta Attention 与全注意力 Gated MLA 层交错排列;K3.1 Pro 保留 69 个 KDA 层,并将 24 个全注意力层替换为 Gated DeepSeek Sparse Attention。其索引器运行 32 个头,每个头维度为 128,并选取 top-K 中的 2,048 个键。Moonshot 表示,被替换的层是那些成本会随整个序列增长的层,而替换这些层后,百万 token 窗口便有望以可服务的价格实现。

Moonshot 还介绍了在数百个下游领域开展的大规模联合强化学习,提升主要集中在长周期智能体任务,而非单轮知识任务。视觉功能使用与 K3 相同的 MoonViT-V2 编码器,参数量为 4.01 亿;模型以文本和图像为输入,以文本为输出。权重采用 MXFP4,激活采用 MXFP8;Moonshot 表示,训练模型时就是以这种精度进行服务部署为目标。

Kimi K3.1 Pro 基准测试结果与报告注意事项

Moonshot 的模型卡将 Kimi K3.1 Pro 与 Claude Opus 5.5、GPT-6 Astra、Claude Fable 5.1、DeepSeek-V4.1-Flash 和 GLM-5.3 进行了比较。报告结果显示,Kimi K3.1 Pro 在 Terminal-Bench 4.0、SWE Marathon v1.1、使用工具的 HLE-Full、BrowseComp、GPQA-Diamond、Program Bench 和 HLE-Diamond 上分别得分 65.7、51.7、70.0、92.1、94.2、31.5 和 39.4。

在相同基准测试中,报告的 Claude Opus 5.5 得分依次为 66.4、46.3、67.7、90.8、93.9、65.0 和 60.9。GPT-6 Astra 得分依次为 58.2、42.5、57.2、91.5、96.1、50.0 和 65.8。GLM-5.3 在 Terminal-Bench 4.0 上得分 41.8,在 SWE Marathon v1.1 上得分 42.5,在使用工具的 HLE-Full 上得分 62.5,在 BrowseComp 上为 —,在 GPQA-Diamond 上得分 91.7,在 Program Bench 上得分 19.0,在 HLE-Diamond 上得分 25.1。

文章称,Kimi K3.1 Pro 在 SWE Marathon v1.1 上领先 Opus 5.5 5 分,在使用工具的 HLE-Full 上领先,并在 BrowseComp 上略胜一筹。文章还指出,Opus 5.5 在 Program Bench 上得分 65.0,高于 Kimi K3.1 Pro 的 31.5;GPT-6 Astra 在 HLE-Diamond 上得分 65.8,高于 Kimi K3.1 Pro 的 39.4,在 Terminal-Bench-Science 上得分 68.1,高于 Kimi K3.1 Pro 的 38.1。文章认为,在最难的单轮推理任务中,闭源模型仍占据优势。

这些数据来自 Moonshot 自行报告。K3.1 Pro 的结果是在 Moonshot 的最高推理设置、温度 1.0 和 top-p 0.95 下测得。其他模型的结果取自各供应商使用不同智能体框架发布的数据;模型卡指出,不同框架得出的分数并不能严格比较。

Moonshot 表示,在发布权重前已移除与黑客攻击有关的训练数据。据其报告,未删减版本在其内部漏洞利用基准测试中解决了 90.5% 的任务,而发布的模型为 81%;Kimi K3 在同一测试集上的得分为 33.3%。在公开的 ExploitBench 上,发布的模型得分为 74.7,Opus 5.5 则为 91.0。文章将这些网络安全得分描述为有意降低,而非能力上限。

Featherless 以 256K 上下文提供 Kimi K3.1 Pro

Featherless 目前以 256K 上下文提供 Kimi K3.1 Pro,并启用了 MXFP4 量化和视觉功能。该模型的原生上下文窗口为 1,048,576 个 token;文章称,Featherless 正在努力将其服务上下文扩展至接近这一窗口长度。专用实例可使用完整窗口。

开发者可以通过 Featherless 的 OpenAI 兼容 API 调用该模型,模型标识符为 moonshotai/Kimi-K3.1-Pro。对于多轮任务,文章建议将完整的 assistant 消息传回,而不只是传回其内容;文章指出,在多轮对话中丢弃推理块,是模型在评测框架中的表现通常不如排行榜成绩的常见原因。

在 Developer 计划下,Featherless 对每百万个输入 token 收费 $2,对每百万个缓存输入 token 收费 $0.20,对每百万个输出 token 收费 $10。文章称,这些费率与 Moonshot 自有 API 的收费相同。缓存输入的费用比 Kimi K3 在 Featherless 上低三分之一;Kimi K3 的缓存输入收费为每百万个 token $0.30。Featherless 表示不会记录提示词或补全内容。

Kimi K3.1 Pro 权重附带使用条件

该模型采用开放权重,其权重可在 Hugging Face 上获取,依据的是 Kimi K3.1-Pro License;文章指出,这是 Moonshot 自有许可证,并非 OSI 批准的许可证。该许可证允许有条件的商业用途。文章指出,主要条件是:当集团营收超过 2000 万美元时,转售推理访问权限需与 Moonshot 另行签订协议;内部使用以及将模型嵌入某项功能的产品不受此限制。训练数据和训练方案未公开。

文章称,这些权重总计约 1.56TB,分布在 96 个分片中;本地运行的最低配置是由 8 张 B300 级加速器组成的张量并行组。8xH200 节点的内存不足以容纳这些权重本身。

Kimi K3.1 Pro 规格、定价与访问条款

  • Moonshot 于 11 月 4 日发布了 Kimi K3.1 Pro 权重,距该模型在其自有 API 上线仅 12 天。
  • Kimi K3.1 Pro 的总参数量为 2.8 万亿,每个 token 激活 1040 亿个参数。
  • 其架构包含 93 层,每个 token 路由至 896 个专家中的 16 个,另有两个共享专家。
  • 它保留了 69 个 Kimi Delta Attention 层,并将 24 个全注意力层替换为 Gated DeepSeek Sparse Attention。
  • 稀疏注意力索引器运行 32 个头,每个头维度为 128,并选取 top-K 中的 2,048 个键。
  • 视觉功能使用参数量为 4.01 亿的 MoonViT-V2 编码器;模型接受文本和图像作为输入,并生成文本。
  • 权重采用 MXFP4,激活采用 MXFP8。
  • Featherless 以 256K 上下文提供该模型;其原生上下文窗口为 1,048,576 个 token。
  • Developer 计划的费率为每百万个输入 token $2、每百万个缓存输入 token $0.20,以及每百万个输出 token $10。
  • API 调用的模型标识符为 moonshotai/Kimi-K3.1-Pro。
  • Hugging Face 上的权重总计约 1.56TB,分布在 96 个分片中。
  • 许可证要求:集团营收超过 2000 万美元后,转售推理访问权限需与 Moonshot 另行签订协议;内部使用以及将模型嵌入某项功能的产品不受此限制。

常见问题

Featherless 为 Kimi K3.1 Pro 提供多长的上下文?

Featherless 为 Kimi K3.1 Pro 提供 256K 上下文。该模型的原生窗口为 1,048,576 个 token,专用实例可使用完整窗口。

Kimi K3.1 Pro 在 Featherless 上的费用是多少?

在 Developer 计划下,每百万个输入 token 收费 $2,每百万个缓存输入 token 收费 $0.20,每百万个输出 token 收费 $10。文章称,这些费率与 Moonshot 自有 API 的费率相同。

Kimi K3.1 Pro 是开源的吗?可以在本地运行吗?

Kimi K3.1 Pro 采用开放权重,但其 Hugging Face 权重使用 Moonshot 的 Kimi K3.1-Pro License,该许可证未获 OSI 批准。文章称,这些权重总计约 1.56TB,分布在 96 个分片中;要在本地运行,至少需要由 8 张 B300 级加速器组成的张量并行组;8xH200 节点的内存不足以容纳这些权重本身。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论