Moonshot AI 发布了面向处理长文档和大型代码库的开发团队的 Kimi K3.1 Pro。它提供100万 token 上下文和可下载的模型权重,开发团队可通过 API 使用,也可部署到自有基础设施。
1. 一次处理长篇资料的100万 token 上下文
Kimi K3.1 Pro 是基于 Kimi K3、扩大后训练的新系列首款模型;后训练是对现有模型继续训练的阶段。公司表示,通过根据奖励提升性能的强化学习,对数百个任务领域进行了联合追加训练。为此,还改进了支撑训练和回答计算的基础设施。
根据模型卡,其准确上下文长度为1,048,576 token,支持文本和图像输入。整个模型学习到的数值即参数共有2.8万亿个,但每个输入 token 仅激活1040亿个。这种方式仅选择大模型的一部分进行计算。
公司解释称,将部分原本计算全部输入之间关系的层,改为选择必要关系进行计算,以更高效地处理长上下文。
公开仓库中的权重分为96个文件。
2. 编程与金融文档评测中公布的成绩
据公司公布,在终端中解决实际任务的 Terminal-Bench 4.0 评测得分为65.7%。评测采用最高推理设置,以 Claude Code 作为评测执行工具,选择候选输出的采样设置与下述金融文档评测相同。
在考察多阶段执行和工具使用的内部长期编程评测中,得分为61.2%,高于上一代模型的55.95%。
据公司公布,通过多角度图像重建三维形状的 BenchCAD 评测得分,在使用工具时为92.7%。该结果来自全部17,900个案例中随机抽取的1,000个,采用最高推理设置和 Claude Code 进行评测。
在分析金融文档的 OfficeQA Pro v2中,公司公布了以下结果。三个模型均以页面图像形式接收全部 PDF 资料,并通过 Claude Code 评测;表格仅筛选具备这些共同条件的公开模型。
表:金融文档分析评测中的公开模型结果
条件:OfficeQA Pro v2,全部 PDF 以图像形式提供,无机器可读文本,Claude Code,最高推理设置。Kimi 的采样设置为 temperature = 1.0, top-p = 0.95
单位:评测分数
| 模型 | 分数 |
|---|---|
| Kimi K3.1 Pro | 64.4 |
| DeepSeek-V4.1-Flash-1017 | 40.4 |
| GLM-5.3 | 31.1 |
采用相同文档输入方式和评测工具时,Kimi 比 DeepSeek-V4.1-Flash-1017 高24.0分,比 GLM-5.3 高33.3分。该评测涉及跨文档比对和多步骤数值推理,因此不仅展现了接收长篇资料的能力,也体现了查找依据并完成回答的实用性。
据公司公布,在考察公式关联和财务逻辑的内部金融建模评测中,比上一代模型提高了7.2分。在考察研究是否具备可审计依据的金融研究评测中,提高了11.6分。
据公司公布,内部事实性评测中按断言统计的幻觉率从23.4%降至8.3%。这指回答中各项事实断言里错误断言的比例。该幻觉率来自汇集易出错案例的压力评测,并非日常使用中的总体错误率。
3. 通过 API 使用或部署到自有服务器
根据博客使用指南,用户可通过网页和移动应用使用。面向工作的 Kimi Work 桌面应用需要3.1.0或更高版本。
在 Kimi Code 中,通过 /model 命令选择模型。
Kimi API 支持 OpenAI 和 Anthropic 兼容规范。API 客户也可选择不保留数据。
自行部署时,公司推荐用于计算模型回答的推理引擎包括 vLLM 和 SGLang 等。Hugging Face 页面上的 vLLM 安装与运行示例如下。
# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "moonshotai/Kimi-K3.1-Pro"进行多轮对话或调用工具时,必须将 API 返回的完整助手消息原样传入下一次请求。模型卡要求保留推理内容和工具调用记录。
4. 随运营控制权一同转移的负担
长上下文可以减少将资料切碎后输入的工作,开放权重则让组织能够自行运营、修改和再分发。但与此同时,存储和推理这个拥有2.8万亿参数的模型所需的基础设施负担,也转移到了自行运营的组织身上。
许可证允许修改和商业使用。但若用户或其关联公司向第三方提供可实质控制输入、参数、训练数据的模型服务,且其连续12个月合计营收超过2千万美元,则商业使用前须另签协议。仅为特定功能嵌入模型的最终产品,以及仅向第三方托管模型转发请求的服务,不在此模型服务定义之内。
若商业产品或服务的月活跃用户超过1亿或月营收超过2千万美元,则须履行在界面上醒目显示模型名称的标示义务。内部使用以及通过官方产品、认证推理合作伙伴使用时,不适用另签协议和名称标示条件。
Kimi K3.1 Pro 的核心在于同时提供处理长篇资料的能力和运营控制权,将开发团队的选择从使用服务扩展至自行部署。
