Ollama 的新候选版本新增了面向编程和使用工具执行多步骤任务的模型。开发者可按模型名称直接运行,Linux 服务器运维人员也能减少因 GPU 库版本冲突而导致的模型运行失败。其做法是优先加载发行包内附的库,防止服务器上安装的其他版本介入。
1. 新模型支持与 Linux 修复从首个候选版本起就已纳入
MiMo 支持和 Linux 库修复从本次发布的首个候选版本起就已纳入。指向特定代码版本的 v0.40.15-rc2 标签与最终的 v0.40.15 标签指向同一提交,即保存代码变更的记录。因此,这个候选版本也能使用最终发布说明中介绍的新模型支持。
最终发布说明将小米 MiMo 的 9B 模型介绍为面向编程和智能体任务的模型,并宣布 Ollama 已提供支持。根据模型库说明,该模型基于 Qwen3.5-9B,通过面向特定用途的额外训练进行微调,能够处理文本和图像,并支持思考过程和工具使用。它提供最长 256K token 的上下文。
2. 按模型名称下载并直接运行
使用官方模型库中登记的名称即可运行。最终发布说明给出的运行示例如下。
ollama run mimo-v2.6Ollama 新增了将消息和工具调用转换为模型可理解的对话格式的渲染器,并复用 Qwen3.5 的解析器来解析响应。开发者无需自行拼接对话标记,而是由运行工具处理不同模型的格式差异。
模型库列出的应用示例包括理解陌生代码、排查错误并编写修复方案,以及参考屏幕图像进行实现。连接工具后,还可用于多步骤任务,因此不仅限于简单对话,也增加了用于开发工作的选择。
3. 公司评测中,工具任务得分高于基础模型
根据小米公布的评测结果,MiMo-V2.6-Distill-Qwen-9B 在 SWE Verified 中获得 61.1 分,在 SWE Pro 中获得 44.6 分。基础模型 Qwen3.5-9B 的得分分别为 60.0 分和 32.0 分。这两项评测均采用三次尝试平均值的 avg@3 指标。
工具与智能体任务采用以单次尝试为准的 avg@1 指标,对两个模型进行比较。以下为模型库所列结果,数值以公司公布的数据为准。
表:工具与智能体评测中各模型的得分
条件:Qwen3.5-9B 与 MiMo-V2.6-Distill-Qwen-9B,各项评测的指标均为 avg@1。
单位:分数
| 评测 | Qwen3.5-9B | MiMo-V2.6-Distill-Qwen-9B |
|---|---|---|
| AutomationBench v1.0.6 | 5.0 | 30.3 |
| Terminal Bench 2.1 | 27.0 | 37.1 |
| Toolathlon-Verified | 25.9 | 35.2 |
在表中的各项评测中,新模型的得分均高于基础模型。详细评测设置和更多结果可参阅整理了模型配置与用法的模型卡及技术报告。
4. 优先加载发行包中的库以解决版本冲突
在 Linux 上负责运行模型的 MLX 会加载 CUDA 库。但 NVIDIA 的部分库只在自身目录中查找所需的其他文件,导致系统选择了服务器上安装的副本,而非发行包内附的副本。如果两个副本版本不匹配,就无法加载 MLX。
即使在运行过程中更改库搜索路径,也不会影响服务器自身加载 MLX 的阶段。本次修复不再依赖搜索路径设置,而是在加载 MLX 之前,使用从起始位置完整指定文件位置的绝对路径,预先将所需的内附文件加载到内存中使用。
负责加载所需库的加载器,会沿着库文件中记录的文件需求关系,即依赖关系,先加载所需文件。此处理仅在 Linux 上执行。这相当于不再任由服务器偶然找到同名文件,而是先与发行包中的副本建立连接。
5. 运行便利背后是维护库的责任
开发者可以将新模型的对话格式交给运行工具处理,服务器运维人员则能少面对一种与系统已安装 CUDA 副本冲突的原因。但预先加载的库会保留到程序结束。这种方式将选择并持续保留发行包副本的责任移到了程序内部。
本版本为开发者提供了直接使用新模型的途径,并通过在 Linux 服务器上直接预备内附的 CUDA 库,减少运行失败。
