Ollama 发布了新版本,为在本地执行任务的智能体新增可衔接多个步骤的小型模型,并提升了 Apple silicon 的输入处理速度。开发者可按用途选择处理文本、图像和音频的模型,部分现有模型的提示处理,即将输入传给模型并进行处理的过程,也有望加快。
1. 按用途选择文本、图像和音频模型
2026年10月27日发布的 v0.40.12 的核心是支持 Liquid AI 的 LFM3。这一小型模型系列面向本地智能体、工具调用和结构化输出。需要调用工具并以指定格式接收结果的应用由此有了新选择。
基础文本模型 lfm3 的规模为 1.7B,上下文窗口,即一次可参考的输入范围,为 256K 个 token。同时还提供新增图像理解能力的 lfm3-vl。开发者可根据任务是专注文本,还是同时解读图像内容来选择。
lfm3-audio 支持以 18 种语言进行语音识别与翻译,以及将文字转为语音的语音合成。lfm3-omni 则在一个模型中处理文本、图像和音频。两者分别适用于以语音为主的任务和同时处理多种输入的任务。
2. 判断模型可用于账单咨询分类等任务
Liquid AI 的 d1 系列新增了基于 LFM3 的 2B 规模模型。该模型可针对文本和图像作出判断。
同系列的 d1-omni 还可处理音频。与前述模型按输入类型划分一样,判断模型也可根据待处理资料的类型来选择。
发行说明给出了一个运行示例:输入关于重复收费的句子,并询问其是否属于账单问题。这种方式针对输入提出具体问题以获得判断,只需一行命令即可了解模型的用途。
ollama run d1:2b "I was charged twice for order 4417." --ask "Is this a billing issue?"示例输入表示订单款项被收取了两次,问题则是询问这是否属于账单相关问题。考虑在本地实现咨询内容分类的开发者,可将这种提问形式作为起点。
3. Apple silicon 上现有模型的输入处理也得到改进
据公司公告,Gemma 4 和 Flint 在 Apple silicon 上的提示处理速度有所提升。Laguna 也在同一改进范围内。本次发布不仅新增模型,还调整了向现有模型传入输入并进行处理的阶段。
Gemma 4 经过调整,可保留小尺寸图像的更多细节。除了新增图像理解模型供选择,现有模型处理小尺寸图像的方式也得到了改进。
推理运行环境 MLX 支持利用 DFlash2 草稿模型进行推测解码,该草稿模型是一种预先尝试生成的辅助模型。这种方式通过提前提出后续 token 候选来辅助生成。除了改进提示处理,推理过程中的模型支持也有所扩展。
4. 同时衡量功能扩展的收益与支持环境的成本
开发者的收益在于可按任务选择的模型更多,而在评估是否引入时,运行模型所需的硬件会成为成本因素。除了查看功能列表,确认实际部署环境也变得重要。
根据发行说明,本版本的 lfm3 和 d1 2B 支持 Apple 硬件,Linux 和 Windows 支持将于后续提供。本次发行说明未以数值形式给出提示处理的改进幅度及测量环境。
可按引入目的是处理新的输入类型,还是改进现有模型的输入处理来分别评估。前者应优先考察各模型的功能配置,后者则应先确认正在使用的模型是否在改进范围内。
本次发布的价值不在于模型数量增加本身,而在于同时提供按任务选择模型的空间,以及对现有模型输入处理的改进。
