Ollama 在新版本中加入了一款可直接在电脑上运行、处理图像和文档的小型人工智能模型。开发者可以用比现有大型版本更小的下载量,测试读取视觉资料并多次调用工具的任务。

1. 新增处理图像和工具的小型模型

10月23日发布的 Ollama v0.40.10 将 NVIDIA 的 Nemotron 3.5 Bolt E4B 列为新增模型。发布说明将快速本地对话、图像理解和工具使用列为主要用途,并标示上下文为 128K,即模型在对话中可参考的信息范围。

据 Ollama 模型库介绍,该模型由 NVIDIA 基于 Gemma 4 E4B 进一步训练而成。其总参数,即模型在学习过程中调整的数值,为 80亿个,其中有效参数为 40亿个。该配置面向指令执行和多轮工具使用。

此次新增模型的意义在于,不仅能回答文本问题,还能用同一个本地模型尝试图像相关任务。模型库说明它可处理图像、截图、图表和文档。

2. 将视觉资料查看与工具调用相结合

图像理解是将屏幕内容或文档作为提问资料的功能。工具使用则是调用所需函数,并将返回结果用于下一步任务。开发者可以一并测试读取视觉资料,以及接收工具结果后继续执行任务的步骤。

模型库还介绍了在回答前开启或关闭推理的功能,推理即生成答案所需的内部计算过程。这意味着可以根据用途选择是否使用推理。

同时提供辅助生成的 DFlash 草稿模型。这种配置在主模型旁配备一个辅助起草的模型,模型库援引公司的说明称,它通过推测解码,即利用草稿提前生成后续语句的方式,加快生成速度。

3. 降低下载负担,但上下文更短

在模型库的模型列表中,E4B 的下载大小为 7.2GB~7.9GB。同一列表中的较大基础版本标为 25GB。需要下载并保存的文件更小,可降低引入本地模型时的存储空间负担。

另一方面,E4B 的上下文为 128K,较大基础版本为 256K。这提供了一个比较点,可用来判断任务更需要较小文件还是更长上下文。对于希望延续较长对话和工具结果的用户,上下文也是下载大小之外的选择标准。

实际可用的上下文取决于内存条件,图像、对话记录、工具结果和输出会共享这一空间。两份资料均未提供可用于比较处理速度或质量的测量值,因此无法将生成加速的说明换算为具体性能差异。

4. 指定小型版本的标签运行

模型库说明 E4B 支持 Windows、Linux 和 Apple Silicon。在终端中可使用发布说明中的以下命令运行。

ollama run nemotron-3.5-bolt:e4b

其中,选择小型版本的是末尾的 e4b 标签,即区分模型版本的名称。模型库列表中的 latest 指向 25GB 基础模型,因此要测试小型模型,可按提供的运行示例指定目标。

模型库页面还提供了该系列通用的 Python 和 JavaScript 聊天调用示例。这意味着,除在终端中对话外,也提供了接入程序聊天功能的入口。

对于希望连接编程工具的用户,还提供了指定模型并运行 Claude Code 和 OpenCode 等工具的说明。此次发布的重点不是新的调用规则,而是让用户在处理图像和工具的本地任务中,可以选择更小的模型。

E4B 在下载大小与上下文之间作出取舍,为测试本地图像处理和工具使用增加了选择。