Ollama 在新版本发布说明中表示,已修复切换模型或复用现有历史记录时无法继续对话的问题。根据发布说明,工具调用的顺序错误也已修复,开发对话式服务的人员还可通过命令行和 API 查看各模型的对话处理信息。
1. 修正切换模型后的对话续接
Ollama 在 v0.40.7 发布说明中表示,已修复兼容 OpenAI 的 Responses API 的对话续接问题。修复针对在支持思考过程功能与不支持该功能的模型之间切换时请求失败的情况。这项变更与在同一段对话中使用不同模型的服务有关。
另一项修复针对包含其他提供商压缩条目的对话历史记录。这些条目以缩减形式保存对话内容,发布说明称,已修复使用这类历史记录继续对话时请求失败的问题。Ollama 公布的修复范围不仅包括模型切换,也包括复用外部历史记录的路径。
两项修复的共同点在于生成新回答之前接收现有对话的过程。开发者检查服务时,除了测试新建对话,还可检查切换模型后继续提问或传入外部历史记录的情况。
2. 修复工具调用提前出现或重复的问题
在将响应拆分后依次发送的流式处理中,工具调用事件的顺序已得到修正。此前,承载推理内容这一生成回答的内部判断过程的条目尚未结束时,客户端工具调用就先出现,导致调用事件顺序混乱或重复。
汇总版本变更的发布说明以使用网页搜索的 Codex 为例。这里的重点不是新增搜索功能,而是修正推理内容与工具调用的传递顺序。此次修复纠正了工具调用信号出现在错误位置或反复出现的情况。
对于接收事件并显示工具执行状态的应用,这一顺序很重要。验证更新时,相比只看最终回答,同时检查工具调用以何种顺序到达,更适合判断此次修复的效果。
3. 也可查看模型处理对话的方式
Ollama 在发布说明中表示,模型信息查询新增了渲染器、解析器及聊天模板来源。渲染器与解析器是生成和读取对话格式的处理组件,聊天模板则是按模型要求编排对话内容的框架。根据发布说明,现在除了模型名称,还可一并查看这些处理信息。
Ollama 表示,可通过以下命令行命令查看这些信息。
ollama show根据发布说明,API 也通过新字段提供相同信息。Ollama 解释,renderer 和 parser 分别表示模型使用的渲染器和解析器。根据公告,此次变更让用户不仅能在命令行中手动查看,也能通过程序获取相同的值。
Ollama 解释,template_source 表示聊天模板的来源。这项来源信息为希望确认各模型对话格式配置的开发者提供了额外线索。
4. 检查对话路径与接入信息是应用关键
利用此次变更的起点,是查看服务使用了哪些对话路径。切换模型或接收其他提供商历史记录的服务,可重点检查对话续接;使用工具的服务,则可重点检查流式事件的流转。
模型信息展示的好处在于,更容易了解处理方式。若要将其用于服务的管理界面或自动检查功能,就需要完成读取并显示新响应字段的接入工作。将信息提供方的改进转化为实际管理便利,仍需客户端完成相应工作。
对话错误修复与信息展示的应用场景也不同。前者作用于继续现有对话的行为,后者则增加了观察模型配置的手段。因此,分别确认对话流程是否正常,以及是否利用了模型信息,是合适的做法。
Ollama v0.40.7 的核心在于修复对话中断或工具调用顺序混乱的问题,并增加查看模型对话处理方式的手段。
