Ollama v0.40.7：Responses APIの修正、モデルメタデータの公開

1. モデルを切り替えても会話を続けられるよう修正

Ollamaはv0.40.7のリリースノートで、OpenAI互換のResponses APIにおける会話の継続を修正したと発表した。思考過程を扱う機能があるモデルとないモデルの間を切り替える際に、リクエストが失敗していた問題が対象だ。1つの会話で異なるモデルを使うサービスに関わる変更となる。

もう1つの修正対象は、他のプロバイダーの圧縮項目を含む会話履歴だ。これは会話内容を短くまとめた項目で、リリースノートによると、こうした履歴を使って会話を続ける際にもリクエストが失敗していた問題を修正した。Ollamaが示した修正範囲には、モデルの切り替えだけでなく、外部から受け取った履歴を再利用する経路も含まれる。

2つの修正に共通するのは、新しい回答を生成する前に既存の会話を受け入れる過程にある。サービスを点検する開発者は、新しい会話を始める場合とは別に、モデルを切り替えた後に続けて質問したり、外部の履歴を渡したりする場合を確認できる。

2. ツール呼び出しが先行したり重複したりする問題を修正

応答を分割して順次送信するストリーミング処理では、ツール呼び出しイベントの順序が修正された。回答を作る内部の判断過程である推論内容を含む項目がまだ開いている状態で、クライアントのツール呼び出しが先に出力され、呼び出しイベントの順序が乱れたり重複したりする問題があった。

バージョンの変更点をまとめた文書であるリリースノートは、ウェブ検索を使うCodexをその例に挙げた。ここで重要なのは検索機能の追加ではなく、推論内容とツール呼び出しを伝える順序の修正だ。ツールの呼び出しを指示する信号が誤った位置に現れたり、繰り返し現れたりしていた状況を是正した。

イベントを受け取ってツールの実行状態を表示するアプリケーションにとって、この順序は重要だ。更新を確認する際は、最終的な回答だけを見るより、ツール呼び出しがどの順序で届くかも点検するほうが、今回の修正の効果を把握するのに適している。

3. モデルが会話を処理する方法も確認

Ollamaはリリースノートで、モデル情報の照会にレンダラーとパーサー、チャットテンプレートの出所を追加したと発表した。レンダラーとパーサーは会話形式を作成・読み取りする処理要素で、チャットテンプレートはモデルに合わせて会話内容を配置する枠組みだ。リリースノートによると、モデル名に加えて、こうした処理情報も確認できるようになった。

Ollamaがこの情報を表示するとしたコマンドラインのコマンドは、次のとおりだ。

ollama show

リリースノートによると、APIも同じ情報を新しいフィールドで提供する。Ollamaは、rendererとparserがそれぞれモデルの使うレンダラーとパーサーを示すと説明した。発表によると、コマンドラインで人が確認するだけでなく、プログラムでも同じ値を取得できるようになった。

Ollamaの説明によると、template_sourceはチャットテンプレートがどこから来たかを示す。この出所情報は、モデルごとの会話形式の設定を確認したい開発者にとって、追加の手がかりとなる。

4. 会話経路の点検と情報連携が活用の鍵

今回の変更を活用する出発点は、サービスがどの会話経路を使っているかを調べることだ。モデルを切り替えたり他のプロバイダーの履歴を受け取ったりするサービスは会話の継続を、ツールを使うサービスはストリーミングイベントの流れを中心に確認できる。

モデル情報の公開による利点は、処理方法を把握しやすくなったことにある。これをサービスの管理画面や自動確認機能に活用するには、新しい応答フィールドを読み取って表示する連携作業が必要だ。情報を提供する側の改善を実際の管理の利便性につなげる作業は、クライアント側に残る。

会話のエラー修正と情報の公開では、活用する箇所も異なる。前者は既存の会話を続ける動作に適用され、後者はモデル設定を観察する手段を増やす。そのため、会話の流れが正常に動作するかと、モデル情報を活用しているかを、それぞれ確認する方法が適切だ。

Ollama v0.40.7の要点は、会話が途切れたりツール呼び出しの順序が乱れたりする箇所を修正し、モデルの会話処理方法を確認する手段を増やしたことにある。