Ollama v0.40.13：LFM3のLinux対応、Windows対応

1. LFM3モデル群の対応OS拡大

Ollama v0.40.13のリリースノートによると、Liquid AIのLFM3モデルは従来のAppleシリコンに加え、LinuxとWindowsでも動作する。

対応対象にはテキストモデルのほか、lfm3-audioとlfm3-omniの音声合成、つまり文章を音声にする機能も含まれる。そのため、新たな対応範囲は文章のやり取りだけでなく、モデルによる音声生成にも及ぶ。

2. ローカルエージェント向け1.7Bテキストモデル

OllamaライブラリはLFM3-1.7Bをローカルエージェントと専門分野の用途向けテキストモデルとして紹介している。全24層にゲート付き短畳み込み13層、スライディングウィンドウアテンション5層、グローバルアテンション6層を組み合わせた構造で、基本学習後にエージェント用途に合わせて追加学習したモデルだ。

主な用途として、モデルが他のプログラムの機能を使う外部ツール呼び出し、定型出力、特定分野に合わせてモデルを追加訓練するファインチューニングを挙げている。汎用的な対話だけを狙うのではなく、利用者のツールや業務形式に合わせた活用を重視している。

表：LFM3-1.7Bのコンテキスト上限・容量・メモリ記載値

条件：Ollamaライブラリとモデルカードの記載値。メモリは4ビット精度が基準で、ハードウェア・実行環境の条件は原文に記載なし

単位：コンテキスト上限はトークン、容量とメモリはGB

256Kは入力だけの上限ではないため、長い文書を入力する際も生成する出力量を含めてコンテキスト予算を割り当てる必要がある。ライブラリの容量表示とモデルカードのメモリ使用量は異なる指標であり、同じ基準の性能比較値ではない。

3. 実行とアプリケーション連携

コマンドラインでモデルを起動するにはollama run lfm3を実行する。ローカルチャットAPIの使用例は、ライブラリページに次のように掲載されている。

curl http://localhost:11434/api/chat \
  -d '{
    "model": "lfm3",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

この例はローカルチャットAPIにモデル名と会話内容を送る形式だ。ライブラリはPythonとJavaScriptでの接続方法も案内しており、コマンドラインで対話する方法とアプリケーションコードに組み込んで使う方法の両方を確認できる。

エージェント実行ツールと連携するコマンドも提供している。例えばHermes Agentはollama launch hermes --model lfm3で起動できる。モデルカードもこのツールを追加学習の対象として明記しており、実行例とモデルの目指す用途を併せて示している。

4. 用途に応じた利点と限界

ローカル実行の利点は利用者のコンピューター内でエージェント向けモデルを運用できることだが、モデルを載せるメモリはその機器で確保する必要がある。4ビット精度では、同社が示す約1GBのメモリ使用量をローカル配置の判断基準にできる。ライブラリの容量表示ではなく、この条件付きのメモリ値を機器のメモリ予算と照合する必要がある。

同社の説明では、分野別の用途に向けたファインチューニングは単一GPUで迅速に実行できる。提供モデルをそのまま実行しつつ、自分の分野・出力形式・ツールに合わせた調整が必要なら、単一GPUでのファインチューニングを検討できる。

モデルカードは、小型であることを理由に、エージェントによるコーディングや複雑な複数の段階を経て答えを導く多段階推論には推奨していない。多くの知識が必要な作業では、必要な情報を検索して併用するよう案内している。

今回の更新の要点は、LFM3モデル群をLinuxとWindowsのOllamaワークフローに加えて選択肢を広げ、モデルの小さなサイズに適したエージェント用途や特化用途を狙うことにある。