llama.cpp v1.0.0：互換性の基準、サーバー機能の拡張

1. メジャーバージョンが互換性の境界を示す

開発チームは2026年11月13日、llama.cppと基盤となる演算ライブラリーggmlのv1.0.0を公開した。今後、公開C APIやビルド済みプログラムとの互換性が失われる際は、先頭のバージョン番号を上げ、連携する製品に変更の境界を知らせる。

バージョン規則は3段階だ。公開C APIを破る変更は、互換性の境界が変わる大きな版のメジャーとする。既存の使い方を維持した機能・モデルサポートの追加は、新機能を加える中間の版のマイナーとする。API変更のないバグ修正は、機能を追加せず不具合を直す版のパッチとする。リリースごとの変更一覧を読む前に、連携コードの修正が必要かを見積もる手がかりになる。

2. 公開APIの整理と推論機能の追加

今回は公開ヘッダーから非推奨の関数35個と、初回実行を準備するウォームアップ関数を削除した。メモリーが細かく分かれるメモリー断片化のしきい値設定も廃止した。次の出力を先に提案して検証する生成方式、投機的デコーディング用APIは、補助ヘッダーから基本ヘッダーに移した。既存APIを直接呼び出す製品は、削除された関数の使用有無から確認できる。

複数の専門処理部を選んで使う混合エキスパートモデルには、処理を分担するエキスパート部分を主記憶に保存するキャッシュが追加された。キャッシュサイズや、必要なエキスパートがキャッシュにない場合にCPUで処理する割合を調整でき、モデルの実行リソースを配分する選択肢が広がった。

3. モデルとハードウェアのサポート範囲を拡大

リリースでは、テキストモデルの構造3種類と音声合成モデルのサポートが追加された。新しいテキストモデルにはKimi-K3.1-ProとRipple-65B-Previewが含まれる。開発チームの発表によると、現在サポートするモデル構造の派生型は150種類を超える。

音声・画像処理の範囲も広がった。Gemma 4のストリーミング音声入力をサポートし、MageVL-Coworkのような画像を扱うモデルも追加した。テキストでの対話に音声や画像を組み合わせる製品で活用できる変更だ。

ハードウェア別の実行を担うバックエンドは、実行中に読み込む共有コードファイルである動的ライブラリーとしてビルドし、必要な時に読み込める。今回はCUDAとMetalの量子化行列演算、つまり低精度で行列を計算する方式をはじめ、複数のバックエンドの演算経路も改善した。2つの原文には、改善幅を比較する性能測定値は示されていない。

4. サーバーのセキュリティーと利用フローの変更

llama-serverは、サーバーが意図しないアドレスへリクエストを送るよう悪用される問題や、ブラウザーから子インスタンスへ直接アクセスする問題などを修正した。認証なしでのツール利用や、公開インターネットから直接アクセスしないプライベートアドレスのメディアへのアクセスを、明示的に許可する設定を追加した。

外部ツールの接続規約を使うMCP呼び出しは、クライアントの接続が切れたりタイムアウトしたりするとキャンセルし、ツールサーバーにも通知する。

サーバーが休止するタイミングも調整した。リクエストがサーバーの状態を使用している間は、省電力状態に入らないようにした。

サーバーにはOpenAI互換の音声合成APIが追加された。

ウェブ画面では、会話を名前付きグループにまとめ、記号で文書の書式を指定する構文であるMarkdownをプレビューしながら、長いメッセージを編集できる。

5. 連携の安定性と移行コスト

バージョン規則とサポート範囲の拡大は、連携の保守や新モデルの導入に役立つ。その一方、今回の移行では削除・名称変更されたAPIを確認し、一部の画像モデルの読み込み条件が厳しくなったことに合わせ、モデルファイルや読み込み経路を点検する作業が伴う。

実行設定を調整したい利用者は、キー・バリューキャッシュを8ビット浮動小数点形式で保存する選択肢も使える。リリースノートが示す関連オプションの表記は次のとおりだ。

-ctk/-ctv f8_e4m3

ブログでは、主要なデスクトップ・モバイルOS向けのプレリリースビルドと、コンテナー・パッケージの配布経路を案内した。利用者は既存のインストール方法に合うチャネルを確認し、APIを直接連携させている場合は、呼び出し部分の点検をアップグレード手順に含められる。

v1.0.0の要点は、機能拡張とともに互換性の変化をバージョンで示し、連携する開発者がアップグレードの影響を判断する基準を設けたことにある。