LocalAIがブラウザーを閉じても会話の処理を続ける機能とデスクトップアプリを公開した。個人ユーザーはアプリからモデルサーバーをインストールしたり、別のサーバーに接続したりできる。既存サーバーを運用するチームは、会話・エージェント連携とデータ移行の準備が必要だ。
1. 会話処理の中心がブラウザーからサーバーへ移る
LocalAIプロジェクトが11月18日に公開したv5.0.0では、サーバーが会話の履歴と実行を担う。ユーザーがブラウザーのタブを閉じても処理が続く仕組みだ。応答生成中に送ったメッセージはキューに入り、モデルの次の実行段階に渡される前なら編集や破棄ができる。
モデルはサブエージェントに作業を分担でき、バックグラウンドでは最大四つを実行する。長い会話は圧縮して継続する。目標を指定する/goalは複数回にわたって作業を進め、既定の上限は20ターン、400ステップだ。
マイクと音声認識・音声出力モデルがあれば、手を使わず音声で会話できる。音声データはユーザーのLocalAIサーバーにとどまる。
2. デスクトップアプリでサーバーのインストールと接続を選ぶ
新アプリはAppleシリコン搭載Macと、プロセッサーの命令セットアーキテクチャがx86-64・ARM64のLinux環境向けに提供される。初回起動時に、このコンピューターでサーバーを動かすか、別のサーバーに接続するかを選ぶ。サーバーのインストール・更新・起動・終了をアプリで行い、複数のサーバーを登録して管理できる。
従来のランチャーから新アプリへ切り替えるには、新しいファイルを一度ダウンロードする。モデルやバックエンド、実際の処理を担う内部構成要素の設定は従来のフォルダーに残る。デスクトップアプリを使わずサーバーを直接インストールする原文のコマンドは次のとおりだ。
curl -sSL https://localai.io/install.sh | sh3. ファイルとプロジェクトを会話につなぐ
ファイル画面では、フォルダー・ファイルのアップロード、プレビュー、文書本文の検索ができる。ユーザーとモデルによる変更は同じ変更履歴に残り、元に戻せる。会話で扱うファイルを、別の作業画面でも管理する方式だ。
追加インストールするSimple Officeは、Word・Excel・PowerPoint文書の読み取り、編集、作成に対応する。ユーザーが持つテンプレートでプレゼンテーション資料を作ることもできる。
Linux向けサンドボックスは、ほかのシステムから分離して実行する環境だ。ファイルを接続した隔離実行環境でPythonとシェルコマンドを実行し、既定ではネットワークを遮断する。
プロジェクトは一つのフォルダーを中心に会話をまとめ、会話の各ターンで読むメモを保管する。モデルがメモの変更を提案すると、ユーザーの承認後に保存する。
アカウントを持つサーバーでは、フォルダーや保存済みエージェントなどを特定のユーザーまたは全員に共有できる。
4. 既存の会話・エージェント連携には移行手順が必要になる
一般的なモデル呼び出しとサーバーの会話管理機能では、アップグレードの影響が異なる。OpenAI互換の/v1/chat/completionsはそのまま維持される。一方、既存の会話・エージェント管理APIの一部は削除され、新しいパスへ移す必要がある。
従来の/api/agentsと/api/conversationsへのリクエストは404を返す。
新しい構造では/api/chatsが会話を、/api/chats/agentsが保存済みエージェントを扱う。
初回起動時にサーバーはディスクとデータベースの既存データを新しい会話・エージェント構造に変換し、元のデータは保持する。自動実行項目や外部ツールとの接続などは変換後に無効になるため、運用担当者が確認してから再度有効にする。ブラウザーにしかなかった会話は別途インポートする。
資料を集めて管理する単位であるコレクションの管理APIは、旧パスでも廃止予定の通知付きで引き続き動作する。設定にも、旧名称が警告付きで互換性を保つ項目と、もはや反映されない項目があるため、移行ガイドの確認が必要だ。
音声構成ではliquid-audioバックエンドが削除された。リリース案内は、llama-cppベースの新しい音声モデルを代替手段として示している。
StudioとTalkは、機能を追加するインストール要素である個別のアドオンに移された。管理者がインストールし、ユーザーに利用権限を付与する。
プロジェクトフォルダーは会話を整理する単位であり、ファイルアクセスを制限する権限の境界ではない。既存のLFM2-AudioとLFM2.5-Audioには代替モデルがない。
5. 機能拡張の利点と既存運用のコストがともに増す
プロジェクトのリリースノートにある開発規模の数値は、v4.12.1とリリース準備時点との比較だ。以下の表は、この比較範囲の変更量とモデル項目数をまとめたものだ。
表:LocalAI v5.0.0の開発規模とモデルライブラリーの変化
条件:v4.12.1とリリース準備時点のスナップショットを比較、プロジェクトのリリースノートに基づく
単位:件(リクエスト・コミット)、個(ファイル・モデル項目)
| 項目 | 値 |
|---|---|
| マージされた変更リクエスト | 130 |
| マージコミットを除くコミット | 1,432 |
| 変更されたファイル | 7,310 |
| 機能追加の変更リクエスト | 41 |
| ユーザー向け修正の変更リクエスト | 35 |
| 旧モデルライブラリーの項目 | 2,212 |
| 新モデルライブラリーの項目 | 2,325 |
| 追加されたモデル項目 | 134 |
| 削除されたモデル項目 | 21 |
リリースノートによると、バックエンドは80個を超える。モデルライブラリーでは追加と削除の両方が行われた。今回の移行はモデルの選択肢を広げるだけでなく、サーバーが会話の実行とファイル作業を併せて担う利用の流れへの転換に重点が置かれている。
ユーザーはタブを開いたままにせず作業を継続し、アプリでサーバーを管理できる利便性を得る。その代わり、既存の運用チームには連携の修正、データ変換の点検、アドオンのインストールと権限管理が移行作業として加わる。
LocalAI v5.0.0の導入価値は会話の継続性と管理の利便性にあり、既存運用チームの移行範囲は利用中の連携と運用方法によって決まる。
