GitHub Copilot Fusionが、端末で動くモデルとクラウドモデルから使うものをリクエストごとに選ぶ機能を実験段階で公開した。Copilot CLI、Copilotアプリ、Visual Studio Codeの利用者は、機能を有効にしてモデルを用意すれば、毎回手動でモデルを切り替えずにローカルモデルを選択肢に含められる。

ローカルモデルとクラウドモデルを自動選択

GitHubの発表によると、リクエストごとにモデルを自動選択するインテリジェントルーティングは、正式提供前の試験公開である実験的プレビューで、利用者が選んで有効にする必要がある。設定後にCopilot FusionでStandardを選ぶと、Copilotが対応する端末内モデルとクラウドモデルから選択する。現在のセッションで使うローカルモデルを利用者が直接指定する方法もある。

機能はCopilot CLI、Copilotアプリ、Visual Studio Codeで提供される。ただし、サービス側が用意する管理型モデルをダウンロードして設定する方法と、自分で用意したモデルを接続する方法では、対応プラットフォームの範囲が異なる。この違いが、自動選択を利用できる利用者を分ける。

Windowsは管理型モデルの設定に対応

対応するWindows端末では、Windows MLプロバイダー経由でMAI Code 1.1 Flashをダウンロードして設定できる。Copilot CLIでは実験モードを有効にし、/modelを開いて案内に従う。Copilotアプリでは設定のモデルプロバイダーでWindows MLを構成し、実験設定でローカルモデルの自動ルーティングを有効にして、新しいセッションを開始する。Windows MLのローカルモデルはWindowsで標準で有効になるとGitHubは説明した。

Visual Studio Codeではchat.copilot.localModel.enabledを有効にする。モデルの準備ができたら、Copilot FusionでStandardを選んで自動選択を利用するか、そのセッションでローカルモデルを直接選べる。設定の手順はアプリごとに異なるが、自動ルーティングの動作は同じだ。

自分で設定したモデルはCLIで複数のOSに対応

管理型ダウンロードはWindowsに限られるが、利用者が自分で設定したモデルを使うCopilot CLIのローカルルーティングは、Windows、macOS、Linuxで動作する。MAI Code 1.1 FlashまたはQwen3.8 Flash Nextを、ローカルのOpenAI互換サーバー経由で接続できる。

この方法では、利用者がモデルのダウンロードと、モデル実行に必要なソフトウェア環境である推論ランタイムを管理する。また、端末でモデルを動かすための十分な計算リソース、つまり端末の処理能力が必要だ。対応するローカルモデルプロバイダーとしてモデルを設定し、実験的なローカルルーティングを有効にしてStandardを選ぶと、Copilotが条件を満たすローカルモデルとクラウドモデルから選択する。

Copilotアプリでも、自分のキーを使うBYOK方式で互換性のあるローカルモデルを接続し、直接選択できる。ただし、アプリの自動ルーティングが対応するのは管理型のWindows MLモデルだ。BYOK設定でモデルを追加したり見つけたりしても、Copilot Fusionの自動ルーティング対象になるわけではない。

利便性と実行負担のバランス

自動ルーティングはリクエストのたびにモデルを選ぶ手間を減らし、使用中の端末の計算リソースを選択肢として活用できるようにする。モデルを自分で用意する場合は、ダウンロードや実行環境の管理が利用者の役割となり、十分な端末リソースも必要だ。そのため、対応プラットフォームだけでなく、誰がモデルを用意し管理するのかも選択基準になる。

注意したいのは、ローカル推論がオフライン利用を意味しないことだ。Copilot Fusionはクラウドでルーティングを決定する。また、ローカルモデルはCopilotが提供するクラウドモデルと、有害な出力を防ぐ仕組みの程度である安全保護の水準が異なる場合がある。

Copilot Fusionのローカルルーティングはモデル選択の負担を減らすが、実際の活用範囲はプラットフォームとモデルの準備方法によって異なる。