GitHub Copilot Fusion: 로컬 모델 라우팅, 플랫폼 확대

로컬과 클라우드 모델을 자동 선택

GitHub 발표에 따르면 지능형 라우팅, 요청별로 모델을 자동 선택하는 기능은 실험 미리보기, 정식 출시 전 시험 공개 기능이며 이용자가 선택해 켜야 한다. 설정 후 Copilot Fusion에서 Standard를 선택하면 Copilot이 지원되는 기기 내 모델과 클라우드 모델 사이에서 고른다. 이용자가 현재 세션에 쓸 로컬 모델을 직접 지정하는 방법도 제공된다.

기능은 Copilot CLI, Copilot 앱, Visual Studio Code에 제공된다. 다만 모델을 관리형, 서비스가 준비해 제공하는 방식으로 내려받고 설정하는 경로와 직접 준비한 모델을 연결하는 경로는 플랫폼 지원 범위가 다르다. 이 차이가 어떤 이용자가 자동 선택을 쓸 수 있는지 가른다.

Windows는 관리형 모델 설정 지원

지원되는 Windows 기기에서는 Windows ML 제공자를 통해 MAI Code 1.1 Flash를 내려받아 설정할 수 있다. Copilot CLI에서는 실험 모드를 켜고 /model을 열어 안내를 따르면 된다. Copilot 앱에서는 설정의 모델 제공자에서 Windows ML을 구성하고, 실험 설정에서 로컬 모델 자동 라우팅을 켠 다음 새 세션을 시작한다. Windows ML 로컬 모델은 Windows에서 기본 활성화된다고 GitHub는 설명했다.

Visual Studio Code에서는 chat.copilot.localModel.enabled를 켠다. 모델이 준비되면 Copilot Fusion에서 Standard를 골라 자동 선택을 이용하거나, 해당 세션에서 로컬 모델을 직접 선택할 수 있다. 설정 흐름은 앱마다 다르지만, 자동 라우팅의 작동 방식은 같다.

직접 설정한 모델은 CLI에서 여러 운영체제 지원

관리형 다운로드는 Windows에 한정되지만, 사용자가 직접 설정한 모델을 이용하는 Copilot CLI의 로컬 라우팅은 Windows와 macOS, Linux에서 동작한다. MAI Code 1.1 Flash 또는 Qwen3.8 Flash Next를 로컬 OpenAI 호환 서버를 통해 연결할 수 있다.

이 방식에서는 이용자가 모델 다운로드와 추론 런타임, 모델 실행에 필요한 소프트웨어 환경을 관리하고, 기기에서 모델을 실행할 충분한 연산 자원, 계산에 쓰이는 기기의 처리 능력을 갖춰야 한다. 모델을 지원되는 로컬 모델 제공자로 설정하고 실험용 로컬 라우팅을 켠 뒤 Standard를 고르면, Copilot이 적격 로컬 모델과 클라우드 모델 중에서 선택한다.

Copilot 앱에서도 BYOK, 사용자 보유 키를 사용하는 방식으로 호환되는 로컬 모델을 연결해 직접 선택할 수 있다. 그러나 앱의 자동 라우팅이 지원하는 범위는 관리형 Windows ML 모델이다. BYOK 설정으로 모델을 추가하거나 찾아도 Copilot Fusion의 자동 라우팅 대상이 되는 것은 아니다.

편의성과 실행 부담의 균형

자동 라우팅은 매 요청마다 모델을 골라야 하는 번거로움을 덜고, 사용 중인 기기의 연산 자원을 선택지로 활용하게 한다. 직접 모델을 마련하는 경우에는 다운로드와 실행 환경 관리가 이용자 몫이며, 충분한 기기 자원도 필요하다. 따라서 지원 플랫폼만 확인할 것이 아니라 모델을 누가 준비하고 관리하는지도 선택 기준이 된다.

주의할 점은 로컬 추론이 오프라인 사용을 뜻하지 않는다는 것이다. Copilot Fusion은 클라우드에서 라우팅을 결정하며, 로컬 모델은 Copilot 제공 클라우드 모델과 안전 보호 수준, 유해한 출력을 막는 장치의 정도가 다를 수 있다.

Copilot Fusion의 로컬 라우팅은 모델 선택 부담을 줄이지만, 실제 활용 범위는 플랫폼과 모델 준비 방식에 따라 달라진다.