KoboldCpp가 로컬 음악 생성과 글자를 사람 목소리로 바꾸는 음성 합성에 쓸 모델을 늘리고, 여러 요청이 함께 쓰는 캐시 공간, 재사용 데이터를 잠시 보관하는 영역의 크기를 조절하는 기능을 추가했다. 오디오를 만드는 개발자는 같은 프로그램 안에서 가사 준비부터 음성 전사까지 작업을 이어갈 수 있고, 병렬 추론을 운영하는 개발자는 요청 크기에 맞춰 공유 공간을 설정할 수 있다.

1. 음악 생성은 가사 준비 방식에 따라 선택

10월 31일 공개된 v1.124는 audio.cpp의 인기 오디오 모델 일부를 통합했다. 별도 기능을 단순히 연결하는 데 그치지 않고, 프로그램에 내장된 음악 생성과 음성 합성에서 사용할 모델 선택지를 늘린 업데이트다.

음악 생성에는 YuE2가 추가됐다. 사용자는 템플릿을 내려받아 저장하고 불러오는 방식으로 구성을 선택한다. 템플릿은 음악 모델과 가사를 준비할 언어 모델을 어떤 조합으로 쓸지 정해 놓은 구성이다.

가사를 직접 제공하는 구성은 음악 모델만 쓰는 가장 가벼운 선택지다. 가사까지 생성하려면 작은 언어 모델이나 큰 언어 모델을 함께 쓰는 구성을 고를 수 있다. 릴리스 노트는 4B 규모의 작은 언어 모델을 붙인 구성을 권장한다.

2. 음성 합성과 참고 대본 준비를 한 화면에서

음성 합성에는 BreezeTTS 2와 Ming 3.0 TTS 등이 추가됐다. 두 모델은 참고 음성의 목소리를 재현하는 음성 복제와 지시문 입력을 지원하며, 릴리스 노트에서 권장 모델로 표시됐다.

Qwen3-TTS는 기본형이 음성 복제를, VoiceDesign 구성이 지시문 입력을 지원한다. 같은 계열이라도 필요한 기능에 따라 선택할 구성이 달라진다. 이번 추가 모델은 이름만 고르기보다 참고 음성을 활용할지, 지시문을 입력할지에 맞춰 살펴볼 필요가 있다.

음악·음성 생성 화면인 MusicUI도 새 모델을 지원하도록 업데이트됐다. 프로그램을 실행한 뒤 브라우저에서 아래 주소로 접속하면 된다. 모델 선택과 함께 실제 작업을 시작할 화면도 제공하는 셈이다.

http://localhost:5001/musicui

이 화면에는 Whisper 모델을 이용하는 전사 탭도 추가됐다. 참고 음성의 대본이 필요한 일부 음성 합성 모델을 쓸 때, 음성을 글로 옮겨 입력 자료를 준비하는 데 활용할 수 있다. 새 모델 지원과 입력 자료 준비 기능이 함께 들어왔다는 점이 오디오 작업 흐름의 변화다.

3. 동시 요청의 공유 공간을 작업 크기에 맞춰 조절

병렬 요청에서는 여러 요청이 함께 쓰는 전체 키-값 캐시 풀의 크기를 지정할 수 있게 됐다. 요청별로 따로 공간을 정하는 대신, 동시에 처리할 요청들이 들어갈 공동 작업 공간을 조절하는 방식이다.

아래는 병렬 요청 기능과 새로 추가된 전체 풀 크기 설정 옵션이다. 전체 풀 크기를 따로 지정하지 않으면 컨텍스트 크기, 모델이 한 번에 다룰 수 있는 입력량이 기본값으로 쓰인다.

--parallelrequests
--paralleltotalcontext

릴리스 노트는 들어오는 묶음 요청이 모두 클 때 풀을 늘리도록 안내한다. 풀에 들어가지 못하는 큰 요청은 대기하므로, 요청을 동시에 받는 것과 실제로 함께 처리할 공간을 마련하는 것이 운영상 연결된다.

이익은 큰 요청을 담을 공간을 작업에 맞춰 조절할 수 있다는 점이고, 대가는 더 큰 캐시 공간을 배정해야 한다는 점이다. 운영자는 동시 요청 수뿐 아니라 요청의 크기도 설정 판단에 반영해야 한다. 이번 버전은 병렬 요청 모드에서 제한적인 캐시 재사용도 허용한다.

4. 모델과 장비를 고른 뒤 실행

오디오 기능을 쓰려면 선택한 모델 구성을 내려받아 불러오면 된다. 가사 생성에 큰 언어 모델을 붙인 구성은 대형 GPU용이므로, 가벼운 구성과 같은 장비 부담으로 접근하기는 어렵다. 가사를 직접 준비할지, 생성까지 맡길지가 기능 선택과 자원 부담을 함께 가르는 기준이다.

실행은 명령행에서 옵션을 지정하거나 그래픽 화면에서 모델을 직접 고르는 방식이다. 운영체제별 실행 파일이 제공되며, CUDA가 필요 없으면 더 작은 CUDA 제외 빌드를 선택할 수 있다.

AMD 사용자는 CUDA 제외 빌드의 Vulkan 옵션을 먼저 시도하도록 안내돼 있다. Linux에서는 ROCm 실행 파일도 선택할 수 있고, M 시리즈 Mac에는 arm64 빌드가 제공된다. 모델을 고른 뒤 자신이 사용할 장비에 맞는 실행 파일을 선택하는 순서로 접근할 수 있다.

KoboldCpp v1.124의 핵심은 오디오 입력 준비와 생성을 한 도구로 묶고, 병렬 추론의 공유 공간을 운영자가 작업 규모에 맞춰 정할 수 있게 한 데 있다.