Apriel Voice 27B Preview: 음성 추론 통합, 앱 기반 발화

1. 말과 화면을 같은 대화 맥락으로 묶는다

Apriel Voice 27B Preview는 Gemma 4 26B-A4B 사후학습 모델을 기반으로 한다. 음성 인코더는 오디오를 수치 표현으로 바꾸고, 학습된 연결부는 이를 기존 추론 모델에 맞춰 전달한다.

학습은 먼저 추론 본체를 고정하고 연결부를 학습한 뒤, 연결부와 추론 본체를 함께 조정하는 두 단계로 진행했다.

모델 가중치의 라이선스는 MIT다.

음성뿐 아니라 텍스트와 이미지, 도구 실행 결과도 같은 대화 맥락에 들어간다. 예를 들어 사용자가 계정 잠금 문제를 말로 설명하고 화면을 공유하면, 모델은 그 정보를 함께 살펴 다음 행동을 정하는 방식이다. 도구 호출을 실제로 실행하고 결과를 대화에 돌려주는 일은 앱이 맡는다.

2. 합성기를 바꾸는 자유와 앱 구현 부담이 함께 온다

답변 텍스트를 실제 목소리로 바꾸는 일은 외부 음성 합성 서비스가 맡는다. Apriel Live 앱은 Cartesia Sonic 3.6을 쓰며, 음성을 수집하고 발화가 끝났는지 판단하며 대화 중 끼어들기를 제어한다. 추론 모델을 재학습하지 않고 합성기나 목소리를 바꿀 수 있는 대신, 이런 주변 기능을 통합하는 부담은 배포자에게 옮겨간다.

모델 카드는 vLLM 0.32.0 기반 표준 이미지를 안내하며, 네 장의 GPU로 서버를 띄워 포트 8000에 OpenAI 호환 API를 연다. 아래는 원문 서빙 명령에서 설정 부분을 그대로 발췌한 것이다.

  --max-num-batched-tokens 16384 \
  --tensor-parallel-size 4 \
  --gpu-memory-utilization 0.95 \
  --speculative-config '{"model":"google/gemma-4-26B-A4B-it-assistant","num_speculative_tokens":3}' \
  --default-chat-template-kwargs '{"enable_thinking":true}' \
  --enable-auto-tool-choice \
  --tool-call-parser gemma4 \
  --reasoning-parser gemma4

3. 정확도와 대화 경험을 따로 평가했다

회사 발표 기준 영어 EVA-A 정확도는 51.27%, 대화 경험 점수인 EVA-X는 74.13%다. 전자는 발화 내용과 사실에 충실하면서 과제를 끝내는 능력, 후자는 간결함과 대화 진행, 차례 주고받기를 본다.

회사 발표 기준 항공·소매·통신 업무를 시험하는 τ-Voice에서는 과제 성공률 65.51%, 평균 응답 지연 1.91초를 기록했다.

EVA와 τ-Voice 평가는 답변 전 추론을 수행하는 사고 모드를 켜고 도메인별 동일 가중치, 분야마다 같은 비중을 주는 방식으로 평균을 냈다.

평가에는 최적화된 서빙 구성과 Cartesia Sonic 3.5 합성을 사용했다. 지연 시간은 답변 생성과 음성 합성을 포함한 전체 시스템 값이다.

표: Apriel Voice와 Flux + Gemma 4-26B의 영어 음성 평가(회사 발표 기준)

조건: EVA·τ-Voice는 도메인별 동일 가중치 평균, Apriel은 사고 모드. 두 시스템 모두 Cartesia Sonic 3.5 합성 사용. 지연은 응답 생성·합성을 포함한 전체 시스템 값

단위: EVA·성공률 %(높을수록 좋음), 지연 초(낮을수록 좋음)

Flux + Gemma 4-26B 대비 Apriel의 EVA-A는 15.20%포인트, EVA-X는 44.91%포인트 높다. 반면 τ-Voice 성공률은 0.41%포인트 낮고 평균 지연은 1.01초 짧다. 이 기준선과의 비교에서 τ-Voice의 이점은 성공률 향상보다 응답 시간 단축에 있다. 회사가 발표한 전체 시스템 비교이므로 차이를 모델 한 구성요소의 효과로 볼 수는 없다.

회사 발표 기준 오디오 추론 점수는 사고 모드에서 음성을 입력한 8개 벤치마크의 동일 가중 평균 85.84다.

최적화 설정의 출력 토큰 처리량, 초당 생성 토큰 수로 보는 처리 속도는 네 장의 H100 80GB에서 기존 Apriel용 vLLM 구성 대비 동시 요청 1건일 때 1.96배, 50건일 때 1.83배였다. 이는 출력 토큰 처리량의 개선으로, 대화 지연과는 별도 지표다.

4. 음성을 붙인 뒤 텍스트 추론도 점검했다

모델 카드는 음성 기능을 더하기 전후의 텍스트 평가도 제시했다. 아래는 두 모델 모두 텍스트 입력과 사고 모드를 사용한 회사 발표 결과 중 일부다.

표: 음성 적응 전후의 텍스트 평가

조건: Gemma 4 26B-A4B와 Apriel Voice, 텍스트 입력, 사고 모드

단위: 점수(0–100, 높을수록 좋음)

기반 모델 대비 MMLU-Pro는 0.85점 하락했고, GPQA Diamond는 2.60점 상승했으며, MATH-500은 0.12점 상승했다. 이 세 항목에서는 GPQA Diamond의 상승 폭이 가장 크고 MATH-500의 변화는 작아, 음성 적응 뒤의 변화가 평가마다 달랐다. 음성 기능 추가의 가치는 듣기 성능뿐 아니라 기존 텍스트 작업을 얼마나 유지하는지도 함께 살펴야 한다는 점을 보여 준다.

5. 긴 녹음은 나눠 처리하고 중요한 행동은 확인한다

입력은 16kHz 모노 오디오이며, 프로세서, 입력 오디오를 모델용으로 준비하는 구성요소는 긴 녹음을 30초 단위로 나눈다. 모델 카드에 따르면 연속 녹음 약 30분까지 양호한 성능을 관찰했다. 오디오와 나머지 대화는 전체 컨텍스트 예산을 공유하며, 긴 녹음에는 사고 모드를 권장한다.

더 긴 녹음에서는 성능이 낮아질 수 있고, 다국어·소음·먼 마이크 발화와 복잡한 도구 작업의 신뢰성에도 한계가 있다. 중요한 작업에는 도구 인자, 도구 실행에 전달하는 입력값과 결과, 최종 완료 여부를 확인하고 사람의 감독을 적용하라는 것이 모델 카드의 권고다.

Apriel Voice는 음성 이해와 추론을 한 모델에 모으지만, 실제 대화 제품의 완성도는 합성과 턴 처리까지 책임지는 애플리케이션에 달렸다.