Apriel Voice 27B Preview：音声推論の統合、アプリによる発話

1. 音声と画面を同じ会話コンテキストにまとめる

Apriel Voice 27B PreviewはGemma 4 26B-A4Bの事後学習モデルを基盤とする。音声エンコーダーは音声を数値表現に変換し、学習済みの接続部が既存の推論モデルに合わせて渡す。

学習は、まず推論本体を固定して接続部を学習し、その後に接続部と推論本体を一緒に調整する二段階で行った。

モデルの重みのライセンスはMITだ。

音声だけでなく、テキストや画像、ツールの実行結果も同じ会話コンテキストに入る。例えば、利用者がアカウントのロック問題を口頭で説明して画面を共有すると、モデルは両方の情報を参照して次の行動を決める。ツール呼び出しを実際に実行し、結果を会話に戻すのはアプリの役割だ。

2. 合成器を変更する自由とアプリ実装の負担が伴う

回答テキストを実際の声に変えるのは外部の音声合成サービスだ。Apriel LiveアプリはCartesia Sonic 3.6を使い、音声を収集し、発話の終了を判断し、会話中の割り込みを制御する。推論モデルを再学習せずに合成器や声を変えられる一方、こうした周辺機能を統合する負担は導入側に移る。

モデルカードはvLLM 0.32.0ベースの標準イメージを案内しており、4枚のGPUでサーバーを起動し、ポート8000でOpenAI互換APIを公開する。以下は原文のサービングコマンドから設定部分をそのまま抜粋したものだ。

  --max-num-batched-tokens 16384 \
  --tensor-parallel-size 4 \
  --gpu-memory-utilization 0.95 \
  --speculative-config '{"model":"google/gemma-4-26B-A4B-it-assistant","num_speculative_tokens":3}' \
  --default-chat-template-kwargs '{"enable_thinking":true}' \
  --enable-auto-tool-choice \
  --tool-call-parser gemma4 \
  --reasoning-parser gemma4

3. 正確性と会話体験を分けて評価した

同社の発表によると、英語のEVA-A正解率は51.27%、会話体験のスコアであるEVA-Xは74.13%だ。前者は発話内容と事実に忠実にタスクを完了する能力を、後者は簡潔さ、会話の進行、ターンの受け渡しを評価する。

同社の発表によると、航空・小売・通信業務を試すτ-Voiceでは、タスク成功率65.51%、平均応答遅延1.91秒を記録した。

EVAとτ-Voiceの評価では、回答前に推論する思考モードを有効にし、ドメインごとに同じ重みを与える等重み平均を用いた。

評価には最適化したサービング構成とCartesia Sonic 3.5の合成を使用した。遅延時間は回答生成と音声合成を含むシステム全体の値だ。

表：Apriel VoiceとFlux + Gemma 4-26Bの英語音声評価（同社発表による）

条件：EVA・τ-Voiceはドメイン別の等重み平均、Aprielは思考モード。両システムともCartesia Sonic 3.5の合成を使用。遅延は応答生成・合成を含むシステム全体の値

単位：EVA・成功率は%（高いほど良い）、遅延は秒（低いほど良い）

Flux + Gemma 4-26Bに比べ、AprielのEVA-Aは15.20パーセントポイント、EVA-Xは44.91パーセントポイント高い。一方、τ-Voiceの成功率は0.41パーセントポイント低く、平均遅延は1.01秒短い。この基準との比較では、τ-Voiceでの利点は成功率の向上より応答時間の短縮にある。同社が発表したシステム全体の比較であり、差をモデルの一構成要素の効果とはみなせない。

同社発表の音声推論スコアは、思考モードで音声を入力した8つのベンチマークの等重み平均で85.84だ。

最適化設定の出力トークンスループット、すなわち毎秒の生成トークン数で測る処理速度は、4枚のH100 80GBで従来のApriel向けvLLM構成に対し、同時リクエスト1件で1.96倍、50件で1.83倍だった。これは出力トークンスループットの改善であり、会話の遅延とは別の指標だ。

4. 音声を追加した後のテキスト推論も確認した

モデルカードは音声機能を追加する前後のテキスト評価も示した。以下は、両モデルともテキスト入力と思考モードを使った同社発表結果の一部だ。

表：音声適応前後のテキスト評価

条件：Gemma 4 26B-A4BとApriel Voice、テキスト入力、思考モード

単位：スコア（0–100、高いほど良い）

基盤モデルに比べ、MMLU-Proは0.85点下がり、GPQA Diamondは2.60点、MATH-500は0.12点上がった。この3項目ではGPQA Diamondの上昇幅が最大で、MATH-500の変化は小さく、音声適応後の変化は評価によって異なった。音声機能の追加の価値は、聞き取り性能だけでなく、既存のテキスト処理能力をどれだけ維持できるかも併せて検討すべきことを示している。

5. 長い録音は分割して処理し、重要な操作は確認する

入力は16kHzのモノラル音声で、入力音声をモデル用に準備するプロセッサーが長い録音を30秒単位に分割する。モデルカードによると、約30分の連続録音まで良好な性能を確認した。音声と残りの会話はコンテキスト容量全体を共有し、長い録音には思考モードが推奨される。

さらに長い録音では性能が低下する可能性があり、多言語・雑音・遠距離マイクでの発話や複雑なツール操作の信頼性にも限界がある。モデルカードは重要な操作について、ツール引数、つまり実行に渡す入力値と結果、最終的な完了の有無を確認し、人間の監督を適用するよう推奨している。

Apriel Voiceは音声理解と推論を単一モデルにまとめるが、実際の会話製品の完成度は、合成とターン処理まで担うアプリケーションに左右される。