Google Cloudのオープンソースプロジェクトdgemが初の公開版をリリースした。顧客からの問い合わせやセキュリティ警告を自動分類する開発者は、回答ごとの確率と不確実性スコアを受け取り、即時処理するものと追加レビューするものを分けられる。今回の公開には、多数の選択肢がある質問の処理とリクエスト認証の強化も含まれる。

1. 文章を生成する代わりに選択肢ごとの確率を読む

dgemはDiffusionGemmaを自由な文章の生成器ではなく、選択肢から回答を選ぶ判断エンジンとして活用する。開発者が真偽値、選択式、スコア型の質問を、判断ルールを記すポリシーテンプレートで定義すると、1回のモデル計算で複数の質問を読み取り、各回答の確率を取得する。回答文を再解釈する工程が減り、自動処理に活用しやすい形式になる。

各回答には、確率が複数の選択肢にどれほど分散しているかを示す、エントロピーに基づくためらいスコアが付く。スコアが低ければ即時処理し、高ければより大きなモデルや人に引き継ぐ仕組みだ。デフォルトの後続モデルはGemini 3.8 Flashである。

リポジトリの説明では、新しい分類に合わせて再学習する分類器、つまり入力を所定の種類に分けるツールとは異なり、ポリシーテンプレートの修正で判断内容を変更できる。自由に文章を生成するモデルと比べ、許可された回答の確率を直接読み、後続処理に使う点に重点を置いている。

2. 多数の候補を絞り込み、事前情報を組み合わせる

今回のバージョンでは、選択肢が26個を超える質問を扱う経路を追加した。1回のモデル計算で上位候補と、残りをまとめた項目を読み取る方式だ。確率を全選択肢に戻す際も、候補群から求めた、選択肢数の差を補正する正規化済みの不確実性スコアを維持する。判断前に参照する可能性の値である事前確率の情報がなければ、候補を分けて競わせる2段階方式で処理する。

事前確率は、モデルの判断に別のシグナルを加えるために使う。両者を組み合わせるタイミングと影響度を設定できる。

実験的機能として、1回で最大52個の選択肢を読み取るラベル集合、つまり回答の選択肢に付けた名前の集まりも提供する。デフォルトのラベル集合は従来どおり26個である。

3. リクエスト認証と画像取得経路を強化した

運用者は、リクエストを中継するゲートウェイに、Googleのアクセス制御サービスであるIAPの認証やAPIキー認証を設定できる。ゲートウェイは、クライアントが送信した、要求者情報を含むIDヘッダーではなく、検証済みの認証情報から呼び出し元を確認する。

モデルを実行するサービングイメージ、つまり実行環境を収めて配布するファイルには、任意でサービスキーを設定できる。設定するとPOSTリクエストに一致するキーヘッダーが必要になるが、ヘルスチェック用の経路にはキーなしでアクセスできる。

画像URLの処理はゲートウェイが担い、サービングイメージはデフォルトでWeb上のURLによる画像入力を拒否する。モデルサーバーが外部ネットワークにアクセスできる環境で、内部アドレスへの迂回リクエストのリスクを減らすための変更だ。

音声と動画の入力はサービングイメージとゲートウェイで拒否する。動画は画像フレームとして、音声は文字起こしとして渡すよう案内している。

4. リクエストの拒否とサーバー障害を区別して処理する

モデルサーバーがリクエストを拒否した場合、ゲートウェイは一括してサーバーエラーとせず、拒否応答として伝える。モデルサーバーが拒否した判断リクエストには502ではなく422を返し、再試行しない。実際にサーバーへ接続できない場合は502を維持する。

リクエスト形式を変換するアダプター、つまり異なる形式をつなぐ接続部は、スコア型の質問も他の質問とともに最大8個ずつ処理する。選択肢が1個しかない質問には、モデルを呼び出さずに回答する。

既存のデプロイと新しいデプロイを比較する評価ツールには、性能を数値化したサーバー処理時間の指標が追加された。全体の経過時間に加え、リクエストの90・95・99%がそれぞれ処理されるまでの時間を確認でき、サーバー内外の遅延を調べられる。

ゲートウェイのリクエスト・レスポンス本文の記録は、デフォルトで無効になっている。呼び出し元と終了時刻を指定して選択的に有効化でき、必要な範囲と期間を定めて問題を追跡できる。

5. 追加レビューの割合とデプロイ準備が導入の鍵になる

ためらいスコアによる2段階の引き継ぎ方式には、選択肢数の差を補正する正規化基準も追加された。従来のデフォルト値は、底がeの対数を使う自然対数単位で0.35、正規化基準は0.16である。同社発表の341件のテスト構成では、正規化方式は判断の31%を次段階に引き継ぎ、従来基準では22%だった。両者は同じ運用点ではないため、実際のトラフィックに合わせて基準を調整する必要がある。

機能拡張によって得られるのは、自動処理と追加レビューを分ける制御力だ。より多くの判断を後続モデルや人に引き継ぐ設定は、引き継ぎ先の処理負担を増やす。運用者は実データで基準を調整し、選択した認証方式に合わせてキーとデプロイ環境も構成する必要がある。

機能は、文字でコマンドを入力するプログラムであるコマンドラインツール、HTTPゲートウェイ、外部ツール連携用のMCPサーバー、ブラウザー画面で利用できる。ビルド済みのサービングイメージはまだ提供されておらず、自分のGoogle Cloudプロジェクトでビルドする。

以下はリポジトリが示すコマンドラインツールのビルド例である。今回のリリースのバージョン表記を得るには、ビルド前にv0.4.0タグをチェックアウトする必要がある。

# Clone the repository
git clone https://github.com/GoogleCloudPlatform/dgem.git
cd dgem

# Compile dgem binary into bin/
make build

dgem v0.4.0は回答ごとの確率を実際の運用フローにつなぎ、認証・エラー制御で保護する機能を公開し、その効果を得るにはデプロイと判断基準を各環境に合わせる必要がある。