AIエージェントを開発する開発者がツールの実行前にリスクを判断できるよう、Google Cloud Platformのdgemに安全ポリシーと事前チェック機能が追加された。接続・デプロイの例も併せて整理され、開発者はポリシーを一から書く代わりに、提供されたひな型を選んでアプリケーションに接続できる。

1. 7種の実行可能な安全ポリシーを提供

dgem v0.4.2は、セキュリティ運用と責任あるAIのための実行可能なポリシーテンプレート7種を追加した。判定に使う初期値とサンプル数を固定する設定を提供する。開発者はポリシーを含むひな型を読み込み、必要な安全判断を構成できる。

検索資料を回答生成に活用する方式であるRAGの環境では、資料内の指示に実際に従うことと、単に言及することを区別する。4段階評価のポリシーにより、外部資料に隠れた指示でモデルの動作を変えようとするプロンプトインジェクションに対応する。

ほかのテンプレートは、権限・ロール・クラウドインフラの設定変更の監査と、安全対策の回避試行の検出を扱う。比喩や同音異義語が使われる無害な文脈を保護するポリシー、攻撃的なテストへの応答を一括評価するポリシー、設定可能なコンテンツモデレーションのポリシーも含む。

情報だけでは答えを決められない場合に判断を保留するポリシーと、コンテンツの出所証明規格であるC2PAの資格情報を検証するポリシーも提供する。有害表現の検出にとどまらず、回答の可否と出所に関する主張までチェック対象とする構成だ。

2. Antigravityのツール呼び出し前にリスクを判定

Google Antigravity向けの事前チェックゲートは、エージェントがツールを実行する直前に呼び出しを分類する検問所の役割を果たす。ツールの動作自体の危険度と、指示の出所を別々の軸で評価する。

コマンドラインツールとPython SDK向けのPreToolUse接続例、および追加の依存関係がない分類器、つまり入力を種類別に分けるツールが提供される。ポリシーは"isolate": "all"設定を使用し、外部データに含まれる指示文を信頼しないデータとして別途包み込む。

ゲートは実際のツール使用と文書上の言及を区別する。判定の迷いの度合いを示す値が16%未満なら第2段階のGemini評価に渡し、安全のための代替経路としてユーザーに尋ねる対話型の確認を設ける。

3. Genkitの接続設定とデプロイフローを統合

Genkit Goの例は、EndpointConfigでリクエストを中継する接続ポイントであるゲートウェイの設定を統一した。ゲートウェイに直接リクエストする方式と、プロセス内で接続する方式に同じ構成を適用し、Genkit Go v1.14.0の例とともに提供する。アドレス・バックエンド・モデルの指定方法と、ゲートウェイおよびローカル実行用のコマンドも一貫した流れに整理した。

この例では、ステップ間の依存関係と質問の条件に応じて複数のステップを実行またはスキップし、その状態を記録できる。セキュリティインシデントの分類とAIの安全対策に向けた独立した例も追加され、開発者は目的に近いフローから始められる。

判定結果を事後補正するツールは、確率を実際の正答率に合わせる温度補正で確率を調整し、補正後の迷いの値がしきい値を超えるか確認する。条件付き実行とともに、ポリシーの判定結果を次のステップにつなげるための機能だ。

インストール方法は、ビルド済みの圧縮ファイルをダウンロードする方法と、Goのツールを使う方法の2つだ。圧縮ファイルはSHA256SUMSと照合して検証するよう案内されている。Goのインストールコマンドは次のとおり。

go install github.com/GoogleCloudPlatform/dgem@v0.4.2

デプロイスクリプトは、サービスアカウントと仮想プライベートネットワークの環境設定の接続をサポートする。仮想プライベートネットワークの外向き通信に向けたPrivate Google Accessも自動で有効にする。イメージのビルドでは、変更履歴を示すコミット識別子のタグと、最新イメージを示すタグを作成する。

Cloud Runへのデプロイ用サーバーコンテナイメージは、v0.4.0から変更されていない。今回のリリースの変更は、ゲートウェイ・ポリシーテンプレート・エージェント統合とツールに集中している。

4. ポリシー適用と統合作業を1つのリリースで

ポリシーテンプレートと呼び出し前ゲートは、安全判断をアプリケーションの接続・デプロイフローに組み込むための材料を提供する。統合設定を共通化すれば、例ごとにゲートウェイを個別に構成する負担を減らせる。一方、条件付きステップや、判定結果に対するモデルの自信である確信度に応じた再評価・質問経路を使いたいチームは、各ポリシーと対話フローを自らの環境に合わせて設定する必要がある。

dgem v0.4.2は、安全ポリシーを実行可能なテンプレートとして提供し、AntigravityとGenkitの統合フローにつなげたリリースだ。