Google Cloud Platform 的 dgem 新增安全策略和预检查功能,帮助 AI 智能体开发者在工具执行前判断风险。连接与部署示例也一并整理,开发者无需从头编写策略,而可选择现成模板并接入应用。
1. 提供七种可执行安全策略
dgem v0.4.2 新增七种面向安全运营和负责任 AI 的可执行策略模板。它提供固定判定初始值与样本数的配置。开发者可加载包含策略的模板,构建所需的安全判断。
在 RAG,即利用检索资料生成回答的环境中,策略会区分实际遵从资料中的指令与仅仅提及这些指令。它通过四级分级策略,应对试图利用外部资料中隐藏的指令改变模型行为的提示注入。
其他模板涵盖权限、角色和云基础设施配置变更审计,以及绕过安全防护尝试的检测。其中还包括保护使用比喻或同音异义词的无害语境的策略、一次性评估对抗性测试响应的策略,以及可配置的内容审核策略。
该版本还提供信息不足以确定答案时暂缓判断的策略,以及验证内容来源证明规范 C2PA 凭证的策略。这套配置不只查找有害表达,还将能否作答和来源声明纳入检查范围。
2. 在 Antigravity 工具调用前判定风险
面向 Google Antigravity 的预检查网关充当检查站,在智能体执行工具前对调用进行分类。它分别评估工具操作本身的风险程度和指令来源。
该版本提供面向命令行工具和 Python SDK 的 PreToolUse 接入示例,以及无需额外依赖的分类器,也就是按类型划分输入的工具。策略使用 "isolate": "all" 配置,并将外部数据中的指令单独封装为不可信数据。
网关会区分实际使用工具和文档中的提及。当表示判定犹豫程度的数值低于 16% 时,调用会转交第二阶段的 Gemini 评估,并以向用户提问的交互式确认作为安全后备路径。
3. 整合 Genkit 接入配置与部署流程
Genkit Go 示例通过 EndpointConfig 统一了网关这一请求中转接入点的配置。直接请求网关与进程内接入采用相同配置,并随 Genkit Go v1.14.0 示例提供。地址、后端和模型的指定方式,以及网关和本地运行命令,也整理为一致的流程。
示例可根据阶段间的依赖关系和提问条件,执行或跳过多个阶段,并记录其状态。该版本还新增安全事件分类和 AI 安全防护的独立示例,开发者可从接近自身目标的流程入手。
用于事后校准判定结果的工具通过温度校准,即让概率匹配实际正确率的调整,来修正概率,并检查校准后的犹豫值是否超过阈值。这项功能与条件执行配合,用于将策略判定结果衔接至下一阶段。
安装方式有两种:下载预构建压缩包,或使用 Go 工具。说明中要求将压缩包与 SHA256SUMS 对照验证。Go 安装命令如下。
go install github.com/GoogleCloudPlatform/dgem@v0.4.2部署脚本支持接入服务账号和虚拟私有网络的环境配置。它还会自动启用用于虚拟私有网络出站访问的 Private Google Access。镜像构建会生成指向变更历史的提交标识符标签,以及指向最新镜像的标签。
用于 Cloud Run 部署的服务器容器镜像自 v0.4.0 起未变。本次发布的变化集中在网关、策略模板、智能体集成和工具方面。
4. 在同一版本中推进策略应用与集成
策略模板和调用前网关为将安全判断纳入应用的连接与部署流程提供了基础。统一集成配置,可减少为每个示例单独配置网关的负担。不过,若团队要采用条件阶段,以及根据模型对判定结果的置信度进行重新评估或提问的路径,就必须按自身环境配置各项策略和交互流程。
dgem v0.4.2 将安全策略作为可执行模板提供,并将其接入 Antigravity 和 Genkit 的集成流程。
