AI 에이전트를 만드는 개발자가 도구 실행 전에 위험을 판단하도록 Google Cloud Platform의 dgem에 안전 정책과 사전 점검 기능이 추가됐다. 연결·배포 예제도 함께 정리돼, 개발자는 정책을 직접 처음부터 짜는 대신 제공된 틀을 골라 애플리케이션에 연결할 수 있다.

1. 일곱 가지 실행형 안전 정책 제공

dgem v0.4.2는 보안 운영과 책임 있는 AI를 위한 실행형 정책 템플릿 일곱 종을 추가했다. 판정에 쓰는 초기값과 표본 수를 고정하는 설정을 제공한다. 개발자는 정책이 담긴 틀을 불러와 필요한 안전 판단을 구성할 수 있다.

검색 자료를 답변에 활용하는 RAG, 검색 자료를 답변 생성에 활용하는 방식, 환경에서는 자료 속 지시를 실제로 따르는 것과 단순히 언급하는 것을 구별한다. 네 단계 등급의 정책으로 외부 자료에 숨은 지시가 모델의 행동을 바꾸려는 프롬프트 인젝션에 대응한다.

다른 템플릿은 권한·역할·클라우드 인프라 설정 변경 감사와 안전장치 우회 시도 탐지를 다룬다. 비유나 동음이의어가 쓰인 무해한 맥락을 보호하는 정책, 공격적 시험에 대한 응답을 한 번에 평가하는 정책, 설정 가능한 콘텐츠 조정 정책도 포함한다.

정보만으로 답을 정할 수 없을 때 판단을 유보하는 정책과 콘텐츠 출처 증명 규격인 C2PA의 자격 증명을 검증하는 정책도 제공한다. 단순히 유해 표현을 찾는 데서 나아가 답변 가능성과 출처 주장까지 점검 대상으로 삼은 구성이다.

2. Antigravity 도구 호출 전에 위험 판정

Google Antigravity용 사전 점검 게이트는 에이전트가 도구를 실행하기 직전 호출을 분류하는 검문소 역할을 한다. 도구 동작 자체가 얼마나 위험한지와 지시가 어디서 왔는지를 별도 축으로 평가한다.

명령줄 도구와 Python SDK를 위한 PreToolUse 연결 예제 및 추가 의존성이 없는 분류기, 입력을 유형별로 나누는 도구가 제공된다. 정책은 "isolate": "all" 설정을 사용하며, 외부 데이터에 담긴 지시문은 신뢰하지 않는 데이터로 따로 감싼다.

게이트는 실제 도구 사용과 문서상 언급을 구별한다. 판정의 망설임 정도를 나타내는 값이 16% 미만이면 2단계 Gemini 평가로 넘기며, 안전을 위한 대체 경로로 사용자에게 묻는 대화형 확인을 둔다.

3. Genkit 연결 설정과 배포 흐름 통합

Genkit Go 예제는 EndpointConfig로 요청을 중간에서 전달하는 연결 지점인 게이트웨이 설정을 통일했다. 직접 게이트웨이에 요청하는 방식과 프로세스 안에서 연결하는 방식에 같은 구성을 적용하며, Genkit Go v1.14.0 예제와 함께 제공한다. 주소·백엔드·모델 지정 방법과 게이트웨이 및 로컬 실행을 위한 명령도 일관된 흐름으로 정리했다.

예제는 단계 간 의존 관계와 질문 조건에 따라 여러 단계를 실행하거나 건너뛰고 그 상태를 남길 수 있다. 보안 사건 분류와 AI 안전장치를 위한 독립 예제도 추가돼, 개발자는 목적에 가까운 흐름에서 시작할 수 있다.

판정 결과를 사후 보정하는 도구는 온도 보정, 확률을 실제 정답률에 맞추는 조정으로 확률을 조정하고, 보정된 망설임 값이 임계값을 넘는지 확인한다. 조건부 실행과 함께 정책의 판정 결과를 다음 단계로 연결하는 데 쓰이는 기능이다.

설치 방식은 미리 빌드된 압축 파일을 내려받거나 Go 도구를 이용하는 두 가지다. 압축 파일은 SHA256SUMS와 대조해 검증하도록 안내한다. Go 설치 명령은 다음과 같다.

go install github.com/GoogleCloudPlatform/dgem@v0.4.2

배포 스크립트는 서비스 계정과 가상 사설망의 환경 설정 연결을 지원한다. 가상 사설망의 외부 송신을 위한 Private Google Access도 자동으로 활성화한다. 이미지 빌드는 변경 이력을 가리키는 커밋 식별자 태그와 함께 최신 이미지를 가리키는 태그를 만든다.

Cloud Run 배포용 서버 컨테이너 이미지는 v0.4.0에서 바뀌지 않았다. 이번 릴리스의 변화는 게이트웨이·정책 템플릿·에이전트 통합과 도구에 집중됐다.

4. 정책 적용과 통합 작업을 한 릴리스에서

정책 템플릿과 사전 호출 게이트는 안전 판단을 애플리케이션의 연결·배포 흐름에 넣을 재료를 제공한다. 통합 설정을 공통화하면 예제마다 게이트웨이를 따로 구성하는 부담을 줄일 수 있다. 반면 조건부 단계와 판정 결과에 대한 모델의 자신감인 확신도에 따른 재평가·질문 경로를 쓰려는 팀은 각 정책과 상호작용 흐름을 자신의 환경에 맞게 설정해야 한다.

dgem v0.4.2는 안전 정책을 실행 가능한 템플릿으로 제공하고, 이를 Antigravity와 Genkit의 통합 흐름에 연결한 릴리스다.