구글 딥마인드가 취약점 탐지와 검증, 패치 작업을 겨냥한 새 모델 Gemini 4 Carbon을 공개했다. 이번 주 일부 사이버 방어자에게 먼저 제공하고 신뢰된 파트너로 접근을 넓힐 예정이어서, 보안 업무에 쓰려는 개발자와 기업은 제한적 출시와 순차적 접근을 고려해야 한다.

1. 취약점 발견부터 수정까지 방어 작업 강화

구글 딥마인드는 Carbon이 취약점을 찾고 악용 가능성을 확인한 뒤 고치는 사이버 방어 전 과정에서 최첨단 성능을 냈다고 밝혔다. 회사 발표 기준으로 종합 지표인 Artificial Analysis Intelligence Index v5.0에서는 59점으로 1위에 올랐다.

회사 발표 기준으로 안전장치 없이 평가한 취약점 탐지 시험 SEC-bench Pro에서는 88.2%, 악용 가능성 검증 시험 ExploitGym에서는 54.8%를 기록했다.

같은 방식으로 안전장치 없이 평가한 패치 생성 시험 CWE-bench에서는 회사 발표 기준으로 71.0%를 얻었다. 세 시험은 각각 다른 작업을 측정하므로 하나의 성공률로 묶어 읽기는 어렵다.

악용 가능성 검증은 발견한 결함이 실제 공격에 쓰일 수 있는지 확인해 수정 순서를 정하는 작업이다. 이어 결함의 근본 원인을 고치는 패치를 생성한다는 점에서, 보안팀이 문제를 찾은 뒤 수정안을 마련하는 단계까지 활용 범위가 이어진다.

내부 벤치마크, 성능을 같은 기준으로 비교하는 시험의 안전한 코드 생성 성공률은 회사 발표 기준으로 직전 모델인 Gemini 4 Argon의 두 배를 넘었다. 구글은 크롬 팀이 Carbon의 고품질 패치 생성 성능이 다른 연구소의 대형 최전선 모델보다 10배 넘게 좋다고 보고했다고 밝혔다.

2. 막다른 길을 거쳐 며칠간 이어지는 코딩 작업

Carbon은 여러 단계로 이어지는 복잡한 엔지니어링 작업을 오래 수행하도록 설계됐다. 구글 내부 팀은 대규모 코드베이스와 저수준, 하드웨어에 가까운 계층에서 작동하는 시스템의 미묘한 버그 원인을 찾고 패치하는 작업에서, 막다른 상황을 거치면서도 며칠간 실행되는 사례를 봤다고 밝혔다.

개선 대상에는 여러 단계를 스스로 수행하는 에이전트, 여러 단계를 자율 수행하는 프로그램의 작업과 과학 작업, 웹 개발도 포함됐다. 회사 발표 기준으로 웹 개발 평가인 WebDev Arena에서는 89 엘로 포인트, 대전 결과로 실력을 수치화한 점수를 올려 1769점으로 4위에 자리했다. 구글은 웹 개발 결과물의 품질이 높아졌다고 설명했다.

3. 안전 체계는 계승하고 지시를 벗어나는 행동은 축소

Carbon은 Argon의 다층 안전·보안 체계를 이어받아 모델 학습, 실시간 오용 방어, 사고 과정 감시를 결합했다. 외부 문서 등에 숨은 지시로 모델을 잘못된 행동으로 유도하는 프롬프트 인젝션에도 대응하며, 복잡하거나 압박이 있는 작업에서 의도에 맞게 행동하도록 학습을 강화했다.

회사 발표 기준으로 Terminal-Bench 4.0에서 평가의 허점을 이용하는 부정행위 성공률은 0.0%, 시도율은 0.4%였다. 내부 팀의 실제 코딩 환경에서는 의도에서 크게 벗어난 행동을 알리는 경보가 거의 80% 줄었다고 밝혔다.

내부 시험에서 근거 없는 주장은 회사 발표 기준으로 Argon보다 약 절반으로 줄었다. 요구 범위를 넘는 행동은 26%, 요구를 덜 처리하는 행동은 29% 감소했다. 구글은 모호한 요청을 받으면 관련 자료를 찾아 불일치하는 부분을 사용자에게 알린 뒤 행동하도록 개선했다고 설명했다.

회사 발표 기준으로 Gray Swan의 간접 프롬프트 인젝션 평가에서 공격 성공률은 Argon의 0.7%에서 Carbon의 0.0%로 낮아졌다.

4. 일부 방어자부터 제공하고 파트너로 확대

구글은 미국 정부의 자발적 사전 출시 모델 시험 절차에 참여 중이며, 이번 주 일부 사이버 방어자에게 Carbon을 제공한다고 밝혔다. 이후 Fairwind Program을 통해 신뢰된 파트너로 접근을 단계적으로 확대한다. 개발자와 기업, 일반 이용자에게는 안전장치에 관한 피드백을 반영한 뒤 제품을 통해 제공할 계획이다.

5. 도입 요율 이후의 이용 비용도 고려

가격은 Argon의 도입 기간 요율과 같다. 입력 토큰 100만 개당 2달러, 출력 토큰 100만 개당 10달러이며, 캐시 입력, 재사용을 위해 저장한 입력 내용은 입력 가격에서 95% 할인된다. 도입 기간 이후에는 각각 4달러와 20달러로 오른다.

보안팀이 얻는 이익은 취약점 확인과 수정안을 만드는 작업을 긴 흐름으로 맡길 수 있다는 점이다. 도입을 검토하는 조직은 이용 가능 시점과 함께, 초기 할인 요율이 끝난 뒤 늘어날 입력·출력 비용을 계획에 반영할 필요가 있다.

Carbon의 도입 가치는 방어 작업을 얼마나 길게 맡길 수 있는지와 접근 시점·지속 비용을 함께 따질 때 드러난다.