구글이 글과 사진, 음성, 영상, 문서에 여러 분류 질문을 한꺼번에 던지는 새 API를 공개했다. 개발자는 생성된 문장을 다시 해석하는 대신 선택지별 확률과 확신 점수를 받아 자동 처리할지 사람에게 넘길지 결정할 수 있다.
1. 한 입력에 최대 1,000개 질문을 묶는다
새 API는 Gemini Decision 1 모델로 같은 입력에 최대 1,000개의 독립 질문을 평가한다. 답변을 한 토큰씩 생성하는 대신 후보를 한 번의 계산으로 채점하며, 질문은 서로의 결과를 보지 않는다. 통화 녹음과 계정 정보를 함께 보고 문의를 분류하거나, PDF 청구서와 파손 사진을 묶어 청구 내용을 확인하는 식이다.
구글은 Gemini Notebook에서 들어온 질문에 맞는 모델과 추론 수준을 고르는 데 이 API를 쓴다고 밝혔다. 회사 발표 기준으로 일상적 질문의 처리 지연을 최대 40% 낮추면서 복잡한 작업에는 깊은 추론을 수행하는 모델을 배정한다.
2. 답의 확률과 자동 처리 기준을 함께 받는다
질문 유형은 예·아니요, 고정 선택지, 순서가 있는 평가 점수다. 예·아니요는 ‘예’일 확률을, 선택형은 후보별 확률과 가장 유력한 후보를 반환한다. 평가형은 각 단계 번호에 해당 단계의 확률을 곱해 더한 평균 점수를 돌려주므로 단계 사이의 값도 나올 수 있다.
확신 점수는 가장 가능성 높은 답이 맞을 것으로 추정한 확률이다. 보정은 모델이 내놓은 확률을 실제 정답 비율에 가깝게 맞추는 개념이다. 개발자는 답으로 처리 방향을 정하고 확신 점수로 자동 실행 여부를 정할 수 있다.
3. 질문을 묶어 지연과 출력 비용을 줄인다
회사 발표 기준 모델 계산 시간은 중간값 50~100밀리초, 전체 왕복 지연, 요청과 응답이 오가는 데 걸리는 시간은 150~250밀리초다. 여러 매체의 입력과 최대 16K 토큰 컨텍스트, 입력과 지시를 함께 담는 범위에서 측정했으며, 요청당 질문을 1개에서 100개로 늘려도 지연은 거의 일정했다고 구글은 설명했다.
입력 100만 토큰당 가격은 0.10달러이며 출력 토큰 요금은 없다. 같은 입력은 질문 수와 관계없이 요청당 한 번 과금되고, 질문별 지시문과 기준만 입력량에 추가된다. 이미지와 영상은 해상도를 조정해 시각 정보량과 토큰 비용을 맞출 수 있다.
4. 공통 평가에서는 보정 오차가 가장 낮았다
구글이 공개한 7개 공통 평가에서 회사 발표 기준 Gemini Decision 1의 보정 오차는 비교 모델 중 가장 낮았다. 보정 오차는 예측 확률과 실제 정답 비율이 얼마나 어긋나는지 보여 주며 작을수록 좋다. 같은 평가의 총 가격도 함께 제시됐다.
표: 7개 공통 평가의 보정 오차와 총 가격
조건: 구글 발표 그래프의 공통 평가 7개 기준. Gemini Decision 1은 Decisions API, GPT-6 Luna는 OpenAI Decisions API, Gemini 3.5 Flash-Lite는 Interactions API (minimal) 사용. 거절·안전 차단·처리 불가 요청은 오답으로 계산하고 전체 평가를 분모로 삼았다.
| 항목 | 보정 오차(Top-1 ECE) | 총 가격(달러) |
|---|---|---|
| Gemini Decision 1 | 0.0250 | 0.88 |
| TypeSafe Jev 1.14 | 0.0494 | 0.68 |
| GPT-6 Luna | 0.0721 | 0.93 |
| Gemini 3.5 Flash-Lite | 0.2104 | 4.14 |
구글은 이 평가에서 자사 Flash-Lite 모델과 기존 API 조합보다 비용이 거의 5배 저렴하다고 밝혔다. 표에서는 TypeSafe 모델의 총 가격이 더 낮아, 가격과 보정 오차를 함께 보고 선택할 수 있다.
회사 발표 기준 Gemini Decision 1의 JevBench 공개 평가 정확도는 92.2%였다. 이 정확도는 거절·안전 차단·처리 불가 요청을 오답으로 포함한 전체 평가 기준이다.
Mind2Web의 여러 매체를 쓰는 평가에서는 이 모델이 86.2%로 TypeSafe 모델의 86.8%보다 낮았다.
When2Call에서도 두 모델은 각각 79.9%와 82.0%를 기록했다. 확률 보정의 강점과 개별 작업의 정확도를 함께 살펴볼 필요가 있다.
5. 질문을 정의하고 실제 입력으로 기준을 정한다
개발은 Google AI Studio에서 API 키를 발급받고, Python 또는 JavaScript용 SDK 3.2 이상을 설치해 시작할 수 있다. 문서의 예시는 확신 점수가 0.7 이상이면 자동 분류하고, 그렇지 않으면 사람에게 넘긴다.
answer = result.answers["department"]
if answer.confidence >= 0.7:
route_to(answer.choice)
else:
route_to("human_review")답변 생성과 문장 해석을 덜어 지연과 출력 비용을 줄이는 대신, 질문·선택지와 자동 처리 기준을 설계하는 일이 개발자에게 남는다. 문서는 실제 입력에 정답을 붙인 예제로 기준을 정하고, 잘못 통과시킨 경우와 잘못 거부한 경우의 비용을 따져 보라고 안내한다.
선택형은 맞는 후보가 없어도 확률을 배분하므로 ‘기타’ 항목이나 별도 범위 확인 질문을 둘 수 있다. 문서는 사용자 입력이 분류를 유도할 수 있어 공격 의도를 담은 입력으로 시험하고, 지급처럼 중요한 처리에는 사람이나 두 번째 확인을 두도록 권한다.
Gemini Decisions API의 변화는 멀티모달 판정의 확률을 직접 코드에 연결하게 한 것이며, 자동화의 품질은 개발자가 설계한 기준에 달렸다.