Mistral Large 4: 오픈 웨이트 공개, 100만 토큰 컨텍스트

1. 직접 보유하고 조정할 수 있는 모델

이 모델은 텍스트와 이미지를 입력받아 텍스트를 생성한다. 전체 파라미터는 약 1조 개, 토큰마다 실제로 선택되는 활성 파라미터는 약 490억 개다. 공식 웨이트는 숫자를 저장하는 정밀도가 다른 FP8과 NVFP4 두 형태로 제공한다.

언어 모델은 토큰별로 일부 계산 담당 묶음을 선택하고, 문맥을 참조할 때도 앞선 토큰 가운데 일부 위치를 고른다. 큰 모델을 매번 통째로 계산하지 않는 구조이며, 이미지 입력은 Pixtral 비전 인코더, 입력을 모델 처리 표현으로 바꾸는 구성요소가 처리한다.

미스트랄은 개발자에게 웨이트를 내려받아 자체 환경에서 운영하거나 관리형 서비스, 제공업체가 운영을 맡아 제공하는 서비스로 이용하는 경로를 제공한다. 허깅페이스 글에 따르면 공개 첫날부터 vLLM과 llama.cpp로 실행할 수 있게 됐고, 조직의 데이터에 맞춘 추가 학습도 지원한다.

라이선스는 수정된 MIT 계열인 Mistral Ecosystem Open-Weight 라이선스다. 일반적인 사용과 수정, 상업화가 가능하지만 모델을 서비스형으로 제공하는 사업자는 상업적 사용 전에 미스트랄의 별도 상업 라이선스를 받아야 한다.

API 가격은 회사 발표 기준 입력 100만 토큰당 0.70달러, 캐시 입력 0.07달러, 출력 2.10달러다.

2. 코딩 평가에서 회사 발표 기준 선두

미스트랄은 공개 프리뷰 뒤 3주 동안 강화학습, 보상 신호로 결과를 개선하는 학습 방식을 추가했고, 그 결과 코딩과 방어 보안 작업의 성능 및 추론 효율이 개선됐다고 밝혔다. Cognition의 비공개 FrontierCode 2.0 벤치마크, 성능을 비교하는 표준 평가에서 모델은 저장소 변경의 완성도를 평가해 19.7%를 얻었다.

표: FrontierCode 2.0 점수

조건: Cognition 비공개 벤치마크 FrontierCode 2.0, 미스트랄 발표의 그래프 수치

단위: %

이 비공개 평가에서 회사 발표 기준 선두권 모델과의 점수 차이는 작다. Artificial Analysis 코딩 에이전트, 목표에 맞춰 도구를 사용해 작업하는 AI 지표에서는 회사 발표 기준 48%로 GLM-5.3과 사실상 동률이면서 작업당 평균 토큰은 47% 적었다. 비슷한 평가 성적을 더 적은 토큰으로 내 코딩 에이전트의 실행 부담을 줄이는 방향이다.

터미널 기반 코딩 평가인 Terminal-Bench 4.0에서도 회사 발표 기준 프리뷰보다 13%포인트 오른 41%를 기록하고 출력 토큰은 30% 줄였다. 허깅페이스는 별도로 코딩 에이전트 지표 49.8%, 터미널 평가 28.3%를 소개했다.

3. 보안 평가와 실제 활용

보안 관련 결과도 평가 기준에 따라 나뉜다. 미스트랄은 Artificial Analysis Cyber Index에서 51%를 발표했고, 허깅페이스 글은 그 지표 안의 취약점 재현·수정 과제에서 82%를 제시했다.

악성 요청 거부율은 회사 발표 기준 JailbreakBench, StrongREJECT, AgentHarm의 사이버 관련 요청 평균 96.6%였다.

요청에 숨긴 공격 지시를 견디는 B3 평가에서도 회사 발표 기준 프리뷰 93.3%에서 97.1%로 개선됐다. 허깅페이스는 Lakera의 같은 이름 평가 결과로 93.3%를 소개했다.

허깅페이스는 자체 코드 기반과 악성코드 표본에 맞춘 보안 도구, 취약점 재현과 패치 작업을 오픈 웨이트의 활용 사례로 들었다. 보안팀은 외부 서비스의 응답 정책에만 의존하는 대신 자기 환경에 맞춰 도구를 조정할 수 있다.

4. 속도와 운영 비용은 하드웨어에 달렸다

직접 실행하면 데이터와 모델을 통제하고 추가 학습할 수 있지만, 대형 모델을 구동할 GPU와 운영 환경을 마련하고 유지해야 한다.

허깅페이스가 소개한 2비트 축소 모델은 통합 메모리 512GB인 단일 애플 실리콘 울트라에서 실행된다. 단일 M3 Ultra의 Q2_K 형식, 모델 수치를 낮은 비트로 압축한 방식의 실행은 입력 처리 초당 약 90토큰, 생성 초당 15토큰이었다.

허깅페이스가 시험한 4장의 RTX6000 Pro에서는 NVFP4를 32K 문맥으로 실행할 때 입력 처리 초당 130~590토큰, 생성 약 10토큰이었다.

같은 4장 RTX6000 Pro에서 IQ2_XXS, 2비트 수준으로 모델 수치를 압축한 형식은 800K 문맥 설정의 짧은 입력에서 입력 처리 초당 500토큰, 생성 초당 30토큰을 냈다. 긴 입력에서는 각각 초당 129토큰과 3토큰으로 낮아졌다. 따라서 최대 문맥 길이와 실제 응답 속도는 별개의 운영 선택지다.

원문에 실린 llama.cpp 서버 요청 예시는 다음과 같다.

curl http://localhost:8080/v1/chat/completions \
    -H "Content-Type: application/json" \
    -d '{
        "messages": [
            {"role": "system", "content": "You are a helpful assistant."},
            {"role": "user", "content": "Write a limerick about python exceptions"}
        ]
    }'

두 글의 코딩 평가 결과는 측정 설정이 같다고 확인되지 않아 출처별로 읽어야 한다. 미스트랄은 실제 트래픽에서 실제 대상을 겨냥한 공격을 거부했지만 공격 수행에 악용될 가능성을 확인해 안전장치를 수정 중이라고 밝혔다.

Mistral Large 4의 핵심은 높은 성능 주장만이 아니라, 조직이 대형 모델을 직접 조정하고 운영할 수 있는 선택지를 얻었다는 점이다.