Mistral Large 4：オープンウェイト公開、100万トークンのコンテキスト

1. 自ら保有し調整できるモデル

このモデルはテキストと画像を入力として受け取り、テキストを生成する。総パラメータ数は約1兆、トークンごとに実際に選ばれるアクティブパラメータ数は約490億だ。公式ウェイトは、数値を保存する精度が異なるFP8とNVFP4の2形式で提供される。

言語モデルはトークンごとに計算を担うグループの一部を選び、コンテキストを参照する際も先行トークンの一部の位置を選ぶ。大きなモデル全体を毎回計算しない構造だ。画像入力は、入力をモデルが処理する表現に変換する構成要素であるPixtralビジョンエンコーダーが処理する。

Mistralは、開発者がウェイトをダウンロードして自社環境で運用する方法と、提供事業者が運用を担うマネージドサービスを利用する方法を提供する。Hugging Faceの記事によると、公開初日からvLLMとllama.cppで実行でき、組織のデータに合わせた追加学習にも対応する。

ライセンスは、MIT系を修正したMistral Ecosystem Open-Weightライセンスだ。一般的な使用、修正、商用化が可能だが、モデルをサービスとして提供する事業者は、商用利用前にMistralから別途商用ライセンスを取得する必要がある。

API料金は同社発表によると、入力100万トークン当たり0.70ドル、キャッシュ入力0.07ドル、出力2.10ドルだ。

2. コーディング評価で同社発表では首位

Mistralは公開プレビュー後の3週間、報酬信号で結果を改善する学習手法である強化学習を追加し、コーディングと防御的セキュリティ作業の性能、および推論効率が改善したと発表した。Cognitionの非公開ベンチマークFrontierCode 2.0という性能比較の標準評価では、リポジトリ変更の完成度の評価で19.7%を獲得した。

表：FrontierCode 2.0のスコア

条件：Cognitionの非公開ベンチマークFrontierCode 2.0、Mistral発表のグラフの数値

単位：%

この非公開評価では、同社発表における上位モデルとの点差は小さい。目標に応じてツールを使い作業するAIを評価するArtificial Analysisのコーディングエージェント指標では、同社発表で48%とGLM-5.3と実質同率ながら、タスク当たりの平均トークン数は47%少なかった。同等の評価成績をより少ないトークンで達成し、コーディングエージェントの実行負担を減らす方向だ。

ターミナルベースのコーディング評価Terminal-Bench 4.0でも、同社発表ではプレビューより13ポイント高い41%を記録し、出力トークン数は30%減った。Hugging Faceは別途、コーディングエージェント指標49.8%、ターミナル評価28.3%を紹介した。

3. セキュリティ評価と実際の活用

セキュリティ関連の結果も評価基準によって異なる。MistralはArtificial Analysis Cyber Indexで51%を発表し、Hugging Faceの記事は、その指標内の脆弱性再現・修正タスクで82%を示した。

悪意あるリクエストの拒否率は、同社発表ではJailbreakBench、StrongREJECT、AgentHarmのサイバー関連リクエスト平均で96.6%だった。

リクエストに隠された攻撃指示への耐性を測るB3評価でも、同社発表ではプレビューの93.3%から97.1%に改善した。Hugging FaceはLakeraの同名評価の結果として93.3%を紹介した。

Hugging Faceは、自社のコードベースとマルウェアサンプルに合わせたセキュリティツール、脆弱性の再現とパッチ作業をオープンウェイトの活用例に挙げた。セキュリティチームは、外部サービスの応答方針だけに依存せず、自らの環境に合わせてツールを調整できる。

4. 速度と運用コストはハードウェア次第

自ら実行すればデータとモデルを管理し、追加学習もできるが、大規模モデルを動かすGPUと運用環境を用意し、維持する必要がある。

Hugging Faceが紹介した2ビット縮小モデルは、ユニファイドメモリ512GBの単一のApple Silicon Ultraで動作する。単一のM3 Ultraで、モデルの数値を低ビットに圧縮したQ2_K形式を実行した場合、入力処理は毎秒約90トークン、生成は毎秒15トークンだった。

Hugging Faceが試した4枚のRTX6000 Proでは、NVFP4を32Kコンテキストで実行した際、入力処理は毎秒130~590トークン、生成は約10トークンだった。

同じ4枚のRTX6000 Proで、モデルの数値を2ビット程度に圧縮するIQ2_XXS形式は、800Kコンテキスト設定の短い入力で、入力処理が毎秒500トークン、生成が毎秒30トークンだった。長い入力では、それぞれ毎秒129トークンと3トークンに低下した。したがって、最大コンテキスト長と実際の応答速度は別々の運用上の選択肢だ。

原文に掲載されたllama.cppサーバーへのリクエスト例は次のとおりだ。

curl http://localhost:8080/v1/chat/completions \
    -H "Content-Type: application/json" \
    -d '{
        "messages": [
            {"role": "system", "content": "You are a helpful assistant."},
            {"role": "user", "content": "Write a limerick about python exceptions"}
        ]
    }'

2つの記事のコーディング評価結果は、測定設定が同じだと確認されていないため、出典ごとに読む必要がある。Mistralは、実際のトラフィックで実在する対象を狙った攻撃を拒否した一方、攻撃の実行に悪用される可能性を確認し、安全対策を修正中だと発表した。

Mistral Large 4の核心は、高性能という主張だけでなく、組織が大規模モデルを自ら調整し運用できる選択肢を得た点にある。