Mistral Large 4：开放权重，100万 token 上下文

1. 可自行持有和调优的模型

该模型接收文本和图像输入，生成文本。总参数量约为1万亿，每个 token 实际选用的激活参数约为490亿。官方权重提供 FP8 和 NVFP4 两种形式，两者存储数值的精度不同。

语言模型会为每个 token 选择部分计算模块，参考上下文时也只选择此前 token 中的部分位置。这种结构无需每次计算整个大型模型。图像输入则由 Pixtral 视觉编码器处理，该组件将输入转换为模型可处理的表示。

Mistral 为开发者提供了下载权重并在自有环境运行的途径，也提供由服务商负责运营的托管服务。据 Hugging Face 的文章介绍，模型公开首日即可通过 vLLM 和 llama.cpp 运行，也支持针对组织数据进行额外训练。

模型采用 Mistral Ecosystem Open-Weight 许可证，属于经过修改的 MIT 类许可证。一般使用、修改和商业化均获允许，但以服务形式提供模型的经营者，在商业使用前必须另行取得 Mistral 的商业许可证。

据公司公告，API 价格为每100万输入 token 0.70美元、缓存输入0.07美元、输出2.10美元。

2. 据公司公布的结果，编程评测领先

Mistral 表示，在公开预览后的3周内追加了强化学习，即通过奖励信号改进结果的训练方式，从而提升了编程与防御性安全任务的性能和推理效率。在 Cognition 的非公开 FrontierCode 2.0 基准评测中，模型在衡量代码仓库修改完成质量的评估中取得19.7%。

表：FrontierCode 2.0 得分

条件：Cognition 非公开基准 FrontierCode 2.0，数值来自 Mistral 公告中的图表

单位：%

在这项非公开评测中，据公司公布的数据，其与领先模型的分差较小。在 Artificial Analysis 编程智能体指标中，公司公布的成绩为48%，与 GLM-5.3 基本持平，但每项任务的平均 token 用量减少47%。智能体是按目标使用工具完成任务的 AI。这意味着以更少的 token 取得相近成绩，降低编程智能体的运行负担。

在基于终端的编程评测 Terminal-Bench 4.0 中，公司公布的成绩为41%，较预览版提高13个百分点，输出 token 减少30%。Hugging Face 则另行介绍了编程智能体指标49.8%、终端评测28.3%的结果。

3. 安全评测与实际应用

安全相关结果也因评测标准而异。Mistral 公布的 Artificial Analysis Cyber Index 成绩为51%，而 Hugging Face 的文章给出了该指标中漏洞复现与修复任务82%的成绩。

据公司公布的数据，JailbreakBench、StrongREJECT 和 AgentHarm 中网络安全相关请求的平均恶意请求拒绝率为96.6%。

在评估抵御请求中隐藏攻击指令能力的 B3 评测中，据公司公布的数据，成绩也从预览版的93.3%提高至97.1%。Hugging Face 则介绍了 Lakera 同名评测93.3%的结果。

Hugging Face 将针对自有代码库和恶意软件样本定制安全工具，以及漏洞复现与补丁工作，列为开放权重的应用案例。安全团队不必仅依赖外部服务的响应策略，而是可以根据自身环境调整工具。

4. 速度与运营成本取决于硬件

自行运行可以控制数据与模型，并开展额外训练，但也必须配置和维护运行大型模型所需的 GPU 与运行环境。

Hugging Face 介绍的2位压缩模型可在统一内存为512GB的单台 Apple Silicon Ultra 上运行。在单台 M3 Ultra 上以 Q2_K 格式运行时，输入处理速度约为每秒90 token，生成速度为每秒15 token。该格式以低位宽压缩模型数值。

在 Hugging Face 测试的4张 RTX6000 Pro 上，以32K上下文运行 NVFP4 时，输入处理速度为每秒130~590 token，生成速度约为每秒10 token。

在相同的4张 RTX6000 Pro 上，以约2位压缩模型数值的 IQ2_XXS 格式，在800K上下文设置下处理短输入时，输入处理速度为每秒500 token，生成速度为每秒30 token。长输入下，两者分别降至每秒129 token 和3 token。因此，最大上下文长度与实际响应速度是不同的运营选择。

原文中的 llama.cpp 服务器请求示例如下。

curl http://localhost:8080/v1/chat/completions \
    -H "Content-Type: application/json" \
    -d '{
        "messages": [
            {"role": "system", "content": "You are a helpful assistant."},
            {"role": "user", "content": "Write a limerick about python exceptions"}
        ]
    }'

两篇文章的编程评测结果尚未确认使用相同的测量设置，因此应按来源分别解读。Mistral 表示，模型在实际流量中拒绝了针对真实目标的攻击，但也发现了可能被滥用于实施攻击的情况，目前正在修改安全防护措施。

Mistral Large 4 的核心不只是对高性能的宣称，更在于组织获得了自行调优和运行大型模型的选择。