Ripple-65B Preview：本地推理、智能体编程

1. 专注编程的通用模型

Ripple-65B Preview是一款通用模型，初始公开版本围绕智能体编程（模型使用工具执行编程任务）进行了相对轻量的后训练。

模型包含650亿参数，使用12万亿词元进行预训练，支持最长100万词元的上下文。

公开内容包括经过额外指令训练的模型，以及仅完成预训练的基础模型。指令模型提供高精度BF16格式和缩减体积的低精度NVFP4格式。公司表示，为本地开发提供NVFP4检查点（保存模型状态的文件）和Colab运行资料。许可证为Apache 2.0。

分发渠道包括Hugging Face和云服务。公司表示，可通过Together AI、GMI Cloud和OpenRouter使用该模型。

2. 在统一评测工具下编程得分也领先

据公司公布的数据，Terminal-Bench 2.1得分为80.52。模型卡表格中显示为80.5，并说明对比模型采用BF16精度和最高推理努力设置进行评测。

模型卡将各公司自行报告的分数与使用统一评测工具的结果分行列出。下表采用相同的任务执行与评分工具Terminus 2，比较条件为128K序列长度并启用摘要功能。

表：采用统一评测工具的编程基准测试

条件：公司模型卡中的Terminal-Bench 2.1 (Terminus 2)行，BF16精度、最高努力设置，官方Terminus 2评测框架、128K序列长度、启用摘要

单位：分

据公司公布的这组对比结果，Ripple比排名第二、得分78.7的Muse Spark Open高出1.8分。模型卡说明，分数会随评测工具和摘要设置变化，因此在判断是否采用时，应同时考虑表中列出的评测条件。

3. 简单架构与逐词元计算量的取舍

为简化训练和服务（运行模型以响应请求的过程）基础设施，公司选择了每个词元使用全部参数的稠密架构，而非仅使用部分参数的混合专家架构。内部设计采用较窄宽度和更深的层数。

这一选择以每个词元处理650亿参数的计算成本，换取可装入本地设备的模型总规模和简单的运行架构。公司对比的混合专家模型总规模更大，但每个词元的激活参数量为230亿至550亿。总规模用于判断模型能否装入设备内存，每个词元的激活参数量则用于估算生成时的计算负担。

据公司公布的数据，从开发到最终训练的全部研发成本为3200万美元，是其估算的此前智能体编程领先开放权重模型成本的十分之一。公司解释称，没有购买后训练数据，而是构建了自有合成数据流水线，即自动生成和处理数据的流程。

4. 本地设备与数据中心的运行路径

公司表示，模型可装入NVIDIA DGX Spark等消费级设备。据公司解释，相比数据中心加速器，DGX Spark的算力相对于内存带宽更高。Ripple旨在缩小整体存储规模并利用这种算力，并非仅因采用稠密架构就适合本地运行。据公司公布的数据，在数据中心使用两张B200、批大小为8（一次共同处理的输入组数），且尚未应用量化（通过降低数值精度缩减体积的技术）和定制内核时，生成速度为每秒250词元。

服务器指南提供了为BF16模型搭配DFlash2草稿模型的运行示例。草稿模型负责提前提出后续词元的候选。

运行环境使用SGLang 0.5.19，需要Linux、CUDA Toolkit 13、C++编译器和uv。以下代码与仓库服务器指南中的内容完全一致。

export CUDA_HOME=/usr/local/cuda-13.0
export PATH="$CUDA_HOME/bin:$PATH"

CUDA_VISIBLE_DEVICES=0,1 uv run --script serve.py \
  --model-path /path/to/target \
  --speculative-draft-model-path /path/to/draft

5. 开发者可从选择部署格式入手

开始本地开发时，可从低精度检查点和Colab资料入手；要在数据中心启动服务器，则可参考使用两张GPU的运行指南。此次公开的实际变化在于，同时提供开放权重和运行示例，打通了从选择模型到自行运行的路径。

Ripple-65B Preview将编程性能竞争与本地部署相连接，同时要求使用者兼顾模型存储规模与运行计算量。