英伟达宣布支持将最多8台DGX Spark组成集群，即将多台设备联合运行的配置。1TB统一内存让开发者能在本地运行更大的模型、同时运行多个模型或训练小型模型，拓宽了选择范围。
1. 以1TB内存运行大型模型
英伟达在柏林GTC上宣布正式支持8节点集群。单台统一内存为128GB，4台为512GB，8台为1TB。公司表示，这可运行此前4节点无法容纳的Z.ai完整GLM 5.3模型（753B）。
据公司公布的数据，GLM 5.3 Flash在8节点上的生成速度约为每秒80个词元。另行测得的完整GLM 5.3模型结果如下。
表：GLM 5.3完整检查点吞吐量
条件：8节点DGX Spark，nvidia/GLM-5.3-NVFP4（约470GB），启用MTP3，输入处理测量采用每个请求8K的输入长度
单位：TPS（每秒词元数）
| 并发请求数 | 输入处理总量 | 每位用户输入处理量 | 词元生成总量 | 每位用户词元生成量 |
|---|---|---|---|---|
| 1 | 1,600 | 1,600 | 31 | 31 |
| 4 | 1,600 | 750 | 51 | 21 |
| 8 | 1,600 | 473 | 67 | 18 |
增加并发请求会提高词元生成总量，但会降低每位用户的速度。运行配置的选择取决于要同时服务多人，还是为单个用户快速响应。
2. 连接方式影响性能与成本
将模型计算分配到多个节点时，节点之间需要交换数据。英伟达评估的RoCEnante通过交换机连接直接交换数据，并在各节点上求和，从而减少通信步骤。
据公司公布的数据，Qwen3.8-27B-NVFP4的词元生成性能提升如下。各项倍数均以单节点为基准。
表：不同通信方式的词元生成性能提升
条件：交换机连接，Qwen3.8-27B-NVFP4，禁用推测解码
单位：倍数
| 节点数 | 使用RoCEnante | 不使用RoCEnante |
|---|---|---|
| 1 | 1.00 | 1.00 |
| 4 | 3.06 | 2.56 |
| 8 | 4.43 | 3.05 |
通信步骤减少的同时，每个节点的传输量会增加。公司解释，对于大消息或较多节点、并发请求，这一负担会加重，因此默认通信方式NCCL更有优势。
3. 增加节点带来的吞吐量
据公司公布的数据，在相同模型及输入输出长度下，各连接拓扑的性能如下。倍数以相同精度的单台Spark为基准，交换机配置使用了RoCEnante。
表：Qwen3.8-27B在不同连接拓扑下的性能
条件：NVIDIA/Qwen3.8-27B(NVFP4)，llama-benchy，输入8192个词元、输出256个词元，并发请求数1，禁用推测解码及MTP
单位：吞吐量为每秒词元数
| 节点数 | 连接拓扑 | 输入吞吐量 | 输入倍数 | 生成吞吐量 | 生成倍数 |
|---|---|---|---|---|---|
| 1 | — | 2,635 | 1.00 | 11.86 | 1.00 |
| 2 | 直接连接 | 3,285 | 1.25 | 21.71 | 1.838 |
| 4 | 物理环形 | 4,446 | 1.69 | 32.82 | 2.77 |
| 4 | 交换机(RoCEnante) | 4,556 | 1.73 | 36.34 | 3.06 |
| 8 | 物理环形 | 4,962 | 1.88 | 40.11 | 3.38 |
| 8 | 交换机(RoCEnante) | 5,105 | 1.94 | 52.58 | 4.43 |
在8节点中，使用交换机和RoCEnante的配置获得了最高的生成吞吐量。将节点首尾相连的环形连接可降低成本并简化安装流程，而将节点划分为独立组则需要交换机。
4. 将简单请求分流至小模型
NVIDIA NeMo Switchyard会区分简单和困难的请求，并发送给合适的模型。
公司的原型使用OpenBMB的MiniCPM5 2B处理简单任务，使用Qwen3.8 Flash Next处理困难任务。
据公司公布的数据，在包含困难案例的92项工具使用评估中，该配置获得91/100分，与单独使用Qwen的得分相同。
在8节点上，为3个Qwen副本各分配2节点，为2个MiniCPM副本各分配1节点。据公司公布的数据，将一半请求发送给Qwen时，总吞吐量约为单独使用Qwen的1.5倍，发送四分之一时约为3倍。这种按模型划分节点的配置使用交换机。
5. 小模型训练也能在本地扩展
英伟达从零开始训练了约896.5M参数的nanochat。公司解释，该结构在每个节点上保留模型副本，并在每个训练步骤同步变更信息，因此吞吐量较容易随节点数量增加而提升。
表：nanochat预训练扩展
条件：DGX Spark 1~8节点，nanochat约896.5M，每步全局批量524,288个词元，每个GPU微批次32个序列
| 节点数 | 吞吐量（每秒词元数） | 加速比（倍） | 扩展效率(%) |
|---|---|---|---|
| 1 | 8,741 | 1.00 | 100.0 |
| 2 | 17,202 | 1.97 | 98.4 |
| 4 | 33,640 | 3.85 | 96.2 |
| 8 | 68,079 | 7.79 | 97.4 |
据公司公布的数据，8节点的训练速度为单节点的7.79倍。
管理工具NVIDIA Sync计划于2026年年底前提供8节点支持。
8节点DGX Spark拓宽了大型模型运行和本地训练的范围，但实际收益取决于优先考虑请求速度、总吞吐量还是网络成本。