NVIDIAは、DGX Sparkを最大8台まとめて運用するクラスタ構成への対応を発表した。統合メモリ1TBでより大きなモデルをローカルで実行し、複数モデルの同時運用や小規模モデルの学習もできるため、開発者の選択肢が広がる。
1. 1TBメモリで大規模モデルを実行
NVIDIAはGTCベルリンで8ノードクラスタの正式対応を発表した。1台の統合メモリは128GB、4台では512GB、8台では1TBとなる。同社によると、4ノードには収まらなかったZ.aiのGLM 5.3のフルモデル(753B)を実行できる。
同社の発表によると、8ノードでのGLM 5.3 Flashの生成速度は約80トークン/秒だった。別途測定したGLM 5.3のフルモデルの結果は以下のとおり。
表：GLM 5.3フルチェックポイントのスループット
条件：8ノードDGX Spark、nvidia/GLM-5.3-NVFP4(約470GB)、MTP3使用、入力処理の測定はリクエスト当たりの入力長8K
単位：TPS(トークン/秒)
| 同時リクエスト | 入力処理の合計 | ユーザー当たりの入力処理 | トークン生成の合計 | ユーザー当たりのトークン生成 |
|---|---|---|---|---|
| 1 | 1,600 | 1,600 | 31 | 31 |
| 4 | 1,600 | 750 | 51 | 21 |
| 8 | 1,600 | 473 | 67 | 18 |
同時リクエストを増やすと全体のトークン生成量は増え、ユーザー当たりの速度は下がる。複数人を同時に処理するか、1人に速く応答するかによって運用の選択が変わる。
2. 接続方式で変わる性能とコスト
モデルの計算を複数ノードに分けると、ノード間でデータをやり取りする必要がある。NVIDIAが評価したRoCEnanteは、スイッチ接続でデータを直接交換し、各ノードで加算することで通信段階を減らす。
同社の発表によると、Qwen3.8-27B-NVFP4のトークン生成性能は次のように向上した。各倍率の基準は単一ノードである。
表：通信方式別のトークン生成性能の向上
条件：スイッチ接続、Qwen3.8-27B-NVFP4、投機的デコーディング無効
単位：倍率
| ノード | RoCEnante使用 | RoCEnante不使用 |
|---|---|---|
| 1 | 1.00 | 1.00 |
| 4 | 3.06 | 2.56 |
| 8 | 4.43 | 3.05 |
通信段階が減る代わりに、各ノードの転送量は増える。大きなメッセージや多数のノード・同時リクエストではこの負担が増すため、標準の通信方式であるNCCLのほうが有利だと同社は説明している。
3. ノード増設で得られるスループット
同社が発表した、同じモデル・入出力長での接続構成別の性能は以下のとおり。倍率は同じ精度の単一Sparkを基準とし、スイッチ構成にはRoCEnanteを使用した。
表：Qwen3.8-27Bの接続構成別の性能
条件：NVIDIA/Qwen3.8-27B(NVFP4)、llama-benchy、入力8192トークン・出力256トークン、同時リクエスト1、投機的デコーディング・MTP無効
単位：スループットはトークン/秒
| ノード | 接続構成 | 入力スループット | 入力倍率 | 生成スループット | 生成倍率 |
|---|---|---|---|---|---|
| 1 | — | 2,635 | 1.00 | 11.86 | 1.00 |
| 2 | 直接接続 | 3,285 | 1.25 | 21.71 | 1.838 |
| 4 | 物理リング | 4,446 | 1.69 | 32.82 | 2.77 |
| 4 | スイッチ(RoCEnante) | 4,556 | 1.73 | 36.34 | 3.06 |
| 8 | 物理リング | 4,962 | 1.88 | 40.11 | 3.38 |
| 8 | スイッチ(RoCEnante) | 5,105 | 1.94 | 52.58 | 4.43 |
8ノードでスイッチとRoCEnanteを使った構成が、最も高い生成スループットを示した。ノードを環状につなぐリングはコストと設置手順を減らす選択肢であり、ノードを独立したグループに分けるにはスイッチが必要となる。
4. 簡単なリクエストは小規模モデルに分散
NVIDIA NeMo Switchyardは簡単なリクエストと難しいリクエストを分け、適切なモデルに送る。
同社の試作システムは、簡単な作業にOpenBMBのMiniCPM5 2B、難しい作業にQwen3.8 Flash Nextを使用した。
同社の発表によると、難しい事例を含む92件のツール使用評価で、この構成は91/100点を獲得し、Qwen単独と同じ点数となった。
8ノードのうち、Qwenのレプリカ3個にそれぞれ2ノード、MiniCPMのレプリカ2個にそれぞれ1ノードを割り当てた。同社の発表によると、リクエストの半分をQwenに送るとQwen単独より総スループットが約1.5倍、4分の1を送ると約3倍となった。このようにモデルごとにノードを分ける構成にはスイッチを使う。
5. 小規模モデルの学習もローカルで拡張
NVIDIAは約896.5Mパラメータのnanochatをゼロから学習した。ノードごとにモデルのコピーを置き、学習ステップごとに変更情報を同期する構成のため、ノードを増やした分だけスループットも伸びやすいという説明だ。
表：nanochatの事前学習の拡張
条件：DGX Spark 1~8ノード、nanochat約896.5M、ステップ当たりのグローバルバッチ524,288トークン、GPUマイクロバッチ当たりのシーケンス32個
| ノード | スループット(トークン/秒) | 速度向上(倍) | スケーリング効率(%) |
|---|---|---|---|
| 1 | 8,741 | 1.00 | 100.0 |
| 2 | 17,202 | 1.97 | 98.4 |
| 4 | 33,640 | 3.85 | 96.2 |
| 8 | 68,079 | 7.79 | 97.4 |
同社の発表によると、8ノードは単一ノードの7.79倍の学習速度を示した。
管理ツールNVIDIA Syncの8ノード対応は2026年末までに提供される予定だ。
8ノードDGX Sparkは大規模モデルの実行とローカル学習の範囲を広げるが、実際の利点はリクエストの速度、総スループット、ネットワークコストのどれを優先するかによって変わる。