NVIDIAはGTC Berlinで、個人用PCからチーム向けシステムまで、ローカルAI機器とモデル実行速度の改善を発表した。クラウドではなく機器や組織内でエージェントを実行したい開発者やチームは、作業規模に合う機器の選択やモデルの共有がしやすくなる。

1. 個人用PCからチーム向けシステムまで

RTX Sparkは10月16日に発売されたWindowsの個人用PCプラットフォームだ。同社の発表によると、最大128GBの統合メモリと、毎秒1千兆回の演算を表す性能単位である1ペタフロップのAI演算性能を提供する。ダウンロード可能なデスクトップエージェントアプリUnderdogは、機器内でモデルを実行し、ユーザーデータをPCの外に出さないという説明だ。

開発者向けDGX Spark 64GBシステムは10月23日からパートナーを通じて供給を開始し、Qwen3.8 27Bなどを実行できる。

DGX Sparkは内蔵ネットワーク機能と接続ツールで複数のシステムをまとめられる。同社の発表によると、手動で構成する最大8台のクラスターは、複数のシステムをまとめて使う構成で、1TBの統合メモリを提供する。小規模チームが同じモデルを共有しながら、それぞれの作業を進める用途に使える。

同社の発表によると、チーム向けDGX Stationは748GBの統合メモリと最大20ペタフロップのAI性能を備え、GLM 5.3などのモデルで30人を超えるユーザーにクラウドモデルと同程度の速度で応答できる。

2. llama.cppとvLLMの高速化結果

NVIDIAはllama.cppとvLLMのオープンソースコミュニティと協力し、エージェント作業の推論を高速化した。次の出力を事前に推測して生成を早める投機的デコーディングの改善が中心となる。vLLMには、Qwenモデルの入力処理計算を高速化するカーネル、すなわち特定の計算を担う最適化コードも追加した。

同社の発表によると、llama.cppでのQwen 3.8 Flash Nextのエージェント作業は、RTX PRO 6000 Blackwellで最大1.4倍高速化した。Windowsと、数値を低い精度で表現する手法であるQ4_K_M量子化を使用し、9月1日版と作業完了時間を比較した結果だ。

同社の発表によると、vLLMでのQwen3.8 27Bのエージェント作業は、DGX Sparkで最大1.3倍高速化した。ローカルエージェントベンチマークの完了時間を9月1日の構成と比較した数値だ。

同社の発表によると、DGX StationでのGLM 5.3 Flashのスループット、すなわち一定時間内に処理した作業量は最大1.2倍に向上した。9月1日の構成を基準に、コーディングベンチマークの同時リクエスト8・16・32件でデコードのスループットを平均した結果だ。

これらの倍率はモデルと機器、測定項目が異なるため、直接的な性能順位としては捉えられない。

3. ローカルモデルと実行用リソースの拡充

Recursive Superintelligenceは、コーディング作業向けのローカルモデルRecursive Flintを公開した。モデルの動作を決める学習済みの値である全400億パラメーターのうち、トークンごとに25億個だけを有効化して計算する構造だ。同社の発表によると、64GB RTX Sparkで毎秒220トークンを超えた。

同社の発表によると、専用カーネルは、学習によって決まったモデル内部の数値であるモデル重みを変更せずに、RTX Sparkの生成速度を55%向上させた。モデル重みはApache 2.0ライセンスで公開され、個人用PCから開発者向けシステムまで、NVIDIAのローカルハードウェアで実行できる。

NVIDIAはメモリ使用量を抑えたモデル重みのセットも公開した。Qwen3.8-Flash-Next-FP4-Localは、DGX Spark 128GBの1台で実行できる。モデルが占有するメモリを減らし、会話の文脈を処理するために必要な空き容量を残す手法だ。

4. 複数の機器とモデルを扱う管理機能

NVIDIA SyncはDGX Spark最大8台の構成をサポートし、LinuxベースのDGX Stationを2台接続する機能も追加した。

今月末にはModel Launcherが提供される予定だ。このツールは、システム構成に合うモデルと、実行に必要なプログラムや設定をまとめた単位であるコンテナーをダウンロードし、OpenCodeに接続する。開発者は、モデルを選んでから実行環境を整え、作業ツールに接続するまでの手順を減らせる。

LinuxベースのDGX Stationには、NVIDIA Cloud Functionsの早期アクセスも予定されている。チームは、モデルの機能に接続するアドレスであるローカルモデルのエンドポイントを共有リストに登録し、OpenAI互換の単一の窓口からアクセスできる。これにより、メンバーは機器に直接接続せずに共有モデルを使え、アプリケーションのコードを変更せずにエンドポイントのモデルを切り替えられるとNVIDIAは説明した。

5. 性能と運用負担の移行

チームはデータをローカルに置きながらモデルを共同利用する利点を得る一方、クラスターの手動構成と機器管理を担う。接続ツールとモデル実行ツールは、その作業を減らす役割を果たす。性能の高速化とともに管理機能が拡充された理由も、複数の開発者が同じローカルリソースを使う環境に見いだせる。

今回の発表の重点は、個人がモデルを動かす段階から、チームがローカル推論リソースを共有・管理する段階への移行にある。