9月30日の発表報道後、10月14日に確認したLing-3.1-flashのカードにはMITライセンスとSGLang・vLLMの実行例があった。総数560B、トークン当たりアクティブ25Bと記す。
100万と262,144トークンの差
カードは100万トークンの文脈長を示す一方、SGLangの導入文書は262,144トークンとする。アクティブ数も25Bと約17Bで異なる。集計方法の差か誤記かは公開資料だけでは判断できない。
モデル構造とSGLangの実行設定
モデルは63層のKDAと9層のGated MLAを組み合わせ、トークンごとに512のルーティング対象エキスパートから8つを選ぶ。SGLangはこの構造向けのFP8実行イメージとNEXTNの追加トークン予測を案内する。
長文処理では100万という名目値より、実際のサーバーに設定した上限が重要だ。公開例はH200 8枚またはGB300 4枚を使うため、アクティブ25Bだけでメモリ要件を軽く見積もることはできない。
Artificial Analysisは知能指数41と「重み未公開」の分類を併記する。MIT表記と実行例のあるカードとは内容が異なる。評価値と公開状態は分けて確認する情報だ。
セルフホスティングでは、使うチェックポイントとサーバーの文脈設定を照合できる。カードに100万トークンとあるだけでは、その長さの実行が検証されたことにはならない。
Ling-3.1-flashの実際の運用範囲は、カードの数値だけでなくチェックポイントとサーバー設定の一致で決まる。
