NVIDIA-Nemotron-Labs-Dory1.0-4B:反復回数の調整、最終反復のキャッシュ
NVIDIAが、再学習せずに内部の反復回数を変えて精度と計算量を調整する40億パラメータの言語モデルを公開した。最終反復だけを保存するキャッシュと複数の精度の配布版を提供するが、実際の応答時間とコストはタスクごとに評価する必要がある。
devotd.
韓国時間(KST)の対象日ごとに記事を掲載しています。後日執筆の記事は対象日と実際の公開日時を分けて表示します。
NVIDIAが、再学習せずに内部の反復回数を変えて精度と計算量を調整する40億パラメータの言語モデルを公開した。最終反復だけを保存するキャッシュと複数の精度の配布版を提供するが、実際の応答時間とコストはタスクごとに評価する必要がある。
セキュリティ侵害によりコンソール利用者全体の1.4%が影響を受け、対象は外部AIサービスを接続した利用者の一部だ。通知を受けた利用者はプロバイダーの管理画面でキーを失効・交換し、最近の利用履歴と接続先のアプリケーションを点検する必要がある。
NVIDIAは、画面理解とツール呼び出しを個人のデバイスで処理するよう設計した24GBの視覚言語モデルを公開した。大規模モデルを圧縮し、量子化誤差を学習で補正した。ターミナル作業の評価でBoltはQwen3.6を上回ったが、一部の知識の正確性やハルシネーション抑制の項目では下回った。別の低精度での速度実験では、2つの小型エキスパートモデルより遅かった。
Reflectionが初の公開重みモデルを3つの精度で配布し、セルフホスティングと追加学習への道を開いた。配布の管理権を得る一方で、運用チームはハードウェア構成と業務ごとの品質・安全性を自ら確認する必要がある。
Claude Codeに、自動モードの判定モデルを選ぶ設定と、アイドル時の会話圧縮を切り替える項目が追加された。前バージョンの無人再試行の待機上限に加え、今回のバージョンでは128 MBを超える画像ソースを拒否する制限が適用された。
大規模言語モデルのエキスパート重みをCPU上で圧縮状態に保ち、小さな補正重みだけを学習する経路が追加された。学習結果の保存と推論への接続も支援するが、モデル全体の品質やスループットの測定結果は示されていない。
インテルがローカル言語モデル推論パッケージの基盤エンジンを更新し、対応モデルと低精度実行の選択肢を広げた。回答生成の高速化やカスタムモデルの配信機能も提供するが、デモ用イメージという位置付けとモデル別の実行条件を確認する必要がある。
IBMの新たな公開ウェイトモデルは、対話と選択肢の判断、音声認識を同じエンドポイントで提供する。サーバー構成を簡素化できるが、応答ごとの処理方法と英語音声入力の制約を考慮する必要がある。
ドイツ語・英語の公開重みモデルをローカル推論ツールで変換・実行するための対応が追加された。トークンごとの計算には一部のパラメータしか使わないが、全重みを保持するメモリと実際の利用環境での検証は別途考慮する必要がある。
ローカル言語モデル実行ツールが画像入力と最大8件のリクエストの同時処理を追加し、回答生成を高速化した。メモリが不足すると同時処理の設定が単一リクエストを遅くする場合があり、機器と利用パターンに合った選択が必要だ。