SGLang v0.5.21:新規モデル対応の拡大、キャッシュ・リクエスト処理のデフォルト変更
新バージョンは対応モデルを増やし、繰り返し入力のキャッシュとリクエスト処理のデフォルト動作を変更した。新モデルのインストール案内には資料間で違いがあり、デプロイ構成の確認と既存サービスの互換性検証を分ける必要がある。
devotd.
韓国時間(KST)の対象日ごとに記事を掲載しています。後日執筆の記事は対象日と実際の公開日時を分けて表示します。
新バージョンは対応モデルを増やし、繰り返し入力のキャッシュとリクエスト処理のデフォルト動作を変更した。新モデルのインストール案内には資料間で違いがあり、デプロイ構成の確認と既存サービスの互換性検証を分ける必要がある。
参加者のブラウザーでメッセージを暗号化し、サーバーには保存しない一時チャットが追加された。管理者は機能の有効化とユーザー権限を別々に設定し、通信環境も確認する必要がある。
テンセントの混元が、長期記憶システムで保存する情報を選び、更新する専用モデルを公開した。既存の記憶管理の仕組みで作成モデルを置き換える方式であり、評価では固定サンプルでの成果と検証範囲を併せて見る必要がある。
新モデルのテキスト・画像・動画入力への対応が追加された。キャッシュ管理のPython実装は削除されており、アップグレード前に既存の設定とイベント収集経路を確認する必要がある。
ターミナルのコーディングツールに、設定検索パネルと応答中の追加指示を反映する機能が加わった。設定の保存と実際の適用を区別し、作業の中断が変更の自動復元を保証しない点に注意が必要だ。
WebAssemblyや実行可能メモリをサポートしない環境で機能を使う際に、失敗原因を区別するエラー処理が改善された。WebSocketデータのマスクと解除を行う組み込み関数が追加され、ライブラリ開発者は別途拡張を使わずに処理を移せるようになった。
Visual Studio Code 1.142では、新しいエージェント会話の既定の実行基盤が段階的に変わり、ユーザーとエージェントが共同で編集する作業画面がプレビューとして追加された。組織ポリシーによる会話の自動移行と、サンドボックスの実際の制限範囲を確認する必要がある。
Transformersに、Metaの複数入力モデルへの対応とInclusionAIモデルの組み込み読み込み経路が追加された。入力と読み込み手順は統合されるが、実際の展開では大規模モデルのメモリ要件とエキスパート並列推論の速度低下の警告を別々に確認する必要がある。
GitHub Copilotは、デバイスとクラウドへの自動配置を2026年10月末までに導入する予定だ。開発者はモデルの実行場所とコマンドの権限を別々に判断する必要がある。デバイスでの測定と複数モデルの研究評価は条件が異なるため、区別して読む必要がある。
NVIDIAは長い文書や画像・動画を処理するモデルを、学習・評価用とメモリ削減を図るデプロイ用として公開した。内蔵の予測機能で生成の高速化を試せるが、実際の速度と量子化による品質変化は、デプロイ条件やタスクごとに判断する必要がある。