Xolotl：プロジェクト名変更、大型モデル実行エンジン統合
個人用PCで大型AIモデルを実行するプロジェクトが名称を変更し、複数モデルのエンジンを1つのリポジトリに統合した。グラフィックカード1枚で毎秒約27トークンを生成した結果は、大容量メモリと高速ストレージを備えた環境での記録であり、公式サービスとの品質の同等性を意味しない。
devotd.
IT
テーマごとの動きと判断に必要な背景をまとめる。
対象日順の記事
48 件の記事llama.cpp b11716/b11717：Hexagonの1ビット・2ビット対応、行抽出・アダマール演算の追加
Snapdragonのニューラル処理装置に、超低ビット重みの行列積と行抽出・アダマール演算の対応が追加された。開発者はBonsai-2の1ビット・2ビット経路が利用可能になったと述べたが、メモリ使用量の削減をより生かすには追加の最適化が必要だと説明した。
Cloudflareの認証済みボット：継続的な行動検証、顧客ごとの信頼基準
Cloudflareが、認証済みボットによる指示の順守と速度調整要求への反応を継続的に評価するシステムを紹介した。現在は内部で観察履歴を蓄積する段階で、スコア公開と顧客による信頼基準の選択機能は今後の計画だ。
llama.cpp b11714：Webでのモデル探索と補助ファイル選択、ダウンロードの一時停止と再開
Web画面でHugging Face Hubのモデルを検索し、量子化に合う推論補助ファイルを一緒にダウンロードできるようになった。一時停止したダウンロードは再起動後も復元されるが、ファイルが変わった場合や再開を拒否された場合は最初から取得し直す。
NVIDIA-Nemotron-Labs-Dory1.0-4B：反復回数の調整、最終反復のキャッシュ
NVIDIAが、再学習せずに内部の反復回数を変えて精度と計算量を調整する40億パラメータの言語モデルを公開した。最終反復だけを保存するキャッシュと複数の精度の配布版を提供するが、実際の応答時間とコストはタスクごとに評価する必要がある。
OpenCode Console：外部キーの露出、プロバイダーキーの失効・交換
セキュリティ侵害によりコンソール利用者全体の1.4%が影響を受け、対象は外部AIサービスを接続した利用者の一部だ。通知を受けた利用者はプロバイダーの管理画面でキーを失効・交換し、最近の利用履歴と接続先のアプリケーションを点検する必要がある。
Claude Code 2.1.302：自動モード・アイドル時圧縮の設定、待機・画像読み取りの上限
Claude Codeに、自動モードの判定モデルを選ぶ設定と、アイドル時の会話圧縮を切り替える項目が追加された。前バージョンの無人再試行の待機上限に加え、今回のバージョンでは128 MBを超える画像ソースを拒否する制限が適用された。
Strata 0.1.45：Qwen3.6-35B-A3Bの画像入力、最大8件の同時リクエストと生成の高速化
ローカル言語モデル実行ツールが画像入力と最大8件のリクエストの同時処理を追加し、回答生成を高速化した。メモリが不足すると同時処理の設定が単一リクエストを遅くする場合があり、機器と利用パターンに合った選択が必要だ。
OpenAI Agents SDK for Python 0.24.0：MCPツールの説明情報の公開、実行全体でのエラー整形
外部ツールが提供する補足説明をコードから読み取り、対象となる関数の実行エラーメッセージを共通ハンドラーで整えられるようになった。承認待ちの間は履歴の自動圧縮が延期され、既存のエラーハンドラーは新しい分類への対応を確認する必要がある。
LFM2.5-24B-A2B：デバイス内の推論・ツール活用、一部の活性化で計算削減
Liquid AIが、全パラメータの一部だけを計算に使い、回答前に推論するデバイス内エージェント向けモデルを公開した。ツール活用の評価で強みを示したが、知識・コード評価の限界や重みの保存負担、商用利用条件も併せて検討する必要がある。