UnslothがRecursiveのコーディングエージェントモデルFlintを公開し、開発者は大規模モデルを外部サーバーではなく自分のコンピューターで実行できるようになった。同社は短いコンテキストなら3ビットファイルを24GBメモリ構成で動かせると案内し、コーディングツールとの接続方法も提供している。
1. コード調査からテスト作成までを狙うモデル
Unslothは2026年10月23日公開のv0.1.910-betaリリースでFlintへの対応を紹介した。Recursiveが開発したこのモデルは、コードベースの調査、バグ修正、機能実装、テスト作成を対象とする。回答を作るための内部計算である推論と複数回のツール使用に対応し、文書上のコンテキスト上限は入力と出力を合わせて262,144トークンだ。
モデルが学習して保存した数値である全パラメータは398億個だが、トークンごとに有効になるのは約25億個だ。混合エキスパート構造は、毎回全体を計算する代わりに作業を担う一部のエキスパートを選ぶ方式で、このモデルは各エキスパート層で256個のうち6個と、常に有効な共有エキスパートを使う。
2. 3ビットファイルは24GB構成に合わせた選択肢
Unslothの文書で案内されている3ビットファイルUD-Q3_K_XLのサイズは18.50GBだ。同社は、このファイルが短いコンテキストでは24GBメモリ構成で動作すると説明している。同じ案内には推奨メモリ容量の表もあり、RAMとVRAMの合計、またはユニファイドメモリを基準としている。
表：量子化別の推奨メモリ容量
条件：Unslothの文書にあるFlintのハードウェア要件表、RAM・VRAMまたはユニファイドメモリ基準
単位：GB
| 量子化 | メモリ |
|---|---|
| 2ビット | 13–15 |
| 3ビット | 16–20 |
| 4ビット | 26 |
| 6ビット | 38 |
| 8ビット | 44 |
表にある3ビットの推奨容量は16–20GBで、本文は短いコンテキストで24GB構成による実行例を案内している。ファイルを保存する領域だけでなく、会話を処理するメモリの余裕まで考慮することが機器選びの基準となる。
3. プロジェクトフォルダーでコーディングエージェントを接続
Unsloth Desktopのモデルハブからファイルをダウンロードして実行するか、llama.cppで直接動かせる。コーディングエージェントと接続するには、Unslothと使用するエージェントをインストールし、プロジェクトフォルダーでコマンドを実行する。
以下は文書に掲載されたClaude Codeとの接続例だ。このコマンドはサイズ25.05GBの4ビットファイルを使い、コーディング作業向けにコンテキストを大きく設定するため、文書の8千トークンの実行例よりメモリを多く使う。
unsloth start claude \
--model unsloth/flint-GGUF:UD-Q4_K_XL \
--temp 1.0 --top-p 0.95 --top-k 20 --min-p 0.04. 元モデルと圧縮モデルのコーディング評価結果
Recursiveの企業発表によると、元モデルに当たるBF16と容量を減らしたNVFP4モデルは、以下の3つのエージェント評価で近いスコアを記録した。エージェントのスコアは、最低5回の試行における1回の試行での成功率を平均した値だ。
表：Flintの元モデルと圧縮モデルのエージェント評価
条件：Recursiveの企業発表に基づく、温度1.0・top-p 0.95・top-k 20、Terminal-BenchはTerminus 2、SWE-benchはmini-swe-agent、最低5回の試行の平均pass@1、Terminal-Benchはウェブ検索で得た解答を失敗扱い
単位：%
| モデル | Terminal-Bench 2.1 | SWE-bench Pro v2 | SWE-bench Verified |
|---|---|---|---|
| Flint BF16 | 54.9 | 89.7 | 74.2 |
| Flint NVFP4 | 53.7 | 88.5 | 74.1 |
圧縮モデルは3つの評価すべてで元モデルをわずかに下回った。この表の圧縮モデルはNVFP4であり、ローカル実行用の3ビットファイルはGGUF形式で提供される。
Unslothのリリースでは、SWE-bench Pro v2でのFlintの89.7とQwen 3.6の73.8も紹介された。
5. メモリ削減の利点と長い作業のコスト
3ビットファイルは、大規模モデルをローカルエージェントと組み合わせる際に必要な保存領域とメモリの負担を減らす選択肢だ。その利点を生かすには短いコンテキストから始め、より長いコーディング作業にはメモリの余裕と推論時間を割り当てる形で運用コストを見積もる必要がある。
Unslothの企業発表による処理速度は、M4 Pro MacBook Proで毎秒125トークン以上、メモリ64GBのNVIDIA RTX Sparkで毎秒150トークン以上だ。どちらの数値も、文書に記載された各機器での実行例として示された。
競合モデルのスコアは開発者の発表値で、評価設定は出典ごとに異なり、上記の処理速度にも量子化ファイルとコンテキストの条件は併記されていない。使い方や注意事項を記すモデルカードは、長い推論が遅延や出力予算の消費を招き、誤ったコードやツール呼び出しが生じる可能性があるとして、生成コードのテストと重要な変更のレビューを推奨している。
Flintの要点は、3ビットファイルでローカルコーディングエージェントの利用を広げた点にあり、実行時のメモリとコンテキストの条件を合わせて考慮する必要がある。