Recursive Flint：3位本地运行，连接编程智能体

1. 面向代码调查到测试编写的模型

Unsloth 在 2026年10月23日发布的 v0.1.910-beta 版本中介绍了对 Flint 的支持。该模型由 Recursive 开发，面向代码库调查、错误修复、功能实现和测试编写。它支持通过内部计算生成答案的推理，以及多轮工具使用，文档中的上下文上限为输入与输出合计 262,144 个 token。

模型学习并存储的参数总数为 398亿，但每个 token 激活的参数约为 25亿。混合专家结构并非每次计算全部参数，而是选择部分专家承担任务；该模型在每个专家层从 256 个专家中选择 6 个，并使用始终激活的共享专家。

2. 3位文件是适合 24GB 配置的选择

Unsloth 文档介绍的 3位文件 UD-Q3_K_XL 大小为 18.50GB。该公司表示，此文件可在短上下文下使用 24GB 内存配置运行。同一指南还提供了内存建议表，以 RAM 与 VRAM 合计或统一内存为标准。

表：各量化精度的建议内存

条件：Unsloth 文档中的 Flint 硬件需求表，以 RAM 与 VRAM 合计或统一内存为标准

单位：GB

表中 3位的建议内存为 16–20GB，而正文介绍的是在短上下文下使用 24GB 配置运行的示例。选择设备时，不仅要考虑存放文件的空间，还需考虑处理对话所需的内存余量。

3. 在项目文件夹中连接编程智能体

可以从 Unsloth Desktop 的模型中心下载文件并运行，也可以通过 llama.cpp 直接运行。要连接编程智能体，需安装 Unsloth 和所用智能体，然后在项目文件夹中执行命令。

以下是文档中的 Claude Code 连接示例。该命令使用大小为 25.05GB 的 4位文件，并为编程任务设置了更大的上下文，因此比文档中 8千 token 的运行示例占用更多内存。

unsloth start claude \
    --model unsloth/flint-GGUF:UD-Q4_K_XL \
    --temp 1.0 --top-p 0.95 --top-k 20 --min-p 0.0

4. 原始模型与压缩模型的编程评测结果

根据 Recursive 的公司公告，原始 BF16 模型与缩小体积的 NVFP4 模型在以下三项智能体评测中得分接近。智能体得分是在至少 5 次尝试中，对单次尝试成功率取平均所得的值。

表：Flint 原始模型与压缩模型的智能体评测

条件：依据 Recursive 公司公告，温度 1.0、top-p 0.95、top-k 20，Terminal-Bench 使用 Terminus 2，SWE-bench 使用 mini-swe-agent，至少 5 次尝试的平均 pass@1，Terminal-Bench 将通过网页搜索获得的答案判为失败

单位：%

压缩模型在三项评测中的得分均略低于原始模型。表中的压缩模型为 NVFP4，而用于本地运行的 3位文件以 GGUF 格式提供。

Unsloth 的发布说明还同时介绍了 SWE-bench Pro v2 中 Flint 的 89.7 分与 Qwen 3.6 的 73.8 分。

5. 节省内存的收益与长任务的成本

3位文件是在将大型模型与本地智能体结合时，降低存储空间和内存负担的一种选择。要利用这一优势，应从短上下文开始，并为更长的编程任务预留内存和推理时间，以此规划运行成本。

根据 Unsloth 的公司公告，M4 Pro MacBook Pro 的处理速度超过每秒 125 个 token，配备 64GB 内存的 NVIDIA RTX Spark 超过每秒 150 个 token。这两项数据均作为文档中对应设备的运行示例列出。

竞品模型的分数来自开发者公告，各来源的评测设置不同，上述处理速度也未同时注明量化文件与上下文条件。介绍模型使用方法和注意事项的模型卡指出，长时间推理可能造成延迟和输出预算耗尽，也可能生成错误代码或工具调用，因此建议测试生成的代码并审查重要更改。

Flint 的核心在于通过 3位文件扩大本地编程智能体的可用范围，但仍需同时考虑运行内存与上下文条件。