로컬 모델 실행 도구 Ollama가 Recursive의 코딩 모델 Flint를 지원해, Mac에서 원격 API 없이 저장소 작업을 맡길 선택지가 늘었다. ollama run flint 한 줄로 내 컴퓨터에서 대화형 실행을 시작할 수 있다. 10월 21일 공개된 v0.40.8-rc0 릴리스는 정식 출시 전 시험 버전이며, Flint 지원은 macOS 한정이다. 다른 GPU 지원은 이후 RC 빌드에서 열린다. 컨텍스트는 문서화된 구성 기준 262,144토큰이고 라이선스는 Apache 2.0이다.
한눈에 보기
표: Ollama Flint 핵심 사양
조건: 모델 카드와 Ollama 라이브러리 기준.
| 항목 | 값 |
|---|---|
| 모델 | 총 39.8B 파라미터, 토큰당 약 2.5B 활성 |
| 컨텍스트 | 262,144토큰, 프롬프트와 생성 출력 포함 |
| Ollama 배포 | flint:latest·flint:40b, 각 23GB·256K 컨텍스트 |
Flint는 저장소를 이해하고 버그를 추적하며 기능과 테스트를 구현하는 코딩 에이전트용 모델이다. 추론과 여러 차례의 도구 사용을 지원한다.
MoE는 토큰마다 일부 전문가만 골라 계산하는 구조다. Recursive는 출력층까지 4비트로 양자화해 메모리 사용과 토큰마다 읽는 가중치 양을 줄이고, 16비트 모델을 교사로 삼는 증류 학습으로 정확도를 회복했다고 설명한다. 또 M4·M5에서 디코딩 한 단계의 연산 전체를 통합하는 커널로 속도를 높였다고 밝혔다.
성능: 4비트로 줄여도 점수는 대체로 유지된다
Terminal-Bench 2.1은 터미널 작업을, SWE-bench는 저장소의 문제 해결을 평가한다.
조건: Recursive 벤치 차트와 평가 설명 기준. temperature 1.0·top-p 0.95·top-k 20, 에이전트 시간 제한 최대 5시간, 최소 5회 평균 pass@1(한 번의 시도에서의 정답 여부). Terminal-Bench 2.1은 Terminus 2 XML로 인터넷을 허용하고 검색으로 얻은 해답은 실패로 처리했으며, SWE-bench는 mini-swe-agent로 인터넷 없이 측정했다.
표: BF16과 NVFP4 체크포인트의 벤치마크 점수
단위: %
| 벤치마크 | Flint BF16 | Flint NVFP4 |
|---|---|---|
| Terminal-Bench 2.1 | 54.9 | 53.7 |
| SWE-bench Pro v2 | 89.7 | 88.5 |
| SWE-bench Verified | 74.2 | 74.1 |
| LiveCodeBench v6 | 80.3 | 80.8 |
| IFBench | 89.2 | 88.1 |
| IFEval | 95.1 | 94.6 |
4비트 NVFP4는 BF16 대비 Terminal-Bench에서 1.2%포인트, SWE-bench Pro에서 1.2%포인트, Verified에서 0.1%포인트 낮다. 같은 평가 안에서 보면 정밀도를 줄여도 점수는 대체로 유지된다.
속도: rec 엔진의 컨텍스트별 차이
하드웨어 요건: rec은 M4 Pro·M5 Pro·M5 Max Mac, 48GB 이상 통합 메모리와 약 30GB 여유 디스크를 요구한다.
조건: rec 저장소의 Apple M4 Pro 48GB 측정. 4비트 가중치, 출력 1,024토큰, 구간별 5회, 프롬프트 선처리 제외. 1K~252K 중 대표 구간.
표: M4 Pro 48GB에서 rec 엔진과 llama.cpp의 디코딩 처리량, 토큰을 생성하는 속도
단위: 토큰/초
| 프롬프트 컨텍스트 | rec | llama.cpp |
|---|---|---|
| 1K | 131.2 | 88.0 |
| 64K | 61.7 | 42.9 |
| 252K | 22.6 | 8.6 |
컨텍스트가 길어질수록 처리량은 떨어지지만 rec은 같은 구간에서 llama.cpp보다 앞선다. 이는 Ollama의 속도 측정이 아니다.
가격과 실행
조건: Ollama 요금제 페이지와 Recursive 문서 기준(2026년 10월 21일 확인).
Ollama의 Free 플랜은 $0이며 로컬 모델 실행을 포함한다. 자사 하드웨어에서 모델을 돌리는 일은 요금제와 무관하게 무제한이고, 확인한 요금표에는 Flint가 없으며, 공식 릴리스가 안내하는 실행 방법은 로컬 실행이다. Recursive도 블로그에서 데이터를 내 컴퓨터에 보관하고 API 비용을 피할 수 있다고 내세웠다. Recursive의 직접 Flint API는 일부 파트너에 한해 제공된다.
Ollama에서 시작하는 방법은 한 줄이다.
ollama run flint코딩 도구 연결에는 ollama launch claude --model flint를 쓴다.
Recursive는 컨텍스트 크기를 용량 한계로 두고, 시퀀스 길이에 따라 정확도가 균일할지는 보장하지 않는다. 모델 카드도 Flint가 틀리거나 유해한 코드, 부적절한 도구 호출을 만들어 낼 수 있다고 명시한다.
Mac 로컬 에이전트를 확인하려면 ollama run flint로 시작해 익숙한 저장소의 문제 하나를 맡기고, 배포 환경에 맞는 가중치와 실행 엔진을 선택한다.