싱킹 머신스 랩이 2026년 11월 20일 노트북과 데스크톱에서 실행하도록 설계한 인공지능 모델 Inkling 2 Mini를 공개했다. 코딩 도구를 만드는 개발자는 공개된 가중치를 내려받아 여러 단계의 문제를 푸는 작업에 쓰고 미세조정할 수 있다.

1. 가운데 층을 되풀이하는 구조

Inkling 2 Mini는 가운데 층을 같은 가중치로 세 번 통과하며 계산을 반복한다. 같은 계산 구간을 재사용해 모델 크기보다 계산의 깊이를 늘리는 방식이다.

모델 카드에 따르면 총 264억 개의 파라미터를 갖춘 전문가 혼합 모델이며, 토큰당 활성 파라미터는 34억 개다. 반복 계산까지 반영한 실질 활성 규모는 54억 개다.

저장된 24개 층 가운데 12개 층을 세 번씩 통과하므로 토큰당 층 계산은 48회다. 회사 발표 기준 가운데 층 반복은 마지막 12개 층 반복보다 28개 평가 중 27개에서 정확도 향상 폭이 컸다.

대부분의 가중치는 4비트 NVFP4로 학습·배포하고 마지막 네 층은 8비트 MXFP8을 쓴다. 모델 카드에 따르면 배포 체크포인트의 크기는 약 20GB다.

텍스트와 이미지를 입력받아 텍스트로 답하며, 문맥 길이는 최대 100만 토큰이다.

2. 코딩 평가에서 회사가 내세운 결과

회사 발표 기준 총 파라미터 1000억 개 미만의 공개 가중치 모델 가운데 DeepSWE v1.1과 Vals Index v2.2에서 선두이며, 후자 점수는 46.5%다. 아래 표는 같은 코딩 평가와 평가 도구로 보고된 해결률을 모았으며, 모델별 평가 환경은 다를 수 있다.

표: DeepSWE v1.1 코딩 작업 해결률

조건: 회사 발표 기준, DeepSWE v1.1, mini-swe-agent v2.4.6

단위: %

DeepSWE v1.1 코딩 작업 해결률Inkling 2 Mini: 해결률 48.2; Qwen3.8-27B: 해결률 42.2; Nemotron 3.5 Super VL: 해결률 24.7; Muse Glimmer: 해결률 4.4; Gemma 4 31B: 해결률 0.3Inkling 2 Mini48.2Qwen3.8-27B42.2Nemotron 3.5 Super VL24.7Muse Glimmer4.4Gemma 4 31B0.3
DeepSWE v1.1 코딩 작업 해결률
코딩 평가에서 회사가 내세운 결과
모델해결률
Inkling 2 Mini48.2
Qwen3.8-27B42.2
Nemotron 3.5 Super VL24.7
Muse Glimmer4.4
Gemma 4 31B0.3

Inkling 2 Mini의 해결률 48.2%는 Qwen3.8-27B의 42.2%보다 6.0%포인트 높았다. 이 코딩 작업의 해결률을 중시한다면 로컬 코딩 도구에서 Inkling 2 Mini를 우선 시험할 후보로 삼을 근거다.

같은 평가 도구를 쓴 다른 시험에서도 회사 발표 기준 SWE-bench Pro v2 (Hard)는 77.9%, Terminal Bench v4.0은 5.6%였다. 후자는 표에 실린 경쟁 모델 중 최고 점수와 동률이었다.

3. 더 많은 계산과 로컬 사용의 맞교환

루프 구조는 중간 추론을 길게 출력하지 않고도 더 많은 계산을 하게 하지만, 토큰당 연산량은 늘어난다. 회사 발표 기준 전문가를 줄이기 전 모델끼리 비교하면 루프 없는 모델은 학습 연산량이 7.5% 적었지만, 51만 2천 토큰 에이전트 작업 기록에서 같은 예측 오차에 도달하는 데 추론 연산량이 140% 더 필요했다.

함께 공개한 연구용 가변 루프 모델은 반복 횟수를 달리해 실험할 수 있다. 회사 발표의 별도 실험에서 Think Fast 일부 과제를 추론 글 없이 50% 성공률로 해결하는 작업 길이는, 사람이 완료하는 시간을 기준으로 1회 통과 때 16초에서 3회 때 37초로 늘었다.

회사 발표에 소개된 스탠퍼드 연구팀의 에너지 효율 평가에서는 Inkling 2 Mini가 0.703, Qwen3.6-35B-A3B가 0.430을 기록했다. 일정한 성능에 도달하는 데 필요한 에너지를 평가한 지표로, Inkling 2 Mini는 DGX Spark 128GB에서 MXFP8·낮은 추론 강도로 실행됐고 비교 모델은 NVFP4를 사용해 정밀도 조건이 달랐다.

4. 내려받아 실행하는 방법

가중치는 허깅페이스에서 Apache 2.0 라이선스로 내려받을 수 있다. Tinker에서는 추론과 미세조정을 제공한다.

모델 카드는 메모리 32GB 이상인 애플 실리콘 기기를 지원하며, 다른 GPU는 영상 메모리 32GB 이상을 권장한다. 애플 실리콘에서는 Ollama를, 양자화된 GGUF 형식으로 실행할 때는 llama.cpp를 이용할 수 있다.

모델 저장소의 대화 템플릿은 추론 강도의 이름을 수치에 대응시킨다. 해당 매핑을 정의하는 원문 코드는 다음과 같다.

{%- set effort_map = {"none": 0.0, "minimal": 0.1, "low": 0.2, "medium": 0.7, "high": 0.9, "xhigh": 0.99, "max": 0.99} -%}

모델 카드는 다중 턴 대화·복잡한 지시·영어 이외 언어에서의 약점을 안내한다. 반복 추론과 확인 없는 파일 삭제·덮어쓰기에 대비해 출력·작업 횟수 상한을 두고, 샌드박스에서 실행하며 파괴적 작업 전 확인을 받도록 권고한다.

Inkling 2 Mini의 핵심은 큰 모델을 통째로 로컬에 옮기는 대신, 반복 계산으로 코딩 추론을 보강한 공개 가중치를 작은 기기에서 시험할 수 있다는 점이다.