싱킹 머신스 랩이 2026년 11월 20일 노트북과 데스크톱에서 실행하도록 설계한 인공지능 모델 Inkling 2 Mini를 공개했다. 코딩 도구를 만드는 개발자는 공개된 가중치를 내려받아 여러 단계의 문제를 푸는 작업에 쓰고 미세조정할 수 있다.
1. 가운데 층을 되풀이하는 구조
Inkling 2 Mini는 가운데 층을 같은 가중치로 세 번 통과하며 계산을 반복한다. 같은 계산 구간을 재사용해 모델 크기보다 계산의 깊이를 늘리는 방식이다.
모델 카드에 따르면 총 264억 개의 파라미터를 갖춘 전문가 혼합 모델이며, 토큰당 활성 파라미터는 34억 개다. 반복 계산까지 반영한 실질 활성 규모는 54억 개다.
저장된 24개 층 가운데 12개 층을 세 번씩 통과하므로 토큰당 층 계산은 48회다. 회사 발표 기준 가운데 층 반복은 마지막 12개 층 반복보다 28개 평가 중 27개에서 정확도 향상 폭이 컸다.
대부분의 가중치는 4비트 NVFP4로 학습·배포하고 마지막 네 층은 8비트 MXFP8을 쓴다. 모델 카드에 따르면 배포 체크포인트의 크기는 약 20GB다.
텍스트와 이미지를 입력받아 텍스트로 답하며, 문맥 길이는 최대 100만 토큰이다.
2. 코딩 평가에서 회사가 내세운 결과
회사 발표 기준 총 파라미터 1000억 개 미만의 공개 가중치 모델 가운데 DeepSWE v1.1과 Vals Index v2.2에서 선두이며, 후자 점수는 46.5%다. 아래 표는 같은 코딩 평가와 평가 도구로 보고된 해결률을 모았으며, 모델별 평가 환경은 다를 수 있다.
표: DeepSWE v1.1 코딩 작업 해결률
조건: 회사 발표 기준, DeepSWE v1.1, mini-swe-agent v2.4.6
단위: %
| 모델 | 해결률 |
|---|---|
| Inkling 2 Mini | 48.2 |
| Qwen3.8-27B | 42.2 |
| Nemotron 3.5 Super VL | 24.7 |
| Muse Glimmer | 4.4 |
| Gemma 4 31B | 0.3 |
Inkling 2 Mini의 해결률 48.2%는 Qwen3.8-27B의 42.2%보다 6.0%포인트 높았다. 이 코딩 작업의 해결률을 중시한다면 로컬 코딩 도구에서 Inkling 2 Mini를 우선 시험할 후보로 삼을 근거다.
같은 평가 도구를 쓴 다른 시험에서도 회사 발표 기준 SWE-bench Pro v2 (Hard)는 77.9%, Terminal Bench v4.0은 5.6%였다. 후자는 표에 실린 경쟁 모델 중 최고 점수와 동률이었다.
3. 더 많은 계산과 로컬 사용의 맞교환
루프 구조는 중간 추론을 길게 출력하지 않고도 더 많은 계산을 하게 하지만, 토큰당 연산량은 늘어난다. 회사 발표 기준 전문가를 줄이기 전 모델끼리 비교하면 루프 없는 모델은 학습 연산량이 7.5% 적었지만, 51만 2천 토큰 에이전트 작업 기록에서 같은 예측 오차에 도달하는 데 추론 연산량이 140% 더 필요했다.
함께 공개한 연구용 가변 루프 모델은 반복 횟수를 달리해 실험할 수 있다. 회사 발표의 별도 실험에서 Think Fast 일부 과제를 추론 글 없이 50% 성공률로 해결하는 작업 길이는, 사람이 완료하는 시간을 기준으로 1회 통과 때 16초에서 3회 때 37초로 늘었다.
회사 발표에 소개된 스탠퍼드 연구팀의 에너지 효율 평가에서는 Inkling 2 Mini가 0.703, Qwen3.6-35B-A3B가 0.430을 기록했다. 일정한 성능에 도달하는 데 필요한 에너지를 평가한 지표로, Inkling 2 Mini는 DGX Spark 128GB에서 MXFP8·낮은 추론 강도로 실행됐고 비교 모델은 NVFP4를 사용해 정밀도 조건이 달랐다.
4. 내려받아 실행하는 방법
가중치는 허깅페이스에서 Apache 2.0 라이선스로 내려받을 수 있다. Tinker에서는 추론과 미세조정을 제공한다.
모델 카드는 메모리 32GB 이상인 애플 실리콘 기기를 지원하며, 다른 GPU는 영상 메모리 32GB 이상을 권장한다. 애플 실리콘에서는 Ollama를, 양자화된 GGUF 형식으로 실행할 때는 llama.cpp를 이용할 수 있다.
모델 저장소의 대화 템플릿은 추론 강도의 이름을 수치에 대응시킨다. 해당 매핑을 정의하는 원문 코드는 다음과 같다.
{%- set effort_map = {"none": 0.0, "minimal": 0.1, "low": 0.2, "medium": 0.7, "high": 0.9, "xhigh": 0.99, "max": 0.99} -%}모델 카드는 다중 턴 대화·복잡한 지시·영어 이외 언어에서의 약점을 안내한다. 반복 추론과 확인 없는 파일 삭제·덮어쓰기에 대비해 출력·작업 횟수 상한을 두고, 샌드박스에서 실행하며 파괴적 작업 전 확인을 받도록 권고한다.
Inkling 2 Mini의 핵심은 큰 모델을 통째로 로컬에 옮기는 대신, 반복 계산으로 코딩 추론을 보강한 공개 가중치를 작은 기기에서 시험할 수 있다는 점이다.
