KRAFTON AI가 한국어와 영어 지시를 따르고 대화 속에서 도구를 호출하는 소형 언어 모델 Raon-1 nano를 공개했다. 개발자는 허깅페이스에서 모델 가중치, 학습된 내부 수치 정보를 내려받아 호환 실행 경로로 기기에서 구동하거나 API 서버로 제공할 수 있다.
모델 카드, 모델 정보를 정리한 안내문은 사무 작업과 모바일 제어를 주요 사용 사례로 제시한다. 애플 실리콘을 포함한 기기에서 대화와 작업 처리를 결합하려는 개발팀이 검토할 수 있는 공개 모델이다.
1. 기기 실행과 도구 호출을 겨냥한 모델
Raon-1 nano의 실효 파라미터, 실제 작동에 쓰이는 모델 내부 수치는 15억 개이며, 파라미터 15억 개 규모의 층별 임베딩 테이블을 포함한 총규모는 31억 개다. 허깅페이스에서 받는 가중치 묶음에는 5,500만 개 규모의 다중 토큰 예측 모듈, 여러 토큰을 함께 내다보는 구성요소가 더해져 전체 32억 개로 구성된다.
Apache 2.0 라이선스에 따라 저장소에서 제공하는 가중치와 설정 파일은 상업적 이용을 포함해 사용·수정·재배포할 수 있다. 개발팀은 공개된 모델을 자사 실행 환경에 맞춰 배치하는 방식을 선택할 수 있다.
2. 긴 문맥을 위한 하이브리드 구조
최대 262,144토큰 문맥을 지원하며, 24개 층 중 18개는 고정 크기의 상태로 정보를 이어가는 선형 어텐션, 6개는 키·값 캐시를 유지하는 전체 어텐션으로 구성된다. 모든 층에 캐시를 쌓는 대신 일부 층에만 두는 구조로, 회사 발표 기준 BF16, 16비트 부동소수점 형식의 캐시는 토큰당 약 7KiB다.
학습은 더 큰 Raon-1 mini 미리보기 모델의 구조를 줄이고 학습 결과를 전달받는 방식으로 시작했다. 이후 3조 토큰의 추가 사전 학습, 이미 학습한 모델을 더 훈련하는 단계와 후속 학습을 진행했다.
3. 한국어 대화 평가에서 드러난 강점
회사 발표 기준 한국어 대화 점수는 비교한 다섯 모델 중 가장 높았다. 아래는 상담·고객 서비스·팬덤·배틀그라운드 대화의 평균을 내는 사내 평가 결과다.
표: 한국어 대화 평가의 모델별 점수
조건: Chatbot Korean 사내 벤치마크, 내부 기준으로 성능을 재는 시험. 상담·고객 서비스·팬덤·PUBG 대화 평균이다. Raon-1 nano는 temperature, 응답의 무작위성을 조절하는 설정 0.1, presence_penalty 1.5이며 비교 모델은 각 모델 카드 권장 설정이다.
단위: 점수
| 모델 | 점수 |
|---|---|
| Raon-1 nano | 91.0 |
| Qwen3.5 2B | 42.2 |
| Gemma 4 E2B | 87.6 |
| MiniCPM5 2B | 41.6 |
| LFM3 1.7B | 58.3 |
이 평가에서는 젬마가 가장 가까운 비교군이다. 일상적인 한국어 대화 능력을 중시하는 팀이 먼저 살펴볼 결과다.
위와 같은 일반 대화 샘플링 설정에서 회사 발표 기준 지시 수행 점수는 IFBench 75.9, MultiChallenge 40.5였다.
같은 설정의 문맥 평가에서 회사 발표 기준 FACTS Grounding은 44.4, PersonaMem v2는 32k 문맥에서 38.8이었다.
같은 설정에서 회사 발표 기준 PrefEval은 생성 과제의 10·70·150회 대화 평균으로 44.0이었다. 모델 카드는 이 지시·문맥 평가 다섯 항목에서도 비교군 중 가장 높은 점수를 제시했다.
작업별 선택 기준은 달라진다. 회사 발표 기준 라온의 지식 평가 MMLU-Redux 점수는 81.1로, 84.0인 MiniCPM5 2B에 뒤졌다. 이때 라온의 온도는 0.7이었다.
회사 발표 기준 온도 1.0으로 측정한 라온은 일반 함수 호출 평가 BFCL v4에서 56.3으로, 67.2인 LFM3 1.7B에 뒤졌다. 비교 모델에는 각 모델 카드의 권장 설정이 적용됐다.
같은 도구 사용 설정에서 회사 발표 기준 터미널 작업 평가 NL2SH-ALFA는 라온 58.0, Gemma 4 E2B 62.6이었다. 한국어 대화 성적과 함께 실제로 맡길 작업의 결과를 살필 이유다.
4. 실행 선택지와 실제 비용
모델 카드는 직접 응답을 생성하거나 API 서버를 여는 실행 경로를 안내한다. 아래는 크기를 줄인 GGUF 모델로 터미널 대화를 시작하는 원문 명령이며, 크래프톤의 llama.cpp 전용 브랜치를 먼저 빌드하는 절차를 따른다.
./build/bin/llama-cli \
-hf KRAFTON/Raon-1-nano-gguf:Q4_K_M \
--ctx-size 65536 \
--reasoning on \
--chat-template-kwargs '{"enable_thinking": true}'기기 실행과 서버 제공 중 배치 방식을 고를 수 있는 대신, 개발팀에는 실행 형식과 하드웨어를 맞추는 준비 비용이 따른다. vLLM 예시는 엔비디아 B300 한 장과 BF16 가중치를 전제로 하며, 애플 실리콘에는 MLX 형식이 제공된다.
카드에 따르면 Transformers 경로의 RDA는 프롬프트 토큰을 순차 처리하므로, 모델이 긴 입력 문맥을 처리하는 프리필 단계가 느릴 수 있다. LiteRT-LM 묶음은 4비트 가중치와 fp16 활성값, 계산 중 임시로 만들어지는 수치 정보를 쓰며 문맥이 4,096토큰으로 제한되고, 사고 과정 없이 답하며 첫 실행 때 GPU 프로그램 컴파일에 약 30~60초가 걸린다.
Raon-1 nano는 공개 비교에서 한국어 대화와 지시 수행이 돋보이지만, 배치 환경과 작업별 평가 결과를 함께 따져 선택할 모델이다.
