KRAFTON AIは、韓国語と英語の指示に従い、対話中にツールを呼び出す小型言語モデルRaon-1 nanoを公開した。開発者はHugging Faceから、学習済みの内部数値情報であるモデル重みをダウンロードし、対応する実行経路で機器上で動かしたり、APIサーバーとして提供したりできる。
モデル情報をまとめた案内文であるモデルカードは、事務作業とモバイル操作を主な用途として挙げている。Appleシリコンを含む機器上で対話とタスク処理を組み合わせたい開発チームが検討できる公開モデルだ。
1. 機器上での実行とツール呼び出しを狙うモデル
Raon-1 nanoの実効パラメータ、つまり実際の動作に使われるモデル内部の数値は15億個で、15億パラメータ規模の層別埋め込みテーブルを含む総規模は31億個だ。Hugging Faceで配布される重みには、複数のトークンをまとめて予測する5,500万個規模の多トークン予測モジュールが加わり、全体で32億個となる。
Apache 2.0ライセンスに基づき、リポジトリで提供される重みと設定ファイルは、商用利用を含めて使用・修正・再配布できる。開発チームは、公開モデルを自社の実行環境に合わせて配置する方式を選べる。
2. 長い文脈のためのハイブリッド構造
最大262,144トークンの文脈に対応し、24層のうち18層は固定サイズの状態で情報を引き継ぐ線形アテンション、6層はキー・バリューキャッシュを維持するフルアテンションで構成される。全層ではなく一部の層にだけキャッシュを置く構造で、同社発表では、16ビット浮動小数点形式であるBF16のキャッシュは1トークン当たり約7KiBだ。
学習は、より大きなRaon-1 miniプレビューモデルの構造を縮小し、学習結果を受け継ぐ方式で始まった。その後、学習済みモデルをさらに訓練する段階として3兆トークンの追加事前学習と、後続学習を行った。
3. 韓国語対話評価で示した強み
同社発表では、韓国語対話スコアは比較対象の5モデル中で最も高かった。以下は、相談・顧客サービス・ファンダム・PUBGの対話を平均した社内評価結果だ。
表:韓国語対話評価のモデル別スコア
条件:社内基準で性能を測るChatbot Koreanベンチマーク。相談・顧客サービス・ファンダム・PUBGの対話の平均。Raon-1 nanoは応答のランダム性を調整するtemperatureが0.1、presence_penaltyが1.5で、比較モデルは各モデルカードの推奨設定を使用。
単位:スコア
| モデル | スコア |
|---|---|
| Raon-1 nano | 91.0 |
| Qwen3.5 2B | 42.2 |
| Gemma 4 E2B | 87.6 |
| MiniCPM5 2B | 41.6 |
| LFM3 1.7B | 58.3 |
この評価ではGemmaが最も近い比較対象だ。日常的な韓国語対話能力を重視するチームが、まず確認したい結果である。
上記の一般対話用サンプリング設定では、同社発表の指示遂行スコアはIFBenchが75.9、MultiChallengeが40.5だった。
同じ設定の文脈評価では、同社発表でFACTS Groundingが44.4、PersonaMem v2が32k文脈で38.8だった。
同じ設定で、同社発表のPrefEvalは生成タスクにおける10・70・150回の対話の平均で44.0だった。モデルカードは、これら指示・文脈評価の5項目でも比較対象中で最も高いスコアを示した。
タスクごとに選定基準は異なる。同社発表では、Raonの知識評価MMLU-Reduxのスコアは81.1で、84.0のMiniCPM5 2Bを下回った。このときのRaonのtemperatureは0.7だった。
同社発表では、temperature 1.0で測定したRaonは、一般的な関数呼び出し評価BFCL v4で56.3となり、67.2のLFM3 1.7Bを下回った。比較モデルには各モデルカードの推奨設定が適用された。
同じツール使用設定で、同社発表のターミナル作業評価NL2SH-ALFAはRaonが58.0、Gemma 4 E2Bが62.6だった。韓国語対話の成績だけでなく、実際に任せるタスクの結果も確認すべき理由である。
4. 実行の選択肢と実際のコスト
モデルカードは、直接応答を生成するか、APIサーバーを立ち上げる実行経路を案内している。以下は、サイズを縮小したGGUFモデルでターミナル対話を始める原文のコマンドで、KRAFTONのllama.cpp専用ブランチを先にビルドする手順に従う。
./build/bin/llama-cli \
-hf KRAFTON/Raon-1-nano-gguf:Q4_K_M \
--ctx-size 65536 \
--reasoning on \
--chat-template-kwargs '{"enable_thinking": true}'機器上での実行とサーバー提供から配置方式を選べる一方、開発チームには実行形式とハードウェアを合わせる準備コストがかかる。vLLMの例はNVIDIA B300を1基とBF16の重みを前提とし、Appleシリコン向けにはMLX形式が提供される。
カードによると、Transformers経路のRDAはプロンプトのトークンを逐次処理するため、長い入力文脈を処理するプリフィル段階が遅くなる場合がある。LiteRT-LMパッケージは4ビットの重みと、計算中に一時的に作られる数値情報であるfp16活性値を使う。文脈は4,096トークンに制限され、思考過程なしで回答し、初回実行時にはGPUプログラムのコンパイルに約30~60秒かかる。
Raon-1 nanoは公開比較で韓国語対話と指示遂行が際立つ一方、配置環境とタスク別の評価結果を併せて検討して選ぶべきモデルだ。
