바이트댄스 연구진 등이 개발한 과학 추론 모델을 커뮤니티가 재현해 공개했다. 개발자는 검색과 코드 실행을 활용하는 모델을 내려받아 시험하고, 함께 공개된 자료로 데이터 구성과 학습 과정을 살펴볼 수 있다.
1. 공개 대상은 Qwen 기반 커뮤니티 재현본
허깅페이스에 배포된 Axion 1.0-35B는 커뮤니티 재현 가중치다. 연구진의 저장소는 논문 모델의 기반을 Qwen3.6-35B-A3B로 설명하며 재현본을 안내한다. 기존 기반 모델을 추가 학습해 과학 추론과 도구 활용 능력을 다듬는 방식이다.
모델 카드에 따르면 전체 매개변수, 모델이 답을 내도록 학습된 내부 수치는 약 350억 개이고 처리 과정에서 약 30억 개가 활성화된다. 여러 전문가 중 일부를 골라 계산하는 혼합 전문가 구조, 여러 계산 경로 중 일부를 골라 쓰는 구조다. 가중치는 BF16 형식으로 제공되며 Apache 2.0 라이선스가 표시돼 있다.
2. 풀이 학습에서 검색과 상호작용으로 확장
논문의 학습법은 정답 풀이를 보여주는 지도 미세조정, 정답 예시로 모델을 더 훈련하는 과정 두 단계와, 도구를 쓰며 보상을 받는 강화학습, 행동 결과의 보상을 바탕으로 학습하는 방법으로 구성된다. 먼저 문제 안의 정보로 과학·수학 문제를 푸는 법을 익히고, 이어 검색으로 빠진 정보를 찾아 계산하는 법을 배운다. 마지막에는 검색·페이지 조회·학술 검색·Python 실행을 활용해 답을 완성하는 과정을 학습한다.
데이터 구축에서는 기반 모델이 이미 푸는 문제를 더 어렵게 고쳐 추론을 훈련한다. 도구 활용 문제는 공개 데이터에서 대상을 고르고 답을 계산한 뒤 질문으로 바꾼다. 문제를 만드는 쪽이 답을 먼저 확보하므로 검색과 계산을 거친 풀이가 맞는지 확인할 수 있다.
3. 같은 평가에서 추적한 학습 단계별 변화
논문은 같은 기반 모델의 학습 단계별 결과를 제시한다. 아래는 분야를 넘나드는 고난도 문제 평가인 인류 최종 시험의 텍스트 전용 130문항 결과다. 연구진 발표 기준, 세 번 실행한 결과 중 가장 높은 단일 실행 점수를 사용했다.
Qwen3.6-35B-A3B 기반, HLE-130 텍스트 전용 130문항, 검색·페이지 조회·학술 검색·Python을 지원하는 환경과 평가별 제한 적용, 3회 실행 중 최고 단일 실행 점수
| 학습 단계 | 점수 |
|---|---|
| 기반 모델 | 47.7 |
| 지도 미세조정 1단계 후 | 59.2 |
| 지도 미세조정 2단계 후 | 66.2 |
| 강화학습 후 | 70.0 |
이 평가에서는 지도 미세조정 두 단계에서 점수가 크게 오르고 강화학습이 추가 상승을 보탰다. 연구형 과학 문제를 푸는 FrontierScience 평가에서는 강화학습 전후 점수가 58.3%에서 56.7%로 내려가, 학습의 효과가 과제에 따라 달라지는 모습도 나타났다.
전체 인류 최종 시험에서는 연구진 발표 기준으로 일부 웹사이트 접근을 제한했을 때 52.2%, 제한을 풀었을 때 59.1%였다. 모델 카드가 제시한 재현본의 전체 시험 점수는 52.8%, 정보 탐색 평가인 SEAL-0 점수는 60.4%다.
재현본 카드에는 별도 측정 조건이 적혀 있지 않아 논문 결과와의 직접 우열 비교에는 제약이 있다. 평가 안내도 이번 릴리스에서 GPU 서빙과 논문 벤치마크 결과를 재검증하지 않았다고 밝힌다.
4. 모델 실행과 도구 연결을 나눠 준비
모델 카드는 vLLM 서빙, 모델에 요청을 보내 응답받도록 제공하는 운영과 OpenAI 호환 요청 예시를 제공한다.
아래 명령은 카드 원문에 실린 실행 예시로 GPU 8장, BF16, 최대 길이 131,072 설정을 사용한다.
vllm serve Axion1-0/Axion-1.0-35B \
--served-model-name axion-35b \
--host 127.0.0.1 --port 8000 \
--tensor-parallel-size 8 --dtype bfloat16 \
--max-model-len 131072 \
--reasoning-parser qwen3 \
--enable-auto-tool-choice --tool-call-parser qwen3_coder모델 카드는 GPU 메모리에 맞춰 병렬 처리 크기, 계산을 나눠 동시에 처리하는 장치 수와 컨텍스트 용량, 모델이 한 번에 참고할 입력 범위를 조정하도록 안내한다. 개발자는 모델을 띄운 뒤 OpenAI 호환 API로 요청을 보낼 수 있다.
검색을 활용한 평가에는 모델의 도구 호출을 실제 작업으로 연결하는 외부 실행기, 도구 작업을 실제 수행하는 연결 프로그램이 필요하다. 검색 서비스와 페이지 조회, 격리된 코드 실행 환경을 연결하고, 도구의 실행 결과를 다음 모델 요청에 돌려주는 역할이다. 저장소의 평가 코드는 외부 실행기가 수집한 풀이를 채점하는 방식이다.
5. 공개 자료는 실험을 돕고 장비 부담은 남는다
데이터 생성·필터링·검증과 프롬프트, 학습 코드, 평가 준비 자료가 공개돼 개발자는 모델이 배운 문제와 정답 확인 방식을 추적할 수 있다. 완성된 가중치를 시험하는 데서 더 나아가 학습 절차를 바꾸고 평가 흐름을 재사용하기 쉬워진다.
그 대가로 재학습 장비와 도구 서비스 운영 부담은 활용자에게 남는다. 논문은 35B의 두 단계 지도 미세조정에 128K 컨텍스트와 GPU 32장을 사용했고, 총 약 90 GPU시간과 GPU당 최대 101GiB 메모리가 들었다고 보고했다. 공개 코드는 실험의 출발점을 제공하지만 실제 수행에는 상당한 계산 자원이 필요하다.
Axion 1.0-35B의 활용 가치는 점수표의 순위보다 공개된 학습법을 바꾸고 재현 가중치로 시험할 수 있다는 데 있다.