Preferred Networks(PFN)가 번역 전용 인공지능 모델 PLaMo 3 Translate의 가중치를 공개해, 개발자와 기업이 모델을 직접 내려받아 자체 기기나 서버에서 번역을 처리할 수 있게 됐다. 인터넷 연결 없이 쓸 수 있고 원문을 외부 서버로 보내지 않는 구성이 가능하다. 네 가지 크기와 여러 실행 형식 가운데 장비와 번역 품질에 맞는 선택지를 고를 수 있다.
1. 기기와 사내 서버에서 53개 언어 번역
PFN은 2026년 11월 5일 모델 가중치를 허깅페이스에 공개했다. 모델은 학습 중 조정되는 수치인 파라미터의 8억·20억·80억·310억 네 크기이며 일본어와 영어를 포함한 53개 언어의 번역을 지원한다. 필요한 품질과 응답 속도, 처리량, 일정 시간에 처리하는 양, 장비에 맞춰 크기를 고를 수 있다.
자체 서버나 단말기에서 실행하면 계약서, 연구개발 자료, 고객 대응 문서의 원문과 번역문을 외부 서버로 보내지 않고 처리할 수 있다. 정보 관리 범위를 내부로 좁히는 대신 실행 환경 구성과 장비에 맞는 배포 형식 선택은 이용자가 맡는다.
배포 형식은 일반 GPU용 가중치 외에 숫자 표현의 정밀도를 낮춰 용량을 줄인 양자화 형식을 포함한다. CPU와 GPU에서 쓸 수 있는 GGUF, 애플 실리콘용 MLX도 제공한다.
2. 작은 모델의 품질을 끌어올린 데이터 정제
회사 발표 기준, 가장 작은 8억 파라미터 모델은 일본어·영어 번역과 일본어·다국어 번역에서 구글 딥마인드의 TranslateGemma, 텐센트의 Hy-MT2 비교 모델들을 앞섰다. 비교 대상에는 파라미터 수가 30배 넘게 큰 모델도 포함됐다. 영어와 다국어 간 번역에서는 20억 파라미터 모델이 비교 대상들을 앞섰다는 것이 회사 평가다.
일본어·영어 비교에는 자체 평가 두 종류와 국제 번역 평가 점수의 평균을 썼다. 다국어 비교는 지원 언어 중 15개를 골라 일본어 또는 영어와 나머지 언어 사이의 양방향 번역을 평가했다. 한국어도 평가 언어에 포함됐다.
PFN은 여러 번역 후보의 장점을 합쳐 학습용 번역문을 다듬고, 사람이 쓴 자연스러운 문장을 번역의 정답으로도 활용했다. 작은 모델에는 완성된 31B 모델의 예측을 따라 배우게 하는 증류를, 큰 모델의 출력을 작은 모델에 학습하는 방법으로, 추가해 크기를 줄이면서 품질을 끌어올렸다고 설명했다.
3. 파일 크기를 줄일 때 번역 점수도 함께 살핀다
회사 모델 정보와 사용법을 설명하는 모델 카드의 31B 배포 형식 중 네 가지를 비교했다. BF16은 양자화하지 않은 기준 형식이다. 번역 점수는 정답 번역과의 유사성을 재며 같은 열에서 높을수록 좋다.
표: 31B 모델의 배포 형식별 파일 크기와 번역 점수
조건: 31B 모델, 배포·양자화 형식은 행별 표기. PFTB는 일본어·영어 번역 평가 지표로, 일영 양방향 charsim, 문자 단위 번역 유사도를 재는 지표를 쓰고, FLORES+는 다국어 번역 평가 자료집으로 15개 평가 언어 중 일본어와 나머지 14개 언어 간 양방향 chrF++ 평균, 문자와 단어 조각의 겹침을 재는 지표의 평균이며 일본어 출력은 정중체다.
단위: 가중치 파일 크기는 GB, 번역 품질은 각 지표 점수
| 배포 형식 | 파일 크기(GB) | 일영 번역(PFTB) | 일본어·다국어 번역(FLORES+) |
|---|---|---|---|
| BF16 | 63.51 | 0.6244 | 37.81 |
| FP8 | 32.31 | 0.6240 | 37.79 |
| GGUF Q4_K_M | 19.53 | 0.6237 | 37.84 |
| GGUF Q2_K | 12.61 | 0.6126 | 37.36 |
표에서 중간 두 형식은 기준 형식보다 파일 크기가 작으면서 두 번역 점수는 비슷하다. 가장 작은 형식은 두 점수가 모두 낮아졌다. 저장 공간 절감과 번역 품질의 교환 관계를 보여 주는 결과로, 장비에 맞는 용량뿐 아니라 실제 업무 문서의 번역 결과도 선택 기준이 된다.
4. 직접 실행하거나 번역 서버로 연결
개발자는 모델 카드의 예제로 직접 실행하거나 vLLM 서버를 띄워 API 요청을 보낼 수 있다. 서비스 통합에는 모델 고유 프롬프트를 직접 구성해 Completions API로 전달하는 방식이 권장된다.
서버 예시는 입력과 출력의 합산 길이를 16,384 토큰으로 설정하며, 장비 메모리에 맞춰 조정할 수 있다. 학습 시 최대 길이는 합산 32,768 토큰으로, 문서를 나눌 때는 원문과 번역문이 함께 실행 환경의 한도 안에 들어오게 해야 한다.
아래는 모델 카드에 실린 채팅 API 요청 예시다.
curl http://localhost:8000/v1/chat/completions \
-H 'Content-Type: application/json' \
-d '{
"model": "plamo-3-translate",
"messages": [{"role": "user", "content": "こんにちは。"}],
"chat_template_kwargs": {"source_lang": "ja", "target_lang": "en"},
"temperature": 0,
"max_tokens": 512,
"stop": ["<|plamo:tag|>", "<|plamo:bos|>"]
}'번역 대상 언어는 필수 설정이고 원문 언어, 참고 문맥, 용어집은 필요에 따라 지정한다. 일본어 출력은 정중체나 보통체를 고를 수 있다. 이 설정은 템플릿 인자로 전달한다.
5. 상업 이용은 매출 기준과 사전 등록 확인
개인 이용과 학술 이용을 포함한 비상업 이용은 무료이며 사전 등록이 필요 없다. 상업 이용은 이용자 또는 계열사의 최근 사업 연도 수입 또는 매출이 10억 엔 이하이면 사전 등록 후 무료로 할 수 있다. 이 기준을 넘는 경우 별도 상업 라이선스 계약이 필요하다.
PFN은 공개 당일 정정에서 무료 이용 대상의 매출 기준을 ‘10억 엔 미만’에서 ‘10억 엔 이하’로 바꿨다. 경계 금액에 해당하는 이용자도 등록 후 무료 상업 이용 범위에 들어간다.
PLaMo 3 Translate의 가중치 공개는 번역 품질과 장비 용량, 정보 관리 방식을 함께 고를 수 있는 자체 운영의 선택지를 넓혔다.