Preferred Networks(PFN)公开了专用翻译人工智能模型PLaMo 3 Translate的权重,开发者和企业可直接下载模型,在自己的设备或服务器上处理翻译。模型可离线使用,也可配置为不向外部服务器发送原文。用户能从四种规模和多种运行格式中,选择适合设备和翻译质量要求的方案。
1. 在设备和企业内部服务器上翻译53种语言
PFN于2026年11月5日在Hugging Face公开了模型权重。模型有8亿、20亿、80亿和310亿参数四种规模,参数是训练过程中调整的数值,支持包括日语和英语在内的53种语言翻译。用户可根据所需质量、响应速度、吞吐量(即一定时间内的处理量)及设备选择规模。
在自有服务器或终端上运行,可在不将原文和译文发送至外部服务器的情况下,处理合同、研发资料和客户服务文档。这将信息管理范围限定在内部,但用户须自行配置运行环境,并选择适合设备的部署格式。
部署格式除常规GPU权重外,还包括通过降低数值表示精度来缩小体积的量化格式。此外还提供可在CPU和GPU上使用的GGUF,以及面向Apple芯片的MLX。
2. 通过数据精炼提升小型模型质量
据公司公布的数据,最小的8亿参数模型在日英翻译及日语与多语言翻译中,超越了谷歌DeepMind的TranslateGemma和腾讯Hy-MT2的对比模型。对比对象还包括参数量超过其30倍的模型。公司评估称,在英语与多语言之间的翻译中,20亿参数模型领先于对比对象。
日英对比采用了两种内部评估与国际翻译评估得分的平均值。多语言对比从支持的语言中选取15种,评估日语或英语与其余语言之间的双向翻译。韩语也在评估语言之列。
PFN结合多个候选译文的优点来改进训练译文,也将人类撰写的自然语句用作参考译文。公司称,小型模型还加入了蒸馏,即让小模型学习大模型输出、模仿已完成的31B模型预测的方法,从而在缩小规模的同时提升质量。
3. 缩小文件体积时也需关注翻译得分
这里对比了介绍公司模型信息与用法的模型卡中列出的四种31B部署格式。BF16是未经量化的基准格式。翻译得分衡量与参考译文的相似度,同一列中得分越高越好。
表:31B模型各部署格式的文件大小与翻译得分
条件:31B模型,部署及量化格式按行标注。PFTB是日英翻译评估指标,采用衡量字符级翻译相似度的日英双向charsim。FLORES+是多语言翻译评估数据集,此处使用15种评估语言中日语与其余14种语言之间的双向chrF++平均值,该指标衡量字符和词片段的重叠程度,日语输出采用礼貌体。
单位:权重文件大小为GB,翻译质量为各指标得分
| 部署格式 | 文件大小(GB) | 日英翻译(PFTB) | 日语与多语言翻译(FLORES+) |
|---|---|---|---|
| BF16 | 63.51 | 0.6244 | 37.81 |
| FP8 | 32.31 | 0.6240 | 37.79 |
| GGUF Q4_K_M | 19.53 | 0.6237 | 37.84 |
| GGUF Q2_K | 12.61 | 0.6126 | 37.36 |
表中间的两种格式文件体积小于基准格式,两项翻译得分却与其相近。体积最小的格式两项得分均有所下降。这一结果体现了节省存储空间与翻译质量之间的权衡,因此选择时不仅要考虑设备可容纳的体积,也要查看实际业务文档的翻译结果。
4. 直接运行或连接翻译服务器
开发者可按模型卡中的示例直接运行,也可启动vLLM服务器并发送API请求。集成到服务时,建议自行构建模型专用提示词,通过Completions API传入。
服务器示例将输入和输出的总长度设为16,384个token,可根据设备内存调整。训练时的最大总长度为32,768个token,因此拆分文档时,须确保原文与译文合计不超出运行环境的限制。
以下是模型卡中的聊天API请求示例。
curl http://localhost:8000/v1/chat/completions \
-H 'Content-Type: application/json' \
-d '{
"model": "plamo-3-translate",
"messages": [{"role": "user", "content": "こんにちは。"}],
"chat_template_kwargs": {"source_lang": "ja", "target_lang": "en"},
"temperature": 0,
"max_tokens": 512,
"stop": ["<|plamo:tag|>", "<|plamo:bos|>"]
}'目标语言为必填设置,源语言、参考上下文和术语表可按需指定。日语输出可选择礼貌体或普通体。这些设置通过模板参数传入。
5. 商业使用须核查营收门槛并提前注册
包括个人使用和学术使用在内的非商业使用免费,无须提前注册。商业使用方面,若用户或其关联企业最近一个财年的收入或营收不超过10亿日元,可在提前注册后免费使用。超过这一门槛则须另行签订商业许可协议。
PFN在公开当天的更正中,将免费使用对象的营收门槛从“低于10亿日元”改为“不超过10亿日元”。恰好达到门槛金额的用户,也可在注册后免费商用。
PLaMo 3 Translate公开权重,拓展了自主运行的选择,让用户能够一并选择翻译质量、设备容量和信息管理方式。
