Preferred Networks(PFN)公开了专用翻译人工智能模型PLaMo 3 Translate的权重,开发者和企业可直接下载模型,在自己的设备或服务器上处理翻译。模型可离线使用,也可配置为不向外部服务器发送原文。用户能从四种规模和多种运行格式中,选择适合设备和翻译质量要求的方案。

1. 在设备和企业内部服务器上翻译53种语言

PFN于2026年11月5日在Hugging Face公开了模型权重。模型有8亿、20亿、80亿和310亿参数四种规模,参数是训练过程中调整的数值,支持包括日语和英语在内的53种语言翻译。用户可根据所需质量、响应速度、吞吐量(即一定时间内的处理量)及设备选择规模。

在自有服务器或终端上运行,可在不将原文和译文发送至外部服务器的情况下,处理合同、研发资料和客户服务文档。这将信息管理范围限定在内部,但用户须自行配置运行环境,并选择适合设备的部署格式。

部署格式除常规GPU权重外,还包括通过降低数值表示精度来缩小体积的量化格式。此外还提供可在CPU和GPU上使用的GGUF,以及面向Apple芯片的MLX。

2. 通过数据精炼提升小型模型质量

据公司公布的数据,最小的8亿参数模型在日英翻译及日语与多语言翻译中,超越了谷歌DeepMind的TranslateGemma和腾讯Hy-MT2的对比模型。对比对象还包括参数量超过其30倍的模型。公司评估称,在英语与多语言之间的翻译中,20亿参数模型领先于对比对象。

日英对比采用了两种内部评估与国际翻译评估得分的平均值。多语言对比从支持的语言中选取15种,评估日语或英语与其余语言之间的双向翻译。韩语也在评估语言之列。

PFN结合多个候选译文的优点来改进训练译文,也将人类撰写的自然语句用作参考译文。公司称,小型模型还加入了蒸馏,即让小模型学习大模型输出、模仿已完成的31B模型预测的方法,从而在缩小规模的同时提升质量。

3. 缩小文件体积时也需关注翻译得分

这里对比了介绍公司模型信息与用法的模型卡中列出的四种31B部署格式。BF16是未经量化的基准格式。翻译得分衡量与参考译文的相似度,同一列中得分越高越好。

表:31B模型各部署格式的文件大小与翻译得分

条件:31B模型,部署及量化格式按行标注。PFTB是日英翻译评估指标,采用衡量字符级翻译相似度的日英双向charsim。FLORES+是多语言翻译评估数据集,此处使用15种评估语言中日语与其余14种语言之间的双向chrF++平均值,该指标衡量字符和词片段的重叠程度,日语输出采用礼貌体。

单位:权重文件大小为GB,翻译质量为各指标得分

31B模型各部署格式的权重文件大小BF16: 文件大小(GB) 63.51; FP8: 文件大小(GB) 32.31; GGUF Q4_K_M: 文件大小(GB) 19.53; GGUF Q2_K: 文件大小(GB) 12.61BF1663.51FP832.31GGUF Q4_K_M19.53GGUF Q2_K12.61
31B模型各部署格式的权重文件大小
缩小文件体积时也需关注翻译得分
部署格式文件大小(GB)日英翻译(PFTB)日语与多语言翻译(FLORES+)
BF1663.510.624437.81
FP832.310.624037.79
GGUF Q4_K_M19.530.623737.84
GGUF Q2_K12.610.612637.36

表中间的两种格式文件体积小于基准格式,两项翻译得分却与其相近。体积最小的格式两项得分均有所下降。这一结果体现了节省存储空间与翻译质量之间的权衡,因此选择时不仅要考虑设备可容纳的体积,也要查看实际业务文档的翻译结果。

4. 直接运行或连接翻译服务器

开发者可按模型卡中的示例直接运行,也可启动vLLM服务器并发送API请求。集成到服务时,建议自行构建模型专用提示词,通过Completions API传入。

服务器示例将输入和输出的总长度设为16,384个token,可根据设备内存调整。训练时的最大总长度为32,768个token,因此拆分文档时,须确保原文与译文合计不超出运行环境的限制。

以下是模型卡中的聊天API请求示例。

curl http://localhost:8000/v1/chat/completions \
  -H 'Content-Type: application/json' \
  -d '{
    "model": "plamo-3-translate",
    "messages": [{"role": "user", "content": "こんにちは。"}],
    "chat_template_kwargs": {"source_lang": "ja", "target_lang": "en"},
    "temperature": 0,
    "max_tokens": 512,
    "stop": ["<|plamo:tag|>", "<|plamo:bos|>"]
  }'

目标语言为必填设置,源语言、参考上下文和术语表可按需指定。日语输出可选择礼貌体或普通体。这些设置通过模板参数传入。

5. 商业使用须核查营收门槛并提前注册

包括个人使用和学术使用在内的非商业使用免费,无须提前注册。商业使用方面,若用户或其关联企业最近一个财年的收入或营收不超过10亿日元,可在提前注册后免费使用。超过这一门槛则须另行签订商业许可协议。

PFN在公开当天的更正中,将免费使用对象的营收门槛从“低于10亿日元”改为“不超过10亿日元”。恰好达到门槛金额的用户,也可在注册后免费商用。

PLaMo 3 Translate公开权重,拓展了自主运行的选择,让用户能够一并选择翻译质量、设备容量和信息管理方式。