NVIDIA Nemotron：区域人设，后训练流程

1. 居民人设：虚拟居民角色设定让各地区的问答更具体

NVIDIA与法国人工智能初创公司Pleias共同创建了Nemotron-Personas-France，比利时数据集则由Pleias和KU Leuven共同参与开发。该公司将两份资料介绍为覆盖12个国家的区域人设数据计划的一部分。

人设是虚拟居民，而非真实人物。法国数据中的人物具有符合人口统计的年龄、所属市镇、职业和家庭信息，还提供描述工作与生活的个人档案。这些设定会改变用户提问的表达方式，各地区适用的答案也可能不同。

博客举例称，法属圭亚那的护照印花税为43欧元，而法国本土为86欧元。这种方式将地区人口信息融入对话背景，使训练数据不仅涵盖语言差异，也涵盖实际流程的差异。

比利时人设涵盖荷兰语、法语、德语和英语。指南说明，转向其他地区时，可替换居民数据、行为标准和审核人员，并沿用相同流程。

2. 从数据生成到模型对比的流程

工作流是按顺序衔接任务的流程，首先确定目标行为和评估标准。例如，像订立契约一样规定回答对象、任务、语言和语气、采用的官方信息、安全规则及回答结构，并统一用于生成和审核。教程建议，可选的固定评估集可包含100~300个人工编写的问题，或经去标识化处理、无法识别个人的运营模式，覆盖常见问题以及例外和风险情境。

随后从不同地区和职业中选取2,000个人设，生成客户问题与回答。居民设定用于丰富提问表达，而回答中的事实则来自一同提供的官方流程文档。生成的回答由独立评分模型检查，先确认八条，再进行全量生成。

数据审计是检查错误和信息泄露的步骤，会筛除格式错误、残留的推理语句及可能泄露人设姓名的内容。其余数据按90比10划分，避免同一人设同时出现在训练集与验证集中，防止评估数据混入训练。

示例模型为Nemotron 3.5 Lightning。LoRA是一种仅训练少量调整参数的方法，先训练称为适配器的小型独立调整权重，再将其合并到原始模型中提供回答。最后，向原始模型和微调模型发送相同的固定问题，并排阅读答案。NVIDIA建议由人直接评估，而非交由智能体评估。

git clone https://github.com/NVIDIA-NeMo/Nemotron.git
cd Nemotron
git checkout v0.2.0
uv sync --extra data-sdg --extra evaluator
uv run nemotron steps --help

注意：受检仓库中没有博客所指的示例目录

博客提示读者使用 `use-case-examples/french-public-service-assistant/` 目录来跟随教程，并说明其中包含示例配置文件、脚本、sources 与 eval 文件。但在本次收集资料时，该目录并未出现在受检的 main 分支仓库树（sha 1c3e781）中，在 `v0.2.0` 标签下同样没有。

抓取该示例的 README 得到的结果是 `404: Not Found`。因此上文是博客中记录的工作流，而非经实际运行验证的示例。要复现该流程，需先确认该目录是否存在。

3. 案例评估中可观察的变化

据公司公布的内容，在法国护照问题的示例回答中，原始模型建议采用官方文档未提及的邮寄申请。微调模型的示例回答则建议，因健康原因行动不便时，可请求工作人员上门，并提交开具时间不足3个月的医疗证明。该案例表明，区域适配的评估重点是正确的申请途径，而非语句是否流畅。

评估计划设有六个领域：任务准确性、法语质量、区域适配性、安全性、稳健性，以及通用指令遵循能力的保持情况。还会检查地区表达是否恰当，以及人设信息是否泄露到回答中。

Pleias将包括法国和比利时在内的人设资料用于合作伙伴的脊柱护理助手Lamina。其用途是从少量真实患者案例生成涵盖不同档案的训练对话，并按患者类型进行测试。

4. 所需资源与数据管理的权衡

示例环境以Python 3.11~3.13、GPU容器运行环境和Nemotron仓库访问权限为前提。硬件以一台DGX Station GB300或一台DGX Spark为基准，但指南说明也可针对其他NVIDIA GPU系统调整。指南还建议，使用DGX Spark或托管API时，从生成500~1,000条开始。

让地区性回答更一致，并用模型人工生成的合成对话补充罕见案例，需要付出生成与评分API费用、GPU资源及人工审核时间。官方流程和行为标准的管理与重新评估也属于工作流的一部分。NVIDIA表示，基于人设的数据并不保证公平性或适当的代表性。

区域定制后训练是在预训练模型基础上进一步微调，其核心是利用人设拓宽问题范围，同时依靠官方流程和人工审核把牢回答依据。