NVIDIA发布了面向自动驾驶开发者的车载推理模型Alpamayo 2 Edge。它利用周围摄像头画面和导航输入生成驾驶依据与未来轨迹，在常规场景下减少推理，以降低车载计算机的计算负担。自动驾驶开发者可结合闭环学习与部署工具测试车载模型。

1. 减少推理，根据驾驶结果再学习

该模型基于NVIDIA Cosmos 3 Edge，拥有20亿参数，将视觉与语言理解转化为驾驶行为。它接收多个方向的摄像头画面、历史运动和导航输入，生成驾驶决策的原因与未来轨迹。

在常规驾驶场景中，它会输出<NOMINAL>令牌，而不是生成冗长的决策依据。这种按需生成推理的自适应方式减少了不必要的令牌生成，节省推理计算。

训练先通过蒸馏将Alpamayo 2 Super生成的推理传递给小模型，再在AlpaGym仿真中进行闭环强化学习。蒸馏是将大模型的知识迁移到小模型的训练方法。闭环强化学习则让模型重新经历自身行为的结果，并通过奖励加以改进。

后训练是在预训练之后进一步调整性能的过程。据公司公布的数据，这种闭环强化学习使闭环驾驶性能比未进行同类强化学习的最佳模型提高了48.9%。

2. 仿真对比与车载延迟

AlpaSim的闭环评估将模型输出的行为反馈到仿真中，以观察驾驶结果。

据公司公布的数据，Alpamayo 2 Edge(2B)与Qwen-Drive-1.0(4B)的有责事故间行驶距离如下。NVIDIA称两者相差约40倍。

公司还给出了利用已记录驾驶数据预测未来轨迹的开环评估结果，即最小平均位移误差。该指标表示预测轨迹的误差，数值越低越好。

表：两个模型的驾驶评估对比

条件：对比NVIDIA公布的Alpamayo 2 Edge(2B)与Qwen-Drive-1.0(4B)。闭环和开环为独立评估，按各项指标比较两个模型。

单位：有责事故间行驶距离为km，最小平均位移误差为m

仿真对比与车载延迟
评估方式指标Alpamayo 2 Edge(2B)Qwen-Drive-1.0(4B)优劣方向
AlpaSim闭环有责事故间行驶距离(km)9.870.25越高越好
开环最小平均位移误差(m)0.531.68越低越好

图表：有责事故间行驶距离 条件：上表中的AlpaSim闭环评估。数值越高越好，条形长度与数值成正比。单位：km

Alpamayo 2 Edge(2B)  ███████████████████▊  9.87
Qwen-Drive-1.0(4B)   ▌                    0.25

图表：最小平均位移误差 条件：上表中的开环评估。数值越低越好，条形长度与数值成正比。与距离图表不共用坐标轴。单位：m

Alpamayo 2 Edge(2B)  █████▎             0.53
Qwen-Drive-1.0(4B)   ████████████████▊  1.68

车载性能在另一套配置中测量。据公司公布的数据，在DRIVE AGX Thor-X上使用TensorRT 11.3.1.9优化的模型，从图像输入到轨迹输出的耗时随推理量变化，为160~190ms。测量使用了DRIVE OS 7.2.7.0和CUDA 13.4。

Embedl联合创始人兼首席执行官汉斯·萨洛蒙松表示，他们在48小时内实现了在AGX Thor上每秒执行10次驾驶规划。

3. 车载优化是独立的部署阶段

从Hugging Face下载的模型权重默认以BF16数值精度格式保存，可在受支持的NVIDIA GPU上作为PyTorch模型运行。若要在车辆上实时使用，还需进行优化。

部署方案从准备DFlash2草稿模型和FP8校准开始。该过程利用辅助模型加速推理生成，并进行校准以适配降低数值精度后的计算。

随后导出ONNX图，即转换为可迁移至部署工具的模型表示，再构建TensorRT执行引擎并启动部署程序。

部署方案还使用相同输入和以相同方式初始化的动作噪声，对比优化前后的输出质量。

运行部署包的原始命令如下。

python -m alpamayo2edge_edgellm.runtime.run \
  --engines "$WORK/engines" \
  --model "$MODEL" \
  --reference "$INPUTS" \
  --dflash2 \
  --rolling \
  --warmup 1 \
  --repeat 5 \
  --output "$WORK/results.json"

4. 将推理质量与训练数据及奖励相连接

NVIDIA的AlpaJudge独立于驾驶轨迹误差评估解释质量，是依据人类判断调整的评估与奖励模型。基于参考的方式比较问题、标准答案与候选答案。无参考方式则利用前向广角与长焦摄像头帧、过去与未来的动作上下文及候选推理，给出各评估项分数和综合分数。

这些分数也用于数据筛选与后训练。据公司公布的数据，按分数筛选后，有助于训练的中等分数样本占比从27%升至81%。

公开的强化学习方案评估模型的推理与轨迹，将推理分数与轨迹误差、乘坐舒适度指标合并为一个奖励。据公司公布的数据，相较于基于Alpamayo 2 Super的强化学习前模型，推理质量提升按评估模型评分为10.2%，按人工评估为11.4%。

减少推理量、在车内快速获得轨迹的同时，开发团队也增加了数值精度校准、执行引擎构建和输出质量对比工作。也就是说，从获取模型到在车上实时运行之间，还存在优化成本。

AlpaJudge分数反映解释是否符合评估标准，因此应结合碰撞、驶离道路等驾驶指标来看。高分可能意味着模型已能很好地解释该案例，进一步学习的空间较小。低分样本除错误标注外，也可能包含罕见失败，一概剔除可能丢失必要的训练案例。中等分数段有较多适合进一步学习的案例，具有筛选价值。

关键在于将推理集中在必要时刻，并将车载部署、评估与再训练串联为统一的开发流程。