Perplexity pplx-decider-v1.2：问题分组处理，训练数据重构
Perplexity 调整了请求格式和训练数据，让模型一次判断同一情境下的多个问题。相关属性适合一起询问，独立候选项则宜分别评估，同时需核查长输入和执行路径带来的结果差异。
devotd.
大语言模型
了解各主题的新进展及其来源。
按专题日期排列
22 篇文章Nemotron-pretraining-Indic-v1：2.8万亿 token 语料库，公开数据生成流程
NVIDIA 介绍了面向印度22种语言、约2.8万亿 token 的翻译型训练数据及公开生成流程。计划公开的数据用于补充本地原创文本，所报告的性能提升来自混合使用这两类数据的训练阶段。
Beam 1.0：三种精度权重公开，基于 Apache 2.0 的自托管
Reflection 以三种精度发布首个开放权重模型，开放了自托管和进一步训练的路径。在获得部署控制权的同时，运维团队需要自行验证硬件配置及各项业务的质量与安全性。
Granite Switch 4.1：集成对话、决策与语音识别，开放权重
IBM 的新开放权重模型通过同一接入点提供对话、选项决策和语音识别功能。这可以简化服务器配置，但需要考虑各类响应的处理方式以及英语语音输入的限制。
DeepSeek-V4.1-Flash-1017：提升编程性能与速度，开放搜索与抓取 API
DeepSeek 发布了新模型，称其提高了编程评测得分，并缩短了任务耗时和输出长度。网页搜索与页面抓取也通过公开 API 提供，指定工具的服务端调用限时免费。
NVIDIA TensorRT-LLM 1.4.0rc0：支持 GLM-5.3-Flash，移除 KVCacheManagerV2 的 Python 实现
新增对新模型文本、图像和视频输入的支持。缓存管理器的 Python 实现已移除，升级前需检查现有配置和事件采集路径。
Hugging Face Transformers v5.20.0：支持 Muse Spark Open，原生加载 Ling 3.0 Flash
Transformers 新增对 Meta 多模态模型的支持，以及 InclusionAI 模型的内置加载路径。输入处理和加载流程得到整合，但实际部署时，仍需分别核查大型模型的内存需求和专家并行推理的性能下降警告。
NVIDIA Nemotron 3.5 Super VL 120B-A12B：100万 token 混合 MoE，内置 MTP 推测解码
英伟达发布了可处理长文档、图像和视频的模型，提供用于训练与评估的版本，以及降低内存需求的部署版本。内置预测功能可用于尝试加速生成，但实际速度和量化带来的质量变化，仍需结合部署条件和具体任务判断。
Boole-1.7B：1位存储 GGUF 292.1MB，较 BF16 平均下降8.28分
一款以1位存储权重符号的小型语言模型已发布，可在 CPU 上运行的分发文件大小为292.1MB。发布方评测的十项任务平均分比原模型低8.28分，未提供运行内存和生成速度的测量数据。
FlashInfer v0.7.1：扩大 Rubin 量化专家并行支持，工作站集成责任
在 Rubin 和 Blackwell 工作站上，将模型专家运算分配到多个 GPU 执行的支持得到扩展。工作站路径由调用方负责输入传递和结果求和，公布的单层性能数据并不代表整个分布式服务的加速比。