Nemotron-pretraining-Indic-v1:2.8万亿 token 语料库,公开数据生成流程
NVIDIA 介绍了面向印度22种语言、约2.8万亿 token 的翻译型训练数据及公开生成流程。计划公开的数据用于补充本地原创文本,所报告的性能提升来自混合使用这两类数据的训练阶段。
devotd.
了解各主题的新进展及其来源。
NVIDIA 介绍了面向印度22种语言、约2.8万亿 token 的翻译型训练数据及公开生成流程。计划公开的数据用于补充本地原创文本,所报告的性能提升来自混合使用这两类数据的训练阶段。
英伟达发布了一款拥有40亿参数的语言模型,无需重新训练即可通过改变内部循环次数来调整准确率与计算量。模型提供仅保存最后一轮的缓存方式及多种精度的发行版,但实际响应时间和成本仍需按任务评估。
Reflection 以三种精度发布首个开放权重模型,开放了自托管和进一步训练的路径。在获得部署控制权的同时,运维团队需要自行验证硬件配置及各项业务的质量与安全性。
IBM 的新开放权重模型通过同一接入点提供对话、选项决策和语音识别功能。这可以简化服务器配置,但需要考虑各类响应的处理方式以及英语语音输入的限制。
DeepSeek 发布了新模型,称其提高了编程评测得分,并缩短了任务耗时和输出长度。网页搜索与页面抓取也通过公开 API 提供,指定工具的服务端调用限时免费。
一款为减少拒答的三值压缩模型加装了后续令牌预测辅助装置的构建版本已发布。制作者测试显示,在相同条件下,生成速度提升约20%,但需要额外内存和专用运行版本。
Ray 正式发布面向语言模型的数据处理与服务功能,并默认开启本地集群的令牌认证。认证的启用条件因启动方式而异,远程集群运维人员需要为今后扩大默认认证范围做好令牌分发准备。
新版本增加了支持的模型,并改变了重复输入缓存和请求处理的默认行为。新模型的安装说明在不同资料间存在差异,需要将部署配置确认与现有服务的兼容性检查分开进行。
新增临时聊天功能,在参与者的浏览器中加密消息,不在服务器上存储。管理员需分别设置功能启用状态和用户权限,并检查通信环境。
腾讯混元发布了专门为长期记忆系统筛选和更新存储信息的模型。它通过替换现有记忆管理体系中的写入模型来工作,评估时需同时关注固定样本上的表现与验证范围。