Xolotl：项目更名，整合大型模型运行引擎
一个在个人电脑上运行大型 AI 模型的项目更名，并将多个模型的引擎整合到同一代码仓库。单张显卡每秒生成约 27 个 token 的成绩来自配备大容量内存和高速存储的环境，并不意味着其质量与官方服务相当。
devotd.
IT
了解各主题的新进展及其来源。
按专题日期排列
48 篇文章llama.cpp b11716/b11717：Hexagon 支持 1 位与 2 位权重，新增行提取与哈达玛运算
骁龙的神经网络处理单元新增了对超低位权重矩阵乘法、行提取及哈达玛运算的支持。开发者表示，Bonsai-2 的 1 位与 2 位路径已可用，但要更好地利用内存占用减少的优势，仍需进一步优化。
Cloudflare 已验证机器人：持续行为验证，客户自定信任标准
Cloudflare 介绍了一套持续评估已验证机器人是否遵守指令、是否响应限速要求的系统。目前仍处于内部积累观测记录的阶段，公开评分和让客户选择信任标准的功能均为后续计划。
llama.cpp b11714：网页模型探索与辅助文件选择，下载暂停与恢复
现在可以在网页界面搜索 Hugging Face Hub 上的模型，并一并下载适配量化的推理辅助文件。暂停的下载在重启后也能恢复，但若文件已变更或续传被拒绝，则会从头下载。
NVIDIA-Nemotron-Labs-Dory1.0-4B：调整循环次数，缓存最后一轮
英伟达发布了一款拥有40亿参数的语言模型，无需重新训练即可通过改变内部循环次数来调整准确率与计算量。模型提供仅保存最后一轮的缓存方式及多种精度的发行版，但实际响应时间和成本仍需按任务评估。
OpenCode Console：外部密钥暴露，服务商密钥撤销与更换
此次安全入侵影响了全部控制台用户的1.4%，受影响者为连接了外部AI服务的部分用户。收到通知的用户应在服务商管理页面撤销并更换密钥，检查近期使用记录及关联应用。
Claude Code 2.1.302：自动模式与空闲压缩设置，等待与图像读取上限
Claude Code 新增了选择自动模式判断模型的设置，以及开关空闲对话压缩的选项。除了上一版本的无人值守重试等待上限，此版本还加入了拒绝超过 128 MB 图像源的限制。
Strata 0.1.45：Qwen3.6-35B-A3B 图像输入，最多 8 个并发请求与生成加速
本地语言模型运行工具新增图像输入和最多 8 个请求的并发处理，并提升了回答生成速度。内存不足时，并发设置可能拖慢单个请求，因此需要根据设备和使用模式做出选择。
OpenAI Agents SDK for Python 0.24.0：公开 MCP 工具注释，统一整个运行的错误格式
现在可在代码中读取外部工具提供的附加注释，并通过通用处理器整理适用函数的执行错误消息。等待审批时会推迟自动压缩记录，现有错误处理器则需确认是否支持新分类。
LFM2.5-24B-A2B：设备端推理与工具使用，部分激活以减少计算
Liquid AI 发布了一款面向设备端智能体的模型，仅使用部分参数参与计算，并在回答前进行推理。它在工具使用评测中表现突出，但仍需综合考虑知识与代码评测的局限、权重存储负担及商业使用条件。