https://devotd.net/zh-hans/以来源和背景为依据，报道 IT、AI、大语言模型与本地 AI 的新进展。zh-HansSun, 18 Oct 2026 03:49:05 GMThttps://devotd.net/zh-hans/news/xolotl-deepseek-v4-1-flash-552b-single-rtx-4090-expert-tiering/https://devotd.net/zh-hans/news/xolotl-deepseek-v4-1-flash-552b-single-rtx-4090-expert-tiering/Sun, 18 Oct 2026 03:49:05 GMTIT一个在个人电脑上运行大型 AI 模型的项目更名，并将多个模型的引擎整合到同一代码仓库。单张显卡每秒生成约 27 个 token 的成绩来自配备大容量内存和高速存储的环境，并不意味着其质量与官方服务相当。https://devotd.net/zh-hans/news/llama-cpp-b11717-hexagon-npu-q1-0-q2-0-bonsai-2/https://devotd.net/zh-hans/news/llama-cpp-b11717-hexagon-npu-q1-0-q2-0-bonsai-2/Sun, 18 Oct 2026 03:42:10 GMTIT骁龙的神经网络处理单元新增了对超低位权重矩阵乘法、行提取及哈达玛运算的支持。开发者表示，Bonsai-2 的 1 位与 2 位路径已可用，但要更好地利用内存占用减少的优势，仍需进一步优化。https://devotd.net/zh-hans/news/pplx-decider-v1-2-joint-request-decision-model/https://devotd.net/zh-hans/news/pplx-decider-v1-2-joint-request-decision-model/Sun, 18 Oct 2026 01:53:31 GMT大语言模型Perplexity 调整了请求格式和训练数据，让模型一次判断同一情境下的多个问题。相关属性适合一起询问，独立候选项则宜分别评估，同时需核查长输入和执行路径带来的结果差异。https://devotd.net/zh-hans/news/moss-image-5b-layout-control-text-rendering-open-weights/https://devotd.net/zh-hans/news/moss-image-5b-layout-control-text-rendering-open-weights/Sun, 18 Oct 2026 01:26:09 GMTAIOpenMOSS 公开了可用坐标指定文字和物体位置的图像生成模型代码与权重，提供基础模型和追加训练模型。引入时，应同时考量编写布局输入的负担，以及内存占用与推理时间之间的取舍。https://devotd.net/zh-hans/news/cloudflare-openai-crawler-discovery-pilot-results/https://devotd.net/zh-hans/news/cloudflare-openai-crawler-discovery-pilot-results/Sun, 18 Oct 2026 01:24:25 GMTAICloudflare和OpenAI表示，在利用网络信号的试点项目中，发现了数亿个新网页并将其加入搜索索引。双方尝试通过反映页面变化和潜在危害的信号减少不必要的抓取，但尚未公布减轻负载的量化结果及实际业务成效。https://devotd.net/zh-hans/news/dspine-qwen3-8b-parallel-drafter-speculative-decoding/https://devotd.net/zh-hans/news/dspine-qwen3-8b-parallel-drafter-speculative-decoding/Sat, 17 Oct 2026 23:21:48 GMT本地 AI腾讯公开了并行生成回答候选内容的草稿模型及其推理代码。公开实验中，其草稿接受长度高于对比方法，但实际速度收益仍需结合额外资源开销加以验证。https://devotd.net/zh-hans/news/nvidia-indic-pretraining-2-8t-tokens-open-pipeline/https://devotd.net/zh-hans/news/nvidia-indic-pretraining-2-8t-tokens-open-pipeline/Sat, 17 Oct 2026 23:18:14 GMT大语言模型NVIDIA 介绍了面向印度22种语言、约2.8万亿 token 的翻译型训练数据及公开生成流程。计划公开的数据用于补充本地原创文本，所报告的性能提升来自混合使用这两类数据的训练阶段。https://devotd.net/zh-hans/news/cloudflare-verified-bots-continuous-accountability/https://devotd.net/zh-hans/news/cloudflare-verified-bots-continuous-accountability/Sat, 17 Oct 2026 23:17:47 GMTITCloudflare 介绍了一套持续评估已验证机器人是否遵守指令、是否响应限速要求的系统。目前仍处于内部积累观测记录的阶段，公开评分和让客户选择信任标准的功能均为后续计划。https://devotd.net/zh-hans/news/llama-cpp-b11714-discover-models-hf-hub-draft-sidecars/https://devotd.net/zh-hans/news/llama-cpp-b11714-discover-models-hf-hub-draft-sidecars/Sat, 17 Oct 2026 21:33:33 GMTIT现在可以在网页界面搜索 Hugging Face Hub 上的模型，并一并下载适配量化的推理辅助文件。暂停的下载在重启后也能恢复，但若文件已变更或续传被拒绝，则会从头下载。https://devotd.net/zh-hans/news/nemotron-labs-dory-1-0-4b-looped-elastic-compute/https://devotd.net/zh-hans/news/nemotron-labs-dory-1-0-4b-looped-elastic-compute/Sat, 17 Oct 2026 21:32:19 GMTIT英伟达发布了一款拥有40亿参数的语言模型，无需重新训练即可通过改变内部循环次数来调整准确率与计算量。模型提供仅保存最后一轮的缓存方式及多种精度的发行版，但实际响应时间和成本仍需按任务评估。https://devotd.net/zh-hans/news/opencode-console-provider-key-breach-distillation-attack/https://devotd.net/zh-hans/news/opencode-console-provider-key-breach-distillation-attack/Sat, 17 Oct 2026 21:17:10 GMTIT此次安全入侵影响了全部控制台用户的1.4%，受影响者为连接了外部AI服务的部分用户。收到通知的用户应在服务商管理页面撤销并更换密钥，检查近期使用记录及关联应用。https://devotd.net/zh-hans/news/nemotron-3-5-bolt-74b-a9b-24gb-2bit-local-agent/https://devotd.net/zh-hans/news/nemotron-3-5-bolt-74b-a9b-24gb-2bit-local-agent/Sat, 17 Oct 2026 17:48:03 GMT本地 AI英伟达发布了24GB视觉语言模型，旨在个人设备上处理屏幕理解与工具调用。该模型通过压缩大模型，并在训练中修正量化误差。在终端任务评测中，Bolt的得分高于Qwen3.6，但在部分知识准确性与幻觉抑制项目上落后。在另一项低精度速度实验中，它比两个小型混合专家模型更慢。https://devotd.net/zh-hans/news/reflection-beam-1-0-open-weights-self-hosting/https://devotd.net/zh-hans/news/reflection-beam-1-0-open-weights-self-hosting/Sat, 17 Oct 2026 17:29:39 GMT大语言模型Reflection 以三种精度发布首个开放权重模型，开放了自托管和进一步训练的路径。在获得部署控制权的同时，运维团队需要自行验证硬件配置及各项业务的质量与安全性。https://devotd.net/zh-hans/news/claude-code-2-1-302-auto-mode-classifier-idle-compaction/https://devotd.net/zh-hans/news/claude-code-2-1-302-auto-mode-classifier-idle-compaction/Sat, 17 Oct 2026 17:21:54 GMTITClaude Code 新增了选择自动模式判断模型的设置，以及开关空闲对话压缩的选项。除了上一版本的无人值守重试等待上限，此版本还加入了拒绝超过 128 MB 图像源的限制。https://devotd.net/zh-hans/news/ktransformers-0-7-2-deepseek-v4-flash-mxfp4-lora/https://devotd.net/zh-hans/news/ktransformers-0-7-2-deepseek-v4-flash-mxfp4-lora/Sat, 17 Oct 2026 15:19:31 GMT本地 AI新增了一条训练路径，可将大语言模型的专家权重以压缩状态保留在 CPU 上，仅训练小规模修正权重。它还支持保存训练结果并衔接推理，但未提供完整模型的质量和吞吐量测量结果。https://devotd.net/zh-hans/news/intel-llm-scaler-vllm-1-5-qwen-gemma-4-fp8-mtp/https://devotd.net/zh-hans/news/intel-llm-scaler-vllm-1-5-qwen-gemma-4-fp8-mtp/Sat, 17 Oct 2026 15:18:04 GMT本地 AI英特尔更新了本地语言模型推理软件包的底层引擎，并扩展了支持的模型和低精度运行路径。该版本还提供回答生成加速和定制模型服务功能，但需留意公开镜像仅用于演示，以及各模型的运行条件。https://devotd.net/zh-hans/news/granite-switch-4-1-decision-guardian-speech-one-endpoint/https://devotd.net/zh-hans/news/granite-switch-4-1-decision-guardian-speech-one-endpoint/Sat, 17 Oct 2026 13:27:20 GMT大语言模型IBM 的新开放权重模型通过同一接入点提供对话、选项决策和语音识别功能。这可以简化服务器配置，但需要考虑各类响应的处理方式以及英语语音输入的限制。https://devotd.net/zh-hans/news/llama-cpp-b11709-kolibri-1-gguf-support/https://devotd.net/zh-hans/news/llama-cpp-b11709-kolibri-1-gguf-support/Sat, 17 Oct 2026 13:20:41 GMT本地 AI本次新增了在本地推理工具中转换和运行德语、英语开放权重模型的支持。虽然每个 token 的计算只使用部分参数，但容纳完整权重所需的内存和实际使用环境的验证仍需单独考虑。https://devotd.net/zh-hans/news/strata-0-1-45-qwen3-6-vision-parallel-requests/https://devotd.net/zh-hans/news/strata-0-1-45-qwen3-6-vision-parallel-requests/Sat, 17 Oct 2026 12:24:07 GMTIT本地语言模型运行工具新增图像输入和最多 8 个请求的并发处理，并提升了回答生成速度。内存不足时，并发设置可能拖慢单个请求，因此需要根据设备和使用模式做出选择。https://devotd.net/zh-hans/news/fish-audio-drama-3-35b-a3b-open-tts/https://devotd.net/zh-hans/news/fish-audio-drama-3-35b-a3b-open-tts/Sat, 17 Oct 2026 11:27:01 GMTAIFish Audio 预发布了一款语音合成模型，将多说话人声音生成、自然语言演绎指令和现有语音的局部编辑结合起来。引入时需确认大容量显存需求、并发请求带来的响应延迟、训练工具的移除以及许可证标注差异。https://devotd.net/zh-hans/news/flux-3-image-klein-5-6b-open-weights/https://devotd.net/zh-hans/news/flux-3-image-klein-5-6b-open-weights/Sat, 17 Oct 2026 11:23:25 GMTAIBlack Forest Labs 公开了一款兼顾生成与编辑的56亿参数图像生成器的权重。考虑自行部署时，需同时确认用于扩展输入描述的独立模型的显存开销，以及有条件商业使用的范围。https://devotd.net/zh-hans/news/deepseek-v4-1-flash-1017-open-weights-search-fetch/https://devotd.net/zh-hans/news/deepseek-v4-1-flash-1017-open-weights-search-fetch/Sat, 17 Oct 2026 11:23:23 GMT大语言模型DeepSeek 发布了新模型，称其提高了编程评测得分，并缩短了任务耗时和输出长度。网页搜索与页面抓取也通过公开 API 提供，指定工具的服务端调用限时免费。https://devotd.net/zh-hans/news/openai-agents-python-0-24-mcp-annotations-tool-errors/https://devotd.net/zh-hans/news/openai-agents-python-0-24-mcp-annotations-tool-errors/Sat, 17 Oct 2026 09:28:13 GMTIT现在可在代码中读取外部工具提供的附加注释，并通过通用处理器整理适用函数的执行错误消息。等待审批时会推迟自动压缩记录，现有错误处理器则需确认是否支持新分类。https://devotd.net/zh-hans/news/lfm2-5-24b-a2b-on-device-agent-moe/https://devotd.net/zh-hans/news/lfm2-5-24b-a2b-on-device-agent-moe/Sat, 17 Oct 2026 08:47:15 GMTITLiquid AI 发布了一款面向设备端智能体的模型，仅使用部分参数参与计算，并在回答前进行推理。它在工具使用评测中表现突出，但仍需综合考虑知识与代码评测的局限、权重存储负担及商业使用条件。https://devotd.net/zh-hans/news/minicpm-v-4-7-35b-a3b-on-device-moe-vision/https://devotd.net/zh-hans/news/minicpm-v-4-7-35b-a3b-on-device-moe-vision/Sat, 17 Oct 2026 08:45:38 GMTITOpenBMB 的新视觉语言模型通过提前加载所需的计算模块，减少手机读取权重的等待时间。开发团队公布了结合量化和推测生成的结果，但常规推理安装与端侧优化部署需要区别对待。https://devotd.net/zh-hans/news/offrail-27b-uncensored-bonsai-2-mtp-graft/https://devotd.net/zh-hans/news/offrail-27b-uncensored-bonsai-2-mtp-graft/Sat, 17 Oct 2026 05:50:21 GMTIT一款为减少拒答的三值压缩模型加装了后续令牌预测辅助装置的构建版本已发布。制作者测试显示，在相同条件下，生成速度提升约20%，但需要额外内存和专用运行版本。https://devotd.net/zh-hans/news/unsloth-0-1-908-beta-nemotron-muse-spark-prompt-cache/https://devotd.net/zh-hans/news/unsloth-0-1-908-beta-nemotron-muse-spark-prompt-cache/Sat, 17 Oct 2026 05:16:48 GMTIT在本地运行新大型模型的选择增多，编码助手对历史对话的重复处理也有所减少。最低内存要求以短上下文为前提，不能将响应开始时间的改善理解为整体生成速度的提升。https://devotd.net/zh-hans/news/ray-2-59-llm-ga-token-auth-default/https://devotd.net/zh-hans/news/ray-2-59-llm-ga-token-auth-default/Sat, 17 Oct 2026 04:38:52 GMTITRay 正式发布面向语言模型的数据处理与服务功能，并默认开启本地集群的令牌认证。认证的启用条件因启动方式而异，远程集群运维人员需要为今后扩大默认认证范围做好令牌分发准备。https://devotd.net/zh-hans/news/claude-code-2-1-300-mods-otel-advisor/https://devotd.net/zh-hans/news/claude-code-2-1-300-mods-otel-advisor/Sat, 17 Oct 2026 04:27:21 GMTIT新增了仅在输入框显示的装饰，以及用于记录生成式人工智能任务的标准属性。顾问功能需由用户选择后才会运行，共享记录中用于复现请求的信息有所增加，分享前有必要检查内容。https://devotd.net/zh-hans/news/sglang-0-5-21-release-new-models/https://devotd.net/zh-hans/news/sglang-0-5-21-release-new-models/Sat, 17 Oct 2026 00:53:14 GMTIT新版本增加了支持的模型，并改变了重复输入缓存和请求处理的默认行为。新模型的安装说明在不同资料间存在差异，需要将部署配置确认与现有服务的兼容性检查分开进行。https://devotd.net/zh-hans/news/open-webui-0-12-3-end-to-end-encrypted-chats/https://devotd.net/zh-hans/news/open-webui-0-12-3-end-to-end-encrypted-chats/Sat, 17 Oct 2026 00:50:55 GMTIT新增临时聊天功能，在参与者的浏览器中加密消息，不在服务器上存储。管理员需分别设置功能启用状态和用户权限，并检查通信环境。https://devotd.net/zh-hans/news/hy-memory-30b-a3b-open-memory-writer/https://devotd.net/zh-hans/news/hy-memory-30b-a3b-open-memory-writer/Fri, 16 Oct 2026 18:05:56 GMTIT腾讯混元发布了专门为长期记忆系统筛选和更新存储信息的模型。它通过替换现有记忆管理体系中的写入模型来工作，评估时需同时关注固定样本上的表现与验证范围。https://devotd.net/zh-hans/news/tensorrt-llm-1-4-0rc0-glm-5-3-flash-kvcache-v2/https://devotd.net/zh-hans/news/tensorrt-llm-1-4-0rc0-glm-5-3-flash-kvcache-v2/Fri, 16 Oct 2026 15:09:38 GMT大语言模型新增对新模型文本、图像和视频输入的支持。缓存管理器的 Python 实现已移除，升级前需检查现有配置和事件采集路径。https://devotd.net/zh-hans/news/codex-cli-0-163-config-search-mid-turn-steering/https://devotd.net/zh-hans/news/codex-cli-0-163-config-search-mid-turn-steering/Fri, 16 Oct 2026 14:56:59 GMTAI这款终端编程工具新增了设置搜索面板，以及在响应过程中接收后续指令的功能。需要区分设置的保存与实际生效，并注意中断任务并不保证自动撤销更改。https://devotd.net/zh-hans/news/nodejs-26-12-wasm-required-websocket-mask/https://devotd.net/zh-hans/news/nodejs-26-12-wasm-required-websocket-mask/Fri, 16 Oct 2026 14:56:58 GMTIT在不支持 WebAssembly 或可执行内存的环境中使用相关功能时，错误处理得到改进，可区分失败原因。新增了用于对 WebSocket 数据应用和移除掩码的内置函数，让库开发者无需额外扩展即可迁移相关运算。https://devotd.net/zh-hans/news/vscode-1-142-copilot-harness-default-canvases/https://devotd.net/zh-hans/news/vscode-1-142-copilot-harness-default-canvases/Fri, 16 Oct 2026 10:46:36 GMTITVisual Studio Code 1.142 逐步更改新智能体对话的默认运行框架，并新增供用户与智能体共同修改的工作面板预览功能。需要确认组织策略触发的对话自动迁移，以及沙箱的实际限制范围。https://devotd.net/zh-hans/news/transformers-5-20-muse-spark-open-ling-3-native/https://devotd.net/zh-hans/news/transformers-5-20-muse-spark-open-ling-3-native/Fri, 16 Oct 2026 10:45:05 GMT大语言模型Transformers 新增对 Meta 多模态模型的支持，以及 InclusionAI 模型的内置加载路径。输入处理和加载流程得到整合，但实际部署时，仍需分别核查大型模型的内存需求和专家并行推理的性能下降警告。https://devotd.net/zh-hans/news/github-copilot-local-models-mai-code-1-1-flash-mxc-sandbox/https://devotd.net/zh-hans/news/github-copilot-local-models-mai-code-1-1-flash-mxc-sandbox/Fri, 16 Oct 2026 05:51:24 GMTITGitHub Copilot 计划在 2026 年 10 月底前引入设备与云端之间的自动部署。开发者需分别判断模型执行位置和命令权限。设备测量与多模型研究评估的条件不同，应区分解读。https://devotd.net/zh-hans/news/nemotron-3-5-super-vl-120b-a12b-mtp-vision/https://devotd.net/zh-hans/news/nemotron-3-5-super-vl-120b-a12b-mtp-vision/Thu, 15 Oct 2026 16:42:00 GMT大语言模型英伟达发布了可处理长文档、图像和视频的模型，提供用于训练与评估的版本，以及降低内存需求的部署版本。内置预测功能可用于尝试加速生成，但实际速度和量化带来的质量变化，仍需结合部署条件和具体任务判断。https://devotd.net/zh-hans/news/boole-1-7b-one-bit-storage-quality-tradeoff/https://devotd.net/zh-hans/news/boole-1-7b-one-bit-storage-quality-tradeoff/Thu, 15 Oct 2026 16:40:58 GMT大语言模型一款以1位存储权重符号的小型语言模型已发布，可在 CPU 上运行的分发文件大小为292.1MB。发布方评测的十项任务平均分比原模型低8.28分，未提供运行内存和生成速度的测量数据。https://devotd.net/zh-hans/news/asterinas-0-19-0-self-hosting-vmx/https://devotd.net/zh-hans/news/asterinas-0-19-0-self-hosting-vmx/Thu, 15 Oct 2026 14:52:54 GMTITAsterinas 项目报告称，0.19.0 已在 Asterinas NixOS 环境中构建自身内核，并通过嵌套 QEMU 启动。开发工具的适用范围有所扩大，但文档中的验证仅限于在一台分配 40 GiB 内存的外层 VM 上进行的 x86-64 启动测试。基于 Intel VMX 的支持也尚未达到提供 KVM 兼容宿主接口的阶段。https://devotd.net/zh-hans/news/flashinfer-071-quantized-expert-parallel-moe-rubin-blackwell/https://devotd.net/zh-hans/news/flashinfer-071-quantized-expert-parallel-moe-rubin-blackwell/Thu, 15 Oct 2026 14:52:54 GMT大语言模型在 Rubin 和 Blackwell 工作站上，将模型专家运算分配到多个 GPU 执行的支持得到扩展。工作站路径由调用方负责输入传递和结果求和，公布的单层性能数据并不代表整个分布式服务的加速比。https://devotd.net/zh-hans/news/github-actions-workflow-lockfiles-preview/https://devotd.net/zh-hans/news/github-actions-workflow-lockfiles-preview/Thu, 15 Oct 2026 14:52:54 GMTITGitHub Actions 的锁文件在保留易读标签的同时，将执行代码固定到已记录的提交。该功能按选定的工作流启用，生成的变更由团队审核并提交。其他仓库中可复用工作流的内部依赖，则由对应仓库的锁文件负责。https://devotd.net/zh-hans/news/semaphore-open-source-1-6-mcp-sem-ai/https://devotd.net/zh-hans/news/semaphore-open-source-1-6-mcp-sem-ai/Thu, 15 Oct 2026 14:52:54 GMTITSemaphore Open Source 1.6 的公告称，AI 代理集成将扩展到 CE·EE，但目前能否升级仍需进一步确认。Semaphore 表示将内置 MCP 服务器，并支持 sem-ai 且无需额外配置；然而，在10月15日核查的公开发行版和标签列表中没有找到 1.6。已核查的 MCP 配置文档面向云端，不能据此确认自托管部署流程。https://devotd.net/zh-hans/news/subversion-115-pristines-on-demand-large-files/https://devotd.net/zh-hans/news/subversion-115-pristines-on-demand-large-files/Thu, 15 Oct 2026 14:52:54 GMTITSubversion 1.15 提供了按需下载文件基准版本（BASE）缓存的选项。Apache 表示，工作副本的存储占用最多可减少 50%。这可能适合体积大且不常修改的文件，但会增加与版本库的通信，并在提交时传输修改后文件的完整内容，而且这类工作副本需要 1.15 或更高版本的客户端。https://devotd.net/zh-hans/news/kiro-ide-1-3-local-command-sandbox/https://devotd.net/zh-hans/news/kiro-ide-1-3-local-command-sandbox/Thu, 15 Oct 2026 14:03:49 GMTIT新增沙箱功能，可限制人工智能执行的本地命令的访问范围，并支持从聊天中启动已保存的操作流程。运行状态显示也有改进，但沙箱并不保证完全隔离，仍需审查建议执行的命令。https://devotd.net/zh-hans/news/aibrix-v0-8-0-kubernetes-inference/https://devotd.net/zh-hans/news/aibrix-v0-8-0-kubernetes-inference/Thu, 15 Oct 2026 08:09:41 GMT大语言模型AIBrix v0.8.0 的实验性功能 ModelClaim 将模型生命周期与 Pod 分离，并让闲置引擎休眠以共享 GPU 内存。不过，发往休眠模型的首个请求不会等待结果，而是收到 HTTP 503。如果休眠期间连预留空间也共享给其他模型，何时能够唤醒还取决于可用容量。https://devotd.net/zh-hans/news/vllm-tpu-inference-0310-hierarchical-moe-w4a16/https://devotd.net/zh-hans/news/vllm-tpu-inference-0310-hierarchical-moe-w4a16/Thu, 15 Oct 2026 08:09:41 GMT大语言模型vLLM TPU Inference v0.31.0 新增了减少 MoE 芯片间通信的可选分发方式，以及 JAX 路径的 W4A16 线性运算。开发 PR 显示，特定 MoE 配置的完整解码步骤耗时缩短了 4.5%，Gemma 4 31B QAT 也能装入单颗 v6e 芯片。但两项结果解决的是不同瓶颈，不能证明普遍提速或质量保持不变。https://devotd.net/zh-hans/news/openssh-10-6-upgrade-compatibility-impact/https://devotd.net/zh-hans/news/openssh-10-6-upgrade-compatibility-impact/Thu, 15 Oct 2026 07:46:47 GMTIT升级 OpenSSH 10.6 前，可先检查自动化是否在命令行用户名中使用 $ 或 \，以及是否依赖 SSH 压缩。scp -R 在此版本中仍可使用；本次新增的弃用警告与未来的复制路径变更是两个不同阶段。https://devotd.net/zh-hans/news/sqlite-354-cli-prompt-escape-sequences/https://devotd.net/zh-hans/news/sqlite-354-cli-prompt-escape-sequences/Thu, 15 Oct 2026 07:26:27 GMTITSQLite 3.54.0 的交互式 CLI 可在提示符中显示数据库名称和事务是否仍处于打开状态，并提示结束未完成输入所需的字符。显示内容可通过 SQLITE_PS1、SQLITE_PS2 和 .prompt 调整，但这些信息并不保证 SQL 安全或提交成功。