Boole-1.7B:1位存储 GGUF 292.1MB,较 BF16 平均下降8.28分
一款以1位存储权重符号的小型语言模型已发布,可在 CPU 上运行的分发文件大小为292.1MB。发布方评测的十项任务平均分比原模型低8.28分,未提供运行内存和生成速度的测量数据。
devotd.
按韩国时间(KST)浏览专题日期。后补撰写的文章分别标明所对应的日期和实际发布时间。
一款以1位存储权重符号的小型语言模型已发布,可在 CPU 上运行的分发文件大小为292.1MB。发布方评测的十项任务平均分比原模型低8.28分,未提供运行内存和生成速度的测量数据。
Asterinas 项目报告称,0.19.0 已在 Asterinas NixOS 环境中构建自身内核,并通过嵌套 QEMU 启动。开发工具的适用范围有所扩大,但文档中的验证仅限于在一台分配 40 GiB 内存的外层 VM 上进行的 x86-64 启动测试。基于 Intel VMX 的支持也尚未达到提供 KVM 兼容宿主接口的阶段。
在 Rubin 和 Blackwell 工作站上,将模型专家运算分配到多个 GPU 执行的支持得到扩展。工作站路径由调用方负责输入传递和结果求和,公布的单层性能数据并不代表整个分布式服务的加速比。
GitHub Actions 的锁文件在保留易读标签的同时,将执行代码固定到已记录的提交。该功能按选定的工作流启用,生成的变更由团队审核并提交。其他仓库中可复用工作流的内部依赖,则由对应仓库的锁文件负责。
Semaphore Open Source 1.6 的公告称,AI 代理集成将扩展到 CE·EE,但目前能否升级仍需进一步确认。Semaphore 表示将内置 MCP 服务器,并支持 sem-ai 且无需额外配置;然而,在10月15日核查的公开发行版和标签列表中没有找到 1.6。已核查的 MCP 配置文档面向云端,不能据此确认自托管部署流程。
Subversion 1.15 提供了按需下载文件基准版本(BASE)缓存的选项。Apache 表示,工作副本的存储占用最多可减少 50%。这可能适合体积大且不常修改的文件,但会增加与版本库的通信,并在提交时传输修改后文件的完整内容,而且这类工作副本需要 1.15 或更高版本的客户端。
新增沙箱功能,可限制人工智能执行的本地命令的访问范围,并支持从聊天中启动已保存的操作流程。运行状态显示也有改进,但沙箱并不保证完全隔离,仍需审查建议执行的命令。
AIBrix v0.8.0 的实验性功能 ModelClaim 将模型生命周期与 Pod 分离,并让闲置引擎休眠以共享 GPU 内存。不过,发往休眠模型的首个请求不会等待结果,而是收到 HTTP 503。如果休眠期间连预留空间也共享给其他模型,何时能够唤醒还取决于可用容量。
vLLM TPU Inference v0.31.0 新增了减少 MoE 芯片间通信的可选分发方式,以及 JAX 路径的 W4A16 线性运算。开发 PR 显示,特定 MoE 配置的完整解码步骤耗时缩短了 4.5%,Gemma 4 31B QAT 也能装入单颗 v6e 芯片。但两项结果解决的是不同瓶颈,不能证明普遍提速或质量保持不变。
升级 OpenSSH 10.6 前,可先检查自动化是否在命令行用户名中使用 $ 或 \,以及是否依赖 SSH 压缩。scp -R 在此版本中仍可使用;本次新增的弃用警告与未来的复制路径变更是两个不同阶段。