本地 LLM 自托管成本：每日利用率、比较模型决定回本时间
Bas Nijholt 使用两张 RTX 3090 运行 LLM，但计算发现电费和硬件成本可能让 API 更便宜。结论取决于每天使用多久，以及拿哪种 API 模型比较。
devotd.
2026-10
按韩国时间（KST）从新到旧浏览各期文章。文章在此按所对应的日期归类，实际发布时间与事件日期在文章页面内单独标注。
最新文章
222 篇文章KST · 续
LocalAI 4.11.0：本地与远程故障转移，仅在响应开始前重试
LocalAI 4.11.0 允许将本地与远程模型按顺序放在同一名称下。只有响应开始前的部分故障会切换到下一个模型。