A.I. 日报
EpochGo：本地离线多智能体AutoML引擎开源
开源项目EpochGo采用Ollama本地模型作编排层、Scikit-Learn管道作确定性执行层，用AST校验生成的代码，可在16GB内存消费级硬件上完全离线运行，避免云端API成本与表格数据泄露风险。
Ollama
15 篇报道Ollama 是一个在本地运行大语言模型的工具，常用于在个人电脑上自托管推理。近期报道中，它多次作为本地模型的接入方式出现：开源多智能体 AutoML 引擎 EpochGo 用它做编排器，浏览器摘要扩展 Apogee 和自托管代理应用 Pizza Bot 都通过本地 Ollama 实例推理；同时 AnythingLLM 将后端从 Ollama 换成 Lemonade 与 llama.cpp，Inco Splash 声称解码速度最高为 Ollama 的 3 倍，Hugging Face 为 transformers 加入 GGUF 支持也涉及 Ollama 等本地工具。
相关话题
- LM Studio3
- llama.cpp2
- Hugging Face2
- Claude2
- Anthropic2
- OpenAI2
- EpochGo1
- qwen2.5-coder1
- Scikit-Learn1
- AMD1
- AnythingLLM1
- Lemonade1
AnythingLLM从Ollama迁移至Lemonade和llama.cpp
AnythingLLM将后端从Ollama迁移到AMD的Lemonade嵌入式SDK和llama.cpp。此举反映出本地LLM推理工具链的整合，AMD开发者对此表示欢迎。
开发者用本地推理重建Mozilla Orbit
开发者因不满Mozilla Orbit将数据发送至GCP服务器，用一个月时间重建了完全本地化、注重隐私的Apogee扩展。Apogee不发送或存储用户数据，可连接本地Ollama实例，并为Chrome和Firefox分别集成WebGPU与Transformers.js以加快本地响应，支持总结文章、YouTube视频、维基百科及论坛帖子。
Penguin Mail开源Rust邮件客户端发布
Penguin Mail发布1.0.0版，是一款面向Linux的GPL-3.0开源Rust邮件客户端，支持Gmail、Outlook等多家账户，并可选配本地AI助手帮助整理邮件。
开发者微调模型Bev故意答错，准确率仅1.9%
开发者基于Qwen3.5-9B微调出决策模型Bev，在324个留存决策中答对率仅1.9%，平均置信度96%。该模型作为“控制案例”，用于检验自动化流程是否真正监测模型置信度与正确性。
用汇编写的开源代码编辑器Rhun发布
开发者发布开源代码编辑器Rhun，面向Linux、Windows和Apple Silicon Mac，编辑器与像素渲染共用x86-64汇编核心，并为苹果芯片做编译期转换。它内置Vim模式、终端、Git差异面板和Claude Code/Codex会话面板，最新版可用本地Ollama模型或Claude、Codex订阅起草提交信息。项目为MIT许可的个人作品，仍处早期。
Qwen3-VL 8B笔记本运行可与顶级模型匹敌，但特定任务存短板
一项基准测试显示，在笔记本上运行的Qwen3-VL 8B（Q4量化）处理137份杂乱文档时，完全正确率为59%，超过GPT-5.6 Terra的57%，但低于Claude Opus 5.5的89%和Sonnet 5的85%。该模型在美国税表上表现优异（21/32对7/32），但在印度日期格式和长合同上表现较差。
HN讨论：什么才算严肃的AI产品
HN热帖批评当前AI产品缺乏严肃性，认为聊天机器人像骗局，未认真践行自身定位。作者主张把“检查错误”作为一等功能，并担心Ollama等本地工具因模型质量更差而更缺这类能力。
Ollaya：决策模型推理延迟仅10毫秒
Ollaya是面向本地硬件的开源决策模型服务，用单次前向传播替代逐token生成，五个问题请求端到端约10毫秒。它提供兼容TypeSafe的端点，官方Python SDK 0.7.1可直接使用，支持Laya、decider、nli等开放模型。
Transformers 现已支持 llama.cpp 的 GGUF 量化模型
Hugging Face 在 transformers 中新增 GGUF 模型支持，用户可通过 from_pretrained 加载 Hub 上针对本机内存优化的量化检查点。为接近 llama.cpp 性能，团队复用 ggml 内核并降低 generate 开销，初期聚焦 Apple Silicon 与 Qwen3.5 架构，Ollama、LM Studio、Jan 等本地工具均基于 llama.cpp。
开源推理引擎Splash：M5 Max上Qwen3.8-27B达144 tok/s
开源推理引擎Inco Splash发布，称在M5 Max MacBook Pro上运行Qwen3.8-27B可达144 tok/s，解码速度最高为Ollama的3倍、oMLX的2倍。要求M3及以上芯片、macOS 26.4+、36GB内存，支持Claude Code、Codex等代理，并已登陆LM Studio。
Pizza Bot：面向AI代理的自托管收件箱
Pizza Bot是跨平台自托管桌面应用（Mac/Windows/Linux），以邮件式界面管理在后台运行的AI代理，采用Apache 2.0许可、无需注册与遥测，支持Anthropic、Amazon Bedrock、Google Gemini、OpenAI、OpenRouter及本地模型（通过Ollama）。项目由原Amazon团队成员发起并开源发布。
HN：迁移预提示与推理端隐私风险讨论
HN讨论包括将预提示从Opus迁移到自托管Ollama的注意点，并警示在前沿推理服务上运行会泄露会话元数据、被用于训练的风险，提到Navier–Stokes事件和对OpenAI、Anthropic的不信任。
Zima Board 2 + RTX 2000 ADA 组成本地 Qwen-3.8 方案?
Reddit 用户讨论将 Zima Board 2（约$411）插入 RTX 2000 ADA（约$700）以运行 Qwen-3.8 27b 的可行性，提到在 Luke’s Dev Lab 的演示中能用 Ollama 达到不错的 token 速度并用 Zima 电源供电。作者比较该组合与 Mac Mini M5 24GB 的优劣，并询问是否有更便宜的全新自托管替代方案。
在Mac上用Ollama与sbx搭建OpenCode本地LLM开发环境
文章介绍在Mac上用Ollama、OpenCode和Docker沙箱(sbx)搭建本地LLM开发环境，推荐Qwen 3.8与Gemma 4模型并给出安装与配置要点。
已经到底了