A.I. 日报
64GB内存新定位：运行AI智能体已非死区
用户实测在64GB M4 Max上运行Qwen3 27B模型进行智能体编码，256k上下文下内存占用约48GB。提示缓存命中率93%，使每轮仅需处理1k新token而非160k，避免20分钟预填充。随着智能体普及，上下文内存开销与模型本身相当，64GB成为平衡点。
LM Studio
8 篇报道LM Studio 是一款用于在本地电脑上下载和运行大语言模型的桌面应用，常与 GGUF 量化模型和 llama.cpp 生态配合使用。近期相关讨论包括：有用户用两块 8GB RTX 4060 在 LM Studio 中运行 gemma 4 26b 量化版，达到约 75 tok/s 生成和 1,500 prefill；Inco Splash 推理引擎登陆 LM Studio，声称在 M5 Max 上以 144 tok/s 运行 Qwen3.8-27B；LumaBrowser 支持从 LM Studio 导入模型；也有用户抱怨官网下载被重定向到新的 Bionic Agent 产品。
相关话题
- llama.cpp3
- Ollama3
- Hermes2
- M4 Max1
- MLX1
- Qwen31
- LFM2.5-24B-A2B1
- LumaBrowser1
- Gmail1
- GnuPG1
- Microsoft1
- Penguin Mail1
用户实测LFM2.5-24B-A2B：本地运行表现欠佳
一名用户在多款本地推理框架中测试LFM2.5-24B-A2B量化模型，称其在Hermes代理任务中生成代码有缺陷、功能缺失，并在部分框架下反复循环，认为其表现不佳。
LumaBrowser开源：本地AI全家桶登陆GitHub
LumaBrowser现已开源并公开托管在GitHub上。该项目将LLM、图像、音乐和语音模型集成于一体，支持自动加载/卸载模型、导入LM Studio安装、生成图像、创建代理、计划任务，并可搭建网络服务器或集群。此前已有数千次安装，反馈丰富。
Penguin Mail开源Rust邮件客户端发布
Penguin Mail发布1.0.0版，是一款面向Linux的GPL-3.0开源Rust邮件客户端，支持Gmail、Outlook等多家账户，并可选配本地AI助手帮助整理邮件。
用户感谢量化作者Mradermacher
Reddit用户感谢量化作者Mradermacher提供的高质量量化模型，称其让gemma 4 26b在两张8GB显存的RTX 4060上通过LM Studio运行，达到约75 tok/s生成速度和1500预填充。
Transformers 现已支持 llama.cpp 的 GGUF 量化模型
Hugging Face 在 transformers 中新增 GGUF 模型支持，用户可通过 from_pretrained 加载 Hub 上针对本机内存优化的量化检查点。为接近 llama.cpp 性能，团队复用 ggml 内核并降低 generate 开销，初期聚焦 Apple Silicon 与 Qwen3.5 架构，Ollama、LM Studio、Jan 等本地工具均基于 llama.cpp。
开源推理引擎Splash：M5 Max上Qwen3.8-27B达144 tok/s
开源推理引擎Inco Splash发布，称在M5 Max MacBook Pro上运行Qwen3.8-27B可达144 tok/s，解码速度最高为Ollama的3倍、oMLX的2倍。要求M3及以上芯片、macOS 26.4+、36GB内存，支持Claude Code、Codex等代理，并已登陆LM Studio。
用户吐槽LM Studio下载被Bionic Agent占位
用户抱怨LM Studio官网把下载流量重定向到新产品Bionic Agent，导致难以找到原本的LM Studio并破坏用户好感。
已经到底了