Eagle-4 发布:速度超越 DFlash2 与 DSpark
Eagle-4 在 Qwen 3.8 27B 上实现 3.59 倍加速,超越 DFlash2 的 2.80 倍和 DSpark 的 2.57 倍。目前仅支持 Qwen 3.8 27B,但社区期待其集成到 llama.cpp/vLLM。
Qwen 3.8 27B 是阿里 Qwen 系列的一款 270 亿参数模型,以本地部署和量化版本在社区中广泛使用。近期报道集中在其实际表现:有用户用 16GB 显存的 4070 Ti Super 跑 UD-IQ4_XS 量化版以替代付费订阅,有人将其量化到 Q4_K_S 后停用 API,UkisAI 则用 On-Policy Distillation 将思考 token 削减 58%。Eagle-4 在该模型上实现 3.59 倍加速,Perplexity 的 Windows 本地智能体也将其作为可选本地模型。
Eagle-4 在 Qwen 3.8 27B 上实现 3.59 倍加速,超越 DFlash2 的 2.80 倍和 DSpark 的 2.57 倍。目前仅支持 Qwen 3.8 27B,但社区期待其集成到 llama.cpp/vLLM。
一篇XDA文章的作者表示,使用本地模型Qwen 3.8-27B后,无需再分别订阅每月20美元的ChatGPT Plus和Claude Pro,因为该模型能完成他大部分日常任务。他使用的Unsloth UD-IQ4_XS量化版本下载大小为13.3GB,可在他配备16GB显存的4070 Ti Super显卡上运行,并支持16K上下文窗口。
研究者推出受控版CivBench,让大模型在相同固定开局下以战略家身份玩《文明5》。结果显示GLM-5.3领先Opus-5.5,Qwen-3.8-27B表现超预期;该基准测试模型在延迟数十回合才显现后果的长期决策能力。配套开源工具Vox Deorum支持本地模型和自行对战。
一位开发者在24GB M4 Pro MacBook上运行Qwen 3.8 27B,通过10Gb/s USB-C将iPhone 17 Pro Max作为第二GPU分担部分层,端到端预填充速度提升29%–44%,并可将超64k上下文的KV缓存迁移至手机。
一名用户抱怨Qwen 3.8 27b过度分析、迟迟不执行测试套件,并在内部独白中反复催促自己停止空谈、立即运行测试。该帖反映了用户对模型行为模式的不满。
有开发者称,经Q4_K_S量化、Q8_0上下文量化的Qwen-3.8-27B已能独立完成复杂重构,因此不再使用API。该模型在Raspberry Pi上以Pi agent运行,成本约为每百万token输入2.4美分、输出70美分。作者指出Pi的编辑工具容错性较弱。
LocalLLaMA上有人发帖指出,当前小尺寸模型多聚焦编程与工具调用能力,世界知识明显弱于前沿模型,如Qwen 3.8 27B在Q4量化下表现不佳。作者认为可借助SSD上的n-gram技术(Qwen 3.8 Next已采用)构建知识更广的模型,并让训练截止日期不再那么关键。
在LocalLLaMA社区用户称Muse Glimmer表现出色,聊天自然、少有模板化回复,适合作为本地化对话模型的选择;用户同时在测试Qwen 3.8 27B用于编码。
UkisAI 在 Qwen 3.8 27B 基础上进行后训练,识别并惩罚导致“过度思考”的 token,结合 On‑Policy Distillation 将推理令牌减少 58%、速度提升 1.95 倍、准确率损失 <1%。模型开源于 Hugging Face,并提供由 NVIDIA 资助的免费 OpenAI 兼容 API(限速 5 RPM)。
Perplexity在Windows版应用中推出Portable Computer,本地代理借助NVIDIA GeForce/RTX PRO与RTX服务器加速,支持本地模型(如Qwen 3.8 27B),可在设备上处理敏感数据并按需调用云模型。
Reddit 用户讨论将 Zima Board 2(约$411)插入 RTX 2000 ADA(约$700)以运行 Qwen-3.8 27b 的可行性,提到在 Luke’s Dev Lab 的演示中能用 Ollama 达到不错的 token 速度并用 Zima 电源供电。作者比较该组合与 Mac Mini M5 24GB 的优劣,并询问是否有更便宜的全新自托管替代方案。
一位用户用 Qwen 3.8 27B(q4xl)在本地 PI agent 环境下处理大型游戏设计文件,使用约120k 上下文并启用视觉与 MTP,读取约1100万 token 并写出320万 token,运行约12小时。作者表示这是将本地模型用于复杂游戏设计的示例。