开源推理引擎Splash：M5 Max上Qwen3.8-27B达144 tok/s

开源推理引擎Inco Splash发布，称在M5 Max MacBook Pro上运行Qwen3.8-27B可达144 tok/s，解码速度最高为Ollama的3倍、oMLX的2倍。要求M3及以上芯片、macOS 26.4+、36GB内存，支持Claude Code、Codex等代理，并已登陆LM Studio。

• PrismML 推出可在PC运行的迷你推理模型2026-09-17
• Ternary Bonsai 2（27B）以<6GB体积开源2026-09-17
• 可将Qwen3.8-Flash-Next大部分KV缓存外置至RAM2026-09-16
• Pizza Bot：面向AI代理的自托管收件箱2026-09-16
• Swift‑Qwen3.8‑27B细调显著减少“过思考”令牌2026-09-15