开源推理引擎Splash:M5 Max上Qwen3.8-27B达144 tok/s
开源推理引擎Inco Splash发布,称在M5 Max MacBook Pro上运行Qwen3.8-27B可达144 tok/s,解码速度最高为Ollama的3倍、oMLX的2倍。要求M3及以上芯片、macOS 26.4+、36GB内存,支持Claude Code、Codex等代理,并已登陆LM Studio。
AI 日报收录的 Inco Splash 相关报道,共 1 篇,按时间倒序,每小时更新。
开源推理引擎Inco Splash发布,称在M5 Max MacBook Pro上运行Qwen3.8-27B可达144 tok/s,解码速度最高为Ollama的3倍、oMLX的2倍。要求M3及以上芯片、macOS 26.4+、36GB内存,支持Claude Code、Codex等代理,并已登陆LM Studio。