开发者Betelgeuse在RTX 3060上跑Qwen 3.8 Flash Next

开发者发布Betelgeuse（基于llama.cpp的分支），在RTX 3060 12GB加16GB DDR4内存的普通PC上，以22 tok/s持续速度（峰值48 tok/s）运行68GB的Qwen 3.8 Flash Next MoE量化模型，且无门控剪枝、保持100%比特一致。此前标准llama.cpp在该配置下仅约1.47 tok/s。

• Qwen 3.8 Flash在RTX 3060上约21 tok/s运行2026-10-10
• 用户在2000欧元PC上跑通748B DeepSeek模型2026-10-22
• 社区尝试为Qwen 3.8 Flash Next使用完整n-gram表2026-10-18
• 对Qwen模型添加logit惩罚提升数学准确率2026-09-27
• ThinkingCap与Swift微调Qwen3.8-27B基准对比2026-09-25