176B MoE模型在16GB笔记本GPU上运行

开发者用自研引擎TensorSharp在RTX 3080笔记本（16GB显存）、32GB内存和SSD上运行了Qwen3.8 Flash Next 176B。测试显示解码速度11.09 tok/s，略高于Strata的10.24 tok/s；整程时间16.54秒，远快于Strata的62.15秒。这表明通过量化与跨显存、内存、SSD的MoE调度，消费级硬件也能跑超大稀疏模型。

• 用户分享Strata加速本地大模型但64GB内存吃紧2026-10-04
• Strata搭配Qwen3.8 Next在慢速内存上提速2026-10-03
• 12GB显存笔记本本地跑Qwen3.8模型达51t/s2026-09-30
• Qwen3.8-Flash-Next 在12GB显存实现65 tokens/秒2026-09-24
• llama.cpp v0.6.0发布 支持Qwen4Exp2026-10-05