Ling 3.1 Flash 560B MoE经llama.cpp跨四台DGX Spark部署

开发者借助llama.cpp RPC，将560B MoE的Ling 3.1 Flash（每token激活25B参数）分载于四台DGX Spark，使用Atomic Chat首发的Q4 GGUF，因当时无vLLM官方FP4版本。作者预计带宽与速度表现不佳，希望与124B的Ling 3.0 Flash对比实际体验。

• 社区尝试为Qwen 3.8 Flash Next使用完整n-gram表2026-10-18
• 用户分享llama.cpp本地大模型实践历程2026-10-17
• 用户分享Qwen 3.6 27B十种实用玩法2026-10-17
• llama.cpp在越狱PS5上原生运行GGUF模型2026-10-16
• 蚂蚁发布Ling-3.1-flash模型2026-10-14