用户以不足一张RTX 6000价格搭建768GB显存本地推理机

r/LocalLLaMA用户分享用12块64GB CMP 170HX搭建共768GB显存的本地推理平台，花费低于一张RTX 6000 Pro，并通过光纤连接另一台机器以RPC扩展内存，运行GLM5.3、DeepSeek v4.1 Flash、Qwen3.8、KimiK3、MiniMaxM3等模型，使用vLLM或llama.cpp推理。

• 期待更优的KVCache与Engram：DeepSeek-V4.1-Flash设想2026-09-14
• Qwen3.8 27B IQ3_XXS 与 Bonsai Ternary PQ2 量化实测对比2026-09-20
• Prism-ML Bonsai 2加入Qwen3.8量化对比评测2026-09-19
• Qwen3.8 27b在游戏开发讨论帖2026-09-16
• DeepSeek V4.1 Flash 在 AA 新基准上超越 Astra2026-09-14