第 2026-11-07 期 · 行业追踪 · 开源 · 研究
Betelgeuse让DeepSeek V4.1 Flash在RTX 3060上可交互运行
开发者称借助Betelgeuse(bel-cli/bel-server),在RTX 3060 12GB、16GB内存的预算PC上运行DeepSeek V4.1 Flash Q8_XL,解码19 tok/s、预填充62 tok/s。其通过缓存分区、Engram表驻留NVMe等设计缓解了超大MoE外存的预填充瓶颈。
查看原文 ↗开发者称借助Betelgeuse(bel-cli/bel-server),在RTX 3060 12GB、16GB内存的预算PC上运行DeepSeek V4.1 Flash Q8_XL,解码19 tok/s、预填充62 tok/s。其通过缓存分区、Engram表驻留NVMe等设计缓解了超大MoE外存的预填充瓶颈。
查看原文 ↗