用户在2000欧元PC上跑通748B DeepSeek模型

一位用户在二手约2000欧元的PC（RTX 3090、128GB DDR4、i9-9900X）上，用1-bit量化的DeepSeek-V4.1-Flash-1017配合llama.cpp，以7.2 tok/s运行了这个748B参数模型。110GB的Engram表留在NVMe上按需读取，从而装入内存。用户称输出存在物理错误，实用价值有限，Qwen模型在其设备上表现更好。

• 社区尝试为Qwen 3.8 Flash Next使用完整n-gram表2026-10-18
• 从单卡3090到20台DGX Spark的本地部署历程2026-10-04
• Yandex开源80B俄罗斯模型AliceAI2026-09-22
• 南华早报：华为与DeepSeek缩小对英伟达的芯片生态差距2026-10-22
• DeepSeek开源其生产级推理引擎DeepInfer2026-10-20