第 2026-11-08 期 · 行业追踪 · 开源 · 模型发布 · 研究
llama-modchip实现64GB内存无GPU运行284B DeepSeek

开源项目llama-modchip发布v2.4.0,宣称可在64GB内存的普通桌面或服务器上、无需GPU,以全内存方式运行284B参数的DeepSeek-V4-Flash,量化后检查点仅56.56GiB。项目给出44.36 tok/s预填充及9.1–14.7 tok/s生成速度,并支持256K上下文,定位为面向本地CPU工作站的MoE推理方案。
查看原文 ↗