DeepSeek-V4.1-Flash

12 篇报道

DeepSeek-V4.1-Flash 是 DeepSeek 开发的大规模混合专家模型,总参数量约 748B,包含约 552B 主体参数、约 197B 的 Engram 表以及视觉编码器等组件。近期讨论集中在它的部署与评测:有用户用约 2,000 欧元的二手 PC 以 1-bit 量化在 llama.cpp 上跑出 7.2 tok/s,DeepSeek 开源了支持该模型的 DeepInfer 推理引擎,另有实测显示它在一个 16GB GPU 的编程任务对比中取得 5/5,社区也提到其把长上下文 KV 缓存降至每 token 890 字节。

相关话题
已经到底了