第 2026-10-03 期 · 行业追踪 · 开源 · 研究

llama.cpp PR优化Qwen Flash Next显存占用

llama.cpp的拉取请求#29825通过将索引器分数内存减半，降低了Qwen Flash Next的显存占用。

r/LocalLLaMA8 天前

查看原文 ↗

话题:llama.cpp Qwen Flash Next ggml-org ServeurpersoCom

开源Mac应用DigUp本地运行EmbeddingGemma 2实现文件搜索2026-10-10
llama.cpp合并Qwen4Exp的MTP支持2026-10-01
Qwen 3.8 Flash在RTX 3060上约21 tok/s运行2026-10-10
RTX 4090实测四款开源决策模型速度与准确率2026-10-08
用户用8张Radeon Pro V620自建大显存推理机2026-10-08