LocalLLaMA

41 篇报道

LocalLLaMA 是 Reddit 上围绕本地运行开源大模型的社区,讨论量化、硬件和推理配置。近期帖子包括 Qwen3.8 Flash Next 在 16GB 显存上达到 262 tok/s 的基准测试、Qwen3.8-Flash GGUF 量化版本更新,以及按 10-16GB 显存整理的模型排名。社区还呼吁用 torrent 备份量化模型,并讨论 RTX 消费级显卡的 FP32 累加限制。

已经到底了