第 2026-09-30 期 · 行业追踪 · 开源 · 应用

用户感谢量化作者Mradermacher

Reddit用户感谢量化作者Mradermacher提供的高质量量化模型,称其让gemma 4 26b在两张8GB显存的RTX 4060上通过LM Studio运行,达到约75 tok/s生成速度和1500预填充。

r/LocalLLaMA17 天前
查看原文 ↗