用户感谢量化作者Mradermacher
Reddit用户感谢量化作者Mradermacher提供的高质量量化模型,称其让gemma 4 26b在两张8GB显存的RTX 4060上通过LM Studio运行,达到约75 tok/s生成速度和1500预填充。
AI 日报收录的 Mradermacher 相关报道,共 1 篇,按时间倒序,每小时更新。
Reddit用户感谢量化作者Mradermacher提供的高质量量化模型,称其让gemma 4 26b在两张8GB显存的RTX 4060上通过LM Studio运行,达到约75 tok/s生成速度和1500预填充。