第 2026-09-15 期 · 行业追踪 · 开源 · 研究

Voodoo动态量化方案开源(MIT许可)

开发者在GitHub开源名为Voodoo Dynamic Quant的动态量化方法,利用梯度下降为每个张量优化量化布局,支持GGUF等格式,适用于减小模型体积并保持精度。

r/LocalLLaMA44 小时前
查看原文 ↗