Voodoo动态量化方案开源(MIT许可)
开发者在GitHub开源名为Voodoo Dynamic Quant的动态量化方法,利用梯度下降为每个张量优化量化布局,支持GGUF等格式,适用于减小模型体积并保持精度。
AI 日报收录的 Voodoo Dynamic Quant 相关报道,共 1 篇,按时间倒序,每小时更新。
开发者在GitHub开源名为Voodoo Dynamic Quant的动态量化方法,利用梯度下降为每个张量优化量化布局,支持GGUF等格式,适用于减小模型体积并保持精度。