Model-Optimizer
统一模型优化库,压缩模型以加速推理
Model-Optimizer 是 NVIDIA 推出的模型优化技术统一库,用于加速模型推理部署。近期该项目连续登上 GitHub Trending,其简介强调汇集了当前最先进的模型优化技术,目标是在部署环节提升推理速度,具体内容涵盖量化、剪枝等优化手段。
统一模型优化库,压缩模型以加速推理
NVIDIA 统一模型优化库,涵盖量化蒸馏剪枝等技术。
英伟达统一模型优化库,含量化、蒸馏、剪枝等,加速推理部署。