Qwen3.8 27B IQ3_XXS 与 Bonsai Ternary PQ2 量化实测对比
一位用户在同一16GB显存设备上对比Qwen3.8 27B的IQ3_XXS(10.18GiB)与Bonsai Ternary PQ2(6.42GiB)量化版本。两者均完成4/4任务,但Qwen速度快3.02倍、输出token少3.10倍,Bonsai质量略逊且更慢。
AI 日报收录的 Bonsai 相关报道,共 1 篇,按时间倒序,每小时更新。
一位用户在同一16GB显存设备上对比Qwen3.8 27B的IQ3_XXS(10.18GiB)与Bonsai Ternary PQ2(6.42GiB)量化版本。两者均完成4/4任务,但Qwen速度快3.02倍、输出token少3.10倍,Bonsai质量略逊且更慢。