第 2026-09-20 期 · 行业追踪 · 开源 · 研究

Qwen3.8 27B IQ3_XXS 与 Bonsai Ternary PQ2 量化实测对比

一位用户在同一16GB显存设备上对比Qwen3.8 27B的IQ3_XXS（10.18GiB）与Bonsai Ternary PQ2（6.42GiB）量化版本。两者均完成4/4任务，但Qwen速度快3.02倍、输出token少3.10倍，Bonsai质量略逊且更慢。

r/LocalLLaMA23 小时前

查看原文 ↗

话题:Qwen3.8 Bonsai llama.cpp

Prism-ML Bonsai 2加入Qwen3.8量化对比评测2026-09-19
用户以不足一张RTX 6000价格搭建768GB显存本地推理机2026-09-18
Qwen3.8 27b在游戏开发讨论帖2026-09-16
Voodoo动态量化方案开源（MIT许可）2026-09-15
期待更优的KVCache与Engram：DeepSeek-V4.1-Flash设想2026-09-14