第 2026-09-27 期 · 行业追踪 · 研究 · 开源

对Qwen模型添加logit惩罚提升数学准确率

一位用户基于Meta关于“过度思考”标记的论文，在llama.cpp中对Qwen3.5-4B多种量化版本测试了针对“wait”“maybe”“perhaps”等词的logit偏置惩罚，在50道MATH-500随机题上验证效果。原论文未覆盖llama.cpp支持的各类量化。

r/LocalLLaMA14 天前

查看原文 ↗

话题:Meta Qwen llama.cpp MATH-500

Qwen 3.8 Flash在RTX 3060上约21 tok/s运行2026-10-10
ThinkingCap与Swift微调Qwen3.8-27B基准对比2026-09-25
开放模型力量格局：中国公司领先开放权重模型2026-09-23
Yandex开源80B俄罗斯模型AliceAI2026-09-22
Qwen 27B在单张3090上自主运行三周2026-09-21