第 2026-11-02 期 · 行业追踪 · 开源 · 研究

社区质疑开源模型速度纪录帖缺乏基准数据

有用户在r/LocalLLaMA发帖质疑,社区每天大量宣称达到300 t/s的帖子依赖极端量化、贪心解码与TAIL_SKIP等手段,却未给出KLD等基准数据,实际参考价值有限。

r/LocalLLaMA3 天前
查看原文 ↗