第 2026-10-19 期 · 行业追踪 · 开源 · 研究

社区提出IQ2_K至IQ6_K新量化类型

LocalLLaMA社区讨论llama.cpp新增IQ2_K、IQ3_K、IQ4_K、IQ5_K和IQ6_K量化类型。其文件体积与Q系列量化相当，KLD明显改善，但性能略有下降，且生成IQ量化速度较慢。目前测试数据仅来自单一模型。

r/LocalLLaMA4 天前

查看原文 ↗

话题:llama.cpp eaddario

Eagle-4 发布：速度超越 DFlash2 与 DSpark2026-10-21
AnyLanguageModel 1.0发布：苹果平台本地模型一年成果2026-10-20
llama server默认端口由8080改为99312026-10-20
Cohere宣布llama.cpp全面支持其最新模型架构2026-10-19
Ling 3.1 Flash 560B MoE经llama.cpp跨四台DGX Spark部署2026-10-18