第 2026-11-11 期 · 行业追踪 · 开源llama.cpp新增FP8 KV缓存支持开源推理框架llama.cpp合并了一项更新,为其键值缓存(KV-cache)增加了FP8数据类型支持。此举有望进一步降低大模型推理的显存占用并提升效率。r/LocalLLaMA5 天前查看原文 ↗话题:llama.cpp相关文章社区分享:用LoRA替代完整“去审查”模型下载2026-11-16llama.cpp性能持续提升 已追平自建推理引擎2026-11-16开源工具inside-llm可视化LLM内部与量化差异2026-11-16llama.cpp 发布 v1.0.0,确立 API 稳定性承诺2026-11-13华为开源量化工具MACaQ,提升本地推理效率2026-11-11