第 2026-11-04 期 · 行业追踪 · 开源

llama.cpp合并Gemma4图优化PR,E2B和E4B提示处理大幅提速

llama.cpp仓库的PR #31356为Gemma E2B和E4B模型引入图优化,显著提升提示处理(pp)速度。该改动来自开发者max-krasnyansky,在r/LocalLLaMA社区引发关注。

r/LocalLLaMA28 小时前
查看原文 ↗