llama.cpp合并Gemma4图优化PR,E2B和E4B提示处理大幅提速
llama.cpp仓库的PR #31356为Gemma E2B和E4B模型引入图优化,显著提升提示处理(pp)速度。该改动来自开发者max-krasnyansky,在r/LocalLLaMA社区引发关注。
AI 日报收录的 max-krasnyansky 相关报道,共 1 篇,按时间倒序,每小时更新。
llama.cpp仓库的PR #31356为Gemma E2B和E4B模型引入图优化,显著提升提示处理(pp)速度。该改动来自开发者max-krasnyansky,在r/LocalLLaMA社区引发关注。