llama.cpp新增GLM 5 Flash MTP本地支持
llama.cpp合并请求为GLM 5 Flash MTP添加支持,用户现可在本地运行该模型。该更新由贡献者pwilkin提交。
AI 日报收录的 pwilkin 相关报道,共 2 篇,按时间倒序,每小时更新。
llama.cpp合并请求为GLM 5 Flash MTP添加支持,用户现可在本地运行该模型。该更新由贡献者pwilkin提交。
ggml-org/llama.cpp 的一项PR由pwilkin提交,针对gfx1201(RDNA4)和部分RDNA3 GPU(RX 9060 XT、8060S)做了Flash Attention调优,PR包含详细基准数据并带来大上下文性能提升。