llama.cpp 添入 Maple 20B-A1B 三值 MoE(CPU)
ggml-org/llama.cpp 的 PR 添加了由 AlexGabbia 引入的 Maple 20B-A1B 三值 MoE 架构,可在 CPU 上运行并已在 Hugging Face 的 deepgrove/maple-preview 页面出现。这对显存受限用户有吸引力,属于开源模型扩展。
AI 日报收录的 AlexGabbia 相关报道,共 1 篇,按时间倒序,每小时更新。
ggml-org/llama.cpp 的 PR 添加了由 AlexGabbia 引入的 Maple 20B-A1B 三值 MoE 架构,可在 CPU 上运行并已在 Hugging Face 的 deepgrove/maple-preview 页面出现。这对显存受限用户有吸引力,属于开源模型扩展。