第 2026-10-12 期 · 行业追踪 · 开源 · 模型发布

开源项目Maya让单卡运行321B参数GLM-5.3-Flash

开源项目Maya可在单张NVIDIA GPU上本地运行3210亿参数的GLM-5.3-Flash,通过将专家权重分配至GPU、内存和SSD,实现30+ tokens/s;四张RTX 4090可达118 tokens/s,并保留原模型97.7%-99.2%的零样本准确率。

r/LocalLLaMA7 天前
查看原文 ↗