Project Maya

开源项目Maya让单卡运行321B参数GLM-5.3-Flash

开源项目Maya可在单张NVIDIA GPU上本地运行3210亿参数的GLM-5.3-Flash，通过将专家权重分配至GPU、内存和SSD，实现30+ tokens/s；四张RTX 4090可达118 tokens/s，并保留原模型97.7%-99.2%的零样本准确率。