Qwen Flash Next

5 篇报道

Qwen Flash Next 是阿里巴巴通义千问系列中的一款模型,社区常以 GGUF 量化版本在本地运行。近期讨论集中在本地部署与实用性:有人用 ISTA DASLab 的 3.5 BPW 量化在 8GB 显存上跑到 262K 上下文、约 70 T/s 预填充和 8 T/s 生成;llama.cpp 合并了 MTP 支持,另有 PR #29825 把索引器显存占用减半;也有用户反馈它在长期 agent 任务中不如 Qwen 27B 稳定。

相关话题
已经到底了