Qwen3.8-Flash-Next在单张RTX 6000 Pro上达184 tok/s
Mesh Applied团队发布基于NVFP4量化的Qwen3.8-27B-NInfer模型,称在单张RTX 6000 Pro上实现184 tok/s的吞吐。团队认为开放模型已足以覆盖约98%的实际AI任务,瓶颈在于能否高频、快速地运行,并以每任务耗时为核心指标优化量化与内核。
AI 日报收录的 Mesh Applied 相关报道,共 1 篇,按时间倒序,每小时更新。
Mesh Applied团队发布基于NVFP4量化的Qwen3.8-27B-NInfer模型,称在单张RTX 6000 Pro上实现184 tok/s的吞吐。团队认为开放模型已足以覆盖约98%的实际AI任务,瓶颈在于能否高频、快速地运行,并以每任务耗时为核心指标优化量化与内核。