第 2026-10-25 期 · 行业追踪 · 开源 · 研究

Qwen3.8 Flash Next在16GB显存下跑出262 tok/s

LocalLLaMA用户测试显示,Qwen3.8-Flash-Next IQ3_S在RTX 5080 16GB显存与55GB内存配置下运行,提示处理峰值约5600 tok/s,生成峰值262 tok/s,支持262K上下文。代理编码会话中99.5%的提示token命中缓存,首token中位延迟0.2秒。

r/LocalLLaMA2 天前
查看原文 ↗