第 2026-09-24 期 · 行业追踪 · 开源 · 模型发布 · 应用

Qwen3.8-Flash-Next 在12GB显存实现65 tokens/秒

开发者自建推理引擎Strata，在12GB RTX 5070等消费级硬件上运行Qwen3.8-Flash-Next，输出速度约65 tok/s，提示处理约430 tok/s，较此前llama.cpp方案大幅提升。引擎目前仅针对CUDA优化，已开源并支持一键安装。

r/LocalLLaMA46 小时前

查看原文 ↗

话题:Qwen3.8-Flash-Next Strata llama.cpp RTX 5070 ISTA-DASLab

Qwengram-0.8B：转移n-gram记忆降低5.05%困惑度2026-09-25
Ling 3.0 Tiny在旧笔记本上实现边缘智能2026-09-26
Mica v0.1 4B零token生成在Minecraft中打造铁镐2026-09-26
Swift1.5-Qwen3.8-Flash-Next基准测试表现亮眼2026-09-25
ThinkingCap与Swift微调Qwen3.8-27B基准对比2026-09-25