12GB显存笔记本本地跑Qwen3.8模型达51t/s

用户测试显示，Strata推理引擎搭配ISTA-DASLab的Qwen3.8-Flash-Next量化版，在12GB显存、64GB内存笔记本上实现51 t/s生成和1500 t/s提示处理，远超原版llama.cpp。该引擎目前仅支持Nvidia及特定GGUF模型。

• Qwen3.8-Flash-Next 在12GB显存实现65 tokens/秒2026-09-24
• Qwen3.8 27B IQ3_XXS 与 Bonsai Ternary PQ2 量化实测对比2026-09-20
• 特朗普签署“超级智能”协议出现拼写错误2026-10-01
• 智源发布 AREX-2：27B 长时程智能体模型2026-10-01
• Meta将AI数据中心归类为实验以避税数十亿美元2026-09-30