A.I. 日报
Qwen 3.8 Flash在RTX 3060上约21 tok/s运行
一位开发者分享，通过预测MoE专家路由加速CPU/GPU卸载，在RTX 3060 12GB加16GB内存上以约21 tok/s运行68GB的Qwen 3.8 Flash Next量化模型，且未做门控剪枝、保持比特精确。热缓存下可达24 tok/s以上，相比原版约1.4-2.1 tok/s大幅提升。
Qwen 3.8 Flash Next
5 篇报道Qwen 3.8 Flash Next 是阿里 Qwen 系列的一款混合专家（MoE）模型，近期在本地 LLM 社区被频繁讨论。有开发者报告，68GB 的量化版本在 RTX 3060 12GB 显卡加 16GB 内存上借助专家路由预测达到约 21 tok/s，而 llama.cpp 分支与 halogen-flash-server 的组合把解码提升到约 52 tok/s、预填充约 1300 tok/s。还有人提到，使用 Codex CLI 配置后，该模型在 3D 马里奥测试中表现超过 GPT 5.6 Luna。
相关话题
用户称Codex CLI大幅提升本地大模型表现
一名用户称，用GPT帮助配置Codex CLI后，本地Qwen 3.8 Flash Next在3D马里奥测试和实际项目中反超GPT 5.6 Luna，此前本地模型在正式工作中一直难以匹敌云端模型。他同时将搜索工具移植为Codex技能。
用户分享本地大模型修改vLLM服务配置
一名本地大模型用户在r/LocalLLaMA发帖，称使用Qwen 3.8 Flash Next驱动Hermes和Pi，让它为vLLM服务添加CUDA_DISABLE_PERF_BOOST=1以降低服务器待机功耗。
本地化 LLM 社区迎来“黄金时代？
Reddit 用户指出，硬件短缺促使本地化 LLM 社区回到底层优化：通过 llama.cpp 分支和 Strix Halo 的 halogen-flash-server 对 Qwen 3.8 Flash Next（Q38FN）实现显著加速，解码达 52 tok/s、prefill 达 1300 tok/s。作者认为资源受限反而推动学习与技术积累。
为 Artificial Analysis 基准辩护的社区帖子
r/LocalLLaMA 上的帖子为 Artificial Analysis 的聚合基准辩护，指出其方法与开销，并举例 Deepseek 与 Qwen、GPT-6 在不同子评测上的差异。
已经到底了