单台128GB迷你PC跑300B级MoE模型

开发者发布Kyojin引擎，基于ExLlamaV3并针对AMD Strix Halo（ROCm）优化，使两个300B级MoE模型各自可运行在一台128GB迷你PC上。GLM-5.3-Flash预填充约580 tok/s，MiMo-V2.6-Flash解码最高44 tok/s，并附有与官方FP8的KLD及Top-1一致率对比。

• Lean-QwenFlash实现低内存运行125B模型2026-10-25
• 开源项目Maya让单卡运行321B参数GLM-5.3-Flash2026-10-12
• DeepSeek V4.1 Flash被指泄露API密钥2026-10-11
• GLM 5.3 Flash开源模型登顶AI分析网络指数2026-10-09
• 用户用8张Radeon Pro V620自建大显存推理机2026-10-08