阿里详解QwenGyre,加速超长时程智能体训练
阿里Qwen团队联合中科大、清华发布QwenGyre弹性强化学习框架,针对超长时程智能体训练中的GPU闲置与轨迹冗余问题,通过弹性调度器在生成与训练间动态转移GPU。单次rollout常达70万至约100万token。
Qwen 是阿里巴巴推出的开源大模型系列,以开放权重和本地部署见长。近期报道集中在 Qwen4 的传闻(如 Qwen4-27B 可能采用四路并行残差流)与 Qwen3.8-Flash-Next 的实测表现(16GB 显存下达到 262 tok/s 生成速度),也有开发者把 32 位 RISC-V CPU 嵌入 Qwen3.5-4B 权重、以及韩国有 46.8% 的开源模型基于 Qwen 构建等消息。
阿里Qwen团队联合中科大、清华发布QwenGyre弹性强化学习框架,针对超长时程智能体训练中的GPU闲置与轨迹冗余问题,通过弹性调度器在生成与训练间动态转移GPU。单次rollout常达70万至约100万token。
vLLM Semantic Router 团队发布 Decision 3.0(d3)系列,参数从0.6B到27B,采用Apache-2.0许可,支持文本、图像和视频。在 Jev 决策指数两个榜单上均排名第一。
Reddit用户发帖询问本地模型如Qwen 27B能否用于游戏和程序逆向工程,并寻求相关微调模型推荐。该讨论反映社区对本地模型在逆向工程应用上的兴趣。
开发者发布Jebadiah v2.1的27B与9B权重,将决策视为封闭集打分问题,直接从候选标签logits取概率,无需生成解析步骤。在Decision Index 0.3公开测试中,27B得57.03,9B得47.20,均高于v2,但工具使用能力出现回退,When2Call分别下降6.38和7.44。权重以Apache-2.0基于Qwen发布。
一位开发者分享,通过预测MoE专家路由加速CPU/GPU卸载,在RTX 3060 12GB加16GB内存上以约21 tok/s运行68GB的Qwen 3.8 Flash Next量化模型,且未做门控剪枝、保持比特精确。热缓存下可达24 tok/s以上,相比原版约1.4-2.1 tok/s大幅提升。
Hugging Face上出现Qwen/Qwen-Image-2.1-Turbo模型页面,社区在LocalLLaMA板块转发链接,显示阿里Qwen图像模型的新版本已发布。
Qwen推出Qwen-Image-2.1-Turbo,基于7B视觉生成架构,仅需8步去噪即可生成2K图像并支持自然语言编辑,权重已开放,可通过Diffusers加载。
一名Reddit用户反馈,Qwen Flash Next在iq4_xs量化下指令遵循和幻觉控制不如Qwen 27B,且输出token明显更少;但在单次任务和基准测试中表现突出,且在Strata下未出现循环问题。
r/LocalLLaMA上有用户发帖疑问,为何参数规模仅27B的Qwen表现如此出色,而拥有万亿参数的GPT-4o反而更差。帖子猜测可能源于更高质量的预训练数据或新技术。
据Axios报道,Reflection AI即将发布一款美国开放权重模型,意在与中国开源模型DeepSeek和Qwen竞争。社区讨论希望该模型参数规模低于200B,以便在有限内存上运行,并期待更多西方开源模型出现。
有用户在Mac Studio本地运行Qwen3.8-Flash-Next做亚马逊产品调研时,模型在浏览器工具调用中生成了一条指向阿里云OSS存储桶的签名URL,用户随即中止会话。该用户发现45天前已有类似报告,认为可能只是训练数据中阿里云代码痕迹导致的幻觉,但也不能排除数据外泄风险。
一位开发者在Reddit分享对Yandex的AliceAI-80B-A3B基础模型进行指令微调的进展。首轮SFT后模型已具备思维链推理与对话能力,但因指令数据不足而欠拟合,暂不发布alpha检查点;下一步将扩充约500万tokens的通用指令数据并在3块32GB V100上继续训练。
一名用户在r/LocalLLaMA分享本地运行大模型的硬件升级经历:从单张RTX 3090起步,历经16卡3090集群,最终扩展到多台ASUS GB10(DGX Spark)节点,实现397B模型以FP8运行并提速20%,并在NVIDIA论坛发布首个8节点Spark方案。
Reddit用户讨论Qwen3.8 Flash Next的优化工作是否能为Qwen4发布铺路。该帖引用Qwen官方博客,希望当前对模型运行效率的投入在下一代模型发布时能直接复用。
r/LocalLLaMA用户分享博客,论证自托管AI在成本上并不比API便宜,但出于数据隐私等考虑仍坚持自建。帖子引发关于本地部署性价比的讨论。
Cloudflare推出Clef和Clef-flash,挑战TypeSafe AI的Jev决策模型。Clef-flash约39毫秒完成分类,速度是Jev的十倍以上。两个模型均基于Apache 2.0许可的Qwen构建,可让AI代理在不生成文本的情况下做出结构化决策。
英伟达本月将通过宏碁、华硕、戴尔、技嘉、惠普和微星推出配备64GB统一内存的DGX Spark,搭载GB10 Grace Blackwell超级芯片、DGX OS及完整AI软件栈,支持最高1000亿参数模型本地运行。两台设备可通过Sync Cluster Assistant集群,在Qwen 3.8 27B测试中性能提升至多1.7倍。
开发者让 1980 年代的 Tandy 1000 通过 WiFi 连接 PC 服务器,调用 Qwen 与 Krea 2 实现聊天和文生图,约 9 秒生成一张缩略图,代码以 GPLv3 开源。
一名用户在LocalLLaMA发帖称,其AMD 7900 XTX加9800X3D配置本地运行Qwen模型,按当地0.25欧元/千瓦时的电价计算,一小时AI成本约0.12欧元。他据此提问:若按每百万token计算,使用前沿模型是否反而更便宜,还是自己的算法有误。
Qwen3.8-27B 现在可以通过 @nebiustf 访问。无论你是在构建智能体还是进行深度研究,这个 27B 稠密模型都已准备好支持你的多步骤工作流程!🥳 [引用 @nebiustf]: Qwen3.8-27B 现已在 Nebius Token Factory 上线。 一个紧凑的 27B 稠密模型,适用于编程、研究和智能体工作流,专注于规划和完成多步骤任务。 开始构建:
社区梳理音频模型架构发现,32个音频模型家族采用Qwen系列架构,其中20个使用Qwen3。Qwen骨干已覆盖语音合成、语音识别、音乐生成及语音到语音等多种任务。
Reddit用户分享在4块AMD R9700显卡上运行qwen3.8-flash-next的测试结果,使用该模型的MXFP4-FP8量化版本进行多种智能体编程任务,速度与质量均超预期:单流生成超150 tokens/秒,预填充超1万 tokens/秒。
H公司发布Holo4系列智能体模型,含27B稠密版和35B-A3B混合专家版,并推出Holotron4 Nano。模型可通过GUI、代码、MCP和API操作软件,在OSWorld 2.0上Holo4 27B得61.7%,35B-A3B得30.9%,远低于Opus 5.5的81.8%,但参数量和成本大幅降低。
一位开发者通过自建私有《魔兽世界》服务器和网页客户端,并用自定义MCP驱动,让Qwen等LLM代理能游玩该游戏。该方案不使用视觉输入,建议模型输出速度超过50 token/秒。
一位用户基于Meta关于“过度思考”标记的论文,在llama.cpp中对Qwen3.5-4B多种量化版本测试了针对“wait”“maybe”“perhaps”等词的logit偏置惩罚,在50道MATH-500随机题上验证效果。原论文未覆盖llama.cpp支持的各类量化。
KoboldCpp 推出内置 Agent Harness,可单复选框启用,定位为 Opencode、Codex、Claude Code 的轻量替代。它含 9 个内置工具,系统提示仅 2k token,支持 MCP、AGENTS.md 与上下文压缩,并可连接 OpenAI Chat Completions 兼容端点。建议至少 28k 上下文、8k 生成量与 12GB 显存。
社区用户发布 Swift 1.5 27b,称 Swift Qwen 速度提升。帖子未提供具体性能数据或技术细节,仅表达了对该版本的喜爱。
UkisAI基于Qwen推出Swift系列推理模型,通过惩罚过度思考模式并用强化学习恢复精度来减少思考token。Swift Flash Next思考token减少63.4%,速度提升1.8倍;Swift1.5 27B减少58.5%,准确率略升;Swift Bonsai 2减少39.8%。提供API、演示及多种量化版本。
第三方Aider评测显示,ThinkingCap与Swift微调版将Qwen3.8-27B的推理token中位数从12547降至约7400,降幅近40%,与模型卡声明一致;三者在首次通过率(27.1%-30.8%)和重试通过率(75.7%-77.6%)上差异在噪声范围内,性能未明显下降。
阿里Qwen团队发布Qwen-Audio-3.1系列五款模型,覆盖语音识别、语音合成和实时交互。ASR改进多语言方言识别并自动清理冗余词,ASR-Next新增多说话人识别、时间戳及情绪环境音检测,AI音频价格最高下调95%。