第 2026-10-17 期 · 行业追踪 · 研究 · 开源

ORL开源:单卡RTX 5090扩散语言模型达2788 token/s

研究者开源ORL(在策略残差学习)及推理引擎dlmrt,通过让模型复用并逐步修正自身预测的残差、并用相邻熵收缩加速收敛,显著提升扩散语言模型速度。单请求下LLaDA-2.1-mini在单块RTX 5090上达2788 tokens/s,8×B200上DiffusionGemma 26B MoE达7708 tokens/s,QwenDLM-4B端到端吞吐最高提升6.9倍。模型、训练代码、评测流程与推理引擎均已开源。

r/MachineLearning17 天前
查看原文 ↗