研究提出Soft-MTP，改进多Token预测训练

研究者指出标准多Token预测的梯度中混有噪声残差，会削弱下一Token预测效果。他们提出Soft-MTP，仅需一行代码改动即可分离出用于投机解码的KL自蒸馏信号，并在多类任务上提升MTP表现，代码与论文已公开。