第 2026-10-29 期 · 行业追踪 · 研究

研究:通用反馈句可媲美自写批评的后见自我蒸馏

一项被ACM ICAIF '26接收的研究在GPT-OSS-20B上做多步金融推理的后见自我蒸馏。将学生模型自写批评替换为一句固定通用反馈,效果与完整批评相当,约提升3个百分点;更大模型生成的批评也未带来明显增益,且Fin-SD比基于完整参考答案的OPSD少用9.5%的token。

r/MachineLearning4 天前
查看原文 ↗