研究:通用反馈句可媲美自写批评的后见自我蒸馏
一项被ACM ICAIF '26接收的研究在GPT-OSS-20B上做多步金融推理的后见自我蒸馏。将学生模型自写批评替换为一句固定通用反馈,效果与完整批评相当,约提升3个百分点;更大模型生成的批评也未带来明显增益,且Fin-SD比基于完整参考答案的OPSD少用9.5%的token。
AI 日报收录的 GPT-OSS-20B 相关报道,共 1 篇,按时间倒序,每小时更新。
一项被ACM ICAIF '26接收的研究在GPT-OSS-20B上做多步金融推理的后见自我蒸馏。将学生模型自写批评替换为一句固定通用反馈,效果与完整批评相当,约提升3个百分点;更大模型生成的批评也未带来明显增益,且Fin-SD比基于完整参考答案的OPSD少用9.5%的token。