第 2026-10-29 期 · 行业追踪 · 研究
研究:通用反馈句可媲美自写批评的后见自我蒸馏
一项被ACM ICAIF '26接收的研究在GPT-OSS-20B上做多步金融推理的后见自我蒸馏。将学生模型自写批评替换为一句固定通用反馈,效果与完整批评相当,约提升3个百分点;更大模型生成的批评也未带来明显增益,且Fin-SD比基于完整参考答案的OPSD少用9.5%的token。
查看原文 ↗话题:GPT-OSS-20B
一项被ACM ICAIF '26接收的研究在GPT-OSS-20B上做多步金融推理的后见自我蒸馏。将学生模型自写批评替换为一句固定通用反馈,效果与完整批评相当,约提升3个百分点;更大模型生成的批评也未带来明显增益,且Fin-SD比基于完整参考答案的OPSD少用9.5%的token。
查看原文 ↗