研究定位并消除LLM“slop”风格
一项研究在 Qwen3-4B-Instruct 中找到了助手风格(如破折号、'不是X而是Y')的表示方向,发现 SFT 引入修辞结构,DPO 通过流行词和 Markdown 加倍 slop 分数。通过固定向量减法或蒸馏为 LoRA,可将 slop 分数降低 83%。
AI 日报收录的 OLMo 2 1B 相关报道,共 1 篇,按时间倒序,每小时更新。
一项研究在 Qwen3-4B-Instruct 中找到了助手风格(如破折号、'不是X而是Y')的表示方向,发现 SFT 引入修辞结构,DPO 通过流行词和 Markdown 加倍 slop 分数。通过固定向量减法或蒸馏为 LoRA,可将 slop 分数降低 83%。