第 2026-11-09 期 · 行业追踪 · 研究 · 开源
LoRA微调模型在短标题下跳过首行输出
一个基于Qwen3-0.6B的LoRA微调模型在生成LEGO模型文本时,若条件标题过短(约4个token),会跳过首行根节点,导致输出不符合语法。研究者排除了保存/解码和分词不匹配等问题,发现扩展标题可修复,但希望理解根本原因。
查看原文 ↗一个基于Qwen3-0.6B的LoRA微调模型在生成LEGO模型文本时,若条件标题过短(约4个token),会跳过首行根节点,导致输出不符合语法。研究者排除了保存/解码和分词不匹配等问题,发现扩展标题可修复,但希望理解根本原因。
查看原文 ↗