第 2026-10-21 期 · 行业追踪 · 研究 · 开源
专化小模型词表可将实际推理成本降低77%

VocabX论文预览显示,针对单一领域和输出格式重建Qwen3-4B的词表,可显著降低推理成本。该方法在葡萄牙语作文评分系统上按token成本而非词频设计词表,在不改变基础模型、数据和训练配方的情况下,实测推理成本下降77%,同时减少每次生成需打分的15万余条词表条目。
查看原文 ↗
VocabX论文预览显示,针对单一领域和输出格式重建Qwen3-4B的词表,可显著降低推理成本。该方法在葡萄牙语作文评分系统上按token成本而非词频设计词表,在不改变基础模型、数据和训练配方的情况下,实测推理成本下降77%,同时减少每次生成需打分的15万余条词表条目。
查看原文 ↗