Qwen3-4B 最新动态

Qwen3-4B 是阿里 Qwen3 系列中的 40 亿参数小尺寸模型。近期围绕它的报道多集中在二次训练与推理优化上：VocabX 预览论文显示，按单一领域和输出格式重建 Qwen3-4B 词表可在葡萄牙语作文评分系统中大幅降低推理成本；有开发者对其做后训练，使推理阶段 token 用量减少 44%，并全程在单张 GPU 上完成；还有版本被训练以去除 AI 写作痕迹，以及 Waterloo 团队用它为冻结的 Qwen3-0.6B 解释器生成 LoRA 适配器。

专化小模型词表可将实际推理成本降低77%

VocabX论文预览显示，针对单一领域和输出格式重建Qwen3-4B的词表，可显著降低推理成本。该方法在葡萄牙语作文评分系统上按token成本而非词频设计词表，在不改变基础模型、数据和训练配方的情况下，实测推理成本下降77%，同时减少每次生成需打分的15万余条词表条目。

Hugging Face Blog · 14 天前

Qwen Gemma Qwen3-4B

新版Qwen3-4B去除AI写作套话

Hacker News讨论了一个经过训练去除AI写作套话的Qwen3-4B版本。帖子展示了在40个留出提示上原模型与发布模型各取一个样本的对比，并用套话检测器标出相关段落。

Hacker News · 16 天前

Qwen3-4B

英特尔发布推理微服务，优化英特尔处理器上的LLM推理

英特尔推出推理微服务，每个容器在英特尔处理器上自动配置并服务一个模型，兼容OpenAI API，首个版本支持Xeon处理器。

Intel · 21 天前

Intel Qwen3-4B

Qwen3-4B后训练实现推理token减少44%

有开发者对Qwen3-4B进行后训练，使其推理时使用的token减少44%，同时保留原有知识和回答风格，整个训练流程仅在一张GPU上完成。

r/MachineLearning · 35 天前

Qwen3-4B

开发者推无框架原型学习器Jayce，比反向传播快1.6至4倍

开发者发布实验性项目Jayce，采用自适应原型记忆（APM），将LLM原始上下文向量存入4096个原型槽，通过即时移动最近原型实现事实学习与纠正，无需改动模型权重。官方称其训练更新比Adam反向传播快1.6至4倍，在MNIST等序列任务同量样本下准确率更高，且全部用纯NumPy与Java编写，可在本地Qwen3-4B GGUF上离线运行。

r/MachineLearning · 44 天前

Jayce Qwen3-4B MNIST

ProgramAsWeights：将英文描述编译为本地神经网络程序

滑铁卢大学研究者发布开源项目ProgramAsWeights，可将英文功能描述编译为可复用的神经程序并在本地运行。其编译器用微调的Qwen3-4B为冻结的Qwen3-0.6B生成LoRA适配器，把编译与推理分离，程序可保存、分发并与普通代码组合。

r/MachineLearning · 46 天前

ProgramAsWeights Qwen3-4B Qwen3-0.6B

已经到底了