Hugging Face发布MoE训练手册，基于Megatron-LM

Hugging Face的Nouamane发布了一份Mixture-of-Experts训练手册，逐项讲解Megatron-LM配置。内容涵盖硬件测试、稠密基线训练、MoE层细节以及服务与强化学习，并公开了55张图表和脚本。经验来自CSCS Alps集群上约80万GH200 GPU小时的MoE训练。

• Hugging Face举办量化技术直播工作坊2026-11-05
• OpenAI发布GPT-6 Cyber网络安全模型2026-11-05
• CCORE发布GLB-3D-Coder 4B完整模型权重2026-11-05
• Phonon TTS：端侧语音模型登顶榜单2026-11-05
• Ripple-65B预览版发布：美国开源权重模型智能体编程新标杆2026-11-04