MMLU

2 篇报道

AI 日报收录的 MMLU 相关报道，共 2 篇，按时间倒序，每小时更新。

从零训练3.87B MoE模型仅用86.5B token

开发者从零训练了3.87B总参数、1.45B激活参数的MoE模型Apex-2，仅用86.5B预训练token，HumanEval达43.9、MMLU仅28.6；DPO导致成绩下降被弃用，模型已开源。

r/LocalLLaMA · 33 天前

研究者把Transformer块删除重新表述为约束二元优化问题，并映射为Ising自旋玻璃模型，从而在无需逐一基准测试的情况下评估候选剪枝配置。在Llama-3.3-70B-Instruct上实现50%压缩时，MMLU得分比最佳同类方法高出近23个百分点。

Hugging Face Blog · 46 天前

已经到底了