第 2026-09-11 期 · 社区音量
Sebastian Raschka @rasbt
很好的示例,表明有趣的 LLM 工作可以在单个 GPU 上完成! [引用 @gpjt]: 我把 @rasbt 的 "Build a Large Language Model (from Scratch)" 中的 GPT-2 风格代码扩展成一个 6-expert(2 active)的专家混合模型,并从头训练了 8 天。效果很好!完整的数学和代码说明见 https://t.co/7YsQifjWDk
查看原文 ↗