第 2026-11-13 期 · 社区音量

Mira Murati @miramurati

今天在Connectionism上:我们如何在@nvidia GB300上以原生4位前向传播训练Inkling 2 Small,从第一个预训练步骤到最终的RL部署,这是整个堆栈中众多改进之一,将预训练从数周缩短到68小时。 [引用 @thinkymachines]:用更少的位训练更快,但量化误差会干扰学习。 今天在Connectionism上,我们详细介绍了如何从预训练的第一步到最终的RL部署,以原生4位前向传播训练Inkling 2 Small。 https://t.co/CIMECSEpD0

X3 天前
查看原文 ↗