第 2026-11-02 期 · 社区音量

Yuchen Jin @Yuchenj_UW

这真是太酷了! 想象一下,用一个大语言模型直接编辑一个小模型的权重,并大幅提升其能力。 这就像神经网络的基因编辑。甚至比蒸馏更酷! [引用 @rikiyatakehi]: 我们让 GPT-6 Astra 编辑 Qwen3.5-0.8B 的权重以提升数学能力。 它只直接改变了 0.016% 的权重,修复了 0.8B 的推理循环,数学能力提升高达 6 倍,甚至指令遵循能力也提升了 3 倍,无需梯度或训练。 我们称之为权重空间编程:前沿大语言模型现在可以原生读取/写入神经网络权重!🧵 博客:https://t.co/bOWCcFhCVq

X3 天前
查看原文 ↗