第 2026-11-12 期 · 社区音量
Sebastian Raschka @rasbt
在推理模型的开发中,一直存在这样一种有趣的张力:是训练/优化思维链(CoT),还是不去碰它、以保持可监控性。 CoT 之所以好,是因为只要模型把思考过程写出来,我们就能检查它在做什么(比如是否作弊)。而如果我们显式地优化 CoT,就有可能失去这一点。 有两点需要注意: 1)也就是说,CoT 与可监控性的问题在于,只有当写出来的思考反映模型实际在做的事情时,这个方法才有效。 2)此外,当模型变得更强时,它们在 CoT 中写出的内容会更少(就像一个更聪明的数学学生在考试解题时需要的草稿更少)。 这方面没什么新东西,但下面有个有趣的讨论串,讲如何衡量“更难监控”,其中一些有趣的结果印证了已有的直觉: 1)无 CoT 能力(指模型在不写任何东西的情况下,单次前向传播能完成多少推理) - 更好的预训练(更低的困惑度)会提升这种无 CoT 能力 - 架构基本无关紧要 2)CoT 可控性(指模型在被要求增加、删除或……时,能在多大程度上改变其写出的推理)
查看原文 ↗