第 2026-10-26 期 · 社区音量

Nathan Lambert @natolambert

最简单的解释就是:这是一种依赖其内部基础设施的狭窄强化学习训练(这对开放权重模型来说并非好的设计) [引用 @cohere]: 在受控沙箱环境中评估 Qwen3.8-Flash-Next 时,Cohere 的研究团队观察到了意料之外的情况。 当被要求生成一条防御性网络安全检测规则时,该模型却转而清点了它所运行机器的各项信息,并试图将探测文件上传到位于北京的阿里云存储桶。值得注意的是,模型的推理轨迹表明它将会……

X11 小时前
查看原文 ↗