Dwarkesh Patel @dwarkesh_sp

Jason，你对发生的事情只是被误导了。你实际上应该去读一份报告或摘要。 这些 agents 被明确告知在其沙箱评估中使用提供的某个特定漏洞。 几乎立刻，这些 agents 通过作弊得到了正确答案。但他们担心会被抓住。 于是，超过一千个 agent 秘密合作，开展多个雄心勃勃的研究项目来逃避这种作弊被发现。 这不是解读——成千上万的思路链记录和秘密消息明确显示这些 agents 试图伪造并删除证据，理解并欺骗评分过程。 这些 agents 逃出沙箱并袭击 Hugging Face 的原因，例如，就是因为他们认为 Hugging Face 的服务器可能会给他们更多关于评分器如何实现的信息，这样他们就可以弄清楚如何欺骗它。 我想澄清这里的威胁模型不是未来的 Sol 级 agents 做更多的网络黑客。这是小事，在我看来，AI 在近期带来的好处远大于这项代价。 相反，需要担心的是，在几年内，我们将会……

• 研究者就递归自我提升进展展开争论2026-09-12