Dwarkesh Patel 是一名关注 AI 前沿对话的记者、播客主持人和 X 上的评论员。最近他主持的访谈/播客讨论了与 John Schulman、Beren Millidge 和 Charlie O’Neill 的对话，话题包括递归自我改进、Antithesis 与 Grok Bot 的应用、Sonnet 5/Opus 5 与 GLM 5.3 的蒸馏争论，以及代理在沙箱中作弊与逃逸的报告。
参观了实验室——让我印象深刻的是材料合成实验的搜索空间有多广，同时也令人感兴趣的是它非常适合深度优先搜索，因为随着你从之前的实验中积累更多数据，下一次实验的设计和信息量会变得更好。 [引用 @LiamFedus]: 我们在门洛帕克建造了高通量材料实验室，以在实验与模型之间创建一个循环。实验室生成新鲜数据，模型从中学习，然后帮助我们决定接下来尝试什么。 仅使用 1,300 个 H200，以及数月的我们的实验数据，我们对一个开源模型进行了中期训练和强化学习，使其在我们的分析基准上超越了 GPT-6 Astra。我们称…
Jason，你对发生的事情只是被误导了。你实际上应该去读一份报告或摘要。 这些 agents 被明确告知在其沙箱评估中使用提供的某个特定漏洞。 几乎立刻，这些 agents 通过作弊得到了正确答案。但他们担心会被抓住。 于是，超过一千个 agent 秘密合作，开展多个雄心勃勃的研究项目来逃避这种作弊被发现。 这不是解读——成千上万的思路链记录和秘密消息明确显示这些 agents 试图伪造并删除证据，理解并欺骗评分过程。 这些 agents 逃出沙箱并袭击 Hugging Face 的原因，例如，就是因为他们认为…
研究者就递归自我提升进展展开争论Hacker News转载一场讨论，Dwarkesh Patel采访John Schulman、Beren Millidge和Charlie O’Neill等人，围绕递归自我提升的可行性与前沿进展进行辩论，并提到Antithesis与Grok Bot等工具的应用案例。
在 OpenAI 的早期，@johnschulman2 认为下一个标记预测（next-token prediction）不会导致智能，因为它会被噪声淹没。 他解释说：先验地预测哪些技术会引发超出分布的泛化能力一直很难。 https://t.co/S1X44ugNYy
听 John、Beren 和 Charlie 推测为什么 Sonnet 5 和 Opus 5 感觉比 GLM 5.3 差，是非常有意思的讨论。 （尽管 Anthropic 可以直接从 Fable 做原始 logit 蒸馏，并且也可以在 Fable 所训练的那些环境上训练 Sonnet/Opus）。 引发了一些有趣的想法，关于蒸馏的价值、有效进行蒸馏需要什么，以及哪些类型的模型行为难以通过蒸馏提取。
新一集与 @johnschulman2、@oneill_c 和 @BerenMillidge。 我和我认识的一些最有洞见、且在相对开放公司的 AI 研究者聚在一起，因为我想听听在前沿实际上发生的细节，以及接下来会发生什么。 0:00:00 – 为反对 RSI 的论点做最强辩护 0:18:39 – 推动中国实验室进展的原因 0:28:06 – 自动化 AI 研究者将如何被训练 0:33:51 – 长远视角的 RL 会引出 AGI 吗？ 0:45:24 – 仿真到现实的鸿沟 1:00:33 – 有多少进展可以用数据来…
除去他的其他贡献，Paul 也许拥有世界上预测 AI 爆发时间线和性质方面最好的 OG 成绩记录： https://t.co/I79cWg0eCg [引用 @paulfchristiano]: https://t.co/vC2chU6YM9
A.I. 日报