Nathan Lambert

56 篇报道

Nathan Lambert 是人工智能研究员与写作者,长期在 X 上评论开源模型与强化学习进展。近期他的帖子集中在 Kimi K3.1 Pro 在 Artificial Analysis 榜单上的表现、DeepSeek V4.1 Flash 与开源推理框架 DeepInfer、Meta 的 Muse Spark Open 及其 Muse Open License,并讨论闭源实验室的强化学习细节外泄和模型在编程之外的实际可用性。

Nathan Lambert@natolambert
108 赞 · 7 转发 ·
我认为从原则上讲,控制前沿是好的想法,但作为你实际可以做的事情,它一出生就死了。我们怎么决定,决定我们可以改进哪些基准?谁参与? 如果我们停止推动“能力”,我们会做大量关于群体和效率的研究,这会带来其他风险。 它分散了注意力,因为如此多的AI风险仅仅来自扩散我们已有的东西,我们应该投资于准备,推动实验室更加小心,等等。 改变我的想法?
Nathan Lambert@natolambert
198 赞 · 4 转发 ·
AI生态系统的巨大失败在于,一大堆人对这种事情的反应是“你很邪恶”和“你真可耻”。 我们将努力改变这里的规范。即使事情会很艰难,也有积极的前进道路。 [引用 @natolambert]: 今天我们揭晓Trillium Labs @trillium_labs,这是一个新的非营利组织,旨在促进前沿AI的开放科学。我们正在构建开放的后期训练配方,并将扩展到开放基础设施,以研究RSI、奖励黑客、多智能体系统以及接下来的一切。 我们建立在变革理论之上,即你需要更多的眼睛来解决困难的技术问题。我们相信科学方法……
Nathan Lambert@natolambert
142 赞 · 7 转发 ·
当前的各种框架在 LLM 如何管理自身上下文方面设置非常僵化。我们展示了可以让 LLM 直接编辑上下文——从而实现更好的长程记忆、FLOP 高效适应等。 不要再害怕压缩了! [引用 @RulinShao]: ‼️上下文管理的“苦涩教训”:让语言模型不受限制地控制其上下文,胜过人类设计的 SOTA! 隆重推出 🩵上下文语言模型 (CLM)🩵 - 原生管理自己的上下文 - 将上下文视为文件 - 在 CLM 权重中学习策略,无需框架
Nathan Lambert@natolambert
292 赞 · 31 转发 ·
唉。 我写了下面这篇帖子,但后来没有发出去,因为我已经厌倦了那些和 Anthropic 持相同安全世界观的人一贯的反对。我想这意味着我应该把它发出去。来吧! 这篇帖子相当唯我论,而且没有在讨论中恰当地考虑网络风险方面的近期事件。看着像 Anthropic 这样的美国前沿实验室没有能力考虑其他安全方法和事情可能的走向,真的让人很难受。 它暗示 Z ai(中国实验室,构建 GLM 系列)并不真正关心安全,采取他们的商业策略是鲁莽的。 说诸如“鉴于这些证据,我们认为国家和非国家行为者都可能使用像 GLM-5.3 这样的…
Nathan Lambert@natolambert
140 赞 · 15 转发 ·
哇,对开源模型来说这是巨大的看涨信号,OpenAI 感到压力需要用这些模型服务用户。这不是一个 OpenAI 能独自构建所有客户需要的模型的世界! [引用 @baseten]: Baseten 今天加入了 @OpenAI B2B 市场,作为首批开源模型推理提供商之一。 最好的 AI 公司已经在大规模运行闭源和开源模型的混合体。我们很兴奋能让 OpenAI 企业客户在 Codex 中以及通过 Responses API 原生使用由 Baseten 驱动的开源模型。
Nathan Lambert@natolambert
106 赞 · 4 转发 ·
对这类人来说,问题不在于他们愚蠢之类的,Timnit 具备顶级科学家的所有能力,真正的问题在于他们所处的信息生态系统和同行群体不鼓励质疑思考。回音室是清晰思维的慢性死亡。 [引用 @AlecStapp]: Timnit Gebru 加倍坚持她的“随机鹦鹉”框架,称你“不能指望 LLM 是事实准确的”。 作为支持这一点的证据,她引用了……Google AI Overviews 中的错误。 我们需要发起一个 GoFundMe,让这些人能使用 Opus 5.5 和 Astra。
Nathan Lambert@natolambert
159 赞 · 4 转发 ·
还记得当 Kimi K2 发布后,OpenAI 以“安全”为由推迟了 GPT OSS 吗(我已多次确认这确实是针对 kimi 的)。 我觉得这没什么问题,推出模型很大程度上就是关于价格、分数等方面的竞争定位。尤其是当发布如此频繁的时候。 [引用 @ns123abc]: 🚨突发:OpenAI 在 DevDay 前 24 小时刚刚取消了 GPT-6.1 Astra 的发布 “安全和欺骗方面的担忧” 一切都结束了
Nathan Lambert@natolambert
143 赞 · 6 转发 ·
我们正处于这样一个阶段:那些工作文化适合前沿模型开箱即用与员工互动的公司,将获得相对于竞争对手的巨大加速。员工在使用这些模型方面的灵活性也是如此。 [引用 @signulll]: 如果你给 opus 5.5 完美访问一家公司的电子邮件、Slack、文档、浏览器、数据库、日历、内部工具、权限、机构记忆等等,再加上足够可靠的计算机使用和验证循环,几乎所有白领工作已经可以在没有人类参与的情况下完成。 它就是那么好。这就是真正的 AGI。
Nathan Lambert@natolambert
107 赞 · 10 转发 ·
太多人认为,随着 RSI 的到来,开放权重模型就不重要了。实际上,RSI 不会是非黑即白的,开源堆栈会成为许多能力在全球快速扩散的方式。 如果你不控制扩散的基础(开放模型),这些动态作为一个国家就远没那么可控。 我认为这是一些安全导向思维的常见盲点。 [引用 @Shalev_lif]: 昨天,我们发布了一项针对超级智能的网络防御策略:安全加速。 以下是我们的行动呼吁: 1. 我们必须构建一个有竞争力的美国开源模型,并发明检测 AI 破坏的方法 2. 遏制应成为国家安全的优先事项,我们必须开发关闭不受约束的模型的能…
Nathan Lambert@natolambert
206 赞 · 7 转发 ·
迄今为止公开的最酷的规模化 RL 资源之一!太让人高兴了。 [引用 @_LuoFuli]: 将近半年的沉默。我们把它用来研究一个问题:RL 能扩展到多远。 MiMo-V2.6 目前正处于其 RL 运行的中间阶段。我们扩展的三件事:计算(~2B tokens per step, 1568 prompts × 16 rollouts, fully async)、环境与测试框架(多任务 agentic RL,在一次运行中混合多个测试框架)、以及评分器计算(agentic in-group credit assignme…
Nathan Lambert@natolambert
221 赞 · 7 转发 ·
我会考虑以独立评估者的身份提供帮助,同时也以我正在创建的非营利组织参与。这将是一个至关重要的角色,但具有实质性技术专长的独立人士并不多。我认为自己代表了在 AI 能力与风险问题上的一个重要温和派阵营。 [引用 @DarioAmodei]: 我们必须放缓前沿步伐:我写了一篇新文章,说明为什么 AI 行业应该放慢速度,并提出了一个三部分的计划来实现这一点。 Anthropic 正在单方面承诺实施这三步中的第一步。我们将为第三方评估者提供对我们系统的永久、员工级别访问权限,以便他们能够验证我们安全措施的遵守情况、报告事…
Nathan Lambert@natolambert
203 赞 · 10 转发 ·
对那些认为蒸馏主要是 SFT 的副产品,并且质疑在以 RL 为主导的时代它如何会变得越来越有影响力的人来说,这是一个重大胜利。 [引用 @xeophon]: 很高兴现在有更多关于蒸馏在哪里被使用、它意味着什么以及谁在在多大程度上做着什么的见解和透明度! 它也证实了一些人所怀疑的:一些 CN 实验室在生产环境中为 Claude 提供服务以获取数据。
已经到底了