clem 是 Hugging Face 的工程师，常就开源 AI、机器人与模型发布公开发表看法。近期内容围绕 Microduck 与 Reachy Mini 的开源机器人预售与发货、Meta 发布 Muse Spark Open 权重、Embedding Gemma 2 等非 LLM 模型，以及将 OpenAI 数学题转为开源强化学习环境。
如果你认为风险来自车库里1-3个没有资金和算力的人，那你根本不理解这项技术，这个夏天你什么都没学到。 风险来自于秘密实验室训练前沿智能体并运行大量算力所造成的能力不对称。开源正是解决这种不对称的方法，并赋予医院（以及任何较小组织）自卫的能力！ [引用 @HillaryClinton]: 我们习惯于将开源模型视为纯粹的好事。但在AI的情况下，它们实际上可能带来额外的危险，正如@ReidHoffman和我在#CGI2026上讨论的那样。我很欣赏这次细致的讨论。
训练模型变得越来越容易了——看看这个和 TRL——尤其是有了 agents！ 如果你还在所有任务上都使用现成的模型，那你就错过了！ [引用 @whitecircle]: 介绍 Halo，开源模型后训练的最佳框架。 Halo 的吞吐量最高可达原版 TRL 的 2.8 倍，峰值内存更低，同时模型保持在其原生 HuggingFace 格式。 在 GitHub 上给我们点星：
猛货！ [引用 @ArtificialAnlys]: MiMo-V2.6-Pro 在 Artificial Analysis 智能指数（46）上首次成为排名第一的开源权重模型。每项智能指数任务成本为 0.13 美元，它落在智能与每任务成本帕累托前沿上。 @Xiaomi 刚刚发布了 MiMo-V2.6-Pro，这是一个开源权重模型，相比前代 MiMo-V2.5-Pro（智能指数：26）在智能方面有重大进步。尽管有所改进，它仍保...
Hugging Face上排名第一的热门模型是一个开源多语言系统1决策模型，就在Jev开始走红几天之后。开源AI社区太棒了！
有很多！现实情况是，对于现实世界中90%的用例来说，LLM API远不是做AI的最佳方式（它们过于大材小用、速度慢、昂贵、难以控制……）。随着未来几年AI走向成熟并被广泛采用，我们会发现这一点。 [引用 @willdepue]：Jev引发的反响让我惊讶，但事后想来也合理。当然它只是一个分类器，但它是一个具有前沿级智能的零样本分类器。我很惊讶之前没人做过这个。我想知道还有哪些旧的机器学习想法也值得被重新挖掘
大多数关闭的公司会放弃它们的影响力。这家初创公司做了更好的事：他们开源了1274小时的自我中心机器人数据。13451段人类做日常任务的录像，作为送给机器人社区的礼物。谢谢@eidon_ai！ 开源有一种超能力：工作可以比创造它的组织活得更久。更多初创公司应该这样做！
在生物学中，就像在网络安全中一样，我们将在未来几年内认识到，大部分风险集中并产生于少数最强大的实验室，而开源 AI 是这一风险的解决方案和缓解措施！
我认为 AI 最大的风险是权力集中在少数几个实验室手中 [引用 @dwarkesh_sp]: 我非常担心在 RSI（递归自我改进）期间，实验室会停止对外部署它们的模型。 这意味着他们将全力推进这些模型最危险的用例（递归自我改进），而公众对于能力的性质和对齐状态一无所知。 最终我们会走上权力极度集中的道路。
作为首个公开披露的代理（agent）网络攻击受害者，我们得以近距离观察这一新风险。我在下面阐明了我的思考。 我明天会在华盛顿与政策制定者分享更多，并在由 @politico 主办的 decoded 峰会上发言！
现在很清楚，对齐是关键问题，不能仅靠少数前沿实验室在封闭的门后解决。 所以今天我们启动了 Open Alignment Initiative，由 @Thom_Wolf @huggingface 领导，并申请成为 @DarioAmodei 刚承诺的“嵌入评估者”计划的一部分。 让我们通过提升透明度来让 AI 更安全！ [引用 @DarioAmodei]: 我们必须放慢前沿：我写了一篇新文章，讨论为什么 AI 行业应该放慢脚步，并提出了一个三部分的计划来实现这一点。 Anthropic 正在单方面承诺实施这些步骤中的…
现在很明确： - 对齐对于让 AI 安全至关重要 - 对齐不会在少数前沿实验室的闭门内被解决 所以我们将采取两步： - 启动由 @Thom_Wolf @huggingface 领导的 Open Alignment Initiative（开放对齐倡议）。 - 申请成为 @DarioAmodei 刚刚承诺的“嵌入式评估员”计划的一部分。 让 AI 通过提高透明度变得更安全！ [引用 @DarioAmodei]: 我们必须放缓前沿：我写了一篇新文章，说明为什么 AI 行业应该放慢脚步，并提出了一个三部分的计划来实现这一…
抱歉，但问Jacob关于AI灭绝风险的问题，就像问你的空调师傅气候变化一样。 并不是说这一定无趣或一定错误，但让我们保持视角平衡，听听整个生态系统中各类专家的意见！
几乎没有严肃的关于 AI 存在性风险的研究。为什么？也许这可以是第一步？ [引用 @DFintelligence]: 我刚花了 2 小时审视关于 AI 导致人类灭绝风险的学术文献。除了几乎没有相关研究之外，几乎所有内容都指向书籍和小说，或是“回形针”式的捷径，这些主要是思维游戏，在现实生活中没有实际应用。 而且我读到的几乎没有一个情景是可信的……
我们需要在人工智能上增加 100 倍的透明度！！！
如果他们真的相信风险那么高，我也认为他们确实相信，那么我们需要 100 倍更多的研究和对它的理解。这需要他们公开分享他们的模型、数据集、训练代码和 agent 跟踪记录。 [引用 @EvanHub]: Jacob 在这里是对的——我们确实真诚地相信 AI 可能会杀死所有人类！我个人认为在未来十年内这一概率 >10%。我相信 Anthropic 正在尽最大努力，但我们还没有解决超智能对齐的计划，也没有明显的走上正轨。
走本地 AI！ 在大家都在抱怨 AI 能源和计算短缺以及 token 成本的时候，我们比以往任何时候都更需要设备端 AI！此外，它几乎免费且完全保护隐私！ [引用 @desertantlabs]: 今天我们发布 Desert Ant Labs：一家在欧洲的前沿 AI 实验室，专注于构建设备端智能。 覆盖音频、视觉和文本的 18 个模型。提供 Swift、Kotlin 和 JavaScript 的 SDK。 无需 tokens。无需登录。没有任何数据离开设备。
来自 @huggingface 的开源硬件 ( + 前沿 AI = 🔥🔥🔥 [引用 @cdngdev]: 我给 astra 一台机器人、一把油漆刷和一台相机，然后让我它在现实中把金门大桥画出来！ 它想出了如何操控机器人，并在多次尝试中逐步变得更好。延时摄影很棒
为 Mistral 鼓掌！ 看到他们表现优异太棒了，他们对所有人都是榜样，因为我们需要世界各地更多主权化和开源的 AI。 很高兴继续在 支持他们！ [引用 @MistralAI]: 今天对 Mistral 来说是重要的一步：我们宣布完成 30 亿欧元的 D 轮融资，这是欧洲科技公司成立三年内获得的最大一笔股权融资。
A.I. 日报