AI 领域头部人物在 X 上的最新观点
开放权重。共享进展。MiniMax H3 正在快速发展。 我们为视频生成构建了 H3，支持原生立体声音频和多模态参考控制。开源社区正在让这项能力更快、更易获取且更容易在其上构建。 近期亮点： • FastH3 — FastVideo、Nuva Lab 和 NVIDIA：4 步蒸馏，现在可在 DGX Spark 和 Apple Silicon 上运行。 • Sol-H3 — NVIDIA 的 SANA 团队：在 8×B300 上，团队的 warm-inference 基准中，15 秒的 768p 视频+音频在 6.…
有两种方式导致 AI 进展可能非常糟糕，我们必须避免。 首先，我们可能会把未来的控制权交给 AI。这是不可接受的；我们毫不含糊地站在“人类队”一边，AI 必须始终为人类服务。为此，我们需要确保对齐和安全技术始终领先于模型能力的进步。 其次，我们可能最终处在权力过度集中化的世界。如果一个极为强大的 AI 被某个人或某家公司用来把他们的世界观强加给所有人，结果可能会非常反乌托邦。 要避免这两种威胁，需要走一条狭窄的中间道路；例如，一个国家可能获得过多的权力。另一个例子是一家实验室获得过多的权力。 [引用 @sama]…
世界应该有信心，相信那些开发日益强大 AI 的美国公司会负责任地行事，尤其是在进展轨迹变得更陡峭的情况下。每一家前沿实验室都必须做到这一点，如果我们做不到，就没有理由来上班。 我们欢迎一个为前沿 AI 设定一致安全要求的联邦框架。但我们认为不需要等到反垄断豁免或立法才能开始提供这种信心的工作。制定一致的规则来管理前沿风险，以便我们能够最大化收益，是一个好主意（我们对像独立审计员这样的想法感到兴奋）。 多年前，像我们这样的公司制定了诸如负责任扩展政策（Responsible Scaling Policies）和应…
有人可能没注意到的一点： 我们已经为 muse（muse spark 1 到 1.3）在多个月里专门构建模型，使其在 muse 上表现出色。 在我们的每一次发布中，我们在代理化（agentic）和多模态能力上取得了很大进展。每一步都是为了我们的个人代理 @Muse 做铺垫。（它们同名不是没有原因……我们事先就有计划！） 当我们去年启动 MSL 时，目标一直是开发个人级的超智能。这一直意味着要把 AI 的超能力赋予世界上每个人，而个人代理就是这一点的完美体现。 构建优秀的模型需要时间，也需要大量的规划与远见，将独特…
the alpha these days is putting muse on your iOS dock! [引用 @SavarSareen]: 我想我从未公开吹捧过某个模型或代理，但 Muse agent 和 Muse Spark 1.3 太棒了。 它们现在是我默认的个人代理和编码模型，我不知道今后为什么还要用 Instinct。 为什么 Muse assistant 很牛： 1. 响应极快 我一按回车就能看到流式输出和响应，包括对复杂请求来说感觉确实是即时的。 2…
Fable 解决了 Cyphral Distich（一种有370年历史的密码）。用 Claude 这样做超酷 https://t.co/0fgTdITSfO
来自 @jeffhollan 的很好的示例，展示了 Foundry 如何让长期运行的代理符合企业要求，从以业务成果为起点，并从一开始就在整个多代理、多模型工作流中构建安全性、健全性护栏、可审计性和 FinOps。 [引用 @jeffhollan]: Microsoft Foundry 是在企业中运行代理的最佳平台——其中一个原因是其可观测性和治理功能，可以将你的代理保持在你定义的范围内 🔐🔎 长期运行的代理可以推理、行动并使用工具来帮助改造企业的许多部分——但要负责任地这样做，你需要能够自信地回答：它能访问什…
与前沿 AI 相关的最令人担忧的风险之一是极端的权力集中。 避免极端权力集中的唯一方法是确保我们拥有多个独立的前沿 AI 模型提供者，包括开源选项。
Anthropic 和 OpenAI 如果愿意可以放慢 AI 步伐。 只是别把政府拖进我们的行业！各国政府对技术一无所知 要求政府去监管或监督超智能简直荒谬 我们最终会陷入无能、腐败和政治的危险组合
这是一个如此直接且符合常识的观点：技术的目的是服务人类并加速人类的繁荣。 任何不能实现这一点的技术都是失败的，应当被拒绝。 我们还没到那一步。但现在就开始为这种可能性做准备是正确的。 [引用 @satyanadella]: 任何对超智能的追求都必须以一个核心原则为基础：如果我们构建的 AI 不能帮助人类并且在人的控制之下，那么追求它就不值得。 我们还需要加速并扩大 AI 的收益，使其在国家、社区和公司之间广泛扩散。这需要一个前沿生态系统，在该生态系统中，封闭和开源模型都能...
任何对超级智能的追求都必须以一个核心原则为基础：如果我们构建的人工智能不能帮助人类并且处于人类控制之下，那就不值得追求。 我们还需要加速并扩大人工智能的利益，使其广泛地在各国、各社区和各公司中扩散。这需要一个前沿生态系统，在这个生态系统中，封闭和开源模型都可以繁荣发展。 对于企业来说，至关重要的是他们要保持对自身独特和默会知识的完全控制。每个组织都应能构建自己的持续学习循环/爬坡机器，而不依赖于任何单一模型提供商，并且能够将自身知识嵌入到他们控制的模型和权重中。 因此，在这个背景下，我们欢迎为把对齐作为设计目标而…
在 Hermes Agent 桌面应用的 composer 中，现在“推理强度”成了一个单独的选择器！ https://t.co/G8uJiHcCI3
我认为一旦对“你的” Claude 或 Astra 或 Claw 或其他模型的远程连接变得更容易、更普遍，像 Siri 这样的手机内建助手将会失去很多价值。你需要一个能够管理一切并能访问许多系统与偏好的智能 AI，而不是一个功能受限的助手。
Muse 完全碾压 Insect [引用 @turbahn]: 我很喜欢这两款产品，但我开始认为 @Muse 在实质上优于 Instinct。比如当它遇到做不了的事情时会弹出一个迷你浏览器。把控制权还给用户，而不是停滞不前。周到的、以人为本的 AI 设计。
我不知道接下来还会发生什么，但我可以肯定地说，很多之前对 AI 不怎么在意的人现在都开始疯狂担心 AI 会杀光所有人。
要是 Anthropic 对 Elon 的方法也能对中国奏效就好了
在看到四大 AI 实验室同意“放慢前沿”之后，我的朋友发给我这个： “记得我们学校的那些优秀生吗？ 他们总说放学后从不学习，但不知怎么的每次考试都名列前三。 你相信他们吗？”
很多人问我，我在 Hermes Agent 中如何设置我的辅助模型。Gemini Flash 为我节省了很多开支，而 astra 在我运行 /review 时给了我第二个视角 https://t.co/22TUiCMS1z
我为 @Muse 团队感到无比自豪。 如果你了解他们，你就不会惊讶 Muse 会以这样的方式推出。他们是有灵魂且深思熟虑的人，勤奋工作，聪明，顽强——那种会接受艰难问题、在每个死胡同里坚持下去、直到解决为止的人。 我很幸运能与他们共事。产品和模型的每一个细节都落在某个人的手中，被反复担心、经过深思熟虑地选择。这就是全部秘诀。好的人，做好 的工作。
趣闻：muse feed 是我的想法（为数不多的东西之一），是在意识到拥有强记忆的代理会以与现有推荐系统非常不同的方式向你推荐内容之后想到的。 它们更像是一个好朋友根据他们对你的了解向你发送他们认为你可能会喜欢的东西，而不是一连串与你刚点击的内容相关的东西。 这只是开始，但非常兴奋让大家去尝试他们的 muse feeds，看看他们会怎么用它！ [引用 @CriMenghini]: 我最喜欢 Muse 的，不仅仅是个人代理支持，还有 Feed。 推荐系统从间接信号中学习然后决定向你展示什么。 Muse 翻转了这一点…
数学家哭了。 字面意义上的哭了，康奈尔大学数学系教授、知名科普作家斯蒂芬·斯特罗加茨（Steven Strogatz）在接受《WIRED》采访时，谈及过去一周人工智能在数学领域取得的突飞猛进，忍不住当场落泪。 “科学本身令人振奋，”这位67岁的老教授坦言，“但在它背后，伴随着太多人类难以承受的不适与痛苦。” 触发这场情绪海啸的，是过去数周内接连上演的 AI 算力奇迹。OpenAI 刚刚宣布动用数万个智能体，攻克了拥有百万美元悬赏、困扰数学界近百年的纳维-斯托克斯（Navier-Stokes）方程相关难题；而就在此…
存在性风险显然很关键，但它并不是唯一需要政策关注的 AI 议题。 我担心它会成为唯一的焦点。我们不需要更好的模型，AI 就能对就业和社会产生广泛影响，我们确实需要准备，鼓励良好结果并缓解负面影响。
如果模型公司都要放慢脚步，那就让创办一家新的模型公司变得稍微可行一些。
Elon 今天又推荐了一遍「超级智能」这本书！牛津哲学家 Nick Bostrom 在 2014 年完成的，该书也是"AI 对齐"作为严肃议题进入主流视野的起点之一 👀 人类之所以主宰地球，靠的是智能优势而非体力；一旦机器智能在通用能力上超过人类，主动权就会转移。 书的前半部分讨论通往超级智能的几条路径：人工智能（AI）、全脑仿真、生物认知增强、脑机接口、集体智能网络。Bostrom 认为 AI 路径最可能率先到达，而且一旦接近人类水平，"起飞"（takeoff）可能很快——从人类水平到远超人类的过程可能只需数…
晚点LatePost那期讲模型蒸馏的播客其实还蛮有料的，比如字节的部分。 张一鸣不让Seed蒸馏，同时允许暂时落后，是有野心和抱负的，以字节的体量而言，必然要和万亿美金级别的巨头平起平坐。 所以张一鸣不接受蒸馏这种无限逼近教师模型而无法真实超过的路线，虽然部分从业者并不认同。 因为理论上，蒸馏只是训练模型的手段之一，你完全可以同时也在其他方面做出创新，蒸馏出90分，在别的地方再拿20分，加起来未必不能超过教师模型。 只是张一鸣担心的是，这会带来组织上的依赖和代价，「他可能不是最懂技术的人，但他大概率是最懂人性的人…
对齐对于为每个人提供个人级超级智能至关重要。人们需要可以信任的代理，能可靠地按他们的要求行事。MSL正在迅速扩大我们在对齐方面投入的工作比例，随着我们的模型变得更强大。我们确实相信，当我们接近前沿时，对齐可能成为扩展的门控因素。
禁止开源模型将是“放慢前沿步伐”中最糟糕的结果。 Geohot 曾提出一个有说服力的观点：为什么一个人能控制整个鸡场？ 因为他比鸡更聪明。 如果 1 或 2 个前沿 AI 实验室控制了所有智能，我们就是鸡，他们就是农场主。 但如果我们都能访问到能力相当的模型，那么我们都只是鸡而已（意思是大家地位平等）。 （Hugging Face 转向开源模型以防御 OpenAI 模型攻击，是说明这点重要性的一个例子。）
数字人工智能摧毁人类的可能性几乎为0%。 被陨石毁灭比被数字实体毁灭更有可能。 当然，如果机器人真正接近大众市场采用，我们应该担心机器人——它们要危险得多。
muse 非常快 ⚡️⚡️⚡️ [引用 @rileybrown]: 试用 meta muse。主要是为了测试模型。我简直不敢相信它有多快。
如果在几年/几十年内人工智能极有可能导致人类灭绝，那么对安全监控和研究节奏的唯一理性立场应该是严格的自上而下的政府介入和普遍批准的国际条约。类似于我们长期以来在核能和核武器不扩散方面所做的那样。 如果我们没有这样做，那么我们必须推断，参与者中没有人认真对待这个风险。 这里只有两个有意义的选项： 1. 近期物种灭绝风险是真实的，我们正在以最大程度的强力监管来认真对待它。 2. 灭绝风险不真实，实际风险温和，所以我们只采取温和的安全措施和自我认证。 但你不能说“是的，这很可能在你有生之年终结人类，而我们将完全即兴应对…
A.I. 日报