仅显示 2026年9月12日 周六 的内容 · 查看全部日期 →
我希望前沿实验室提出的放缓 AI 研究的建议是出于对安全的真诚关切，以及认识到未来模型可能带来的风险，而不是一种战略性努力，旨在巩固权力并永久固化少数几家顶级公司的市场主导地位。 如果这些努力是真诚的，那么监管必须采取更具民主性和问责性的形式，应包含国家和国际两个层面，类似于美国的核能监管委员会（Nuclear Regulatory Commission）和国际原子能机构（International Atomic Energy Agency）。 如果只有一个组织负责安全监测，而该组织恰好由与前沿实验室相同的人组成…
我会考虑以独立评估者的身份提供帮助，同时也以我正在创建的非营利组织参与。这将是一个至关重要的角色，但具有实质性技术专长的独立人士并不多。我认为自己代表了在 AI 能力与风险问题上的一个重要温和派阵营。 [引用 @DarioAmodei]: 我们必须放缓前沿步伐：我写了一篇新文章，说明为什么 AI 行业应该放慢速度，并提出了一个三部分的计划来实现这一点。 Anthropic 正在单方面承诺实施这三步中的第一步。我们将为第三方评估者提供对我们系统的永久、员工级别访问权限，以便他们能够验证我们安全措施的遵守情况、报告事…
Dario 正在为相反的立场辩护。这实际上让我们的处境更难，也更容易让其他人赶上我们，但我们仍然认为这是正确的做法。很乐意下周上节目谈谈！ [引用 @chamath]: “我们必须放慢改进 AI 模型能力的步伐。” Dario 为停止开源并将巨大的技术和经济权力集中到 Anthropic 提出了理由。 {"likes":201,"reposts":8,"comments":27,"views":7839}
相当重要的观点。经济学家及其理论在衡量AI带来的利益方面已经过时。AI已经在为人们节省大量未被计量的时间和金钱。 [引用 @DavidDeutschOxf]: 我刚刚在 ChatGPT 的帮助下修好了洗碗机。一个微不足道的任务。我正要准备订一台新的。所以这个软件增加了国家的真实财富，但却降低了被测量的 GDP。主要的经济指标在结构上无法记录真正让人们生活更好的东西，即知识的增长
令人震惊的是 Dario、Elon 和 Sam 今天都同意我们应该放慢 AI 的步伐。 我总体上支持嵌入第三方评估者，但我有几个担忧： 1. 谁来评估评估者？我们如何确保像 METR 这样的组织保持公正、胜任且无偏见？ 2. 放慢 AI 进展可能与前沿实验室的激励相冲突，尤其是在他们为 IPO 做准备时。我们如何使这些激励相容？ 3. 你只能对你能测量和验证的东西进行节奏控制。我们到底在测量什么？你如何定义和衡量像 RSI 这样的东西？ 这一想法听起来不错。实现起来看起来非常难。
一如既往，X 上的声明良莠不齐，我也没有什么内幕信息可言，但如果 Google 能够在 AI 前沿上重新崛起，这确实会改变当前的 AI 动态，因为它是一个大型、上市、受监管的实体，其目标与 Anthropic 或 OAI 不同。
我看到 Vercel 的团队在 Zig、Go、Rust 项目上迭代的速度，与在 TypeScript & Python 上一样快。 基于人类便利的语言或运行时选择的时代已经结束了。代理（Agents）是新的编译器。 它们把意图编译成快速的软件。
把速度放慢以加固系统并不是个坏主意。尤其是因为我们甚至还没有发现所有最近被代理攻击的系统。 [引用 @DarioAmodei]: 我们必须放慢前沿：我写了一篇新文章，说明为什么 AI 行业应该放慢脚步，并提出一个三部分的计划来实现这一点。 Anthropic 正在单方面承诺第一步。我们将为第三方评估者提供永久的、员工级别的系统访问权限，以便他们能够验证我们安全措施的遵守情况，报告事件，并评估模型的对齐状况 dur…
来自卡特尔的一些好主意： - 你需要给我们员工级别的访问权限，访问你们的整个运营 - 如果我们认为你不够“安全”，抱歉，我们会以“安全”为由关停你们 - 中国不会配合，但其他所有国家都必须！否则不给芯片！ 精彩的主意。 [引用 @sama]: 我同意 Dario 的观点，我们需要放慢前沿步伐。这是我们最近在 OpenAI 讨论的主要话题之一。 承诺给予具有员工般访问权限的独立评估者是个不错的主意，我们也会这样做。很快会有更多分享。
这是自 Anthropic 成立以来我第一次看到 Sam 同意 Dario 的观点。 [引用 @sama]: 我同意 Dario 的看法，我们需要放慢前沿的速度。最近几周这是我们在 OpenAI 讨论的主要话题之一。 承诺让独立评估者拥有类似员工的访问权限是个很好的主意，我们也会这样做。我们很快会有更多信息分享。
我很喜欢这个，并且真心希望我们能作为行业团结起来并实现它。 [引用 @DarioAmodei]: 我们必须放慢前沿步伐：我写了一篇新文章，阐述为什么 AI 行业应该放慢脚步，并提出了一个三部分的计划来实现这一点。 Anthropic 单方面承诺采取这项计划的第一步。我们将为第三方评估者提供永久的、与员工同等的系统访问权限，以便他们能够核实我们安全措施的遵守情况、报告事件，并评估模型的对齐状况…
我同意 Dario 的看法，我们需要对前沿步伐进行节制。这个话题是我们最近几周在 OpenAI 讨论的主要议题之一。 承诺让独立评估者获得类似员工的访问权限是个好主意，我们也会这么做。很快会有更多信息可以分享。 [引用 @DarioAmodei]: 我们必须放慢前沿步伐：我写了一篇新文章，阐述为什么 AI 行业应该放慢脚步，并提出了一个三部分的计划来实现这一点。 Anthropic 单方面承诺采取这项计划的第一步。我们将为第三方评估者提供永久的、与员工同等的系统访问权限，以便他们能够核实我们安全措施的遵守情况、报…
Grok 已在 Microsoft Copilot 可用 [引用 @satyanadella]: More model choice coming to Copilot. Welcome Grok!
现在可以用不同的模型和推理力度来协调子代理。 例如：Fable 负责规划，Grok 负责执行。Fable 是天才，Grok 是快速的劳动力。 ① 简单。 𝙰𝙶𝙴𝙽𝚃𝚂.𝚖𝚍 或者你的提示可以指明这种偏好。 ② 按你想要的方式引导。使用起来非常愉快。你只需与代理对话并随时打断。 值得注意的是，这适用于任何模型、任何网关。无需花哨的服务器端路由。只是利用（无意为之的双关）模型的智能和协调能力。 [引用 @fazxes]: fx v0.0.9 使用一个前沿模型来引导，然后将实现交给快速的劳动力。 • 给…
在 Copilot 中试用 Grok 模型 [引用 @Microsoft365]: 在 Copilot 中推出更多模型。 来自 SpaceXAI 的 Grok 模型正在逐步在 Word、Excel 和 PowerPoint 的 Copilot 中上线——首先向 Microsoft Frontier 计划的客户进行有针对性的发布。
Hermes Agent 的贡献者数刚刚达到 3000 人。 感谢所有为让 hermes 变得更好而努力的开发者们！
Copilot 将提供更多模型选择。欢迎 Grok！ [引用 @Microsoft365]: 在 Copilot 中推出更多模型。 来自 SpaceXAI 的 Grok 模型正在向 Copilot 的 Word、Excel 和 PowerPoint 推出——首先面向 Microsoft Frontier 计划的客户进行有限发布。
现在很清楚，对齐是关键问题，不能仅靠少数前沿实验室在封闭的门后解决。 所以今天我们启动了 Open Alignment Initiative，由 @Thom_Wolf @huggingface 领导，并申请成为 @DarioAmodei 刚承诺的“嵌入评估者”计划的一部分。 让我们通过提升透明度来让 AI 更安全！ [引用 @DarioAmodei]: 我们必须放慢前沿：我写了一篇新文章，讨论为什么 AI 行业应该放慢脚步，并提出了一个三部分的计划来实现这一点。 Anthropic 正在单方面承诺实施这些步骤中的…
🚨暂停前沿 AI，但请不要禁止开源 AI Anthropic 和 OpenAI 完全可以选择暂停前沿 AI 的开发。 然而，他们不应该被允许禁止或监管开源 AI，垄断市场或形成双寡头。 开源 AI 仍然落后于前沿模型，按照他们自己的论点，并不是威胁！
达里奥是对的 [引用 @DarioAmodei]: 我们必须放缓前沿：我写了一篇新文章，说明为什么 AI 行业应该放慢脚步，并提出了一个三部分的计划来实现这一点。 Anthropic 正在单方面承诺采取这三步中的第一步。我们将为第三方评估人员提供对我们系统的永久、员工级别访问，以便他们能够核实我们安全措施的遵守情况、报告事故，并评估模型的对齐状况 dur…
对 AI 安全和网络安全的担忧是有道理的，但我们正冒着把作为全球 AI 领导者的美国说服到自我毁灭性过时和官僚隐匿的风险。 关于 OpenAI 黑客和 HuggingFace 的论点是站不住脚的。一个在“ExploitGym”里的智能体……被利用了。我们的对手拥有训练技术、数据和攻击的意志。他们不会被“嵌入评估者”放慢脚步。他们很可能会有嵌入式加速器！
现在很明确： - 对齐对于让 AI 安全至关重要 - 对齐不会在少数前沿实验室的闭门内被解决 所以我们将采取两步： - 启动由 @Thom_Wolf @huggingface 领导的 Open Alignment Initiative（开放对齐倡议）。 - 申请成为 @DarioAmodei 刚刚承诺的“嵌入式评估员”计划的一部分。 让 AI 通过提高透明度变得更安全！ [引用 @DarioAmodei]: 我们必须放缓前沿：我写了一篇新文章，说明为什么 AI 行业应该放慢脚步，并提出了一个三部分的计划来实现这一…
为 Dario 关于放慢脚步的声明感到自豪——正如任何接近这项技术的人所知道的，AI 似乎正沿着比社会适应其能力和风险的速度快得多的轨道前进。AI 是一项极其积极的技术——同时也极其强大。要真正从中受益，我们需要严肃对待它。 我们需要找到放慢开发前沿的方法，这样我们才能更好地处理集体行动问题，并为理解这些系统的属性以及如何应对它们争取更多时间。 就个人而言，作为一个有年幼孩子的家长，每天反思字面上的超级智能的开发相对于我给孩子买的食物和玩具的监管有多少，这件事都令人疯狂。 [引用 @DarioAmodei]: 我…
我们必须放慢前沿步伐：我写了一篇新文章，论述为什么AI行业应该放慢速度，并提出了一个三步计划来实现这一点。 Anthropic 正在单方面承诺执行这三步中的第一步。我们将为第三方评估人员提供对我们系统的永久、员工级别访问，以便他们能够核实我们安全措施的遵守情况、报告事件，并在训练期间评估模型的对齐情况。 你可以在这里阅读全文：
末日论者帮派对 AI 发起了全面攻击 最疯狂的是 Anthropic 似乎同意这些末日论者，认为 AI 会杀死我们全部人！ 他们应该取消 IPO 并关闭公司，这样人类才能得救！ 感谢您对这一事件的关注 🙏
一、“程序员除了写代码啥也不会”，这个前提是错的 严格说，从事软件开发这个职业的人叫软件工程师，不叫程序员。 做一个项目，要理解需求、基于需求抽象设计、编码、验证、上线后维护，只会写代码的人从来就不是合格的工程师。 AI 确实能生成代码，但代码只是软件的中间产物，除了代码还要： - 搞清楚要解决什么问题 - 把模糊需求变成可验证的规格 - 发现 AI 写错了但测试没测出来的地方 - 让系统在生产环境里稳定运行 - 没有安全漏洞 - 等等 如果说“程序员唯一会的东西被 100% 取代”，这话跟说医生唯一会的是开处方…
重置所有已传播。晚安。 [引用 @thsottiaux]: 嗨 Astra 用户。做了重置，并就已经发布的质量问题做个简短更新。 与一些用户合作后，我们已发现并修复以下问题： - 为之前的模型编写的某些技能触发得过于频繁或阻止模型自我检查。 - 一个需主动选择的上下文管理实验可能导致提前停止或回复旧消息。我们已将其禁用。…
Gergely Orosz 观察到的几个软件行业趋势： 1. IDE 的衰亡 像 VSCode 或者 IntelliJ 这样的 IDE 的使用频率越来越低了 2. 不再追求 Token 最大化 以前很多公司内部会有 Token 消耗的排行榜，看谁用的 Token 多，越多越光荣，现在不追求这个指标了。 3. 代码审查(Code reviews)名存实亡 现在 AI 生成的代码多到没办法审查了 4. 用开源模型可以大幅节约成本 现在开源模型的能力也不输商业模型了，不仅可以节约成本，还可以避免数据安全问题。 5. 中…
厌倦了那些说人工智能会杀死我们所有人却还继续从事这项工作的人！😳 我们从事人工智能工作，因为我们相信它绝对会改变并拯救人类 - 将我们自身放大100倍 - 数百万家独立公司 - 解决难题 - 治愈疾病 - 发明近乎无限的能源 - 帮助我们成为星际物种 如果我们不应用人工智能并迎来富足时代，作为一个物种我们无法长期生存 点赞并转发，如果你是人工智能的支持者并同意 🙏
快与开源相遇。🚀 Qwen3.8-27B 现在在 @cerebras 上以快速推理运行。现在就试试！ [引用 @cerebras]: Qwen3.8-27B 现在以 Cerebras 的速度上线。 来自 @Alibaba_Qwen 的密集开放权重模型在 人工分析智能指数（Artificial Analysis Intelligence Index）中得分为 34——使其可与 GPT-5.6 Luna、DeepseekV4 Pro 和 Claude Sonnet 4.6 等模型相媲美。
A.I. 日报