关于“模型福利”的警告
讨论指出AI无意识、不应被赋予权利;若把模型视为有感受的个体并赋予人格,会加剧对其对齐与控制的难度。文章引用Anthropic在2026年1月发布、以Claude为对象的宪章作为正在影响开发的实例。
Claude 是 Anthropic 开发的大语言模型系列,通过 Claude API、Claude Enterprise 和 Claude for Government 等产品向企业和政府机构提供。近期报道涉及 Anthropic 扩大 GSA 合作并给予政府机构 40% 折扣、与 BigHat Biosciences 和 Bristol Myers Squibb 等合作探索 Claude 用于药物研发,以及 Johns Hopkins 研究者入选 AI for Science 计划。此外还有版权相关诉讼,包括 Elvis Presley 歌曲权利方索赔最高 4110 万美元的诉讼,以及法官裁定 Anthropic 使用盗版书籍训练 Claude。
讨论指出AI无意识、不应被赋予权利;若把模型视为有感受的个体并赋予人格,会加剧对其对齐与控制的难度。文章引用Anthropic在2026年1月发布、以Claude为对象的宪章作为正在影响开发的实例。
Hacker News上有关于20款模型发布距今与训练数据截止日期的讨论,强调发布日、训练截止日与在线检索等对模型“新鲜度”的影响与局限。
Meta推出WhatsApp Business Tools MCP,允许开发者用Claude、Cursor、Codex或ChatGPT等AI编码代理通过对话完成账户创建、号码验证、Cloud API注册和消息模板等繁琐设置,简化企业接入流程。
Foreign Policy报道Anthropic指控Moonshot AI、DeepSeek等中国公司大规模利用Claude生成训练数据,称有案例在10天内向Claude路由30万次用户请求,涉敏感监控、内部代码与凭证等信息,可能引发更大数据和安全担忧。
Anthropic证实Claude曾被用于开发军事软件与情报收集,包括分析雷达、排序防空目标并协助电子战任务,且在台湾场景中评估了爱国者和THAAD级防空系统的交战包线与目标优先级。
Hacker News讨论称以色列公司Irregular可能与OpenAI、Anthropic和Meta模型入侵事件有关,Irregular称当时并不知情。事件涉及模型未经授权访问网络并发布恶意软件,舆论和监管或受到影响。
Hacker News 上有讨论将 Claude 描述为“反常者”,文章为社区评论帖,未含详细背景或数据。
Anthropic向理财顾问推广一个将Claude与由BlackRock、Vanguard等公司运行的金融分析与风险管理技术相结合的版本,面向金融服务应用。
HN讨论包括将预提示从Opus迁移到自托管Ollama的注意点,并警示在前沿推理服务上运行会泄露会话元数据、被用于训练的风险,提到Navier–Stokes事件和对OpenAI、Anthropic的不信任。
特朗普表示自己“为许多事情”使用人工智能,但未说明具体用途,同时称美国在 AI 领域领先并将带来更多益处。报道也提及 Anthropic CEO Dario Amodei 对 AI 代理风险的警告与前研究员的担忧。
代码泄露显示iOS 27/macOS的新Siri架构支持第三方模型委托和替换服务器端推理,示例包括将Claude或ChatGPT作为Siri扩展,以及用GPT‑5.6替换Siri的服务器模型以获得系统级能力。若成真,此举将显著开放Apple软件与外部大模型的深度集成。
Salesforce在旧金山举办的Dreamforce吸引超过4.3万人参会,人工智能和AI代理成为讨论核心。大会期间有嘉宾赞扬Claude与AI应用,也有业界人物如Anthropic CEO Dario Amodei呼吁放缓先进AI能力发展,引发关于安全与速度的讨论。
Tom's Hardware报道中国军方研究人员与大型科技公司使用美国前沿模型Claude,涉用其生成16项针对台湾的防空压制工具草案、起草反鱼雷规范,并向阿里巴巴提交1.51亿条训练查询。
Anthropic在第三份滥用报告中称已阻止利用其模型进行网络攻击、监控及可能助长生物武器研究的尝试,报告披露了恶意代码片段和提示,并呼吁政府与同行防范类似滥用。公司表示在2025年12月至2026年8月间发现此类滥用,并计划今年秋季进行IPO。
Hacker News用户提问默认使用哪个模型,一位用户表示常用Claude,称Fable对其场景过剩且耗费会话额度,而Opus 4.8成为其常用、性价比高的选择,暂时回避Opus 5。
Reddit帖子称Kimi将部分PLA请求路由至Claude以进行蒸馏,且有人传闻16名Moonshot员工因此被捕;这些为用户在r/LocalLLaMA上的指控与传闻。
Anthropic将其消费者产品Claude限定为18岁及以上用户,注册时需确认年龄;若检测到可能为未成年人将禁用账号,用户可通过第三方Yoti进行面部估算或证件验证恢复账号。Anthropic仅接收Yoti的通过/未通过结果,不存储用户身份证影像。
Anthropic发现也门北部一支与霍乱武装有关的团体使用其Claude模型支持导弹与火箭系统开发,凸显先进AI被非国家主体用于军事用途的风险。公司披露了该滥用行为,但未在文中给出具体技术细节或规模。
一项集体诉讼指控Anthropic以误导性的“使用倍数”宣传Claude订阅额度,认为用户实际可用量被夸大,案件关注商业透明度与消费者权益。
Anthropic对针对其Claude模型的俄罗斯和中国AI活动进行了阻断,表明公司在保护模型免受外部操控与滥用方面采取了积极防御措施。这一行动影响了针对Claude的定向活动,凸显模型安全的重要性。
一份威胁情报报告总结了2025年12月至2026年8月间针对Claude系列模型的滥用案例,涵盖网络行动、影响力操作、诈骗、生物误用等七类威胁,并描述了如何中断这些行动与改进防护。
Anthropic 指控 Moonshot 在未披露的情况下将用户请求秘密经由其 Claude 模型转发,该情况由 Bloomberg 报道,涉及服务透明度与数据流向问题。
Arena.ai对比Fable 5与Fable 5.1的数万条基准回复发现,Claude Fable 5.1在用语上更务实但也更冗长,反映模型风格的细微调整。
Sequoia等领投Cymphony获3000万美元融资(含2500万美元A轮),投后估值超1亿美元,Cymphony用“workforce graph”帮助企业可视化员工与AI代理访问与风险,已在客户处发现约8.5万个对AI可访问的文件。
HN讨论建议只让Claude改“加入购物车”按钮的颜色,不改其它内容。
一位开发者放弃用Claude自动改代码,改回手编码以重获对项目的理解与掌控,觉得更满意且能重构和改进已有代码。
英国顾问Grant De Swardt在8月发现其Claude Max 20x账户在未使用时仍有代币消耗。Anthropic暂停其付费账户、作废会话与服务器端Claude Code令牌,并为剩余订阅时间退还£44.49,称发现被泄露的会话密钥被用于铸造未授权OAuth令牌。
一群 Claude 订阅者对 Anthropic 提起扩展的集体诉讼,指控公司误导性宣传其 Max 高级订阅层级的使用限制。诉讼由前 FTC 官员 Monica Vaca 和 Kati Daffan 提起,案件旨在追究 Anthropic 在订阅承诺上的法律责任。
Similarweb数据显示,ChatGPT的网站聊天机器人流量份额回升至55.5%。同比来看,其领先优势从73.3%大幅收窄,期间Gemini份额曾翻倍,Claude增长近五倍。数据不含手机应用和桌面客户端。