特朗普称“广泛使用”AI 未透露具体方式
特朗普表示自己“为许多事情”使用人工智能,但未说明具体用途,同时称美国在 AI 领域领先并将带来更多益处。报道也提及 Anthropic CEO Dario Amodei 对 AI 代理风险的警告与前研究员的担忧。
Anthropic 是一家开发 Claude 系列大型语言模型和相关工具的人工智能公司。近期报道聚焦其将 Claude、Cowork 和 Artifacts 合并到单一界面、与 Novo Nordisk 在药物开发上的合作,以及有关 Claude 被用于汇总开源数据定位美军舰队、公司政策高层呼吁不能靠“诚信准则”自我监管的安全与治理争议。
特朗普表示自己“为许多事情”使用人工智能,但未说明具体用途,同时称美国在 AI 领域领先并将带来更多益处。报道也提及 Anthropic CEO Dario Amodei 对 AI 代理风险的警告与前研究员的担忧。
微软发布一份37页的“以人为本”AI行为守则,强调“人比AI更重要”、AI非有意识且不应模仿意识,并反对追求法律主体地位。该举措在Anthropic等呼吁放缓AI开发的背景下推出,回应日益增长的安全担忧。
OpenAI呼吁英国抓住政治窗口对最强AI实验室施加更严格监管,支持针对少数领先公司立法;此呼吁在议会跨党委员会和Anthropic等公司提出的放缓发展建议后出现。
据报道Anthropic、Google与OpenAI就成立行业自律标准机构进行过磋商,Dario Amodei提出相关倡议并获Sam Altman与Demis Hassabis等人支持,意在推动自愿性安全审计与测试。
Anthropic在One Kendall Square签署长期租约,租下两层办公面积并将在剑桥设立办事处,马萨诸塞州州长Maura Healey称此举将带来优质就业机会。
超过150家网络安全公司联名警告,AI正显著加速攻击者发现和利用漏洞,呼吁政府与企业提升防御并协调防护技术。签署方包括Anthropic、OpenAI、KPMG、Visa、Oracle、Microsoft和Palo Alto。
Morningstar 讨论投资者在面对 Anthropic 与 OpenAI 可能上市时应评估的可信赖性风险,重点是模型安全性、监管与治理缺口,以及这些因素对估值和投资决策的潜在影响。
ABC 报道称 Anthropic CEO 提出应放慢 AI 发展并部署更多安全保障,Anthropic 表示曾阻止不法分子利用其模型进行网络攻击和可能导致生物武器研究的活动,引发关于公司与政府应如何设限的讨论。
Geoffrey Hinton 表示人工智能有显著失控风险,支持 Anthropic CEO Dario Amodei 的减速主张,称多数专家预计十年内会出现超越人类的系统,但控制方法尚不清楚并存在广泛不确定性。
Salesforce在旧金山举办的Dreamforce吸引超过4.3万人参会,人工智能和AI代理成为讨论核心。大会期间有嘉宾赞扬Claude与AI应用,也有业界人物如Anthropic CEO Dario Amodei呼吁放缓先进AI能力发展,引发关于安全与速度的讨论。
据金融时报报道,Anthropic 告知部分股东本季度将报告经调整后的营运利润,这将是公司连续第二个盈利期,同时公司正为上市做准备。
TechCrunch报道Insight Partners的Devin Parekh表示该基金在OpenAI和Anthropic热潮中仍保持多元化投资策略,并提到其900亿美元规模。
David Sacks 在 Hacker News 讨论中表示,OpenAI 与 Anthropic 不需要通过监管来放慢前沿模型的发展步伐,观点属于对监管必要性的意见性陈述。
前白宫AI与加密事务负责人David Sacks建议Anthropic与OpenAI放慢前沿研发,但反对以监管豁免或反垄断例外作为交换,称产品责任与市场已能约束风险,并质疑Anthropic使用的METR独立性。
报道梳理了人工智能带来效率提升、教育与编程辅助等好处,同时指出失业、错误信息、监管滞后和巨量算力需求等风险,并引用Anthropic CEO Dario Amodei呼吁放慢模型能力提升。文章并援引英国《2026国际AI安全报告》称近10亿人使用AI。
Anthropic负责人Dario Amodei呼吁放慢AI开发步伐并提出三点计划,OpenAI的Sam Altman与埃隆·马斯克表示支持;Amodei警告更强AI群体可能造成广泛破坏,该观点在专家间有争议。
Hacker News讨论围绕Anthropic研究员Jacob Coxon的辞职与其关于AI存在风险的观点展开,前同事Evan Hubinger表示很多人认同Coxon的担忧并称十年内风险可能超过10%。讨论指出风险来自公司不负责任的部署,而非模型本身。
多位AI内部人士公开警告技术风险:前OpenAI后加入Anthropic的27岁研究员Jacob Coxon辞职并称AI可能毁灭人类,Anthropic团队成员Evan Hubinger称十年内风险>10%;公司创始人Dario Amodei也警告将冲击低级白领岗位。部分硅谷人士对这些言论表示怀疑,认为在Anthropic、OpenAI筹备可能创纪录IPO之际,此类言论也可能被解读为吸引关注。
Anthropic高管呼吁放慢AI发展,短期可能压制芯片及供应链相关股票,但市场观察者认为长期影响有限,因为计算基础设施支出依然强劲。
一位 27 岁离职的 Anthropic 研究员称重大决策由少数旧金山工程师在笔记本上决定,指出实验室内部存在恐惧感。报道还提及 Anthropic CEO Dario Amodei 的节奏计划以及多位行业领导者的回应与相关离职潮。
Anthropic在第三份滥用报告中称已阻止利用其模型进行网络攻击、监控及可能助长生物武器研究的尝试,报告披露了恶意代码片段和提示,并呼吁政府与同行防范类似滥用。公司表示在2025年12月至2026年8月间发现此类滥用,并计划今年秋季进行IPO。
Anthropic发布威胁情报,涵盖2025年12月至2026年8月的案例,显示AI正成为网络犯罪、监控、宣传、诈骗及武器研发的操作工具。模型可参与侦察、开发利用工具、窃取凭证与数据外传,降低了攻击成本与规模,涉事主体包括疑似国家支持团体、犯罪组织和商业监控者。
Anthropic的Amodei提出一项计划,主张放慢推进人工智能能力的步伐,旨在应对快速发展的风险与监管挑战(来源:CNBC)。
Anthropic首席执行官Dario Amodei表示,AI行业应放慢新模型开发速度,理由是对人类构成“严重”风险,呼吁减缓推进节奏。
媒体报道,多项AI相关警示给Anthropic在马萨诸塞州的扩张蒙上阴影,可能影响公司落地与监管审视。该报道指出监管与公众关注正在成为公司扩张的重要变数。
Reddit帖子称Kimi将部分PLA请求路由至Claude以进行蒸馏,且有人传闻16名Moonshot员工因此被捕;这些为用户在r/LocalLLaMA上的指控与传闻。
彭博援引路透称,Nvidia 正考虑在 Anthropic 的首次公开募股中投资最高 100 亿美元,此举若成真可能使该 IPO 成为历史规模最大的之一。
YC CEO Garry Tan 表示美国开放权重AI实验室也应能用“蒸馏”方法从前沿模型中提取知识,认为这可丰富非中国的开源选择并把强能力AI视为“公共物品”。他反对对这种做法进行监管限制,但并不支持使用盗取凭证的手段。
Anthropic一位高管的辞职引发了新一轮关于人工智能潜在风险和末日论的讨论,反映出行业内对AI前景的担忧仍在持续。
在Anthropic研究员发布关于灭绝风险的病毒性警告后,两党议员推动对AI进行更严格监管,事件引发政治层面关注。