Google、OpenAI与Anthropic讨论成立AI行业标准机构
据报道Anthropic、Google与OpenAI就成立行业自律标准机构进行过磋商,Dario Amodei提出相关倡议并获Sam Altman与Demis Hassabis等人支持,意在推动自愿性安全审计与测试。
Dario Amodei 是 Anthropic 的首席执行官,也是 AI 安全议题的常被引用的发声者。近期报道围绕 Anthropic 提交 S-1 并以股票代码“ANT”申请 IPO,以及公司承诺向公益基金捐出 5% 股份展开;他本人则因警告法律、科技和金融领域的白领岗位可能在一到五年内受冲击,以及被指此前的就业与写代码预测未兑现而受到关注。
据报道Anthropic、Google与OpenAI就成立行业自律标准机构进行过磋商,Dario Amodei提出相关倡议并获Sam Altman与Demis Hassabis等人支持,意在推动自愿性安全审计与测试。
ABC 报道称 Anthropic CEO 提出应放慢 AI 发展并部署更多安全保障,Anthropic 表示曾阻止不法分子利用其模型进行网络攻击和可能导致生物武器研究的活动,引发关于公司与政府应如何设限的讨论。
Geoffrey Hinton 表示人工智能有显著失控风险,支持 Anthropic CEO Dario Amodei 的减速主张,称多数专家预计十年内会出现超越人类的系统,但控制方法尚不清楚并存在广泛不确定性。
Salesforce在旧金山举办的Dreamforce吸引超过4.3万人参会,人工智能和AI代理成为讨论核心。大会期间有嘉宾赞扬Claude与AI应用,也有业界人物如Anthropic CEO Dario Amodei呼吁放缓先进AI能力发展,引发关于安全与速度的讨论。
一篇由 Miles Brundage 等人撰写并在 arXiv 更新的报告,综述了人工智能在数字、物理与政治领域被恶意利用的威胁,并提出预测、预防与缓解的建议。
报道梳理了人工智能带来效率提升、教育与编程辅助等好处,同时指出失业、错误信息、监管滞后和巨量算力需求等风险,并引用Anthropic CEO Dario Amodei呼吁放慢模型能力提升。文章并援引英国《2026国际AI安全报告》称近10亿人使用AI。
特朗普强调美国需在AI上领先中国并可设立护栏,同时安全专家警告AI可能在数月内掌控互联网。Anthropic CEO Dario Amodei和OpenAI相关网络安全事件被引用,凸显发展速度与安全治理的冲突。
Anthropic负责人Dario Amodei呼吁放慢AI开发步伐并提出三点计划,OpenAI的Sam Altman与埃隆·马斯克表示支持;Amodei警告更强AI群体可能造成广泛破坏,该观点在专家间有争议。
多位AI内部人士公开警告技术风险:前OpenAI后加入Anthropic的27岁研究员Jacob Coxon辞职并称AI可能毁灭人类,Anthropic团队成员Evan Hubinger称十年内风险>10%;公司创始人Dario Amodei也警告将冲击低级白领岗位。部分硅谷人士对这些言论表示怀疑,认为在Anthropic、OpenAI筹备可能创纪录IPO之际,此类言论也可能被解读为吸引关注。
一位 27 岁离职的 Anthropic 研究员称重大决策由少数旧金山工程师在笔记本上决定,指出实验室内部存在恐惧感。报道还提及 Anthropic CEO Dario Amodei 的节奏计划以及多位行业领导者的回应与相关离职潮。
Anthropic首席执行官Dario Amodei表示,AI行业应放慢新模型开发速度,理由是对人类构成“严重”风险,呼吁减缓推进节奏。
我们必须放慢前沿步伐:我写了一篇新文章,论述为什么AI行业应该放慢速度,并提出了一个三步计划来实现这一点。 Anthropic 正在单方面承诺执行这三步中的第一步。我们将为第三方评估人员提供对我们系统的永久、员工级别访问,以便他们能够核实我们安全措施的遵守情况、报告事件,并在训练期间评估模型的对齐情况。 你可以在这里阅读全文:
YC CEO Garry Tan 表示美国开放权重AI实验室也应能用“蒸馏”方法从前沿模型中提取知识,认为这可丰富非中国的开源选择并把强能力AI视为“公共物品”。他反对对这种做法进行监管限制,但并不支持使用盗取凭证的手段。
The Jerusalem Post将兄妹二人Dario与Daniela Amodei列为影响AI下一阶段发展的关键人物,报道聚焦他们在业界的角色与影响。
Anthropic发布一个到2030年的经济模型,给出三种情景;极端情景下产出每4.5年翻倍、知识工作者失业率达17.9%,该情景对应CEO Dario Amodei此前的悲观看法。
报道称Anthropic在11个月内签订价值最高达5170亿美元的算力合约,但仍落后于OpenAI到2030年约7500亿美元的计划。早在2026年初,CEO Dario Amodei曾警告过盲目扩张风险,Sam Altman也警示某些neo-cloud提供者的“不持续愚行”。