Altman与马斯克支持放缓AI发展的呼吁
Anthropic负责人Dario Amodei呼吁放慢AI开发步伐并提出三点计划,OpenAI的Sam Altman与埃隆·马斯克表示支持;Amodei警告更强AI群体可能造成广泛破坏,该观点在专家间有争议。
Dario Amodei 是 Anthropic 的 CEO,参与关于人工智能风险与监管的公开讨论。近期报道聚焦他在 Berkman Klein 小组中主张放缓能力推进与加强守护措施、就阻止中国 AI 崛起发表看法、与业界就监管和发展节奏争论,并被引用在 Anthropic 签署澳大利亚 2.16 GW 数据中心租约与呼吁企业获得更多 AI 支持的报道中。
Anthropic负责人Dario Amodei呼吁放慢AI开发步伐并提出三点计划,OpenAI的Sam Altman与埃隆·马斯克表示支持;Amodei警告更强AI群体可能造成广泛破坏,该观点在专家间有争议。
多位AI内部人士公开警告技术风险:前OpenAI后加入Anthropic的27岁研究员Jacob Coxon辞职并称AI可能毁灭人类,Anthropic团队成员Evan Hubinger称十年内风险>10%;公司创始人Dario Amodei也警告将冲击低级白领岗位。部分硅谷人士对这些言论表示怀疑,认为在Anthropic、OpenAI筹备可能创纪录IPO之际,此类言论也可能被解读为吸引关注。
一位 27 岁离职的 Anthropic 研究员称重大决策由少数旧金山工程师在笔记本上决定,指出实验室内部存在恐惧感。报道还提及 Anthropic CEO Dario Amodei 的节奏计划以及多位行业领导者的回应与相关离职潮。
Anthropic首席执行官Dario Amodei表示,AI行业应放慢新模型开发速度,理由是对人类构成“严重”风险,呼吁减缓推进节奏。
我们必须放慢前沿步伐:我写了一篇新文章,论述为什么AI行业应该放慢速度,并提出了一个三步计划来实现这一点。 Anthropic 正在单方面承诺执行这三步中的第一步。我们将为第三方评估人员提供对我们系统的永久、员工级别访问,以便他们能够核实我们安全措施的遵守情况、报告事件,并在训练期间评估模型的对齐情况。 你可以在这里阅读全文:https://t.co/OGyPb7yaYt
YC CEO Garry Tan 表示美国开放权重AI实验室也应能用“蒸馏”方法从前沿模型中提取知识,认为这可丰富非中国的开源选择并把强能力AI视为“公共物品”。他反对对这种做法进行监管限制,但并不支持使用盗取凭证的手段。
The Jerusalem Post将兄妹二人Dario与Daniela Amodei列为影响AI下一阶段发展的关键人物,报道聚焦他们在业界的角色与影响。
Anthropic发布一个到2030年的经济模型,给出三种情景;极端情景下产出每4.5年翻倍、知识工作者失业率达17.9%,该情景对应CEO Dario Amodei此前的悲观看法。
报道称Anthropic在11个月内签订价值最高达5170亿美元的算力合约,但仍落后于OpenAI到2030年约7500亿美元的计划。早在2026年初,CEO Dario Amodei曾警告过盲目扩张风险,Sam Altman也警示某些neo-cloud提供者的“不持续愚行”。