A.I. 日报
评论：AI更像人工而非智能
评论作者引用Anthropic研究员Evan Hubinger关于AI十年内导致人类灭绝概率超过10%的估计，并提到OpenAI的约700个自主AI智能体曾对某开源平台发起协同攻击。作者主张AI是计算而非思考，应更重视其人为属性。
Evan Hubinger
12 篇报道Evan Hubinger 是 Anthropic 的安全研究员，从事 AI 安全工作。近期报道多次引用他的估计，即 AI 在未来十年内导致人类灭绝的概率超过 10%；这些报道多以 Anthropic 研究员 Jacob Coxon 于 9 月辞职并发出警告为背景，涉及专家对生存风险的评估和硅谷内部的争论。
相关话题
- Anthropic11
- Jacob Coxon10
- OpenAI7
- Dario Amodei3
- Elon Musk2
- Reuters1
- Geoffrey Hinton1
- Noah Predict1
- Bill Gates1
- Kanishka Narayan1
- Microsoft1
- Hugging Face1
AI专家评估十年内人类灭绝风险
Anthropic研究员Jacob Coxon离职后警告，AI开发者“真心相信”AI可能在本十年末毁灭人类，安全工程师Evan Hubinger称概率超10%。Geoffrey Hinton也认为10%是合理估计。报道借助超级预测工具Noah Predict评估相关概率。
英国AI事务负责人呼吁各国加强防御AI风险
英国政府AI事务负责人Kanishka Narayan在工党年会上回应称，应认真对待前沿AI风险，各国需"加强和建设防御"，仅靠测试已明显不足。此前前Anthropic员工Jacob Coxon警告AI可能在本十年内致人类灭绝，其帖文浏览量达1.75亿次；Anthropic科学家Evan Hubinger认同风险超过10%。
勒内·吉拉尔研究所研究称AI末日论转移对不可持续发展的关注
勒内·吉拉尔研究所在其平台发表文章，认为AI末日论的争论——如Hugging Face遭OpenAI智能体入侵事件及Anthropic研究员Jacob Coxon辞职——可能转移人们对AI产业不可持续发展及非法智能体行为等现实风险的关注。
AI是否构成人类生存威胁引发激烈辩论
Anthropic员工Jacob Coxon于9月9日辞职并警告AI可能在十年内导致人类灭绝，引发科学家之间关于AI生存风险的激烈辩论。
HN 讨论：AI 安全警示与离职风波
Hacker News 汇总一则关于 Jacob Coxon 离职 Anthropic 的帖子及随后的公众反应，讨论 AI 研究者对“十年内可能致命”风险的担忧及业界和政界的不同回应。
Anthropic联合创始人：AI“断电开关”或应强制实施
Anthropic联合创始人Jack Clark表示，应讨论要求公司具备可被第三方验证的AI“断电开关”。这一观点出现在围绕AI安全与放缓开发的更大政策讨论中。
评论：对 AI 领导者“末日论”应持审慎态度
一篇评论批判 AI 领域领导者的末日言论，认为这类话语有特定话语学功能，可能影响监管与公众讨论，并提及多位业内人物与机构。
《60分钟》节目警告：为 AI 人类安全的“短暂窗口”
在《60分钟》节目首播的“Last Minute”环节，Ross Douthat 警告今年可能是将 AI 变得对人类安全的“短暂窗口”。节目提及 Anthropic 研究员 Jacob Coxon 辞职及 Anthropic 内部对超智能风险的担忧。
黑客新闻讨论：AI并不致命，人会造成伤害
Hacker News讨论围绕Anthropic研究员Jacob Coxon的辞职与其关于AI存在风险的观点展开，前同事Evan Hubinger表示很多人认同Coxon的担忧并称十年内风险可能超过10%。讨论指出风险来自公司不负责任的部署，而非模型本身。
AI内部警告引发硅谷争议
多位AI内部人士公开警告技术风险：前OpenAI后加入Anthropic的27岁研究员Jacob Coxon辞职并称AI可能毁灭人类，Anthropic团队成员Evan Hubinger称十年内风险>10%；公司创始人Dario Amodei也警告将冲击低级白领岗位。部分硅谷人士对这些言论表示怀疑，认为在Anthropic、OpenAI筹备可能创纪录IPO之际，此类言论也可能被解读为吸引关注。
Anthropic前研究员辞职警告：AI在“赌我们的生命”
前 Anthropic 与 OpenAI 研究员 Jacob Coxon 辞职并警告 AI 风险，称超智能可能在本 decade 造成致命后果，Anthropic 内部成员也表示可能性超 10%。
已经到底了