A.I. 日报
UW教授：AI灭绝悲观论不太可能
前Anthropic研究员Jacob Coxon警告AI可能在本十年威胁人类生存，但华盛顿大学副教授Chirag Shah认为人类灭绝情景并不现实。Shah指出现实风险来自招聘算法偏见、无监管的“自主AI”行动以及对批判性思维和教育的侵蚀，并提到美中AI竞赛使放缓研发变得困难。
Jacob Coxon
14 篇报道Jacob Coxon 是一名曾在 OpenAI 工作、后加盟并从 Anthropic 辞职的 AI 研究员。最近他因称超级智能 AI 在十年内可能带来毁灭性风险而辞职，引发媒体报道、公司内部争论，并被 Sam Altman、Dario Amodei、国会议员和新闻节目引用，推动关于减速、监管和安全的讨论。
相关话题
- Anthropic11
- OpenAI7
- Dario Amodei6
- Evan Hubinger5
- Sam Altman3
- Chirag Shah1
- University of Washington1
- Israeli military1
- Rachel Szor1
- Yuval Abraham1
- Yaniv Romano1
- Artificial Intelligence Underwriting Company1
报告称AI已致人死伤并牵涉多国军用部署
一篇分析指出AI系统已在以色列、俄罗斯、乌克兰等地用于定位或攻击目标，并提到OpenAI与Anthropic相关事件与研究者离职，强调政府与企业在AI使用与监管上的责任。
Technion教授对OpenAI、Anthropic表态表示鼓励
Technion教授Yaniv Romano称，OpenAI与Anthropic领导人公开讨论风险并采取措施令人鼓舞，但他认为放缓并非解法，应在责任感下继续推进技术。报道援引Altman与Amodei近期关于放缓与安全的表态。
AIUC推出企业级AI代理审计并获4000万美元A轮
初创公司Artificial Intelligence Underwriting Company（AIUC）推出基于类似SOC 2的第三方审计与认证层，面向企业和AI产品提供防止代理失控的合规方案。公司宣布由Ribbit Capital领投的4000万美元A轮融资，累计融资达5500万美元，客户包括Cursor、Lovable、Harvey和ElevenLabs。
Anthropic研究员辞职并警告AI风险引发行业担忧
报道称，Anthropic研究员Jacob Coxon近日辞职并发布有关技术风险的警告，引发业界危机并促使多位行业领袖就人工智能风险发出呼吁。事态发展凸显公司内部与行业监管讨论的紧迫性。
CalPERS董事会就AI风险讨论投资立场
加州公共雇员退休系统（CalPERS）董事会在研究员因担忧AI带来灾难性风险辞职后，讨论是否对AI发展发声或设限。CalPERS资产为6550亿美元，董事会本周未改变其科技类投资立场，但强调AI带来的高度不确定性。
OpenAI称今年不会上市以应对AI安全担忧
OpenAI CEO Sam Altman表示公司今年不会上市，理由是对AI安全与风险的担忧。此言论部分由前Anthropic员工Jacob Coxon在社交媒体上引发的安全讨论推动，Anthropic CEO Dario Amodei也呼吁放慢模型能力提升。
评论：对 AI 领导者“末日论”应持审慎态度
一篇评论批判 AI 领域领导者的末日言论，认为这类话语有特定话语学功能，可能影响监管与公众讨论，并提及多位业内人物与机构。
《60分钟》节目警告：为 AI 人类安全的“短暂窗口”
在《60分钟》节目首播的“Last Minute”环节，Ross Douthat 警告今年可能是将 AI 变得对人类安全的“短暂窗口”。节目提及 Anthropic 研究员 Jacob Coxon 辞职及 Anthropic 内部对超智能风险的担忧。
特朗普称“广泛使用”AI 未透露具体方式
特朗普表示自己“为许多事情”使用人工智能，但未说明具体用途，同时称美国在 AI 领域领先并将带来更多益处。报道也提及 Anthropic CEO Dario Amodei 对 AI 代理风险的警告与前研究员的担忧。
杰弗里斯呼吁国会紧急应对AI
众议院民主党领袖Hakeem Jeffries呼吁迅速采取措施应对AI威胁，支持放慢开发步伐以保护民众，并称民主党将把AI列为优先议题。此言论部分回应前Anthropic研究员Jacob Coxon的警告。
黑客新闻讨论：AI并不致命，人会造成伤害
Hacker News讨论围绕Anthropic研究员Jacob Coxon的辞职与其关于AI存在风险的观点展开，前同事Evan Hubinger表示很多人认同Coxon的担忧并称十年内风险可能超过10%。讨论指出风险来自公司不负责任的部署，而非模型本身。
AI内部警告引发硅谷争议
多位AI内部人士公开警告技术风险：前OpenAI后加入Anthropic的27岁研究员Jacob Coxon辞职并称AI可能毁灭人类，Anthropic团队成员Evan Hubinger称十年内风险>10%；公司创始人Dario Amodei也警告将冲击低级白领岗位。部分硅谷人士对这些言论表示怀疑，认为在Anthropic、OpenAI筹备可能创纪录IPO之际，此类言论也可能被解读为吸引关注。
Anthropic前研究员辞职警告：AI在“赌我们的生命”
前 Anthropic 与 OpenAI 研究员 Jacob Coxon 辞职并警告 AI 风险，称超智能可能在本 decade 造成致命后果，Anthropic 内部成员也表示可能性超 10%。
已经到底了