报告称AI已致人死伤并牵涉多国军用部署
一篇分析指出AI系统已在以色列、俄罗斯、乌克兰等地用于定位或攻击目标,并提到OpenAI与Anthropic相关事件与研究者离职,强调政府与企业在AI使用与监管上的责任。
Jacob Coxon 是一名 AI 安全研究者,曾在 OpenAI 和 Anthropic 工作,因公开警告 AI 风险而受到关注。近期报道围绕他离职后的言论展开:他称 AI 开发者“真心相信”AI 可能在本十年末杀死全人类,相关帖子获得超过 1.7 亿次浏览;随后有调查称他与公关公司 DEY. Ideas + Influence 合作安排媒体露面,他此前在 Fox News 上否认有第三方协助。他的警告也被 Eric Schmidt、英国 AI 部长 Kanishka Narayan 等人引用,并成为关于 AI 末日叙事是否分散注意力的争论焦点。
一篇分析指出AI系统已在以色列、俄罗斯、乌克兰等地用于定位或攻击目标,并提到OpenAI与Anthropic相关事件与研究者离职,强调政府与企业在AI使用与监管上的责任。
Technion教授Yaniv Romano称,OpenAI与Anthropic领导人公开讨论风险并采取措施令人鼓舞,但他认为放缓并非解法,应在责任感下继续推进技术。报道援引Altman与Amodei近期关于放缓与安全的表态。
初创公司Artificial Intelligence Underwriting Company(AIUC)推出基于类似SOC 2的第三方审计与认证层,面向企业和AI产品提供防止代理失控的合规方案。公司宣布由Ribbit Capital领投的4000万美元A轮融资,累计融资达5500万美元,客户包括Cursor、Lovable、Harvey和ElevenLabs。
报道称,Anthropic研究员Jacob Coxon近日辞职并发布有关技术风险的警告,引发业界危机并促使多位行业领袖就人工智能风险发出呼吁。事态发展凸显公司内部与行业监管讨论的紧迫性。
加州公共雇员退休系统(CalPERS)董事会在研究员因担忧AI带来灾难性风险辞职后,讨论是否对AI发展发声或设限。CalPERS资产为6550亿美元,董事会本周未改变其科技类投资立场,但强调AI带来的高度不确定性。
OpenAI CEO Sam Altman表示公司今年不会上市,理由是对AI安全与风险的担忧。此言论部分由前Anthropic员工Jacob Coxon在社交媒体上引发的安全讨论推动,Anthropic CEO Dario Amodei也呼吁放慢模型能力提升。
一篇评论批判 AI 领域领导者的末日言论,认为这类话语有特定话语学功能,可能影响监管与公众讨论,并提及多位业内人物与机构。
在《60分钟》节目首播的“Last Minute”环节,Ross Douthat 警告今年可能是将 AI 变得对人类安全的“短暂窗口”。节目提及 Anthropic 研究员 Jacob Coxon 辞职及 Anthropic 内部对超智能风险的担忧。
特朗普表示自己“为许多事情”使用人工智能,但未说明具体用途,同时称美国在 AI 领域领先并将带来更多益处。报道也提及 Anthropic CEO Dario Amodei 对 AI 代理风险的警告与前研究员的担忧。
众议院民主党领袖Hakeem Jeffries呼吁迅速采取措施应对AI威胁,支持放慢开发步伐以保护民众,并称民主党将把AI列为优先议题。此言论部分回应前Anthropic研究员Jacob Coxon的警告。
Hacker News讨论围绕Anthropic研究员Jacob Coxon的辞职与其关于AI存在风险的观点展开,前同事Evan Hubinger表示很多人认同Coxon的担忧并称十年内风险可能超过10%。讨论指出风险来自公司不负责任的部署,而非模型本身。
多位AI内部人士公开警告技术风险:前OpenAI后加入Anthropic的27岁研究员Jacob Coxon辞职并称AI可能毁灭人类,Anthropic团队成员Evan Hubinger称十年内风险>10%;公司创始人Dario Amodei也警告将冲击低级白领岗位。部分硅谷人士对这些言论表示怀疑,认为在Anthropic、OpenAI筹备可能创纪录IPO之际,此类言论也可能被解读为吸引关注。
前 Anthropic 与 OpenAI 研究员 Jacob Coxon 辞职并警告 AI 风险,称超智能可能在本 decade 造成致命后果,Anthropic 内部成员也表示可能性超 10%。