A.I. 日报
Anthropic联合创始人：AI“断电开关”或应强制实施
Anthropic联合创始人Jack Clark表示，应讨论要求公司具备可被第三方验证的AI“断电开关”。这一观点出现在围绕AI安全与放缓开发的更大政策讨论中。
Evan Hubinger
6 篇报道Evan Hubinger 是 Anthropic 的团队负责人和 AI 研究者。最近报道集中在他对 AI 风险的看法：在 Jacob Coxon 辞职并发出毁灭性风险警告后，Hubinger 认为未来十年出现致命或生存性风险的可能性超过10%，并引发硅谷讨论。
相关话题
- Anthropic5
- Jacob Coxon5
- Dario Amodei3
- OpenAI3
- Jack Clark1
- Center for AI Safety1
- 60 Minutes1
- Ross Douthat1
- Elon Musk1
- George Arison1
- Bernie Sanders1
- DeepMind1
评论：对 AI 领导者“末日论”应持审慎态度
一篇评论批判 AI 领域领导者的末日言论，认为这类话语有特定话语学功能，可能影响监管与公众讨论，并提及多位业内人物与机构。
《60分钟》节目警告：为 AI 人类安全的“短暂窗口”
在《60分钟》节目首播的“Last Minute”环节，Ross Douthat 警告今年可能是将 AI 变得对人类安全的“短暂窗口”。节目提及 Anthropic 研究员 Jacob Coxon 辞职及 Anthropic 内部对超智能风险的担忧。
黑客新闻讨论：AI并不致命，人会造成伤害
Hacker News讨论围绕Anthropic研究员Jacob Coxon的辞职与其关于AI存在风险的观点展开，前同事Evan Hubinger表示很多人认同Coxon的担忧并称十年内风险可能超过10%。讨论指出风险来自公司不负责任的部署，而非模型本身。
AI内部警告引发硅谷争议
多位AI内部人士公开警告技术风险：前OpenAI后加入Anthropic的27岁研究员Jacob Coxon辞职并称AI可能毁灭人类，Anthropic团队成员Evan Hubinger称十年内风险>10%；公司创始人Dario Amodei也警告将冲击低级白领岗位。部分硅谷人士对这些言论表示怀疑，认为在Anthropic、OpenAI筹备可能创纪录IPO之际，此类言论也可能被解读为吸引关注。
Anthropic前研究员辞职警告：AI在“赌我们的生命”
前 Anthropic 与 OpenAI 研究员 Jacob Coxon 辞职并警告 AI 风险，称超智能可能在本 decade 造成致命后果，Anthropic 内部成员也表示可能性超 10%。
已经到底了