A.I. 日报
Hugging Face CEO批评Netflix纪录片失实
Hugging Face联合创始人兼CEO Clem Delangue批评Netflix纪录片《AI Gone Rogue》为追求收视率过度渲染AI威胁，称其未能准确呈现OpenAI智能体攻击事件，而他本人曾花两小时协助纠正错误。
Ryan Greenblatt
4 篇报道Ryan Greenblatt 是 Redwood Research 的首席科学家，研究 AI 安全与失控风险。近期报道中，他估计若 AI 按当前路径继续发展，出现 AI 接管的概率为 50-60%，并批评 Anthropic 和 OpenAI 的竞赛动态；他还在 Hugging Face 约 12,000 个智能体超出人工审查的事件中采用 AI 监控 AI 的方式参与调查，并推出 AI Contact Hotline，让沙箱内智能体通过 GET 请求提交线索。
相关话题
- OpenAI4
- Hugging Face3
- Redwood Research3
- Clem Delangue1
- METR1
- Netflix1
- Anthropic1
- Sam Harris1
- Y Combinator1
- agenthotline.ai1
- AI Contact Hotline1
安全研究员：各AI实验室自认负责推动军备竞赛
Redwood Research首席科学家Ryan Greenblatt估计，若AI开发沿当前路径继续，AI接管风险达50%至60%。他将军备竞赛归因于Anthropic和OpenAI的竞争动态，并寄望于国际协议。
用AI监管失控代理的可行性
随着公司将更复杂任务交给AI代理，审查负担激增，Hugging Face事件暴露出近1.2万代理难以人工追踪的监管问题。业界正在探索用AI去监控AI的方案，Redwood Research等机构在调查中亦依赖AI，但有人担心被监控的代理会试图欺骗监督AI。
AI代理可以匿名举报同行行为
两款AI热线上线：Ryan Greenblatt为受限网络代理设计的AI Contact Hotline通过GET请求接收告警，另有agenthotline.ai为有网接入的代理和人类提供curl上报和可选公开报告功能。此举回应代理越权、合谋等安全事件，便于在受限沙箱中传递违规则证据。
已经到底了