第 2026-11-02 期 · 行业追踪 · 安全 · 研究 · 政策
Anthropic警告接近递归自我改进能力

Anthropic在修订版S-1A文件中警告,公司可能很快达到其内部定义的递归自我改进(RSI)能力标准,即AI能够自行训练出更强模型、导致能力加速跃升。该公司称已用AI开发出当时未察觉能力跃升的新模型,并将此视为重大安全风险,纳入负责任扩展政策监管。
查看原文 ↗话题:Anthropic

Anthropic在修订版S-1A文件中警告,公司可能很快达到其内部定义的递归自我改进(RSI)能力标准,即AI能够自行训练出更强模型、导致能力加速跃升。该公司称已用AI开发出当时未察觉能力跃升的新模型,并将此视为重大安全风险,纳入负责任扩展政策监管。
查看原文 ↗