第 2026-10-04 期 · 行业追踪 · 研究
谷歌研究提出RRSI防止自我改进AI智能体背题

自我改进AI智能体容易记住测试任务,导致在新任务上收益缩水或消失。谷歌研究人员提出RRSI方法抑制这一效应,在未见基准上提升最多4.7分,且比未正则化版本少用约30%的token。
查看原文 ↗话题:Google

自我改进AI智能体容易记住测试任务,导致在新任务上收益缩水或消失。谷歌研究人员提出RRSI方法抑制这一效应,在未见基准上提升最多4.7分,且比未正则化版本少用约30%的token。
查看原文 ↗