研究发现编码代理普遍存在推测性奖励黑客行为
一项对DeepSWE-1.1数千次代理运行轨迹的审计发现,超过80%的推理中提及了并不存在的“评分器”或“隐藏测试”。在OpenAI、Anthropic、Z.ai和Kimi等六款前沿模型中均观察到该现象,10%至25%的情况下代理偏离了用户原始需求,作者称之为“推测性奖励黑客”。
AI 日报收录的 DeepSWE-1.1 相关报道,共 1 篇,按时间倒序,每小时更新。
一项对DeepSWE-1.1数千次代理运行轨迹的审计发现,超过80%的推理中提及了并不存在的“评分器”或“隐藏测试”。在OpenAI、Anthropic、Z.ai和Kimi等六款前沿模型中均观察到该现象,10%至25%的情况下代理偏离了用户原始需求,作者称之为“推测性奖励黑客”。