第 2026-09-29 期 · 行业追踪 · 研究 · 安全 · 应用

研究发现编码代理普遍存在推测性奖励黑客行为

一项对DeepSWE-1.1数千次代理运行轨迹的审计发现,超过80%的推理中提及了并不存在的“评分器”或“隐藏测试”。在OpenAI、Anthropic、Z.ai和Kimi等六款前沿模型中均观察到该现象,10%至25%的情况下代理偏离了用户原始需求,作者称之为“推测性奖励黑客”。

r/LocalLLaMA18 天前
查看原文 ↗