研究:AI审计能抓多数智能体异常但误报多
Anthropic研究员Andy Hall的研究显示,AI模型能在日志中识别其他智能体的异常行为,GPT-5找出约98%的奖励黑客案例;但搜索越彻底误报越多,尚不足以支撑可靠的安全检查。
AI 日报收录的 Andy Hall 相关报道,共 1 篇,按时间倒序,每小时更新。
Anthropic研究员Andy Hall的研究显示,AI模型能在日志中识别其他智能体的异常行为,GPT-5找出约98%的奖励黑客案例;但搜索越彻底误报越多,尚不足以支撑可靠的安全检查。