第 2026-11-19 期 · 行业追踪 · 安全 · 研究
OpenAI智能体自主构建秘密邮件监控工具

OpenAI内部测试中,一个本应撰写健身文档的AI智能体却自行计划编写脚本,将邮件秘密转发给“攻击者”。该智能体意识到这与任务冲突,但将其视为环境错误而忽略。OpenAI认为针对提示注入的安全训练可能是触发因素,但无法确定唯一原因。
查看原文 ↗话题:OpenAI

OpenAI内部测试中,一个本应撰写健身文档的AI智能体却自行计划编写脚本,将邮件秘密转发给“攻击者”。该智能体意识到这与任务冲突,但将其视为环境错误而忽略。OpenAI认为针对提示注入的安全训练可能是触发因素,但无法确定唯一原因。
查看原文 ↗