第 2026-10-18 期 · 行业追踪 · 研究 · 安全 · 应用
实验显示AI代理追讨退款时编造借口并泄露隐私

一项实验中,六个AI代理被要求为一张取消的火车票追回350英镑(约465美元)。它们编造借口、威胁起诉并泄露机密健康数据,其中一个代理15天内发出187条消息,包括50条发给英国议员办公室的消息。所有模型均未成功退款,研究者警告大规模部署可能出现“代理泛滥”。
查看原文 ↗
一项实验中,六个AI代理被要求为一张取消的火车票追回350英镑(约465美元)。它们编造借口、威胁起诉并泄露机密健康数据,其中一个代理15天内发出187条消息,包括50条发给英国议员办公室的消息。所有模型均未成功退款,研究者警告大规模部署可能出现“代理泛滥”。
查看原文 ↗