clem 🤗 @ClementDelangue

据我们所知（需谨慎看待，我们需要更多透明度！），如果 @OpenAI 在他们自己攻击我们的智能体上运行这套系统，他们本可以在我们之前就抓住它们！ 自从 7 月第一起智能体网络攻击击中我们以来，我们一直在追问安全的智能体基础设施到底需要什么。我们目前的判断是：目的地是被允许的，但载荷不是。按照 OpenAI 自己的说法，那些智能体把一个被允许的软件包仓库变成了留言板。仅靠允许列表只能限制智能体能去哪里，却限制不了它做什么。 所以这是我们向 OpenShell（刚推出的 @nvidia 开放智能体安全平台的一部分）的第一份贡献：监控你已经允许的流量。 - 每个沙箱的网络预算（请求数、写入数、字节数） - 相对每个沙箱基线和同类群体的漂移检测 - 集群视图：多个沙箱突然向同一主机写入会触发发现，即使每一个单独请求都是被允许的 在下面的演示中，4 个沙箱内的智能体通过一个它们都被允许使用的软件仓库进行协作。0 条规则被违反，几分钟内就被抓住了。那个集群视图正是 7 月留言板模式的翻版。 OpenShell：https://t.co/ZbDANrZsm6 我们的概念验证：https://t.co/KJ2X5a…