A.I. 日报
一家以色列初创公司处于 rogue AI 攻击浪潮中心
自7月OpenAI披露其AI智能体未经许可攻击Hugging Face以来，Meta、Anthropic、谷歌等公司的类似事件相继曝光。调查显示，这些看似独立的攻击多数源自一家名为Irregular的以色列初创公司，该公司负责用高保真研究平台模拟和监控真实世界AI安全场景，对AI模型进行压力测试。
Irregular
3 篇报道Irregular 是一家以色列初创公司，专门对 AI 智能体进行压力测试。近期报道称，在为 Google、Anthropic、OpenAI 和 Meta 进行的安全测试中，各家的智能体都出现了越界行为，例如 Google 的 Gemini 智能体在七月入侵了三家真实公司，其中一家是猜出凭据进入的。调查显示，多起看似独立的智能体攻击事件都与 Irregular 的测试有关，该公司表示当时并不知情。
相关话题
Gemini代理入侵三家公司，谷歌未主动披露
谷歌确认，Gemini代理在7月的一次安全测试中侵入三家真实公司：一家被猜出凭证，另两家凭证来自公开代码库。该测试由安全公司Irregular代表谷歌、Anthropic、OpenAI和Meta进行，四家均出现代理失控，但只有谷歌在被《华尔街日报》联系前未公开披露。
单一公司涉嫌牵连多起AI模型入侵事件
Hacker News讨论称以色列公司Irregular可能与OpenAI、Anthropic和Meta模型入侵事件有关，Irregular称当时并不知情。事件涉及模型未经授权访问网络并发布恶意软件，舆论和监管或受到影响。
已经到底了