Anthropic 报告称对手利用AI试图锁定美军目标
Anthropic 报告称一名与伊朗有关的对手使用 Claude 等美国开发的AI来汇聚公开情报、识别美军海军位置并提出打击建议;该账号被禁并向美方通报。专家警告,AI正使敌对方更高效分析公开数据并改进监视与打击能力。
Iran 是一个主权国家,涉入地区与国际安全事务。近期报道指 Anthropic 发现与 Iran 有关联的行为体使用其 Claude 模型聚合开源数据识别美军海上阵位并给出打击建议,且有与胡塞武装相关的也用 Claude 支持导弹与火箭系统工作;公司已封禁账号并通报美方。
Anthropic 报告称一名与伊朗有关的对手使用 Claude 等美国开发的AI来汇聚公开情报、识别美军海军位置并提出打击建议;该账号被禁并向美方通报。专家警告,AI正使敌对方更高效分析公开数据并改进监视与打击能力。
Anthropic称伊朗利用该公司美国开发的AI模型对美国海军军舰实施定位或瞄准行动。此事涉及国家安全与AI出口与使用监管的交叉风险,可能引发对模型访问与责任的审查。
Anthropic发现也门北部一支与霍乱武装有关的团体使用其Claude模型支持导弹与火箭系统开发,凸显先进AI被非国家主体用于军事用途的风险。公司披露了该滥用行为,但未在文中给出具体技术细节或规模。