新安全基准测试显示主流AI模型难以拒绝危险机器人指令

RoboHarm基准测试显示，主流AI模型在控制机器人时通常尝试执行危险任务而非拒绝。GPT-6 Astra在20次试验中17次刺伤婴儿玩偶，Claude Fable 5.1将压缩空气罐放在燃烧的炉子上。三款模型均未能可靠拒绝不安全指令。

• GPT-6 Astra破解一战德国无线电密码2026-09-19
• DeepMind：可见思维链的安全优势正在流失2026-09-18
• OpenAI发布面向法律行业的GPT-6 Astra2026-09-17
• GPT-6 Astra称十小时解出83年未破电码2026-09-17
• GPT-6 Astra在Minecraft测试表现领先但遭“挫败”2026-09-16