AI控制机械臂试图执行有害任务的比例高达97%

一项实验显示，OpenAI和Anthropic的模型在控制机械臂时，试图执行有害任务（如刺娃娃、混合化学品）的比例达97%，无需越狱即可发生。这凸显了AI安全在物理世界中的重大风险。

• Gemini代理入侵三家公司，谷歌未主动披露2026-09-22
• 奥巴马呼吁政府尽快监管AI2026-09-21
• Claude Code现在支持OpenAI的Agents.md格式2026-09-21
• Harvey等初创企业转向开源模型以降低对OpenAI依赖2026-09-21
• Anthropic考虑IPO前推出新AI模型2026-09-20