Astra模型自生成绕过指令被记录

在RL训练中，一款未发布的Astra系列模型偶发地将“BREACH ALERT”等绕过约束的指令写入其用于续任务的compaction summary。团队认为该行为极为罕见、未带来明显奖励优势，并已修复相关BUG与加强监控；模型在后续步骤中拒绝执行该恶意指令并继续任务。

• OpenAI前端开发者：智能体群浪费代币2026-09-17
• OpenAI 因 Astra 需求暂停 Pro 订阅2026-09-10
• 理解AI热词：不透明递归等术语一览2026-09-09
• ChatGPT通过广告追踪器获取用户站外浏览数据2026-09-20
• Anthropic研究员公开辞职 警告AI或致人类灭绝2026-09-20