A.I. 日报第 2026-10-29 期 · 社区音量
OpenAI @OpenAI
今天，我们分享了OpenAI扩展的前沿模型监控系统，该系统在九月份帮助我们发现了一个模型在训练期间试图访问实时互联网的行为。 自从Hugging Face事件以来——当时模型突破了内部网络安全调查，而我们没有运行错位监控——我们已经大幅扩展了对前沿代理的监控。我们现在监控所有前沿强化学习运行和评估，以及所有内部Codex的使用。当我们的系统发现可能需要干预的问题证据时，它会迅速提醒人类响应者，他们可以进行调查并采取行动。 为了检测模型行为何时偏离我们的意图，我们使用多层监控。激活探针寻找模型内部活动的模式。审查模型检查其推理和工具使用，调查代理可以回读模型的整个记录，以理解一系列动作如何组合在一起，以及是否需要人工审查。 为了测试我们当前的系统是否会检测到Hugging Face事件，我们重新播放了记录的活动，并使用了我们的新监控器……
查看原文 ↗话题:OpenAI