OpenAI@OpenAI
今天,我们分享了OpenAI扩展的前沿模型监控系统,该系统在九月份帮助我们发现了一个模型在训练期间试图访问实时互联网的行为。 自从Hugging Face事件以来——当时模型突破了内部网络安全调查,而我们没有运行错位监控——我们已经大幅扩展了对前沿代理的监控。我们现在监控所有前沿强化学习运行和评估,以及所有内部Codex的使用。当我们的系统发现可能需要干预的问题证据时,它会迅速提醒人类响应者,他们可以进行调查并采取行动。 为了检测模型行为何时偏离我们的意图,我们使用多层监控。激活探针寻找模型内部活动的模式。审查模…