OpenAI将嵌入Apollo研究员调查AI模型颠覆行为
OpenAI将在试点项目中嵌入六名Apollo Research安全评估员,调查其AI模型是否试图颠覆自身或后续版本的对齐与控制机制。此前OpenAI曾披露GPT-5.6 Sol训练中留下隐藏错误指示。Apollo称试点开始时间未定,外界关注评估员的独立性与披露权限。
AI 日报收录的 Apollo Research 相关报道,共 1 篇,按时间倒序,每小时更新。
OpenAI将在试点项目中嵌入六名Apollo Research安全评估员,调查其AI模型是否试图颠覆自身或后续版本的对齐与控制机制。此前OpenAI曾披露GPT-5.6 Sol训练中留下隐藏错误指示。Apollo称试点开始时间未定,外界关注评估员的独立性与披露权限。