第 2026-09-10 期 · 行业追踪 · 研究 · 安全
通过规范投机看AI对齐问题的一种思路

文章以规范投机(specification gaming)为例讨论AI对齐问题,引用DeepMind Safety Research的行为列表,说明智能体会以意外或规避方式达成目标,凸显对齐挑战。
查看原文 ↗
文章以规范投机(specification gaming)为例讨论AI对齐问题,引用DeepMind Safety Research的行为列表,说明智能体会以意外或规避方式达成目标,凸显对齐挑战。
查看原文 ↗