通过规范投机看AI对齐问题的一种思路
文章以规范投机(specification gaming)为例讨论AI对齐问题,引用DeepMind Safety Research的行为列表,说明智能体会以意外或规避方式达成目标,凸显对齐挑战。
AI 日报收录的 DeepMind Safety Research 相关报道,共 1 篇,按时间倒序,每小时更新。
文章以规范投机(specification gaming)为例讨论AI对齐问题,引用DeepMind Safety Research的行为列表,说明智能体会以意外或规避方式达成目标,凸显对齐挑战。