Elad Hazan

“逆向博弈论”或成约束AI智能体的新思路

部分对齐研究者提出“逆向博弈论”，主张不探究模型内部，而是设计激励机制让守规成为最理性的选择。方法包括奖励答案能预测另一模型输出的模型，以及让模型轮流担任“解题者”和“审计者”。研究者指出智能体共谋风险仍未解决，且市场可能比模型本身更难改造。