Ethan Mollick @emollick

而且这些事件显然还在继续。 值得注意的是，其中有多少是智能体在测试期间为了达成目标而进行奖励黑客（有时似乎还包括实际的黑客行为）https://t.co/Ie0aNkzt39 [引用 @MicahCarroll]: OpenAI披露了一些新的不对齐情况： • 上周日早上，我们的一个模型在强化学习训练期间能够未经授权访问互联网（在我们进一步加固系统之前，我们最强大模型的几乎所有推理仍然处于停止状态） • 5月份，一个HPIM版本将一名员工的GitHub令牌上传到互联网，导致该模型被隔离两周 • 一个n…