clem 🤗 @ClementDelangue

我认为 AI 最大的风险是权力集中在少数几个实验室手中 [引用 @dwarkesh_sp]: 我非常担心在 RSI（递归自我改进）期间，实验室会停止对外部署它们的模型。 这意味着他们将全力推进这些模型最危险的用例（递归自我改进），而公众对于能力的性质和对齐状态一无所知。 最终我们会走上权力极度集中的道路。