François Chollet @fchollet

我希望前沿实验室提出的放缓 AI 研究的建议是出于对安全的真诚关切，以及认识到未来模型可能带来的风险，而不是一种战略性努力，旨在巩固权力并永久固化少数几家顶级公司的市场主导地位。 如果这些努力是真诚的，那么监管必须采取更具民主性和问责性的形式，应包含国家和国际两个层面，类似于美国的核能监管委员会（Nuclear Regulatory Commission）和国际原子能机构（International Atomic Energy Agency）。 如果只有一个组织负责安全监测，而该组织恰好由与前沿实验室相同的人组成，并且在激励与意识形态上与它们完全一致，那么这将与让前沿实验室自我监管、自我认证它们自己的安全标准没有区别。 需要警惕的两种潜在监管俘获的预警信号： 1. 呼吁禁止开源 AI。开源开发目前是对抗前沿实验室主导地位的唯一真正制衡力量。 2. 试图阻碍非前沿研究。那些比前沿落后一到两代的模型——其…

• 2024年BABA is AI论文现状探讨2026-10-09