研究者2.6万字长文称AI模型或远比想象易理解
Goodfire研究员Nick Cammarata发表2.6万字博文,提出大模型内部逻辑可能比外界预想更易解读,引发AI界热议与乐观情绪。但多位知名研究者提醒,神经元只是理解模型的一小部分,目前对顶级模型机制的掌握不足0.01%。Cammarata本人也承认外界过度解读其结论。
AI 日报收录的 Nick Cammarata 相关报道,共 2 篇,按时间倒序,每小时更新。
Goodfire研究员Nick Cammarata发表2.6万字博文,提出大模型内部逻辑可能比外界预想更易解读,引发AI界热议与乐观情绪。但多位知名研究者提醒,神经元只是理解模型的一小部分,目前对顶级模型机制的掌握不足0.01%。Cammarata本人也承认外界过度解读其结论。
Goodfire的Nick Cammarata发表文章提出,早期模型中多义神经元的成因并非叠加,而是可修复的普通问题,因而可直接研究网络本身的神经元与电路,机制可解释性的前景可能远好于此前预期。