hardmaru @hardmaru

大型语言模型真的理解世界，还是只是在非常擅长“装懂”？这真的重要吗？ 我们最近在皇家学会出版的专题《自然与人工智能中的世界模型》，汇集了来自人工智能、生物学和哲学领域的先驱，主张通往真正智能的道路需要更深层次的东西：不仅要建模语言，还要建模因果关系、自我和物理世界的能力。 本文集合收录了 Douglas Hofstadter、Michael Levin、Josh Tenenbaum、Samuel Gershman、Melanie Mitchell 等人的贡献，提出了一个激进的问题： 如果 AI 的下一次飞跃不仅需要更多数据，而是需要能够对自身进行建模的系统，会怎样？ 这里有 3 个可能重新定义我们构建 AI 的想法： 1. 能力并不等同于真正的智能。 当前的基础模型非常强大，但它们常常缺乏真正的涌现智能。它们学习的是表面统计而不是紧凑的因果抽象。单纯扩大计算规模无法解决这个根本问题。 2. 自我建模是工程原语，而非哲学奢侈。 本期研究显示，当网络学会预测它们自己的…