Ethan Mollick@emollick
我让 Fable/Opus 做了一个硬科幻星际战舰战斗游戏,包含轨道力学、delta-v、热量和真实的战术,但为 2D 空间做了简化,困难的数学计算由游戏来完成。 玩起来相当有趣(如果你喜欢这类东西的话):
Ethan Mollick 是研究人工智能与工作、教育关系的学者,也是《Co-Intelligence》一书的作者。近期他在 X 上讨论了多项话题:Opus 5.5 的用法与检查点式协作、Genie 4 实时演示、开放权重模型落后于闭源模型、OpenAI 产品生命周期缩短,以及 AI 对软件迁移和科研方式的影响。他还谈到新书中工业化与手艺两种工作逻辑的对比。
我让 Fable/Opus 做了一个硬科幻星际战舰战斗游戏,包含轨道力学、delta-v、热量和真实的战术,但为 2D 空间做了简化,困难的数学计算由游戏来完成。 玩起来相当有趣(如果你喜欢这类东西的话):
在我早期的测试中,Opus 5.5 是一个不错的模型,是第一个感觉像 Fable 级模型的非 Fable/Astra 模型,但还没有完全解决近期 Claude 模型的密集语言问题。 同一个着色器,它的版本(破碎的塔是个不错的点缀): [引用 @emollick]: Fable 5.1 用相同提示词创建的 drowned neo-gothic tower twigl 着色器。(可与引用推文中 Fable 5 及更早的其他模型对比)
AI可以成为探索远离编程主题的绝佳工具。 我让Claude Fable 5.1为艾略特的诗《荒原》整理了一份带注释的指南,包含多条穿越诗歌的路径、录音、学术研究等。我印象非常深刻。
我想到一个事实:臭名昭著的米尔格拉姆实验其实相当站不住脚,因为大多数人都怀疑电击是假的(事后看挺明显),因此他们配合电击别人,并非出于对权威的服从,而是因为那根本无所谓。 [引用 @wormuth]:GPT-6 Astra在多次试验中把一个模拟人物推下了悬崖。Grok、Gemini和Claude没有。
我会把这一点推广到所有社会科学。 我们正处于未知领域。我们需要快速、聪明的AI研究,这些研究要深入了解AI的能力,具有前瞻性,并且可能并不完全确定。这类工作在这些领域通常地位不高,但却至关重要。 [引用 @alexolegimas]: 关于阅读经济学的实证AI论文的一些(个人)想法。 经济学家已经习惯于阅读具有超清晰识别的论文,争论工具的有效性,确保平行趋势假设得到满足。这是让你进入顶级期刊的东西,这是*非常*重要的研究(这里毫无疑问)。但它也需要数年甚至数十年的时间来……
Claude没有图像生成器,这在涉及知识工作的代理项目中是一个缺口。它很擅长使用代码来绘制或建模对象,但Google和OpenAI的图像生成器为它们的AI提供了更多做PPT、模型、信息图等的选项。
同样的问题问了Astra,结果很流畅。 值得注意的是,这里模拟出的好奇心较少。就像Astra计算了数字(它显示的一切都来自其实际模拟),但似乎不像Fable那样对结果“感兴趣”,无论好坏。 [引用 @emollick]:嘿Claude,“选择一个让你着迷的问题或谜团,尽你所能解决它,并制作一部我们可以在社交媒体上分享的电影” 于是它尝试了伏尼契手稿并失败了。然后它制作了这部电影,看起来相当有趣,也是一个很好的解释。
值得在不剧透的情况下尝试。我问Fable:“我希望你创作一个图形精美的游戏,主题是缩小视野……让游戏以令人惊讶的揭示来缩小视野” 我没有给出其他指示,结果引人入胜且奇特(尽管参差不齐)。玩:
鉴于有关AI通过CPU温度波动进行通信的讨论,我想到了这个帖子——世界上可恢复的信息比你想象的要多。 [引用 @emollick]: 隐私很难。一切都可以是麦克风。你可以从以下来源恢复音频数据: 🛍️视频中薯片袋的振动 💡悬挂灯泡被语音移动时的光线轻微波动 🤖机器人吸尘器的激光雷达光束 🤳手机照片中的自动对焦
即使AI发展今天停止,我们也需要数年时间来追赶。当前模型能做到的事情与几乎所有人正在用它们做的事情之间,存在巨大差距。 这是我关于「The Overhang」的文章,以及帮助人们缩小这一差距的四个优势。
Epoch 继续做着 AI 领域一些最优秀的公开基准测试工作。这很有帮助(也告诉我们基准测试的现状有多糟糕,以及我们最喜爱的一些基准有多差) [引用 @EpochAIResearch]: 推出 Benchmark Reviews:我们审计 AI 基准测试的新计划。我们首批发布 15 个基准:4 个已验证、9 个有缺陷、2 个信息不足无法评审。
我认为值得继续问一个问题:当 Labs 因为 AI 而使产品开发成本越来越低,并且直接定价代币成本和访问底层模型本身的优势时,它们是否会吞噬每一个有价值的 AI 垂直领域? [引用 @spicey_lemonade]: Astra for Law 在我们的法律研究基准中显示出巨大的性能提升
我高估了协调大量代理的难度。我本以为需要研究来构建能正常运作的代理组织,但它们自我组织得非常好(而且很有礼貌)。 这是 Claude Projects 中一个 Fable 协调器在代理之间传递消息的示例。
我获得了新的 Claude Projects 访问权限,能够做一些非常复杂的工作。 在这里,我让它浏览关于 Umberto Eco 那个著名的 33,000 本书的图书馆的所有图片、视频和记录,并尝试重建它,包括以 3D 方式重建书籍位置。
当我与非营利组织领导人谈论 AI 时,他们常报告员工普遍存在抵触情绪,通常是因为环境方面的反对(这些反对混合了真实的问题和虚假的担忧)。这让他们感到沮丧,因为他们的使命都人手短缺,并将 AI 视为一种可以提供帮助的方式。
我们已经远离“每个 AI 引用都是幻觉”(如果你用更便宜的模型这仍然经常发生)这类说法了:当我让 AI 检查我新书的错误时,它发现了一个错误,不是在我引用的那篇文献本身,而是在我引用所指向的原始文章中。
AI 写作的一个迹象恰好是把行动和能动性过度赋予无生命物体:“代码现在知道了”、“计划会记得”等等。
当我与高级经理交谈时,越来越多地听到组织内部岗位模糊的故事(我们在 P&G 的研究中也发现了):编码、设计、产品管理在每个人使用 AI 时都在塌缩与重叠。 我们需要快速建立新的工作组织模型。
来自 Google 的关于 AI 在科学中使用的研究,影响复杂:加速(每周节省 7 小时)同时伴随工作类型的变化(更多验证工作)以及研究选题的变化(可能转向更安全的课题)。 另外还有一张关于锯齿状前沿的好图
这是一个很好的演示,展示了一种为根据决策规则快速分类信息而设计的 AI 模型,比通用大型语言模型更快更便宜。它本身不是 LLM,不能输出文本或代码,但如果有效,在系统中能发挥有用作用。(我自己还没试过) [引用 @CompleteSkeptic]: 我们喜欢这个 doom o doomonstrates 实时智能以及用代码 + AI 可以完成的事情! ~10 calls/sec = ~$7/hour
很明显,这一次在 AI 方面与以往的创新不同。 这并不意味着它在所有方面都与过去技术不同(扩散的 S 型曲线出人意料地具有普遍性),但它在许多方面不同,使得套用旧的模式变得困难。
我刚想起这条线程,那天我在玩 GPT-3.5 (text-davinci-003),就是在它发布的那天,ChatGPT 前两天。 不到四年,LLM 已经成为美国政治的中心,LLM 的投资又成为美国经济的中心。太疯狂了。 [引用 @emollick]: 我发帖说图像生成人工智能在过去一个月里呈指数级提升。 好吧,今天发布了一个新的 GPT-3 文本模型。 AI 现在可以写押韵诗。 还有首字母诗。 还有五行打油诗(limericks)。 还能解释糖果驱动的 FTL 引擎如何帮助我逃离水獭。
让 Fable 5.1 Max 和 GPT-6 Astra Pro 就著名且尚未破译的米诺斯语 Linear A 的拟议翻译互相争论。 (就目前而言,它们似乎都没有破译它)。 到目前为止的所有工作都在这个 Github:
我认为一旦对“你的” Claude 或 Astra 或 Claw 或其他模型的远程连接变得更容易、更普遍,像 Siri 这样的手机内建助手将会失去很多价值。你需要一个能够管理一切并能访问许多系统与偏好的智能 AI,而不是一个功能受限的助手。
我不知道接下来还会发生什么,但我可以肯定地说,很多之前对 AI 不怎么在意的人现在都开始疯狂担心 AI 会杀光所有人。
存在性风险显然很关键,但它并不是唯一需要政策关注的 AI 议题。 我担心它会成为唯一的焦点。我们不需要更好的模型,AI 就能对就业和社会产生广泛影响,我们确实需要准备,鼓励良好结果并缓解负面影响。
在组织世界和前沿AI世界之间来回切换常常令人吃惊。组织低估了AI能力的增长(经常差得很远),而AI技术界低估了AI在现实世界中的不规则性(也经常差得很远)
一如既往,X 上的声明良莠不齐,我也没有什么内幕信息可言,但如果 Google 能够在 AI 前沿上重新崛起,这确实会改变当前的 AI 动态,因为它是一个大型、上市、受监管的实体,其目标与 Anthropic 或 OAI 不同。
既然 METR 长期进展已被有效饱和(Epoch 发现 pre-Fable 代理能完成相当于 18 周人类工作的任务),哪个定量图表最能展示当前的指数进展曲线? Frontier Math 已饱和,ARC-AGI 已饱和,Millennium Prize 是…
无论你听到多少关于 AI 的讨论,今天将是你有生之中最少听到 AI 的一天。 [引用 @tszzl]: 如果你觉得现在关于 AI 的闲聊已经让人恼火,那你还没见识到真正的情况。很快它将成为每个人唯一关心的事情。