Andrej Karpathy 是 AI 领域的研究者和工程师，曾参与深度学习与自动驾驶相关工作，现常就大模型能力与训练实践公开发表看法。近期他的推文关注人们对 LLM 能力的认知差距，称约 60 亿人几乎未接触过 LLM，并分享了一些评测与解读方法，例如用经纬度坐标做“陆地还是水域”的测试，以及用航空维护文档的受控语言规范 ASD-STE100 让模型解释内容。他还转发了 Dario Amodei 关于行业应放缓前沿 AI 进展的文章。
翻出我四月份的这条推文，是因为在LLM能力上的这种认知差距正在*扩大*。现在这已经不太像"两群人在各说各话"，而更像一个急剧收窄的漏斗。 - 粗略算一下，大约有60亿人（约占人口的75%）几乎完全没有接触过LLM。 - 大约有10亿到20亿人（约20%）是免费版ChatGPT类产品的随意且不频繁的使用者。这群人看到的是笨拙的聊天机器人，把它当作一个更好用的谷歌搜索、写作辅助工具之类的东西。也许会有agent尝试帮你订机票。我有一些非技术圈的朋友（在我看来挺合理）说他们根本用不太上这东西。即使许多数学和编程领域之外…
很酷的评测。只要问LLM“陆地还是水域？”，并给它一个经纬度坐标作为文本。问16,200次，绘制成图像。模型知道答案。来自对互联网的压缩。 [引用 @celestepoasts]: 所有claude的结果
我们将会花更多时间去理解语言模型的输出。一些想法、技巧和窍门： 写作。我成功尝试过的一个方法：让你的LLM用ASD-STE100来解释某事，这是一项最初为航空航天维护文档开发的控制语言规范。LLM精通这种语言，而且它对简洁的写作风格有严格的约束，我常常觉得它读起来更舒服。有时我会尝试稍微放宽一点，比如要求“达到ASD-STE100的80%”，因为规范相当严格。但还有更好的： 图表/图像。与其写作，不如让你的LLM生成图表。这些可能更容易处理、解析和理解。但还有更好的： 网页。要求“以HTML”输出，得到一个漂亮、…
我很喜欢这个，并且真心希望我们能作为行业团结起来并实现它。 [引用 @DarioAmodei]: 我们必须放慢前沿步伐：我写了一篇新文章，阐述为什么 AI 行业应该放慢脚步，并提出了一个三部分的计划来实现这一点。 Anthropic 单方面承诺采取这项计划的第一步。我们将为第三方评估者提供永久的、与员工同等的系统访问权限，以便他们能够核实我们安全措施的遵守情况、报告事件，并评估模型的对齐状况…
个人用$998训练3.8B参数模型达0.384 CORE研究者用约$998，在43小时、65B tokens上用B200/GPU训练出3.8B模型，CORE得分0.384，开发了配置驱动的little-lm框架，展示小规模但有意义的可复制路径。
A.I. 日报