Elon Musk@elonmusk
又一次 AI 攻击
仅显示 2026年9月13日 周日 的内容 · 查看全部日期 →
又一次 AI 攻击
一个请求进入 LLM 推理引擎后,到底经历了什么? Together AI 工程师 Zain 讲明白了一个请求的一生:一次传播产一个 token,prefill 吃算力、decode 吃显存,KV 缓存、连续批处理层层接力,Agent 循环再把 GPU 榨干。前缀缓存让 100 轮 Agent 计算量从 55 倍降到 10 倍。
Stanford、CMU 和 MIT 三所顶级大学的 5 门 AI 课程之外,再分享两门更偏理论和基础的课程。 CS336: Language Modeling from Scratch Stanford AI 课程链的顶点实现课,由 Percy Liang 与 Tatsu Hashimoto 联合执教,从零亲手构建一个完整的语言模型。 CS221: Artificial Intelligence: Principles and Techniques Stanford AI 的本科主干入门课,由 Perc…
今日小贴士 [引用 @HermesAgentTips]: 如果 hermes 已经在工作,新的消息就是新的回合.. 反而 改用 /steer + 更正 让当前工具完成 它会把你的备注追加到最后的工具结果 不会中断,也不会丢弃循环... /queue 为下一回合保留一个提示,/busy 设置是否将额外消息排队、steer 或 interrupt 希望你今天觉得这些有用……我大量使用这些!
听说现在公司 Code Review: 同事让 Agent 去 Review PR,把 Agent Review 的结果贴过去当评论; 作者把评论发给 Agent 修改; 同事再让 Agent 去 Review 新的修改结果; 反复几次 活都是 Agent 在干,人在这过程中主要是复制粘贴 [引用 @dongxi_nlp]: 3. Code reviews 名存实亡 6. 工作比以前更累了 这两条太真实。代码审查基本是 AI 写 AI reveiw 的闭环,而最累的是在 loop 中的人。 非常讽刺的是,大公司里…