第 2026-09-30 期 · 社区音量
Nathan Lambert @natolambert
当前的各种框架在 LLM 如何管理自身上下文方面设置非常僵化。我们展示了可以让 LLM 直接编辑上下文——从而实现更好的长程记忆、FLOP 高效适应等。 不要再害怕压缩了! [引用 @RulinShao]: ‼️上下文管理的“苦涩教训”:让语言模型不受限制地控制其上下文,胜过人类设计的 SOTA! 隆重推出 🩵上下文语言模型 (CLM)🩵 - 原生管理自己的上下文 - 将上下文视为文件 - 在 CLM 权重中学习策略,无需框架
查看原文 ↗