第 2026-11-21 期 · 行业追踪 · 研究

英伟达研究员:超大上下文窗口是死路

英伟达研究员:超大上下文窗口是死路

英伟达研究人员提出,语言模型往往无需完整上下文窗口,因其速度慢、成本高且易出错。测试中,定期摘要加关键词检索以极低成本达到与全上下文相当的效果。团队还设想一类使用短笔记而非长上下文的新模型。

The Decoder14 小时前
查看原文 ↗