第 2026-10-26 期 · 行业追踪 · 研究 · 模型发布

斯坦福与伯克利推TokenGate长文本加速方案

来自斯坦福和加州大学伯克利分校的研究人员提出TokenGate,一种令牌门控注意力机制,可使长上下文预填充速度最高提升11.3倍。该方案有望降低长文本推理的计算成本。

r/LocalLLaMA24 小时前
查看原文 ↗