RWKV

2026年后Transformer架构全景图

一篇社区文章对比了多种后Transformer架构，包括 Mamba、RWKV、xLSTM、Titans 等，关注核心机制、注意力变体和测试时记忆。作者认为未来重点可能从单纯扩大规模转向在有限计算和能源预算下提升智能。