OpenArch

OpenArch：面向学习的PyTorch LLM架构实现库

OpenArch 是一个手写的 PyTorch 仓库，逐个实现现代开源大模型架构，侧重可读性与教学用途，覆盖多种注意力、归一化与位置编码等设计细节，部分实现可用于前向推理。