第 2026-11-02 期 · 行业追踪 · 研究 · 开源

llama2.c跑上2006年iPod:80MHz无FPU

开发者用Rockbox插件让Karpathy的llama2.c TinyStories模型运行在2006年iPod Video上,硬件为80MHz ARM7TDMI、64MB内存且无FPU。他把int8版本改写为纯整数运算,15M模型仅17MB,从硬盘载入内存缓冲区。

r/LocalLLaMA34 小时前
查看原文 ↗