llama2.c跑上2006年iPod:80MHz无FPU
开发者用Rockbox插件让Karpathy的llama2.c TinyStories模型运行在2006年iPod Video上,硬件为80MHz ARM7TDMI、64MB内存且无FPU。他把int8版本改写为纯整数运算,15M模型仅17MB,从硬盘载入内存缓冲区。
AI 日报收录的 llama2.c 相关报道,共 1 篇,按时间倒序,每小时更新。
开发者用Rockbox插件让Karpathy的llama2.c TinyStories模型运行在2006年iPod Video上,硬件为80MHz ARM7TDMI、64MB内存且无FPU。他把int8版本改写为纯整数运算,15M模型仅17MB,从硬盘载入内存缓冲区。