第 2026-11-05 期 · 行业追踪 · 应用 · 开源
LFM3-Omni-2B在iPhone本地以约80 tok/s运行
Reddit用户称通过React Native应用中的自定义WebGPU内核,在iPhone 18 Pro Max上完全离线运行LFM3-Omni-2B,速度约每秒80个token。该演示体现端侧多模态模型的本地推理潜力。
查看原文 ↗Reddit用户称通过React Native应用中的自定义WebGPU内核,在iPhone 18 Pro Max上完全离线运行LFM3-Omni-2B,速度约每秒80个token。该演示体现端侧多模态模型的本地推理潜力。
查看原文 ↗