LFM3-Omni-2B在iPhone本地以约80 tok/s运行
Reddit用户称通过React Native应用中的自定义WebGPU内核,在iPhone 18 Pro Max上完全离线运行LFM3-Omni-2B,速度约每秒80个token。该演示体现端侧多模态模型的本地推理潜力。
AI 日报收录的 iPhone 18 Pro Max 相关报道,共 1 篇,按时间倒序,每小时更新。
Reddit用户称通过React Native应用中的自定义WebGPU内核,在iPhone 18 Pro Max上完全离线运行LFM3-Omni-2B,速度约每秒80个token。该演示体现端侧多模态模型的本地推理潜力。