第 2026-10-02 期 · 行业追踪 · 应用 · 研究

开发者用iPhone当第二GPU为MacBook加速大模型

一位开发者在24GB M4 Pro MacBook上运行Qwen 3.8 27B,通过10Gb/s USB-C将iPhone 17 Pro Max作为第二GPU分担部分层,端到端预填充速度提升29%–44%,并可将超64k上下文的KV缓存迁移至手机。

r/LocalLLaMA19 天前
查看原文 ↗