第 2026-10-20 期 · 行业追踪 · 开源 · 研究

PyTorch 2.15为Mac的MPS后端带来FP8支持

PyTorch 2.15为Mac的MPS后端带来FP8支持

Hugging Face的PyTorch团队介绍了2.15版本在Apple MPS后端上的改进:新增FP8支持,MoE模型解码速度较2.14提升5至6.5倍,Qwen3.6-35B-A3B在M3 Ultra上从每秒9.4个token提升到61.3个token。此外,softmax速度提升约8倍,Wan2.2视频VAE解码的峰值内存从270GiB降至8GiB。

Hugging Face Blog2 天前
查看原文 ↗