vLLM

高吞吐、省显存的大模型推理与部署引擎。

• vLLM nightly 版本新增 PLE 磁盘卸载支持2026-10-31
• Qwen4-27B或采用四路并行残差流架构2026-10-26
• Eagle-4 发布：速度超越 DFlash2 与 DSpark2026-10-21
• 开发者用Qwen编程将GPU服务器改造成可控供暖2026-10-18
• Reflection发布501B开源模型Beam2026-10-16