第 2026-09-22 期 · 行业追踪 · 开源 · 应用

用户分享本地大模型修改vLLM服务配置

一名本地大模型用户在r/LocalLLaMA发帖，称使用Qwen 3.8 Flash Next驱动Hermes和Pi，让它为vLLM服务添加CUDA_DISABLE_PERF_BOOST=1以降低服务器待机功耗。

r/LocalLLaMA24 天前

查看原文 ↗

话题:Qwen 3.8 Flash Next Hermes Pi vLLM

Reflection发布501B开源模型Beam2026-10-16
英特尔发布D270推理GPU，主打代理式AI工作负载2026-10-13
Qwen 3.8 Flash在RTX 3060上约21 tok/s运行2026-10-10
用户用8张Radeon Pro V620自建大显存推理机2026-10-08
Nous Research完成9000万美元B轮，估值15亿美元2026-10-07