第 2026-10-08 期 · 行业追踪 · 开源 · 芯片 · 研究

用户用8张Radeon Pro V620自建大显存推理机

一名用户用8张二手Radeon Pro V620（共256GB显存）搭建约2800美元的推理主机，并通过定制vLLM分支运行Qwen3.8-Flash-Next，解码速度达每秒60至100个token，预填充超过每秒3000个token，比llama.cpp快约8倍。

r/LocalLLaMA9 小时前

查看原文 ↗

话题:Radeon Pro V620 vLLM Qwen3.8-Flash-Next llama.cpp DeepSeek GLM-5.3-Flash

开发者发布Ninfer 4080，16GB显卡实现100k上下文2026-10-04
用户分享Strata加速本地大模型但64GB内存吃紧2026-10-04
双96GB升腾卡跑Qwen3.8 Flash-Next实测2026-10-02
llama.cpp合并GLM-5.3-Flash支持2026-09-30
四张3060Ti组多GPU本地推理,达120t/s并支持262K上下文2026-09-27