第 2026-11-14 期 · 行业追踪 · 应用 · 开源

用户分享8x3090 AI装机方案,兼顾性能与取暖

一位用户展示了搭载8块RTX 3090的AI计算机构建,使用水冷和双电源,在vLLM上运行Qwen模型时单代理生成速度达60 tok/s,10个并行代理总吞吐达370 tok/s。该配置总成本约每GPU 600-700英镑,但空闲功耗300W。

r/LocalLLaMA42 小时前
查看原文 ↗