第 2026-09-28 期 · 行业追踪 · 开源 · 芯片

五块矿卡拼出本地大模型怪兽

用户用五块BC-250矿卡组装本地推理装置,总显存约71GB,运行Qwen3-Coder-Next Q4模型在30k上下文下达40 tok/s,100k上下文约30 tok/s,通过板载1Gb以太网通信,成本不到800美元。

r/LocalLLaMA38 天前
查看原文 ↗