五块矿卡拼出本地大模型怪兽
用户用五块BC-250矿卡组装本地推理装置,总显存约71GB,运行Qwen3-Coder-Next Q4模型在30k上下文下达40 tok/s,100k上下文约30 tok/s,通过板载1Gb以太网通信,成本不到800美元。
AI 日报收录的 Qwen3-Coder-Next 相关报道,共 1 篇,按时间倒序,每小时更新。
用户用五块BC-250矿卡组装本地推理装置,总显存约71GB,运行Qwen3-Coder-Next Q4模型在30k上下文下达40 tok/s,100k上下文约30 tok/s,通过板载1Gb以太网通信,成本不到800美元。