4块AMD R9700搭建本地大模型推理方案：总价1.8万美元

一名用户分享为10人初创公司搭建的本地推理配置：总价1.8万美元，含Threadripper 9970X、128GB DDR5 ECC内存、4块AMD Radeon R9700 AI Pro（共128GB显存），通过Radiance分支服务Qwen 3.8等模型，在16路并发下预填充吞吐约6.3-6.8k tok/s，解码900 tok/s。

• LemonSeed：iPad外接R9700运行Qwen3.8-27B达159 tok/s2026-10-09
• 特朗普宣布科技巨头24亿美元AI承诺2026-10-09
• AMD发布代理式AI全栈方案2026-10-08
• ROCm 10.1聚焦打破数据搬运瓶颈2026-10-08
• Saluki 27B：以约七分之一规模达到Qwen 3.8九成性能2026-10-08