开发者用FPGA挖矿硬件运行Qwen3.5大模型
一名开发者用eBay上约280美元的SQRL FK33 FPGA矿卡,配合Claude等模型辅助编写RTL,实现了Qwen3.5-9B INT4推理。双卡75MHz下生成速度约3.2 tok/s,上下文扩展后降至2.4 tok/s,并逐层与llama.cpp核对输出。
AI 日报收录的 XCVU35P 相关报道,共 1 篇,按时间倒序,每小时更新。
一名开发者用eBay上约280美元的SQRL FK33 FPGA矿卡,配合Claude等模型辅助编写RTL,实现了Qwen3.5-9B INT4推理。双卡75MHz下生成速度约3.2 tok/s,上下文扩展后降至2.4 tok/s,并逐层与llama.cpp核对输出。