第 2026-10-04 期 · 行业追踪 · 开源 · 芯片 · 研究

开发者用FPGA挖矿硬件运行Qwen3.5大模型

一名开发者用eBay上约280美元的SQRL FK33 FPGA矿卡，配合Claude等模型辅助编写RTL，实现了Qwen3.5-9B INT4推理。双卡75MHz下生成速度约3.2 tok/s，上下文扩展后降至2.4 tok/s，并逐层与llama.cpp核对输出。

r/LocalLLaMA3 天前

查看原文 ↗

话题:Qwen3.5 FPGA SQRL FK33 llama.cpp XCVU35P

Transformers 现已支持 llama.cpp 的 GGUF 量化模型2026-09-22
开源项目openTPU实现AI自主设计推理芯片2026-10-06
llama.cpp v0.6.0发布支持Qwen4Exp2026-10-05
哔哩哔哩发布基于Qwen3.5多语言翻译模型族Index-Translate2026-10-05
llama.cpp在长文本推理中比IQ3_S引擎更稳定2026-10-04