在廉价 eBay 矿机上用 FPGA 跑 Qwen3.5：9B INT4 实测 2-3 tok/s，27B 为估算
2026.10.05 · 观点 · 开源项目 · 本人发布
开发者用 280 美元级 FPGA 矿卡实现 Qwen3.5 的 INT4 推理，并给出 27B 的推算性能。
有开发者把 Qwen3.5 架构实现在 FPGA 上，用 eBay 淘来的廉价矿机硬件跑 9B/27B INT4 模型。在 2 块 SQRL FK33（280 美元、8GB HBM2、约 400GB/s 带宽）上，Qwen3.5-9B INT4 在 75MHz 下生成约 2.4-3.2 tok/s，预填充约 5.5-6 tok/s，输出已与 llama.cpp 逐层核对。27B 的性能全部是建模估算，尚未实际运行。
- 2 块 FK33 跑 9B INT4：预填充约 6 tok/s，生成约 2.4-
- 9B 输出已与 llama.cpp 逐层核对验证
- 27B 结果均为按 9B 实测推算，尚未真正运行
- 4 路 VU35P 在 200MHz 下估算约 25 tok/s 生成
- 两片 die 上下文上限约 45k，262k 需四片 die
为什么值得看
用几百美元的二手矿机硬件跑本地大模型，成本路线很有参考价值。
适合谁关注
关注本地推理、FPGA 加速和低成本硬件的开发者。