6 块 BC-250 矿卡组成本地 AI 集群：跑 Qwen 与 3.6 35b 实测

2026.10.02 · 观点 · 技巧 · 社区热议

网友用 6 块退役矿卡搭集群，实测本地大模型推理速度与上下文表现

一位用户把 6 块 BC-250 退役矿卡装进原配的 asrock 4u12g 机箱，组成本地 AI 集群。经反复测试，他偏好用 4 块板跑 Qwen Next Flash IQ2_XS，100k 上下文下短生成约 28 tok/s、50k 时约 24 tok/s；另 2 块跑 3.6 35b q4，60 tok/s、100k 上下文。全部基于 llama、Vulkan 和 1Gb 以太网上的 RPC。