Qwen Flash Next 在 Mac Mini 上可运行：不同内存占用下的 SSD 流式推理结果
2026.10.18 · 观点 · 技巧 · 本人发布
作者实测 QFN 在 Mac Mini 上降低内存占用后仍可运行，并给出解码速度变化。
作者在 Mac Mini M5 64GB 上做 QFN（edit-q4）推理优化，提示处理用轮转缓冲，解码用训练好的预测前瞻模型提前从 SSD 取专家。最高约 29 tks 解码，减少 4GB 后约 26 tks；非 LLM 可用空间低于约 18GiB 会出现 swap。
- 提示处理用轮转缓冲，低热缓存下仍接近完美
- 解码用预测前瞻模型提前从 SSD 取专家
- 最高约 29 tks 解码，减 4GB 后约 26 tks
- 非 LLM 空间低于约 18GiB 会出现 swap
- 运行的是 Unsloth 的 UD-Q4_K_XL 量化
为什么值得看
想在小内存 Mac 上跑大模型的人可参考内存与速度取舍。
适合谁关注
Mac 本地部署 LLM、关注 SSD 流式推理的开发者。