Qwen3.8-27B 在 R9700 上达 159 tok/s,Strix Halo 上 64 tok/s

2026.10.09 · 产品 · 开源项目 · 社区热议

LemonSeed Studio 让 iPad 通过雷电外接 AMD GPU 跑本地大模型推理。

LemonSeed Studio 是一款 iPad 编辑器/IDE,通过雷电外接 AMD GPU 实现端侧推理,把未修改的上游 Linux amdgpu + amdkfd 驱动封装为 PCIDriverKit 扩展。在 Qwen3.8-27B Q4 加 Q8 DFlash2 草稿模型、131k 上下文下,R9700 在 iPadOS 上解码达 158.5 tok/s,macOS 159.4,Linux…

  • iPad Pro 外接 R9700 跑 Qwen3.8-27B Q4,131k…
  • R9700 解码:iPadOS 158.5、macOS 159.4、Linux…
  • Strix Halo(Radeon 8060S)Linux 解码 64.4…
  • 4K 预填充:iPadOS 1636、macOS 1634、Linux…
  • 0.5.8 默认启用 DFlash2 草稿树,修复启动 GPU 故障

为什么值得看

iPad 外接 eGPU 跑本地大模型,性能接近桌面平台。

适合谁关注

关注本地推理、eGPU 与端侧 AI 的开发者。

原始来源