Qwen3.8 Flash Next 在 Strix Halo 上达到 1.2k t/s 预填充速度
2026.09.13 · 事件 · 开源项目 · 社区热议
开源社区开发者将 llama.cpp 性能提升至与闭源方案相当的水平。
一位开发者不满闭源方案 Halogen 宣称的 1.2k t/s 预填充速度，决定优化开源 llama.cpp 以达同等性能。经过数个夜晚的努力，成功实现该速度，并计划提交 PR 到主线及社区分支，同时惠及 GLM 5.3 Flash 架构。
- 闭源 Halogen 宣称 1.2k t/s 预填充
- 社区分支仅达 400 t/s
- 开发者优化 llama.cpp 达到同等性能
- 计划提交 PR 到主线及社区分支
- 优化将惠及 GLM 5.3 Flash 架构
为什么值得看
开源方案性能追平闭源，推动技术民主化。
适合谁关注
关注本地大模型推理性能的开发者与研究者。