Qwen3.8-27B 在 M5 Max MacBook Pro 上达 144 tok/s
2026.09.19 · 产品 · 开源项目 · 社区热议
开源推理引擎 Inco Splash 发布，解码速度最高达 Ollama 的 3 倍。
开源推理引擎 Inco Splash 发布，专为 Apple 芯片优化，在 M5 Max MacBook Pro 上运行 Qwen3.8-27B 模型，解码速度可达 144 tok/s，比 Ollama 快 3 倍，比 MLX 快 2 倍，agent 分支出子代理时速度提升近 4 倍。支持 M3 或更新芯片、macOS 26.4+、36 GB 内存，可通过 brew 安装或 LM Studio 使用。
- 解码速度达 Ollama 的 3 倍
- 比 oMLX 快 2 倍
- agent 分支时快近 4 倍
- 要求 M3 或更新、macOS 26.4+、36 GB
- 支持 Claude Code、OpenCode 等
为什么值得看
开源推理引擎显著提升 Apple 芯片上的本地模型速度。
适合谁关注
在 Mac 上运行本地大模型的开发者和 AI 爱好者。