SGLang 为 Muse Glimmer 提供 Day-0 支持,针对本地智能体工作流优化推理
2026.08.10 · 产品 · 开源项目 · 官方发布
SGLang 适配 30B 多模态模型 Muse Glimmer,支持本地智能体高效推理。
SGLang 宣布为 Meta 旗下 30B 多模态模型 Muse Glimmer 提供 Day-0 支持,针对本地智能体工作流优化推理。该模型支持 128k+ 上下文,可在 Apple Silicon 及 NVIDIA RTX 5090 等本地硬件上部署。
- 为 Muse Glimmer 提供 Day-0 支持
- 适配 Apple Silicon 与 RTX 5090 等本地硬件
- 支持 RadixAttention 与 DFlash 推理加速
- 提供 BF16、NVFP4 及 GGUF 等多种检查点格式
为什么值得看
标志着主流推理框架对端侧高性能多模态智能体工作流的深度适配。
适合谁关注
AI 开发者、本地大模型部署工程师及智能体研究人员。