SGLang 为 Muse Glimmer 提供 Day-0 支持,针对本地智能体工作流优化推理

2026.08.10 · 产品 · 开源项目 · 官方发布

SGLang 适配 30B 多模态模型 Muse Glimmer,支持本地智能体高效推理。

SGLang 宣布为 Meta 旗下 30B 多模态模型 Muse Glimmer 提供 Day-0 支持,针对本地智能体工作流优化推理。该模型支持 128k+ 上下文,可在 Apple Silicon 及 NVIDIA RTX 5090 等本地硬件上部署。

  • 为 Muse Glimmer 提供 Day-0 支持
  • 适配 Apple Silicon 与 RTX 5090 等本地硬件
  • 支持 RadixAttention 与 DFlash 推理加速
  • 提供 BF16、NVFP4 及 GGUF 等多种检查点格式

为什么值得看

标志着主流推理框架对端侧高性能多模态智能体工作流的深度适配。

适合谁关注

AI 开发者、本地大模型部署工程师及智能体研究人员。

原始来源