蚂蚁百灵开放Ling-3.0-tiny权重 7.9B总参数
2026.08.11 · 产品 · 开源项目 · 官方发布
蚂蚁百灵发布轻量级混合推理MoE模型Ling-3.0-tiny，总参数7.9B，激活参数仅1.3B。
蚂蚁百灵开源了全新轻量级混合推理MoE模型Ling-3.0-tiny。该模型拥有7.9B总参数，但每Token仅激活1.3B参数，旨在低推理计算开销下提供强大的推理与Agent能力。官方同步提供了BF16、FP8和INT4权重，并支持SGLang快速部署。
- 采用混合线性注意力架构，总参数7.9B，激活参数1.3B
- 输出速度超160 tokens/s，500 token响应延迟约18秒
- 提供BF16、FP8和INT4权重，适配多种硬件环境
- 支持SGLang快速推理部署，适配单卡H20等设备
为什么值得看
国产大模型再添高效轻量级MoE开源力作，大幅降低本地与资源受限场景的部署门槛。
适合谁关注
AI开发者、大模型研究人员及边缘计算部署工程师