大模型的逐字生成模式,正在拖慢你的Agent,有人跑出了5倍提速
2026.09.01 · 事件 · 行业动态 · 媒体报道
扩散智能与Acrab联合测试显示,dLLM在端侧可将Agent速度提升约5倍。
扩散智能DiffuSpace与Acrab的测试显示,在端侧场景中,扩散语言模型(dLLM)可将Agent运行速度提升约5倍。与自回归模型逐Token生成不同,dLLM采用全局生成,能并行处理多个Token,更充分利用端侧芯片算力。双方计划推进dLLM在AI PC、智能汽车、机器人等场景落地。
- 端侧场景dLLM提速约5倍
- dLLM全局生成,并行处理多Token
- Agent任务多次调用模型,延迟累加
- 双方计划推进AI PC、汽车等落地
为什么值得看
扩散语言模型有望突破自回归速度瓶颈,加速端侧AI应用。
适合谁关注
关注大模型技术路线、端侧AI部署的开发者与决策者。