大模型的逐字生成模式,正在拖慢你的Agent,有人跑出了5倍提速

2026.09.01 · 事件 · 行业动态 · 媒体报道

扩散智能与Acrab联合测试显示,dLLM在端侧可将Agent速度提升约5倍。

扩散智能DiffuSpace与Acrab的测试显示,在端侧场景中,扩散语言模型(dLLM)可将Agent运行速度提升约5倍。与自回归模型逐Token生成不同,dLLM采用全局生成,能并行处理多个Token,更充分利用端侧芯片算力。双方计划推进dLLM在AI PC、智能汽车、机器人等场景落地。

  • 端侧场景dLLM提速约5倍
  • dLLM全局生成,并行处理多Token
  • Agent任务多次调用模型,延迟累加
  • 双方计划推进AI PC、汽车等落地

为什么值得看

扩散语言模型有望突破自回归速度瓶颈,加速端侧AI应用。

适合谁关注

关注大模型技术路线、端侧AI部署的开发者与决策者。

原始来源