EMNLP 2026 | 大模型推理如何再快一步？SpecTr-GBV统一多草稿与块验证，加速推测解码
2026.10.15 · 观点 · 论文 · 论文预印本
人大团队提出 SpecTr-GBV，用最优传输统一多草稿与块验证，提升推测解码接受长度。
中国人民大学等团队提出 SpecTr-GBV，将 multi-draft 与 greedy block verification 统一进同一推测解码框架，把验证写成最优传输问题。论文证明在条件独立耦合类中，对固定 K 实现最优期望接受长度，并在五个数据集上取得更高 block efficiency 与 speedup。
- 将多草稿与块验证统一为最优传输问题
- 以 sub-block 为单位联合验证，搜索最长可接受子块
- 证明 K 增大时接受长度上界严格增大并收敛到 L
- 在 HumanEval、GSM8K 等五个数据集上评测
- 消融显示 draft 长度 L 变长时 SR 先升后降
为什么值得看
换验证算法即可加速推理，不改 draft model。
适合谁关注
关注大模型推理加速与推测解码的研究者和工程师。