SC26 顶会论文:八卦炉 2—— 让万卡集群学会临场应变
2026.10.28 · 收录日 2026.10.28 · 事件 · 论文 · 论文预印本
清华团队提出运行时自适应显存供给机制,让MoE训练不再因显存尖峰OOM重启。
清华大学翟季冬教授团队的八卦炉2(BaGuaLu-2)论文被SC26录用,提出灵活激活显存供给机制,在门控算完、专家算前的窗口实时决策保存、重计算或卸载。万卡智算中心实测128到12,288张海光DCU、188B到1.04万亿参数,平均吞吐比基线高1.14×,12,288卡下总吞吐2.012 EFLOPS,平均MFU 32.9%。
- MoE训练中2.9%的异常迭代专家负载不均衡率最高达2.6×,会触发激活显存尖峰导致单卡OOM、整个分布式任务挂掉。
- 静态配置两难:激进配置MFU 30.0%但尖峰必OOM、一次冷重启284秒;全层重计算MFU仅24.6%。
- 八卦炉2在门控算完、专家算前的窗口按真实负载实时决策,不同算子分别选择保存、重计算或卸载,零配置干预、不重启任务。
- 激活显存成本模型平均预测误差仅1.56%,决策开销低于10 ms,而一次迭代超过18秒。
- 消融实验:细粒度激活策略1.16×,叠加动态管理1.22×,再叠加重叠调度达1.38×;核心代码已在GitHub开源。
为什么值得看
万卡MoE训练OOM重启的工程痛点,给出了可落地的运行时方案。
适合谁关注
大模型训练系统工程师、AI Infra研究者与算力平台从业者。
