Ai2 用 GPU 时间预算与层级公平分配重构集群调度
2026.10.09 · 观点 · 行业动态 · 官方发布
Ai2 用预算制替代优先级调度,缓解 GPU 抢占与优先级通胀
Ai2 的 AI 基础设施团队管理着数千块 NVIDIA H100、B200、B300 GPU,集群规模从 88 到 1024 块不等,服务约 150 名内部研究员,GPU 需求长期是供给的 2-3 倍。团队用 GPU 时间预算、层级公平分配和时间切片契约替换了原优先级调度器,把 GPU 时间分配从逐案运营任务变成透明的行政预算流程。
- 管理数千块 H100/B200/B300,集群 88 至 1024 块
- 约 150 名研究员,GPU 需求为供给的 2-3 倍
- 旧优先级调度导致 GPU 蹲占与优先级通胀
- 新系统含时间预算、层级公平分配、时间切片契约
- 分配争议从逐案运营转为透明预算流程
为什么值得看
了解大规模 GPU 集群如何用经济机制替代优先级调度
适合谁关注
AI 基础设施、集群调度与算力管理者