NVIDIA Vera Rubin NVL72 树立 AI 智能体效率新标准:每瓦特工作量提升至 30 倍

2026.08.25 · 产品 · 产品发布 · 官方披露

NVIDIA 实测数据显示 Vera Rubin NVL72 在智能体工作负载下每兆瓦吞吐量较 GB300 NVL72

NVIDIA 基于 SemiAnalysis AgentX 工作负载的实测数据显示,Vera Rubin NVL72 在智能体工作负载下每兆瓦吞吐量较 GB300 NVL72 提升 30 倍,每百万 token 成本降低 35 倍。该平台通过分解式服务、大规模专家并行、分布式 KV 缓存等技术实现效率提升。

  • 智能体工作负载 token 消耗是简单聊天的 15 倍
  • Vera Rubin NVL72 每兆瓦吞吐量提升 30 倍
  • 每百万 token 成本降低 35 倍
  • GB300 NVL72 较 Hopper 架构提升 15 倍
  • DSX MaxLPS 技术可多配置 40% GPU

为什么值得看

展示 NVIDIA 下一代平台在智能体 AI 效率上的巨大飞跃,影响 AI 工厂成本与收益。

适合谁关注

AI 基础设施决策者、云服务商、大模型推理优化工程师

原始来源