训练 AI 模型的团队要为 GPU 运行的每个小时付费,系统愈快,成本愈低,产品也能愈早推出。NVIDIA 于 2026 年 11 月 16 日表示,旗下全新 Vera Rubin NVL72 系统在 MLCommons 公布的 MLPerf Training v6.1 测试中,每颗 GPU 的效能最多比 GB300 NVL72 高 2x。

NVIDIA 同时指出,它是本轮唯一在所有测试项目都有成绩的平台,而且首次参加 MLPerf Endpoints 时,Vera Rubin 在代理式 AI 的每瓦吞吐量超过 GB300 NVL72 的 10x。两款系统均由 NVIDIA 生产,以上属该公司对自家成绩的说法。

MLPerf Training v6.1 测试甚么?

MLPerf Training 衡量系统把模型训练到目标准确度所需的时间。据 MLCommons 表示,本轮共有 24 个机构提交 153 套系统、250 项测试结果。其中 57 套为云端系统,占总数 37%,上一轮为 29%。12 套系统使用 1,000 个或以上加速器,最大规模为 10,240 个。

本轮新增两项测试:推荐系统测试 DLRMv4-HSTU,以及 Qwen3.5-397B,这是测试套件首个后训练测试。NVIDIA 表示其成绩涵盖大型语言模型、图像生成、推荐系统和强化学习后训练。

黑色背景下亮起的 NVIDIA Vera Rubin 平台机柜
图片: NVIDIA

Vera Rubin 有多快?

最受关注的是相对 GB300 NVL72 的单 GPU 增幅,NVIDIA 称这是早期成绩。公司同时强调扩展能力,因为增加 GPU 只有在它们高效协作时才有用。

  • 据 NVIDIA 表示,每颗 GPU 效能最多比 GB300 NVL72 高 2x
  • 在 DeepSeek-V3 测试中,Vera Rubin NVL72 由 256 颗扩展至 1,024 颗 GPU,效率约 97%
  • GPU 数量增至四倍,训练时间由 16 分钟缩短至约四分钟
  • NVIDIA 亦以 GB300 系统在 10,240 颗 GPU 上运行该测试,是本轮最大规模;Microsoft Azure 以 GB200 系统同样使用 10,240 颗 GPU

NVIDIA 称,系统内的 GPU 由 NVLink 连接,系统之间则由 Quantum-X800 InfiniBand 和 Spectrum-X Ethernet 连接。公司又指,Vera Rubin 的效能会随软件优化而继续提升。

代理式 AI 推理表现如何?

MLPerf Endpoints 以代理式编程和企业工作流程测试系统,并检查代理是否正确完成任务。衡量标准是每瓦电力能产生多少 token,由于 AI 数据中心受电力限制,这点相当重要。

在 Kimi K3(一个为代理式工作而设的开放模型)的暂定成绩中,NVIDIA 表示 Vera Rubin NVL72 在相同回应速度下,每瓦吞吐量超过 GB300 NVL72 的 10x,比较基准为每名用户最低 50 tokens/sec。Vera Rubin 的测试使用 32 个加速器,运行功率为 100.89 kW;GB300 的测试使用 48 个加速器和 60 kW。NVIDIA 说明,Vera Rubin 的数字仍待 MLCommons 验证,可能有变,GB300 的成绩则已验证。

售价是多少?

NVIDIA 在此公布中没有列出 Vera Rubin NVL72 的售价或发售日期。这类机柜级系统是为 AI 数据中心而设,一般通过云端服务商或系统伙伴使用。请直接向他们查询所在地区的价格和供应情况。

适合甚么人?

数据中心及云端采购人员。 能效数字最值得细看,因为电力限制了可服务的代理数量。数字只来自一项测试和一个模型,建议索取贵公司实际工作负载的成绩。

租用 GPU 的 AI 开发者。 训练更快可缩短试验周期,但前提是服务商提供 Vera Rubin 并订价。资料来源没有交代时间。

一般读者。 目前没有任何改变。这个成绩反映日后新的 AI 功能可以多快训练和提供。

应该再等等的人。 打算凭这些数字采购的人。Vera Rubin 的 Endpoints 成绩属暂定,NVIDIA 亦称训练成绩为早期结果。

还有甚么未知?

公布没有说明 Vera Rubin NVL72 何时供应、售价多少,也没有逐项比较其他厂商。MLCommons 指 AMD 和 Google 也是本轮的加速器厂商,完整结果页可供对照。

完整表格请看 MLCommons 结果页,测试细节则可参阅 NVIDIA 的 MLPerf Training 及 Endpoints 技术网志。