AI ਮਾਡਲ ਸਿਖਲਾਈ ਦੇਣ ਵਾਲੀਆਂ ਟੀਮਾਂ ਨੂੰ GPU ਚੱਲਣ ਦੇ ਹਰ ਘੰਟੇ ਦਾ ਖ਼ਰਚਾ ਦੇਣਾ ਪੈਂਦਾ ਹੈ, ਇਸ ਲਈ ਤੇਜ਼ ਸਿਸਟਮ ਦਾ ਮਤਲਬ ਘੱਟ ਬਿੱਲ ਅਤੇ ਜਲਦੀ ਲਾਂਚ ਹੈ। 16 ਨਵੰਬਰ 2026 ਨੂੰ NVIDIA ਨੇ ਕਿਹਾ ਕਿ ਉਸ ਦੇ ਨਵੇਂ Vera Rubin NVL72 ਸਿਸਟਮ ਨੇ MLCommons ਵੱਲੋਂ ਜਾਰੀ MLPerf Training v6.1 ਵਿੱਚ ਹਰ GPU ਪਿੱਛੇ GB300 NVL72 ਨਾਲੋਂ 2x ਤੱਕ ਵੱਧ ਕਾਰਗੁਜ਼ਾਰੀ ਦਿੱਤੀ।

NVIDIA ਦਾ ਇਹ ਵੀ ਕਹਿਣਾ ਹੈ ਕਿ ਇਸ ਦੌਰ ਦੇ ਹਰ ਬੈਂਚਮਾਰਕ ਵਿੱਚ ਨਤੀਜੇ ਦੇਣ ਵਾਲਾ ਉਹ ਇਕੱਲਾ ਪਲੈਟਫ਼ਾਰਮ ਸੀ, ਅਤੇ ਪਹਿਲੀ MLPerf Endpoints ਐਂਟਰੀ ਵਿੱਚ Vera Rubin ਨੇ ਏਜੰਟਿਕ AI ਲਈ GB300 NVL72 ਨਾਲੋਂ ਪ੍ਰਤੀ ਵਾਟ 10x ਤੋਂ ਵੱਧ ਥਰੂਪੁੱਟ ਦਿੱਤਾ। ਦੋਵੇਂ ਸਿਸਟਮ NVIDIA ਦੇ ਹਨ, ਇਸ ਲਈ ਇਹ ਕੰਪਨੀ ਦੇ ਆਪਣੇ ਨਤੀਜਿਆਂ ਬਾਰੇ ਆਪਣੇ ਦਾਅਵੇ ਹਨ।

MLPerf Training v6.1 ਨੇ ਕੀ ਪਰਖਿਆ?

MLPerf Training ਮਾਪਦਾ ਹੈ ਕਿ ਕੋਈ ਸਿਸਟਮ ਮਾਡਲ ਨੂੰ ਟੀਚੇ ਦੀ ਸ਼ੁੱਧਤਾ ਤੱਕ ਕਿੰਨੀ ਤੇਜ਼ੀ ਨਾਲ ਸਿਖਲਾਈ ਦਿੰਦਾ ਹੈ। MLCommons ਮੁਤਾਬਕ ਇਸ ਦੌਰ ਵਿੱਚ 24 ਸੰਸਥਾਵਾਂ ਨੇ 153 ਸਿਸਟਮ ਅਤੇ 250 ਨਤੀਜੇ ਜਮ੍ਹਾਂ ਕਰਵਾਏ। ਕਲਾਊਡ ਸਿਸਟਮ 57 ਸਨ, ਯਾਨੀ ਕੁੱਲ ਦਾ 37%, ਜੋ ਪਿਛਲੇ ਦੌਰ ਦੇ 29% ਤੋਂ ਵੱਧ ਹੈ। 12 ਸਿਸਟਮਾਂ ਨੇ 1,000 ਜਾਂ ਵੱਧ ਐਕਸੀਲੇਰੇਟਰ ਵਰਤੇ ਅਤੇ ਸਭ ਤੋਂ ਵੱਡੇ ਵਿੱਚ 10,240 ਸਨ।

ਦੋ ਬੈਂਚਮਾਰਕ ਨਵੇਂ ਹਨ: ਸਿਫ਼ਾਰਸ਼ੀ ਸਿਸਟਮ ਦਾ ਟੈਸਟ DLRMv4-HSTU, ਅਤੇ Qwen3.5-397B, ਜੋ ਇਸ ਸੂਟ ਦਾ ਪਹਿਲਾ ਪੋਸਟ-ਟ੍ਰੇਨਿੰਗ ਬੈਂਚਮਾਰਕ ਹੈ। NVIDIA ਮੁਤਾਬਕ ਉਸ ਦੇ ਨਤੀਜੇ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲ, ਤਸਵੀਰ ਬਣਾਉਣ, ਸਿਫ਼ਾਰਸ਼ੀ ਸਿਸਟਮ ਅਤੇ ਰੀਇਨਫੋਰਸਮੈਂਟ ਲਰਨਿੰਗ ਪੋਸਟ-ਟ੍ਰੇਨਿੰਗ ਨੂੰ ਕਵਰ ਕਰਦੇ ਹਨ।

ਕਾਲੇ ਪਿਛੋਕੜ ਉੱਤੇ ਚਮਕਦੇ NVIDIA Vera Rubin ਪਲੈਟਫ਼ਾਰਮ ਦੇ ਰੈਕ
ਤਸਵੀਰ: NVIDIA

Vera Rubin ਕਿੰਨੀ ਤੇਜ਼ ਹੈ?

ਮੁੱਖ ਦਾਅਵਾ GB300 NVL72 ਦੇ ਮੁਕਾਬਲੇ ਹਰ GPU ਪਿੱਛੇ ਵਾਧੇ ਦਾ ਹੈ, ਜਿਸ ਨੂੰ NVIDIA ਸ਼ੁਰੂਆਤੀ ਨਤੀਜਾ ਕਹਿੰਦੀ ਹੈ। ਕੰਪਨੀ ਨੇ ਪੈਮਾਨੇ ਉੱਤੇ ਵੀ ਜ਼ੋਰ ਦਿੱਤਾ, ਕਿਉਂਕਿ GPU ਵਧਾਉਣ ਦਾ ਫ਼ਾਇਦਾ ਤਾਂ ਹੀ ਹੈ ਜੇ ਉਹ ਕੁਸ਼ਲਤਾ ਨਾਲ ਮਿਲ ਕੇ ਕੰਮ ਕਰਨ।

  • NVIDIA ਮੁਤਾਬਕ ਹਰ GPU ਪਿੱਛੇ ਕਾਰਗੁਜ਼ਾਰੀ GB300 NVL72 ਨਾਲੋਂ 2x ਤੱਕ ਵੱਧ
  • DeepSeek-V3 ਵਿੱਚ Vera Rubin NVL72 ਲਗਭਗ 97% ਕੁਸ਼ਲਤਾ ਨਾਲ 256 ਤੋਂ 1,024 GPU ਤੱਕ ਵਧਿਆ
  • GPU ਚਾਰ ਗੁਣਾ ਕਰਨ ਨਾਲ ਸਿਖਲਾਈ ਦਾ ਸਮਾਂ 16 ਮਿੰਟ ਤੋਂ ਲਗਭਗ ਚਾਰ ਮਿੰਟ ਰਹਿ ਗਿਆ
  • NVIDIA ਨੇ GB300 ਸਿਸਟਮਾਂ ਨਾਲ 10,240 GPU ਉੱਤੇ ਵੀ ਟੈਸਟ ਚਲਾਇਆ, ਜੋ ਇਸ ਦੌਰ ਦਾ ਸਭ ਤੋਂ ਵੱਡਾ ਪੈਮਾਨਾ ਸੀ, ਅਤੇ Microsoft Azure ਨੇ GB200 ਸਿਸਟਮਾਂ ਦੇ 10,240 GPU ਨਾਲ ਇਸ ਦੀ ਬਰਾਬਰੀ ਕੀਤੀ

NVIDIA ਮੁਤਾਬਕ ਹਰ ਸਿਸਟਮ ਦੇ ਅੰਦਰ GPU NVLink ਨਾਲ ਜੁੜਦੇ ਹਨ, ਅਤੇ ਸਿਸਟਮਾਂ ਨੂੰ Quantum-X800 InfiniBand ਅਤੇ Spectrum-X Ethernet ਜੋੜਦੇ ਹਨ। ਕੰਪਨੀ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਸਾਫ਼ਟਵੇਅਰ ਸੁਧਾਰਾਂ ਨਾਲ Vera Rubin ਦੀ ਕਾਰਗੁਜ਼ਾਰੀ ਹੋਰ ਵਧੇਗੀ।

ਏਜੰਟਿਕ AI ਇਨਫ਼ਰੈਂਸ ਦਾ ਕੀ ਹਾਲ ਹੈ?

MLPerf Endpoints ਏਜੰਟਿਕ ਕੋਡਿੰਗ ਅਤੇ ਕਾਰੋਬਾਰੀ ਵਰਕਫ਼ਲੋ ਨਾਲ ਸਿਸਟਮ ਪਰਖਦਾ ਹੈ ਅਤੇ ਜਾਂਚਦਾ ਹੈ ਕਿ ਏਜੰਟ ਕੰਮ ਸਹੀ ਪੂਰਾ ਕਰਦੇ ਹਨ ਜਾਂ ਨਹੀਂ। ਮਾਪ ਇਹ ਹੈ ਕਿ ਹਰ ਵਾਟ ਬਿਜਲੀ ਨਾਲ ਕਿੰਨੇ ਟੋਕਨ ਬਣਦੇ ਹਨ, ਜੋ ਇਸ ਲਈ ਅਹਿਮ ਹੈ ਕਿ AI ਡਾਟਾ ਸੈਂਟਰ ਬਿਜਲੀ ਨਾਲ ਸੀਮਤ ਹੁੰਦੇ ਹਨ।

ਏਜੰਟ ਕੰਮਾਂ ਲਈ ਬਣੇ ਓਪਨ ਮਾਡਲ Kimi K3 ਦੇ ਆਰਜ਼ੀ ਨਤੀਜੇ ਵਿੱਚ NVIDIA ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ Vera Rubin NVL72 ਨੇ ਉਸੇ ਜਵਾਬ ਰਫ਼ਤਾਰ ਉੱਤੇ GB300 NVL72 ਨਾਲੋਂ ਪ੍ਰਤੀ ਵਾਟ 10x ਤੋਂ ਵੱਧ ਥਰੂਪੁੱਟ ਦਿੱਤਾ, ਤੁਲਨਾ ਪ੍ਰਤੀ ਵਰਤੋਂਕਾਰ ਘੱਟੋ-ਘੱਟ 50 tokens/sec ਦੀ ਸਾਂਝੀ ਸ਼ਰਤ ਉੱਤੇ ਕੀਤੀ ਗਈ। Vera Rubin ਦੀ ਦੌੜ ਵਿੱਚ 32 ਐਕਸੀਲੇਰੇਟਰ ਅਤੇ 100.89 kW ਚਾਲੂ ਪਾਵਰ ਸੀ, ਜਦਕਿ GB300 ਵਿੱਚ 48 ਐਕਸੀਲੇਰੇਟਰ ਅਤੇ 60 kW ਸਨ। NVIDIA ਨੇ ਦੱਸਿਆ ਕਿ Vera Rubin ਦੇ ਅੰਕੜੇ MLCommons ਦੀ ਪੜਤਾਲ ਦੀ ਉਡੀਕ ਵਿੱਚ ਹਨ ਅਤੇ ਬਦਲ ਸਕਦੇ ਹਨ, ਜਦਕਿ GB300 ਦੇ ਨਤੀਜੇ ਪੜਤਾਲੇ ਹੋਏ ਹਨ।

ਕੀਮਤ ਕੀ ਹੈ?

NVIDIA ਨੇ ਇਸ ਐਲਾਨ ਵਿੱਚ Vera Rubin NVL72 ਦੀ ਕੋਈ ਕੀਮਤ ਜਾਂ ਵਿਕਰੀ ਦੀ ਤਾਰੀਖ਼ ਨਹੀਂ ਦੱਸੀ। ਇਹ AI ਡਾਟਾ ਸੈਂਟਰਾਂ ਲਈ ਰੈਕ ਪੱਧਰ ਦੇ ਸਿਸਟਮ ਹਨ, ਇਸ ਲਈ ਇਨ੍ਹਾਂ ਨੂੰ ਵਰਤਣ ਦਾ ਅਸਲੀ ਤਰੀਕਾ ਕਲਾਊਡ ਪ੍ਰਦਾਤਾ ਜਾਂ ਸਿਸਟਮ ਭਾਈਵਾਲ ਹਨ। ਆਪਣੇ ਦੇਸ਼ ਵਿੱਚ ਕੀਮਤ ਅਤੇ ਉਪਲਬਧਤਾ ਬਾਰੇ ਉਨ੍ਹਾਂ ਤੋਂ ਸਿੱਧਾ ਪੁੱਛੋ।

ਇਹ ਕਿਸ ਲਈ ਹੈ?

ਡਾਟਾ ਸੈਂਟਰ ਅਤੇ ਕਲਾਊਡ ਖ਼ਰੀਦਦਾਰ। ਬਿਜਲੀ ਦੀ ਕੁਸ਼ਲਤਾ ਦਾ ਦਾਅਵਾ ਸਭ ਤੋਂ ਧਿਆਨ ਦੇਣ ਯੋਗ ਹੈ, ਕਿਉਂਕਿ ਬਿਜਲੀ ਤੈਅ ਕਰਦੀ ਹੈ ਕਿ ਕਿੰਨੇ ਏਜੰਟ ਚੱਲ ਸਕਦੇ ਹਨ। ਅੰਕੜੇ ਇੱਕ ਬੈਂਚਮਾਰਕ ਅਤੇ ਇੱਕ ਮਾਡਲ ਦੇ ਹਨ, ਇਸ ਲਈ ਆਪਣੇ ਕੰਮ ਦੇ ਨਤੀਜੇ ਮੰਗੋ।

GPU ਕਿਰਾਏ ਉੱਤੇ ਲੈਣ ਵਾਲੇ AI ਡਿਵੈਲਪਰ। ਤੇਜ਼ ਸਿਖਲਾਈ ਨਾਲ ਪ੍ਰਯੋਗਾਂ ਦਾ ਚੱਕਰ ਛੋਟਾ ਹੁੰਦਾ ਹੈ, ਪਰ ਸਿਰਫ਼ ਉਦੋਂ ਜਦੋਂ ਕੋਈ ਪ੍ਰਦਾਤਾ Vera Rubin ਦੇਵੇ ਅਤੇ ਕੀਮਤ ਤੈਅ ਕਰੇ। ਸਰੋਤਾਂ ਵਿੱਚ ਸਮਾਂ ਨਹੀਂ ਦੱਸਿਆ ਗਿਆ।

ਆਮ ਪਾਠਕ। ਅੱਜ ਕੁਝ ਨਹੀਂ ਬਦਲਦਾ। ਇਹ ਨਤੀਜਾ ਸੰਕੇਤ ਦਿੰਦਾ ਹੈ ਕਿ ਨਵੇਂ AI ਫ਼ੀਚਰ ਕਿੰਨੀ ਜਲਦੀ ਸਿਖਾਏ ਅਤੇ ਚਲਾਏ ਜਾ ਸਕਦੇ ਹਨ।

ਜਿਨ੍ਹਾਂ ਨੂੰ ਉਡੀਕ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ। ਜੋ ਇਨ੍ਹਾਂ ਅੰਕੜਿਆਂ ਦੇ ਆਧਾਰ ਉੱਤੇ ਖ਼ਰੀਦ ਦੀ ਯੋਜਨਾ ਬਣਾ ਰਹੇ ਹਨ। Vera Rubin ਦੇ Endpoints ਅੰਕੜੇ ਆਰਜ਼ੀ ਹਨ ਅਤੇ NVIDIA ਸਿਖਲਾਈ ਦੇ ਨਤੀਜਿਆਂ ਨੂੰ ਸ਼ੁਰੂਆਤੀ ਕਹਿੰਦੀ ਹੈ।

ਅਜੇ ਕੀ ਪਤਾ ਨਹੀਂ?

ਐਲਾਨ ਵਿੱਚ ਇਹ ਨਹੀਂ ਦੱਸਿਆ ਗਿਆ ਕਿ Vera Rubin NVL72 ਗਾਹਕਾਂ ਨੂੰ ਕਦੋਂ ਮਿਲੇਗਾ, ਕੀਮਤ ਕੀ ਹੋਵੇਗੀ ਅਤੇ ਹਰ ਬੈਂਚਮਾਰਕ ਵਿੱਚ ਹੋਰ ਕੰਪਨੀਆਂ ਨਾਲ ਤੁਲਨਾ ਕਿਵੇਂ ਰਹੀ। MLCommons ਨੇ AMD ਅਤੇ Google ਨੂੰ ਵੀ ਇਸ ਦੌਰ ਦੇ ਐਕਸੀਲੇਰੇਟਰ ਬਣਾਉਣ ਵਾਲਿਆਂ ਵਿੱਚ ਗਿਣਿਆ ਹੈ, ਇਸ ਲਈ ਪੂਰੇ ਨਤੀਜਿਆਂ ਦਾ ਪੰਨਾ ਤੁਲਨਾ ਲਈ ਵਰਤੋ।

ਪੂਰੀਆਂ ਸਾਰਣੀਆਂ ਲਈ MLCommons ਦਾ ਨਤੀਜਾ ਪੰਨਾ ਅਤੇ ਟੈਸਟਾਂ ਦੇ ਵੇਰਵੇ ਲਈ NVIDIA ਦੇ MLPerf Training ਅਤੇ Endpoints ਤਕਨੀਕੀ ਬਲੌਗ ਪੜ੍ਹੋ।