Nvidia Vera Rubin a intrat în producție: pregătită pentru fabricile AI

Pe scurt

• Vera Rubin include 336 miliarde de tranzistori în GPU și 227 miliarde în CPU.
• Sistemul oferă o lățime de bandă de 22 TB/s pentru GPU-uri, de aproape 2,8 ori mai mult decât generația anterioară.
• Se estimează o reducere de 10 ori a costurilor cu token-urile în procesul de inferență.
• Primele sisteme vor fi livrate clienților în acest an.

Nvidia a anunțat recent că platforma Vera Rubin a intrat în producție, marcând un pas important în dezvoltarea de soluții pentru fabricile de inteligență artificială. Această platformă complexă este compusă din șase componente esențiale, inclusiv un GPU Rubin cu 336 miliarde de tranzistori și un CPU Vera cu 227 miliarde de tranzistori. Acestea sunt concepute pentru a fi integrate în sistemele DGX, HGX și MGX, oferind o soluție unificată pentru procesarea datelor.

Sistemul central al platformei este denumit Vera Rubin Superchip, care include două GPU-uri Rubin și un CPU Vera, susținute de memorie HBM4 și LPDDR5X. Aceste componente avansate sunt esențiale pentru a asigura performanțe ridicate în aplicațiile de inteligență artificială.

Ce performanțe oferă platforma Vera Rubin?

Rubin GPU oferă o lățime de bandă de 22 TB/s, ceea ce reprezintă o îmbunătățire semnificativă față de generația anterioară, cu o capacitate de transfer de date de 2,8 ori mai mare. De asemenea, NVLink oferă o lățime de bandă de 3,6 TB/s pe GPU, facilitând transferul rapid de date între componentele sistemului.

Vera CPU este, de asemenea, un element cheie, promițând o creștere a performanței de aproape două ori în comparație cu procesoarele Grace, în special în sarcinile de procesare a datelor și CI/CD. Această capacitate sporită va permite utilizatorilor să gestioneze sarcini complexe cu o eficiență mai mare.

Cum va schimba Vera Rubin economia AI?

Nvidia susține că platforma Vera Rubin nu doar că va îmbunătăți performanțele, ci va și transforma economia inteligenței artificiale. Conform estimărilor companiei, arhitectura Rubin ar putea reduce costurile cu token-urile în procesul de inferență cu până la 10 ori. De asemenea, se preconizează că numărul de GPU-uri necesare pentru antrenarea modelelor Mixture of Experts (MoE) va fi redus de patru ori, ceea ce va permite companiilor să optimizeze resursele utilizate în procesele de învățare automată.

Primele sisteme bazate pe platforma Vera Rubin vor fi livrate clienților în acest an, fiind integrate atât în infrastructuri DGX SuperPOD, cât și în centre de date mai mari. Aceasta reprezintă o oportunitate semnificativă pentru organizațiile care doresc să adopte soluții AI avansate și eficiente.

Întrebări frecvente

Ce este Nvidia Vera Rubin?

Nvidia Vera Rubin este o platformă avansată de procesare AI, compusă din GPU-uri și CPU-uri de ultimă generație.

Când vor fi livrate primele sisteme Vera Rubin?

Primele sisteme bazate pe platforma Vera Rubin vor fi livrate clienților în acest an.

Ce performanțe oferă GPU-urile Rubin?

GPU-urile Rubin oferă o lățime de bandă de 22 TB/s, ceea ce reprezintă o îmbunătățire semnificativă față de modelele anterioare.

Cum va afecta Vera Rubin economia AI?

Vera Rubin ar putea reduce costurile cu token-urile în procesul de inferență cu până la 10 ori și va optimiza resursele necesare pentru antrenarea modelelor AI.

Despre acest articol

Sursă originală: donanimhaber.com

Acest articol a fost redactat de redacția TechnoLife pe baza informațiilor din sursa citată, cu asistența unor instrumente AI pentru traducere și structurare. Conținutul este verificat editorial înainte de publicare. Pentru orice corecție factuală, ne poți contacta prin pagina de Contact.