Noul server AI axat pe memorie provoacă Nvidia

Pe scurt

• Majestic Labs a obținut recent o finanțare de 100 milioane dolari.
• Serverul Prometheus poate susține până la 128 terabaiți de memorie.
• Acesta oferă o capacitate de memorie de 1.000 de ori mai mare comparativ cu sistemele Nvidia.
• Compania preconizează venituri de sute de milioane de dolari până în 2027.

Majestic Labs, fondată de Ofer Shacham, Masumi Reynders și Sha Rabii, a atras atenția în industria tehnologică printr-o finanțare recentă de 100 milioane dolari. Compania se concentrează pe soluționarea problemei cunoscute sub numele de „peretele de memorie”, o provocare frecvent întâlnită în sistemele moderne de inteligență artificială. Această problemă devine din ce în ce mai acută pe măsură ce dimensiunile modelelor AI cresc, iar întârzierea în transferul datelor între unitățile de procesare și memorie afectează performanța generală a sistemelor.

Prometheus, noul server dezvoltat de Majestic Labs, se prezintă ca o soluție inovatoare. Spre deosebire de sistemele tradiționale bazate pe GPU de la Nvidia, Prometheus își concentrează arhitectura în jurul memoriei. Acesta poate suporta până la 128 terabaiți de memorie rapidă, permițând rularea modelelor cu 5 până la 10 trilioane de parametrii fără întârzieri.

Ce inovații aduce Prometheus în domeniul AI?

Prometheus utilizează o tehnologie de interconectare dezvoltată intern, care optimizează utilizarea memoriei DRAM. Aceasta permite viteze de transfer de date mai mari și un consum energetic mai mic, ceea ce se traduce printr-o eficiență sporită atât din punct de vedere al performanței, cât și al costurilor. Având în vedere cererea tot mai mare pentru sistemele AI autonome, acest server răspunde nevoilor actuale ale pieței.

În plus, Majestic Labs subliniază că soluțiile existente pe piață necesită achiziționarea de putere de procesare excesivă pentru a compensa lipsa de memorie, ceea ce duce la costuri inutile. Deși compania nu a dezvăluit numele clienților săi, a menționat că a încheiat deja acorduri care ar putea genera sute de milioane de dolari în venituri până în 2027.

Cum se compară Prometheus cu soluțiile existente?

Pe piață, competiția este acerbă, cu mari jucători din domeniu precum AMD și Nvidia care își intensifică investițiile. AMD își lansează cipurile orientate pe inferență, în timp ce Nvidia colaborează cu Groq pentru a extinde capacitățile sale. De asemenea, Google Cloud a prezentat o nouă generație de TPU care separă procesele de antrenare și inferență, iar Cerebras își întărește poziția prin colaborări cu AWS.

Această dinamică evidențiază nevoia urgentă de soluții eficiente în domeniul AI, iar Prometheus se prezintă ca o alternativă viabilă, adresându-se problemelor de scalabilitate și eficiență.

În concluzie, Prometheus de la Majestic Labs aduce o abordare revoluționară în gestionarea memoriei în sistemele AI, oferind o capacitate semnificativ mai mare decât soluțiile tradiționale. Această inovație ar putea redefini standardele din industrie și ar putea influența modul în care companiile abordează dezvoltarea tehnologiilor AI în viitor.

Întrebări frecvente

Ce este serverul Prometheus?

Prometheus este un server AI dezvoltat de Majestic Labs, axat pe memorie, care poate susține până la 128 terabaiți de memorie.

Cât de multă memorie oferă Prometheus comparativ cu Nvidia?

Prometheus oferă o capacitate de memorie de până la 1.000 de ori mai mare decât sistemele Nvidia.

Ce tehnologie folosește Prometheus pentru interconectare?

Prometheus utilizează o tehnologie de interconectare dezvoltată intern care optimizează utilizarea memoriei DRAM.

Ce venituri preconizează Majestic Labs până în 2027?

Majestic Labs estimează venituri de sute de milioane de dolari din acordurile deja încheiate până în 2027.