Micron oferă SOCAMM2 cu cea mai mare capacitate din industrie pentru DRAM de consum redus în centrul de date AI
Într-o eră de inovație și creștere fără precedent în domeniul inteligenței artificiale, întregul ecosistem al centrelor de date se transformă către o infrastructură mai eficientă din punct de vedere energetic, pentru a susține creșterea sustenabilă. Memoria jucând un rol din ce în ce mai important în sistemele de inteligență artificială, soluțiile de memorie cu consum redus de energie au devenit esențiale pentru această transformare. Micron Technology, Inc. a anunțat eșantionarea de către clienți a modulelor de memorie SOCAMM2 (module de memorie cu compresie de contur mic) de 192 GB pentru a permite adoptarea pe scară mai largă a memoriei cu consum redus de energie în centrele de date cu inteligență artificială. SOCAMM2 extinde capacitățile primului SOCAMM LPDRAM de pe piață de la Micron, oferind cu 50% mai multă capacitate în aceeași amprentă compactă. Capacitatea adăugată poate reduce semnificativ timpul până la primul token (TTFT) cu peste 80% în sarcinile de lucru cu inferență în timp real.
SOCAMM2 de 192 GB utilizează cea mai avansată tehnologie de procesare DRAM 1-gamma de la Micron pentru a oferi o îmbunătățire de peste 20% a eficienței energetice, permițând în continuare optimizarea designului energetic al clusterelor mari de centre de date. Aceste economii devin destul de semnificative în instalațiile AI full-rack, care pot include peste 40 de terabytes de memorie principală DRAM de consum redus, atașată la CPU. Designul modular al SOCAMM2 îmbunătățește mentenanța și pune bazele pentru extinderea viitoare a capacității.
Bazându-se pe o colaborare de cinci ani cu NVIDIA, Micron a fost pionier în utilizarea memoriei de server cu consum redus de energie în centrele de date. SOCAMM2 oferă avantajele inerente ale LPDDR5X – consum excepțional de redus de energie și lățime de bandă mare – memoriei principale a sistemelor de inteligență artificială. Conceput pentru a satisface cerințele în continuă evoluție ale platformelor de inteligență artificială cu context masiv, SOCAMM2 oferă debitul ridicat de date necesar pentru sarcinile de lucru de inteligență artificială, oferind în același timp noi niveluri de eficiență energetică, stabilind un nou standard pentru sistemele de antrenament și inferență în domeniul inteligenței artificiale. Această combinație de avantaje va face din SOCAMM2 o soluție cheie de memorie pentru platformele de inteligență artificială de vârf în anii următori.
„Pe măsură ce sarcinile de lucru de inteligență artificială devin mai complexe și mai solicitante, serverele centrelor de date trebuie să atingă o eficiență sporită, oferind mai multe token-uri pentru fiecare watt de putere”, a declarat Raj Narasimhan, vicepreședinte senior și director general al unității de afaceri Cloud Memory a Micron. „Liderismul dovedit al Micron în domeniul DRAM cu consum redus de energie asigură că modulele noastre SOCAMM2 oferă debitul de date, eficiența energetică, capacitatea și calitatea de clasă a centrelor de date, esențiale pentru alimentarea următoarei generații de servere de centre de date de inteligență artificială.”
Prin caracteristici de design specializate și teste îmbunătățite, produsele Micron SOCAMM2 transformă memoria DRAM de consum redus, inițial concepută pentru telefoane mobile, în soluții de clasă pentru centre de date. Experiența vastă în memoria DDR de înaltă calitate pentru centre de date ajută Micron să se asigure că SOCAMM2 îndeplinește cerințele stricte de calitate și fiabilitate ale clienților noștri din centrele de date.
SOCAMM2 îmbunătățește eficiența energetică cu peste două treimi în comparație cu RDIMM-urile echivalente, încorporând în același timp performanța sa într-un modul cu o treime mai mic, optimizând amprenta centrului de date și maximizând capacitatea și lățimea de bandă. Designul modular și tehnologia inovatoare de stivuire a SOCAMM îmbunătățesc service-ul și ajută la proiectarea serverelor răcite cu lichid.
Micron a fost un participant activ la definirea specificațiilor JEDEC SOCAMM2 și colaborează îndeaproape cu partenerii din industrie pentru a promova standarde care vor accelera adoptarea consumului redus de energie în centrele de date cu inteligență artificială pentru a îmbunătăți eficiența energetică în întreaga industrie. Mostrele clienților SOCAMM2 sunt livrate acum în capacități de până la 192 GB per modul și viteze de până la 9,6 Gbps, cu o producție de volum mare aliniată la programele de lansare ale clienților.
About The Author
