192GB SOCAMM2搭載LPDDR5X，鞏固美光在AI基礎(chǔ)設(shè)施高能效解決方案的領(lǐng)先地位

2025年10月23日，愛達(dá)荷州博伊西市——在當(dāng)今時(shí)代，人工智能(AI)實(shí)現(xiàn)了前所未有的創(chuàng)新和發(fā)展，整個(gè)數(shù)據(jù)中心生態(tài)系統(tǒng)正在向更節(jié)能的基礎(chǔ)設(shè)施轉(zhuǎn)型，以支持可持續(xù)增長。隨著內(nèi)存在AI系統(tǒng)中逐漸發(fā)揮越來越重要的作用，低功耗內(nèi)存解決方案已成為這一轉(zhuǎn)型的核心。美光科技股份有限公司(納斯達(dá)克股票代碼：MU)近日宣布其192GB SOCAMM2(small outline compression attached memory modules，小型壓縮附加內(nèi)存模塊)已正式送樣，以積極拓展低功耗內(nèi)存在AI數(shù)據(jù)中心的廣泛應(yīng)用。2025年3月，美光發(fā)布了業(yè)界首款LPDRAM SOCAMM，而新一代SOCAMM2則在此基礎(chǔ)上實(shí)現(xiàn)了功能的進(jìn)一步拓展，在相同的規(guī)格尺寸中實(shí)現(xiàn)50%的容量提升，增加的容量可以將實(shí)時(shí)推理工作負(fù)載中首個(gè)token生成時(shí)間(TTFT)顯著縮短80%以上1。192GB SOCAMM2采用美光領(lǐng)先的1-gamma DRAM制程技術(shù)，能效提高20%以上2，有助于實(shí)現(xiàn)大型數(shù)據(jù)中心集群的電源設(shè)計(jì)優(yōu)化。這一能效提升在全機(jī)架AI安裝中尤為顯著，可配置超過40TB的CPU附加低功耗DRAM主存儲(chǔ)3。SOCAMM2的模塊化設(shè)計(jì)提升了可維護(hù)性，并為未來的容量擴(kuò)展奠定了基礎(chǔ)。

基于與NVIDIA的五年合作，美光率先將低功耗服務(wù)器內(nèi)存引入數(shù)據(jù)中心使用。SOCAMM2為AI系統(tǒng)的主存儲(chǔ)帶來了LPDDR5X超低功耗和高帶寬的內(nèi)在優(yōu)勢。SOCAMM2的設(shè)計(jì)旨在滿足大規(guī)模AI平臺(tái)不斷擴(kuò)展的需求，提供AI工作負(fù)載所需的高數(shù)據(jù)吞吐量，同時(shí)實(shí)現(xiàn)新的能效水平，并為AI訓(xùn)練和推理系統(tǒng)設(shè)定新標(biāo)準(zhǔn)。這些優(yōu)勢的結(jié)合將使SOCAMM2成為未來幾年業(yè)界領(lǐng)先AI平臺(tái)的關(guān)鍵內(nèi)存解決方案。

美光資深副總裁暨云端內(nèi)存事業(yè)部總經(jīng)理Raj Narasimhan表示：“隨著AI工作負(fù)載變得更加復(fù)雜而嚴(yán)苛，數(shù)據(jù)中心服務(wù)器必須提升效率，為每瓦特的功率提供更多tokens。憑借在低功耗DRAM領(lǐng)域公認(rèn)的領(lǐng)先地位，美光能確保我們的SOCAMM2模塊提供所需的數(shù)據(jù)吞吐量、能效、容量和數(shù)據(jù)中心級別的品質(zhì)，這些對于驅(qū)動(dòng)下一代AI數(shù)據(jù)中心服務(wù)器至關(guān)重要?！?/p>

通過專門的設(shè)計(jì)功能和增強(qiáng)測試，美光SOCAMM2產(chǎn)品從最初為手機(jī)設(shè)計(jì)的低功耗DRAM升級為數(shù)據(jù)中心級解決方案。多年來，美光在高質(zhì)量數(shù)據(jù)中心DDR內(nèi)存方面的豐富經(jīng)驗(yàn)，使SOCAMM2具備滿足數(shù)據(jù)中心高標(biāo)準(zhǔn)應(yīng)用所需的質(zhì)量與可靠性。

與同等能效的RDIMM相比，SOCAMM2模塊的能效提高了三分之二以上4，同時(shí)將其性能封裝到三分之一大小的模塊中5，不僅優(yōu)化了數(shù)據(jù)中心占地面積，還最大限度地提高了容量和帶寬。SOCAMM的模塊化設(shè)計(jì)和創(chuàng)新的堆疊技術(shù)提高了可維護(hù)性，并有助于液冷服務(wù)器的設(shè)計(jì)。

美光一直是JEDEC SOCAMM2規(guī)范制定的積極參與者，并與行業(yè)合作伙伴密切合作，共同推動(dòng)標(biāo)準(zhǔn)演進(jìn)，加快AI數(shù)據(jù)中心的低功耗應(yīng)用，以助力整個(gè)行業(yè)的能效提升。目前，SOCAMM2樣品已送樣客戶，單一模組容量高達(dá)192GB，速率達(dá)9.6 Gbps，后續(xù)量產(chǎn)作業(yè)將配合客戶的產(chǎn)品推出日程規(guī)劃。

1經(jīng)美光內(nèi)部測試驗(yàn)證的性能提升：使用LMCache GH200 NVL2平臺(tái)(288GB HBM3E+1TB LPDDR5x)上的Llama 3 70B模型進(jìn)行推斷，OSL=128。

2 與美光的上一代LPDDR5X相比。

3 內(nèi)存容量基于NVL144機(jī)架系統(tǒng)，每個(gè)系統(tǒng)可為每36個(gè)CPU集成6個(gè) 192GB的SOCAMM2模組。

4 與兩個(gè)128GB、128位總線寬度的DDR5 RDIMM模組相比，基于一個(gè)128GB、128位總線寬度的SOCAMM2模組的功耗(瓦特)計(jì)算。

5 計(jì)算將SOCAMM2的面積(14 x 90mm)與標(biāo)準(zhǔn)服務(wù)器RDIMM進(jìn)行對比。