電子發(fā)燒友網(wǎng)報道（文/周凱揚）隨著AI芯片逐漸成為半導體市場的香餑餑，與之相關(guān)的附屬產(chǎn)物也在不斷升值，被一并炒熱。就拿高帶寬內(nèi)存HBM來說，無論是英偉達的GPU芯片，還是初創(chuàng)公司打造的AI芯片，又或是大型CSP自研的服務器芯片，都開始引入HBM。

成為新時代另一主流的HBM

過去HBM主要用于AMD或英偉達的高端GPU產(chǎn)品中，這與成本息息相關(guān)，比如額外的硅中介層、更大的封裝等，增加的系統(tǒng)成本使得HBM只會出現(xiàn)在一些頂級消費級產(chǎn)品中，甚至兩者最終都在消費級產(chǎn)品上放棄了HBM，改用于數(shù)據(jù)中心這樣的企業(yè)級場景。

可隨著人工智能/機器學習的需求驅(qū)動這類產(chǎn)品用量增長，內(nèi)存墻的瓶頸開始顯現(xiàn)。我們不再缺超高性能的CPU，缺的反而是超高性能的GPU/AI加速器，以及更高帶寬的內(nèi)存，應對大量低延時的數(shù)據(jù)移動。

所以HBM被認為是AI/ML時代下的首選內(nèi)存，為某些算法提供了訓練所需的最大帶寬，比如最近英偉達公布的第二代Grace Hopper Superchip，就分成了不同GPU內(nèi)存配置的版本，率先推出的是搭載96GB HBM3的版本，明年第二季度將推出搭載144GB HBM3e的版本。

HBM的市場供應已經(jīng)發(fā)生變動

要說HBM的供應商，主要是SK海力士、三星和美光。TrendForce通過當下各大供應商的生產(chǎn)計劃數(shù)據(jù)分析，內(nèi)存廠商正在提高其產(chǎn)能，比如擴大TSV產(chǎn)線等。預計到2024年，HBM供應將增加105%。其中SK海力士因為收獲了來自英偉達的大量訂單，所以尚且占據(jù)頭號交椅的位置。而在三星的奮起直追下，已經(jīng)拉近了與SK海力士的市占比距離。

三星作為存儲廠商和晶圓代工廠，既提供了HBM方案也提供了對應的多HBM封裝方案，這種一站式的方案也收獲了更多的訂單。根據(jù)韓媒的報道，三星與可能會與英偉達在年末達成服務與供應協(xié)議，為英偉達的H100以之后搭載HBM3的芯片提供HBM產(chǎn)能，

至于美光雖然也有HBM產(chǎn)品，但主要優(yōu)勢還是在傳統(tǒng)內(nèi)存上?？呻S著生成式AI一炮走紅之后，美光也開始決心在HBM產(chǎn)品上奮起直追。比如上個月底，美光就基于其先進的1β工藝節(jié)點，發(fā)布了業(yè)界首個8-high 24GB HBM3第二代產(chǎn)品，帶寬可達1.2TB/s以上，并宣布已經(jīng)開始送樣。

美光也在通稿中專門提到了該HBM產(chǎn)品對于GPT-4等生成式AI應用起到的助力，比如為AI推理提供更高的能效比，以及為運營者提供更優(yōu)的TCO解決方案。此外，美光已經(jīng)開始準備12-high的36GB版本，并計劃于2024年第一季度送樣。

至于HBM的價格問題，鑒于目前主流芯片用的還是HBM2和HBM2e，且出貨量仍在增加，所以短期內(nèi)不會有太大的波動。不過，TrendForce預計隨著HBM3的推出，以及H100等基于HBM3設計的AI芯片逐漸面世，老一代HBM內(nèi)存的價格應該會有所下跌，讓位給ASP價格更高但性價比依然有所提升的HBM3。

小結(jié)

盡管HBM以及后續(xù)迭代的版本解決了當下AI計算的內(nèi)存墻問題，但內(nèi)存廠商們考慮到傳統(tǒng)內(nèi)存最近的庫存情況，明顯對于滿足客戶需求、擴大市場份額以及避免產(chǎn)能過剩有了新的權(quán)衡，在產(chǎn)能擴張的決策上也會更加謹慎。