HBM（High Bandwidth Memory，高帶寬存儲(chǔ)）已成為現(xiàn)代高端FPGA的一個(gè)重要標(biāo)志和組成部分，尤其是在對(duì)帶寬要求越來越高的現(xiàn)如今，DDR已經(jīng)完全跟不上節(jié)奏。本篇將分享學(xué)習(xí)一下HBM的基本情況。

什么是HBM

高帶寬存儲(chǔ)（HBM）是三星、AMD和SK Hynix推出的基于3D堆疊同步動(dòng)態(tài)隨機(jī)存取存儲(chǔ)器（SDRAM）的高速計(jì)算機(jī)內(nèi)存接口。它使用在高性能圖形加速器、網(wǎng)絡(luò)設(shè)備、高性能數(shù)據(jù)中心AI ASIC和FPGA以及一些超級(jí)計(jì)算機(jī)中。（如NEC SX-Aurora TSUBASA和富士通A64FX） 第一款HBM芯片是由SK Hynix在2013年生產(chǎn)的，而2015年AMD首次研發(fā)了使用這種技術(shù)的GPU芯片。

2013年10月，JEDEC（電子器件工程聯(lián)合會(huì)）采用高帶寬內(nèi)存作為行業(yè)標(biāo)準(zhǔn)。第二代HBM2，于2016年1月被JEDEC所承認(rèn)。

HBM memory on an AMD Radeon R9 Nano graphics card‘s GPU package

HBM及其接口

HBM以比DDR4或GDDR5功耗更低，帶寬更高。這是通過堆疊8個(gè)DRAM die（3D集成電路）來實(shí)現(xiàn)的，包括可選的基die（通常是硅interposer）和memory控制器，該控制器通過硅通孔（TSV）和微突點(diǎn)（microbump）相互連接。HBM技術(shù)與Micron的Hyrid Memory Cube技術(shù)在原理上相似，但不是一回事。

與其他DRAM內(nèi)存（如DDR4或GDDR5）相比，HBM內(nèi)存總線非常寬。一個(gè)HBM stack由4個(gè)DRAM die（4-Hi）堆疊而成，并擁有8個(gè)128位信道（每個(gè)die上2個(gè)），總寬度為1024位。因此，具有四個(gè)4-Hi HBM stack的GPU將擁有4096位寬度的內(nèi)存總線。相比之下，GDDR存儲(chǔ)器的總線寬度為32位，同樣16個(gè)信道則只具有512位存儲(chǔ)器接口。HBM支持每個(gè)package的容量最多為4GB。

HBM DRAM與具有分布式接口的主計(jì)算die進(jìn)行緊密耦合。該接口被分為若干完全獨(dú)立的信道但信道間不一定完全同步。HBM DRAM使用wide-interface架構(gòu)來實(shí)現(xiàn)高速、低功耗運(yùn)算。HBM DRAM使用一個(gè)500MHz的差分時(shí)鐘CK_t/CK_c（其中后綴“_t”表示差分對(duì)的“真”或“正”分量，“_c”代表“互補(bǔ)”分量）。命令在CK_t，CK_c的上升沿進(jìn)行寄存。每個(gè)信道接口管理一個(gè)128位的數(shù)據(jù)總線，以雙倍數(shù)據(jù)速率（DDR）運(yùn)行。HBM支持每個(gè)pin上1GT/s的傳輸速率（傳輸1bit），提供128GB/s的總package帶寬。

HBM2

第二代高帶寬存儲(chǔ)，HBM2，該標(biāo)準(zhǔn)指定了每個(gè)stack多達(dá)8個(gè)die，將pin傳輸速率提高一倍來到2GT/s。保留1024位寬的存取，HBM2能夠達(dá)到每個(gè)package 256GB/s存儲(chǔ)帶寬。HBM2規(guī)范允許每個(gè)package容量高達(dá)8GB。HBM2對(duì)性能敏感的消費(fèi)類應(yīng)用，如虛擬現(xiàn)實(shí)，特別有吸引力。

HBM2 die

HBM2 Controller die

HBM2 規(guī)范演進(jìn)

HBM2E

2018年底，JEDEC宣布了對(duì)HBM2規(guī)范的更新，增加了帶寬和容量。官方規(guī)范現(xiàn)在支持每堆棧高達(dá)307GB/s（2.5Tbit/s有效數(shù)據(jù)速率），盡管以此速度運(yùn)行的產(chǎn)品已經(jīng)問世。此外，該更新還增加了對(duì)12-Hi stack（12個(gè)die）的支持，使每個(gè)堆棧的容量高達(dá)24GB。2019年3月20日，三星宣布了他們的Flashbolt HBM2E，每stack 8個(gè)die，傳輸率為3.2GT/s，每stack可提供410GB/s帶寬。2019年8月12日，SK Hynix發(fā)布了他們的HBM2E，每stack8個(gè)die，傳輸速率為3.6GT/s，每stack可提供460GB/s帶寬。

HBM2E 和LPDDR5/4以及GDDR6對(duì)比

各類型存儲(chǔ)的平均器件功耗

下一代HBM

2020年底，Micron公司發(fā)布了下一代標(biāo)準(zhǔn)HBMnext并表示將全程參與JEDEC的標(biāo)準(zhǔn)制定工作，預(yù)計(jì)2022年面世。這個(gè)未來很有可能是HBM3的標(biāo)準(zhǔn)很可能還是服務(wù)于數(shù)據(jù)中心。

Intel在其Stratix10 MX上集成了HBM2接口。

Xilinx則是將HBM集成到了其Ultrascale+器件中。

近年來，F(xiàn)PGA廠商對(duì)HBM的態(tài)度甚至比GPU廠商還要積極，隨著數(shù)據(jù)中心上越來越高的性能要求，相信帶有HBM3的FPGA也會(huì)在不遠(yuǎn)的未來和大家見面。

原文標(biāo)題：現(xiàn)代高端FPGA的重要拼圖：HBM

文章出處：【微信公眾號(hào)：FPGA之家】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。