HBX-G500是一款為AI、計(jì)算和網(wǎng)絡(luò)領(lǐng)域設(shè)計(jì)的高性能可編程加速器卡。它配備了多通道的高帶寬存儲(chǔ)和高效能計(jì)算能力，以及先進(jìn)的高速接口解決方案，特別適用于運(yùn)行大型模型。即便在小批量數(shù)據(jù)處理時(shí)，它的性能也能媲美A100和H100。

該加速器卡搭載了兩組PCIe GEN5接口，并配備了兩個(gè)400GbE和一個(gè)200Gbe網(wǎng)絡(luò)接口，以及32GB的GDDR6存儲(chǔ)單元。

它還具備一個(gè)包含超過(guò)80個(gè)節(jié)點(diǎn)的2DNOC網(wǎng)絡(luò)和2560個(gè)高度可配置的MLP計(jì)算核心，以支持密集型計(jì)算任務(wù)。2DNOC不僅連接了高速接口和存儲(chǔ)單元，而且還連接了Fabric的80個(gè)節(jié)點(diǎn)，使得用戶可以更專注于功能開發(fā)。總線路由問(wèn)題可以簡(jiǎn)單地通過(guò)NOC連接來(lái)解決。

板卡功能：

兩路PCIe Gen5 ，其中PCIe Gen5X16支持系統(tǒng)接口，PCIeGen5X4可同時(shí)支持RC/EP

兩路網(wǎng)口，速率可達(dá)400Gbe以及200Gbe，且支持向下速率兼容

32GBGDDR6，市面上為數(shù)不多的支持GDDR6的FPGA板卡，支持16通路訪問(wèn)，內(nèi)存帶寬可達(dá)3.5Tbps

FPGA可支持達(dá)1500K LE

FPGA支持2560高性能計(jì)算核心（MLP）

每個(gè)MLP最大支持32個(gè)乘法器，可根據(jù)數(shù)據(jù)位寬的變化做調(diào)整

專屬內(nèi)嵌的LRAM/BRAM可緩存數(shù)據(jù)或者快速反饋結(jié)

支持整型（INT16/INT8/INT4）、浮點(diǎn)(FP24/FP16)、BFP

INT8總算力約61Tops

支持通用串行總線（USB）JTAG配置、PCIe加載

支持上電自加載，1GB QSPI閃存 板卡規(guī)格:

尺寸：高度：111.15mm 長(zhǎng)度：275mm

工作電壓：外部?jī)陕?12VDC

適用AI應(yīng)用的架構(gòu)特性：

2D NOC的高效路由架構(gòu)讓用戶可以集中精力于開發(fā)：

它支持廣泛采用的AXI4標(biāo)準(zhǔn)接口。

NOC的工作頻率可達(dá)2Ghz，數(shù)據(jù)傳輸寬度為256位。

主機(jī)通過(guò)PCIe接口，可以直接通過(guò)NOC的黃色區(qū)域訪問(wèn)16條通道的GDDR6存儲(chǔ)。

主機(jī)通過(guò)PCIe，同樣可以通過(guò)NOC的黃色區(qū)域直接訪問(wèn)連接在NAP上的任意功能單元。

功能單元能夠通過(guò)NOC直接訪問(wèn)存儲(chǔ)資源（GDDR6或DDR）。

不同功能單元之間可以通過(guò)NOC進(jìn)行高效互聯(lián)。

審核編輯：劉清