寫(xiě)在開(kāi)頭，奇異摩爾的 NDSA 互聯(lián)系列產(chǎn)品基于高性能RoCEv2 RDMA引擎，是面向智算網(wǎng)絡(luò)通信加速及無(wú)損數(shù)據(jù)傳輸?shù)膶?zhuān)用DSA加速解決方案。

本文部分內(nèi)容來(lái)源于麥肯錫白皮書(shū)

隨著摩爾定律下的晶體管縮放速度放緩，單純依靠增加晶體管密度的通用計(jì)算的邊際效益不斷遞減，促使專(zhuān)用計(jì)算日益多樣化，于是，針對(duì)特定計(jì)算任務(wù)的專(zhuān)用架構(gòu)成為計(jì)算創(chuàng)新的焦點(diǎn)。

在過(guò)去的幾十年的時(shí)間里，半導(dǎo)體晶圓上的晶體管密度幾乎每?jī)赡攴环@一趨勢(shì)令人矚目。但在過(guò)去幾年中，晶體管縮放的速度顯著放緩，比摩爾定律預(yù)測(cè)的速度落后了大約十倍。

2018年，著名計(jì)算機(jī)架構(gòu)師約翰·亨尼斯西(John Hennessy)和大衛(wèi)·帕特森(David Patterson)在圖靈講座中指出，半導(dǎo)體工藝創(chuàng)新的放緩將逐漸增加對(duì)架構(gòu)創(chuàng)新的激勵(lì)——即集成電路的設(shè)計(jì)方式，以執(zhí)行計(jì)算任務(wù)。

“他們認(rèn)為，通用計(jì)算架構(gòu)(如CPU)固有的低效性將開(kāi)始被專(zhuān)門(mén)針對(duì)特定計(jì)算任務(wù)的架構(gòu)(也稱(chēng)為領(lǐng)域?qū)Ｓ眉軜?gòu)，DSAs)的計(jì)算能力和成本效益所取代 。”

與此同時(shí)，隨著計(jì)算和數(shù)字化在云計(jì)算(人工智能和高性能計(jì)算)、網(wǎng)絡(luò)、邊緣、物聯(lián)網(wǎng)(IoT)和自動(dòng)駕駛等眾多應(yīng)用領(lǐng)域中普及，高度領(lǐng)域?qū)Ｓ玫挠?jì)算工作負(fù)載正在為DSAs提供有意義的性能優(yōu)勢(shì)。大型語(yǔ)言模型(生成式AI的核心引擎)，例如ChatGPT，在高容量的AI工作負(fù)載中提供了進(jìn)一步的專(zhuān)業(yè)化，這促進(jìn)了進(jìn)一步的硬件專(zhuān)業(yè)化。 DSA(domain-specific architecture)為特定應(yīng)用領(lǐng)域開(kāi)發(fā)的硬件和軟件的商業(yè)潛力是巨大的。專(zhuān)用的圖形處理單元 (GPU) 和張量處理單元 (TPU) 已經(jīng)在數(shù)據(jù)中心獲得了重要的市場(chǎng)份額，它們?cè)?AI 工作負(fù)載學(xué)習(xí)和推理方面的表現(xiàn)優(yōu)于 CPU。使用GPU和TPU對(duì)某些應(yīng)用的性能提升是非常顯著的，特定工作負(fù)載的可以實(shí)現(xiàn)15 到 50 倍的加速。此外，在汽車(chē)領(lǐng)域，來(lái)自領(lǐng)先供應(yīng)商的定制的專(zhuān)用于某些計(jì)算場(chǎng)景的DSA硬件也提供了安全支持日益提高的自動(dòng)駕駛水平所需的低延遲、高性能推理。

隨著 DSA 擴(kuò)展到其他應(yīng)用領(lǐng)域，麥肯錫咨詢(xún)估計(jì)到 2026 年，DSA 將占約 900 億美元的收入(約占全球半導(dǎo)體市場(chǎng)的 10% 至 15%)，高于 2022 年的約 400 億美元。因此，我們看到在這個(gè)方向的硬件類(lèi)的風(fēng)險(xiǎn)投資顯著增加也就不足為奇了。

01 算力革命下的高性能網(wǎng)絡(luò)DSA

隨著人工智能及高性能計(jì)算的高速發(fā)展，服務(wù)器集群的瓶頸逐漸從單CPU、GPU、APU的算力轉(zhuǎn)換到硬件間的互聯(lián)能力。傳統(tǒng)的數(shù)據(jù)中心架構(gòu)中包含CPU、內(nèi)存、存儲(chǔ)和網(wǎng)絡(luò)等組件，但CPU目前已經(jīng)公認(rèn)不再是運(yùn)行基礎(chǔ)設(shè)施功能的最佳位置了。對(duì)于下一代數(shù)據(jù)中心而言，面向網(wǎng)絡(luò)加速的DSA將扮演重要的角色，根據(jù)不同應(yīng)用場(chǎng)景的需求，加速數(shù)據(jù)傳輸。同時(shí)，以太網(wǎng)速度從25G增加到100G、200G、400G，再到800G，甚至還有持續(xù)增長(zhǎng)的趨勢(shì)，超大規(guī)模數(shù)據(jù)中心的硬件架構(gòu)在逐漸轉(zhuǎn)變。

據(jù)估計(jì)，對(duì)于超大規(guī)模數(shù)據(jù)中心來(lái)說(shuō)，大約有一半的CPU被用在了非創(chuàng)收型任務(wù)上。網(wǎng)絡(luò)DSA可以承擔(dān)大部分繁重的工作，將CPU解放出來(lái)，專(zhuān)注于創(chuàng)收的應(yīng)用處理上。同時(shí)，由于功能和作用不同，北向網(wǎng)絡(luò)和高帶寬域在設(shè)計(jì)時(shí)側(cè)重點(diǎn)不同。北向網(wǎng)絡(luò)側(cè)重于網(wǎng)絡(luò)控制與管理，主要是網(wǎng)絡(luò)控制器與上層應(yīng)用之間的接口和通信。高帶寬域網(wǎng)絡(luò)側(cè)重于數(shù)據(jù)傳輸性能，旨在提供高速度、低延遲的網(wǎng)絡(luò)連接?；赗oCE的RDMA技術(shù)，兼容現(xiàn)有的以太網(wǎng)基礎(chǔ)設(shè)施，擁抱開(kāi)放生態(tài)，是業(yè)界解決高帶寬域網(wǎng)絡(luò)與北向網(wǎng)絡(luò)數(shù)據(jù)傳輸?shù)闹匾鉀Q方案。

02 Chiplet設(shè)計(jì)方法與DSA的完美結(jié)合

結(jié)合Chiplet設(shè)計(jì)方法學(xué)與DSA的設(shè)計(jì)，可以構(gòu)建出高效、靈活且高度定制化的計(jì)算平臺(tái)。Chiplet設(shè)計(jì)方法學(xué)通過(guò)將處理器設(shè)計(jì)拆分為多個(gè)獨(dú)立的Chiplet，每個(gè)Chiplet可以針對(duì)特定功能進(jìn)行優(yōu)化。這樣可以在設(shè)計(jì)、制造和測(cè)試中提高靈活性。同時(shí)，不同的Chiplet分工明確，可以專(zhuān)門(mén)處理不同的任務(wù)，例如CPU核心、內(nèi)存控制器、I/O接口等。而DSA針對(duì)特定計(jì)算任務(wù)進(jìn)行優(yōu)化，例如生成式人工智能、圖形處理、網(wǎng)絡(luò)處理等，相比于通用處理器，DSA在其特定領(lǐng)域內(nèi)具有更高的性能和能效比。

通過(guò)Chiplet方法學(xué)，可以將多個(gè)DSA集成到一個(gè)系統(tǒng)中，創(chuàng)建一個(gè)高度定制化的平臺(tái)。比如，一個(gè)系統(tǒng)可以包含CPU、GPU、TPU、DPU等Chiplet，根據(jù)應(yīng)用需求靈活組合。在這一背景下，組件之間的高速可連接對(duì)于確保順利快速的數(shù)據(jù)傳輸至關(guān)重要?；ヂ?lián)標(biāo)準(zhǔn)、帶寬、延遲和低延遲是關(guān)鍵指標(biāo)。

03奇異摩爾NDSA網(wǎng)絡(luò)加速與無(wú)損數(shù)據(jù)傳輸解決方案

在智算中心領(lǐng)域，奇異摩爾 的NDSA互聯(lián)系列產(chǎn)品復(fù)用以太網(wǎng)基礎(chǔ)設(shè)施，基于高性能RoCEv2 RDMA引擎，面向智算網(wǎng)絡(luò)通信加速及無(wú)損數(shù)據(jù)傳輸?shù)膶?zhuān)用DSA加速解決方案。

AI原生智能網(wǎng)卡

奇異摩爾的Kiwi NDSA-SNIC AI原生智能網(wǎng)卡針對(duì)網(wǎng)絡(luò)數(shù)據(jù)傳輸，基于RoCE V2 RDMA技術(shù)，自適應(yīng)網(wǎng)絡(luò)調(diào)度算法，搭載可編程加速核心SDPU，高達(dá)800G傳輸帶寬，實(shí)現(xiàn)Tb級(jí)萬(wàn)卡集群無(wú)損數(shù)據(jù)傳輸。

高性能網(wǎng)絡(luò)加速芯粒

奇異摩爾的高性能網(wǎng)絡(luò)加速芯粒 – Kiwi NDSA互聯(lián)芯粒針對(duì)高帶寬域數(shù)據(jù)傳輸，基于RoCEv2 RDMA技術(shù)，單芯粒傳輸帶寬高達(dá)800G，攜帶UCIe-D2D芯?？蓴U(kuò)展互聯(lián)接口，實(shí)現(xiàn)集群內(nèi)TB級(jí)的高速通信。

寫(xiě)在最后，無(wú)論是在高性能計(jì)算領(lǐng)域還是在人工智能領(lǐng)域，我們會(huì)預(yù)見(jiàn)更多加速數(shù)據(jù)傳輸?shù)腄SA問(wèn)世。它們通過(guò)提供高吞吐量效率，計(jì)算節(jié)點(diǎn)之間的超快速互連，或提升人工智能訓(xùn)練的效率，為半導(dǎo)體價(jià)值鏈的參與者及其客戶(hù)帶來(lái)更多的革新和挑戰(zhàn)。