91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

華為發(fā)布新一代超節(jié)點(diǎn)產(chǎn)品,支持8192張NPU卡高速互聯(lián)

Carol Li ? 來源:電子發(fā)燒友網(wǎng) ? 作者:李彎彎 ? 2026-03-09 09:19 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群



電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)近日,在世界移動(dòng)通信大會(huì)(MWC26)期間,華為計(jì)算產(chǎn)品線總裁張熙偉首次在海外發(fā)布多款超節(jié)點(diǎn)產(chǎn)品及解決方案,包括Atlas 950 SuperPoD智算超節(jié)點(diǎn)、Atlas 850E超節(jié)點(diǎn)服務(wù)器,以及業(yè)界首款通用計(jì)算超節(jié)點(diǎn)TaiShan 950 SuperPoD,還有TaiShan 500、TaiShan 200等系列化產(chǎn)品。

超節(jié)點(diǎn)技術(shù):AI算力發(fā)展的關(guān)鍵支撐

人工智能快速發(fā)展的當(dāng)下,每月都有新突破。智能體時(shí)代,模型從局限于大語言模型走向全模態(tài)原生融合,萬億級(jí)模型參數(shù)和10萬億級(jí)數(shù)據(jù)訓(xùn)練成為常態(tài),算力需求提升十倍到百倍。同時(shí),模型上下文序列長(zhǎng)度顯著增加,對(duì)內(nèi)存容量和帶寬需求大幅提升。

而且,隨著AI在行業(yè)應(yīng)用中的深入,實(shí)時(shí)性挑戰(zhàn)愈發(fā)凸顯,如金融風(fēng)控場(chǎng)景時(shí)延要求小于20毫秒,反欺詐場(chǎng)景時(shí)延要在10毫秒以下,傳統(tǒng)計(jì)算架構(gòu)難以滿足低時(shí)延要求。單一芯片提升已無法滿足AI算力需求,多芯片互聯(lián)、擴(kuò)大計(jì)算節(jié)點(diǎn)規(guī)模成為必然選擇。

超節(jié)點(diǎn)技術(shù)應(yīng)運(yùn)而生,它是面向AI大模型訓(xùn)練與推理需求的技術(shù)方案。通過高速互聯(lián)協(xié)議與專用交換芯片,將數(shù)十至數(shù)百個(gè)GPU或AI計(jì)算芯片在單機(jī)柜或集群內(nèi)緊密整合,形成邏輯上統(tǒng)一編址、高帶寬、低延遲的協(xié)同計(jì)算系統(tǒng)。其核心目標(biāo)是突破傳統(tǒng)分布式計(jì)算中的“通信墻”瓶頸,提升大規(guī)模并行計(jì)算效率。該技術(shù)具備高算力密度、硬件解耦、開放兼容等特點(diǎn),是構(gòu)建標(biāo)準(zhǔn)化“AI工廠”、提升智算基礎(chǔ)設(shè)施效能的關(guān)鍵路徑。

目前,業(yè)內(nèi)對(duì)超節(jié)點(diǎn)有不同層級(jí)劃分。一是在單機(jī)柜內(nèi)部實(shí)現(xiàn)高速互聯(lián),常稱為“SuperNode”;另一種是由跨機(jī)柜組成的集群級(jí)互聯(lián),如英偉達(dá)提出的“SuperPod”。行業(yè)構(gòu)建大規(guī)模GPU集群主要有兩種方式:Scale-Out(橫向擴(kuò)展)和Scale-Up(縱向擴(kuò)展)。Scale-Out是傳統(tǒng)方法,通過傳統(tǒng)網(wǎng)絡(luò)連接獨(dú)立服務(wù)器組成集群;Scale-Up則是增加單個(gè)節(jié)點(diǎn)內(nèi)資源數(shù)量。超節(jié)點(diǎn)是Scale-Up的重要實(shí)現(xiàn)方式,其內(nèi)部Scale-Up網(wǎng)絡(luò)時(shí)延目標(biāo)為百納秒級(jí),遠(yuǎn)低于Scale-Out網(wǎng)絡(luò)的微秒級(jí),能支撐TP(張量并行)、EP(專家并行)等高通信量任務(wù)。

Scale-Up網(wǎng)絡(luò)追求極致性能,具備高帶寬、低時(shí)延和大內(nèi)存空間三大核心特性。高帶寬方面,提供Tbps級(jí)別互聯(lián)帶寬,如NVL72方案中單GPU提供7.2Tbps帶寬;低時(shí)延方面,目標(biāo)時(shí)延為百納秒級(jí),而Scale-Out網(wǎng)絡(luò)時(shí)延通常在10微秒級(jí)別;大內(nèi)存空間方面,支持統(tǒng)一內(nèi)存編址或內(nèi)存語義,擴(kuò)展有效內(nèi)存容量。

AI訓(xùn)練中,流水線并行(PP)和數(shù)據(jù)并行(DP)通信量相對(duì)較小,可通過Scale-Out網(wǎng)絡(luò)處理,但張量并行(TP)和專家并行(EP)通信量極大,必須依賴Scale-Up網(wǎng)絡(luò)解決。超節(jié)點(diǎn)通過構(gòu)建高帶寬域(HBD),整合大量GPU,降低大規(guī)模集群全局組網(wǎng)復(fù)雜度與運(yùn)維難度,提升資源利用效率。其核心應(yīng)用場(chǎng)景是支撐訓(xùn)練參數(shù)規(guī)模超萬億級(jí)別的AI大模型訓(xùn)練與推理,滿足AI Agent等多模型協(xié)同實(shí)時(shí)交互場(chǎng)景的高頻、海量通信需求。

華為超節(jié)點(diǎn)產(chǎn)品與技術(shù):創(chuàng)新引領(lǐng)算力升級(jí)

去年,華為發(fā)布業(yè)界規(guī)模最大的昇騰384超節(jié)點(diǎn),將384顆昇騰AI芯片連接成集群,提供高達(dá)300PFLOPs的密集BF16算力,性能接近英偉達(dá)GB200 NVL72系統(tǒng)的兩倍。

在芯片互聯(lián)規(guī)模與Scale up網(wǎng)絡(luò)性能上,華為CloudMatrix 384優(yōu)勢(shì)明顯。GB200 NVL72采用整機(jī)柜型超節(jié)點(diǎn)方案,有72個(gè)GPU芯片;而CloudMatrix 384采用分機(jī)柜超節(jié)點(diǎn)方案,計(jì)算節(jié)點(diǎn)和交換節(jié)點(diǎn)分裝不同機(jī)柜(12個(gè)計(jì)算柜和4個(gè)交換柜),Scale up計(jì)算單元由384個(gè)Ascend 910C芯片組成,昇騰芯片數(shù)量增加五倍,彌補(bǔ)了單個(gè)GPU性能不足。其BF16密集算力約300 PFLOPS,Scale up單向帶寬134400 GB/s,約是GB200 NVL72的2.1倍。

CloudMatrix 384的Scale up網(wǎng)絡(luò)采用兩層扁平拓?fù)浼軜?gòu),通過華為自研的靈衢網(wǎng)絡(luò)和靈衢總線設(shè)備互聯(lián)組網(wǎng)。靈衢網(wǎng)絡(luò)L1層由超節(jié)點(diǎn)交換網(wǎng)板承載,L2層由總線設(shè)備柜中的靈衢總線設(shè)備組成,L1 - L2通過光纖組成超節(jié)點(diǎn)集群。L1層每個(gè)計(jì)算節(jié)點(diǎn)集成8個(gè)昇騰910C NPU、4個(gè)鯤鵬CPU,內(nèi)部有7顆板載UB交換芯片;L2層劃分為7個(gè)獨(dú)立子平面,每個(gè)子平面含16個(gè)L2 UB交換芯片,L1交換芯片扇出16條鏈路到對(duì)應(yīng)L2子平面交換芯片,實(shí)現(xiàn)無阻塞全對(duì)等拓?fù)?。該超?jié)點(diǎn)通過3168根光纖和6912個(gè)400G LPO模塊構(gòu)建高速互連總線,在UB平面、RDMA平面等方面有詳細(xì)設(shè)計(jì)。

“靈衢”是華為2025年全聯(lián)接大會(huì)發(fā)布的互聯(lián)技術(shù),是一種面向超節(jié)點(diǎn)的互聯(lián)協(xié)議,將IO、內(nèi)存訪問和處理單元間通信統(tǒng)一在同一體系,實(shí)現(xiàn)高性能數(shù)據(jù)搬移、資源統(tǒng)一管理等。其協(xié)議棧全面完整,基于靈衢的計(jì)算系統(tǒng)部署范圍廣,處理單元地位平等、資源可池化,還支持多種機(jī)制提升性能、增進(jìn)容錯(cuò)性等。

此外,華為發(fā)布的Atlas 950 SuperPoD智算超節(jié)點(diǎn),以單柜64卡為基本單元,最大支持8192張NPU卡高速互聯(lián),在算力規(guī)模、互聯(lián)帶寬等指標(biāo)上領(lǐng)先英偉達(dá),大模型訓(xùn)練效率、可靠性與推理性能大幅提升。Atlas 850E超節(jié)點(diǎn)服務(wù)器適配現(xiàn)有風(fēng)冷機(jī)房,支持8到1024卡靈活擴(kuò)展和快速部署。

軟件生態(tài)方面,華為持續(xù)貢獻(xiàn)openEuler開源操作系統(tǒng),全面開源開放CANN異構(gòu)計(jì)算架構(gòu),通過分層解耦,將算子庫、加速庫、圖計(jì)算、編程語言等軟件代碼全量開源。北向支持PyTorch、vLLM、SGLang等業(yè)界開源社區(qū)和項(xiàng)目,大幅提升開發(fā)者易用性。華為副董事長(zhǎng)、輪值董事長(zhǎng)徐直軍曾表示,盡管受美國制裁,不能產(chǎn)出最先進(jìn)工藝制程的芯片,但基于聯(lián)接技術(shù)能力,華為能做到萬卡級(jí)超節(jié)點(diǎn),實(shí)現(xiàn)世界最強(qiáng)算力。

總結(jié):

華為此次發(fā)布的新一代超節(jié)點(diǎn)產(chǎn)品,在性能和規(guī)模上實(shí)現(xiàn)重大突破,為全球AI發(fā)展提供了強(qiáng)大算力支持。超節(jié)點(diǎn)技術(shù)作為AI算力發(fā)展的關(guān)鍵支撐,通過創(chuàng)新架構(gòu)設(shè)計(jì),有效解決了傳統(tǒng)計(jì)算中的瓶頸問題,滿足了AI大模型訓(xùn)練和推理的嚴(yán)苛需求。華為在超節(jié)點(diǎn)技術(shù)領(lǐng)域的探索和創(chuàng)新,不僅體現(xiàn)在硬件產(chǎn)品的性能提升上,更在于自研協(xié)議和軟件生態(tài)的全面布局。靈衢協(xié)議的推出和CANN異構(gòu)計(jì)算架構(gòu)的開源開放,為開發(fā)者提供了更加便捷、高效的開發(fā)環(huán)境,促進(jìn)了AI技術(shù)的創(chuàng)新和應(yīng)用。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 華為
    +關(guān)注

    關(guān)注

    218

    文章

    36013

    瀏覽量

    262145
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    華為發(fā)布新一代綠色AI站點(diǎn)和GW級(jí)AIDC解決方案

    在MWC26巴塞羅那期間舉辦的產(chǎn)品與解決方案發(fā)布會(huì)上,華為數(shù)字能源副總裁何波發(fā)布新一代AI綠色站點(diǎn)和GW級(jí)AIDC解決方案,在智能體
    的頭像 發(fā)表于 03-05 10:54 ?301次閱讀

    中科曙光3套scaleX萬集群落地國家互聯(lián)網(wǎng)鄭州核心節(jié)點(diǎn)

    2月5日,由中科曙光提供的3套萬集群系統(tǒng)在國家互聯(lián)網(wǎng)鄭州核心節(jié)點(diǎn)同時(shí)上線試運(yùn)行,成為全國首個(gè)實(shí)現(xiàn)3萬
    的頭像 發(fā)表于 02-09 10:32 ?491次閱讀

    福田汽車發(fā)布新一代產(chǎn)品Wonder Plus

    在11月9日舉行的福田汽車2026全球合作伙伴大會(huì)上,福田汽車正式面向全球市場(chǎng)發(fā)布了全新一代產(chǎn)品——Wonder Plus。面對(duì)全球不同末端配送市場(chǎng)的升級(jí)需求,以“
    的頭像 發(fā)表于 11-18 09:39 ?584次閱讀

    昆侖芯節(jié)點(diǎn)亮相,單卡性能提升95%

    ;天池512節(jié)點(diǎn)將于?2026下半年上市,最高支持512互聯(lián)、
    的頭像 發(fā)表于 11-16 07:32 ?1w次閱讀
    昆侖芯<b class='flag-5'>超</b><b class='flag-5'>節(jié)點(diǎn)</b>亮相,單卡性能提升95%

    640節(jié)點(diǎn)問世:國產(chǎn)算力實(shí)現(xiàn)關(guān)鍵

    單機(jī)柜級(jí)640節(jié)點(diǎn)ScaleX640,為如火如荼的算力競(jìng)爭(zhēng)注入了新的變量。 ? 這款被命名為ScaleX640的節(jié)點(diǎn),憑借“
    的頭像 發(fā)表于 11-11 09:26 ?2296次閱讀

    蘭山國投攜手華為重磅發(fā)布瑯琊充興程重充電站

    解決方案打造的瑯琊充興程重充電站也正式發(fā)布。該充電站是全電物流加速的重要里程碑,也是蘭山國投攜手華為構(gòu)建臨沂物流重
    的頭像 發(fā)表于 11-10 14:21 ?646次閱讀

    華為發(fā)布全球最強(qiáng)算力節(jié)點(diǎn)和集群

    華為全聯(lián)接大會(huì)2025(HUAWEI CONNECT 2025)上,華為發(fā)布最強(qiáng)算力節(jié)點(diǎn)和集群,并表示將發(fā)展生態(tài)作為公司核心戰(zhàn)略,提升到
    的頭像 發(fā)表于 10-10 17:29 ?2257次閱讀

    【內(nèi)測(cè)活動(dòng)同步開啟】這么???這么強(qiáng)?新一代大模型MCP開發(fā)板來啦!

    【內(nèi)測(cè)活動(dòng)同步開啟】這么小?這么強(qiáng)?新一代大模型MCP開發(fā)板來啦! 聆思全新一代六合芯片「LS26系列」,搭載WIFI / BLE & BT / NPU,與「小聆AI」強(qiáng)強(qiáng)
    發(fā)表于 09-25 11:47

    華為節(jié)點(diǎn)互聯(lián)技術(shù)引領(lǐng)AI基礎(chǔ)設(shè)施新范式

    今日,華為全聯(lián)接大會(huì)2025在上海啟幕,華為副董事長(zhǎng)、輪值董事長(zhǎng)徐直軍發(fā)表題為“以開創(chuàng)的節(jié)點(diǎn)互聯(lián)技術(shù),引領(lǐng)AI基礎(chǔ)設(shè)施新范式”的主題演講,
    的頭像 發(fā)表于 09-20 16:15 ?2141次閱讀

    面向萬億級(jí)參數(shù)大模型,“節(jié)點(diǎn)”涌現(xiàn)

    UniPoD系列節(jié)點(diǎn)產(chǎn)品,旨在為萬億級(jí)參數(shù)大模型的訓(xùn)練與推理提供更強(qiáng)勁、更智能且更綠色的算力支持。 ? H3C UniPoD系列
    的頭像 發(fā)表于 08-03 02:37 ?8920次閱讀
    面向萬億級(jí)參數(shù)大模型,“<b class='flag-5'>超</b><b class='flag-5'>節(jié)點(diǎn)</b>”涌現(xiàn)

    重磅!華為昇騰384節(jié)點(diǎn)真機(jī)登場(chǎng),中興攜廠商首秀GPU節(jié)點(diǎn)實(shí)力

    作為中國自主的算力核彈,華為昇騰384節(jié)點(diǎn)真機(jī)首次亮相。中興通訊、上海儀電、曦智科技、壁仞科技聯(lián)合打造的光互聯(lián)芯片及
    的頭像 發(fā)表于 07-29 00:45 ?1.2w次閱讀
    重磅!<b class='flag-5'>華為</b>昇騰384<b class='flag-5'>超</b><b class='flag-5'>節(jié)點(diǎn)</b>真機(jī)登場(chǎng),中興攜廠商首秀GPU<b class='flag-5'>超</b><b class='flag-5'>節(jié)點(diǎn)</b>實(shí)力

    華為開發(fā)者大會(huì)2025(HDC 2025)亮點(diǎn):華為發(fā)布盤古大模型5.5 宣布新一代昇騰AI云服務(wù)上線

    HarmonyOS、昇騰AI云服務(wù)、盤古大模型等最新科技創(chuàng)新成果。 在主題演講中,華為常務(wù)董事、華為云計(jì)算CEO張平安宣布基于CloudMatrix384 節(jié)點(diǎn)
    的頭像 發(fā)表于 06-20 20:19 ?4478次閱讀
    <b class='flag-5'>華為</b>開發(fā)者大會(huì)2025(HDC 2025)亮點(diǎn):<b class='flag-5'>華為</b>云<b class='flag-5'>發(fā)布</b>盤古大模型5.5 宣布<b class='flag-5'>新一代</b>昇騰AI云服務(wù)上線

    華為云黃瑾:昇騰云CloudMatrix 384節(jié)點(diǎn)六大科技創(chuàng)新,定義下一代AI基礎(chǔ)設(shè)施

    難以支撐 AI 技術(shù)的代際躍遷,節(jié)點(diǎn)架構(gòu)的誕生不僅是技術(shù)的突破,更是以工程化創(chuàng)新開辟 AI 產(chǎn)業(yè)的新路徑。華為云 CloudMatrix 384
    的頭像 發(fā)表于 05-17 10:31 ?4637次閱讀

    華為兆瓦充重磅產(chǎn)品全新發(fā)布

    近日,上海車展同期,華為智能充電網(wǎng)絡(luò)正式發(fā)布華為兆瓦充等重磅新品,從乘用車的“公里*”到
    的頭像 發(fā)表于 04-25 16:54 ?1356次閱讀

    寶馬發(fā)布新一代智能電子電氣架構(gòu)

    高速數(shù)據(jù)傳輸,為車輛帶來數(shù)字化神經(jīng)系統(tǒng) 慕尼黑2025年3月13日?/美通社/ --?寶馬發(fā)布新一代智能電子電氣架構(gòu),該架構(gòu)是全球首個(gè)覆蓋全動(dòng)力系統(tǒng)和全細(xì)分車型的架構(gòu),該架構(gòu)更智能、更強(qiáng)大、更高效。全新電子電氣架構(gòu)
    的頭像 發(fā)表于 03-13 15:42 ?751次閱讀