第22屆中國(guó)計(jì)算機(jī)大會(huì)（CNCC2025）在“冰城”哈爾濱盛大啟幕，主題為“數(shù)智賦能，無(wú)限可能”。華為數(shù)據(jù)通信產(chǎn)品線研究部部長(zhǎng)鄭曉龍?jiān)诖髸?huì)上發(fā)表題為《大模型推理加速與演進(jìn)：網(wǎng)絡(luò)如何破局？》的演講，首次提出“網(wǎng)絡(luò)+”破局模型，為十萬(wàn)卡智算集群面臨的通信瓶頸提供了創(chuàng)新方案。他指出，在單卡算力提升日益趨緩的背景下，唯有通過(guò)網(wǎng)絡(luò)、計(jì)算與存儲(chǔ)的跨層協(xié)同，才能將集群效率推向全新量級(jí)。

為支持十萬(wàn)卡智算集群的規(guī)?；渴鹋c高效運(yùn)行，華為提出“網(wǎng)絡(luò)+”破局模型，旨在系統(tǒng)化解決超大規(guī)模集群中的通信瓶頸問(wèn)題。該主題演講涵蓋架構(gòu)設(shè)計(jì)、協(xié)議優(yōu)化與調(diào)度策略等多個(gè)層面，為構(gòu)建下一代智算基礎(chǔ)設(shè)施提供完整技術(shù)路徑。

網(wǎng)絡(luò)級(jí)負(fù)載均衡，應(yīng)對(duì)大EP部署帶來(lái)的動(dòng)態(tài)通信模式挑戰(zhàn)，性能提升20%+。

DeepSeek的出現(xiàn)，將大模型架構(gòu)引向了更稀疏的大EP部署。隨之而來(lái)的是通信模式及通信關(guān)系的變化。面對(duì)通信的隨機(jī)性和非對(duì)稱(chēng)性，華為提出的網(wǎng)絡(luò)級(jí)負(fù)載均衡，將通信性能提升20%+，顯著降低P99完成時(shí)間。

從Chat LLM進(jìn)入Agentic AI，“超節(jié)點(diǎn)”助力實(shí)現(xiàn)極致的TPOT需求

大模型應(yīng)用從聊天式的Chat LLM向Agentic AI演進(jìn)，對(duì)于token生成速度的要求從50ms提升到了10ms以下。這在當(dāng)前的部署實(shí)踐中，存在多個(gè)挑戰(zhàn)：推理階段以小消息通信為主，控制面時(shí)延占比高；單純卸載控制面，則會(huì)消耗計(jì)算資源SM。華為推出了CloudMatrix384超節(jié)點(diǎn)及對(duì)應(yīng)的超節(jié)點(diǎn)網(wǎng)絡(luò)，為滿(mǎn)足極致的TPOT需求提供了可能。

多模態(tài)LMM流量混戰(zhàn)，網(wǎng)絡(luò)調(diào)度“四兩撥千斤”，提升推理性能

大模型從語(yǔ)言文本的處理向多模態(tài)轉(zhuǎn)變，智算集群內(nèi)的流量模式也更加復(fù)雜。采用EPD分離的部署方式，引入EP和PD之間的傳輸流量，與推理的all2allv等集合通信流量相互干擾，對(duì)應(yīng)用性能產(chǎn)生很大影響。華為提出了針對(duì)不同流量類(lèi)型進(jìn)行網(wǎng)絡(luò)識(shí)別、隔離不同推理流量、進(jìn)行差異化調(diào)度、提升推理性能的技術(shù)目標(biāo)。

“網(wǎng)絡(luò)+”不是簡(jiǎn)單的帶寬升級(jí)，而是讓網(wǎng)絡(luò)成為AI集群的‘第七代算力’?！编崟札堊詈蠛粲?，華為愿與業(yè)界共建標(biāo)準(zhǔn)，與合作伙伴及行業(yè)組織一起，共同定義大模型時(shí)代的下一代智算網(wǎng)絡(luò)接口。