近日,中國聯(lián)通在合作伙伴大會(huì)期間舉辦CUBE-Net 3.0新突破——下一代互聯(lián)網(wǎng)系列成果發(fā)布會(huì)。中國聯(lián)通集團(tuán)建設(shè)發(fā)展部副總經(jīng)理呂洪濤、中國聯(lián)通研究院副院長唐雄燕、上海聯(lián)通副總經(jīng)理歐大春、華為數(shù)據(jù)通信產(chǎn)品線路由器領(lǐng)域總裁蔡駿等共同發(fā)布業(yè)界首個(gè)隱私數(shù)據(jù)零泄露的分布式訓(xùn)推試點(diǎn)成果,這標(biāo)志著中國聯(lián)通與華為在智算廣域網(wǎng)解決方案技術(shù)研究領(lǐng)域的合作邁入新階段。
當(dāng)前,DeepSeek加速AI普惠化,各行各業(yè)紛紛布局AI應(yīng)用,助力企業(yè)數(shù)智化轉(zhuǎn)型。企業(yè)自建算力成本高、場(chǎng)地受限,租用算力又面臨數(shù)據(jù)安全風(fēng)險(xiǎn)。如何保障算力靈活供應(yīng)的同時(shí)確保數(shù)據(jù)安全,成為智算服務(wù)快速惠及千行百業(yè)的關(guān)鍵問題。
中國聯(lián)通與華為合作成功在上海金橋與臨港數(shù)據(jù)中心間完成業(yè)界首例基于模型分割學(xué)習(xí)的分布式邊云協(xié)同訓(xùn)推技術(shù)方案驗(yàn)證。通過部署AINet智算網(wǎng)關(guān),實(shí)現(xiàn)分割學(xué)習(xí)、邊云協(xié)同和無損網(wǎng)絡(luò)融合創(chuàng)新,解決隱私數(shù)據(jù)敏感用戶在AI服務(wù)中的痛點(diǎn),提供更安全可靠的人工智能服務(wù)。
在邊云協(xié)同訓(xùn)練場(chǎng)景下,在企業(yè)側(cè)部署輕量級(jí)算卡資源,通過PP并行模式與云側(cè)智算中心算力進(jìn)行協(xié)同訓(xùn)練,樣本和模型首尾層部署在企業(yè)本地,保障樣本數(shù)據(jù)不出園區(qū);按需租賃運(yùn)營商智算中心算力資源,僅部署模型中間層,接收/發(fā)送激活值、梯度值。云邊算力之間通過智算IP廣域網(wǎng)連接,高效、無損傳輸激活值、梯度值數(shù)據(jù)。當(dāng)前基于Llama 2模型實(shí)測(cè),與云上集中訓(xùn)練相比,算效損失小于3%。
在邊云協(xié)同推理場(chǎng)景下,在企業(yè)側(cè)部署輕量級(jí)算卡資源,通過模型分割學(xué)習(xí)與云側(cè)智算中心算力進(jìn)行協(xié)同推理,Embedding&Unembedding層及模型首尾層部署在企業(yè)園區(qū)本地,保障Prompt不出園區(qū);按需租賃運(yùn)營商智算中心算力資源,僅部署模型中間層,接收/發(fā)送隱變量。云邊算力之間通過智算IP廣域網(wǎng)連接,高效傳輸隱變量數(shù)據(jù)。當(dāng)前基于DeepSeek模型實(shí)測(cè),邊云協(xié)同推理吞吐達(dá)到集中推理吞吐95%以上。
中國聯(lián)通研究院副院長、首席科學(xué)家唐雄燕介紹,以網(wǎng)強(qiáng)算,以算賦智,通過網(wǎng)絡(luò)技術(shù)創(chuàng)新推動(dòng)AI服務(wù)普惠化,是網(wǎng)絡(luò)升級(jí)的重要方向。分布式邊云協(xié)同訓(xùn)推方案解決隱私數(shù)據(jù)安全問題,滿足智算業(yè)務(wù)云化需求,實(shí)現(xiàn)算網(wǎng)資源靈活協(xié)同和隱私數(shù)據(jù)“0”泄露。
未來,中國聯(lián)通攜手華為推進(jìn)算網(wǎng)一體服務(wù)創(chuàng)新,不斷豐富和完善分布式邊云協(xié)同訓(xùn)推方案的核心內(nèi)涵。通過提供高品質(zhì)的算網(wǎng)一體化服務(wù),加速企業(yè)AI應(yīng)用規(guī)?;占?,促進(jìn)產(chǎn)業(yè)升級(jí)與效率提升,驅(qū)動(dòng)企業(yè)數(shù)智化轉(zhuǎn)型,為社會(huì)經(jīng)濟(jì)的高質(zhì)量發(fā)展持續(xù)貢獻(xiàn)力量。
-
華為
+關(guān)注
關(guān)注
218文章
36037瀏覽量
262164 -
互聯(lián)網(wǎng)
+關(guān)注
關(guān)注
55文章
11339瀏覽量
109977 -
中國聯(lián)通
+關(guān)注
關(guān)注
12文章
3696瀏覽量
66417
原文標(biāo)題:中國聯(lián)通聯(lián)合華為完成業(yè)界首例基于模型分割學(xué)習(xí)的分布式訓(xùn)推試點(diǎn),實(shí)現(xiàn)用戶隱私數(shù)據(jù)零泄露
文章出處:【微信號(hào):Huawei_Fixed,微信公眾號(hào):華為數(shù)據(jù)通信】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
中國聯(lián)通攜手華為發(fā)布業(yè)界首個(gè)隱私數(shù)據(jù)零泄露的分布式訓(xùn)推試點(diǎn)成果
評(píng)論