12月，第十九屆CCF全國(guó)嵌入式系統(tǒng)大會(huì)（CCF ESTC 2021）在山東青島召開(kāi)。本屆會(huì)議由中國(guó)計(jì)算機(jī)學(xué)會(huì)（CCF）主辦，CCF嵌入式系統(tǒng)專委與西安電子科技大學(xué)青島技術(shù)研究院聯(lián)合承辦。旨在加強(qiáng)從事嵌入式系統(tǒng)研究領(lǐng)域國(guó)內(nèi)外學(xué)者之間的聯(lián)系與交流，了解相關(guān)國(guó)際發(fā)展動(dòng)態(tài)和研究熱點(diǎn)，促進(jìn)我國(guó)多學(xué)科交叉融合與嵌入式系統(tǒng)產(chǎn)業(yè)的發(fā)展。華為昇騰CANN亮相本次大會(huì)，與行業(yè)分享創(chuàng)新技術(shù)，為人工智能技術(shù)融入產(chǎn)業(yè)帶來(lái)新的啟發(fā)。

會(huì)議邀請(qǐng)了院士和國(guó)內(nèi)外嵌入式系統(tǒng)領(lǐng)域的頂級(jí)專家學(xué)者作大會(huì)特邀報(bào)告，還通過(guò)專題論壇和分會(huì)場(chǎng)口頭報(bào)告、科技成果展示、學(xué)術(shù)論文交流等形式多樣的活動(dòng)充分進(jìn)行技術(shù)交流，推動(dòng)“政產(chǎn)學(xué)研用”合作，引領(lǐng)技術(shù)進(jìn)步，支撐產(chǎn)業(yè)發(fā)展。

會(huì)上，華為昇騰CANN生態(tài)高級(jí)總監(jiān)王海彬發(fā)表了《昇騰CANN釋放硬件澎湃算力》的主題演講，分享在當(dāng)前波濤洶涌的AI浪潮中，華為如何借助異構(gòu)計(jì)算架構(gòu)CANN（Compute Architecture for Neural Networks）進(jìn)行技術(shù)創(chuàng)新和生態(tài)開(kāi)展，持續(xù)使能科研和產(chǎn)業(yè)關(guān)鍵突破，推動(dòng)技術(shù)行業(yè)落地。

于AI浪潮中迎接挑戰(zhàn)

王海彬提到，AI作為新的通用目的技術(shù)將深刻推動(dòng)社會(huì)發(fā)展進(jìn)程。目前的人工智能正從單點(diǎn)技術(shù)走向真正的通用技術(shù)，同時(shí)AI計(jì)算也面臨計(jì)算新范式、異構(gòu)計(jì)算興起、對(duì)大集群的需求日益提升，推理部署場(chǎng)景復(fù)雜、效率低下等問(wèn)題，如何讓AI用得上、用得起、用得好成為人工智能發(fā)展的關(guān)鍵。華為推出的異構(gòu)計(jì)算架構(gòu)CANN將助力解決人工智能技術(shù)面臨的算力問(wèn)題、多樣性場(chǎng)景下開(kāi)發(fā)效率低、編程易用性差的諸多現(xiàn)狀。

CANN 5.0 厚積薄發(fā)，以硬實(shí)力破解困境

CANN作為昇騰處理器的AI異構(gòu)計(jì)算架構(gòu)，對(duì)上支持業(yè)界多種主流的AI框架，對(duì)下友好適配多異構(gòu)處理器，發(fā)揮呈上啟下的關(guān)鍵作用，是提升昇騰AI處理器計(jì)算效率的關(guān)鍵平臺(tái)，同時(shí)針對(duì)多樣化應(yīng)用場(chǎng)景，提供高效易用的編程方式，成為了破解當(dāng)前人工智能技術(shù)困境的關(guān)鍵。

華為昇騰CANN生態(tài)高級(jí)總監(jiān)王海彬《昇騰CANN釋放硬件澎湃算力》主題演講

CANN1.0誕生于2018年，并在快速迭代過(guò)程中，從軟件層面持續(xù)進(jìn)行技術(shù)沉淀并迎來(lái)了一個(gè)又一個(gè)突破。2020年底，基于CANN的鵬城云腦II推出，并獲得 AIPerf榜單第一；2021年4月，依托CANN關(guān)鍵技術(shù)的中文NLP超大模型盤古發(fā)布，其參數(shù)超過(guò)2000億，具備業(yè)界領(lǐng)先的語(yǔ)言理解和模型生成能力，帶來(lái)了前所未有的商業(yè)價(jià)值。CANN5.0作為全新一代AI異構(gòu)計(jì)算架構(gòu)版本，通過(guò)軟硬件結(jié)合優(yōu)化再度獲得大幅性能提升，將昇騰AI處理器的澎湃算力發(fā)揮到極致。

原本在3.0版本需要6.25分鐘訓(xùn)練的BERT模型，在CANN 5.0的加持下縮短了一倍多，只需2.69分鐘就能完成訓(xùn)練；同時(shí)，原本需要28秒訓(xùn)練的ResNet模型，通過(guò)5.0版本縮短到了16秒。此外，常用小規(guī)模訓(xùn)練場(chǎng)景（分類、檢測(cè)、語(yǔ)義分割、NLP等）實(shí)現(xiàn)性能翻倍；在分類、翻譯、檢測(cè)典型推理場(chǎng)景下，性能也可達(dá)到30%到140%的提升。

CANN5.0性能大幅提升的關(guān)鍵在于技術(shù)的持續(xù)突破和創(chuàng)新。通過(guò)深耕細(xì)作不斷挖掘昇騰AI處理器的潛能，CANN在軟件層面實(shí)現(xiàn)了更高效的任務(wù)調(diào)度和更智能的數(shù)據(jù)切分，借助任務(wù)自動(dòng)流水、算子深度融合、自適應(yīng)梯度切分、AutoTune智能計(jì)算調(diào)優(yōu)等關(guān)鍵技術(shù)詮釋了昇騰AI極致性能的風(fēng)采。并依托自動(dòng)分解和并行技術(shù)，將超大模型的處理同普通模型一樣簡(jiǎn)單。

CANN5.0還提供了全套推理引擎軟件包ATC Suite1.0，面向客戶網(wǎng)絡(luò)提供圖級(jí)別、算子級(jí)別的自動(dòng)調(diào)優(yōu)能力；同時(shí)通過(guò)強(qiáng)大的多媒體處理能力，能輕松應(yīng)對(duì)多路復(fù)雜的音視頻處理場(chǎng)景；支持在線及離線推理方式，助力開(kāi)發(fā)者更加靈活地實(shí)現(xiàn)高性能推理應(yīng)用。

生態(tài)全面開(kāi)展，CANN與開(kāi)發(fā)者攜手并進(jìn)

作為華為昇騰CANN生態(tài)高級(jí)總監(jiān)，王海彬分享了在過(guò)去的一年中，CANN面向開(kāi)發(fā)者的生態(tài)開(kāi)展情況。

迄今為止，CANN的社區(qū)活躍度較去年提升3倍；累計(jì)與超過(guò)200家高校研究團(tuán)隊(duì)開(kāi)展合作，眾智項(xiàng)目貢獻(xiàn)400+個(gè)模型及800+個(gè)算子；目前CANN已經(jīng)支持昇騰開(kāi)發(fā)者人數(shù)達(dá)到58W， 其中核心開(kāi)發(fā)者近9000人，已經(jīng)成為了社區(qū)貢獻(xiàn)的主力。并在接下來(lái)的2022年中，希望有更多的開(kāi)發(fā)者與CANN攜手點(diǎn)燃燎原之火，共建昇騰AI繁榮生態(tài)。

在洶涌的AI時(shí)代浪潮中，AI技術(shù)領(lǐng)域面臨重重困難和挑戰(zhàn)，CANN作為人工智能基礎(chǔ)軟件平臺(tái)，將持續(xù)在基礎(chǔ)能力和關(guān)鍵技術(shù)上突破創(chuàng)新，并肩負(fù)起時(shí)代賦予的使命任務(wù)，和萬(wàn)千個(gè)人開(kāi)發(fā)者、專家學(xué)者、行業(yè)伙伴一起，共迎挑戰(zhàn)，共創(chuàng)機(jī)遇，共享未來(lái)！

原文標(biāo)題：昇騰CANN，?硬?核?！

文章出處：【微信公眾號(hào)：華為計(jì)算】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。