近日，以“智算生態(tài)、共創(chuàng)共贏”為主題的ICPA智算聯(lián)盟系列論壇·第一期會議成功舉辦。

上海市經(jīng)濟(jì)和信息化委員會人工智能發(fā)展處副處長孫躍，ICPA智算聯(lián)盟理事長、商湯科技聯(lián)合創(chuàng)始人、集團(tuán)副總裁楊帆發(fā)表致辭。商湯科技聯(lián)合創(chuàng)始人兼大裝置首席科學(xué)家林達(dá)華，華為昇騰計算業(yè)務(wù)CTO周斌，Graphcore大中華區(qū)總裁兼全球首席營收官盧濤，燧原科技創(chuàng)始人兼COO張亞林，上海超算科技有限公司副總經(jīng)理劉波發(fā)表主題演講，探討加速AI算力產(chǎn)業(yè)化落地和算法生態(tài)建設(shè)的共贏之道。

林達(dá)華教授發(fā)表主題為《算法框架：AI芯片與商業(yè)價值的紐帶》的精彩主題演講，他表示：“AI芯片及其所衍生出來的計算產(chǎn)業(yè)的發(fā)展，并不是任何一家企業(yè)可以單獨(dú)去達(dá)成的愿景，需要上下游不同角色的機(jī)構(gòu)和廠商共同構(gòu)建繁榮的生態(tài)。在這樣的體系下，商湯有著非常重要的位置，如何把技術(shù)的上下游協(xié)同在一起，也是我們共同面臨的一個課題?！?/p>

本文為林達(dá)華教授演講內(nèi)容梳理。

算法是銜接應(yīng)用價值和芯片算力的關(guān)鍵橋梁

人工智能和智能計算的核心就是人工智能計算芯片。無論是以GPU為代表的通用圖形處理器，還是近幾年不斷涌現(xiàn)的AI專用計算芯片，都構(gòu)成了整個人工智能算力的核心。

在用戶端，AI技術(shù)在自動駕駛、智慧商業(yè)、智慧城市、智慧醫(yī)療等各種垂直領(lǐng)域的應(yīng)用，將人工智能的價值真正帶到了生產(chǎn)、生活和工作當(dāng)中。

支撐不同行業(yè)廣泛應(yīng)用的背后，是一系列人工智能的關(guān)鍵算法，例如計算機(jī)視覺領(lǐng)域的分類、檢測、分割等等算法。

雖然這些算法會分成若干個小類別，但是在每一類上，其迭代、演進(jìn)速度非常快，種類也非常多。目前，商湯面向不同行業(yè)應(yīng)用已生產(chǎn)出來了超過3萬個算法模型。

這些算法模型對硬件的適配帶來了極大挑戰(zhàn)，每一個模型的算法適配都需要很大工作量的投入，不同應(yīng)用也涉及不同的算法。算法是銜接應(yīng)用價值和芯片計算能力最關(guān)鍵的橋梁。

在人工智能領(lǐng)域，算法研究員并不直接在芯片所提供的底層API上寫算法，因為大部分研究員和算法工程師對芯片的體系結(jié)構(gòu)并不了解，也不需要了解，術(shù)業(yè)有專攻。

因此，在銜接算法研究員和底層計算的基礎(chǔ)設(shè)施中間，就衍生出了深度學(xué)習(xí)框架的系列基礎(chǔ)軟件體系，例如TensorFlow、PyTorch、MindSpore和商湯自研的SenseParrots。每個訓(xùn)練框架都在行業(yè)中扮演著不同的角色，走出了各自差異化的發(fā)展道路。

由于算法與芯片之間有多種訓(xùn)練框架，不同框架又出自不同機(jī)構(gòu)和企業(yè)，沒有形成一個固定接口，這導(dǎo)致人工智能訓(xùn)練芯片不僅要適配不同框架，還要支持多樣化的算法，而算法框架接口多樣化導(dǎo)致AI芯片對算法支持工作量劇增，這就帶來了高昂的適配成本，成為人工智能訓(xùn)練芯片快速迭代、進(jìn)入市場的障礙。

開源算法體系，構(gòu)建高效繁榮的AI生態(tài)

構(gòu)建一個能夠助力芯片發(fā)展的生態(tài)，最關(guān)鍵的就是要打破障礙和瓶頸，這樣才能夠促進(jìn)整個生態(tài)上下游共同發(fā)展和繁榮。

如何實現(xiàn)這一目標(biāo)？算法是直接支撐應(yīng)用的，從智慧城市領(lǐng)域中的場景分類、車牌識別等算法，到醫(yī)學(xué)圖像分析領(lǐng)域中的語義分割、病灶檢測等算法，通常都會經(jīng)過一個基于應(yīng)用場景的分解過程，最后形成一個大算法家族的族譜。

經(jīng)過多年發(fā)展，商湯在AI算法領(lǐng)域形成了深厚的積累，但只有將這些算法為整個業(yè)界所用，才能引導(dǎo)整個產(chǎn)業(yè)上下游的發(fā)展，最大限度的發(fā)揮價值?；趶膽?yīng)用對算法分解的認(rèn)知，商湯在2018年啟動了OpenMMLab開源算法體系。

近4年來，OpenMMLab的國際影響力持續(xù)增長，目前在GitHub上獲得了58，000個Stars，超過了業(yè)內(nèi)頂級的深度學(xué)習(xí)框架PyTorch的數(shù)量。同時，OpenMMLab還支持了上千篇論文的發(fā)表，并協(xié)助幾十項比賽選手在垂直領(lǐng)域獲得了冠軍。此外，在生態(tài)影響力方面也有所建樹。

OpenMMLab在商業(yè)領(lǐng)域的應(yīng)用也非常廣泛，目前有超過600家企業(yè)和科研機(jī)構(gòu)使用OpenMMLab進(jìn)行技術(shù)研發(fā)，其中不乏大型央企、頭部科技企業(yè)和互聯(lián)網(wǎng)企業(yè)，已形成了廣泛的影響力。

基于開源開放的算法體系，商湯希望實現(xiàn)訓(xùn)練框架和AI芯片的雙向價值引導(dǎo)，攜手業(yè)界同仁共同構(gòu)建高效的人工智能上下游生態(tài)。

構(gòu)建標(biāo)準(zhǔn)化體系，打造算法芯片協(xié)同發(fā)展的技術(shù)基礎(chǔ)設(shè)施

為了推動訓(xùn)練框架和AI芯片的協(xié)同發(fā)展，商湯將算法分解成為各種算子，并告知開發(fā)者哪些算子在整個算法層、應(yīng)用場景層最為重要。通過這樣的引導(dǎo)，可以幫助行業(yè)伙伴將有限的算力資源應(yīng)用到真正有價值的業(yè)務(wù)場景當(dāng)中。

在技術(shù)層面，商湯構(gòu)建了兩套標(biāo)準(zhǔn)化體系，其一是算法的分級體系，另一個是標(biāo)準(zhǔn)算子接口體系。

針對算法分級體系的構(gòu)建，商湯根據(jù)社區(qū)反饋，從影響力、性能、部署廣度等多重維度，初步將算法分成 P0、P1、P2三個級別：

P0級是任何芯片必須完全支持的算法；

P1級是在業(yè)務(wù)場景里使用較多，但并不是完全必需的算法；

P2級是使用和關(guān)注度都相對較少的算法。

基于算法的分級，商湯“以業(yè)務(wù)應(yīng)用為導(dǎo)向，以算法為抓手”，形成了一整套面向訓(xùn)練框架、推理引擎、訓(xùn)練芯片、集群環(huán)境的適配和評測體系，從而給予下游的軟件和芯片廠商一個非常明確、清晰的優(yōu)化適配指引。

針對標(biāo)準(zhǔn)算子接口體系，商湯根據(jù)算法的導(dǎo)引，將標(biāo)準(zhǔn)化之后的算子提取出來。在這之中，商湯已經(jīng)完成了兩項重要工作：

其一是統(tǒng)一算子接口和函數(shù)簽名，包含算子接口和輸入輸出等信息；

其二是一致性測試套件，包括標(biāo)準(zhǔn)化的測試用例以及相關(guān)的工具體系，可以校驗算子的正確性，評測在不同環(huán)境、不同配置下的執(zhí)行效率。

這兩項工作為評測不同芯片提供了一個標(biāo)準(zhǔn)化的抓手。這套技術(shù)層面的基礎(chǔ)設(shè)施，可以促進(jìn)產(chǎn)業(yè)協(xié)同向前。此外，如今的適配方式與傳統(tǒng)方式相比也有很大優(yōu)勢。傳統(tǒng)芯片與框架一對一適配的方式，其經(jīng)驗很難在跨芯片或跨場景中復(fù)用。商湯基于標(biāo)準(zhǔn)算子接口體系的芯片-框架多對多的適配流程，可以將溝通成本、工作難度、適配工作量降到最低。一次性可接入數(shù)百種標(biāo)準(zhǔn)算子接口，通過一致性測試，能夠自動適配到不同的算法和芯片上面，實現(xiàn)更快迭代。未來，商湯將致力于通過更多人工智能技術(shù)上的構(gòu)建，積極促成產(chǎn)業(yè)上下游的合作協(xié)同，助力更高效從芯片到價值閉環(huán)的打通。