Open AI Lab：端側(cè)AI計(jì)算在嵌入式場(chǎng)景下的三大趨勢(shì)

圖：Open AI LAB 產(chǎn)品經(jīng)理彭月濤

Open AI Lab產(chǎn)品經(jīng)理彭月濤首先介紹了公司的定位和聚焦方向，開放智能機(jī)器（上海）有限公司，簡(jiǎn)稱OPEN AI LAB，由Arm生態(tài)加速器安創(chuàng)空間、全志科技、地平線機(jī)器人于2016年12月發(fā)起成立。業(yè)務(wù)模式聚焦AI產(chǎn)業(yè)化，基于AI落地為目的，探討AI技術(shù)在嵌入式落地的問題。

當(dāng)前AI應(yīng)用普及化的路上有三大痛點(diǎn)：一是云端部署和運(yùn)營(yíng)成本過高：視頻處理要求帶寬大和時(shí)延低、GPU和存儲(chǔ)陣列昂貴且功耗高，AI系統(tǒng)趨勢(shì)是大量AI計(jì)算需要向前端本地化遷移，云邊端分布計(jì)算；二是前端算力弱、方案性能差：當(dāng)前移動(dòng)計(jì)算芯片跑NN太慢、市場(chǎng)上缺性價(jià)比高的邊緣AI芯片，OPEN AI LAB提供的高效方式是充分挖掘現(xiàn)有硬件(芯片/模組)AI潛力，保護(hù)既有投資；三是算法開發(fā)適配難、效率低：終端芯片沒有統(tǒng)一高效的算力平臺(tái)、算法開發(fā)者無法適配硬件差異，OPEN AI LAB推出分工協(xié)作模式，算法開發(fā)者無須精通硬件，系統(tǒng)集成商可自由挑選算法。

OPEN AI LAB將解決這三大痛點(diǎn)視為其核心價(jià)值。彭月濤表示，嵌入式AI呈現(xiàn)三大趨勢(shì)：第一、邊緣計(jì)算，數(shù)據(jù)從云向端側(cè)遷移，端云結(jié)合。云端算力需要解決帶寬問題，第二、嵌入式端側(cè)，需要做低時(shí)延、實(shí)時(shí)性的數(shù)據(jù)處理，進(jìn)行推理，產(chǎn)生高質(zhì)量的信息；第三、嵌入式AI產(chǎn)品全面滲透金融、醫(yī)療、安防、零售、制造業(yè)、以及家庭等行業(yè)，在物聯(lián)網(wǎng)領(lǐng)域的智能終端，如無人機(jī)、可穿戴設(shè)備、智能電視、智能攝像頭等都有典型的應(yīng)用。

目前，OPEN AI LAB為ARM生態(tài)開發(fā)者提供的重要的設(shè)計(jì)平臺(tái)和工具主要有三塊：EAIDK是全球首個(gè)采用Arm架構(gòu)的人工智能開發(fā)平臺(tái)，專為 AI 開發(fā)者精心打造，面向邊緣計(jì)算的人工智能開發(fā)套件；Tengine是一款輕量級(jí)模塊化高性能的神經(jīng)網(wǎng)絡(luò)推理引擎，專門針對(duì)Arm嵌入式設(shè)備優(yōu)化；Tengine-Lite是近期推出的，專為MCU設(shè)計(jì)的超輕量級(jí)AI推理框架，它能夠適用于極端苛刻的MCU嵌入式開發(fā)環(huán)境。

在嵌入式AI開發(fā)平臺(tái)，Open AI Lab可以做到：

1、和SoC廠家合作直接合作，以工業(yè)產(chǎn)品品質(zhì)實(shí)施軟、硬件平臺(tái)開發(fā)。提供穩(wěn)定、可靠的軟硬一體化解決方案；

2、以商業(yè)應(yīng)用案例支持AI算法應(yīng)用教學(xué)，加速初學(xué)者；

3、提升算力、解決碎片化問題，賦能開發(fā)者；

4、“軟硬平臺(tái)+算法應(yīng)用”一體化AI開發(fā)套件。與Arm生態(tài)系統(tǒng)合力打造開放，通用、標(biāo)準(zhǔn)化的端側(cè)智能開發(fā)平臺(tái)，配合Arm Open AI Platform戰(zhàn)略；

5、行業(yè)客戶、創(chuàng)客、極客AI創(chuàng)新驗(yàn)證平臺(tái)；

6、智能產(chǎn)品研發(fā)、產(chǎn)品開發(fā)企業(yè)，產(chǎn)品原型開發(fā)、驗(yàn)證、以及小規(guī)模產(chǎn)品部署試點(diǎn)。

彭月濤介紹， OPEN Al LAB聯(lián)合Arm中國(guó)、瑞芯微正式發(fā)布了面向教育及創(chuàng)客的嵌入式人工智能應(yīng)用開發(fā)平臺(tái) EAIDK－610。EAIDK-610運(yùn)行典型的深度學(xué)習(xí)算法，同等條件下，可對(duì)基于原始Caffe的實(shí)現(xiàn)進(jìn)行3-5倍的加速，內(nèi)存占用下降1倍，快速進(jìn)行算法和原型驗(yàn)證。

Open AI Lab定位學(xué)校教育的綜合方案提供商。聯(lián)合企業(yè)及國(guó)家教育管理結(jié)構(gòu)，擴(kuò)大證書和自有比賽的影響力。有自然語(yǔ)音處理套件，有機(jī)器人、無人機(jī)套件可以提供給開發(fā)者，AI開發(fā)平臺(tái)上有本地語(yǔ)音庫(kù)、機(jī)器視覺庫(kù)、嵌入式深度學(xué)習(xí)框架和異構(gòu)計(jì)算庫(kù)，在基礎(chǔ)軟件部分支持操作系統(tǒng)和設(shè)備驅(qū)動(dòng)。

思必馳AI語(yǔ)音瞄準(zhǔn)三大場(chǎng)景，今年或發(fā)力可穿戴和會(huì)議轉(zhuǎn)寫

創(chuàng)業(yè)之初，思必馳業(yè)務(wù)聚焦于口語(yǔ)教育，自2014年謀求轉(zhuǎn)型剝離教育業(yè)務(wù)后，開始專注于智能語(yǔ)音開發(fā)賦能終端，并推出國(guó)內(nèi)第一個(gè)對(duì)話智能云平臺(tái)。在2015年~2018年期間，先后獲阿里，富士康，MTK等投資，AI垂直終端產(chǎn)品研發(fā)進(jìn)程得以進(jìn)一步加快。

圖：思必馳IoT商務(wù)總經(jīng)理王盱林

“發(fā)展至今，公司已經(jīng)不僅僅限于算法。”，思必馳IoT商務(wù)總經(jīng)理王盱林表示，思必馳從小步慢跑已經(jīng)逐漸成長(zhǎng)為國(guó)內(nèi)專業(yè)的對(duì)話式人工智能平臺(tái)公司，擁有全鏈路的智能語(yǔ)音語(yǔ)言技術(shù)，自主研發(fā)了新一代的人機(jī)對(duì)話操作系統(tǒng)（DUI），和人工智能芯片；為車聯(lián)網(wǎng)、IOT、以及眾多行業(yè)場(chǎng)景合作伙伴提供自然語(yǔ)言交互解決方案。

王盱林指出，思必馳AI語(yǔ)音產(chǎn)品服務(wù)主要聚焦于三大場(chǎng)景，包括車載應(yīng)用，消費(fèi)類電子（如智能音箱、電視等）及機(jī)器人。值得一提的是，今年思必馳將新增智能穿戴和會(huì)議轉(zhuǎn)寫場(chǎng)景服務(wù)，譬如低功耗藍(lán)牙無線耳機(jī)TWS、手表。

在這些IoT場(chǎng)景落地應(yīng)用中，依托思必馳智能語(yǔ)音交互技術(shù)可以展現(xiàn)出九大核心優(yōu)勢(shì)。如遠(yuǎn)場(chǎng)交互、口語(yǔ)對(duì)話、兼容有無屏、第三方心源、技能豐富、數(shù)據(jù)可視化、OTA升級(jí)、企業(yè)VIP服務(wù)、合作靈活。同時(shí)，寄希望于DUI平臺(tái)打通連接一個(gè)或多個(gè)IoT系統(tǒng)，實(shí)現(xiàn)全屋智能、互聯(lián)互通。

聲?？萍迹篈I智能虛擬人在游戲和教育領(lǐng)域前景廣闊

圖：聲希科技聯(lián)合創(chuàng)始人孫立發(fā)博士

聲?？萍悸?lián)合創(chuàng)始人孫立發(fā)博士強(qiáng)調(diào)指出，互聯(lián)網(wǎng)和人工智能時(shí)代的差別，互聯(lián)網(wǎng)紅利逐漸消失，APP應(yīng)用已經(jīng)增長(zhǎng)非常緩慢，互聯(lián)網(wǎng)+解決信息不對(duì)稱的問題和連接的問題。還有很多問題無法解決，比如醫(yī)院一天看病人的數(shù)量有限，效率的問題和成本問題都無法解決，AI智能虛擬人可以幫助醫(yī)生提高效率，人工智能可以解決效率的問題。

未來人機(jī)交互往哪個(gè)方向發(fā)展？孫立發(fā)博士說，語(yǔ)音交互、動(dòng)作手勢(shì)是趨勢(shì)，語(yǔ)音交互式NUI最自然的交互方式之一，在開車的時(shí)候，用語(yǔ)音發(fā)號(hào)施令，手機(jī)助手里面可以用語(yǔ)音進(jìn)行交互。

聲希科技在AI智能虛擬人方面掌握四項(xiàng)關(guān)鍵技術(shù)：第一、發(fā)音糾錯(cuò)技術(shù)和語(yǔ)音識(shí)別技術(shù)，包括單詞的重音，語(yǔ)音、語(yǔ)調(diào)是否正確。第二、自然語(yǔ)言處理和對(duì)話系統(tǒng)；第三、個(gè)性化語(yǔ)音合成。個(gè)性化體現(xiàn)在音色層面，可以定制奧巴馬、林志玲的聲音。核心技術(shù)四、圖像和視頻處理。未來可以實(shí)現(xiàn)自由對(duì)話，從語(yǔ)音合成，到圖像、視頻處理合成一體。

孫立發(fā)博士指出AI智能虛擬人需要的關(guān)鍵技術(shù)包括：語(yǔ)音合成模擬人的嘴巴，圖像識(shí)別模擬人的眼睛，自然語(yǔ)言處理和對(duì)話系統(tǒng)模擬大腦。

目前在教育領(lǐng)域，市場(chǎng)的痛點(diǎn)在于優(yōu)質(zhì)師資不足且成本高，中小培訓(xùn)機(jī)構(gòu)、英語(yǔ)APP等客戶提出虛擬老師的需求，聲?？萍伎梢蕴峁半p師AI課堂解決方案“幫助客戶制作虛擬老師；在娛樂和游戲領(lǐng)域，市場(chǎng)的痛點(diǎn)是視頻錄制效率低且成本高，聲希科技可以提供”虛擬形象生成方案“幫助客戶制作虛擬主播。

可穿戴、車載、智能家居成AI語(yǔ)音未來典型場(chǎng)景應(yīng)用

會(huì)上，杭州國(guó)芯人工智能事業(yè)部總經(jīng)理凌云分享了AI語(yǔ)音芯片和應(yīng)用結(jié)合實(shí)際落地的應(yīng)用案例。并介紹國(guó)芯車載語(yǔ)音、智能音箱語(yǔ)音及語(yǔ)音電視（NationalChip AI+IOT）三大場(chǎng)景應(yīng)用方案。

圖：杭州國(guó)芯片人工智能事業(yè)部總經(jīng)理凌云

“AI自然語(yǔ)音交互，看似簡(jiǎn)單實(shí)則難?！焙贾輫?guó)芯片人工智能事業(yè)部總經(jīng)理凌云表示，隨著AI語(yǔ)音交互落地各場(chǎng)景中的應(yīng)用越發(fā)普及，其中隱形的門檻或坑也隨之顯現(xiàn)，拾音&降噪，語(yǔ)音喚醒，AEC與聲學(xué)結(jié)構(gòu)都是需要考慮的因素。

從應(yīng)用端來看，凌云指出，AI語(yǔ)音應(yīng)用領(lǐng)域的劃分主要是從人、車、家三部分考量。如針對(duì)人的可穿戴AI設(shè)備TWS耳機(jī)、手表、眼鏡等未來市場(chǎng)空間及應(yīng)用將會(huì)非常廣闊。

第二部分是AI語(yǔ)音在車載的應(yīng)用。從安全因素考慮，車載AI語(yǔ)音應(yīng)用將會(huì)是未來市場(chǎng)的剛需場(chǎng)景，如車內(nèi)音樂/電臺(tái)播放、導(dǎo)航及打電話應(yīng)用。

第三部分，針對(duì)智能家居場(chǎng)景的語(yǔ)音應(yīng)用。凌云認(rèn)為，智能音箱會(huì)逐漸成為室內(nèi)家居語(yǔ)音應(yīng)用中的智慧中心，通過其控制室內(nèi)其它用電設(shè)備。在未來藍(lán)牙遙控器將會(huì)被語(yǔ)音設(shè)備取替。

展望未來，凌云指出，語(yǔ)音交互體驗(yàn)、語(yǔ)音AI芯片PPA及IoT滲透率將持續(xù)提升，語(yǔ)音將變成按鍵、觸摸后的又一個(gè)主流萬物交互方式。

IT軟硬件從業(yè)者，如何深入了解AI？

對(duì)于IT軟硬件的從業(yè)者、工程師或即將畢業(yè)的學(xué)生，在AI方面到底如何做？是去做算法，還是去研究芯片？帶著這個(gè)問題，瘋殼科技CTO劉燃給出了他的答案，“AI技術(shù)要落地到具體的產(chǎn)品上，需要有兩個(gè)部分，一是理論算法的研究實(shí)現(xiàn)，二是相關(guān)算法的使用?！?/p>

圖：瘋殼科技CTO劉燃

瘋殼科技CTO劉燃指出，針對(duì)理論算法的研究更適合科學(xué)家和資金雄厚的企業(yè)，至于其他99%的開發(fā)者則學(xué)會(huì)使用這些優(yōu)質(zhì)算法的接口應(yīng)用于產(chǎn)品上即可。

會(huì)上，劉燃展示了兩款跟語(yǔ)音識(shí)別和人臉識(shí)別的開發(fā)套件，并附上了教材。所有的硬件原理圖包括通信代碼等都是全開放的，另外一款是已經(jīng)量產(chǎn)的AI語(yǔ)音識(shí)別機(jī)器人，非常適合工程師和學(xué)校的開發(fā)者。

那么，對(duì)于18歲以下的青少年兒童，又該如何學(xué)習(xí)理解AI的技術(shù)呢？不急，瘋殼科技也帶來了一款黑科技。

在展示環(huán)節(jié)，瘋殼科技推出了這款針對(duì)青少年編程的“殼殼板”開源產(chǎn)品，它是把一些常用的工程物理傳感器集成在一個(gè)小板上，同時(shí)附帶一套開發(fā)的圖形化編程界面系統(tǒng)，使得青少年兒童上手容易，直接拖拽編程，做出各種各樣的實(shí)驗(yàn)現(xiàn)象。