南京創(chuàng)新周未來城市論壇

地平線創(chuàng)始人兼CEO余凱在南京創(chuàng)新周未來城市論壇上以《邊緣AI芯片趨勢》為主題發(fā)表了演講。

在演講中，余凱認(rèn)為當(dāng)下邊緣計算在中國最值得關(guān)注的落地應(yīng)用場景有兩個：一是智慧城市，二是汽車的智能化。在未來 5G 所牽引的萬物互聯(lián)的時代，以上兩個落地場景帶來的一定是數(shù)據(jù)的爆炸性增長，由此帶來的是設(shè)備的智能一定離不開邊緣人工智能處理器及其軟件操作系統(tǒng)和上層應(yīng)用。

中國未來的科技發(fā)展進(jìn)入了一個打空間戰(zhàn)的階段，不僅僅是上層的應(yīng)用要繼續(xù)做好，下層的計算處理器、操作系統(tǒng)同樣要夯實(shí)。支撐起中國未來科技發(fā)展的不光是需要企業(yè)，也需要整個生態(tài)，需要企業(yè)、高校人才等方方面面地整體互動。

從2015年的7月14日成立，地平線已經(jīng)有快四年的歷史了。在成立這個公司的時候，地平線的核心創(chuàng)始團(tuán)隊包括我自己其實(shí)在過去從來都沒有真正地摸過芯片，基本上是一群干軟件算法的人，我自己在機(jī)器學(xué)習(xí)算法、軟件算法這個領(lǐng)域工作了有20多年，為什么會去思考換一個跑道，從軟件算法到芯片？其實(shí)有一個很重要的原因——在2015年的時候，深度學(xué)習(xí)已經(jīng)開始為大家所關(guān)注（但是AlphaGo還沒有發(fā)生，人工智能的也遠(yuǎn)沒有到街頭巷尾），我們隱約感覺到真正的人工智能要走出學(xué)校，走出像百度谷歌這樣的大公司，走向普惠化。能夠讓很多的行業(yè)受惠，其實(shí)只做軟件是不夠的，比如底層芯片就是非常重要的一塊?；谝陨峡紤]，我們在2015年成立了地平線，這在之后的幾年內(nèi)都應(yīng)該是中國唯一一家從事AI芯片的創(chuàng)業(yè)企業(yè)，可能在世界上也是最早的一家。

去年我看過一個報道說有40多家AI芯片企業(yè)在中國，今年應(yīng)該有更多。適當(dāng)?shù)呐菽呛玫?，只要這個方向值得去嘗試，泡沫退去的時候終歸有一些企業(yè)能夠占有一席之地，比如2000年4月份的互聯(lián)網(wǎng)泡沫，退去之后留下來的還有谷歌、BAT這樣的企業(yè)，他們都是在泡沫之前產(chǎn)生的企業(yè)。所以只要有好的企業(yè)、好的方向，適度的泡沫是可以的。

在移動互聯(lián)網(wǎng)時代很多用戶的數(shù)據(jù)在云端被分析，大量的數(shù)據(jù)模型為各類公司提供了極大的便利。為什么中國的AI今天能夠相對在國際上取得比較領(lǐng)先的優(yōu)勢？很大程度上是因?yàn)橐苿踊ヂ?lián)網(wǎng)有大量的數(shù)據(jù)產(chǎn)生，這樣的產(chǎn)業(yè)場景和規(guī)?？梢耘嘤芏嗳斯ぶ悄苋瞬?。但我們下一步5G到物聯(lián)網(wǎng)的時代，更多的數(shù)據(jù)不是產(chǎn)自于人，而是來自于汽車、攝像頭、溫度傳感器、無人機(jī)等等，更多實(shí)時的數(shù)據(jù)、射頻的數(shù)據(jù)、傳感器的數(shù)據(jù)都會被產(chǎn)生。尤其從去年開始5G加速到來，這會進(jìn)一步地推動這樣的邊緣計算的趨勢。

移動互聯(lián)網(wǎng)構(gòu)造的是人和人之間的網(wǎng)絡(luò)，人和信息之間的網(wǎng)絡(luò)，那么5G推動的是什么？答案是物。由于5G帶來的是萬物的連接，萬物的連接導(dǎo)致的是數(shù)據(jù)的進(jìn)一步規(guī)?；谋?，同時我們的主干網(wǎng)并不能夠支撐這樣的數(shù)據(jù)傳輸規(guī)模，所以會在終端到邊緣產(chǎn)生我們所說的數(shù)據(jù)堰塞湖，這樣的數(shù)據(jù)堰塞湖會大量的發(fā)生在終端，因此邊緣服務(wù)器端人工智能計算會成為未來的一大需求。很多研究報告都在提到這樣的變化，基本上到2025年，邊緣人工智能計算的將會達(dá)到是云計算同樣數(shù)量級的規(guī)模。未來，邊緣計算將會走出世界級的企業(yè)。

邊緣計算與云計算是相對的，如果說云計算的根據(jù)地是城市，邊緣計算就相當(dāng)于農(nóng)村，擁有廣袤的土壤。

云、邊、端三類計算方式，當(dāng)下還是云計算占據(jù)主流的，但物聯(lián)網(wǎng)、5G會繼續(xù)推動邊緣服務(wù)器以及智能終端計算的發(fā)展。我們統(tǒng)稱的邊緣計算實(shí)際上包括終端和邊緣的基站服務(wù)器，除去云計算之外的這兩個都是叫邊緣計算。當(dāng)下邊緣計算在中國最值得關(guān)注的落地應(yīng)用場景有兩個：一是智慧城市，二是汽車的智能化。在智慧城市方面，現(xiàn)在少部分在服務(wù)器端做計算復(fù)雜，但是在今年以及未來的四五年的時間100%的數(shù)據(jù)都會在攝像頭端被分析和計算，這會極大的推動邊緣人工智能芯片的發(fā)展。而在智能駕駛方面，汽車智能化隨之而來的是傳感器在車端的部署，這一定意義上促使汽車也成為了四個輪子上面的超級計算機(jī)。

一個直觀的數(shù)據(jù)是，基本上的共識每輛自動駕駛汽車產(chǎn)生的數(shù)據(jù)會高達(dá)1000個TB，如果是2000輛的4級、5級的自動駕駛汽車，產(chǎn)生的數(shù)據(jù)將相當(dāng)于百萬的搜索引擎所檢索的所有的數(shù)據(jù)，是非常龐大的數(shù)據(jù)量。

邊緣計算有哪些特性？

那么邊緣計算有什么特點(diǎn)？隨之而來的是什么樣的好處？

首先，它具有實(shí)時性，比如對于汽車的安全性，如果前面有小孩子橫穿馬路，你要把這個信號傳到云端，算完以后變成指令再傳回來，可以想象發(fā)生什么問題，如果這個網(wǎng)絡(luò)帶寬并不是有保障呢？安全性對更可靠、及時的本地計算提出了需求。此外，像美國的一些家長不讓小孩子玩帶語音識別的玩具，為什么？因?yàn)檫@些數(shù)據(jù)都要傳到云端識別，包括今天講小米音響，阿里的百度的都有這些問題。隱私保護(hù)將是越來越受到關(guān)注的一個問題，而邊緣計算在這些場景下有很多好處。

我們以自動駕駛為例，邊緣計算雖然發(fā)生在邊緣，可是它對算力的要求一點(diǎn)都不低，比如今天講到的車載AI計算主要是面向從2級到3級的輔助駕駛和半自動駕駛的算力，這基本上是10TOPS的算力。但自動駕駛的等級每往前增長一級對于算力要求增長一個數(shù)量級，到5級自動駕駛會是1000個TOPS，也就是1000個萬億次，實(shí)際上達(dá)到了人類大腦的算力了，持續(xù)半個世紀(jì)的摩爾定律已經(jīng)遇到了瓶頸，也就是說單靠物理去不斷提升這種算力是越來越走不通。站在2019年的當(dāng)口，我們面向未來如何繼續(xù)推動邊緣算力的成長？去迎接未來在人工智能的邊緣計算的挑戰(zhàn)。

過去，在2015年每1000美金能夠買到的算力基本上和老鼠的大腦相當(dāng)，可是我們需要推動更復(fù)雜的計算進(jìn)程，使得到2025年、2030年的時候每1000美金我們能夠買到的算力是達(dá)到1000 TOPS，就是1000個萬億次的算力，即達(dá)到人類大腦的能力。那如何去實(shí)現(xiàn)這一點(diǎn)？我們在有的場合提到過：通過場景驅(qū)動、軟硬結(jié)合創(chuàng)造新的摩爾定律?？梢韵胂?，如果我們能夠去做到這一點(diǎn)，那么到2025-2030年的時候，基本上每1000美金能夠買到的算力其實(shí)接近天河二號的算力，今天天河二號的算力光一年的電費(fèi)就要8千萬人民幣。自動駕駛需要這樣級別的算力，這聽起來是難以想象的事情，但其實(shí)在過去的30年里，發(fā)生的事情并不是那么地讓人吃驚——回顧30年整個算力增長100萬倍，差不多是2的20次方，因?yàn)槊恳粋€五年大概算力翻一倍。

工業(yè)時代電力是基礎(chǔ)的賦能力量，但在數(shù)字經(jīng)濟(jì)時代，數(shù)據(jù)量、存儲能力、云計算的規(guī)模則會是很基礎(chǔ)的賦能能力。在大數(shù)據(jù)和人工智能驅(qū)動的經(jīng)濟(jì)時代，我們能夠有效地利用人工智能的計算，實(shí)際上是一個非常重要的基礎(chǔ)的驅(qū)動力。

在過去的幾年里如何衡量人工智能的能力？一直是存在一個誤解，因?yàn)閭鹘y(tǒng)芯片的性能我們一般說它的功耗、算力、面積，但是在人工智能芯片的真實(shí)應(yīng)用場景里，我們不應(yīng)該遵循這種傳統(tǒng)的簡單的衡量方式，而應(yīng)該采取更加務(wù)實(shí)的計算方式，就是去考核AI芯片的真實(shí)性能。真實(shí)性能首先第一點(diǎn)從技術(shù)出發(fā)，單位功耗能實(shí)現(xiàn)的算力，但是我們還要去看架構(gòu)設(shè)計以及算法是不是能充分利用硬件資源，也就是有效利用率。此外，人工智能算法實(shí)際上是統(tǒng)計機(jī)器學(xué)習(xí)算法，統(tǒng)計機(jī)器學(xué)習(xí)算法好和壞會導(dǎo)致什么樣的差別？會決定單位算力能夠完成什么樣的人工智能任務(wù)。最終來講，我們考核的是單位功耗里人工智能的性能，單位價格下人工智能的性能，這些才是真正的AI芯片的真實(shí)性能。

以上標(biāo)準(zhǔn)現(xiàn)在越來越成為一個業(yè)界的主流認(rèn)知，即通過場景驅(qū)動定義的軟件框架，然后軟件框架結(jié)合硬件的架構(gòu)設(shè)計，使得軟件和硬件的結(jié)合繼續(xù)推動在邊緣計算里的人工智能的算力。這是我們所追求的新的摩爾定律，它也要求我們有能力進(jìn)行全棧式的技術(shù)開發(fā)，包括人工智能應(yīng)用對算法、芯片架構(gòu)、編譯器等等的協(xié)同優(yōu)化。

同樣的硬件架構(gòu)，編譯器的性能實(shí)際上可以影響整個效率，比如有地平線編譯器的自動優(yōu)化的話，每一秒鐘原來可以處理9楨的圖像，現(xiàn)在可以提升到每秒鐘24楨，計算的資源的利用率從30%多提升到85%，這就是軟件和硬件的協(xié)同推動的效率提升，例如地平線推出的車載人工智能計算平臺——Matrix，可以有效應(yīng)對高級別自動駕駛的需求。和市面上主流產(chǎn)品相比，地平線其實(shí)在功耗，在效率上面有強(qiáng)大的競爭優(yōu)勢，比如一個3瓦的功耗計算實(shí)際上能夠處理的效率，比如一秒鐘能夠處理多少楨圖像，和目前主流處理器有顯著的提升，地平線的核心競爭力就是軟件和硬件的高度協(xié)同。目前，Matrix自動駕駛計算平臺已經(jīng)在國外的一個世界非常知名的自動駕駛企業(yè)的車上進(jìn)行了部署，今年同樣在國外會部署超過1000臺這樣的4級、5級自動駕駛車輛。在4級、5級自動駕駛里，地平線產(chǎn)品的計算能力極具國際競爭力，在實(shí)際部署中也是先人一步的。

基于地平線Matrix自動駕駛計算平臺地平線還打造了NavNet眾包高精建圖與定位方案，我們可以用單個的前置攝像頭通過計算實(shí)現(xiàn)類似于激光雷達(dá)的三維點(diǎn)云生成，并且是實(shí)時計算。今年，NavNet眾包高精建圖與定位方案將在韓國部署上萬輛汽車去做眾包高精地圖，這也驗(yàn)證了地平線國際化的策略。通過眾包方式構(gòu)建高精度地圖，成本和精度都有很大優(yōu)勢。

在未來 5G 所牽引的萬物互聯(lián)的時代，以上兩個落地場景帶來的一定是數(shù)據(jù)的爆炸性成長。設(shè)備的智能一定離不開邊緣人工智能處理器及其軟件操作系統(tǒng)和上層應(yīng)用。地平線的定位是一個做產(chǎn)業(yè)發(fā)展的賦能者，我們有一句話叫“只造武器不打仗”，即上不碰應(yīng)用，下不碰數(shù)據(jù)，做OEM、出行運(yùn)營商、集成商的賦能者。

目前，邊緣計算芯片在實(shí)際中的應(yīng)用還有很多。比如工地，人臉識別大家都看了很多了，但是地平線反而是反其道而行之，注重人臉隱私保護(hù)，攝像機(jī)本身處理視頻時就已經(jīng)把人臉全部模糊掉了，同時我們還做了一件事情就是檢測工人是不是戴了安全帽，我們發(fā)現(xiàn)這一點(diǎn)最近在很多國際廠商那邊非常受歡迎，因?yàn)樗麄儾⒉唤邮苤袊鵁o處不在的人臉識別，他們希望在傳過來的時候就把人臉抹掉。這是邊緣計算帶來的好處，因?yàn)槟憧梢园堰@些計算放在前端的小的設(shè)備里。

地平線是一個技術(shù)驅(qū)動的企業(yè)，所以我們和國內(nèi)的高校，很多頂尖高校特別是南京的東南大學(xué)、南京大學(xué)都建立了非常緊密的合作關(guān)系，包括聯(lián)合實(shí)驗(yàn)室。中國未來的科技發(fā)展進(jìn)入了一個打空間戰(zhàn)的階段，不僅僅是上層的應(yīng)用要繼續(xù)做好，下層的計算處理器，計算的操作系統(tǒng)同樣要夯實(shí)。支撐起中國未來科技發(fā)展的不光是需要企業(yè)，也需要整個生態(tài)，需要企業(yè)、高校人才等方方面面地整體互動。

目前，基于自主研發(fā)的 AI 芯片及算法，地平線已在全球范圍內(nèi)賦能包括奧迪、長安、理想、禾賽科技、首汽約車、SK電訊在內(nèi)的眾多智能駕駛合作伙伴。未來，地平線將持續(xù)發(fā)力，聚焦邊緣 AI 芯片+工具鏈組成的基礎(chǔ)技術(shù)平臺的搭建和打磨，為推動客戶實(shí)現(xiàn)人工智能與行業(yè)的深度整合及落地應(yīng)用提供“加速劑”。