(電子發(fā)燒友原創(chuàng) 章鷹)2025年，在快速?gòu)?fù)蘇的半導(dǎo)體市場(chǎng)里，邊緣人工智能市場(chǎng)是一個(gè)重要的分支領(lǐng)域。Markets and Markets報(bào)告顯示，全球邊緣計(jì)算市場(chǎng)規(guī)模將從2023年的600億美元增長(zhǎng)至2029年的1106億美元，復(fù)合年增長(zhǎng)率達(dá)到13%。
作為邊緣實(shí)現(xiàn)人工智能的專業(yè)廠商，Ceva擁有廣泛的NPU IP組合，涵蓋將人工智能嵌入MCU等微型處理器所需的IP，一直擴(kuò)展到能夠在筆記本電腦和智能手機(jī)中實(shí)現(xiàn)生成式人工智能的NPU IP，和運(yùn)行ADAS自動(dòng)駕駛汽車的IP。

7月4日，在上海張江舉辦的端側(cè)AI技術(shù)峰會(huì)上，來(lái)自Ceva中國(guó)技術(shù)支持總監(jiān)徐明帶來(lái)對(duì)于端側(cè)AI市場(chǎng)的最新趨勢(shì)分析和新品NPU IP的介紹。Ceva IP出貨量達(dá)190億，四大需求推動(dòng)了端側(cè)AI高速增長(zhǎng)“據(jù)我們統(tǒng)計(jì)，全球每秒鐘有60個(gè)包含Ceva IP的芯片在出貨，我們歷年來(lái)包含Ceva IP的芯片出貨量達(dá)到190顆以上，覆蓋了無(wú)人機(jī)、移動(dòng)設(shè)備、AI、車載、多媒體等設(shè)備?！?Ceva中國(guó)技術(shù)支持總監(jiān)徐明表示。

什么驅(qū)動(dòng)了邊緣AI高速發(fā)展？一、實(shí)時(shí)性要求，比如ADAS和輔助駕駛要求AI部署在本地；二、隱私保護(hù)，數(shù)據(jù)私密性需求日益上升，如果數(shù)據(jù)保留在本地，將大幅度降低數(shù)據(jù)被侵犯的可能性；三、端側(cè)推理可以減少功耗，從使用者成本考慮，一旦端側(cè)AI平臺(tái)部署完成后，使用者的成本接近為零，除了一些電費(fèi)外，不需要租用云端服務(wù)器；四、更多的算法公司和軟件公司推出性能優(yōu)異的網(wǎng)絡(luò)，有利于AI在端側(cè)的部署。

國(guó)際大公司比如英偉達(dá)、谷歌、高通和ARM都看好AI在端側(cè)增長(zhǎng)的趨勢(shì)，先后推出了新芯片和新IP，在IOT和汽車端進(jìn)行部署。高通正在從定制解決方案轉(zhuǎn)向可擴(kuò)展的人工智能邊緣平臺(tái)，包括對(duì)Edge Impulse的收購(gòu)和Dragonwing AI soc的開(kāi)發(fā)使邊緣人工智能更容易被開(kāi)發(fā)人員使用。英偉達(dá)邊緣人工智能平臺(tái)旨在直接在機(jī)器人(17.050, 0.32, 1.91%)和邊緣設(shè)備上訓(xùn)練、模擬和部署人工智能模型，為工業(yè)、物流和自治系統(tǒng)的實(shí)時(shí)決策提供支持。

端側(cè)AI興起的三大要素，包括AI網(wǎng)絡(luò)的支持，尺寸更加精簡(jiǎn)；硬件能力的提升來(lái)支持AI網(wǎng)絡(luò)的部署和落地，Ceva作為IP供應(yīng)商，我們和AI芯片公司合作，一起來(lái)打造這些硬件平臺(tái)；將優(yōu)秀的硬件和平臺(tái)協(xié)同起來(lái)，加速AI設(shè)備的落地。
在云端，GPU被廣泛應(yīng)用，在端側(cè)應(yīng)用中，我們認(rèn)為NPU將會(huì)大展拳腳，支持百億數(shù)量級(jí)的端側(cè)設(shè)備。Ceva中國(guó)技術(shù)支持總監(jiān)徐明分享他的觀點(diǎn)。

端側(cè)部署面臨挑戰(zhàn)，Ceva NPU IP帶來(lái)哪些助力？

“端側(cè)設(shè)備眾多，肯定具備重大挑戰(zhàn)。它需要我們具備端到端的解決方案。NPU要有一定的剪裁性，現(xiàn)在的應(yīng)用算力不同，未來(lái)新需求還會(huì)冒出來(lái)，架構(gòu)要具備可持續(xù)發(fā)展，需要配套成熟的軟件SDK，用于參考/優(yōu)化AI模型的Model zoo框架，可互補(bǔ)解決方案的生態(tài)系統(tǒng)，以及面向未來(lái)的人工智能架構(gòu)。” 徐明分析說(shuō)。

Ceva推出了可以剪裁的NPU IP，加上成熟的SDK，來(lái)服務(wù)于整個(gè)端側(cè)AI的應(yīng)用。徐明強(qiáng)調(diào)，Ceva針對(duì)性地提出了相關(guān)人工智能戰(zhàn)略，即通過(guò)可擴(kuò)展的NPU+SDK助力智能邊緣，在可擴(kuò)展的NPU系列方面，包括支持從數(shù)據(jù)中心到邊緣設(shè)備的AI推理，以及優(yōu)化超低功耗和實(shí)時(shí)性能。在全棧集成方面，硬件工具主要有NeuPro NPUs+ SensPro DSP，軟件工具主要包括NeuPro-Studio SDK、圖形編譯器。

徐明強(qiáng)調(diào)，Ceva的NeuPro NPU具備重要的優(yōu)勢(shì)和差異化特征，即可擴(kuò)展性、極致能效比和高度集成性。CEVA針對(duì)transformer網(wǎng)絡(luò)做了原生的支持和優(yōu)化，特別適合生成式AI?？梢詫?shí)現(xiàn)高吞吐量的人工智能應(yīng)用，且只消耗最小的功耗——針對(duì)Llama 2 和Llama3.2的一些網(wǎng)絡(luò)可達(dá)3500Tokens每秒/瓦的性能。

其次，在NPU架構(gòu)可擴(kuò)展性方面，單核算力可橫跨MCU到高端SoC（10 GOPS - 400 TOPS），以支持音頻、視覺(jué)、故障檢測(cè)、智能手機(jī)、ADAS等應(yīng)用。另外，CEVA融合了DSP與NPU，具有傳感器數(shù)據(jù)前處理、AI推理、后處理的統(tǒng)一平臺(tái)。

從應(yīng)用上來(lái)講，正是Ceva具備可以剪裁的NPU IP， 我們可以支持從低算力應(yīng)用到高算力應(yīng)用，比如從可穿戴的低功耗設(shè)備，到目標(biāo)檢測(cè)、目標(biāo)識(shí)別和智能安防監(jiān)控等設(shè)備。大算力應(yīng)用包括ADAS、智能駕駛、生成式AI應(yīng)用都可以覆蓋。
據(jù)悉，Ceva的NeuPro-M和NeuPro-Nano兩大產(chǎn)品解決方案，是適用于各種工作負(fù)載的全套NPU IP，同時(shí)統(tǒng)一的AI SDK易于采用，可廣泛應(yīng)用于預(yù)測(cè)與維護(hù)、健康及健身、物體識(shí)別、監(jiān)控、ADAS和Co-Pilot等應(yīng)用場(chǎng)景。整體上，根據(jù)10GOPS-1TOPS、1-10 TOPS、10-400 TOPS三個(gè)不同算力等級(jí)劃分，Ceva針對(duì)性布局了Edge AI – 32-512 MACs、1K-4K MACs和8K-128K產(chǎn)品，使得NeuPro NPU系列支持任何邊緣人工智能部署。

本文由電子發(fā)燒友原創(chuàng)，轉(zhuǎn)載請(qǐng)注明以上來(lái)源。微信號(hào)zy1052625525。需入群交流，請(qǐng)?zhí)砑游⑿舉lecfans999，投稿爆料采訪需求，請(qǐng)發(fā)郵箱zhangying@huaqiu.com。