2022年11月29日，紫光展銳正式發(fā)布了系統(tǒng)級(jí)安全的高性能5G SoC 新品T820，引起了廣泛關(guān)注。

T820采用八核CPU架構(gòu)，6nm EUV先進(jìn)工藝，金融級(jí)全內(nèi)置安全方案，在性能、功耗與5G通信體驗(yàn)等方面，較上一代產(chǎn)品更為出色。

此前，已經(jīng)為大家講解過T820的安全性能。今天，小展將帶你一同探索T820的AI性能。

日新月異的AI技術(shù)，重塑著移動(dòng)設(shè)備的交互方式和應(yīng)用體驗(yàn)，也推動(dòng)著端側(cè)SoC不斷突破AI計(jì)算能力的邊界。紫光展銳系統(tǒng)級(jí)安全的高性能5G移動(dòng)平臺(tái)T820，采用了新一代高能效NPU+VDSP架構(gòu)，垂直優(yōu)化計(jì)算能力，NPU算力達(dá)到8TOPS，相比上一代提升67%。T820在蘇黎世聯(lián)邦理工學(xué)院AI Benchmark Mobile SoCs榜單上的推理測(cè)試，取得了134K的不俗成績。

（來自AI Benchmark官網(wǎng)）

基于紫光展銳T820構(gòu)建的全新一代AI計(jì)算平臺(tái)，提供算法、軟件、硬件全棧解決方案，將全面釋放AI能力，拓展應(yīng)用邊界。

小身板大能量

一般來說，存儲(chǔ)單元會(huì)占據(jù)了SoC芯片的大量面積，紫光展銳在T820平臺(tái)上采用了創(chuàng)新設(shè)計(jì)的數(shù)據(jù)存儲(chǔ)和計(jì)算模式，充分利用了卷積數(shù)據(jù)復(fù)用特征來降低存儲(chǔ)占用。結(jié)合展銳新一代圖優(yōu)化和圖切分技術(shù)，在保證計(jì)算單元利用率的前提下，進(jìn)一步降低了存儲(chǔ)單元空間占用。

T820使用第三代神經(jīng)網(wǎng)絡(luò)加速核，提供8TOPS的AI算力同時(shí)，能效比達(dá)到業(yè)界領(lǐng)先水平。T820支持接入多種運(yùn)算核心，如CPU/GPU/VDSP/NPU，統(tǒng)一內(nèi)存模型的采用，顯著提升異構(gòu)運(yùn)算效率。

T820支持超過200+主流神經(jīng)網(wǎng)絡(luò)算子，性能對(duì)標(biāo)業(yè)界一流水平，海量網(wǎng)絡(luò)模型輕松接入。

降低NPU使用門檻

NPU作為專門負(fù)責(zé)AI計(jì)算的部件，用于加速神經(jīng)網(wǎng)絡(luò)的運(yùn)算，解決傳統(tǒng)芯片在神經(jīng)網(wǎng)絡(luò)運(yùn)算時(shí)效率低下的問題。但NPU技術(shù)門檻相當(dāng)高，紫光展銳將一直以來的軟硬算一體化Turnkey解決方案思路，也貫徹到了NPU的能力開發(fā)上：不僅支持業(yè)界幾乎所有的主流AI計(jì)算框架，還打通了可以通用的統(tǒng)一接口，它將大幅降低用戶模型和方案部署的復(fù)雜度，降低開發(fā)及維護(hù)的成本。

業(yè)界主流AI計(jì)算框架，包括 TensorFlow，TensorFlow-Lite，PyTorch，Caffe，MxNet，PaddlePaddle，ONNX 等，展銳T820都能支持，還為用戶提供了多種交互式開發(fā)環(huán)境，讓業(yè)務(wù)快速部署、靈活應(yīng)用。T820支持標(biāo)準(zhǔn)化Android NN代理和定制化直連模式，讓推理性能和通用性二者兼顧。

多樣化模型優(yōu)化，讓部署更靈活

T820集成了多種模型優(yōu)化方案和工具。量化工具支持4-16bit模型權(quán)重和激活的量化，配合數(shù)據(jù)訪存自適應(yīng)無損壓縮技術(shù)，解決了帶寬瓶頸問題，讓AI澎湃算力充分得到釋放。

T820提供了精度穩(wěn)定性模擬系統(tǒng)，允許用戶校準(zhǔn)量化模型精度，降低用戶解決跨平臺(tái)精度差異的難度。無損壓縮工具支持權(quán)重和激活的無損壓縮，大幅降低帶寬壓力，讓“大模型”在端側(cè)部署成為可能。?

針對(duì)不同的應(yīng)用場(chǎng)景，T820的AI計(jì)算平臺(tái)支持動(dòng)態(tài)編譯，適應(yīng)全場(chǎng)景獨(dú)立部署。T820支持圖像超分、視頻增強(qiáng)、語義分割、目標(biāo)檢測(cè)、文本識(shí)別、語音識(shí)別等豐富AI應(yīng)用，助力客戶快速構(gòu)建專屬AI應(yīng)用，極大縮短端到端部署時(shí)間，提升用戶體驗(yàn)。

算力強(qiáng)，安全也有保障

在人臉識(shí)別的時(shí)候，用戶的臉部特征數(shù)據(jù)安全需要得到保障。外部應(yīng)用如果試圖訪問這些數(shù)據(jù)，或者篡改計(jì)算結(jié)果，硬件保護(hù)單元會(huì)自動(dòng)阻止這些操作，并立刻報(bào)告異常。

T820支持在TEE安全環(huán)境中運(yùn)行AI計(jì)算任務(wù)，提供硬件DRM安全防護(hù)，保障每一次訪問都是授信訪問，使AI相關(guān)數(shù)據(jù)和算法避免受到惡意軟件的攻擊，從而保護(hù)用戶數(shù)據(jù)不被竊取或篡改，在高效運(yùn)行各種AI神經(jīng)網(wǎng)絡(luò)算法的同時(shí)，全方位保護(hù)用戶的數(shù)據(jù)和隱私。

同時(shí)，紫光展銳T820將金融級(jí)iSE安全單元集成在SoC中，相比外置SE方案，更難攻擊定位，安全性更高，支持國際主流算法，擴(kuò)展能力更為出色，存儲(chǔ)容量提升20倍，可支持銀行卡、數(shù)字貨幣等數(shù)百個(gè)金融類場(chǎng)景應(yīng)用。

T820不僅能夠輕松應(yīng)對(duì)當(dāng)前的各種AI計(jì)算任務(wù)，也為未來更復(fù)雜的AI算法提供了算力延伸空間，更進(jìn)一步的是，T820以開放式的架構(gòu)、歸一化的應(yīng)用入口、軟硬協(xié)同優(yōu)化，整合芯片的計(jì)算能力，大幅降低AI部署落地的門檻，為各行各業(yè)的智能化提供技術(shù)基石。

作為世界領(lǐng)先的平臺(tái)型芯片設(shè)計(jì)企業(yè)，2022年，紫光展銳在吳勝武董事長和CEO任奇?zhèn)ゲ┦康裙芾韺拥膸ьI(lǐng)下克服了多種困難，步入穩(wěn)健有序發(fā)展的新征程，在業(yè)務(wù)領(lǐng)域取得了顯著成績，獲得了國家級(jí)、行業(yè)級(jí)的諸多獎(jiǎng)項(xiàng)，增強(qiáng)了行業(yè)與組織自信。紫光展銳將繼續(xù)踐行紫光集團(tuán)“志高行遠(yuǎn)、創(chuàng)造價(jià)值”的價(jià)值觀，持續(xù)投入5G先進(jìn)技術(shù)研發(fā)，為產(chǎn)業(yè)和社會(huì)創(chuàng)造價(jià)值，為讓世界變得“更智能、更開放、更公平、更美好”而貢獻(xiàn)力量。

編輯：黃飛

?