賽靈思 Vitis? AI 1.4 現(xiàn)已正式發(fā)布。這是一個(gè)功能強(qiáng)大的機(jī)器學(xué)習(xí)開(kāi)發(fā)平臺(tái),用于在賽靈思自適應(yīng)計(jì)算平臺(tái)上實(shí)現(xiàn) AI 推斷加速。該版本為用戶(hù)提供了完整的解決方案堆棧,首次實(shí)現(xiàn)了對(duì)最新 7nm Versal ACAP 平臺(tái)和基于 16nm 工藝的Kria? 自適應(yīng)系統(tǒng)模塊( SOM )產(chǎn)品組合的支持。對(duì) Versal 平臺(tái)的支持范圍包括 Versal AI Core 系列 VCK190 評(píng)估套件,以及用于 AI 推斷的 VCK5000 Versal 開(kāi)發(fā)卡。
VCK190 套件是首款 Versal AI Core 系列評(píng)估套件,可幫助設(shè)計(jì)者使用 AI 和 DSP 引擎開(kāi)發(fā)解決方案。與當(dāng)今服務(wù)器級(jí) CPU 相比,可提供超過(guò) 100 倍的計(jì)算性能。VCK190 套件是支持從云端到邊緣實(shí)現(xiàn)高吞吐量 AI 推斷和信號(hào)處理應(yīng)用的理想平臺(tái)。VCK190 套件是支持從云端到邊緣實(shí)現(xiàn)高吞吐量 AI 推斷和信號(hào)處理應(yīng)用的理想平臺(tái)。
VCK5000 Versal 開(kāi)發(fā)卡面向需要高吞吐量 AI 推斷和信號(hào)處理計(jì)算性能的設(shè)計(jì)。 VCK5000 開(kāi)發(fā)平臺(tái)為云加速和邊緣計(jì)算應(yīng)用提供了開(kāi)箱即用的解決方案,無(wú)需事先具備 FPGA 硬件專(zhuān)業(yè)知識(shí)。
結(jié)合 Kria KV260 視覺(jué)AI 入門(mén)套件,這些全新 AI 開(kāi)發(fā)平臺(tái)為用戶(hù)提供了更多可能性,使其能夠在 AI 產(chǎn)品化過(guò)程中實(shí)現(xiàn)卓越的 AI 推斷性能、可擴(kuò)展性和云到邊緣部署選擇。
賦予 AI 產(chǎn)品化更多可能性
為了讓更多用戶(hù)體驗(yàn)到高效 AI 推斷加速帶來(lái)的益處,賽靈思提供了一整套 AI 模型,其中所有模型都經(jīng)過(guò)優(yōu)化,可重訓(xùn)練、可部署,也供所有人免費(fèi)下載。在 Vitis AI 1.4 中,該 AI Model Zoo 的多樣性進(jìn)一步增加,所涵蓋的最先進(jìn)模型可用于 4D 雷達(dá)檢測(cè)、圖像激光雷達(dá)傳感器融合、 環(huán)視 3D 檢測(cè)、深度評(píng)估、超分辨率等領(lǐng)域,總共包含來(lái)自不同 ML 框架的數(shù)百個(gè)模型。
當(dāng)然,為了保持差異化的產(chǎn)品功能和競(jìng)爭(zhēng)力,部分用戶(hù)會(huì)選擇直接部署定制神經(jīng)網(wǎng)絡(luò)模型。通過(guò)引入稱(chēng)之為 graph-runner 的全新部署 API,Vitis AI 1.4 還為這些用戶(hù)提供了更加流暢的體驗(yàn),使定制層在 DPU 和 CPU 上即插即用成為現(xiàn)實(shí)。
行業(yè)領(lǐng)先的邊緣與云端性能
賽靈思 FPGA、自適應(yīng) SoC 和 ACAP 所提供的硬件架構(gòu),可以靈活適應(yīng)不同場(chǎng)景的計(jì)算需求,所提供的靈活性和可定制性則能適應(yīng)不同的算法拓?fù)洹⒕壬踔链鎯?chǔ)器層級(jí)。這既是贏得 AI 產(chǎn)品化之戰(zhàn)的最佳方式,也是創(chuàng)建特定領(lǐng)域架構(gòu)( DSA )誕生的原因。
為了證明 DSA 在 AI 推斷加速方面的高效性,賽靈思于今年早些時(shí)候在 MLPerf v1.0 結(jié)果中提交了 ResNet-50 封閉類(lèi)別基準(zhǔn)測(cè)試。MLPerf Inference v1.0 是 MLCommons 組織的機(jī)器學(xué)習(xí)推斷性能基準(zhǔn)套件。結(jié)果衡量了一個(gè)訓(xùn)練有素的神經(jīng)網(wǎng)絡(luò)在各種情況下處理廣泛應(yīng)用的新數(shù)據(jù)的速度。利用 Versal VCK5000 PCI-E 卡,賽靈思獲得了每秒 5,921 張圖像( img/s )的結(jié)果。相同模式下的加速性能結(jié)果優(yōu)于英偉達(dá) T4卡。#FormatImgID_4#
除此之外,Versal AI Core系列 VCK190 的性能結(jié)果也證明了賽靈思在 AI 加速方面的實(shí)力。通過(guò)利用 AI 引擎( AIE )內(nèi)核和 DPU 設(shè)計(jì)、經(jīng)優(yōu)化的存儲(chǔ)器層級(jí)和帶寬 IO,VCK190 取得了 1,567 img/s 和 7.6ms 時(shí)延的 ResNet50-v1.5 結(jié)果,較之英偉達(dá) AGX Xavier 性能提升了 87%且時(shí)延降低了 19 倍 。最重要的是,借助 Vitis AI 1.4,所有用戶(hù)通常都可以利用 VCK5000 和 VCK190 進(jìn)行加速。
致力于易于使用的軟件開(kāi)發(fā)流程
賽靈思始終致力于提供更加易用的軟件工具,方便更多用戶(hù)從事軟件開(kāi)發(fā)、數(shù)據(jù)和 AI 科學(xué)開(kāi)發(fā)以及嵌入式開(kāi)發(fā),從而在賽靈思自適應(yīng)計(jì)算平臺(tái)上輕松實(shí)現(xiàn) AI 部署。
借助 Vitis AI 1.4,量化器、優(yōu)化器和編譯器工具的支持范圍均已擴(kuò)展至最流行的機(jī)器學(xué)習(xí)框架、Pytorch、Tensorflow 1.x、Tensorflow 2.x 和 Caffe。全新 API 和操作員功能也已加入其中,以實(shí)現(xiàn)更多 AI 模型跨多個(gè)器件的部署。
自賽靈思 Vitis AI 1.0 于 2020 年 1 月發(fā)布以來(lái),其下載量已超過(guò) 10 萬(wàn)次,并被數(shù)百名用戶(hù)應(yīng)用于 AI 推斷。全球各地的 AI 開(kāi)發(fā)者利用 Vitis AI 打造了許多激動(dòng)人心的項(xiàng)目?,F(xiàn)在,伴隨 Vitis AI 1.4 的發(fā)布以及支持眾多全新功能與模型,開(kāi)發(fā)者可以在全新 Versal AI Core 系列和 Kria SOM 平臺(tái)上開(kāi)展更多工作。
審核編輯:郭婷
-
soc
+關(guān)注
關(guān)注
40文章
4581瀏覽量
229454 -
AI
+關(guān)注
關(guān)注
91文章
40201瀏覽量
301835 -
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8558瀏覽量
137069
發(fā)布評(píng)論請(qǐng)先 登錄
嵌入式AI開(kāi)發(fā)必看:杜絕幻覺(jué),才是工業(yè)級(jí)IDE的核心底氣
邊緣AI算力臨界點(diǎn):深度解析176TOPS香橙派AI Station的產(chǎn)業(yè)價(jià)值
使用NORDIC AI的好處
基于Vitis Model Composer完成全流程AI Engine開(kāi)發(fā)
用于AI推斷加速的Vitis AI開(kāi)發(fā)平臺(tái)
評(píng)論