基于深度神經(jīng)網(wǎng)絡(luò)開(kāi)發(fā)AI編譯器
概述
我們正在開(kāi)發(fā)的 AI 編譯器是可以從預(yù)訓(xùn)練的深度神經(jīng)網(wǎng)絡(luò)為瑞薩的 R-Car 設(shè)備生成高性能可執(zhí)行代碼的軟件。
背景
實(shí)時(shí)執(zhí)行 CNN 推理是一項(xiàng)非常具有挑戰(zhàn)性的工作，因?yàn)?a target="_blank">嵌入式硬件在計(jì)算和功耗的硬件資源方面面臨著嚴(yán)格的限制。為了在 R-Car V 系列設(shè)備上有效地執(zhí)行 CNN 推理，瑞薩設(shè)計(jì)了異構(gòu)架構(gòu)，該架構(gòu)分為可編程處理器 （CPU） 和專(zhuān)用于計(jì)算網(wǎng)絡(luò)各層的加速器。
至于AI編譯器，常見(jiàn)的軟件架構(gòu)包含兩部分：編譯器“前端”和編譯器“后端”，如圖所示。深度神經(jīng)網(wǎng)絡(luò)在 AI 編譯器中被翻譯成多級(jí) IR。編譯器前端負(fù)責(zé)與硬件無(wú)關(guān)的轉(zhuǎn)換（圖 IR）和圖優(yōu)化，而編譯器后端負(fù)責(zé)特定于硬件的優(yōu)化、代碼生成。
例子
瑞薩主要開(kāi)發(fā)硬件相關(guān)的優(yōu)化算法，最大限度地利用R-Car V系列的異構(gòu)架構(gòu)。為了進(jìn)一步提高性能，有必要了解與深度神經(jīng)網(wǎng)絡(luò)相關(guān)的最新論文，并與工程師進(jìn)行技術(shù)討論。我們正在尋找該領(lǐng)域積極進(jìn)取的工程師。
結(jié)論
深度神經(jīng)網(wǎng)絡(luò)是近年來(lái)得到廣泛研究并不斷發(fā)展的技術(shù)領(lǐng)域之一。瑞薩將提供先進(jìn)的人工智能工具來(lái)協(xié)助自動(dòng)駕駛技術(shù)的發(fā)展。
圖像
審核編輯：郭婷
聲明：本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4838瀏覽量
107859 -
AI
+關(guān)注
關(guān)注
91文章
39893瀏覽量
301537 -
編譯器
+關(guān)注
關(guān)注
1文章
1672瀏覽量
51674
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
熱點(diǎn)推薦
神經(jīng)網(wǎng)絡(luò)的初步認(rèn)識(shí)
日常生活中的智能應(yīng)用都離不開(kāi)深度學(xué)習(xí)，而深度學(xué)習(xí)則依賴(lài)于神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)。什么是神經(jīng)網(wǎng)絡(luò)？神經(jīng)網(wǎng)絡(luò)的核心思想是模仿生物
NMSIS神經(jīng)網(wǎng)絡(luò)庫(kù)使用介紹
NMSIS NN 軟件庫(kù)是一組高效的神經(jīng)網(wǎng)絡(luò)內(nèi)核，旨在最大限度地提高 Nuclei N 處理器內(nèi)核上的神經(jīng)網(wǎng)絡(luò)的性能并最??大限度地減少其內(nèi)存占用。
該庫(kù)分為多個(gè)功能，每個(gè)功能涵蓋特定類(lèi)別
發(fā)表于 10-29 06:08
在Ubuntu20.04系統(tǒng)中訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型的一些經(jīng)驗(yàn)
本帖欲分享在Ubuntu20.04系統(tǒng)中訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型的一些經(jīng)驗(yàn)。我們采用jupyter notebook作為開(kāi)發(fā)IDE，以TensorFlow2為訓(xùn)練框架，目標(biāo)是訓(xùn)練一個(gè)手寫(xiě)數(shù)字識(shí)別的神經(jīng)網(wǎng)絡(luò)
發(fā)表于 10-22 07:03
CICC2033神經(jīng)網(wǎng)絡(luò)部署相關(guān)操作
在完成神經(jīng)網(wǎng)絡(luò)量化后，需要將神經(jīng)網(wǎng)絡(luò)部署到硬件加速器上。首先需要將所有權(quán)重?cái)?shù)據(jù)以及輸入數(shù)據(jù)導(dǎo)入到存儲(chǔ)器內(nèi)。
在仿真環(huán)境下，可將其存于一個(gè)文件，并在 Verilog 代碼中通過(guò) read
發(fā)表于 10-20 08:00
液態(tài)神經(jīng)網(wǎng)絡(luò)（LNN）：時(shí)間連續(xù)性與動(dòng)態(tài)適應(yīng)性的神經(jīng)網(wǎng)絡(luò)
1.算法簡(jiǎn)介液態(tài)神經(jīng)網(wǎng)絡(luò)（LiquidNeuralNetworks，LNN）是一種新型的神經(jīng)網(wǎng)絡(luò)架構(gòu)，其設(shè)計(jì)理念借鑒自生物神經(jīng)系統(tǒng)，特別是秀麗隱桿線(xiàn)蟲(chóng)的神經(jīng)結(jié)構(gòu)，盡管這種微生物的
【「AI芯片：科技探索與AGI愿景」閱讀體驗(yàn)】+神經(jīng)形態(tài)計(jì)算、類(lèi)腦芯片
AI芯片不僅包括深度學(xué)細(xì)AI加速器，還有另外一個(gè)主要列別：類(lèi)腦芯片。類(lèi)腦芯片是模擬人腦神經(jīng)網(wǎng)絡(luò)架構(gòu)的芯片。它結(jié)合微電子技術(shù)和新型
發(fā)表于 09-17 16:43
神經(jīng)網(wǎng)絡(luò)的并行計(jì)算與加速技術(shù)
隨著人工智能技術(shù)的飛速發(fā)展，神經(jīng)網(wǎng)絡(luò)在眾多領(lǐng)域展現(xiàn)出了巨大的潛力和廣泛的應(yīng)用前景。然而，神經(jīng)網(wǎng)絡(luò)模型的復(fù)雜度和規(guī)模也在不斷增加，這使得傳統(tǒng)的串行計(jì)算方式面臨著巨大的挑戰(zhàn)，如計(jì)算速度慢、訓(xùn)練時(shí)間長(zhǎng)等
【「AI芯片：科技探索與AGI愿景」閱讀體驗(yàn)】+第二章 實(shí)現(xiàn)深度學(xué)習(xí)AI芯片的創(chuàng)新方法與架構(gòu)
Transformer和視覺(jué)Transformer模型。
ViTA是一種高效數(shù)據(jù)流AI加速器，用于在邊緣設(shè)備上部署計(jì)算密集型視覺(jué)Transformer模型。
2、射頻神經(jīng)網(wǎng)絡(luò)
2.1線(xiàn)性射頻模擬處理
發(fā)表于 09-12 17:30
如何在機(jī)器視覺(jué)中部署深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)
圖 1：基于深度學(xué)習(xí)的目標(biāo)檢測(cè)可定位已訓(xùn)練的目標(biāo)類(lèi)別，并通過(guò)矩形框（邊界框）對(duì)其進(jìn)行標(biāo)識(shí)。 在討論人工智能（AI）或深度學(xué)習(xí)時(shí)，經(jīng)常會(huì)出現(xiàn)“神經(jīng)網(wǎng)絡(luò)”、“黑箱”、“標(biāo)注”等術(shù)語(yǔ)。這些概
邊緣設(shè)備AI部署：編譯器如何實(shí)現(xiàn)輕量化與高性能？
電子發(fā)燒友網(wǎng)綜合報(bào)道 AI編譯器是專(zhuān)門(mén)為人工智能（AI）和機(jī)器學(xué)習(xí)（ML）模型設(shè)計(jì)的編譯器，其核心目標(biāo)是將高級(jí)的AI模型描述（如計(jì)算圖、
Nordic收購(gòu) Neuton.AI 關(guān)于產(chǎn)品技術(shù)的分析
Nordic Semiconductor 于 2025 年收購(gòu)了 Neuton.AI，這是一家專(zhuān)注于超小型機(jī)器學(xué)習(xí)（TinyML）解決方案的公司。
Neuton 開(kāi)發(fā)了一種獨(dú)特的神經(jīng)網(wǎng)絡(luò)框架，能夠
發(fā)表于 06-28 14:18
無(wú)刷電機(jī)小波神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)子位置檢測(cè)方法的研究
摘要:論文通過(guò)對(duì)無(wú)刷電機(jī)數(shù)學(xué)模型的推導(dǎo),得出轉(zhuǎn)角:與三相相電壓之間存在映射關(guān)系,因此構(gòu)建了一個(gè)以三相相電壓為輸人,轉(zhuǎn)角為輸出的小波神經(jīng)網(wǎng)絡(luò)來(lái)實(shí)現(xiàn)轉(zhuǎn)角預(yù)測(cè),并采用改進(jìn)遺傳算法來(lái)訓(xùn)練網(wǎng)絡(luò)結(jié)構(gòu)與參數(shù),借助
發(fā)表于 06-25 13:06
神經(jīng)網(wǎng)絡(luò)專(zhuān)家系統(tǒng)在電機(jī)故障診斷中的應(yīng)用
摘要:針對(duì)傳統(tǒng)專(zhuān)家系統(tǒng)不能進(jìn)行自學(xué)習(xí)、自適應(yīng)的問(wèn)題,本文提出了基于種經(jīng)網(wǎng)絡(luò)專(zhuān)家系統(tǒng)的并步電機(jī)故障診斷方法。本文將小波神經(jīng)網(wǎng)絡(luò)和專(zhuān)家系統(tǒng)相結(jié)合,充分發(fā)揮了二者故障診斷的優(yōu)點(diǎn),很大程度上降低了對(duì)電機(jī)
發(fā)表于 06-16 22:09
神經(jīng)網(wǎng)絡(luò)RAS在異步電機(jī)轉(zhuǎn)速估計(jì)中的仿真研究
眾多方法中，由于其結(jié)構(gòu)簡(jiǎn)單，穩(wěn)定性好廣泛受到人們的重視，且已被用于產(chǎn)品開(kāi)發(fā)。但是MRAS仍存在在低速區(qū)速度估計(jì)精度下降和對(duì)電動(dòng)機(jī)參數(shù)變化非常敏感的問(wèn)題。本文利用神經(jīng)網(wǎng)絡(luò)的特點(diǎn)，使估計(jì)更為簡(jiǎn)單、快速
發(fā)表于 06-16 21:54
NVIDIA實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)渲染技術(shù)的突破性增強(qiáng)功能
近日，NVIDIA 宣布了 NVIDIA RTX 神經(jīng)網(wǎng)絡(luò)渲染技術(shù)的突破性增強(qiáng)功能。NVIDIA 與微軟合作，將在 4 月的 Microsoft DirectX 預(yù)覽版中增加神經(jīng)網(wǎng)絡(luò)著色技術(shù)，讓開(kāi)發(fā)
工商網(wǎng)監(jiān)
評(píng)論