91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

了解深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的現(xiàn)狀,英特爾FPGA實施神經(jīng)網(wǎng)絡(luò)的必然之選

電子工程師 ? 來源:lq ? 2018-12-17 16:03 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

在腦認(rèn)知科學(xué)中有這么一個觀點,如果幾個神經(jīng)元之間經(jīng)常構(gòu)成連通路,且通過這幾個神經(jīng)元進行信息傳遞不如兩者直接通過在彼此中間“搭橋”進行信息傳遞來得快,那么大腦結(jié)構(gòu)就會根據(jù)細(xì)胞結(jié)構(gòu)上信息傳遞的頻率在兩者之間幫助生出一個神經(jīng)元來幫助更高效的獲取與處理大腦信息。

從上面這個內(nèi)容中我們可以發(fā)現(xiàn),現(xiàn)在人工智能的發(fā)展并不足夠完美,但我們依然受類似的生物系統(tǒng)啟發(fā)從而提出神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),并將之用于人工智能技術(shù)的發(fā)展?,F(xiàn)在,通過融合強大計算資源和用于神經(jīng)元的新型架構(gòu),神經(jīng)網(wǎng)絡(luò)已然在計算機視覺和機器翻譯等很多領(lǐng)域都取得了最先進的成果。

然而相對來說,這樣的技術(shù)發(fā)展可都有各種嚴(yán)格的要求,尤其速度。那么我們現(xiàn)代人在大數(shù)據(jù)噴發(fā)的今天,是怎么做到計算與速度兩者皆備的呢?在此之前,我們不妨先來了解深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的現(xiàn)狀。

深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)現(xiàn)狀

深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)系統(tǒng)目前已能夠為許多人提供最佳解決方案,并已用于圖像識別和自然語言處理的大型計算問題。更多的人使用傳統(tǒng)的處理來模仿神經(jīng)網(wǎng)絡(luò)并創(chuàng)建一個系統(tǒng),并通過觀察來學(xué)習(xí)。雖然我們在這個領(lǐng)域已經(jīng)取得了很大進展,但基于Web的神經(jīng)網(wǎng)絡(luò)高性能系統(tǒng)開發(fā)等多種技術(shù),在功耗,成本和性能方面仍然存在重大挑戰(zhàn)。

此外,最廣泛使用的深度學(xué)習(xí)系統(tǒng)是卷積神經(jīng)網(wǎng)絡(luò)(細(xì)胞神經(jīng)網(wǎng)絡(luò))。這些系統(tǒng)使用神經(jīng)元的前饋人工網(wǎng)絡(luò)執(zhí)行圖像識別。如有線電視新聞網(wǎng)是由層組成。其中,池化層通過最大值或值平均,池化減少變化圖像特定區(qū)域的共同特征。CNN層的數(shù)量與圖像識別的準(zhǔn)確性相關(guān);更多圖層需要更多系統(tǒng)性能。這些層可以獨立運行。

圖1:二維卷積層

多核處理系統(tǒng)使用外部存儲器緩沖每層之間的數(shù)據(jù),這需要大量的內(nèi)存與帶寬。到目前為止,神經(jīng)網(wǎng)絡(luò)中性能最強的功能是卷積自己。傳統(tǒng)的處理器內(nèi)核必須為每個內(nèi)核執(zhí)行大量指令。卷積需要大量的處理與帶寬。

實現(xiàn)CNN的有效實施有兩個主要挑戰(zhàn)。首先是能夠在管道中執(zhí)行函數(shù),將數(shù)據(jù)從上一個層傳遞到下一個。第二是有效地執(zhí)行卷積函數(shù)。另外,這些功能應(yīng)該用一種方法構(gòu)建允許輕松重新編程不同類型的硬件和移植到未來的高級硬件,否則,每個新的實現(xiàn)都需要廣泛的重新優(yōu)化。

英特爾FPGA,實施神經(jīng)網(wǎng)絡(luò)的必然之選

在英特爾公司,F(xiàn)PGA 當(dāng)稱實施神經(jīng)網(wǎng)絡(luò)的必然之選,它可在同一設(shè)備上處理計算、邏輯和存儲資源中的不同算法。與其它同行對手的裝置相比,其性能更快,用戶可通過硬件來完成核心部分運算。加上軟件開發(fā)者可使用 OpenCL?1C 級編程標(biāo)準(zhǔn),將 FPGA 作為標(biāo)準(zhǔn) CPU 的加速器,更加無需處理硬件級設(shè)計。

“Why?因為它能將計算,邏輯和內(nèi)存資源結(jié)合在一起共同使用。再加上英特爾?FPGASDK的幫助,使得它能夠適用于各種加速應(yīng)用并使用更多復(fù)雜的算法。軟件開發(fā)人員也可以使用OpenCL C級編程標(biāo)準(zhǔn)?!?/p>

此外,英特爾已經(jīng)開發(fā)出可擴展的卷積神經(jīng)網(wǎng)絡(luò)參考設(shè)計,并用于使用OpenCL編程的深度學(xué)習(xí)系統(tǒng)。(使用OpenCL SDK構(gòu)建的語言)這個設(shè)計首先是在Stratix?V器件系列上實現(xiàn),現(xiàn)在適用于Arria?10器件。設(shè)計表現(xiàn)是使用兩個流行的CNN基準(zhǔn)進行基準(zhǔn)測試:CIFAR-10和ImageNet。(典型的GPU實現(xiàn)批處理圖像需要大量的外部存儲器帶寬。相比之下,F(xiàn)PGA可以一次性處理圖像,芯片上的數(shù)據(jù)重用率更高,外部使用更少內(nèi)存帶寬。)

圖2:神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)通道

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴

原文標(biāo)題:從“腦認(rèn)知科學(xué)”看神經(jīng)元之旅,你對深度神經(jīng)網(wǎng)絡(luò)該有這樣的認(rèn)知

文章出處:【微信號:FPGAer_Club,微信公眾號:FPGAer俱樂部】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    神經(jīng)網(wǎng)絡(luò)的初步認(rèn)識

    日常生活中的智能應(yīng)用都離不開深度學(xué)習(xí),而深度學(xué)習(xí)則依賴于神經(jīng)網(wǎng)絡(luò)的實現(xiàn)。什么是神經(jīng)網(wǎng)絡(luò)?
    的頭像 發(fā)表于 12-17 15:05 ?337次閱讀
    <b class='flag-5'>神經(jīng)網(wǎng)絡(luò)</b>的初步認(rèn)識

    自動駕駛中常提的卷積神經(jīng)網(wǎng)絡(luò)是個啥?

    在自動駕駛領(lǐng)域,經(jīng)常會聽到卷積神經(jīng)網(wǎng)絡(luò)技術(shù)。卷積神經(jīng)網(wǎng)絡(luò),簡稱為CNN,是一種專門用來處理網(wǎng)格狀數(shù)據(jù)(比如圖像)的深度學(xué)習(xí)模型。CNN在圖像處理中尤其常見,因為圖像本身就可以看作是由像
    的頭像 發(fā)表于 11-19 18:15 ?2085次閱讀
    自動駕駛中常提的卷積<b class='flag-5'>神經(jīng)網(wǎng)絡(luò)</b>是個啥?

    CNN卷積神經(jīng)網(wǎng)絡(luò)設(shè)計原理及在MCU200T上仿真測試

    數(shù)的提出很大程度的解決了BP算法在優(yōu)化深層神經(jīng)網(wǎng)絡(luò)時的梯度耗散問題。當(dāng)x&gt;0 時,梯度恒為1,無梯度耗散問題,收斂快;當(dāng)x&lt;0 時,該層的輸出為0。 CNN
    發(fā)表于 10-29 07:49

    NMSIS神經(jīng)網(wǎng)絡(luò)庫使用介紹

    NMSIS NN 軟件庫是一組高效的神經(jīng)網(wǎng)絡(luò)內(nèi)核,旨在最大限度地提高 Nuclei N 處理器內(nèi)核上的神經(jīng)網(wǎng)絡(luò)的性能并最??大限度地減少其內(nèi)存占用。 該庫分為多個功能,每個功能涵蓋特定類別
    發(fā)表于 10-29 06:08

    在Ubuntu20.04系統(tǒng)中訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型的一些經(jīng)驗

    本帖欲分享在Ubuntu20.04系統(tǒng)中訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型的一些經(jīng)驗。我們采用jupyter notebook作為開發(fā)IDE,以TensorFlow2為訓(xùn)練框架,目標(biāo)是訓(xùn)練一個手寫數(shù)字識別的神經(jīng)網(wǎng)絡(luò)
    發(fā)表于 10-22 07:03

    CICC2033神經(jīng)網(wǎng)絡(luò)部署相關(guān)操作

    在完成神經(jīng)網(wǎng)絡(luò)量化后,需要將神經(jīng)網(wǎng)絡(luò)部署到硬件加速器上。首先需要將所有權(quán)重數(shù)據(jù)以及輸入數(shù)據(jù)導(dǎo)入到存儲器內(nèi)。 在仿真環(huán)境下,可將其存于一個文件,并在 Verilog 代碼中通過 readmemh 函數(shù)
    發(fā)表于 10-20 08:00

    液態(tài)神經(jīng)網(wǎng)絡(luò)(LNN):時間連續(xù)性與動態(tài)適應(yīng)性的神經(jīng)網(wǎng)絡(luò)

    1.算法簡介液態(tài)神經(jīng)網(wǎng)絡(luò)(LiquidNeuralNetworks,LNN)是一種新型的神經(jīng)網(wǎng)絡(luò)架構(gòu),其設(shè)計理念借鑒自生物神經(jīng)系統(tǒng),特別是秀麗隱桿線蟲的神經(jīng)結(jié)構(gòu),盡管這種微生物的
    的頭像 發(fā)表于 09-28 10:03 ?1243次閱讀
    液態(tài)<b class='flag-5'>神經(jīng)網(wǎng)絡(luò)</b>(LNN):時間連續(xù)性與動態(tài)適應(yīng)性的<b class='flag-5'>神經(jīng)網(wǎng)絡(luò)</b>

    神經(jīng)網(wǎng)絡(luò)的并行計算與加速技術(shù)

    隨著人工智能技術(shù)的飛速發(fā)展,神經(jīng)網(wǎng)絡(luò)在眾多領(lǐng)域展現(xiàn)出了巨大的潛力和廣泛的應(yīng)用前景。然而,神經(jīng)網(wǎng)絡(luò)模型的復(fù)雜度和規(guī)模也在不斷增加,這使得傳統(tǒng)的串行計算方式面臨著巨大的挑戰(zhàn),如計算速度慢、訓(xùn)練時間長等
    的頭像 發(fā)表于 09-17 13:31 ?1138次閱讀
    <b class='flag-5'>神經(jīng)網(wǎng)絡(luò)</b>的并行計算與加速技術(shù)

    如何在機器視覺中部署深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)

    圖 1:基于深度學(xué)習(xí)的目標(biāo)檢測可定位已訓(xùn)練的目標(biāo)類別,并通過矩形框(邊界框)對其進行標(biāo)識。 在討論人工智能(AI)或深度學(xué)習(xí)時,經(jīng)常會出現(xiàn)“神經(jīng)網(wǎng)絡(luò)
    的頭像 發(fā)表于 09-10 17:38 ?909次閱讀
    如何在機器視覺中部署<b class='flag-5'>深度</b><b class='flag-5'>學(xué)習(xí)</b><b class='flag-5'>神經(jīng)網(wǎng)絡(luò)</b>

    基于神經(jīng)網(wǎng)絡(luò)的數(shù)字預(yù)失真模型解決方案

    在基于神經(jīng)網(wǎng)絡(luò)的數(shù)字預(yù)失真(DPD)模型中,使用不同的激活函數(shù)對整個系統(tǒng)性能和能效有何影響?
    的頭像 發(fā)表于 08-29 14:01 ?3478次閱讀

    無刷電機小波神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)子位置檢測方法的研究

    摘要:論文通過對無刷電機數(shù)學(xué)模型的推導(dǎo),得出轉(zhuǎn)角:與三相相電壓之間存在映射關(guān)系,因此構(gòu)建了一個以三相相電壓為輸人,轉(zhuǎn)角為輸出的小波神經(jīng)網(wǎng)絡(luò)來實現(xiàn)轉(zhuǎn)角預(yù)測,并采用改進遺傳算法來訓(xùn)練網(wǎng)絡(luò)結(jié)構(gòu)與參數(shù),借助
    發(fā)表于 06-25 13:06

    神經(jīng)網(wǎng)絡(luò)專家系統(tǒng)在電機故障診斷中的應(yīng)用

    摘要:針對傳統(tǒng)專家系統(tǒng)不能進行自學(xué)習(xí)、自適應(yīng)的問題,本文提出了基于種經(jīng)網(wǎng)絡(luò)專家系統(tǒng)的并步電機故障診斷方法。本文將小波神經(jīng)網(wǎng)絡(luò)和專家系統(tǒng)相結(jié)合,充分發(fā)揮了二者故障診斷的優(yōu)點,很大程度上降低了對電機
    發(fā)表于 06-16 22:09

    神經(jīng)網(wǎng)絡(luò)RAS在異步電機轉(zhuǎn)速估計中的仿真研究

    眾多方法中,由于其結(jié)構(gòu)簡單,穩(wěn)定性好廣泛受到人們的重視,且已被用于產(chǎn)品開發(fā)。但是MRAS仍存在在低速區(qū)速度估計精度下降和對電動機參數(shù)變化非常敏感的問題。本文利用神經(jīng)網(wǎng)絡(luò)的特點,使估計更為簡單、快速
    發(fā)表于 06-16 21:54

    基于FPGA搭建神經(jīng)網(wǎng)絡(luò)的步驟解析

    本文的目的是在一個神經(jīng)網(wǎng)絡(luò)已經(jīng)通過python或者MATLAB訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型,將訓(xùn)練好的模型的權(quán)重和偏置文件以TXT文件格式導(dǎo)出,然后通過python程序?qū)xt文件轉(zhuǎn)化為coe文件,(coe
    的頭像 發(fā)表于 06-03 15:51 ?1236次閱讀
    基于<b class='flag-5'>FPGA</b>搭建<b class='flag-5'>神經(jīng)網(wǎng)絡(luò)</b>的步驟解析

    NVIDIA實現(xiàn)神經(jīng)網(wǎng)絡(luò)渲染技術(shù)的突破性增強功能

    近日,NVIDIA 宣布了 NVIDIA RTX 神經(jīng)網(wǎng)絡(luò)渲染技術(shù)的突破性增強功能。NVIDIA 與微軟合作,將在 4 月的 Microsoft DirectX 預(yù)覽版中增加神經(jīng)網(wǎng)絡(luò)著色技術(shù),讓開
    的頭像 發(fā)表于 04-07 11:33 ?1198次閱讀