91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

深度剖析卷積操作的維度計算

電子工程師 ? 來源:今日頭條 ? 作者:數(shù)據學習DataLearn ? 2021-03-24 15:38 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

卷積操作的維度計算是定義神經網絡結構的重要問題,在使用如PyTorch、Tensorflow深度學習框架搭建神經網絡的時候,對每一層輸入的維度和輸出的維度都必須計算準確,否則容易出錯,這里將詳細說明相關的維度計算。

一、卷積操作的維度計算

卷積操作的維度計算是定義神經網絡結構的重要問題,在使用如PyTorch、Tensorflow等深度學習框架搭建神經網絡的時候,對每一層輸入的維度和輸出的維度都必須計算準確,否則容易出錯,這里將詳細說明相關的維度計算。

首先,我們看一下卷積操作涉及的東西,一個卷積操作需要定義卷積核的大小、輸入圖像的padding長度以及卷積操作的步長。以一個RGB圖像輸入為例,一個多卷積核操作的示意圖如下:

使用兩個卷積核掃描輸入圖像

這個例子的輸入數(shù)據是一個三維數(shù)據,帶有通道數(shù),輸入數(shù)據第三個維度是通道數(shù),使用了兩個卷積核(濾波器)掃描得到一個帶有兩個通道的圖像(一個卷積核對一個三維的數(shù)據,即帶多個通道的二維圖像掃描可以得到一個二維單通道圖像結果,要求卷積核也是三維,且通道數(shù)和輸入數(shù)據通道數(shù)一樣)。下面我們來描述具體計算。

假設輸入數(shù)據大小是w × h,其中,w是寬度,h是高度。掃描的卷積核大小是f × f。padding的長度是p(padding),步長是s(stride)。那么經過卷積操作之后,輸出的數(shù)據大?。?/p>

如果輸入的數(shù)據是三維數(shù)據,即:w × h × c。其中,w是寬度,h是高度,c是通道數(shù)(對于RGB圖像輸入來說,這個值一般是3,在文本處理中,通常是不同embedding模型的個數(shù),如采用騰訊訓練的、谷歌訓練的等)。這個時候的卷積核通常也是帶通道的三維卷積核:f × f × c。

注意,一般來說,卷積核的通道數(shù)c和輸入數(shù)據的通道數(shù)是一致的。因此,這個時候卷積之后的輸出依然是一個二維數(shù)據,其大小為:

這里的維度做了向下取整,防止結果不是整數(shù)的情況。假如希望輸出的也是帶通道的結果,那么這時候就要使用多個卷積核來操作了,最終輸出的數(shù)據維度是:

其中c'是卷積核的個數(shù)。

二、深度學習框架中Conv1d、Conv2d

在像PyTorch、Tensorflow中,都有類似Conv1d、Conv2d和Conv3d的操作。這也都和卷積操作的維度有關,里面的參數(shù)都要定義好。例如如下的卷積操作:

self.convs = nn.Sequential( nn.Conv1d(in_channels=32, out_channels=16, kernel_size=5, stride=1, padding=0), nn.BatchNorm1d(16), nn.ReLU(inplace=True) )

這里面的參數(shù)要定義好,否則容易出錯。我們將分別介紹。

Conv1d是一維卷積操作,它要求輸入的數(shù)據是三維的,即:N × C_in × L_in。

最終輸出的參數(shù)也是三維的:N × C_out × L_out。

這里的N是mini batch size,C是通道數(shù)量,L是寬度。

這里的out_channels定義了將由幾個卷積核來掃描,kernel_size則定義了每一個卷積核大小,都可以自己定義。最終,輸出的min_batch_size不變,out_channels數(shù)量根據定義的參數(shù)來,而輸出的width計算如下:

深度學習卷積操作的維度計算

這里的p是上面padding的參數(shù)值,f是kernel_size的值。類似的,如果使用Conv2D做卷積操作,那么輸入就是四維的:N × C_in × H_in × W_in。

這里的N是min batch size,C_in是輸入數(shù)據的通道數(shù),H_in是輸入數(shù)據的高度,W_in是輸入數(shù)據的寬度。其輸出也是四維的,根據定義的卷積核大小和數(shù)量得到的輸出維度如下:N × C_out × H_out × W_out。其中,C_out是根據卷積核的數(shù)量定義的輸出數(shù)據的通道數(shù),因為一個卷積核只能掃描得到一個二維圖。其中H_out 和 W_out的計算如下:

三、總結

卷積操作的輸入和輸出數(shù)據的維度在構建神經網絡中很重要,也很容易出錯。使用PyTorch或者Tensoflow構建卷積神經網絡的時候一定要注意參數(shù)的設置,如果計算錯誤,下一層的輸入與上一層的輸出對不上那么很有可能失敗。為了避免這種情況發(fā)生,可以先用小數(shù)據集測試,同時為了檢測哪里出錯可以在測試的時候把每一層的輸出結果的維度(shape)打印出來,這樣就更容易檢測結果了。

編輯:jq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 濾波器
    +關注

    關注

    162

    文章

    8412

    瀏覽量

    185759
  • RGB
    RGB
    +關注

    關注

    4

    文章

    831

    瀏覽量

    61983
  • 卷積
    +關注

    關注

    0

    文章

    95

    瀏覽量

    19012
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    MC協(xié)議的深度剖析

    在工業(yè)自動化和物聯(lián)網領域,Modbus通信協(xié)議(簡稱MC協(xié)議)作為最古老的開放式通信標準之一,至今仍占據重要地位。本文將從技術原理、協(xié)議變體、應用場景及安全挑戰(zhàn)四個維度,對Modbus協(xié)議進行深度解析,并結合現(xiàn)代工業(yè)環(huán)境探討其演進方向。
    的頭像 發(fā)表于 03-03 17:09 ?469次閱讀
    MC協(xié)議的<b class='flag-5'>深度</b><b class='flag-5'>剖析</b>

    CAN協(xié)議的深度剖析

    單元(ECU)之間的高效通信問題。本文將從技術原理、幀結構、錯誤處理機制、應用場景及未來發(fā)展趨勢等方面,對CAN協(xié)議進行深度剖析。
    的頭像 發(fā)表于 03-03 17:08 ?481次閱讀
    CAN協(xié)議的<b class='flag-5'>深度</b><b class='flag-5'>剖析</b>

    OPC UA協(xié)議深度剖析

    。本文將從協(xié)議架構、核心技術、應用場景及未來發(fā)展趨勢等維度進行全面剖析,幫助讀者深入理解這一工業(yè)通信領域的核心標準。
    的頭像 發(fā)表于 03-03 17:00 ?513次閱讀

    串口協(xié)議的深度剖析

    串口通信協(xié)議作為電子設備間數(shù)據交互的基礎技術,自20世紀60年代誕生以來,始終在工業(yè)控制、嵌入式系統(tǒng)和物聯(lián)網等領域扮演著核心角色。本文將從技術原理、協(xié)議架構、應用場景及未來演進四個維度,對串口協(xié)議展開深度剖析。
    的頭像 發(fā)表于 03-02 17:32 ?1061次閱讀

    模擬器件高速SiGe電壓比較器ADCMP580/581/582深度剖析

    模擬器件高速SiGe電壓比較器ADCMP580/581/582深度剖析 作為一名電子工程師,在高速電路設計中,選擇合適的電壓比較器至關重要。今天我將重點剖析Analog Devices公司推出
    的頭像 發(fā)表于 01-07 10:00 ?365次閱讀

    RZ/V2N評估板套件(安全型)硬件深度剖析

    RZ/V2N評估板套件(安全型)硬件深度剖析 引言 在當今電子技術飛速發(fā)展的時代,評估板作為硬件開發(fā)和測試的重要工具,對于工程師們來說至關重要。Renesas的RZ/V2N評估板套件(安全型)以其
    的頭像 發(fā)表于 12-26 17:30 ?693次閱讀

    自動駕駛中常提的卷積神經網絡是個啥?

    在自動駕駛領域,經常會聽到卷積神經網絡技術。卷積神經網絡,簡稱為CNN,是一種專門用來處理網格狀數(shù)據(比如圖像)的深度學習模型。CNN在圖像處理中尤其常見,因為圖像本身就可以看作是由像素排列成的二維網格。
    的頭像 發(fā)表于 11-19 18:15 ?2086次閱讀
    自動駕駛中常提的<b class='flag-5'>卷積</b>神經網絡是個啥?

    Modbus協(xié)議的深度剖析

    Modbus協(xié)議作為工業(yè)自動化領域最廣泛應用的通信協(xié)議之一,其簡潔高效的特性使其在工業(yè)控制系統(tǒng)中占據重要地位。本文將從協(xié)議的發(fā)展歷程、技術架構、通信模式、安全機制以及未來演進等多個維度進行全面剖析
    的頭像 發(fā)表于 11-07 07:43 ?892次閱讀
    Modbus協(xié)議的<b class='flag-5'>深度</b><b class='flag-5'>剖析</b>

    CNN卷積神經網絡設計原理及在MCU200T上仿真測試

    設計流程: 1、構建緩沖區(qū) 2、將卷積操作展開成乘加操作。 3、層層復用。 design file設計圖 綜合之后設計部分設計圖 仿真測試結果 [/td][td=184][/td] [td=3,1,553]
    發(fā)表于 10-29 07:49

    卷積運算分析

    卷積運算的基礎運算是乘加運算(MAC,Multiplication and Accumulation),本文設計了基本運算單元PE模塊來實現(xiàn)MAC運算。對于卷積運算而言,一次性至少處理一個感受域規(guī)模
    發(fā)表于 10-28 07:31

    CICC2033神經網絡部署相關操作

    設定為 12。由于在 pooling 模塊中可以進行量化操作,所以 q_bit 可以進行相關設計進行初步量化。為了保證計算精度,僅在 pooling 模塊內進行部分量化,另外一部分在 RISC-V 主
    發(fā)表于 10-20 08:00

    GraniStudio : MC 協(xié)議深度剖析

    作為工業(yè)級零代碼開發(fā)平臺,其內置的 MC 協(xié)議客戶端模塊通過高度封裝的可視化功能,將復雜的協(xié)議細節(jié)轉化為 “拖拽式” 操作。本文將聚焦 MC 協(xié)議客戶端的 機制設置、幀結構、通信規(guī)范及交互流程 ,結合 GraniStudio 的功能實現(xiàn),展開技術細節(jié)的深度解析。 一、MC
    的頭像 發(fā)表于 08-04 09:57 ?1434次閱讀
    GraniStudio : MC 協(xié)議<b class='flag-5'>深度</b><b class='flag-5'>剖析</b>

    GraniStudio : TCP/IP(Socket)協(xié)議深度剖析

    (Socket)客戶端與服務器模塊,通過高度封裝的可視化功能,將復雜的套接字通信邏輯轉化為簡單的 “拖拽式” 操作,為工業(yè)用戶構建穩(wěn)定、高效的網絡通信系統(tǒng)提供了強大支撐。本文將從技術原理、功能實現(xiàn)、應用場景三個維度,深入解析 GraniStudio 中 TCP/IP(So
    的頭像 發(fā)表于 08-03 22:20 ?1208次閱讀
    GraniStudio : TCP/IP(Socket)協(xié)議<b class='flag-5'>深度</b><b class='flag-5'>剖析</b>

    大模型推理顯存和計算量估計方法研究

    估算剪枝后的模型所需的顯存大小。 三、計算量估計方法 基于模型結構的計算量估計 根據深度學習模型的層次結構和參數(shù)數(shù)量,可以估算模型在推理過程中的計算量。具體方法如下: (1)統(tǒng)計模型中
    發(fā)表于 07-03 19:43

    從接口到架構:工控一體機定制化的深度技術剖析

    工業(yè)場景需求的關鍵路徑。本文將從接口設計、硬件架構、操作系統(tǒng)、通信協(xié)議及智能決策五個維度,深度剖析工控一體機定制化的技術內核。 一、接口定制化:工業(yè)互聯(lián)的“神經末梢” 工控一體機的接口
    的頭像 發(fā)表于 06-17 16:47 ?588次閱讀