91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

華南理工開源VISTA:雙跨視角空間注意力機制實現(xiàn)3D目標檢測SOTA

新機器視覺 ? 來源:機器之心 ? 作者:鄧圣衡、梁智灝、 ? 2022-04-07 09:39 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

本文提出了 VISTA,一種新穎的即插即用多視角融合策略,用于準確的 3D 對象檢測。為了使 VISTA 能夠關(guān)注特定目標而不是一般點,研究者提出限制學習的注意力權(quán)重的方差。將分類和回歸任務解耦以處理不平衡訓練問題。在 nuScenes 和 Waymo 數(shù)據(jù)集的基準測試證明了 VISTA 方法的有效性和泛化能力。該論文已被CVPR 2022接收。

第一章 簡介 LiDAR (激光雷達)是一種重要的傳感器,被廣泛用于自動駕駛場景中,以提供物體的精確 3D 信息。因此,基于 LiDAR 的 3D 目標檢測引起了廣泛關(guān)注。許多 3D 目標檢測算法通過將無序和不規(guī)則的點云進行體素化,隨后利用卷積神經(jīng)網(wǎng)絡處理體素數(shù)據(jù)。然而,3D 卷積算子在計算上效率低下且容易消耗大量內(nèi)存。為了緩解這些問題,一系列工作利用稀疏 3D 卷積網(wǎng)絡作為 3D 骨干網(wǎng)絡來提取特征。如圖 1 所示,這些工作將 3D 特征圖投影到鳥瞰圖 (BEV) 或正視圖 (RV) 中,并且使用各種方法從這些 2D 特征圖生成對象候選 (Object Proposals)。

9f641018-b607-11ec-aa7f-dac502259ad0.png

圖 1:單視角檢測和文章提出的基于 VISTA 的多視角融合檢測的對比 不同的視角有各自的優(yōu)缺點需要考慮。在 BEV 中,對象不相互重疊,每個對象的大小與距自我車輛 (ego-vehicle) 的距離無關(guān)。RV 是 LiDAR 點云的原生表征,因此,它可以產(chǎn)生緊湊和密集的特征。然而,無論是選擇 BEV 還是 RV,投影都會不可避免地損害 3D 空間中傳遞的空間信息的完整性。例如,由于 LiDAR 數(shù)據(jù)生成過程自身的特性和自遮擋效應,BEV 表征非常稀疏,并且它壓縮了 3D 點云的高度信息,在 RV 中,由于丟失了深度信息,遮擋和對象大小的變化會更加嚴重。顯然,從多個視角進行聯(lián)合學習,也就是多視角融合,為我們提供了準確的 3D 目標檢測的解決方案。先前的一些多視角融合算法從單個視角生成候選目標,并利用多視角特征來細化候選目標。此類算法的性能高度依賴于生成的候選的質(zhì)量;但是,從單一視角生成的候選沒有使用所有可用信息,可能導致次優(yōu)解的產(chǎn)生。其他工作根據(jù)不同視角之間的坐標投影關(guān)系融合多視角特征。這種融合方法的準確性依賴于另一個視角的相應區(qū)域中可提供的補充信息;然而遮擋效應是不可避免的,這會導致低質(zhì)量的多視角特征融合產(chǎn)生。 為了提高 3D 目標檢測的性能,在本文中,給定從 BEV 和 RV 學習到的 3D 特征圖,我們提出通過雙跨視角空間注意力機制 (VISTA) 從全局空間上下文中生成高質(zhì)量的融合多視角特征用于預測候選目標,如圖 1 所示。所提出的 VISTA 利用源自Transformer 的注意機制,其中 Transformer 已經(jīng)被成功應用于各種研究環(huán)境(例如自然語言處理、2D 計算機視覺)中。與通過坐標投影直接融合相比,VISTA 中內(nèi)置的注意力機制利用全局信息,通過將單個視角的特征視為特征元素序列,自適應地對視角間的所有成對相關(guān)性進行建模。為了全面建??缫暯窍嚓P(guān)性,必須考慮兩個視角中的局部信息,因此我們用卷積算子替換傳統(tǒng)注意力模塊中的 MLP,我們在實驗部分展示了這樣做的有效性。盡管如此,如實驗部分所示,學習視角之間的相關(guān)性仍然具有挑戰(zhàn)性。直接采用注意力機制進行多視角融合帶來的收益很小,我們認為這主要是由于 3D 目標檢測任務本身的特性導致的。 一般來說,3D 目標檢測任務可以分為兩個子任務:分類和回歸。正如先前一些工作(LaserNet, CVCNet) 中所闡述的,3D 目標檢測器在檢測整個 3D 場景中的物體時面臨許多挑戰(zhàn),例如遮擋、背景噪聲和點云缺乏紋理信息。因此,注意力機制很難學習到相關(guān)性,導致注意力機制傾向于取整個場景的均值,這是出乎意料的,因為注意力模塊是為關(guān)注感興趣的區(qū)域而設計的。因此,我們顯式地限制了注意力機制學習到的注意力圖 (Attention Map) 的方差,從而引導注意力模塊理解復雜的 3D 戶外場景中的有意義區(qū)域。此外,分類和回歸的不同學習目標決定了注意力模塊中學習的 queries 和 keys 的不同期望。不同物體各自的回歸目標(例如尺度、位移)期望 queries 和 keys 了解物體的特性。相反,分類任務推動網(wǎng)絡了解物體類的共性。不可避免地,共享相同的注意力建模會給這兩個任務的訓練帶來沖突。此外,一方面,由于紋理信息的丟失,神經(jīng)網(wǎng)絡難以從點云中提取語義特征。另一方面,神經(jīng)網(wǎng)絡可以很容易地從點云中學習物體的幾何特性。這帶來的結(jié)果就是,在訓練過程中,產(chǎn)生了以回歸為主導的困境。為了應對這些挑戰(zhàn),我們在提出的 VISTA 中將這兩個任務解耦,以學習根據(jù)不同任務整合不同的線索。 我們提出的 VISTA 是一個即插即用的模塊,可以被用于近期的先進的目標分配 (Target Assignment) 策略中。我們在 nuScenes 和 Waymo 兩個基準數(shù)據(jù)集上測試了提出的基于 VISTA 的多視角融合算法。在驗證集上的消融實驗證實了我們的猜想。提出的 VISTA 可以產(chǎn)生高質(zhì)量的融合特征,因此,我們提出的方法優(yōu)于所有已公布開源的算法。在提交時,我們的最終結(jié)果在 nuScenes 排行榜上的 mAP 和 NDS 達到 63.0% 和 69.8%。在 Waymo 上,我們在車輛、行人和騎自行車人上分別達到了 74.0%、72.5% 和 71.6% 的 2 級 mAPH。我們將我們的主要貢獻總結(jié)如下:

我們提出了一種新穎的即插即用融合模塊:雙跨視角空間注意力機制 (VISTA),以產(chǎn)生融合良好的多視角特征,以提高 3D 目標檢測器的性能。我們提出的 VISTA 用卷積算子代替了 MLP,這能夠更好地處理注意力建模的局部線索。

我們將 VISTA 中的回歸和分類任務解耦,以利用單獨的注意力建模來平衡這兩個任務的學習。我們在訓練階段將注意力方差約束應用于 VISTA,這有助于注意力的學習并使網(wǎng)絡能夠關(guān)注感興趣的區(qū)域。

我們在 nuScenes 和 Waymo 兩個基準數(shù)據(jù)集上進行了徹底的實驗。我們提出的基于 VISTA 的多視角融合可用于各種先進的目標分配策略,輕松提升原始算法并在基準數(shù)據(jù)集上實現(xiàn)最先進的性能。具體來說,我們提出的方法在整體性能上比第二好的方法高出 4.5%,在騎自行車的人等安全關(guān)鍵對象類別上高出 24%。

9f7845e2-b607-11ec-aa7f-dac502259ad0.png

論文鏈接:https://arxiv.org/abs/2203.09704

代碼鏈接:https://github.com/Gorilla-Lab-SCUT/VISTA

第二章 雙跨視角空間注意力機制 對于大多數(shù)基于體素的 3D 目標檢測器,它們密集地產(chǎn)生逐 pillar 的目標候選,經(jīng)驗上講,生成信息豐富的特征圖可以保證檢測質(zhì)量。在多視角 3D 目標檢測的情況下,目標候選來自融合的特征圖,因此需要在融合期間全面考慮全局空間上下文。為此,我們尋求利用注意力模塊捕獲全局依賴關(guān)系的能力進行多視角融合,即跨視角空間注意力。在考慮全局上下文之前,跨視角空間注意力模塊需要聚合局部線索以構(gòu)建不同視角之間的相關(guān)性。因此,我們提出 VISTA,其中基于多層感知器 (MLP) 的標準注意力模塊被卷積層取代。然而,在復雜的 3D 場景中學習注意力是很困難的。為了采用跨視角注意力進行多視角融合,我們進一步解耦了 VISTA 中的分類和回歸任務,并應用提出的注意力約束來促進注意力機制的學習過程。 在本節(jié)中,我們將首先詳細介紹所提出的雙跨視角空間注意力機制(VISTA)的整體架構(gòu),然后詳細闡述所提出的 VISTA 的解耦設計和注意力約束。 2.1 整體架構(gòu)

9f8e3e7e-b607-11ec-aa7f-dac502259ad0.png

圖 2:VISTA 整體架構(gòu) 如圖 2 所示,VISTA 將來自兩個不同視角的特征序列作為輸入,并對多視角特征之間的跨視角相關(guān)性進行建模。與使用線性投影轉(zhuǎn)換輸入特征序列的普通注意力模塊不同,VISTA 通過 3x3 卷積操作子將輸入特征序列9fa1dc72-b607-11ec-aa7f-dac502259ad0.png投影到 queries9fb301aa-b607-11ec-aa7f-dac502259ad0.png9fc31d42-b607-11ec-aa7f-dac502259ad0.png中。為了將分類和回歸解耦開,Q和K通過單獨的 MLP 投影到9fcff9fe-b607-11ec-aa7f-dac502259ad0.png。為了計算V的加權(quán)和作為跨視角輸出F,我們應用縮放的點積來獲得跨視角注意力權(quán)重9fe113c4-b607-11ec-aa7f-dac502259ad0.png: ?

9ff6c372-b607-11ec-aa7f-dac502259ad0.png

并且輸出將是a009f60e-b607-11ec-aa7f-dac502259ad0.png。輸出F_i將被饋送到單個前饋網(wǎng)絡以FFN_i獲得最終結(jié)果。我們采用先前工作中廣泛使用的架構(gòu)作為我們的 FFN,以確保非線性和多樣性。我們提出的 VISTA 是一種單階段方法,可根據(jù)跨視角融合的特征直接生成候選目標;這樣的設計可以利用更多信息進行準確高效的 3D 目標檢測。 ?2.2 解耦分類和回歸任務? VISTA 將分類和回歸任務解耦。在共享卷積算子之后,queries 和 keys 通過單獨的線性投影進一步處理產(chǎn)生Q_i和K_i,然后它們將根據(jù)語義信息或幾何信息參與不同的注意力建模。這種解耦的動機是分類和回歸的監(jiān)督信號對訓練造成的不同影響。 ? 給定場景中的 query 目標,為了分類,注意力模塊需要從全局上下文中的對象中聚合語義線索,以豐富融合特征中傳達的語義信息。這樣的目標要求學習的 queries 和 keys 知道同一類別的不同對象之間的共性,以使同一類別的對象在語義上應該相互匹配。然而,回歸任務不能采用相同的 queries 和 keys,因為不同的對象有自己的幾何特征(例如位移、尺度、速度等),回歸特征應該在不同的對象上是多樣的。因此,在分類和回歸的聯(lián)合訓練過程中,共享相同的 queries 和 keys 會導致注意力學習發(fā)生沖突。 ? 此外,無論是單視角還是多視角,分類和回歸結(jié)果都是從傳統(tǒng)的基于體素的 3D 目標檢測器中的相同特征圖預測的。然而,由于 3D 場景的固有屬性,3D 點云中不可避免地存在遮擋和紋理信息丟失,3D 檢測器難以提取語義特征,給分類學習帶來很大挑戰(zhàn)。相反,3D 點云傳達的豐富幾何信息減輕了網(wǎng)絡理解物體幾何屬性的負擔,這是學習回歸任務的基礎。結(jié)果,在網(wǎng)絡訓練過程中,出現(xiàn)了分類和回歸之間學習的不平衡現(xiàn)象,其中分類的學習被回歸主導。這種不平衡的學習是基于 3D 點云的,包含分類和回歸任務的 3D 目標檢測中的常見問題,這將對檢測性能產(chǎn)生負面影響。具體來說,3D 檢測器在具有相似幾何特征的不同對象類別(例如卡車和公共汽車)上不會很魯棒。 ? 為了緩解上述問題,我們分別為語義和幾何信息分別建立注意力模型。注意力模塊的輸出是基于構(gòu)建的語義和幾何注意力權(quán)重的a01d3ee4-b607-11ec-aa7f-dac502259ad0.png。分類和回歸的監(jiān)督分別應用于a02f4eea-b607-11ec-aa7f-dac502259ad0.png,保證了相應任務的有效學習。 ?2.3 注意力約束? 當學習從全局上下文中對跨視角相關(guān)性進行建模時,所提出的 VISTA 面臨著許多挑戰(zhàn)。3D 場景包含大量背景點(大約高達 95%),只有一小部分是有助于檢測結(jié)果的興趣點。在跨視角注意力的訓練過程中,海量的背景點會給注意力模塊帶來意想不到的噪音。此外,復雜 3D 場景中的遮擋效應給注意力學習帶來了不可避免的失真。因此,注意力模塊傾向于關(guān)注不相關(guān)的區(qū)域。注意力學習不佳的極端情況是全局平均池化(GAP)操作,正如我們在實驗部分中所展示的,沒有任何明確的監(jiān)督,直接采用注意力模塊進行多視角融合會產(chǎn)生類似于 GAP 的性能,這表明注意力模塊不能很好地對跨視角相關(guān)性建模。 ? 為了使注意力模塊能夠?qū)W⒂谔囟繕硕皇且话愕狞c,我們提出對學習的注意力權(quán)重的方差施加約束。利用提出的約束,我們使網(wǎng)絡能夠?qū)W習注意到特定目標。通過將注意力方差約束與傳統(tǒng)的分類回歸監(jiān)督信號相結(jié)合,注意力模塊專注于場景中有意義的目標,從而產(chǎn)生高質(zhì)量的融合特征。我們將提出的約束設定為訓練期間的輔助損失函數(shù)。為簡單起見,我們忽略 batch 維度,給定學習的注意力權(quán)重a042f71a-b607-11ec-aa7f-dac502259ad0.png分別是 BEV 和 RV 中的 pillar 數(shù)量,xy 平面中 GT 框的尺度和中心位置的集合a0529972-b607-11ec-aa7f-dac502259ad0.png,其中a067b51e-b607-11ec-aa7f-dac502259ad0.png是場景中的框數(shù)量。對于 BEV 中的每個 pillar,我們根據(jù)體素大小計算其中心的真實坐標,并得到集合a0793f78-b607-11ec-aa7f-dac502259ad0.png。每個 GT 框的注意力權(quán)重通過以下方式獲得: ?

a0888258-b607-11ec-aa7f-dac502259ad0.png

然后我們?yōu)樗?GT 框制定方差約束如下:

a09c4612-b607-11ec-aa7f-dac502259ad0.png

其中N_q是b_q由包圍的 pillar 的數(shù)量,a0afa5c2-b607-11ec-aa7f-dac502259ad0.png計算給定向量的方差。 ?第三章 實現(xiàn)?3.1 體素化? 我們根據(jù) x,y,z 軸對點云進行體素化。對于 nuScenes 數(shù)據(jù)集,體素化的范圍是[-51.2, 51.2]m, [-51.2,51.2]m 和[-5.0,3]m,以 x,y,z 表示。對于 Waymo 數(shù)據(jù)集,范圍為[-75.2,75.2]m、[-75.2,75.2]m 和[-2,4]m。除非特別提及,否則我們所有的實驗都是在 x、y、z 軸的[0.1,0.1,0.1]m 的低體素化分辨率下進行的。 ?3.2 數(shù)據(jù)增廣? 點云根據(jù) x,y 軸隨機翻轉(zhuǎn),圍繞 z 軸旋轉(zhuǎn),范圍為[-0.3925,0.3925]rad,縮放系數(shù)范圍為 0.95 到 1.05,平移范圍為[ 0.2,0.2,0.2]m 在 x,y,z 軸上。采用類別平衡分組采樣和數(shù)據(jù)庫采樣來提高訓練時正樣本的比例。 ?3.3 聯(lián)合訓練? 我們在各種目標分配策略 (CBGS, OHS, CenterPoint) 上訓練 VISTA。為了訓練網(wǎng)絡,我們計算不同目標分配策略的原始損失函數(shù),我們建議讀者參考他們的論文以了解更多關(guān)于損失函數(shù)的細節(jié)。簡而言之,我們將分類和回歸考慮在內(nèi): ?

a0beff54-b607-11ec-aa7f-dac502259ad0.png

其中λ_1和λ_2是損失函數(shù)權(quán)重,a0d321c8-b607-11ec-aa7f-dac502259ad0.png是 GT 標簽y和a0e7751a-b607-11ec-aa7f-dac502259ad0.png預測之間的分類損失函數(shù),a0f4d714-b607-11ec-aa7f-dac502259ad0.png是 GT 框b和預測框a106d748-b607-11ec-aa7f-dac502259ad0.png的回歸損失函數(shù)。 ? 總損失函數(shù)L是a1181364-b607-11ec-aa7f-dac502259ad0.png的加權(quán)和:a124e648-b607-11ec-aa7f-dac502259ad0.png。我們將λ_1、λ_2和λ_3設置為 1.0、0.25、1.0。我們將 Focal loss 作為a13375be-b607-11ec-aa7f-dac502259ad0.png,并將 L1 損失作為a1475854-b607-11ec-aa7f-dac502259ad0.png。 ?第四章 實驗

a155a97c-b607-11ec-aa7f-dac502259ad0.png

表一:nuScenes 測試集上的 3D 檢測結(jié)果

a1653a4a-b607-11ec-aa7f-dac502259ad0.png

表二:Waymo 測試集上的 3D 檢測結(jié)果 我們在 nuScenes 數(shù)據(jù)集和 Waymo 數(shù)據(jù)集上評估 VISTA。我們在三種具有不同目標分配策略的最先進方法上測試 VISTA 的功效:CBGS、OHS 和 CenterPoint。 4.1 數(shù)據(jù)集和技術(shù)細節(jié) nuScenes 數(shù)據(jù)集包含 700 個訓練場景、150 個驗證場景和 150 個測試場景。數(shù)據(jù)集以 2Hz 進行標注,總共 40000 個關(guān)鍵幀被標注了 10 個對象類別。我們?yōu)槊總€帶標注的關(guān)鍵幀組合 10 幀掃描點云以增加點數(shù)。平均精度 (mAP) 和 nuScenes 檢測分數(shù) (NDS) 被應用于我們的性能評估。NDS 是 mAP 和其他屬性度量的加權(quán)平均值,包括位移、尺度、方向、速度和其他框的屬性。在訓練過程中,我們遵循 CBGS 通過 Adam 優(yōu)化器和單周期學習率策略 (one-cycle) 優(yōu)化模型。 Waymo 數(shù)據(jù)集包含 798 個用于訓練的序列,202 個用于驗證的序列。每個序列的持續(xù)時間為 20 秒,并以 10Hz 的頻率采樣,使用 64 通道的激光雷達,包含 610 萬車輛、280 萬行人和 6.7 萬個騎自行車的人。我們根據(jù)標準 mAP 和由航向精度 (mAPH) 加權(quán)的 mAP 指標來評估我們的網(wǎng)絡,這些指標基于車輛的 IoU 閾值為 0.7,行人和騎自行車的人為 0.5。官方評估協(xié)議以兩個難度級別評估方法:LEVEL_1 用于具有超過 5 個 LiDAR 點的框,LEVEL_2 用于具有至少一個 LiDAR 點的框。 4.2 與其他方法的比較 我們將提出的基于 VISTA 的 OHS 的測試結(jié)果提交給 nuScenes 測試服務器。為了對結(jié)果進行基準測試,我們遵循 CenterPoint 來調(diào)整訓練分辨率并利用雙翻轉(zhuǎn)測試增強。由于我們的結(jié)果基于單一模型,因此我們的比較中不包括使用集成模型和額外數(shù)據(jù)的方法,測試性能見表一。我們提出的 VISTA 在 nuScenes 測試集上實現(xiàn)了最先進的性能,在整體 mAP 和 NDS 中都大大優(yōu)于所有已發(fā)布的方法。特別是在摩托車和自行車上的表現(xiàn),mAP 上超過了第二好的方法 CenterPoint 高達 48%。具體來說,幾何相似類別(例如卡車、工程車輛)的性能提升證實了我們提出的解耦設計的有效性。 為了進一步驗證我們提出的 VISTA 的有效性,我們將提出的 VISTA 應用在 CenterPoint 上,并將測試結(jié)果提交到 Waymo 測試服務器。在訓練和測試期間,我們遵循與 CenterPoint 完全相同的規(guī)則,測試性能見表二。VISTA 在所有級別的所有類別中為 CenterPoint 帶來了顯著改進,優(yōu)于所有已發(fā)布的結(jié)果。 4.3 消融學習

a17ef110-b607-11ec-aa7f-dac502259ad0.png

表三:多視角融合消融學習,實驗在 nuScenes 驗證集上進行

a18fd3ae-b607-11ec-aa7f-dac502259ad0.png

表四:基于 VISTA 的先進方法的性能提升,實驗在 nuScenes 驗證集上進行 如表三所示,為了證明所提出的 VISTA 的優(yōu)越性,我們以 OHS 作為我們的基線 (a) 在 nuScenes 數(shù)據(jù)集的驗證集上進行了消融研究。正如前文所述,如果沒有注意力約束,注意力權(quán)重學習的極端情況將是全局平均池化(GAP)。為了澄清,我們通過 GAP 手動獲取 RV 特征,并將它們添加到所有 BEV 特征上實現(xiàn)融合。這種基于 GAP 的融合方法 (b) 將基線的性能 mAP 降低到 59.2%,表明自適應融合來自全局空間上下文的多視角特征的必要性。直接采用 VISTA 進行多視角融合 (d),mAP 為 60.0%。當將卷積注意力模塊替換為傳統(tǒng)的線性注意力模塊(c) 時,整體 mAP 下降到 58.7%,這反映了聚合局部線索對于構(gòu)建跨視角注意力的重要性。在添加提出的注意力方差約束后,如 (e) 所示,整體 mAP 的性能提高到 60.4%。從 (d) 到(e)行的性能提升表明注意力機制可以通過注意力約束得到很好的引導,使得注意力模塊能夠關(guān)注整個場景的興趣區(qū)域。然而,共享注意力建模會帶來分類學習和回歸任務之間的沖突,在 3D 目標檢測中,分類任務將被回歸任務占主導地位。如(f)所示,在解耦注意力模型后,整體 mAP 的性能從 60.4% 提高到 60.8%,進一步驗證了我們的假設。 所提出的 VISTA 是一種即插即用的多視角融合方法,只需稍作修改即可用于各種最近提出的先進目標分配策略。為了證明所提出的 VISTA 的有效性和泛化能力,我們在 CenterPoint、OHS 和 CBGS 上實現(xiàn)了 VISTA,它們是最近的先進方法。這些方法代表基于 anchor 或 anchor-free 的不同主流目標分配。我們在 nuScenes 數(shù)據(jù)集的驗證集上評估結(jié)果,所有方法都是基于他們的官方代碼庫。如表四所示,所有三個目標分配策略在 mAP 和 NDS 分數(shù)中都實現(xiàn)了很大的性能提升(在 mAP 和 NDS 中分別約為 1.3% 和 1.4%),表明所提出的 VISTA 可以通過跨視角空間注意力機制融合普遍高質(zhì)量的多視角特征。 我們在表三中展示了提出的 VISTA 在一個 RTX3090 GPU 上的運行時間。未經(jīng)任何修改,基線 (a) 以每幀 60 毫秒運行。在基線中采用卷積注意力模塊 (d) 后,運行時間增加到 64 毫秒。我們可以從 (e) 和(f)中觀察到,雖然應用所提出的注意力方差約束不會影響推理速度,但解耦設計花費了 5ms,但額外的延遲仍然可以忽略不計。以這樣的效率運行,我們認為所提出的 VISTA 完全符合實際應用的要求。 4.4 VISTA 分析

a1a394a2-b607-11ec-aa7f-dac502259ad0.png

圖 3:具有((a)和(c))和沒有((b)和(d))注意方差約束的 VISTA 學習到的注意力權(quán)重的可視化。每行呈現(xiàn)一個場景,Query 框以紅色顯示,點的顏色越亮,點的注意力權(quán)重越高。

a1b761e4-b607-11ec-aa7f-dac502259ad0.png

圖 4:在有和沒有解耦設計的情況下的檢測結(jié)果的可視化。每行代表一個場景。淺色表示的框指的是 GT 框,深色表示的框表示正確的預測結(jié)果,不同強調(diào)色表示的框表示錯誤的預測。 我們認為,通過所提出的注意力約束訓練的 VISTA 可以捕捉 BEV 和 RV 之間的全局和局部相關(guān)性,從而可以有效地執(zhí)行多視角融合以進行準確的框預測。為了生動地展示注意力方差約束在訓練 VISTA 中的有效性,我們在圖 3 中可視化了網(wǎng)絡在有和沒有注意力方差約束情況下構(gòu)建的的跨視角相關(guān)性。給定包含目標視角(BEV)的框的區(qū)域以 query 源視角(RV),我們得到上述區(qū)域中每個 pillar 的相應跨視角注意力權(quán)重,并將權(quán)重映射回原點云以可視化。我們觀察到,在沒有注意力方差約束的情況下,學習到的注意力權(quán)重對于 RV 中的幾乎每個 pillar 都保持較小的值,從而導致近似的全局平均池化操作。在圖 3(b)和 (d) 中,注意力模塊關(guān)注遠離 query 汽車和行人的背景點,每個聚焦區(qū)域的注意力權(quán)重相對較低。相反,用注意力方差約束訓練的注意力模塊突出顯示具有相同 query 類別的物體,如圖 3(a)和 (c) 所示。特別是對于 query 汽車,通過注意力方差約束訓練的注意力模塊成功地關(guān)注了場景中的其他汽車。 我們提出的 VISTA 的另一個關(guān)鍵設計是分類和回歸任務的解耦。這兩個任務的各自的注意力建模緩解了學習的不平衡問題,因此檢測結(jié)果更加準確和可靠。為了展示我們設計的意義,我們在圖中展示了解耦前后的檢測結(jié)果。每行代表一個場景,左列顯示解耦后的結(jié)果,另一列顯示未解耦的結(jié)果。如圖 4(b)和 (d) 所示,沒有解耦設計的 3D 目標檢測器很容易將物體 A 誤認為具有相似幾何特性的另一個物體 B,我們將這種現(xiàn)象稱為 A-to-B,例如公共汽車(紫色)到卡車(黃色)、公共汽車(紫色)到拖車(紅色)和自行車(白色)到摩托車(橙色),證明了分類和回歸任務之間存在不平衡訓練。此外,當將右列與左列進行比較時,混淆的預測并不準確。相反,具有解耦設計的 VISTA 成功區(qū)分了對象的類別,并預測了緊密的框,如圖 4(a)和 (c) 所示,證明了所提出的解耦設計的功效。 第五章 總結(jié) 在本文中,我們提出了 VISTA,一種新穎的即插即用多視角融合策略,用于準確的 3D 對象檢測。為了使 VISTA 能夠關(guān)注特定目標而不是一般點,我們提出限制學習的注意力權(quán)重的方差。我們將分類和回歸任務解耦以處理不平衡訓練問題。我們提出的即插即用 VISTA 能夠產(chǎn)生高質(zhì)量的融合特征來預測目標候選,并且可以應用于各種目標分配策略方法。nuScenes 和 Waymo 數(shù)據(jù)集的基準測試證明了我們提出的方法的有效性和泛化能力。

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 傳感器
    +關(guān)注

    關(guān)注

    2576

    文章

    55056

    瀏覽量

    791493
  • Vista
    +關(guān)注

    關(guān)注

    0

    文章

    28

    瀏覽量

    20154
  • 目標檢測
    +關(guān)注

    關(guān)注

    0

    文章

    233

    瀏覽量

    16496

原文標題:CVPR 2022 | 即插即用!華南理工開源VISTA:雙跨視角空間注意力機制實現(xiàn)3D目標檢測SOTA

文章出處:【微信號:vision263com,微信公眾號:新機器視覺】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    第三屆華南理工大學“紫光同創(chuàng)杯”FPGA大賽成功舉辦

    1月24日,第三屆華南理工大學“紫光同創(chuàng)杯”FPGA大賽成功舉辦。本屆“紫光同創(chuàng)杯”由華南理工大學微電子學院和深圳市紫光同創(chuàng)電子股份有限公司聯(lián)合舉辦,旨在讓學生熟練使用國產(chǎn)FPGA開發(fā)平臺,完成工程性高的項目,提升FPGA開發(fā)和實踐技能,并通過賽事活動吸引更多學生了解參與
    的頭像 發(fā)表于 02-02 14:03 ?569次閱讀

    【AI大講堂】中星聯(lián)華走進高校系列-華南理工大學

    前言為促進國產(chǎn)科學儀器發(fā)展,打好科學儀器設備國產(chǎn)化攻堅戰(zhàn),加強國產(chǎn)儀器企業(yè)和高校研究之間的交流互動。2025年12月23日,中星聯(lián)華攜手華南理工大學微電子學院,舉行《AI浪潮下的最新光通信技術(shù)解讀
    的頭像 發(fā)表于 12-24 10:26 ?531次閱讀
    【AI大講堂】中星聯(lián)華走進高校系列-<b class='flag-5'>華南理工</b>大學

    自然場景下注意力如何耳周腦電可靠監(jiān)測

    HUIYING自然聽覺注意力概述聽覺注意力是大腦在復雜聽覺場景中選擇相關(guān)信息、抑制無關(guān)信息的重要認知功能。傳統(tǒng)研究多在實驗室內(nèi)使用笨重設備與人工刺激進行,限制了其生態(tài)效度。本研究采用語音包絡跟蹤、被
    的頭像 發(fā)表于 12-05 18:03 ?4003次閱讀
    自然場景下<b class='flag-5'>注意力</b>如何耳周腦電可靠監(jiān)測

    微納尺度的神筆——光子聚合3D打印 #微納3D打印

    3D打印
    楊明遠
    發(fā)布于 :2025年10月25日 13:09:29

    奧比中光旗下新拓三維發(fā)布兩款3D掃描旗艦新品

    近日,奧比中光子公司新拓三維發(fā)布兩款3D掃描旗艦新品——微米級精度藍光三維掃描儀XTOM-MATRIX 12M,以及自動化檢測中心XTOM-STATION,以“高精度、高效率、自動化檢測
    的頭像 發(fā)表于 10-16 15:03 ?736次閱讀

    國際權(quán)威學術(shù)刊物刊發(fā)穩(wěn)石氫能與華南理工研究成果,創(chuàng)新螺旋流道設計提升AEM電解槽性能。

    近日,氫能研究領(lǐng)域國際權(quán)威期刊INTERNATIONAL JOURNAL OF HYDROGEN ENERGY刊發(fā)了穩(wěn)石氫能、華南理工電力學院與廣東省高效清潔能源利用重點實驗室聯(lián)合研發(fā)的成果。
    的頭像 發(fā)表于 09-26 16:08 ?612次閱讀
    國際權(quán)威學術(shù)刊物刊發(fā)穩(wěn)石氫能與<b class='flag-5'>華南理工</b>研究成果,創(chuàng)新螺旋流道設計提升AEM電解槽性能。

    iTOF技術(shù),多樣化的3D視覺應用

    動態(tài)模糊,確保高耐光性,同時輸出2D(紅外)和3D(深度)數(shù)據(jù)。 ◆ Testing Principles ※ 測量脈沖光的飛行時間,以檢測 TOF 相機與被測物體之間的距離。 ◆ ToF 產(chǎn)品
    發(fā)表于 09-05 07:24

    施耐德電氣助力第四屆高校電氣電子工程創(chuàng)新大賽圓滿收官

    近日,由中國電工技術(shù)學會主辦,中國電工技術(shù)學會、清華大學、華北電力大學、北京交通大學、北京理工大學、天津大學共同發(fā)起,華南理工大學承辦,施耐德電氣作為戰(zhàn)略合作伙伴支持的“第四屆高校電氣電子工程創(chuàng)新大賽”全國決賽在華南理工大學圓滿
    的頭像 發(fā)表于 08-15 14:04 ?1105次閱讀

    艾德克斯助力2025年高校電氣電子工程創(chuàng)新大賽成功舉辦

    2025年8月8日至10日,2025年高校電氣電子工程創(chuàng)新大賽決賽在華南理工大學成功舉辦。本屆大賽以“碳戰(zhàn)略下的能源轉(zhuǎn)型與技術(shù)創(chuàng)新”為主題,吸引了全國近百所高校的優(yōu)秀學子參與角逐。
    的頭像 發(fā)表于 08-15 11:41 ?1518次閱讀

    3D激光輪廓儀可實現(xiàn)在線3D測量和檢測

    Z-Trak? Express 1K5 系列專為實現(xiàn)經(jīng)濟高效的在線3D測量和檢測而設計,具有高速檢測能力和實時處理性能。
    的頭像 發(fā)表于 08-08 17:17 ?982次閱讀
    <b class='flag-5'>3D</b>激光輪廓儀可<b class='flag-5'>實現(xiàn)</b>在線<b class='flag-5'>3D</b>測量和<b class='flag-5'>檢測</b>

    華南理工大學EDP同學會理事會走進虹科電子

    近日,由華南理工大學工商管理學院EDP同學會主辦的理事會專屬:會長互訪——「走進專精特新“小巨人”、瞪羚企業(yè)」活動在廣州市黃埔區(qū)圓滿落幕。
    的頭像 發(fā)表于 06-24 10:57 ?1026次閱讀

    海伯森3D閃測傳感器,工業(yè)檢測領(lǐng)域的高精度利器

    隨著信息技術(shù)的飛速進步,第四次視覺革命深度融合“人”“機”“物”,基于光學原理的3D視覺檢測技術(shù)迎來爆發(fā)式發(fā)展,成為工業(yè)生產(chǎn)中更高效的檢測利器。3D視覺技術(shù)通過非接觸性、高速性、數(shù)據(jù)完
    的頭像 發(fā)表于 06-20 17:46 ?1478次閱讀
    海伯森<b class='flag-5'>3D</b>閃測傳感器,工業(yè)<b class='flag-5'>檢測</b>領(lǐng)域的高精度利器

    Molex莫仕與3D打印機制造商Prusa Research達成合作

    Molex莫仕正與快速發(fā)展的3D打印新銳力量Prusa Research達成合作以實現(xiàn)共同發(fā)展。這家總部位于捷克的3D打印機制造商,擁有逾千名員工,致力于為全球多元化的忠誠度極高的客戶
    的頭像 發(fā)表于 06-07 16:53 ?1284次閱讀

    奧迪威攜手華南理工大學共建聯(lián)合創(chuàng)新實驗室,校企深度合作助力產(chǎn)業(yè)升級

    2025年5月21日,廣東奧迪威傳感科技股份有限公司與華南理工大學聯(lián)合設立的創(chuàng)新實驗室正式揭牌。
    的頭像 發(fā)表于 05-23 08:48 ?1635次閱讀
    奧迪威攜手<b class='flag-5'>華南理工</b>大學共建聯(lián)合創(chuàng)新實驗室,校企深度合作助力產(chǎn)業(yè)升級

    積木易搭上新3D空間掃描儀RayZoom G100,搭載3D高斯?jié)姙R+開發(fā)者方案

    近日,積木易搭旗下子公司——武漢睿數(shù)信息技術(shù)有限公司(簡稱“睿數(shù)信息”)上新了一款手持式3D空間掃描儀——RayZoom G100。 ?RayZoom G100是一款通用型3D空間掃描
    的頭像 發(fā)表于 04-24 09:14 ?1195次閱讀