91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

輕量級占用網(wǎng)絡FlashOcc:主打實時性,高精度高效內存

后摩智能 ? 來源:后摩智能 ? 2024-01-16 11:37 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

特斯拉在2021 AI Day上提出BEV障礙物感知的思路后,BEV逐漸成為業(yè)界爭相落地的熱點。

但BEV也存在一些待解決問題,比如:

(1) 僅能對真實世界中類別限定的目標進行的感知(如圖1.b所示),如果想得到可行駛區(qū)域、環(huán)島、人行橫道、上方障礙物(如各類紅綠燈或攝像頭懸臂、地庫限高架等)、臨時廣告牌等,需要額外的感知模塊去進行處理;

(2) 障礙物僅能用3D框描述,具體的形狀輪廓也丟失了;

(3) 如果行駛環(huán)境中出現(xiàn)沒見過的物體(如圖1.a中右下角的紅色移動廣告牌或者紅綠燈懸臂),那障礙物檢測也會失效,只能通過多模態(tài)開放場景檢測技術來彌補這類問題,但是這在目前算力有限的自動駕駛芯片上是無法實現(xiàn)的。

因此在2022的AI day上特斯拉提出占據(jù)預測的新思路,成功解決了上述問題。占據(jù)預測任務就是將以自車為中心的三維空間劃分成一個個小的體素柵格,然后預測每個柵格的語義類別。具體效果如圖1.c所示,可以看出占據(jù)預測可以對整個復雜世界的所有物體進行有效感知,從而有效的解決上述障礙物預測的問題。

但是現(xiàn)有公開的占據(jù)預測方法都需要構建三維體素級的特征表示,這不可避免地引入大量計算資源消耗,此外還需要硬件平臺對3D(可變形)卷積或者transformer模塊有較好的支持,這些都阻礙了業(yè)界將占用預測在實車上的部署落地。

553a0bb4-b420-11ee-8b88-92fbcf53809c.png

圖 1. 障礙物檢測與占據(jù)預測效果對比。受訓練數(shù)據(jù)約束,預測范圍為前后左右40m,上下-1m到5.4m,柵格粒度0.4m。

與使模型變得更大、更復雜從而取得優(yōu)異性能的趨勢相反,理想的框架應該對不同的端上芯片部署友好,并且保持高精度。本著輕量易部署且性能無損甚至還提升的初衷下,大連理工、后摩智能以及阿德萊德聯(lián)合提出了一種簡單輕量的占據(jù)插件,稱之為FlashOCC。

通過在主流占據(jù)方法(BEVDetOcc、FBOcc、UniOcc等)上的驗證,證明了FlashOCC在部署顯存需求、推理時間、訓練耗時以及模型精度上都取得了最優(yōu)的權衡,并且對各類端上芯片部署友好。

554cdece-b420-11ee-8b88-92fbcf53809c.png

論文地址:https://arxiv.org/abs/2311.12058

代碼鏈接:https://github.com/Yzichen/FlashOCC

內容簡介

方法架構:

555f2d7c-b420-11ee-8b88-92fbcf53809c.png

圖 2插件概述以及綜合性能比對

FlashOcc以極優(yōu)的精度完成了實時環(huán)視3D占用預測,代表了該領域的開創(chuàng)性貢獻。此外,它還展示了跨不同車載平臺部署的優(yōu)越性,因為不需要昂貴的體素級特征處理,從而避免了transformer或 3D(可變形)卷積算子。FlashOcc通過2類替換對現(xiàn)有基于體素級3D特征的占據(jù)任務進行提升:

(1) 用2D卷積替換3D卷積;

(2) 用通道到高度變換替換從3D卷積得到的占用預測,具體如圖1.(a)所示。圖1.(b)則通過圖表詳細說明了模型精度與速度、推理內存消耗以及訓練時間等因素之間的權衡。

雖然FlashOcc專注于以即插即用的方式增強現(xiàn)有模型,但它仍然可以分為五個基本模塊,具體如圖2所示:

(1) 用于提取圖像特征的2D圖像編碼器

(2) 將2D圖像特征映射到BEV表征的視圖轉換模塊。

(3) 修正BEV特征的BEV編碼器。

(4) 預測每個體素分割標簽的占用預測頭。

(5) 集成歷史信息以提高性能的時間融合模塊(可選)。

5573f3ce-b420-11ee-8b88-92fbcf53809c.png

圖 3框架圖

實驗表明我們方法在同比條件下都取得了最優(yōu)的性能以及訓練及部署資源消耗。

5588290c-b420-11ee-8b88-92fbcf53809c.png

表 1Occ3D-nuSences驗證集上的性能

5597283a-b420-11ee-8b88-92fbcf53809c.png

表 2訓練及部署消耗說明

下圖對模型預測進行可視化。由于用于訓練的數(shù)據(jù)的柵格細粒度是40cmx40cmx40cm,因此對細節(jié)的構建較為粗糙。但即便如此,可以看到我們的方法可以有效預測橫跨馬路懸空的紅綠燈,這證明FlashOcc有效的構建了高度信息,此外懸空樹木的輪廓預測也證明了這一點;而圖中表示行人的占據(jù)柵格,在胸口前柵格占據(jù)表示手持手機、腿后柵格占據(jù)表示后拉行李箱,證明我們方法對細節(jié)外形捕捉能力;交通錐的準確預測證明了小目標捕獲能力。

55a6bcd2-b420-11ee-8b88-92fbcf53809c.png

圖 4 可視化。受訓練數(shù)據(jù)約束,預測范圍為前后左右40m,上下-1m到5.4m,柵格粒度0.4m。

總結與展望

FlashOcc初步探索了性能無損端上部署友好輕量級占用預測方法,為占據(jù)任務實車落地提供技術原型支撐,精度、效率和內存消耗均超越當前SOTA。未來進一步探索高效的端上可部署的端到端自動駕駛方案將是我們重要的研究方向。







審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • FlaSh
    +關注

    關注

    10

    文章

    1749

    瀏覽量

    155564
  • 特斯拉
    +關注

    關注

    66

    文章

    6413

    瀏覽量

    131391
  • 自動駕駛芯片

    關注

    3

    文章

    48

    瀏覽量

    5441

原文標題:后摩前沿 | 輕量級占用網(wǎng)絡FlashOcc:主打實時性,高精度高效內存

文章出處:【微信號:后摩智能,微信公眾號:后摩智能】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    深入解析 MAX4004:高精度高端電流監(jiān)測器

    深入解析 MAX4004/MAX4006:高精度高端電流監(jiān)測器 在電子設計領域,高精度的電流監(jiān)測器是不可或缺的關鍵元件。今天我們就來詳細探討一下 Maxim Integrated 推出
    的頭像 發(fā)表于 02-10 11:40 ?262次閱讀

    探索LT1056:高精度高速JFET輸入運算放大器的魅力

    探索LT1055/LT1056:高精度高速JFET輸入運算放大器的魅力 在電子工程師的設計世界里,運算放大器是不可或缺的基礎元件。今天我們要深入探討的是Linear Technology公司
    的頭像 發(fā)表于 01-30 09:55 ?263次閱讀

    深入剖析LT1468 - 2:高精度高速運算放大器的卓越之選

    深入剖析LT1468 - 2:高精度高速運算放大器的卓越之選 在電子工程領域,高性能運算放大器一直是實現(xiàn)高精度、高速應用的關鍵元件。今天,我們就來詳細探討Linear Technology公司
    的頭像 發(fā)表于 01-28 10:20 ?200次閱讀

    AMC0386-Q1:汽車級高精度高壓輸入隔離調制器的卓越之選

    AMC0386-Q1:汽車級高精度高壓輸入隔離調制器的卓越之選 在電子工程領域,高精度、高可靠的電壓測量設備一直是設計的關鍵需求。特別是在汽車電子等對安全和性能要求極高的應用場景中
    的頭像 發(fā)表于 01-19 16:15 ?191次閱讀

    AD45336:32 通道高精度高壓電阻分壓器的技術剖析與應用

    AD45336:32 通道高精度高壓電阻分壓器的技術剖析與應用 在電子工程師的日常工作中,高精度的高壓監(jiān)測是一個常見且關鍵的需求。而 Analog Devices 的 AD45336 32 通道
    的頭像 發(fā)表于 01-15 15:15 ?362次閱讀

    單片機的操作系統(tǒng)

    Linux網(wǎng)絡協(xié)議棧和文件系統(tǒng)(如JFFS2),但實時較弱,需外擴存儲器。 ? ? VxWorks ?:高效實時操作系統(tǒng),廣泛應用于通信
    發(fā)表于 11-14 06:18

    在英偉達Thor平臺部署EtherCAT站:實測高性能、低抖動與低占用

    在機器人與邊緣AI應用中,底層通信的實時決定了系統(tǒng)的響應速度與控制精度。JetsonThor作為NVIDIA最新一代嵌入式平臺,具備強大的算力與實時推理能力,為EtherCAT
    的頭像 發(fā)表于 10-31 15:38 ?608次閱讀
    在英偉達Thor平臺部署EtherCAT<b class='flag-5'>主</b>站:實測高性能、低抖動與低<b class='flag-5'>占用</b>

    在英偉達Thor平臺部署EtherCAT站:實測高性能、低抖動與低占用

    在機器人與邊緣AI應用中,底層通信的實時決定了系統(tǒng)的響應速度與控制精度。JetsonThor作為NVIDIA最新一代嵌入式平臺,具備強大的算力與實時推理能力,為EtherCAT
    的頭像 發(fā)表于 10-31 09:24 ?25次閱讀
    在英偉達Thor平臺部署EtherCAT<b class='flag-5'>主</b>站:實測高性能、低抖動與低<b class='flag-5'>占用</b>

    在高性能 AI 平臺上部署 EtherCAT 站:實測低抖動、低占用方案

    在機器人與邊緣AI應用中,底層通信的實時決定了系統(tǒng)的響應速度與控制精度。JetsonThor作為NVIDIA最新一代嵌入式平臺,具備強大的算力與實時推理能力,為EtherCAT
    的頭像 發(fā)表于 10-30 15:35 ?699次閱讀
    在高性能 AI 平臺上部署 EtherCAT <b class='flag-5'>主</b>站:實測低抖動、低<b class='flag-5'>占用</b>方案

    【CW32】uart_obj_fw 輕量級串口框架

    輕量級跨平臺串口通信框架,專為資源受限的嵌入式設備設計。單個對象RAM占用最小68字節(jié)左右(不算緩沖區(qū)),ROM占用1-2k字節(jié)左右,功能支持裁剪,資源占用小并不代表低性能,該庫參考
    的頭像 發(fā)表于 09-29 18:02 ?7836次閱讀

    基于米爾瑞芯微RK3576開發(fā)板部署運行TinyMaix:超輕量級推理框架

    本文將介紹基于米爾電子MYD-LR3576開發(fā)平臺部署超輕量級推理框架方案:TinyMaix 摘自優(yōu)秀創(chuàng)作者-短笛君 TinyMaix 是面向單片機的超輕量級的神經(jīng)網(wǎng)絡推理庫,即 TinyML
    發(fā)表于 07-25 16:35

    如何在RK3576開發(fā)板上運行TinyMaix :超輕量級推理框架--基于米爾MYD-LR3576開發(fā)板

    本文將介紹基于米爾電子MYD-LR3576開發(fā)平臺部署超輕量級推理框架方案:TinyMaix摘自優(yōu)秀創(chuàng)作者-短笛君TinyMaix是面向單片機的超輕量級的神經(jīng)網(wǎng)絡推理庫,即TinyML推理庫,可以
    的頭像 發(fā)表于 07-25 08:03 ?4258次閱讀
    如何在RK3576開發(fā)板上運行TinyMaix :超<b class='flag-5'>輕量級</b>推理框架--基于米爾MYD-LR3576開發(fā)板

    半導體高精度高低溫測試設備:多領域可靠測試的溫度解決方案

    半導體生產(chǎn)的高精度高低溫測試設備,憑借其技術性能和廣泛的應用場景,已成為5G通訊、航空航天、芯片制造等高科技領域可靠測試的控溫工具一、技術突破:構建嚴苛溫度環(huán)境下的準確控制半導體高精度高低溫測試
    的頭像 發(fā)表于 06-04 14:34 ?882次閱讀
    半導體<b class='flag-5'>高精度高</b>低溫測試設備:多領域可靠<b class='flag-5'>性</b>測試的溫度解決方案

    高精度高壽命直線步進電機設計

    純分享帖,需要者可點擊附件免費獲取完整資料~~~*附件:高精度高壽命直線步進電機設計.pdf【免責聲明】本文系網(wǎng)絡轉載,版權歸原作者所有。本文所用視頻、圖片、文字如涉及作品版權問題,請第一時間告知,刪除內容!
    發(fā)表于 05-29 14:04

    HarmonyOS優(yōu)化應用內存占用問題性能優(yōu)化一

    :開發(fā)者可通過該接口監(jiān)聽系統(tǒng)內存的變化,并根據(jù)系統(tǒng)內存實時情況,動態(tài)地調整應用程序的內存,以避免內存過度
    發(fā)表于 05-21 11:27