熊旗

• 24年智能車(chē)競(jìng)賽地平線賽道國(guó)獎(jiǎng)獲得者
• 創(chuàng)客孵化營(yíng)成員
• 嵌入式AI大膽玩家
• 目標(biāo)是減少開(kāi)發(fā)者煩惱

Part.1開(kāi)發(fā)者日記

Showtime：RDK模型一站式開(kāi)發(fā)工具功能展示

Part.2開(kāi)發(fā)者日記故事的開(kāi)始：一個(gè)念頭引發(fā)的技術(shù)挑戰(zhàn)

“ 之前在使用的RDK X3的時(shí)候，看到過(guò)前輩關(guān)于新一代量化轉(zhuǎn)換工具鏈?zhǔn)褂媒坛?，這個(gè)工具真的非常的方便！能非?？焖俚耐瓿蒟3上模型的量化，不過(guò)針對(duì)X5的工具仍在開(kāi)發(fā)......"

于是熊旗大膽決定“讓我來(lái)！”

他決定仿照前輩的X3可視化工具鏈來(lái)制作一個(gè)適配X5的可視化量化轉(zhuǎn)換工具鏈。

“我的初步構(gòu)想便是這個(gè)可視化工具鏈能夠逐步適配地瓜機(jī)器人ModelZoo里的所有模型，實(shí)現(xiàn)一站式從模型的訓(xùn)練到模型的轉(zhuǎn)換最后到部署，使之能夠更加輕松便捷的服務(wù)新拿到RDK的同學(xué)們?！?/p>

Part.3開(kāi)發(fā)者日記領(lǐng)域展開(kāi)：魔法的使用方法

于是在經(jīng)過(guò)一段時(shí)間的研發(fā)后，熊旗的工具鏈初版完成。目前，模型的訓(xùn)練和導(dǎo)出已全面支持YOLO系列，實(shí)現(xiàn)了從訓(xùn)練到轉(zhuǎn)換的完整流程，能有效幫助開(kāi)發(fā)者更直觀地理解和優(yōu)化模型。

Docker使用（推薦）

# step 1 拉取docker鏡像（阿里云倉(cāng)庫(kù)）docker pull crpi-0uog49363mcubexr.cn-hangzhou.personal.cr.aliyuncs.com/skyxz/rdk_toolchain:v1.3# step 2 創(chuàng)建文件夾映射mkdir ~/datasetexport dataset_path=~/dataset# Run-Method-1 臨時(shí)創(chuàng)建容器（自行修改--shm-size配置）docker run -it --rm --gpus all --shm-size=32g --ipc=host -e PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:128 -e CUDA_LAUNCH_BLOCKING=1 -p 5000:5000 -p 8080:8080 -v "$dataset_path":/data crpi-0uog49363mcubexr.cn-hangzhou.personal.cr.aliyuncs.com/skyxz/rdk_toolchain:v1.3# Run-Method-2 永久創(chuàng)建容器（自行修改--shm-size配置）docker run -it --rm --gpus all --shm-size={你的內(nèi)存大小例如：32g} --ipc=host -e PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:128 -e CUDA_LAUNCH_BLOCKING=1 -p 5000:5000 -p 8080:8080 -v "$dataset_path":/data crpi-0uog49363mcubexr.cn-hangzhou.personal.cr.aliyuncs.com/skyxz/rdk_toolchain:v1.3 手動(dòng)構(gòu)建docker鏡像

手動(dòng)構(gòu)建docker鏡像

# step 1 ：從百度云下載源碼（倉(cāng)庫(kù)中僅有前端后端實(shí)現(xiàn)）https://pan.baidu.com/s/1fz_DueWNr3uKDLO7KkNwZw?pwd=7jy3# step 2 解壓并進(jìn)入項(xiàng)目目錄# step 3 構(gòu)建dockerdocker build -t rdk_toolchain .# step 4 創(chuàng)建文件夾映射mkdir ~/datasetexport dataset_path=~/dataset# Run-Method-1 臨時(shí)創(chuàng)建容器（自行修改--shm-size配置）docker run -it --rm --gpus all --shm-size=32g --ipc=host -e PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:128 -e CUDA_LAUNCH_BLOCKING=1 -p 5000:5000 -p 8080:8080 -v "$dataset_path":/data crpi-0uog49363mcubexr.cn-hangzhou.personal.cr.aliyuncs.com/skyxz/rdk_toolchain:v1.3# Run-Method-2 永久創(chuàng)建容器（自行修改--shm-size配置）docker run -it --rm --gpus all --shm-size={你的內(nèi)存大小例如：32g} --ipc=host -e PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:128 -e CUDA_LAUNCH_BLOCKING=1 -p 5000:5000 -p 8080:8080 -v "$dataset_path":/data crpi-0uog49363mcubexr.cn-hangzhou.personal.cr.aliyuncs.com/skyxz/rdk_toolchain:v1.3

直接下載源碼使用

# step 1 ：從百度云下載源碼（倉(cāng)庫(kù)中僅有前端后端實(shí)現(xiàn)）https://pan.baidu.com/s/1fz_DueWNr3uKDLO7KkNwZw?pwd=7jy3# step 2 : 安裝依賴(lài)pip3 install -r requirements_docker.txt# step 3 ：運(yùn)行腳本即可bash start_services.sh

盡管其他模型如 ResNet、FCOS 仍在支持計(jì)劃中，但由于模型量化和轉(zhuǎn)換部分的高自由度，目前已能夠覆蓋絕大多數(shù)模型的轉(zhuǎn)換需求。

Part.4開(kāi)發(fā)者日記Dev前必看：避坑指南 Loading...

當(dāng)前頁(yè)面的任務(wù)正在進(jìn)行的時(shí)候請(qǐng)不要切換至其他頁(yè)面！切至其他頁(yè)面后再切回本頁(yè)面無(wú)法恢復(fù)原先內(nèi)容！也無(wú)法結(jié)束進(jìn)行中的進(jìn)程了！

當(dāng)停止某項(xiàng)操作時(shí)（如停止訓(xùn)練）有時(shí)停止按鈕可能會(huì)卡住無(wú)反應(yīng)，這不是卡死了！這是后臺(tái)正在嘗試殺死進(jìn)程中，幾秒后再次點(diǎn)擊停止即可退出！

當(dāng)遇到無(wú)法結(jié)束進(jìn)程或是在任務(wù)進(jìn)行中切換至其他頁(yè)面時(shí)請(qǐng)停止Docker以結(jié)束后臺(tái)正在運(yùn)行中的進(jìn)程！

部分日志輸出為紅色不一定是報(bào)錯(cuò)！進(jìn)程是否因?yàn)閳?bào)錯(cuò)結(jié)束請(qǐng)以訓(xùn)練狀態(tài)標(biāo)志為準(zhǔn)！

除了模型導(dǎo)出的onnx會(huì)放在原pt模型路徑下之外，其他所有運(yùn)行的結(jié)果將保存在/app/logs下

版本進(jìn)化論：可持續(xù)發(fā)展ing

已支持所有模型的量化轉(zhuǎn)換操作

已完成ModelZoo中YOLO全系列的訓(xùn)練與導(dǎo)出實(shí)現(xiàn)

TODO V2.0

即將支持ResNet系列模型、FCOS等模型

即將實(shí)現(xiàn)PC端轉(zhuǎn)換后模型推理檢查

推文有沒(méi)有讓你意猶未盡？還有哪些沒(méi)講到的部分讓你撓頭？別急！熊旗已經(jīng)準(zhǔn)備好了——

RDK可視化工具還有哪些隱藏玩法？ 開(kāi)發(fā)過(guò)程中遇到的坑，怎么優(yōu)雅避開(kāi)？ 關(guān)于模型適配、優(yōu)化、擴(kuò)展性……

你問(wèn)，熊旗答！

一個(gè)人敲代碼是孤獨(dú)的，但一群人一起敲，就變成了一場(chǎng)狂歡——

3月4日晚上7：00，在深夜一個(gè)人debug前，不妨預(yù)約地瓜機(jī)器人視頻號(hào)和Bilibili，和熊旗一起把代碼聊出花