前一篇文章為大家講述了 DeepStream 的應(yīng)用定位、單機(jī)工作流、實(shí)際部署圖，以及完整的軟件棧的內(nèi)容，可以對(duì)其有一個(gè)框架性的了解。接下來(lái)大家可以思考一下，DeepStream 可以開(kāi)發(fā)什么應(yīng)用？

可能有人會(huì)猜想，這么強(qiáng)大且復(fù)雜的視頻分析工具，一定需要具備很多的專(zhuān)業(yè)知識(shí)與編程語(yǔ)言基礎(chǔ)，才有可能操作這樣一套系統(tǒng)。

的確，如果要實(shí)現(xiàn)完整的視頻分析中心的整體部署，確實(shí)需要更多的技術(shù)去完成；但如果只想做些輕便的單機(jī)應(yīng)用，例如自己家中或辦公環(huán)境的視頻分析應(yīng)用，那就非常地簡(jiǎn)單，甚至不需要撰寫(xiě)或修改代碼就能實(shí)現(xiàn)。

本文的內(nèi)容，就是用 NVIDIA Jetson Nano 2GB 快速帶大家來(lái)執(zhí)行 NVIDIA 為 DeepStream 已經(jīng)提供好的應(yīng)用，整個(gè)執(zhí)行流程也適用于 Jetson 系列的所有設(shè)備，當(dāng)然，也能在帶有 CUDA GPU 計(jì)算卡的 x86 設(shè)備上運(yùn)作。

這里的運(yùn)作環(huán)境是用 NVIDIA Jetpack 4.5.0 安裝，關(guān)于操作系統(tǒng)、CUDA、CUDNN、TensorRT、OpenCV 等版本，請(qǐng)自行參考 NVIDIA 官方所提供的說(shuō)明內(nèi)容。

Jetpack 會(huì)為 Jetson 設(shè)備直接安裝好 DeepStream 套件，因此 Jetson 用戶(hù)可以省略 DeepStream 的安裝步驟，進(jìn)入 Jetson 設(shè)備之后，執(zhí)行以下指令就可以檢查其版本：

# 在 Jetson 設(shè)備

$ dpkg -l deepstream-5.0

會(huì)看到如下截圖的信息，表示目前安裝的版本為“5.0.1-1”！

接下來(lái)看看 Deepstream 為系統(tǒng)提供哪些可執(zhí)行的軟件？請(qǐng)執(zhí)行以下指令：

$ deepstream-（連續(xù)敲擊兩次“Tab”鍵）

會(huì)看到如下截圖，總共有20個(gè)可執(zhí)行工具，我們只需要 deepstream-app 這個(gè)工具，其余可以不用理會(huì)。

在/opt/nvidia/deepstream/deepstream 路徑下安裝 DeepStream，后面的實(shí)驗(yàn)操作以這下面的 samples 目錄里的內(nèi)容為主，為了方便操作起見(jiàn)，請(qǐng)執(zhí)行以下指令，在主目錄執(zhí)行建立一個(gè)鏈接：

$ cd ~

$ ln -s /opt/nvidia/deepstream/deepstream/samples ds5_samples

現(xiàn)在執(zhí)行以下指令，看看 samples 里的目錄結(jié)構(gòu)，對(duì) DeepStream 范例能多一份總體觀：

$ tree -L 2 -d ds5_samples

下圖框處是本次實(shí)驗(yàn)有關(guān)的部分：

本次實(shí)驗(yàn)使用 deepstream-app 這個(gè)編譯好的工具，執(zhí)行時(shí)只要在后面添加”-c 《配置文件》“即可，要做的任務(wù)就是修改配置文件的內(nèi)容，便可以輕松地改變實(shí)現(xiàn)的功能。配置文件的范例存放在 config/deepstream-app 目錄下，有 9 個(gè)“source”帶頭的范例文件可以使用，根據(jù)文件名可以看出該文件的適用設(shè)備。

source8_1080p_dec_infer-resnet_tracker_tiled_display_fp16_nano.txt 這個(gè)配置文件比較適合 Jetson Nano 2GB 使用，先簡(jiǎn)單分解一下文件名所代表的意義：

source8：有 8 個(gè)輸入源

1080p：輸入源的最高分辨率

dec：檢測(cè)器 detector 的縮寫(xiě)，表示這個(gè)設(shè)定文件是做物件檢測(cè)功能

infer-resnet：使用 ResNet 這個(gè)神經(jīng)網(wǎng)絡(luò)執(zhí)行推理功能

tracker：?jiǎn)⒂谩拔锛粉櫋惫δ?/p>

tiled_display：?jiǎn)⒂谩安⒘酗@示”功能

fp16：推理時(shí)的數(shù)據(jù)精度

nano：針對(duì) Nano 設(shè)備

這些文件名只是比較有針對(duì)性地提供預(yù)設(shè)參數(shù)而已，里面的每一個(gè)參數(shù)都是可以任意修改的。為了方便后面的執(zhí)行，因此建議將配置文件復(fù)制成一個(gè)比較短的文件名：

$ sudo chmod 777 -R ds5_samples

$ cd ds5_samples/configs/deepstream-app

$ cp source8_1080p_dec_infer-resnet_tracker_tiled_display_fp16_nano.txt myNano.txt

后面所有的修改在 myNano.txt 里面執(zhí)行就可以?，F(xiàn)在執(zhí)行以下指令，看看會(huì)得到什么結(jié)果：

$ deepstream-app -c myNano.txt

第一次執(zhí)行時(shí)要為神經(jīng)網(wǎng)絡(luò)模型生成 TensorRT 加速引擎，所以需要幾分鐘時(shí)間去建立，出現(xiàn) 2x4 個(gè)并列顯示框。

下面是指令框顯示的個(gè)別推理性能，8 個(gè)框的總性能合計(jì)大約在 120FPS，這對(duì) JetsonNano 2GB 來(lái)說(shuō)是非常驚人的。

如果使用 NoMachine 遠(yuǎn)程控制 Jetson Nano 2GB，可能會(huì)看不到顯示的畫(huà)面，這時(shí)請(qǐng)先按 Ctrl-C 退出執(zhí)行，然后修改 myNano.txt 里面的［sink0］兩個(gè)參數(shù)，如下：

。。。。。

［sink0］

#type=5

type=2

#sync=1

sync=0

。。。。。

然后重新執(zhí)行“deepstream-app -c myNano.txt”應(yīng)該就能看到顯示的結(jié)果了。

這個(gè)標(biāo)準(zhǔn)演示一個(gè)較明顯的問(wèn)題就是 8 個(gè)框的數(shù)據(jù)源是相同的，這是否存在不真實(shí)的部分？因此修改一下輸入來(lái)源的部分，調(diào)用從 DeepStream 與 VisionWorks 所提供的測(cè)試視頻來(lái)執(zhí)行“多視頻”分析功能。

接下來(lái)在 myNano.txt 中做些小幅度的修改：

1. 為了讓顯示的尺寸更加合理化，修改［tiled-display］下面的 rows=2， columns=2

2. 以［source0］為范本，刪除不需要的參數(shù)，復(fù)制為［source1］、［source2］、［source3］

這里特別使用不同格式的視頻，包括.mp4、.h264、.avi等。存好修改內(nèi)容后重新執(zhí)行“deepstream-app -c myNano.txt”，就會(huì)看到四個(gè)不同視頻的推理結(jié)果，其中紅色的代表“Car”、藍(lán)色代表“Person”。

請(qǐng)自行查看一下命令框里，四組推理性能總和與前面八組推理性能的總合是否符合

玩轉(zhuǎn) DeepStream 就是這么簡(jiǎn)單，到目前為止完全沒(méi)有牽涉任何的代碼，只是修改一些參數(shù)就能實(shí)現(xiàn)多數(shù)據(jù)源的高性能識(shí)別，現(xiàn)在可以去向朋友炫耀了！

“目標(biāo)追蹤（track）”功能是推理識(shí)別的后處理任務(wù)，為識(shí)別出的物件標(biāo)上編號(hào)之后，就能進(jìn)行更多樣化的后續(xù)操作，包括統(tǒng)計(jì)人流、動(dòng)向分析、目標(biāo)鎖定等等，這個(gè)功能需要相對(duì)復(fù)雜的算法來(lái)支撐。

DeepStream 已經(jīng)將“目標(biāo)追蹤”功能都封裝好，只需在配置文件中做些簡(jiǎn)單處理，這就是下一篇文章要帶大家執(zhí)行的任務(wù)。

編輯：jq