書(shū)接上文，我們橫向比較了在應(yīng)用TFLm引擎進(jìn)行模型文件導(dǎo)入時(shí)候，所使用的三種常用方式：

SD卡存儲(chǔ)結(jié)合文件系統(tǒng)，

xxd小工具進(jìn)行文件的十六進(jìn)制轉(zhuǎn)換

以及使用匯編指令.incbin直接進(jìn)行模型導(dǎo)入。

可以說(shuō)各有所長(zhǎng)，但是，當(dāng)我們需要頻繁地進(jìn)行模型的替換、更新時(shí)，麻煩就出現(xiàn)了。xxd和.incbin的形式都需要重新編譯目標(biāo)工程，并下載到板子中。

當(dāng)我們的程序體量較大時(shí)，即便不需要對(duì)全部工程進(jìn)行編譯（做到改啥編啥），但是，下載這一步，是無(wú)論如何不能跳過(guò)的，隨著最終鏡像大小的不同，所消耗的時(shí)間也會(huì)不同。而使用文件系統(tǒng)的方式，無(wú)形中增加了移植文件系統(tǒng)的工作量。

設(shè)計(jì)思路

為了克服這一問(wèn)題，小編在上一篇的結(jié)尾提出了一個(gè)新的方案，直接把flash看作一大塊空白存儲(chǔ)區(qū)，并開(kāi)辟一個(gè)固定區(qū)域存放模型文件。這樣一來(lái)，我們只需要在程序中將模型的讀取位置固定，無(wú)論模型是否更新，都能夠讀取最新的模型數(shù)據(jù)，進(jìn)行后續(xù)處理。

而且小編也特意強(qiáng)調(diào)建議大家直接使用Nor Flash來(lái)實(shí)現(xiàn)這一操作。

以i.MX RT系列MCU為例說(shuō)明這樣做的優(yōu)勢(shì)。i.MX RT系列由于沒(méi)有片上Flash芯片，都通過(guò)外擴(kuò)Flash芯片存儲(chǔ)代碼。當(dāng)我們將啟動(dòng)方式調(diào)整為XIP，即從flash啟動(dòng)時(shí)，芯片內(nèi)部的BootROM會(huì)幫我們配置初始化好這個(gè)片上的Flash芯片，而由于Nor Flash的特性，支持隨機(jī)的內(nèi)存訪問(wèn)，也就是說(shuō)，我們?cè)诔绦騼?nèi)部，可以直接通過(guò)指針的形式進(jìn)行訪問(wèn)，甚至可以直接調(diào)用memcpy函數(shù)進(jìn)行數(shù)據(jù)的拷貝。

比起集成文件系統(tǒng)的方式，可以說(shuō)方便至極。不過(guò)，也不是說(shuō)Nand Flash就不適合，只是處理起來(lái)會(huì)稍稍麻煩一點(diǎn)，由于不支持隨機(jī)的讀操作，就要先拷貝到RAM區(qū)域再進(jìn)行操作。

設(shè)計(jì)實(shí)現(xiàn)

言歸正傳，為了方便進(jìn)行數(shù)據(jù)的管理，我們需要設(shè)計(jì)一套簡(jiǎn)單的管理邏輯，說(shuō)的專業(yè)一點(diǎn)就是為我們的數(shù)據(jù)添加一個(gè)幀頭，當(dāng)然，既然大道至簡(jiǎn)，數(shù)據(jù)打包格式大致就是如下格式（可能有些簡(jiǎn)陋啊，大家見(jiàn)諒）：

當(dāng)然為了能夠在程序中使用，我們?cè)俣x一個(gè)對(duì)應(yīng)的C語(yǔ)言形式來(lái)表達(dá)，這里要用到C語(yǔ)言中0長(zhǎng)度數(shù)組的概念：

struct { uint32_t n, w, h , c; uint8_t data[0]; }

這樣一來(lái)，我們就具象化了我們所設(shè)計(jì)的那個(gè)簡(jiǎn)單的數(shù)據(jù)打包協(xié)議。

下一步是如何將數(shù)據(jù)打包成我們要的樣子，這里要借助于Python來(lái)編寫(xiě)一個(gè)簡(jiǎn)單的腳本處理，并假設(shè)最終會(huì)生成一個(gè)二進(jìn)制文件，假設(shè)輸入一個(gè)多維數(shù)組results，首先構(gòu)建其幀頭，默認(rèn)維度不足4的數(shù)據(jù)，用1補(bǔ)齊，保證最終的幀頭包含4個(gè)維度信息：

def save_to_bin(bin_name, results): shape = list(results[0].shape) element_size = [1] * (3 - len(shape)) + shape element_len = len(results) # shape is [N, H, W, C] bin_values = np.asarray([element_len] + element_size, dtype=np.uint32).tobytes() bin_values += results.tobytes() with open(bin_name, "wb") as f: f.write(bin_values) f.close()

聊到這兒，可能有同學(xué)會(huì)問(wèn)了，針對(duì)于tflite模型，我們往往只需要知道其首地址就好了，TFLm會(huì)處理那些長(zhǎng)度信息，我還有必要構(gòu)造幀頭嗎？這下給小編問(wèn)的有點(diǎn)啞口無(wú)言。馬上著手設(shè)計(jì)了第二種數(shù)據(jù)結(jié)構(gòu)：

是的，針對(duì)于模型數(shù)據(jù)這一特殊的存在，可以設(shè)計(jì)出更加精簡(jiǎn)的表達(dá)格式，而且，我們知道tflite模型本身實(shí)際上已經(jīng)是二進(jìn)制文件的形式了，也就是說(shuō)，可以直接拿過(guò)來(lái)使用，無(wú)需再做任何操作，直接燒寫(xiě)到固定地址即可。

那我們上面所設(shè)計(jì)的數(shù)據(jù)結(jié)構(gòu)就毫無(wú)用武之地了嗎？當(dāng)然不是！小編做這些當(dāng)然都是有理由的啊。

大家想一想，運(yùn)行神經(jīng)網(wǎng)絡(luò)模型的時(shí)候，光有模型就可以了嗎？當(dāng)然不，我們還缺少輸入啊！如果你是攝像頭輸入，請(qǐng)?zhí)^(guò)這節(jié)。而如果是離線測(cè)試呢？需要大量加載靜態(tài)圖到內(nèi)存中，是不是和之前我們的分析就類似了。

每次更換測(cè)試數(shù)據(jù)，依舊需要重新下載鏈接，那么按照本文提供的方案，也為數(shù)據(jù)設(shè)置一塊固定的區(qū)域，然后借助于上述save_to_bin代碼，將數(shù)據(jù)打包成固定格式，是不是就可以在程序中利用那個(gè)結(jié)構(gòu)體訪問(wèn)了呢？沒(méi)錯(cuò)！小編早就設(shè)計(jì)好了。

下期預(yù)告

那么至此，小編就給大家介紹了數(shù)據(jù)的組織結(jié)果，以及如何編寫(xiě)PC端工具對(duì)數(shù)據(jù)進(jìn)行打包處理，以變成“應(yīng)用程序可以訪問(wèn)的樣子”。

當(dāng)然，考慮到模型文件在使用上的特殊性，也為其設(shè)計(jì)了特殊的存儲(chǔ)格式，即直接刪去了幀頭，只保留了數(shù)據(jù)部分。而對(duì)于圖像輸入等，需要明確知道其輸入維度的數(shù)據(jù)，就需要保留幀頭信息了。

在這里再次做個(gè)廣告：下一篇我們以i.MX RT1060系列芯片為例，進(jìn)行MCU實(shí)戰(zhàn)部分，包括如何進(jìn)行C代碼的的編寫(xiě)獲取數(shù)據(jù)，Keil的散列加載文件的編寫(xiě)以實(shí)現(xiàn)數(shù)據(jù)的運(yùn)行時(shí)加載，完成將數(shù)據(jù)拷從Flash拷貝到sdram等，敬請(qǐng)期待！

來(lái)源：恩智浦MCU加油站
免責(zé)聲明：本文為轉(zhuǎn)載文章，轉(zhuǎn)載此文目的在于傳遞更多信息，版權(quán)歸原作者所有。本文所用視頻、圖片、文字如涉及作品版權(quán)問(wèn)題，請(qǐng)聯(lián)系小編進(jìn)行處理

審核編輯 黃宇