電子發(fā)燒友網(wǎng)>電子資料下載>電子資料>使用 FPGA 構(gòu)建具有機(jī)器學(xué)習(xí)功能的高性能嵌入式視覺應(yīng)用

使用 FPGA 構(gòu)建具有機(jī)器學(xué)習(xí)功能的高性能嵌入式視覺應(yīng)用

2388721 2022-11-25 | pdf | 371.92KB | 次下載 | 免費(fèi)

資料介紹

來自相機(jī)和其他設(shè)備的可用數(shù)據(jù)的快速增長(zhǎng)推動(dòng)了機(jī)器學(xué)習(xí)的使用，以從汽車、安全和其他應(yīng)用程序的圖像中提取更多有用的信息。專用設(shè)備有望在嵌入式視覺應(yīng)用中實(shí)現(xiàn)高性能機(jī)器學(xué)習(xí) (ML) 推理。然而，盡管人工智能 (AI) 研究人員正在迅速發(fā)展新方法，但其中許多設(shè)備仍處于開發(fā)的早期階段，因?yàn)樗鼈兊脑O(shè)計(jì)人員正在努力尋找最有效的算法。來自相機(jī)和其他設(shè)備的可用數(shù)據(jù)的快速增長(zhǎng)推動(dòng)了機(jī)器學(xué)習(xí)的使用，以從汽車、安全和其他應(yīng)用程序的圖像中提取更多有用的信息。專用設(shè)備有望在嵌入式視覺應(yīng)用中實(shí)現(xiàn)高性能機(jī)器學(xué)習(xí) (ML) 推理。然而，盡管人工智能 (AI) 研究人員正在迅速發(fā)展新方法，但其中許多設(shè)備仍處于開發(fā)的早期階段，因?yàn)樗鼈兊脑O(shè)計(jì)人員正在努力尋找最有效的算法。目前，開發(fā)人員使用可用的基于 FPGA 的 ML 平臺(tái)來創(chuàng)建能夠滿足更高性能要求的嵌入式視覺系統(tǒng)。同時(shí)，他們可以保持跟上機(jī)器學(xué)習(xí)進(jìn)步所需的靈活性。目前，開發(fā)人員使用可用的基于 FPGA 的 ML 平臺(tái)來創(chuàng)建能夠滿足更高性能要求的嵌入式視覺系統(tǒng)。同時(shí)，他們可以保持跟上機(jī)器學(xué)習(xí)進(jìn)步所需的靈活性。本文將描述 ML 處理的要求以及 FPGA 解決許多性能問題的原因。然后將介紹合適的基于 FPGA 的 ML 平臺(tái)及其使用方法。本文將描述 ML 處理的要求以及 FPGA 解決許多性能問題的原因。然后將介紹合適的基于 FPGA 的 ML 平臺(tái)及其使用方法。機(jī)器學(xué)習(xí)算法和推理引擎機(jī)器學(xué)習(xí)算法和推理引擎在 ML 算法中，卷積神經(jīng)網(wǎng)絡(luò) (CNN) 已成為圖像分類的首選解決方案。它們?cè)趫D像識(shí)別方面實(shí)現(xiàn)高準(zhǔn)確率的能力推動(dòng)了它們?cè)?a target='_blank' class='arckwlink_none'>智能手機(jī)、安全系統(tǒng)和汽車駕駛員輔助系統(tǒng)等各種平臺(tái)上的廣泛應(yīng)用。CNN 是一種深度神經(jīng)網(wǎng)絡(luò) (DNN)，它使用包含專門層的神經(jīng)網(wǎng)絡(luò)架構(gòu)，這些層從圖像中提取特征，并在對(duì)標(biāo)記圖像進(jìn)行訓(xùn)練期間使用這些特征對(duì)圖像進(jìn)行分類（請(qǐng)參閱“在 ML 算法中，卷積神經(jīng)網(wǎng)絡(luò) (CNN) 已成為圖像分類的首選解決方案。它們?cè)趫D像識(shí)別方面實(shí)現(xiàn)高準(zhǔn)確率的能力推動(dòng)了它們?cè)谥悄苁謾C(jī)、安全系統(tǒng)和汽車駕駛員輔助系統(tǒng)等各種平臺(tái)上的廣泛應(yīng)用。CNN 是一種深度神經(jīng)網(wǎng)絡(luò) (DNN)，它使用包含專門層的神經(jīng)網(wǎng)絡(luò)架構(gòu)，這些層從圖像中提取特征，并在對(duì)標(biāo)記圖像進(jìn)行訓(xùn)練期間使用這些特征對(duì)圖像進(jìn)行分類（請(qǐng)參閱“使用現(xiàn)成的硬件開始機(jī)器學(xué)習(xí)和軟件使用現(xiàn)成的硬件開始機(jī)器學(xué)習(xí)和軟件”）。”）。CNN 開發(fā)人員通常在高性能系統(tǒng)或云平臺(tái)上進(jìn)行訓(xùn)練，使用圖形處理單元 (GPU) 來加速在通常數(shù)量為數(shù)百萬的標(biāo)記圖像數(shù)據(jù)集上訓(xùn)練模型所需的大量矩陣計(jì)算。訓(xùn)練后，經(jīng)過訓(xùn)練的模型用于推理應(yīng)用程序，對(duì)視頻流中的新圖像或幀進(jìn)行分類。部署用于推理時(shí)，經(jīng)過訓(xùn)練的模型仍然需要執(zhí)行相同的矩陣計(jì)算，但由于輸入量少得多，開發(fā)人員可以將 CNN 用于在通用硬件上運(yùn)行的適度機(jī)器學(xué)習(xí)應(yīng)用程序（請(qǐng)參閱“CNN 開發(fā)人員通常在高性能系統(tǒng)或云平臺(tái)上進(jìn)行訓(xùn)練，使用圖形處理單元 (GPU) 來加速在通常數(shù)量為數(shù)百萬的標(biāo)記圖像數(shù)據(jù)集上訓(xùn)練模型所需的大量矩陣計(jì)算。訓(xùn)練后，經(jīng)過訓(xùn)練的模型用于推理應(yīng)用程序，對(duì)視頻流中的新圖像或幀進(jìn)行分類。部署用于推理時(shí)，經(jīng)過訓(xùn)練的模型仍然需要執(zhí)行相同的矩陣計(jì)算，但由于輸入量少得多，開發(fā)人員可以將 CNN 用于在通用硬件上運(yùn)行的適度機(jī)器學(xué)習(xí)應(yīng)用程序（請(qǐng)參閱“使用樹莓派使用樹莓派”）。”）。然而，對(duì)于許多應(yīng)用程序而言，通用平臺(tái)缺乏在 CNN 推理中實(shí)現(xiàn)高精度和高性能所需的性能。優(yōu)化技術(shù)和 MobileNet 或 SqueezeNet 等替代 CNN 架構(gòu)有助于降低平臺(tái)要求，但通常會(huì)以準(zhǔn)確性和推理延遲為代價(jià)，這可能會(huì)與應(yīng)用程序要求發(fā)生沖突。然而，對(duì)于許多應(yīng)用程序而言，通用平臺(tái)缺乏在 CNN 推理中實(shí)現(xiàn)高精度和高性能所需的性能。