電子發(fā)燒友網(wǎng)>電子資料下載>電子資料>使用 FPGA 構(gòu)建具有機器學習功能的高性能嵌入式視覺應用

使用 FPGA 構(gòu)建具有機器學習功能的高性能嵌入式視覺應用

2388721 2022-11-25 | pdf | 371.92KB | 次下載 | 免費

資料介紹

來自相機和其他設備的可用數(shù)據(jù)的快速增長推動了機器學習的使用，以從汽車、安全和其他應用程序的圖像中提取更多有用的信息。專用設備有望在嵌入式視覺應用中實現(xiàn)高性能機器學習 (ML) 推理。然而，盡管人工智能 (AI) 研究人員正在迅速發(fā)展新方法，但其中許多設備仍處于開發(fā)的早期階段，因為它們的設計人員正在努力尋找最有效的算法。來自相機和其他設備的可用數(shù)據(jù)的快速增長推動了機器學習的使用，以從汽車、安全和其他應用程序的圖像中提取更多有用的信息。專用設備有望在嵌入式視覺應用中實現(xiàn)高性能機器學習 (ML) 推理。然而，盡管人工智能 (AI) 研究人員正在迅速發(fā)展新方法，但其中許多設備仍處于開發(fā)的早期階段，因為它們的設計人員正在努力尋找最有效的算法。目前，開發(fā)人員使用可用的基于 FPGA 的 ML 平臺來創(chuàng)建能夠滿足更高性能要求的嵌入式視覺系統(tǒng)。同時，他們可以保持跟上機器學習進步所需的靈活性。目前，開發(fā)人員使用可用的基于 FPGA 的 ML 平臺來創(chuàng)建能夠滿足更高性能要求的嵌入式視覺系統(tǒng)。同時，他們可以保持跟上機器學習進步所需的靈活性。本文將描述 ML 處理的要求以及 FPGA 解決許多性能問題的原因。然后將介紹合適的基于 FPGA 的 ML 平臺及其使用方法。本文將描述 ML 處理的要求以及 FPGA 解決許多性能問題的原因。然后將介紹合適的基于 FPGA 的 ML 平臺及其使用方法。機器學習算法和推理引擎機器學習算法和推理引擎在 ML 算法中，卷積神經(jīng)網(wǎng)絡 (CNN) 已成為圖像分類的首選解決方案。它們在圖像識別方面實現(xiàn)高準確率的能力推動了它們在智能手機、安全系統(tǒng)和汽車駕駛員輔助系統(tǒng)等各種平臺上的廣泛應用。CNN 是一種深度神經(jīng)網(wǎng)絡 (DNN)，它使用包含專門層的神經(jīng)網(wǎng)絡架構(gòu)，這些層從圖像中提取特征，并在對標記圖像進行訓練期間使用這些特征對圖像進行分類（請參閱“在 ML 算法中，卷積神經(jīng)網(wǎng)絡 (CNN) 已成為圖像分類的首選解決方案。它們在圖像識別方面實現(xiàn)高準確率的能力推動了它們在智能手機、安全系統(tǒng)和汽車駕駛員輔助系統(tǒng)等各種平臺上的廣泛應用。CNN 是一種深度神經(jīng)網(wǎng)絡 (DNN)，它使用包含專門層的神經(jīng)網(wǎng)絡架構(gòu)，這些層從圖像中提取特征，并在對標記圖像進行訓練期間使用這些特征對圖像進行分類（請參閱“使用現(xiàn)成的硬件開始機器學習和軟件使用現(xiàn)成的硬件開始機器學習和軟件”）。”）。CNN 開發(fā)人員通常在高性能系統(tǒng)或云平臺上進行訓練，使用圖形處理單元 (GPU) 來加速在通常數(shù)量為數(shù)百萬的標記圖像數(shù)據(jù)集上訓練模型所需的大量矩陣計算。訓練后，經(jīng)過訓練的模型用于推理應用程序，對視頻流中的新圖像或幀進行分類。部署用于推理時，經(jīng)過訓練的模型仍然需要執(zhí)行相同的矩陣計算，但由于輸入量少得多，開發(fā)人員可以將 CNN 用于在通用硬件上運行的適度機器學習應用程序（請參閱“CNN 開發(fā)人員通常在高性能系統(tǒng)或云平臺上進行訓練，使用圖形處理單元 (GPU) 來加速在通常數(shù)量為數(shù)百萬的標記圖像數(shù)據(jù)集上訓練模型所需的大量矩陣計算。訓練后，經(jīng)過訓練的模型用于推理應用程序，對視頻流中的新圖像或幀進行分類。部署用于推理時，經(jīng)過訓練的模型仍然需要執(zhí)行相同的矩陣計算，但由于輸入量少得多，開發(fā)人員可以將 CNN 用于在通用硬件上運行的適度機器學習應用程序（請參閱“使用樹莓派使用樹莓派”）。”）。然而，對于許多應用程序而言，通用平臺缺乏在 CNN 推理中實現(xiàn)高精度和高性能所需的性能。優(yōu)化技術(shù)和 MobileNet 或 SqueezeNet 等替代 CNN 架構(gòu)有助于降低平臺要求，但通常會以準確性和推理延遲為代價，這可能會與應用程序要求發(fā)生沖突。然而，對于許多應用程序而言，通用平臺缺乏在 CNN 推理中實現(xiàn)高精度和高性能所需的性能。