本期我們分享主題是如何將 AI 模型部署到嵌入式系統(tǒng)中，下一期將介紹如何在 RT-Thread 操作系統(tǒng)上運(yùn)行 Mnist Demo（手寫數(shù)字識別）。

嵌入式關(guān)聯(lián) AI

AI落地一直是一個很紅火的前景和朝陽行業(yè)。我的好奇心也比較旺盛，所以關(guān)于任何嵌入式和 AI 相關(guān)的都是想嘗一嘗。本系列文章將帶你一步一步把 AI 模型部署在嵌入式平臺，移植到 RT-Thread 操作系統(tǒng)上，實現(xiàn)你從菜鳥到起飛的第一步甚至第 n 步！

開發(fā)環(huán)境：

后續(xù)開發(fā)過程將基于 STM32H743ZI-Nucleo 開發(fā)板，并且使用 STM32CubeMX.AI 工具。它可以基于訓(xùn)練好的 AI Model (僅限 Keras/TF-Lite)，自動生成嵌入式項目工程(包括但是不局限于 MDK、STM32CubeIDE 等)。該工具易于上手，適合嵌入式 AI 入門開發(fā)。

STM32CubeMX 是 ST 公司推出的一種自動創(chuàng)建單片機(jī)工程及初始化代碼的工具，適用于旗下所有 STM32 系列產(chǎn)品，現(xiàn)在其 AI 組件可以提供 AI 模型到嵌入式 C 代碼的轉(zhuǎn)換功能。

1. 準(zhǔn)備工作

1.1 安裝開發(fā)環(huán)境

我是用的操作系統(tǒng)是 Ubuntu 18.04。本次實驗要用到如下開發(fā)工具，軟件的安裝過程很簡單，網(wǎng)上都有很成熟的教程，在此不再贅述。該篇教程同樣適用于 Windows 環(huán)境，實驗步驟完全相同。

STM32CubeMx

STM32CubeIDE

STM32CubeProgrammer

STM32CubeProgrammer 在 ubuntu 環(huán)境下使用可能會出現(xiàn)如下錯誤：

安裝好之后，在終端執(zhí)行安裝包路徑下的bin文件夾下的執(zhí)行文件，會報錯誤：找不到或無法加載主類 “com.st.app.Main”，這時候只要將 Ubuntu 默認(rèn)的 Open-JDK 換成 Oracle JDK 就好了，下面是切換成 Oracle JDK 成功的截圖：

1# Oracle官網(wǎng)中下載 JavaSEJDK壓縮包 2$sudotarzxvfjdk-8u172-linux-x64.tar.gz-C/usr/lib/jvm 3#將下載的JDK注冊到系統(tǒng)中 4$sudoupdate-alternatives--install/usr/bin/javajava/usr/lib/jvm/jdk1.8.0_172/bin/java300 5#切換JDK 6$sudoupdate-alternatives--configjava 7#查看JDK版本 8$java-version

1.2 在 PC 端搭建極簡神經(jīng)網(wǎng)絡(luò)

首先將如下開源倉庫克隆到本地：

Github:https://github.com/Lebhoryi/Edge_AI/tree/master/Project1

在本次實驗中我選擇了最簡單的一個線性回歸(Linear Regression) Tensor Flow2 Demo 作為示例，模型相關(guān)源文件說明如下：

tf2_linear_regression.ipynb 內(nèi)含三種不同方式搭建網(wǎng)絡(luò)結(jié)構(gòu)

tf2_線性回歸_擴(kuò)展.ipynb 內(nèi)含不同方式訓(xùn)練模型

其中，在模型搭建的時候，重新溫習(xí)了一下，有三種方式（各個方式的優(yōu)缺點(diǎn)已經(jīng)放在參考文章當(dāng)中，感興趣的同學(xué)自行查閱）：

Sequence

函數(shù)式 API

子類

后面將 AI 模型導(dǎo)入到 CubeMx 的過程中，如果使用后兩種方式生成的網(wǎng)絡(luò)模型，將會遇到如下報錯：

1INVALIDMODEL:Couldn'tloadKerasmodel/home/lebhoryi/RT-Thread/Edge_AI/Project1/keras_model.h5, 2error:Unknownlayer:Functional暫時的解決方式是采用Sequence方式搭建神經(jīng)網(wǎng)絡(luò)，訓(xùn)練好的 AI Model 會被保存為Keras 格式，后綴為 .h5，例如keras_model.h5。 示例模型我已經(jīng)保存好了，大家可以直接下載該模型進(jìn)行實驗，下載地址如下： https://github.com/Lebhoryi/Edge_AI/tree/master/Project1/model 本次示例所訓(xùn)練的神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)如下：

2. 使用 CubeMX AI生成工程

在 CubeMX 中選擇 STM32H743ZI Nucleo 開發(fā)板，這里其實不限制開發(fā)板型號，常見的

2.1 打開CubeMX

2.2 安裝CUBE-AI 軟件包

打開菜單欄中的 Help，選擇 Embedded Software Packages Manager，然后在 STMicroelectronics 一欄中選擇 X-CUBE-AI 插件的最新版本，安裝好之后點(diǎn)擊右下角的 Close。

在工程中導(dǎo)入X-CUBE-AI插件：

會出現(xiàn)如下界面：

接下來選擇用于通信的串口，這里選擇串口 3，因為該串口被用于 STlink 的虛擬串口。

2.3 導(dǎo)入 AI 模型到工程中

將 AI 模型燒錄到開發(fā)板前，需要先分析 Model，檢查其是否可以被正常轉(zhuǎn)換為嵌入式工程，本次實驗使用的模型比較簡單，分析起來也也比較快，結(jié)果如下所示：

接下來我們要在開發(fā)板上驗證轉(zhuǎn)換后的嵌入式工程，在這個過程中 CubeMX AI 工具會根據(jù)你導(dǎo)入的 AI 模型，自動生成嵌入式工程，并且將編譯后的可執(zhí)行文件燒錄到開發(fā)板中，并通過 STlink 的虛擬串口驗證運(yùn)行的結(jié)果。我的系統(tǒng)是 Ubuntu，不支持 MDK，所以在這里選擇自動生成 STM32CubeIDE 工程。

驗證成功界面如下所示：

2.4 生成項目工程

上一步我們只是進(jìn)行了項目結(jié)果的驗證，但是并沒有生成項目源代碼，接下來我們將生成項目工程，如下圖所示：

生成后的 Project 文件夾樹如下所示：

1(base)#(07/03/20@10:51上午)(lebhoryi@RT-AI):~/RT-Thread/Edge_AI@master??? 2tree-L2./Project1 3./Project1 4├──DNN#CubeMX生成工程路徑 5│├──DNN.ioc#CubeMX類型文件 6│├──Drivers 7│├──Inc 8│├──Middlewares 9│├──network_generate_report.txt 10│├──Src 11│├──Startup 12│├──STM32CubeIDE 13│├──STM32H743ZITX_FLASH.ld 14│└──STM32H743ZITX_RAM.ld 15├──image#相關(guān)圖片保存文件夾 16│├──mymodel1.png#model 17│└──STM32H743.jpg#H743 18├──model#model保存路徑 19│└──keras_model.h5 20├──Readme.md 21├──tf2_linear_regression.ipynb 22└──tf2_線性回歸_擴(kuò)展.ipynb至此，神功練成了一大半，剩下的就是代碼調(diào)試的工作了。

3. 代碼調(diào)試

關(guān)于 STM32CubeIDE 的初步認(rèn)識：基礎(chǔ)說明與開發(fā)流程：https://blog.csdn.net/Naisu_kun/article/details/95935283

3.1 導(dǎo)入工程

選擇 File 選項 --> import：

選擇先前導(dǎo)出工程的路徑：

導(dǎo)入成功的界面如下所示：

接下來就可以使用 STM32Cube IDE 來調(diào)試生成的工程了。

3.2 生成 bin文件

在編譯的過程中還會自動生成相應(yīng)的 bin 文件，后續(xù)可以通過 stm32cubeProgramer 工具將 bin 文件燒錄到開發(fā)板中。

3.3 燒錄 .bin文件

打開STM32CubeProgramming，點(diǎn)擊右上角connect，然后選擇Open file，選擇要打開的.bin 文件。

燒錄成功的界面：

3.4 Other

在 ubuntu 系統(tǒng)中我們可以使用串口工具cutecom 來查看最終程序的運(yùn)行結(jié)果，程序運(yùn)行結(jié)果如下：

在使用 cutecom 連接串口前，記得斷開 STM32Programer 和開發(fā)板的連接，否則會出現(xiàn)串口打開錯誤的情況。

可以看到我們的 AI 模型已經(jīng)在開發(fā)板上歡快地跑了起來 ，奧里給?。?！