2 IIoT中應(yīng)用DL需要考慮的因素

深度學(xué)習(xí)最近在IIoT應(yīng)用中取得了成功，主要歸功于更強大的硬件計算能力、龐大的標(biāo)記訓(xùn)練數(shù)據(jù)庫、學(xué)習(xí)算法和網(wǎng)絡(luò)初始化的突破性進(jìn)展以及開源軟件框架的可用性。

以下是使用此技術(shù)設(shè)計系統(tǒng)的一些主要考慮因素。

拓?fù)浣Y(jié)構(gòu)-深度學(xué)習(xí)是一個不斷發(fā)展的領(lǐng)域，目前有許多網(wǎng)絡(luò)拓?fù)湟呀?jīng)得到應(yīng)用［1］。 接下來將討論其中一些有望用于控制和監(jiān)測IIoT應(yīng)用的網(wǎng)絡(luò)。

· 完全連接的深度神經(jīng)網(wǎng)絡(luò)通過許多隱藏層完全連接人工神經(jīng)網(wǎng)絡(luò)（因此稱為深度神經(jīng)）。 這些網(wǎng)絡(luò)都是出色的函數(shù)逼近器，比如，可以用于電力電子控制的應(yīng)用。 如果要使用深層網(wǎng)絡(luò)來構(gòu)建控制器，可以使用要控制的系統(tǒng)的仿真模型來生成訓(xùn)練數(shù)據(jù)。 借此，您可以探索使用傳統(tǒng)方法通常難以控制的狀態(tài)（邊界/轉(zhuǎn)角條件）。

· 卷積神經(jīng)網(wǎng)絡(luò)設(shè)計為可利用輸入圖像或語音信號等輸入信號的二維結(jié)構(gòu)。 卷積網(wǎng)絡(luò)由一個或多個卷積層（濾波層）組成，隨后是完全連接的多層神經(jīng)網(wǎng)絡(luò)。 這些網(wǎng)絡(luò)可成功檢測圖像中的缺陷以及識別對象， 現(xiàn)已應(yīng)用到先進(jìn)駕駛員輔助系統(tǒng)中的場景理解。

· 遞歸神經(jīng)網(wǎng)絡(luò)（RNN）采用的是基于順序（或歷史）信息進(jìn)行預(yù)測的算法。 這些網(wǎng)絡(luò)適用于時間序列分析。 傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)假定所有的輸入（和輸出）在時間或到達(dá)順序上是相互獨立的。 RNN記錄的是狀態(tài)信息，能夠存儲關(guān)于過去的信息，并使用當(dāng)前已計算的信息進(jìn)行下一個預(yù)測。 在IIoT應(yīng)用中，RNN有助于學(xué)習(xí)歷史行為，并根據(jù)歷史行為來預(yù)測未來事件，如資產(chǎn)的剩余使用壽命（RUL）。 長短期記憶（LSTM）網(wǎng)絡(luò)非常適用于這類應(yīng)用。［2］

· 深度強化學(xué)習(xí)（DRL）適用于設(shè)計在復(fù)雜動態(tài)環(huán)境中運行的自適應(yīng)控制系統(tǒng)。 比如控制倉庫操作機器人，這些機器人必須動態(tài)適應(yīng)新任務(wù)。 以強化學(xué)習(xí)為基礎(chǔ)的控制器通過執(zhí)行任務(wù)后所獲得的獎勵來一步步完成目標(biāo)。 例如，控制器接收顯示機器人手臂當(dāng)前位置的攝像機圖像，并通過圖像中的信息學(xué)習(xí)如何將手臂移近目標(biāo)。［3］ 基于DL的控制器可以使用機器人模擬器或通過觀察操作中的機器人來進(jìn)行訓(xùn)練。

圖6 用于機器人控制應(yīng)用的深度強化學(xué)習(xí)

訓(xùn)練 - 深度神經(jīng)網(wǎng)絡(luò)需要大量的訓(xùn)練數(shù)據(jù)，最好包括網(wǎng)絡(luò)要學(xué)習(xí)的所有不同狀態(tài)或條件的數(shù)據(jù)。 對于大多數(shù)應(yīng)用來說，可用的數(shù)據(jù)主要來自系統(tǒng)的正常工作狀態(tài)，僅對其他狀態(tài)的數(shù)據(jù)進(jìn)行少量的采樣。 數(shù)據(jù)增強技術(shù)可改善數(shù)據(jù)中的這一不平衡性，您可以從已有的少量樣本為基礎(chǔ)，通過轉(zhuǎn)換數(shù)據(jù)創(chuàng)建更多合成版本。 您也可以使用系統(tǒng)的仿真模型來創(chuàng)建訓(xùn)練數(shù)據(jù)。 另一個挑戰(zhàn)是要采集訓(xùn)練這些網(wǎng)絡(luò)所需的龐大數(shù)據(jù)非常困難。 遷移學(xué)習(xí)可以解決這個問題。 借助遷移學(xué)習(xí)，您可以以一個預(yù)先訓(xùn)練的神經(jīng)網(wǎng)絡(luò)為起點（大多數(shù)DL軟件框架提供了經(jīng)過完全訓(xùn)練的模型，而且可供下載），并使用應(yīng)用程序中的數(shù)據(jù)對其進(jìn)行微調(diào)。

硬件—訓(xùn)練深度網(wǎng)絡(luò)對處理性能的要求非常高。 GPU已經(jīng)成為訓(xùn)練深度網(wǎng)絡(luò)的主要選擇。 由于高計算性能、大內(nèi)存、高內(nèi)存帶寬和多種編程工具選擇，GPU成為最受歡迎的選擇，而且?guī)缀醭蔀樯疃染W(wǎng)絡(luò)訓(xùn)練的必需技術(shù)。 此外，FPGA是部署經(jīng)過訓(xùn)練的網(wǎng)絡(luò)的理想終端選擇。 FPGA提供了更低的延遲、更高的功效以及更高的確定性，尤其適用于在嵌入式設(shè)備上部署這些網(wǎng)絡(luò)，適用于與I/O進(jìn)行緊密循環(huán)操作的控制系統(tǒng)。

軟件 - 深度學(xué)習(xí)之所以能夠快速得到應(yīng)用并獲得成功的一個原因是有成熟的軟件框架。 一些常見的框架包括TensorFlow、Caffe、Keras和CNTK。［4］［5］［6］［7］ 這些框架支持Windows和Linux等不同的操作系統(tǒng)，以及Python和C ++等語言。 這些框架中的大多數(shù)還可支持實現(xiàn)最新的DL網(wǎng)絡(luò)或提供相關(guān)的示例， 而且還支持在GPU上學(xué)習(xí)。

3結(jié)論

深度學(xué)習(xí)是人工智能一個激動人心的新方向，有望能夠解決工業(yè)控制設(shè)計應(yīng)用的下一代問題。 深度學(xué)習(xí)的一個快速入門方法是下載上面提到的開源框架，并使用教程示例動手進(jìn)行操作實踐。 從與您應(yīng)用程序類似的示例開始，并使用遷移學(xué)習(xí)快速運行。