早期的機器學(xué)習(xí)以搜索為基礎(chǔ)，主要依靠進行過一定優(yōu)化的暴力方法。但是隨著機器學(xué)習(xí)逐漸成熟，它開始專注于加速技術(shù)已經(jīng)很成熟的統(tǒng)計方法和優(yōu)化問題。同時深度學(xué)習(xí)的問世更是帶來原本可能無法實現(xiàn)的優(yōu)化方法。本文將介紹現(xiàn)代機器學(xué)習(xí)如何找到兼顧規(guī)模和速度的新方法。

AI領(lǐng)域的轉(zhuǎn)變

在本系列的第1部分中，我們探討了AI的一些歷史，以及從Lisp到現(xiàn)代編程語言以及深度學(xué)習(xí)等新型計算智能范式的歷程。我們還討論了人工智能的早期應(yīng)用，它們依賴于經(jīng)過優(yōu)化的搜索形式、在海量數(shù)據(jù)集上進行訓(xùn)練的現(xiàn)代神經(jīng)網(wǎng)絡(luò)架構(gòu)，同時解決了十年前還被認為不可能的難題。然而目前仍有兩大難題有待解決，即：如何進一步加速這些應(yīng)用，以及將它們限制在智能手機這樣的功耗優(yōu)化環(huán)境中。

今天，深度學(xué)習(xí)成為了多數(shù)加速技術(shù)的重點研究對象。深度學(xué)習(xí)是一種神經(jīng)網(wǎng)絡(luò)架構(gòu)，它依賴于多層神經(jīng)網(wǎng)絡(luò)，其中的每一層都可以支持不同的功能以進行特征檢測。這些深層神經(jīng)網(wǎng)絡(luò)依賴于可方便運用并行計算的矢量運算， 并為神經(jīng)網(wǎng)絡(luò)層分布式計算以及同層諸多神經(jīng)元并行計算創(chuàng)造了條件。

通過GPU加速機器學(xué)習(xí)

圖形處理單元（GPU）最初并不是用于加速深度學(xué)習(xí)應(yīng)用。GPU是一種特殊的設(shè)備，用于加速輸出到顯示設(shè)備的幀緩沖區(qū)（內(nèi)存）的構(gòu)建。它將渲染后的圖像存入幀緩沖區(qū)，而不是依靠處理器來完成。GPU由數(shù)以千計的獨立內(nèi)核組成，它們并行運行并執(zhí)行矢量運算等特定類型的計算。盡管最初GPU專為視頻應(yīng)用而設(shè)計，但人們發(fā)現(xiàn)它們也可以加速矩陣乘法等科學(xué)計算。

開發(fā)人員既可以借助于GPU供應(yīng)商提供的API將GPU處理功能集成到應(yīng)用中，也可以采用適用于諸多不同環(huán)境的標準軟件包方式。R編程語言和編程環(huán)境包含與GPU協(xié)同工作來加快處理速度的軟件包，例如gputools、gmatrix和gpuR。GPU也可以通過numba軟件包或Theano等各種庫借助于Python進行編程。

通過這些軟件包，任何有意將GPU加速應(yīng)用于機器學(xué)習(xí)的人都可以達成愿望。但是工程師們還在研究更專門的方法。2019年，英特爾?以20億美元的價格收購了Habana Labs， 一家致力于為服務(wù)器中的機器學(xué)習(xí)加速器開發(fā)定制芯片的公司。此外，英特爾還于2017年以150億美元收購了自動駕駛芯片技術(shù)企業(yè)Mobileye。

定制芯片和指令

除了服務(wù)器和臺式機中的GPU加速之外，用于機器學(xué)習(xí)的加速器正在試圖超越傳統(tǒng)平臺，進軍功耗受限的嵌入式設(shè)備和智能手機。這些加速器形式多樣，包括U盤、API、智能手機神經(jīng)網(wǎng)絡(luò)加速器以及用于深度學(xué)習(xí)加速的矢量指令等。

適用于智能手機的深度學(xué)習(xí)

深度學(xué)習(xí)工具包已經(jīng)從PC端延伸到智能手機，可為存在更多限制的網(wǎng)絡(luò)提供支持。TensorFlow Lite和Core ML等框架已經(jīng)部署在用于機器學(xué)習(xí)應(yīng)用的移動設(shè)備上。Apple?最近發(fā)布了A12 Bionic芯片，這款芯片包括一個8核神經(jīng)網(wǎng)絡(luò)引擎，用于開發(fā)更加節(jié)能的神經(jīng)網(wǎng)絡(luò)應(yīng)用， 從而擴展Apple智能手機上的深度學(xué)習(xí)應(yīng)用。

Google發(fā)布了適用于Android? 8.1并具有機器學(xué)習(xí)功能的神經(jīng)網(wǎng)絡(luò)API (NNAPI)， 目前已應(yīng)用于Google Lens自然語言處理和圖像識別背景下的Google Assistant。NNAPI與其他深度學(xué)習(xí)工具包相似，但它是針對Android智能手機環(huán)境及其資源限制而構(gòu)建的。

深度學(xué)習(xí)USB

英特爾發(fā)布了其新版神經(jīng)計算棒，以U盤的形式加速深度學(xué)習(xí)應(yīng)用。TensorFlow、Caffe和PyTorch等眾多機器學(xué)習(xí)框架都可以使用它。當沒有GPU可用時，這將是一個不錯的選擇，同時還可以快速構(gòu)建深度學(xué)習(xí)應(yīng)用原型。

深度學(xué)習(xí)指令

最后，在機器學(xué)習(xí)計算從CPU轉(zhuǎn)移到GPU的同時，英特爾使用新的指令優(yōu)化了其Xeon指令集，來加速深度學(xué)習(xí)。這些被稱為AVX-512擴展的新指令（所謂的矢量神經(jīng)網(wǎng)絡(luò)指令或VNNi）提高了卷積神經(jīng)網(wǎng)絡(luò)運算的處理量。

總結(jié)

GPU在機器學(xué)習(xí)中的應(yīng)用實現(xiàn)了在眾多應(yīng)用中構(gòu)建和部署大規(guī)模深度神經(jīng)網(wǎng)絡(luò)的能力。機器學(xué)習(xí)框架使構(gòu)建深度學(xué)習(xí)應(yīng)用變得簡單。智能手機供應(yīng)商也不甘人后，為受到諸多限制的應(yīng)用集成了高能效的神經(jīng)網(wǎng)絡(luò)加速器（以及用于定制應(yīng)用的API現(xiàn)在市面上還有其他可轉(zhuǎn)移到USB硬件上的加速器，許多新的初創(chuàng)公司也在加大加速器領(lǐng)域的投入，為未來機器學(xué)習(xí)應(yīng)用做準備。

審核編輯：何安