編者按：DRDO研究人員Ayoosh Kathuria深入淺出地介紹了牛頓法、動量法、RMSProp、Adam優(yōu)化算法。

本系列的上一篇文章介紹了隨機(jī)梯度下降，以及如何應(yīng)對陷入局部極小值或鞍點的問題。在這篇文章中，我們將查看另一個困擾神經(jīng)網(wǎng)絡(luò)訓(xùn)練的問題，病態(tài)曲率。

局部極小值和鞍點會使訓(xùn)練停滯，而病態(tài)曲率則會減慢訓(xùn)練速度，以至于機(jī)器學(xué)習(xí)從業(yè)者可能會覺得搜索收斂到了一個次優(yōu)極小值。讓我們深入了解下什么是病態(tài)曲率。

病態(tài)曲率

考慮下面的損失曲面。

如你所見，我們從隨機(jī)點開始，漸漸進(jìn)入藍(lán)色的溝壑區(qū)。（顏色表示損失函數(shù)在特定點的值是高是低，紅色表示高值，藍(lán)色表示低值。）

在到達(dá)最小值之前，我們需要首先穿過溝壑區(qū)，也就是病態(tài)曲率。讓我們放大一下這一區(qū)域，看看為什么稱病態(tài)？

紅線為梯度下降的路徑；藍(lán)線為理想路徑

如上圖所示，梯度下降在溝壑區(qū)的脊間反復(fù)振蕩，極其緩慢地向最小值處移動。這是因為w1方向要陡峭得多。

考慮下圖中A點的梯度，可以分解為w1、w2方向的兩個分量。w1方向的梯度要大很多，因此梯度的方向大為偏向w1，而不是w2（但w2才是能夠更快到達(dá)最小值處的梯度方向）。

通常情況下，我們使用低學(xué)習(xí)率來應(yīng)對這樣的反復(fù)振蕩，但在病態(tài)曲率區(qū)域使用低學(xué)習(xí)率，可能要花很多時間才能達(dá)到最小值處。事實上，有論文報告，防止反復(fù)振蕩的足夠小的學(xué)習(xí)率，也許會導(dǎo)致從業(yè)者相信損失完全沒有改善，干脆放棄訓(xùn)練。

大概，我們需要找到一種方法，首先緩慢地進(jìn)入病態(tài)曲率的平坦底部，然后加速往最小值方向移動。二階導(dǎo)數(shù)可以幫助我們做到這一點。

牛頓法

梯度下降是一階優(yōu)化方法。它只考慮損失函數(shù)的一階導(dǎo)數(shù)，不考慮高階函數(shù)?；旧线@意味著它對損失函數(shù)的曲率一無所知。梯度下降可以告訴我們損失是否下降，下降得有多快，但無法區(qū)分曲線的的彎曲程度。

上圖三條曲線，紅點處的梯度都是一樣的，但曲率大不一樣。解決方案？考慮二階導(dǎo)數(shù)，或者說梯度改變得有多快。

使用二階導(dǎo)數(shù)解決這一問題的一個非常流行的技術(shù)是牛頓法（Newton's Method）。為了避免偏離本文的主題，我不會過多探究牛頓法的數(shù)學(xué)。相反，我將嘗試構(gòu)建牛頓法的直覺。

牛頓法可以提供向梯度方向移動的理想步幅。由于我們現(xiàn)在具備了損失曲面的曲率信息，步幅可以據(jù)此確定，避免越過病態(tài)曲率的底部。

牛頓法通過計算Hessian矩陣做到這一點。Hessian矩陣是損失函數(shù)在所有權(quán)重組合上的二階導(dǎo)數(shù)的矩陣。

Hessian提供了損失曲面每一點上的曲率估計。正曲率意味著隨著我們的移動，損失曲面變得不那么陡峭了。負(fù)曲率則意味著，損失曲面變得越來越陡峭了。

注意，如果這一步的計算結(jié)果是負(fù)的，那就意味著我們可以切換回原本的算法。這對應(yīng)于下面梯度變得越來越陡峭的情形。

然而，如果梯度變得越來越不陡峭，那么我們也許正向病態(tài)曲率的底部移動。這時牛頓算法提供了一個修正過的學(xué)習(xí)步幅，和曲率成反比。換句話說，如果損失曲面變得不那么陡峭，學(xué)習(xí)步幅就下降。

為何我們不常使用牛頓法？

你已經(jīng)看到公式中的Hessian矩陣了。Hessian矩陣需要我們計算損失函數(shù)在所有權(quán)重組合上的梯度。也就是說，需要做的計算的數(shù)量級是神經(jīng)網(wǎng)絡(luò)所有權(quán)重數(shù)量的平方。

現(xiàn)代神經(jīng)網(wǎng)絡(luò)架構(gòu)的參數(shù)量可能是數(shù)億，計算數(shù)億的平方的梯度在算力上不可行。

雖然高階優(yōu)化方法在算力上不太可行，但二階優(yōu)化關(guān)于納入梯度自身如何改變的想法是可以借鑒的。雖然我們無法準(zhǔn)確計算這一信息，但我們可以基于之前梯度的信息使用啟發(fā)式算法引導(dǎo)優(yōu)化過程。

動量

搭配SGD使用的一個非常流行的技術(shù)是動量（Momentum）。動量法不僅使用當(dāng)前的梯度，同時還利用之前的梯度提供的信息。

上面的第一個等式就是動量，動量等式由兩部分組成，第一項是上一次迭代的動量，乘以“動量系數(shù)”。

比如，假設(shè)我們將初始動量v設(shè)為0，系數(shù)定為0.9，那么后續(xù)的更新等式為：

我們看到，后續(xù)的更新保留了之前的梯度，但最近的梯度權(quán)重更高。（致喜歡數(shù)學(xué)的讀者，這是梯度的指數(shù)平均。）

下面我們來看看動量法如何幫助我們緩解病態(tài)曲率的問題。下圖中，大多數(shù)梯度更新發(fā)生在之字形方向上，我們將每次更新分解為w1和w2方向上的兩個分量。如果我們分別累加這些梯度的兩個分量，那么w1方向上的分量將互相抵消，而w2方向上的分量得到了加強。

也就是說，基于動量法的更新，積累了w2方向上的分量，清空了w1方向上的分量，從而幫助我們更快地通往最小值。從這個意義上說，動量法也有助于抑制振蕩。

動量法同時提供了加速度，從而加快收斂。但你可能想要搭配模擬退火，以免跳過最小值。

在實踐中，動量系數(shù)一般初始化為0.5，并在多個epoch后逐漸退火至0.9.

RMSProp

RMSProp，也就是均方根傳播的歷史很有趣。它是傳奇人物Geoffrey Hinton在Coursera授課時初次提出的。

RMSProp也試圖抑制振蕩，但采取的方法和動量不同。此外，RMSProp可以自動調(diào)整學(xué)習(xí)率。還有，RMSProp為每個參數(shù)選定不同的學(xué)習(xí)率。

在第一個等式中，類似之前的動量法，我們計算了梯度平方的指數(shù)平均。由于我們?yōu)槊總€參數(shù)單獨計算，這里的梯度gt表示正更新的參數(shù)上的梯度投影。

第二個等式根據(jù)指數(shù)平均決定步幅大小。我們選定一個初始學(xué)習(xí)率η，接著除以平均數(shù)。在我們上面舉的例子中，w1的梯度指數(shù)平均比w2大得多，所以w1的學(xué)習(xí)步幅比w2小得多。這就幫助我們避免了脊間振蕩，更快地向最小值移動。

第三個等式不過是權(quán)重更新步驟。

上面的等式中，超參數(shù)ρ一般定為0.9，但你可能需要加以調(diào)整。等式2中的ε是為了確保除數(shù)不為零，一般定為1e-10.

注意RMSProp隱式地應(yīng)用了模擬退火。在向最小值移動的過程中，RMSProp會自動降低學(xué)習(xí)步幅，以免跳過最小值。

Adam

Adam，即Adaptive Moment Optimization算法結(jié)合了動量和RMSProp的啟發(fā)式算法。

這里，我們計算了梯度的指數(shù)平均和梯度平方的指數(shù)平均（等式1和等式2）。為了得出學(xué)習(xí)步幅，等式3在學(xué)習(xí)率上乘以梯度的平均（類似動量），除以梯度平方平均的均方根（類似RMSProp）。等式4是權(quán)重更新步驟。

超參數(shù)β1一般取0.9，β2一般取0.99. ε一般定為1e-10.

結(jié)語

本文介紹了三種應(yīng)對病態(tài)曲率同時加速訓(xùn)練過程的梯度下降方法。

在這三種方法之中，也許動量法用得更普遍，盡管從論文上看Adam更吸引人。經(jīng)驗表明這三種算法都能收斂到給定損失曲面的不同的最優(yōu)局部極小值。然而，動量法看起來要比Adam更容易找到比較平坦的最小值，而自適應(yīng)方法（自動調(diào)整學(xué)習(xí)率）傾向于迅速地收斂于較尖的最小值。比較平坦的最小值概括性更好。

盡管這些方法有助于我們馴服深度網(wǎng)絡(luò)難以控制的損失平面，隨著網(wǎng)絡(luò)日益變深，它們開始變得不夠用了。除了選擇更好的優(yōu)化方法，有相當(dāng)多的研究試圖尋找能夠生成更平滑的損失曲面的架構(gòu)。批量歸一化（Batch Normalization）和殘差連接（Residual Connections）正是這方面的兩個例子。我們會在后續(xù)的文章中詳細(xì)介紹它們。但這篇文章就到此為止了