博弈中的一名玩家稱為生成器, 它的主要工作是生成樣本, 并盡量使得其看上去與訓練樣本一致.。另外一名玩家稱為判別器, 它的目的是準確判斷輸入樣本是否屬于真實的訓練樣本. 一個常見的比喻是將這兩個網(wǎng)絡想象成偽鈔制造者與警察. GAN的訓練過程類似于偽鈔制造者盡可能提高偽鈔制作水平以騙過警察, 而警察則不斷提高鑒別能力以識別偽鈔. 隨著GAN的不斷訓練, 偽鈔制作者與警察的能力都會不斷提高。

圖 1 生成式對抗網(wǎng)絡

相比以往的生成模型, GAN模型具有以下幾點明顯的優(yōu)勢: 一是數(shù)據(jù)生成的復雜度與維度線性相關, 對于較大維度的樣本生成, 僅需增加神經(jīng)網(wǎng)絡的輸出維度, 不會像傳統(tǒng)模型一樣面臨指數(shù)上升的計算量; 二是對數(shù)據(jù)的分布不做顯性的限制, 從而避免了人工設計模型分布的需要; 三是GAN生成的手寫數(shù)字, 人臉, CIFAR-10等樣本較VAE, PixelCNN等生成模型更為清晰.

圖 2 GAN與傳統(tǒng)方法的數(shù)據(jù)填補效果

圖 3 iGAN的生成樣例

GAN突出的生成能力不僅可用于生成各類圖像和自然語言數(shù)據(jù), 還啟發(fā)和推動了各類半監(jiān)督學習和無監(jiān)督學習任務的發(fā)展. 結合GAN, 研究者在數(shù)據(jù)填報, 圖像翻譯, 數(shù)據(jù)合成, 模仿學習等諸多方面取得了突破性的進展.

圖 4 圖對圖翻譯

圖 5 使用GAN合成數(shù)據(jù)訓練機械臂

然而, 原始GAN模型也存在許多問題, 包括收斂困難, 無法生成離散數(shù)據(jù), 難以評價等. 本文對GAN近年來的發(fā)展進行了綜述, 對GAN在生成機制, 判別機制兩方面的改進進行了介紹, 并梳理了其應用領域. 在此基礎上, 本文還探討了GAN與平行思想的關系.

圖 6 本文組織結構