現(xiàn)代深度學(xué)習(xí)架構(gòu)一直被描述為一個(gè)黑匣子：被輸入數(shù)據(jù)，并期望從中得到一些結(jié)果。然而，由于此類(lèi)架構(gòu)存在許多的復(fù)雜性，過(guò)程中發(fā)生的事情，通常難以解釋和分析。這已發(fā)展成為整個(gè)社會(huì)未能廣泛接受深度學(xué)習(xí)的主要原因之一，尤其是對(duì)于關(guān)鍵任務(wù)應(yīng)用程序。

因此，“黑匣子”的解體已成為機(jī)器學(xué)習(xí)研究人員的一個(gè)重大開(kāi)放問(wèn)題，并且是該領(lǐng)域當(dāng)前感興趣的問(wèn)題之一，這一研究領(lǐng)域通常被稱(chēng)為機(jī)器學(xué)習(xí)架構(gòu)的“可解釋性”。在本文中，我們將討論可解釋性研究中的一個(gè)重要主題，即解耦問(wèn)題。

Disentangled

Sequential VAE

光的解耦（Ddisentangled）

我們舉個(gè)常見(jiàn)的例子：在日常生活中，太陽(yáng)光看起來(lái)是白色的，但是如果我們讓陽(yáng)光通過(guò)三棱鏡，就會(huì)發(fā)現(xiàn)陽(yáng)光分別折射出多種色彩。這說(shuō)明白光其實(shí)是多種顏色混合的體現(xiàn)，而我們可以通過(guò)三棱鏡把它分解成基本七種顏色，其中包括紅、綠、藍(lán)三原色。

我們繼續(xù)聊聊白光：在廣泛意義上說(shuō)光是由RGB三種顏色組成的。這也就定義了光的解耦過(guò)程：光可以分離成R、G、B三種顏色，同時(shí)我們也可以用這三種顏色，進(jìn)行不同程度的疊加，產(chǎn)生豐富而廣泛的顏色。

計(jì)算機(jī)定義顏色時(shí)R、G、 B三種成分的取值范圍是0-255，0表示沒(méi)有刺激量，255表示刺激量達(dá)最大值。R、G、B均為255時(shí)就合成了白光，R、G、B均為0時(shí)就形成了黑色。在這個(gè)區(qū)間范圍內(nèi)，我們可以通過(guò)任意的數(shù)值組合構(gòu)造出無(wú)數(shù)種不同的顏色，讓我們的生活充滿色彩。

白光和解耦又有什么關(guān)系呢？那關(guān)系就大了！我們下面簡(jiǎn)單聊一下一種深度學(xué)習(xí)模型——變分自編碼器模型（VAE：variational autoencoder），然后用它來(lái)解釋解耦。

什么是VAE？

什么是VAE呢？那要先從AE開(kāi)始說(shuō)起了。

AE（Autoencoder）

上圖由兩個(gè)部分組成，第一個(gè)部分是編碼器（Encoder），第二部分是解碼器（Decoder），圖片經(jīng)過(guò)編碼器得到一個(gè)潛在的編碼（code），編碼再通過(guò)解碼器還原輸入的圖片，因此得到的編碼就是圖片在一個(gè)潛在空間的表示。而編碼器和解碼器就是由神經(jīng)網(wǎng)絡(luò)組成的。圖中例子就是希望能夠生成一張一樣的圖片。

VAE （Variational Autoencoder）

變分編碼器是自動(dòng)編碼器的升級(jí)版本，其結(jié)構(gòu)跟自動(dòng)編碼器相似，也由編碼器和解碼器構(gòu)成。在AE中，輸入一個(gè)圖片得到一個(gè)的編碼（code），但這個(gè)編碼是一個(gè)固定的編碼，使得模型沒(méi)有很好的泛化功能。所以VAE引入了一種新的方式有效解決了上述的問(wèn)題，就是將編碼問(wèn)題變成一個(gè)分布問(wèn)題，具體操作是在AE的基礎(chǔ)上增加一個(gè)限制，迫使編碼器得到的編碼（code）能夠粗略地遵循一個(gè)標(biāo)準(zhǔn)正態(tài)分布，這就是其與一般的自動(dòng)編碼器最大的不同。

這樣我們生成一張新圖片就很簡(jiǎn)單了，我們只需要給它一個(gè)標(biāo)準(zhǔn)正態(tài)分布的隨機(jī)隱含向量，這樣通過(guò)解碼器就能夠生成我們想要的圖片，而不需要給它一張?jiān)紙D片先進(jìn)行編碼。

VAE的演變?cè)黾恿四Ｐ偷姆夯?，以上圖VAE的過(guò)程為例，當(dāng)輸入的圖片是貓時(shí)，通過(guò)貓的特征來(lái)生成新的圖片，VAE的好處就在于當(dāng)輸入的圖片不是完整的圖片時(shí)（訓(xùn)練集外），它依舊可以還原成原來(lái)的樣子。

在深度學(xué)習(xí)中，不管是什么樣的模型，數(shù)據(jù)都很重要，而VAE的好處就在于 ：

它可以通過(guò)編碼和解碼的過(guò)程，通過(guò)抽樣，生成新的數(shù)據(jù)。這樣對(duì)于機(jī)器學(xué)習(xí)就有了更多的數(shù)據(jù)支撐從而得到更好的模型效果。

VAE在中間層會(huì)得到一個(gè)編碼（code），也就是一個(gè)語(yǔ)義層，我們可以通過(guò)對(duì)于這個(gè)語(yǔ)義的理解，從而達(dá)到圖片的分類(lèi)、變換的效果。

如果我們類(lèi)比光的解耦（將光分離成R、G、B三種顏色），VAE（Variational Autoencoder）就可以理解成是深度學(xué)習(xí)框架的三棱鏡。

這是為什么呢？我們先給一個(gè)淺顯的技術(shù)介紹，然后再回來(lái)聊顏色分離。

VAE是一種深度學(xué)習(xí)框架，更具體來(lái)說(shuō)，它是一種生成模型。生成模型的操作很簡(jiǎn)單：它可以讀取數(shù)據(jù)（多為圖片），抽取數(shù)據(jù)的特征，然后自動(dòng)生成有這些特征的新數(shù)據(jù)。我們這里關(guān)心的是提取特征這個(gè)環(huán)節(jié)。大多生成模型的特征提取模式，便是經(jīng)過(guò)所謂的“潛在變量”（latent variables）來(lái)編碼提取到的特征。

這里的一個(gè)明顯的問(wèn)題便是：我們?cè)趺磁袛嗾綌?shù)據(jù)里的某一個(gè)特征對(duì)應(yīng)的是哪個(gè)語(yǔ)義變量？我們可以回到類(lèi)比成顏色分離和生成的過(guò)程，將一種顏色先編碼（encoder）成R，G，B，再通過(guò)解碼（decoder）形成一種顏色。

Disentangled Sequential VAE

隨著對(duì)VAE的研究，越來(lái)越多的研究重點(diǎn)就放在了如何在VAE的基礎(chǔ)上做到disentangled的過(guò)程。以下簡(jiǎn)單介紹一下深蘭科學(xué)院對(duì)于該項(xiàng)目的研究?jī)?nèi)容：對(duì)于時(shí)序的數(shù)據(jù)解耦出其數(shù)據(jù)的動(dòng)態(tài)信息和靜態(tài)信息，并理解靜態(tài)信息和動(dòng)態(tài)信息的語(yǔ)義，后續(xù)團(tuán)隊(duì)的目標(biāo)也是基于當(dāng)前的項(xiàng)目，進(jìn)行這個(gè)主流方向的基礎(chǔ)研究。

本項(xiàng)目采用的數(shù)據(jù)是Sprites，這是個(gè)具有時(shí)序性的數(shù)據(jù)。小精靈有著不同的顏色和動(dòng)作，團(tuán)隊(duì)的任務(wù)就是通過(guò)這些小精靈的圖片，解耦出小精靈的動(dòng)態(tài)信息（小精靈的動(dòng)作）和靜態(tài)信息（小精靈的顏色）。通過(guò)深度學(xué)習(xí)來(lái)獲得小精靈動(dòng)靜態(tài)信息的語(yǔ)義，并理解這語(yǔ)義從而生成新的小精靈。

如下圖所示，通過(guò)深度學(xué)習(xí)得到小精靈的動(dòng)態(tài)信息和靜態(tài)信息，并改變他們的值的生成效果（上排是原始數(shù)據(jù)，下排是生成數(shù)據(jù)）。

1. 改變靜態(tài)信息（顏色）

2.改變動(dòng)態(tài)信息

對(duì)于VAE時(shí)序性解耦的工作可以更容易地說(shuō)明神經(jīng)網(wǎng)絡(luò)的可解釋性，這樣的任務(wù)不僅可以對(duì)神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)研究作出貢獻(xiàn)，還可以應(yīng)用到很多人工智能的項(xiàng)目中，例如對(duì)圖像視頻的處理；動(dòng)靜的解耦可以實(shí)現(xiàn)換臉等效果；在自然語(yǔ)言處理中，可以改變聲音的種類(lèi)等。

編輯：jq