一、無監(jiān)督學(xué)習(xí)的重要性

　　AI 技術(shù)的飛速進(jìn)步很大程度上是由于深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)領(lǐng)域的突破，還得益于大型數(shù)據(jù)庫的建立和更快的 GPU。我們現(xiàn)在已有了圖像識別能力可與人類相比的 AI 系統(tǒng) （例如下文中 Facebook 的識別系統(tǒng)）。這會導(dǎo)致自動化交通，醫(yī)療圖像解析在內(nèi)的多個領(lǐng)域的革命。但這些系統(tǒng)現(xiàn)在用的都是監(jiān)督學(xué)習(xí)（supervised learning），輸入的數(shù)據(jù)被人為加上標(biāo)簽。

　　接下來的挑戰(zhàn)在于，怎么讓機器從未經(jīng)處理的、無標(biāo)簽無類別的數(shù)據(jù)中進(jìn)行學(xué)習(xí)，比方說視頻和文字。而這就是無監(jiān)督學(xué)習(xí)（unsupervised learning）。

　　二、神經(jīng)網(wǎng)絡(luò)的規(guī)模越大越好

　　傳統(tǒng)的思想認(rèn)為，如果你沒有大量的數(shù)據(jù)，神經(jīng)網(wǎng)絡(luò)應(yīng)該控制在較小的規(guī)模。Yann LeCun 指出這完全是錯誤的。他的團隊在數(shù)據(jù)不變的情況下擴展了神經(jīng)網(wǎng)絡(luò)，得到了更好的結(jié)果。他說，神經(jīng)網(wǎng)絡(luò)越大，效果就越好（當(dāng)然前提是數(shù)據(jù)庫大小達(dá)到了臨界值）。至于為什么會這樣，目前仍是一個謎，相關(guān)理論研究正在開展。

　　三、卷積神經(jīng)網(wǎng)絡(luò)在識別領(lǐng)域的廣闊前景

　　Yann LeCun 特別強調(diào)了卷積神經(jīng)網(wǎng)絡(luò)的重要性和應(yīng)用：”我們很早就認(rèn)識到，卷積神經(jīng)網(wǎng)絡(luò)可以被用來處理多種任務(wù)——不單單是識別單個物體（比如字母數(shù)字），還可以識別多個物體，同時進(jìn)行物體識別、分組和解釋。比方說，可以用卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練 AI 系統(tǒng)識別并標(biāo)注（攝像頭所拍攝）圖像中的每一個像素，以此分析前方路徑是否可通過。在英偉達(dá)最近的自動駕駛項目中，他們就使用了卷積神經(jīng)網(wǎng)絡(luò)來訓(xùn)練自動駕駛系統(tǒng)。系統(tǒng)分析攝像頭提供的圖像，據(jù)此模仿人類的轉(zhuǎn)向角度?！?/p>

　　他還介紹了卷積神經(jīng)網(wǎng)絡(luò)在 Facebook 圖像識別系統(tǒng)中的應(yīng)用?！坝辛怂?，F(xiàn)acebook 的系統(tǒng)不僅能識別圖像，還能繪制出圖像的輪廓，并根據(jù)輪廓影像對物體進(jìn)行分類。該系統(tǒng)甚至可以挑出中國菜里面的西蘭花（如下圖）?！?/p>

　　下面是對同一幅圖像識別前后的對比：

　　Yann LeCun 表示這是一個巨大的進(jìn)步，如果你在幾年前問一個 AI 專家：”我們什么時候才能做到這樣？”，答案會是“不清楚”。

　　“ 想讓 AI 技術(shù)繼續(xù)進(jìn)步，我們就必須要讓機器能夠分析、推理、記憶，把現(xiàn)象和文字轉(zhuǎn)化為運行知識?！?/p>

　　他接著作出預(yù)測，下一個將會十分流行的技術(shù)是記憶增強神經(jīng)網(wǎng)絡(luò)。它可被理解為用記憶增強的遞歸神經(jīng)網(wǎng)絡(luò)，其中，記憶本身是一個能被區(qū)分的回路，并可以作為學(xué)習(xí)中的一部分用于訓(xùn)練。Yann LeCun 接下來對該技術(shù)進(jìn)行了深入探討，這里不贅述，詳情請見視頻。

　　四、強化學(xué)習(xí)、監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)的數(shù)據(jù)要求

　　進(jìn)行強化學(xué)習(xí)、監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)的所需數(shù)據(jù)規(guī)模相差數(shù)個數(shù)量級。強化學(xué)習(xí)每次驗證（trial）所需的信息可能只有幾比特，監(jiān)督學(xué)習(xí)是十到一萬比特的信息量，而無監(jiān)督學(xué)習(xí)則需要數(shù)百萬比特。所以，Yann LeCun 做了一個比喻：假設(shè)機器學(xué)習(xí)是一個蛋糕，強化學(xué)習(xí)是蛋糕上的一粒櫻桃，監(jiān)督學(xué)習(xí)是外面的一層糖衣，無監(jiān)督學(xué)習(xí)則是蛋糕糕體。無監(jiān)督學(xué)習(xí)的重要性不言而喻。為了讓強化學(xué)習(xí)奏效，也離不開無監(jiān)督學(xué)習(xí)的支持。

　　五、用模擬機制提高強機器學(xué)習(xí)的效率

　　當(dāng)下的主要問題是，AI 系統(tǒng)沒有“常識”。人類和動物通過觀察世界、行動和理解自然規(guī)律來獲得常識，機器也需要學(xué)會這么做。包括 Yann LeCun 在內(nèi)的許多專家，把無監(jiān)督學(xué)習(xí)作為賦予機器常識的關(guān)鍵，該過程如下：

　　AI 系統(tǒng)由兩部分組成：代理和目標(biāo)（agent and objective）。代理做出行動，觀察該行動對現(xiàn)實的影響產(chǎn)生認(rèn)知，然后再通過該認(rèn)知來預(yù)測現(xiàn)實情況。代理進(jìn)行這一系列活動的動機來自于實現(xiàn)目標(biāo)，而最終的目的則是：以最高的效率達(dá)到該目標(biāo)。在強化學(xué)習(xí)中，對代理行為的獎勵（reward）來自于外部，無監(jiān)督學(xué)習(xí)的獎勵則來自內(nèi)部（對接近該目標(biāo)的滿意）。

　　但這個過程存在一個很大的問題：代理進(jìn)行無監(jiān)督學(xué)習(xí)的方法是在現(xiàn)實生活中進(jìn)行各種嘗試，這存在危險并且效率很低。比如，無人駕駛車不能嘗試所有可能的駕駛方法，會帶來安全隱患。這種嘗試又受到時間的限制，不能像計算機程序那樣每秒運行數(shù)千次。所以，Yann LeCun 解釋道，為了提高機器學(xué)習(xí)的效率，我們需要基于模型的強化學(xué)習(xí)（model based reinforcement learning ）。它由三部分組成：現(xiàn)實模擬器（world simulator），行動器（actor）和反饋裝置（critic）?，F(xiàn)實模擬器對現(xiàn)實情況進(jìn)行模擬，行動器生成行動預(yù)案（action proposals），然后反饋裝置對該行動的效果進(jìn)行預(yù)測。這樣，AI 系統(tǒng)就可以對行動反復(fù)推演，進(jìn)行優(yōu)化，而不受到現(xiàn)實中時間和成本的限制。