隨著阿爾法狗、無(wú)人駕駛、智能翻譯的橫空出世，“人工智能”這個(gè)已經(jīng)存在60多年的詞語(yǔ)，仿佛一夜之間重新成為熱詞。同時(shí)被科技圈和企業(yè)界廣泛提及的還有“機(jī)器學(xué)習(xí)”“深度學(xué)習(xí)”“神經(jīng)網(wǎng)絡(luò)”…… 但事實(shí)是，如此喧囂熱烈的氣氛之下，大部分人對(duì)這一領(lǐng)域仍是一知半解。

如果要說(shuō)誰(shuí)有資格談?wù)撃壳罢谶M(jìn)行的“人工智能革命”，特倫斯·謝諾夫斯基（Terry Sejnowski）必然是其中一個(gè)。

在智能翻譯、無(wú)人駕駛、阿爾法狗、微軟小冰還被認(rèn)為是遠(yuǎn)在天邊的愿景時(shí)，謝諾夫斯基就已經(jīng)在為深度學(xué)習(xí)領(lǐng)域奠定基礎(chǔ)了。

特倫斯·謝諾夫斯基

謝諾夫斯基是20世紀(jì)80年代挑戰(zhàn)構(gòu)建人工智能主流方法的一小撮研究人員之一。他們認(rèn)為，受大腦生物學(xué)啟發(fā)的、那些被稱為“神經(jīng)網(wǎng)絡(luò)”“連接主義”和“并行分布處理”的AI實(shí)現(xiàn)方法，會(huì)最終解決困擾基于邏輯的AI研究的難題，從而提出了使用可以從數(shù)據(jù)中學(xué)習(xí)技能的數(shù)學(xué)模型。正是這一小群研究人員，證明了基于大腦式的計(jì)算的全新方法是可行的，從而為“深度學(xué)習(xí)”的發(fā)展奠定了基礎(chǔ)。

借由《深度學(xué)習(xí)：智能時(shí)代的核心驅(qū)動(dòng)力量》一書出版機(jī)會(huì)，美國(guó)科技媒體《The Verge》采訪了特倫斯·謝諾夫斯基，與他討論了“人工智能”“神經(jīng)網(wǎng)絡(luò)”“深度學(xué)習(xí)”“機(jī)器學(xué)習(xí)”究竟有何區(qū)別？為何“深度學(xué)習(xí)”突然變得無(wú)處不在，它能做什么？不能做什么？以下是采訪全文：

Q：首先，我想問(wèn)一下定義。人們幾乎可以互換地使用“人工智能”，“神經(jīng)網(wǎng)絡(luò)”，“深度學(xué)習(xí)”和“機(jī)器學(xué)習(xí)”等詞語(yǔ)。 但這些是不同的東西。你能解釋一下嗎？

特倫斯·謝諾夫斯基：人工智能可以追溯到1956年的美國(guó)，那時(shí)工程師們決定編寫一個(gè)試圖仿效智能的計(jì)算機(jī)程序。

在人工智能中，一個(gè)新領(lǐng)域成長(zhǎng)起來(lái)，稱為機(jī)器學(xué)習(xí)。不是編寫一個(gè)按部就班的程序來(lái)做某事——這是人工智能中的傳統(tǒng)方法——而是你收集了大量關(guān)于你試圖理解的事物的數(shù)據(jù)。例如，設(shè)想您正在嘗試識(shí)別對(duì)象，因此您可以收集大量它們的圖像。然后，通過(guò)機(jī)器學(xué)習(xí)，這是一個(gè)可以剖析各種特征的自動(dòng)化過(guò)程，就可以確定一個(gè)物體是汽車，而另一個(gè)是訂書機(jī)。

機(jī)器學(xué)習(xí)是一個(gè)非常大的領(lǐng)域，其歷史可以追溯到更久遠(yuǎn)的時(shí)期。最初，人們稱之為“模式識(shí)別”。后來(lái)算法在數(shù)學(xué)上變得更加廣泛和復(fù)雜。

在機(jī)器學(xué)習(xí)中有受大腦啟發(fā)的神經(jīng)網(wǎng)絡(luò)，然后是深度學(xué)習(xí)。深度學(xué)習(xí)算法具有特定的體系結(jié)構(gòu)，其中有許多層數(shù)據(jù)流經(jīng)的網(wǎng)絡(luò)。

基本上，深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一部分，機(jī)器學(xué)習(xí)是人工智能的一部分。

Q: 有什么“深度學(xué)習(xí)”能做而其他程序不能做的嗎？

特倫斯·謝諾夫斯基：編寫程序非常耗費(fèi)人力。在過(guò)去，計(jì)算機(jī)是如此之慢，內(nèi)存非常昂貴，以至于人們采用邏輯，也就是計(jì)算機(jī)的工作原理，來(lái)編寫程序。他們通過(guò)基礎(chǔ)機(jī)器語(yǔ)言來(lái)操縱信息。計(jì)算機(jī)太慢了，計(jì)算太貴了。

但現(xiàn)在，計(jì)算力越來(lái)越便宜，勞動(dòng)力也越來(lái)越昂貴。而且計(jì)算力變得如此便宜，以至于慢慢地，讓計(jì)算機(jī)學(xué)習(xí)會(huì)比讓人類編寫程序更有效。在那時(shí)，深度學(xué)習(xí)會(huì)開(kāi)始解決以前沒(méi)有人編寫過(guò)程序的問(wèn)題， 比如在計(jì)算機(jī)視覺(jué)和翻譯等領(lǐng)域。

機(jī)器學(xué)習(xí)是計(jì)算密集型的，但你只需編寫一個(gè)程序，通過(guò)給它不同的數(shù)據(jù)集，你可以解決不同的問(wèn)題。并且你不需要是領(lǐng)域?qū)＜摇Ｒ虼?，?duì)于存在大量數(shù)據(jù)的任何事物，都有對(duì)應(yīng)的大量應(yīng)用程序。

Q：“深度學(xué)習(xí)”現(xiàn)在似乎無(wú)處不在。 它是如何變得如此主導(dǎo)潮流？

特倫斯·謝諾夫斯基：我可以在歷史上精確地找到這一特定時(shí)刻：2012年12月在NIPS會(huì)議（這是最大的AI會(huì)議）上。在那里，計(jì)算機(jī)科學(xué)家Geoff Hinton和他的兩個(gè)研究生表明你可以使用一個(gè)名為ImageNet的非常大的數(shù)據(jù)集，包含10,000個(gè)類別和1000萬(wàn)個(gè)圖像，并使用深度學(xué)習(xí)將分類錯(cuò)誤減少20％。

通常，在該數(shù)據(jù)集上，錯(cuò)誤在一年內(nèi)減少不到1％。 在一年內(nèi)，20年的研究被跨越了。

這真的打開(kāi)了潮水的閘門。

Q：深度學(xué)習(xí)的靈感來(lái)自大腦。那么計(jì)算機(jī)科學(xué)和神經(jīng)科學(xué)這些領(lǐng)域如何協(xié)同工作呢？

特倫斯·謝諾夫斯基：深度學(xué)習(xí)的靈感來(lái)自神經(jīng)科學(xué)。最成功的深度學(xué)習(xí)網(wǎng)絡(luò)是由Yann LeCun開(kāi)發(fā)的卷積神經(jīng)網(wǎng)絡(luò)（CNN）。

如果你看一下CNN的架構(gòu)，它不僅僅是很多單元，它們以一種基本上鏡像大腦的方式連接起來(lái)。大腦中被研究的最好的一部分在視覺(jué)系統(tǒng)，在對(duì)視覺(jué)皮層的基礎(chǔ)研究工作中，表明那里存在簡(jiǎn)單和復(fù)雜細(xì)胞。如果你看一下CNN架構(gòu)，會(huì)發(fā)現(xiàn)有簡(jiǎn)單細(xì)胞和復(fù)雜細(xì)胞的等價(jià)物，這直接來(lái)自我們對(duì)視覺(jué)系統(tǒng)的理解。

Yann沒(méi)有盲目地試圖復(fù)制皮質(zhì)。他嘗試了許多不同的變種，但他最終收斂到的方式和那些自然收斂到的方式相同。這是一個(gè)重要的觀察。自然與人工智能的趨同可以教給我們很多東西，而且還有更多的東西要去探索。

Q：我們對(duì)計(jì)算機(jī)科學(xué)的理解有多少取決于我們對(duì)大腦的理解程度？

特倫斯·謝諾夫斯基：我們現(xiàn)在的大部分AI都是基于我們對(duì)大腦在60年代的了解。 我們現(xiàn)在知道的更多，并且更多的知識(shí)被融入到架構(gòu)中。

AlphaGo，這個(gè)擊敗圍棋冠軍的程序不僅包括皮質(zhì)模型，還包括大腦的一部分被稱為“基底神經(jīng)節(jié)”的模型，這對(duì)于制定一系列決策來(lái)實(shí)現(xiàn)目標(biāo)非常重要。 有一種稱為時(shí)間差分的算法，由Richard Sutton在80年代開(kāi)發(fā)，當(dāng)與深度學(xué)習(xí)相結(jié)合時(shí)，能夠進(jìn)行人類以前從未見(jiàn)過(guò)的非常復(fù)雜的玩法。

當(dāng)我們了解大腦的結(jié)構(gòu)，并且當(dāng)我們開(kāi)始了解如何將它們集成到人工系統(tǒng)中時(shí)，它將提供越來(lái)越多的功能，超越我們現(xiàn)在所擁有的。

Q：人工智能也會(huì)影響神經(jīng)科學(xué)嗎？

特倫斯·謝諾夫斯基：它們是并行的工作。 創(chuàng)新神經(jīng)技術(shù)已經(jīng)取得了巨大的進(jìn)步，從一次記錄一個(gè)神經(jīng)元到同時(shí)記錄數(shù)千個(gè)神經(jīng)元，并且同時(shí)涉及大腦的許多部分，這完全開(kāi)辟了一個(gè)全新的世界。

我說(shuō)人工智能與人類智能之間存在著一種趨同。 隨著我們?cè)絹?lái)越多地了解大腦如何工作，這些認(rèn)識(shí)將反映到AI中。 但與此同時(shí)，他們實(shí)際上創(chuàng)造了一整套學(xué)習(xí)理論，可用于理解大腦，讓我們分析成千上萬(wàn)的神經(jīng)元以及他們的活動(dòng)是如何產(chǎn)生的。 所以神經(jīng)科學(xué)和人工智能之間存在這種反饋循環(huán)，我認(rèn)為這更令人興奮和重要。

Q：你的書討論了許多不同的深度學(xué)習(xí)應(yīng)用，從自動(dòng)駕駛汽車到金融交易。你覺(jué)得哪個(gè)特定領(lǐng)域最有趣？

特倫斯·謝諾夫斯基：我完全被震撼到的一個(gè)應(yīng)用是生成對(duì)抗網(wǎng)絡(luò)，或稱GANS。使用傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)，你給出一個(gè)輸入，你得到一個(gè)輸出。 GAN能夠在沒(méi)有輸入的情況下開(kāi)展活動(dòng) - 產(chǎn)生輸出。

是的，我在這些網(wǎng)絡(luò)創(chuàng)建假視頻的故事背景下聽(tīng)說(shuō)過(guò)這個(gè)。他們真的會(huì)產(chǎn)生看似真實(shí)的新事物，對(duì)吧？

從某種意義上說(shuō)，它們會(huì)產(chǎn)生內(nèi)部活動(dòng)。事實(shí)證明這是大腦運(yùn)作的方式。你可以看某處并看到一些東西，然后你可以閉上眼睛，你可以開(kāi)始想象出那里沒(méi)有的東西。你有一個(gè)視覺(jué)想象，當(dāng)周圍安靜時(shí)，你鬧鐘聲會(huì)浮現(xiàn)想法。那是因?yàn)槟愕拇竽X是生成性的?，F(xiàn)在，這種新型網(wǎng)絡(luò)可以生成從未存在過(guò)的新模式。所以你可以給它，例如，數(shù)百?gòu)埰噲D像，它會(huì)創(chuàng)建一個(gè)內(nèi)部結(jié)構(gòu)，可以生成從未存在的汽車的新圖像，并且它們看起來(lái)完全像汽車。

Q：另一方面，您認(rèn)為哪些想法可能是過(guò)度炒作？

特倫斯·謝諾夫斯基：沒(méi)有人可以預(yù)測(cè)或想象這種新技術(shù)的引入會(huì)對(duì)未來(lái)的事物組織方式產(chǎn)生什么影響。當(dāng)然這其中有炒作。我們還沒(méi)有解決真正困難的問(wèn)題。我們還沒(méi)有通用智能，就有人說(shuō)機(jī)器人將不久后會(huì)取代我們，其實(shí)機(jī)器人遠(yuǎn)遠(yuǎn)落后于人工智能，因?yàn)閺?fù)制身體被發(fā)現(xiàn)比復(fù)制大腦更復(fù)雜。

讓我們看一下這一種技術(shù)進(jìn)步：激光。它是在大約50年前發(fā)明的，當(dāng)時(shí)占據(jù)了整個(gè)房間。從占據(jù)整個(gè)房間到我現(xiàn)在演講時(shí)使用的激光筆需要50年的技術(shù)商業(yè)化。它必須被推進(jìn)到體積足夠小并可以用五美元購(gòu)買它的程度。同樣的事情將發(fā)生在像自動(dòng)駕駛汽車這樣的被炒作的技術(shù)上。它并不被期望在明年或者未來(lái)10年，就變得無(wú)處不在。這過(guò)程可能需要花費(fèi)50年，但重點(diǎn)是，在此過(guò)程中會(huì)有逐步推進(jìn)，使它越來(lái)越靈活，更安全，更兼容我們組織運(yùn)輸網(wǎng)絡(luò)的方式。炒作的錯(cuò)誤在于人們的時(shí)標(biāo)設(shè)定錯(cuò)了。他們期待太多事情太快發(fā)生，其實(shí)事物只在適當(dāng)?shù)臅r(shí)候。

為幫助讀者更好地理解《深度學(xué)習(xí)：智能時(shí)代的核心驅(qū)動(dòng)力量》一書， 我們聯(lián)合中信出版集團(tuán)，特別為大家請(qǐng)到了微軟（中國(guó)）CTO韋青老師權(quán)威領(lǐng)讀《深度學(xué)習(xí)》，分享2019年人工智能的新商業(yè)機(jī)會(huì)，以及個(gè)人做好準(zhǔn)備、迎接AI時(shí)代的方法。直播限時(shí)免費(fèi)，手慢無(wú)！

識(shí)別海報(bào)，點(diǎn)擊右上角“我的邀請(qǐng)卡”，即可生成專屬海報(bào)，邀請(qǐng)朋友共同學(xué)習(xí)。邀請(qǐng)榜前3名的聽(tīng)眾將獲得價(jià)值88元、特倫斯·謝諾夫斯基親筆簽名《深度學(xué)習(xí)：智能時(shí)代的核心驅(qū)動(dòng)力量》1本。