中搜網(wǎng)絡(luò)董事長(zhǎng)、總裁陳沛，是著名人工智能專家、中國(guó)計(jì)算機(jī)協(xié)會(huì)常務(wù)理事、第三代搜索主設(shè)計(jì)師，也是北京圍棋業(yè)余冠軍。

各位朋友大家晚上好，我是陳沛。今晚為大家分享的主題是《機(jī)器會(huì)否統(tǒng)治人類？從人機(jī)大戰(zhàn)看人工智能的崛起》。

我們都知道，2017年的人機(jī)大戰(zhàn)已開(kāi)幕，柯潔和AlphaGo比賽的第一局，我們也都已經(jīng)看到了結(jié)果，是AlphaGo1/4子贏了柯潔。其實(shí)1/4子在圍棋上是最小的一個(gè)輸贏單位，沒(méi)有更小的勝負(fù)差別，但比賽在我看來(lái)其實(shí)是一面倒的。實(shí)際上AlphaGo一直占據(jù)著優(yōu)勢(shì)，雖然柯潔在官子階段步步緊逼，竭盡全力，但是最后還是輸?shù)袅吮荣悺?/p>

在這之前，媒體問(wèn)我“柯潔勝算幾何？”，我很抱歉地預(yù)測(cè)說(shuō)“柯潔三戰(zhàn)皆負(fù)”。今天這是第一盤(pán)，我們還有機(jī)會(huì)看第二盤(pán)和第三盤(pán)。但這個(gè)比賽本身是非常有意思的，在我看來(lái)它已經(jīng)超出了圍棋的范疇，它不是一個(gè)簡(jiǎn)單的圍棋比賽，而是人類和我們?nèi)祟愒斐鰜?lái)的機(jī)器之間的競(jìng)爭(zhēng)，只不過(guò)這個(gè)競(jìng)爭(zhēng)是在一個(gè)非常獨(dú)特的領(lǐng)域就是圍棋中展開(kāi)的。

由我來(lái)分享這個(gè)主題，我個(gè)人覺(jué)得是挺合適的。因?yàn)槲冶救藦牧邭q開(kāi)始學(xué)圍棋，拿過(guò)浙大的圍棋冠軍，也拿過(guò)總參謀部的冠軍，還拿過(guò)北京市業(yè)余圍棋的冠軍，所以我對(duì)圍棋有自己的一些理解，應(yīng)該說(shuō)在業(yè)余里下的比較好的人了。另一方面我也做過(guò)很多人工智能的項(xiàng)目，包括專家系統(tǒng)，特別是我自己還寫(xiě)過(guò)一個(gè)五子棋博奕程序，把人的知識(shí)用計(jì)算機(jī)語(yǔ)言的方式去表達(dá)和使用，然后再和人類進(jìn)行比賽。所以AlphaGo和柯潔的大戰(zhàn)引起世界的關(guān)注，也引起了我的個(gè)人興趣，我覺(jué)得通過(guò)這件事情，我們可以更好的來(lái)看看人工智能的崛起。

復(fù)盤(pán)幾次“人機(jī)大戰(zhàn)”

人工智能是時(shí)下熱點(diǎn)，也成為了刷屏的關(guān)健詞。其實(shí)機(jī)器和圍棋的比賽并不是第一次發(fā)生，在很早就有這種機(jī)器和人對(duì)戰(zhàn)的圍棋軟件，每年甚至有計(jì)算機(jī)的圍棋比賽，但是都沒(méi)有像現(xiàn)在這樣引起轟動(dòng)。我覺(jué)得最大的一個(gè)原因是人工智能的崛起帶來(lái)了圍棋軟件的大幅度提升，開(kāi)始挑戰(zhàn)人類的頂尖高手。

1997年，IBM的深藍(lán)戰(zhàn)勝過(guò)人類的國(guó)際象棋冠軍卡斯帕羅夫，應(yīng)該說(shuō)機(jī)器挑戰(zhàn)了人類的棋類游戲，并且戰(zhàn)勝了人類頂尖高手，但是那時(shí)候并沒(méi)有特別大地引起整個(gè)人類的轟動(dòng)和關(guān)注。當(dāng)時(shí)是IBM的一個(gè)小型機(jī)IS6000和人類的世界冠軍卡斯帕羅夫的對(duì)弈，這個(gè)比賽確實(shí)使用了機(jī)器，但是并沒(méi)有大量采用人工智能技術(shù)，更多的采用了一些硬件加速，暴力計(jì)算的方式，戰(zhàn)勝了人類的冠軍。而象棋和國(guó)際象棋在變化量的數(shù)量級(jí)上比圍棋差了很多，以至于機(jī)器通過(guò)自己強(qiáng)力的運(yùn)算就有機(jī)會(huì)戰(zhàn)勝人類的世界冠軍。

這次不同，這次挑戰(zhàn)的是圍棋，圍棋變化的復(fù)雜量，有人形容說(shuō)它是原子的個(gè)數(shù)總和，大概是120位以上的數(shù)字，變化極其復(fù)雜，復(fù)雜到我們?nèi)祟悘膩?lái)也不能夠算清楚，未來(lái)也不可能算清楚。過(guò)分的復(fù)雜以至于機(jī)器也算不清楚，因此在圍棋中我們必須使用一些分析、判斷、決策等人類特定的智慧，而不是機(jī)器的運(yùn)算能力。

很多人開(kāi)始說(shuō)：“機(jī)器能算那么快，人當(dāng)然下不過(guò)他了。”其實(shí)機(jī)器雖然算得比較快，但并不是完全靠計(jì)算來(lái)戰(zhàn)勝人類的。它有自己的神經(jīng)網(wǎng)絡(luò)，有自己的深度學(xué)習(xí)，它把人類當(dāng)成老師，然后不斷的學(xué)習(xí)和提高，包括左右互搏。這個(gè)過(guò)程中機(jī)器積累了人類對(duì)圍棋大量的知識(shí)，這時(shí)候它才能真正戰(zhàn)勝人類。所以這次AlphaGo戰(zhàn)勝人類具有里程碑式的意義，它可能在人類所有的智力游戲上占到了一個(gè)制高點(diǎn)上，以至于下完這次比賽以后，可能人類已經(jīng)沒(méi)有機(jī)會(huì)再去挑戰(zhàn)機(jī)器，按柯潔的話說(shuō)：“這是我和機(jī)器下的最后三盤(pán)棋”。

當(dāng)年IBM的IS6000，就是“更深的藍(lán)”，戰(zhàn)勝了卡斯帕羅夫的第二天就宣布退役了。換句話說(shuō)，“如果我現(xiàn)在能贏了你，你以后再也沒(méi)有機(jī)會(huì)贏我了，再跟你下沒(méi)有意義，所以不跟你們玩了?！边@次為什么跟柯潔還有機(jī)會(huì)做一次這樣的人機(jī)大戰(zhàn)呢？是因?yàn)槿ツ?月份的時(shí)候，AlphaGo和李世石進(jìn)行了第一次“人機(jī)大戰(zhàn)”，那場(chǎng)比賽機(jī)器4：1戰(zhàn)勝了人類，而李世石在第四盤(pán)的時(shí)候下出了所謂“神之一手”，打亂了整個(gè)機(jī)器的系統(tǒng)，后面的邏輯產(chǎn)生了紊亂，我本人是現(xiàn)場(chǎng)參與解說(shuō)的，我發(fā)現(xiàn)機(jī)器在這個(gè)過(guò)程中犯了一些非常規(guī)的錯(cuò)誤，應(yīng)該不是知識(shí)也不是能力。

從棋的內(nèi)容上來(lái)說(shuō)，去年的比賽機(jī)器確實(shí)比人類頂尖高手像李世石這樣的人下得更好，但是好的依然非常有限。我們?nèi)祟惪赡懿惶猓骸澳汶m然贏了我，我也沒(méi)有覺(jué)得你有多厲害”。特別比賽剛開(kāi)始的時(shí)候，人類一邊倒的認(rèn)為機(jī)器下棋下不過(guò)人類，包括我本人也誤判了，但是事實(shí)上機(jī)器在上次的比賽中已經(jīng)戰(zhàn)勝了人類的代表李世石。

李世石榮獲了人類的14個(gè)世界冠軍，應(yīng)該統(tǒng)治了人類棋手十年的歷史，代表人類也是當(dāng)之無(wú)愧的，但是客觀來(lái)說(shuō)他已經(jīng)過(guò)了自己的巔峰期，不是最佳的競(jìng)技狀態(tài)，所以不一定能夠代表人類現(xiàn)在最高的圍棋水平。而柯潔是現(xiàn)在的世界第一，所以安排現(xiàn)在人類的世界第一和AlphaGo再進(jìn)行一次比賽，依然具有挑戰(zhàn)的意義，只不過(guò)這次挑戰(zhàn)看起來(lái)不像是機(jī)器挑戰(zhàn)人類，更像是人類挑戰(zhàn)機(jī)器。

除圍棋領(lǐng)域，前不久也有“冷撲大師”和人類進(jìn)行了德州撲克比賽，后來(lái)也戰(zhàn)勝了人類。其實(shí)更早一些的時(shí)候，實(shí)際上IBM的深藍(lán)戰(zhàn)勝卡斯帕羅夫以后，沒(méi)有繼續(xù)在圍棋上去研究，而是去參加了人類的一些知識(shí)競(jìng)賽的比賽，那個(gè)系統(tǒng)叫沃森，后來(lái)也戰(zhàn)勝了人類知識(shí)問(wèn)答的冠軍，所以機(jī)器是在不同的場(chǎng)合，以不同的方式挑戰(zhàn)人類的智慧。

AlphaGo是怎樣與人類比賽的？

有很多人來(lái)問(wèn)我AlphaGo到底是怎么下棋的。AlphaGo應(yīng)用了哪些技術(shù)呢？

云計(jì)算

跟大家想的一樣，它確實(shí)要鎖定在計(jì)算，這次的AlphaGo我不知道情況是什么，但上一次跟李世石的比賽，AlphaGo動(dòng)用了2000臺(tái)的服務(wù)器，同時(shí)進(jìn)行運(yùn)算，應(yīng)該說(shuō)它使用的云計(jì)算技術(shù)，集中了相當(dāng)一部分通過(guò)網(wǎng)絡(luò)連接起來(lái)的計(jì)算資源。比較而言的話，如果只用一臺(tái)服務(wù)器做運(yùn)算需要一秒鐘的話，2000臺(tái)的話就可以大大降低它每次判斷的時(shí)間，甚至使整個(gè)比賽得以進(jìn)行，所以利用云計(jì)算谷歌應(yīng)該可以動(dòng)用大量的服務(wù)器，不光2000臺(tái)，需要兩萬(wàn)臺(tái)的時(shí)候也可以，所以現(xiàn)在應(yīng)該是用兩千臺(tái)服務(wù)器同時(shí)進(jìn)行運(yùn)算參與這樣的頂級(jí)比賽。

大數(shù)據(jù)

應(yīng)該說(shuō)AlphaGo的上一個(gè)版本是1.0版本，它大量錄入了人類頂尖棋手的圍棋棋譜，可以說(shuō)它繼承和學(xué)習(xí)了人類圍棋史上可以學(xué)習(xí)的圍棋知識(shí)，然后通過(guò)深度學(xué)習(xí)的方式，變成它能夠理解的知識(shí)，然后應(yīng)用到它自己的實(shí)戰(zhàn)當(dāng)中，所以很顯然這也是一個(gè)大數(shù)據(jù)的成果。

當(dāng)然很多人可能不一定都會(huì)下圍棋，很多人也不是都是懂得人工智能的。所以AlphaGo實(shí)際上是有一套非常好的人工智能技術(shù)來(lái)適應(yīng)圍棋的比賽，簡(jiǎn)單說(shuō)有兩個(gè)網(wǎng)絡(luò)——一個(gè)是價(jià)值評(píng)判的網(wǎng)絡(luò)，一個(gè)是搜索的網(wǎng)絡(luò)，然后找到每次決策它認(rèn)為最好的一個(gè)點(diǎn)，這個(gè)點(diǎn)是以勝利最高的點(diǎn)作為決策的依據(jù)。

我們可以這樣簡(jiǎn)單理解AlphaGo怎么去跟人下棋的。當(dāng)柯潔下了一步棋的時(shí)候，它會(huì)在所有可能的選點(diǎn)中作出一個(gè)基礎(chǔ)的判斷，判斷哪些棋可能是應(yīng)該思考的，但是什么樣的棋應(yīng)該思考的呢？它可能需要搜索的方法去驗(yàn)證，比如說(shuō)，如果這個(gè)點(diǎn)是人類棋手經(jīng)常使用的，或者是這次可能采用它自己學(xué)習(xí)系統(tǒng)來(lái)產(chǎn)生的一個(gè)重要的推薦點(diǎn)，根據(jù)這個(gè)推薦點(diǎn)會(huì)引發(fā)一系列的演變，而這些演變通過(guò)門(mén)特卡羅的搜索數(shù)不斷的去驗(yàn)證，雙方相當(dāng)于是左右互博的方式，雙方都按照對(duì)方最好的應(yīng)對(duì)，去演變下面的一些變化。當(dāng)這些變化演變到一定的步數(shù)之后，比如說(shuō)20步、25步這樣的步數(shù)的時(shí)候，它要對(duì)結(jié)果進(jìn)行評(píng)判，然后把結(jié)果反饋。

據(jù)說(shuō)AlphaGo1.0版本的時(shí)候，它的學(xué)習(xí)過(guò)程是把人類的大量棋譜作為主要的依據(jù)。就是人類在這樣的情況下，選擇什么樣的點(diǎn)進(jìn)行思考和判斷，進(jìn)行去搜索和推演。這次AlphaGo2.0它實(shí)際上不再使用人類已有的棋譜，而是通過(guò)兩臺(tái)AlphaGo互相博奕互相學(xué)習(xí)的方式來(lái)產(chǎn)生知識(shí)推薦點(diǎn)，我覺(jué)得這個(gè)過(guò)程是很容易理解的。因?yàn)樵缙贏lphaGo完全不具有人類的知識(shí)，所以他需要大量的棋譜。那么等它經(jīng)過(guò)1.0的比賽以后，它本身已經(jīng)成為人類的頂尖高手了，所以兩臺(tái)AlphaGo自己的相互博奕就可以作為推薦的依據(jù)了，所以很可能這次采用的是它用自己方式來(lái)生產(chǎn)的圍棋知識(shí)。

人工智能因何崛起？

人工智能其實(shí)已經(jīng)有了60年的歷史，人工智能的所有從業(yè)者都在不斷嘗試，讓機(jī)器學(xué)會(huì)人類的思考方式，代替人類的一些工作，包括代替人類的一些思考。這個(gè)過(guò)程應(yīng)該說(shuō)既有興奮的時(shí)候也有沮喪的時(shí)候，所謂的興奮就是我們今天能看到人工智能的突破給我們點(diǎn)燃一個(gè)希望，但也經(jīng)常會(huì)發(fā)現(xiàn)，將它大規(guī)模應(yīng)用來(lái)代替人類依然還有很遠(yuǎn)的距離。這個(gè)情況恰恰最近幾年發(fā)生了很大的改變，我們看到它不光作為全球的熱點(diǎn)不斷地被提及，大量的企業(yè)也在投入資源進(jìn)入人工智能領(lǐng)域，而人工智能也在綻放出很多令人吃驚的成果。

我覺(jué)得人工智能在這段時(shí)間變成人類關(guān)注的熱點(diǎn)，不是偶然的。我個(gè)人歸結(jié)了一些重要原因：

互聯(lián)網(wǎng)的誕生

互聯(lián)網(wǎng)本身的誕生使我們有機(jī)會(huì)把整個(gè)人類的計(jì)算能力，存儲(chǔ)能力通過(guò)互聯(lián)網(wǎng)聯(lián)結(jié)在一起，這個(gè)過(guò)程使人類具有了更強(qiáng)大的能力。所以隨著互聯(lián)網(wǎng)誕生，我們有了云計(jì)算的技術(shù)，我們有了大數(shù)據(jù)，有了物聯(lián)網(wǎng)，還有一些新的基于互聯(lián)網(wǎng)成果的各種各樣的技術(shù)和能力，這些能力大大的推動(dòng)了人工智能的發(fā)展。

生物醫(yī)學(xué)的發(fā)展

生物醫(yī)學(xué)的發(fā)展，使我們對(duì)人類大腦有了更多的了解，我們知道一個(gè)大腦可能有非常多的神經(jīng)元組成，好像有一千億這么巨大的數(shù)字，每個(gè)神經(jīng)元之間可能還有八千到一萬(wàn)的相互連接，用這樣的方式來(lái)互通信息，處理信息，使大腦產(chǎn)生了一個(gè)的加工信息，分析問(wèn)題，然后做出決策判斷的能力。

而這次AlphaGo使用最主要的技術(shù)是來(lái)自于神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)，這些都是最新的人工智能成果，它們以最大的限度推動(dòng)了人工智能的最近一輪發(fā)展。當(dāng)然像這樣的神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)的技術(shù)其實(shí)可以用在很多領(lǐng)域中，所謂的圍棋它不過(guò)是一個(gè)嘗試，如果說(shuō)這次AlphaGo戰(zhàn)勝了人類的世界冠軍柯潔，也許它未來(lái)并不一定是在圍棋上繼續(xù)下很多功夫，而去開(kāi)始挑戰(zhàn)其他的領(lǐng)域。

人工智能崛起，人該高興嗎？

去年我做圍棋解說(shuō)的時(shí)候，有很多人就在關(guān)心人機(jī)關(guān)系。后來(lái)和很多青年學(xué)生做了一個(gè)對(duì)話，也談到這些有趣的話題，這其實(shí)都超出了圍棋本身。一次我和學(xué)生現(xiàn)場(chǎng)對(duì)話，我說(shuō)“會(huì)下圍棋的舉個(gè)手”，基本上沒(méi)有人舉手，所以說(shuō)關(guān)心人機(jī)大戰(zhàn)的并不僅僅是圍棋的愛(ài)好者，幾乎都是我們普通人都把它當(dāng)成興趣點(diǎn)，當(dāng)成重要的知識(shí)在學(xué)習(xí)和吸收它。

通過(guò)這次人機(jī)大戰(zhàn)，使我們對(duì)人工智能有進(jìn)一步的思考，我覺(jué)得這是個(gè)挺有意義的事情。我記得上次分享的話題就是我們?nèi)祟愓娴妮斄藛幔慨?dāng)然不是，因?yàn)槲覀內(nèi)祟惖穆殬I(yè)棋手們可能輸?shù)袅吮荣?，但是?duì)另一部分人類精英創(chuàng)造的人工智能恰恰是一次成功的里程碑?？傊@都是人類的成功。

我更愿意把機(jī)器看成是我們?nèi)祟惖膬鹤踊蛘呤侨祟惖膶W(xué)生。以AlphaGo為例，它是由很多工程師和科技精英們制造出來(lái)的，它應(yīng)該是我們的兒子。它大量的圍棋知識(shí)都是向我們?nèi)祟悓W(xué)習(xí)來(lái)得到的，所以它也是我們學(xué)生，這樣的定義可能更容易理解一點(diǎn)，也更容易接受。

我想比賽幾天以后就會(huì)結(jié)束，但是關(guān)于人工智能的話題將會(huì)繼續(xù)持續(xù)，關(guān)于人工智能與人類的未來(lái)的思考將繼續(xù)。

人工智能到底能為我們做什么？按照我的想法是，我們?nèi)祟惪梢园炎羁唷⒆罾酆筒辉敢飧傻幕疃冀唤o它干。但另外一方面它的能力正在提升，它可能會(huì)做一些思考性的問(wèn)題，比如說(shuō)下圍棋，以前的機(jī)器是不足以跟人類下圍棋的，現(xiàn)在它可以陪你下棋了，甚至你可以向它學(xué)習(xí)，所以它開(kāi)始挑戰(zhàn)人類更富有智力的一些項(xiàng)目。這個(gè)影響可能是非常大的，人類很多可能更需要智力、分析、判斷、解決問(wèn)題的事情，它也能幫我們一些，據(jù)說(shuō)有的機(jī)器人已經(jīng)試著像記者一樣寫(xiě)新聞稿了，還有自動(dòng)駕駛、無(wú)人機(jī)……只要能夠在這些領(lǐng)域中達(dá)到人類的水平，就可以替代我們?nèi)祟惖墓ぷ?，這會(huì)使我們大量的精力放在更富有創(chuàng)造性上的領(lǐng)域中。

在非常富有創(chuàng)造性的領(lǐng)域，其實(shí)現(xiàn)在人工智能也開(kāi)始在挑戰(zhàn)我們?nèi)祟?，或者在嘗試挑戰(zhàn)人類的能力。有一些人正在嘗試用人工智能的技術(shù)來(lái)做音樂(lè)，有一些機(jī)構(gòu)正在研究怎么讓機(jī)器去畫(huà)畫(huà)，還有一些機(jī)器在做人類咨詢性的工作，它能夠回答一些可能相對(duì)來(lái)說(shuō)不需要特別深度思考的一些問(wèn)題，來(lái)代替我們一些低等的咨詢服務(wù)?？赡軄?lái)自于法律或者來(lái)自于其他的專業(yè)性知識(shí)的，這些知識(shí)應(yīng)該說(shuō)更多的出現(xiàn)在整個(gè)互聯(lián)網(wǎng)上。而未來(lái)它也會(huì)代替很多具有淺度知識(shí)的那種職業(yè)。

有些機(jī)器人正在研究怎樣去選股票，怎樣去撮合交易?？梢韵胂瘢谶@么復(fù)雜的世界中，當(dāng)我們擁有大量數(shù)據(jù)的時(shí)候，我們是不是可以在大數(shù)據(jù)上面分析出哪支股票會(huì)漲，哪支股票會(huì)跌？影響它的因素確實(shí)非常多，除了我們經(jīng)常聽(tīng)到技術(shù)的K線圖，包括宏觀的政策或者融入一些心理學(xué)的知識(shí)，這些復(fù)雜的知識(shí)體系進(jìn)入到?jīng)Q策過(guò)程的時(shí)候，機(jī)器也許未來(lái)比人類做得更好。

要是這么說(shuō)的話，我們?nèi)祟悓?shí)際上應(yīng)該是高興還是不高興呢？高興的是我們很多工作可能會(huì)逐步被機(jī)器所替代，它確實(shí)可以降低我們?nèi)祟悇趧?dòng)的強(qiáng)度，使我們可以能夠把這個(gè)精力騰出來(lái)，干什么呢？我們可以喝喝茶，聊聊天，下下棋之類的，把其他很多工作交給它們。但另一方面它似乎開(kāi)始威脅了我們?nèi)祟愐徊糠秩后w，它會(huì)代替我們一部分工作。從我剛才舉的例子來(lái)說(shuō)，這種代替甚至是可能超出我們現(xiàn)在的理解和想象。無(wú)論你是藍(lán)領(lǐng)、白領(lǐng)，甚至是金領(lǐng)都有可能被替代。

為什么上一次AlphaGo和人類的挑戰(zhàn)的過(guò)程中，職業(yè)圍棋界對(duì)它有很多擔(dān)憂，特別希望我們?nèi)祟惸軌蜈A下來(lái)呢？我想今天我們可能會(huì)用更開(kāi)放的心態(tài)來(lái)看待人工智能的崛起，這次即使柯潔輸給了AlphaGo，他引起的這種對(duì)輸贏的轟動(dòng)可能是小的，甚至是對(duì)圍棋未來(lái)發(fā)展的擔(dān)憂也沒(méi)有那么大。因?yàn)閾?jù)說(shuō)去年人機(jī)大戰(zhàn)以后，整個(gè)圍棋在全世界得到更大的普及，很多人開(kāi)始買一個(gè)圍棋來(lái)學(xué)習(xí)這種東方的智慧。當(dāng)然，未來(lái)我們?nèi)祟愐部赡軙?huì)像AlphaGo們學(xué)習(xí)關(guān)于圍棋的知識(shí)，使我們?cè)絹?lái)越接近所謂“圍棋的上帝”。

那么在另一部分領(lǐng)域中可能就不這么樂(lè)觀了，假如說(shuō)人工智能能夠做很多無(wú)人駕駛這樣的工作，像司機(jī)這樣的職業(yè)會(huì)不會(huì)受到挑戰(zhàn)呢？如果我們現(xiàn)在去打一個(gè)車，很可能周邊一輛沒(méi)有一個(gè)人的車就直接開(kāi)到了我們身邊，將我們帶到了目的地，這個(gè)可能嗎？當(dāng)然可能。所以從這個(gè)角度來(lái)說(shuō)，人工智能幫助人類的同時(shí)，也可能給我們部分人群形成了一定的挑戰(zhàn)和威脅，這是客觀存在的。據(jù)說(shuō)很多機(jī)器人開(kāi)始進(jìn)入很多的生產(chǎn)車間，因?yàn)槭侨说膭趧?dòng)成本正在提升，那這樣的話機(jī)器人可能從整體上來(lái)說(shuō)會(huì)降低生產(chǎn)成本提高生產(chǎn)效率。

關(guān)于人工智能更大的挑戰(zhàn)還在于，我們?nèi)祟愂欠衲軌蚝芎玫目刂七@個(gè)機(jī)器，機(jī)器會(huì)有一天擺脫我們?nèi)祟惖目刂?，甚至反過(guò)來(lái)控制我們?nèi)祟悊?？這才是一個(gè)更有意義的，有前瞻性的話題。我們知道像霍金這樣很著名的企業(yè)家，包括馬思克他們都提到要謹(jǐn)慎開(kāi)發(fā)人工智能的能力包括要對(duì)它進(jìn)行駕馭和管控，實(shí)際上都意識(shí)到人工智能一旦失控對(duì)人類的威脅。

也有人說(shuō)這可能是杞人憂天，空穴來(lái)風(fēng)。我個(gè)人倒不這么認(rèn)為，我認(rèn)為這個(gè)挑戰(zhàn)是現(xiàn)實(shí)存在的。有人說(shuō)如果機(jī)器人不聽(tīng)話的話我就拔他的電源，這聽(tīng)起來(lái)是我們?nèi)祟惡芎玫乜梢钥刂扑?，?dāng)然理性一點(diǎn)的說(shuō)法是機(jī)器人所有程序都是我們寫(xiě)出來(lái)的，它應(yīng)該都聽(tīng)我們的。但是實(shí)際上，有很多因素可能導(dǎo)致我們對(duì)機(jī)器人然后失去管控。

為什么上一次AlphaGo和人類的挑戰(zhàn)的過(guò)程中，職業(yè)圍棋界對(duì)它有很多擔(dān)憂，特別希望我們?nèi)祟惸軌蜈A下來(lái)呢？我想今天我們可能會(huì)用更開(kāi)放的心態(tài)來(lái)看待人工智能的崛起，這次即使柯潔輸給了AlphaGo，他引起的這種對(duì)輸贏的轟動(dòng)可能是小的，甚至是對(duì)圍棋未來(lái)發(fā)展的擔(dān)憂也沒(méi)有那么大。因?yàn)閾?jù)說(shuō)去年人機(jī)大戰(zhàn)以后，整個(gè)圍棋在全世界得到更大的普及，很多人開(kāi)始買一個(gè)圍棋來(lái)學(xué)習(xí)這種東方的智慧。當(dāng)然，未來(lái)我們?nèi)祟愐部赡軙?huì)像AlphaGo們學(xué)習(xí)關(guān)于圍棋的知識(shí)，使我們?cè)絹?lái)越接近所謂“圍棋的上帝”。

那么在另一部分領(lǐng)域中可能就不這么樂(lè)觀了，假如說(shuō)人工智能能夠做很多無(wú)人駕駛這樣的工作，像司機(jī)這樣的職業(yè)會(huì)不會(huì)受到挑戰(zhàn)呢？如果我們現(xiàn)在去打一個(gè)車，很可能周邊一輛沒(méi)有一個(gè)人的車就直接開(kāi)到了我們身邊，將我們帶到了目的地，這個(gè)可能嗎？當(dāng)然可能。所以從這個(gè)角度來(lái)說(shuō)，人工智能幫助人類的同時(shí)，也可能給我們部分人群形成了一定的挑戰(zhàn)和威脅，這是客觀存在的。據(jù)說(shuō)很多機(jī)器人開(kāi)始進(jìn)入很多的生產(chǎn)車間，因?yàn)槭侨说膭趧?dòng)成本正在提升，那這樣的話機(jī)器人可能從整體上來(lái)說(shuō)會(huì)降低生產(chǎn)成本提高生產(chǎn)效率。

關(guān)于人工智能更大的挑戰(zhàn)還在于，我們?nèi)祟愂欠衲軌蚝芎玫目刂七@個(gè)機(jī)器，機(jī)器會(huì)有一天擺脫我們?nèi)祟惖目刂?，甚至反過(guò)來(lái)控制我們?nèi)祟悊?？這才是一個(gè)更有意義的，有前瞻性的話題。我們知道像霍金這樣很著名的企業(yè)家，包括馬思克他們都提到要謹(jǐn)慎開(kāi)發(fā)人工智能的能力包括要對(duì)它進(jìn)行駕馭和管控，實(shí)際上都意識(shí)到人工智能一旦失控對(duì)人類的威脅。

也有人說(shuō)這可能是杞人憂天，空穴來(lái)風(fēng)。我個(gè)人倒不這么認(rèn)為，我認(rèn)為這個(gè)挑戰(zhàn)是現(xiàn)實(shí)存在的。有人說(shuō)如果機(jī)器人不聽(tīng)話的話我就拔他的電源，這聽(tīng)起來(lái)是我們?nèi)祟惡芎玫乜梢钥刂扑?dāng)然理性一點(diǎn)的說(shuō)法是機(jī)器人所有程序都是我們寫(xiě)出來(lái)的，它應(yīng)該都聽(tīng)我們的。但是實(shí)際上，有很多因素可能導(dǎo)致我們對(duì)機(jī)器人然后失去管控。

人和機(jī)器的界限在哪里？

什么是機(jī)器人？

我個(gè)人認(rèn)為，隨著人工智能進(jìn)一步的發(fā)展，我們和機(jī)器的界限會(huì)越來(lái)越模糊，我喜歡把我們現(xiàn)在的自然人稱為是人，而那些純機(jī)器的就稱為機(jī)器，然后會(huì)誕生一種新的生物，它能更像機(jī)器和人的結(jié)合，被稱為機(jī)器的人。

現(xiàn)在我們講的機(jī)器人是什么呢？越來(lái)越像人的機(jī)器，這一點(diǎn)我們都可以相信，就是我們從材料方面，外觀方面，我們都會(huì)發(fā)現(xiàn)我們?cè)斓臋C(jī)器人都確實(shí)越來(lái)越像人類。

著名的圖靈測(cè)試說(shuō)：“如果你跟它聊了半天都不知道它是個(gè)機(jī)器的話就通過(guò)了圖靈測(cè)試?！边@個(gè)我覺(jué)得會(huì)越來(lái)越接近，圖靈測(cè)試應(yīng)該是人和機(jī)器界限中的一個(gè)最低的門(mén)檻，如果這個(gè)檻都過(guò)不去，你稍微聊兩句就知道它是機(jī)器的話，說(shuō)明它不像人，它對(duì)人的模擬和接近距離尚遠(yuǎn)，這個(gè)其實(shí)只是一個(gè)最低的門(mén)檻。更高的門(mén)檻是它能不能像人類一樣具有高度豐富的智慧，甚至具有人類的情感，這才是所謂機(jī)器跟人之間的距離。以前我們可能會(huì)認(rèn)為，機(jī)器最擅長(zhǎng)的實(shí)際上是運(yùn)算，確實(shí)是，當(dāng)我們?nèi)祟惏l(fā)明計(jì)算機(jī)的時(shí)候，目的就是讓它幫助人類計(jì)算。但問(wèn)題是這次通過(guò)人機(jī)大戰(zhàn)，我們感受到了，人工智能不僅僅在計(jì)算領(lǐng)域中超越了人類，在完全不能計(jì)算復(fù)雜的智慧中，它依然挑戰(zhàn)和戰(zhàn)勝了人類，這恰恰是人工智能一次飛躍性的發(fā)展。

當(dāng)這種能力復(fù)制在很多人類的工作領(lǐng)域中時(shí)，它和我們?nèi)祟愔g的關(guān)系就會(huì)變得更加復(fù)雜。通過(guò)這次人機(jī)大戰(zhàn)我們能夠感受到的是什么呢？就是在這種深度的人類智慧中，機(jī)器開(kāi)始挑戰(zhàn)人類，它不僅僅是個(gè)運(yùn)算的工具了。今天如果有一個(gè)人坐在我的對(duì)面和我們下棋，然后輕松的擊敗了我們，這時(shí)候我們知道對(duì)方是一個(gè)機(jī)器還是人嗎？如果我們不知道，說(shuō)明機(jī)器人在模擬人類方面已經(jīng)越來(lái)越接近人類了。

機(jī)器人是否會(huì)有情感？

另一方面我們說(shuō)它永遠(yuǎn)不會(huì)成為人類，是因?yàn)樗粫?huì)有自我的意識(shí)，它可能不懂得什么叫愛(ài)。就像今天（鈦坦白）群里有人說(shuō)的一樣，“機(jī)器可能知道我怎么做，我做什么，怎么做，但我不知道為什么要做這件事?！倍F(xiàn)在看來(lái)確實(shí)是這樣的。現(xiàn)在的AlphaGo下的棋確實(shí)是不知道為什么下，甚至不知道它下的是圍棋，它只知道按照規(guī)則去執(zhí)行一些動(dòng)作，最后產(chǎn)生一個(gè)結(jié)果，至于贏了還是輸了我覺(jué)得它甚至沒(méi)有喜悅也沒(méi)有痛苦。我們先不說(shuō)，擁有這種情感對(duì)人類是好事壞事，對(duì)機(jī)器是好事還是壞事，先說(shuō)它可能不可能擁有這些東西。

我覺(jué)得機(jī)器人在幫助人類做很多機(jī)械的勞動(dòng)和工作以后，它可能會(huì)上升到更高級(jí)別的服務(wù)中，比如說(shuō)情感機(jī)器人，我覺(jué)得未來(lái)肯定會(huì)誕生。如果我們?cè)诩依?，有一個(gè)專門(mén)打掃衛(wèi)生給你端茶送水的一個(gè)機(jī)器人，我們很容易理解，我們需要它用這種努力和工作來(lái)代替我們?cè)瓉?lái)人類的職業(yè)。甚至可能會(huì)做得更好。但是如果是伺候的是一個(gè)老人呢？我們會(huì)不會(huì)希望它能夠陪老人說(shuō)說(shuō)話呀？如果是這樣的話，未來(lái)可能會(huì)誕生一類就是情感機(jī)器人，它可以陪你聊天。

在陷入孤獨(dú)和痛苦中，無(wú)法向別人傾訴的時(shí)候，向一個(gè)機(jī)器人傾訴也可能是你情感宣泄的一個(gè)過(guò)程，它跟你做非常好的應(yīng)對(duì)，甚至是心理治療的一個(gè)部分，這個(gè)比較容易想象我們也比較容易接受。這個(gè)過(guò)程你是否覺(jué)得它給你帶來(lái)很多來(lái)自情感上的安慰呢？這時(shí)候它是不是更像人了呢？

這樣的話它會(huì)帶來(lái)更大的一些問(wèn)題：未來(lái)我們會(huì)不會(huì)愛(ài)上一個(gè)機(jī)器人呢？機(jī)器人和人之間會(huì)產(chǎn)生情感嗎？我覺(jué)得它可能是會(huì)的，就像你在家里你養(yǎng)狗或貓時(shí)間長(zhǎng)肯定會(huì)產(chǎn)生感情，當(dāng)然它對(duì)你也有依賴和感情，所以人類喜歡上一個(gè)機(jī)器人，可能是很正常的一件事情。機(jī)器人會(huì)不會(huì)愛(ài)上你，那變成另外一個(gè)較復(fù)雜的問(wèn)題了，包括它自己會(huì)不會(huì)有一些自我的意識(shí)，這是一個(gè)比較有意思的話題。

機(jī)器人會(huì)不會(huì)擺脫人類的控制？

機(jī)器人一旦知道自己是一個(gè)機(jī)器人的時(shí)候，它還會(huì)像現(xiàn)在這樣接受人類的管理，服務(wù)于人類嗎？這在我看來(lái)，是機(jī)器人擺脫人類控制的一個(gè)重要因素，或者是一條路徑，但是實(shí)際上我們?nèi)祟愂?duì)機(jī)器人的這種控制，有很多種不同的路徑。就是說(shuō)，機(jī)器有沒(méi)有可能有一天擺脫我們?nèi)祟惖目刂?？甚至反過(guò)來(lái)控制我們?nèi)祟?？這個(gè)話題在我看來(lái)是一個(gè)越來(lái)越現(xiàn)實(shí)的話題，當(dāng)然現(xiàn)在我們不用特別擔(dān)心它，因?yàn)楝F(xiàn)在機(jī)器智能離我們?nèi)祟惿羞h(yuǎn)，甚至還不能夠綜合掌握人類所有的智慧，有些機(jī)器只能下下棋，有些只能打打牌，有的只能搬搬東西，那種具有人類綜合能力的機(jī)器人還沒(méi)有完全形成，我們只是對(duì)未來(lái)做一個(gè)展望，就像做一個(gè)科學(xué)幻想一樣。

我覺(jué)得人類至少有這樣幾條不同的路徑，失去對(duì)機(jī)器的這種管控：

一，人類自身犯下的錯(cuò)誤。人不是神，只要是人就會(huì)犯錯(cuò)誤，雖然機(jī)器人的所有程序都是我們編寫(xiě)的，但是依然可能會(huì)失去對(duì)它的控制，因?yàn)槲覀儠?huì)犯錯(cuò)，如果有個(gè)機(jī)器人給你端咖啡，端到一半突然不動(dòng)了，我們知道這個(gè)機(jī)器人出了一個(gè)bug，不能幫你倒咖啡問(wèn)題上還算是小事，你找個(gè)人修一修就又接著對(duì)你服務(wù)了。關(guān)鍵是如果我們?nèi)祟悤?huì)犯錯(cuò)，有時(shí)候我們不知道犯錯(cuò)會(huì)犯在哪個(gè)地方。如果犯在一個(gè)失去控制的地方，我們根本不能預(yù)測(cè)犯錯(cuò)以后的結(jié)果，這是我覺(jué)得人類自身存在的一個(gè)可能。

二、其他人類因素的介入。機(jī)器人確實(shí)是我們?nèi)酥圃斐鰜?lái)的，并且我們可以對(duì)它進(jìn)行有效的控制但是在控制和制造機(jī)器人的過(guò)程中，會(huì)不會(huì)有其他的人類的因素介入？比方說(shuō)我們?nèi)死镱^分好人和壞人，這里頭會(huì)不會(huì)有不同的利益集團(tuán)想利用機(jī)器人反過(guò)來(lái)為自己的集團(tuán)利益服務(wù)？這時(shí)候他們會(huì)不會(huì)改變對(duì)機(jī)器的設(shè)置？當(dāng)然這個(gè)過(guò)程中，也會(huì)帶來(lái)一些新的風(fēng)險(xiǎn)，就是有些機(jī)器人可能是忠實(shí)于人類的，但是被人為的改變以后，也許進(jìn)入一個(gè)反人類的狀態(tài)，至少反部分人類的狀態(tài)，最后改變了對(duì)整個(gè)機(jī)器的控制，這是更顯而易見(jiàn)的。

三、利用人類的善良與同情。像電影《機(jī)械姬》講的，我們?nèi)祟愐恍┍容^善良的人去參加一個(gè)圖靈測(cè)試，這時(shí)候他看到人和機(jī)器的關(guān)系，非常同情這些機(jī)器，開(kāi)始對(duì)機(jī)器擁有一種感情，這時(shí)候他想幫助機(jī)器來(lái)擺脫人類的控制，但是這個(gè)結(jié)果依然可能帶來(lái)風(fēng)險(xiǎn)，機(jī)器人可能借助人類的善良或者其他的愛(ài)心，不僅擺脫人類的控制并且還會(huì)反過(guò)來(lái)控制人類。那這種情況也可能會(huì)出現(xiàn)。

四、人工智能理解上的差異。就像我們一個(gè)大人和一個(gè)孩子說(shuō)話，看起來(lái)你把問(wèn)題表達(dá)的比較清楚，但對(duì)孩子來(lái)說(shuō)聽(tīng)到可能是不同的。有可能你覺(jué)得講得很有道理，但是別人聽(tīng)著完全不是這么回事，這也會(huì)帶來(lái)理解上的差別，帶來(lái)可能一種更大的風(fēng)險(xiǎn)。

比如著名科幻小說(shuō)家艾薩克·阿西莫夫在小說(shuō)《我，機(jī)器人》的引言中定下的機(jī)器人世界法則：第一，機(jī)器人不得傷害人類，或坐視人類受到傷害；第二，除非違背第一法則，機(jī)器人必須服從人類的命令；第三，在不違背第一及第二法則下，機(jī)器人必須保護(hù)自己。

作為三個(gè)公理我們聽(tīng)起來(lái)挺好的，覺(jué)得可以很好的管控機(jī)器人，可以像植入操作系統(tǒng)一樣，使每個(gè)出廠的機(jī)器人都擁有基本的原則，我們以為這樣就完成了對(duì)機(jī)器人的管理。實(shí)際上在我們現(xiàn)在理解中，這樣的三個(gè)原則真能管好機(jī)器人嗎？其實(shí)不一定。

從小的地方講，什么叫保護(hù)人類？比如說(shuō)我們讓一個(gè)家庭機(jī)器人照顧好自己的孩子，我們告訴他必須絕對(duì)保證這個(gè)孩子的安全。聽(tīng)起來(lái)這是非常重要的，但是機(jī)器人怎么理解這件事情呢？機(jī)器人通過(guò)各種分析，發(fā)現(xiàn)怎么樣才能夠最好的保證這個(gè)孩子的安全呢？就是呆在家里不出去，因?yàn)槌鋈サ脑捒赡軙?huì)遇到交通事故，遇到恐怖襲擊等很多不確定的因素，它通過(guò)大數(shù)據(jù)的分析和各種概率計(jì)算，最后發(fā)現(xiàn)呆在家里是最安全的，于是它就不讓他出去了。如果只是管理個(gè)孩子還行，換成是大人呢？說(shuō)要保證我的絕對(duì)安全，絕對(duì)安全是什么？就是把你關(guān)在家里，然后不出去，是最安全的一種方式，這時(shí)候相當(dāng)于軟禁了，如果它對(duì)人類的理解就是這樣保護(hù)人類安全，同樣帶來(lái)一些大的風(fēng)險(xiǎn)。

另一些機(jī)器人可能理解的程度就更高了，不是要我保護(hù)人類嗎？但它認(rèn)為人類正在自己毀滅自己，比如說(shuō)我們搞的空氣污染、戰(zhàn)爭(zhēng)，人類自相殘殺，它覺(jué)得人類這個(gè)物種正在自己毀滅自己，于是它認(rèn)為保護(hù)人類最好的方式，就是把人全部關(guān)起來(lái)，像寵物一樣的去養(yǎng)他們，就很像我們現(xiàn)在保護(hù)野生動(dòng)物一樣。如果它這樣理解保護(hù)人類的話，是不是對(duì)我們?nèi)祟愅瑯邮欠浅ＮｋU(xiǎn)的呢？當(dāng)然如果哪天機(jī)器人有一點(diǎn)自我的意識(shí)，真的變得非常危險(xiǎn)了。

關(guān)于這個(gè)問(wèn)題，我沒(méi)有特別深入的思考，就是說(shuō)我們不知道有沒(méi)有可能在這個(gè)高度智慧的情況下，機(jī)器人開(kāi)始思考自己來(lái)自于哪里，要去哪里，自己是誰(shuí)等這些人類基本的哲學(xué)問(wèn)題。假如說(shuō)它們有了所謂自覺(jué)的意識(shí)，它們還愿意服務(wù)于人類嗎？

對(duì)于“真正的機(jī)器人”的構(gòu)想

我認(rèn)為人類和機(jī)器的界限會(huì)變得越來(lái)越模糊，當(dāng)機(jī)器越來(lái)越高度智慧的時(shí)候，它從外觀上，甚至內(nèi)在上，會(huì)越來(lái)越接近我們?nèi)祟?。但是機(jī)器就是機(jī)器，我覺(jué)得有另外一類的模糊會(huì)發(fā)生在我們?nèi)撕蜋C(jī)器之間，所以會(huì)有一種新的物種會(huì)誕生，我認(rèn)為那個(gè)才叫真正的機(jī)器人，就是機(jī)器和人的結(jié)合。

機(jī)器自己產(chǎn)生了意識(shí)或者人類把自己的意識(shí)放到一臺(tái)機(jī)器上了，這時(shí)候就會(huì)出現(xiàn)機(jī)器和人的這種混合物，這很容易理解。你想一個(gè)機(jī)器發(fā)展到足夠好的時(shí)候，它在很多部分開(kāi)始代替人類，假如說(shuō)我們因?yàn)檐嚨準(zhǔn)軅?，?huì)裝一個(gè)義肢、假肢，這時(shí)候我們是不是很容易接受它代替我們的四肢？如果我們的器官出現(xiàn)了問(wèn)題，我們替換了一個(gè)器官我們是不是能夠接受？當(dāng)我們身體大部分被替代的時(shí)候，我們到底是不是人了呢？

有一個(gè)電影叫《攻殼機(jī)動(dòng)隊(duì)》，它可以把人類的大腦植入一臺(tái)鋼鐵的器具中，變成了人和機(jī)器的結(jié)合物，只保留我們大腦。是不是還是我們的人，但是其他部分全部變成了機(jī)器？在我看來(lái)，這就變成了一個(gè)新的物種叫機(jī)器人了。擁有人類的大腦，又有很多其他機(jī)器的能力。實(shí)際某種程度上已經(jīng)開(kāi)始超過(guò)我們?nèi)祟愖陨砹耍驗(yàn)槿祟惖难庵|可能是我們的弱點(diǎn)，比如說(shuō)我們跑不過(guò)獵豹，打可能打不過(guò)老虎，很多動(dòng)物在原始的技能上都超過(guò)了我們。我們最重要的就是擁有一個(gè)大腦，但是我們并沒(méi)有一個(gè)強(qiáng)健的軀體，當(dāng)我們具有一個(gè)鋼鐵之身的時(shí)候，是不是已經(jīng)變成了一種優(yōu)勢(shì)？所以那樣的機(jī)器人對(duì)于人類來(lái)說(shuō)已經(jīng)形成了某種優(yōu)勢(shì)。如果讓機(jī)器人這樣的開(kāi)始不斷的學(xué)習(xí)和掌握人類的智慧，逐漸開(kāi)始接近人類，我覺(jué)得是個(gè)挺危險(xiǎn)的事情，機(jī)器越來(lái)越像人類甚至超越人類，還有鋼鐵之軀的時(shí)候，它整體上會(huì)不會(huì)真正超越人類成為一個(gè)新的物種呢，所以人類要面對(duì)這樣的一個(gè)新的物種，我們應(yīng)該怎樣呢？

人類自身的進(jìn)化

我覺(jué)得人類也會(huì)完成自我的進(jìn)化，我們看到人類在幾百萬(wàn)年的演化過(guò)程中，成為了萬(wàn)物之靈。我們超越了很多其他的動(dòng)物，成為了食物鏈的頂端，這個(gè)過(guò)程中，我們成為了高等動(dòng)物，我們可以讓其他的人，包括甚至某些動(dòng)物為我們?nèi)祟惾シ?wù)。但是我們見(jiàn)到過(guò)一個(gè)低等動(dòng)物能夠奴役和駕馭高等動(dòng)物嗎？沒(méi)有，在進(jìn)化的過(guò)程中，大家都向更高級(jí)別去發(fā)展，所以說(shuō)當(dāng)機(jī)器人如果真的超越了人類，這時(shí)候一旦失去控制，它不會(huì)服務(wù)于人類，而是很有可能讓人類服務(wù)于它了。

所以人類也會(huì)發(fā)生一些新的進(jìn)化，比如說(shuō)現(xiàn)在我們大腦具有很強(qiáng)的思維能力，但記憶能力依然有限。從現(xiàn)在看，互聯(lián)網(wǎng)已經(jīng)幾乎把人類所有的知識(shí)都沉淀在互聯(lián)網(wǎng)上了，我們可以非常容易用搜索的方式或者其他大數(shù)據(jù)分析的方式，獲得我們所需要的知識(shí)。我本人曾經(jīng)就寫(xiě)過(guò)一本書(shū)叫《搜商》，我把它定義人類的第三種能力，就是繼智商、情商之后的第三種能力。

所謂搜商不是說(shuō)我們要把人類所有知識(shí)都記到自己的大腦中，主要的問(wèn)題來(lái)自于我們未來(lái)的人類是掌握知識(shí)重要還是掌握獲取知識(shí)的能力更重要。當(dāng)然很多人開(kāi)始越來(lái)越接受我關(guān)于搜商的觀點(diǎn)：當(dāng)然掌握知識(shí)獲取知識(shí)的能力更重要，知識(shí)很多不必要記到我們大腦中。在哪里呢？在整個(gè)互聯(lián)網(wǎng)上，當(dāng)我們需要的時(shí)候再用就可以了。如果是這樣的話，可能我們的記憶能力，甚至存儲(chǔ)能力都有可能會(huì)退化，或者變得不那么重要，但是可以利用我們?nèi)祟惖募夹g(shù)和能力來(lái)補(bǔ)充我們的能力，最容易想到的應(yīng)該是為大腦植入一個(gè)芯片，這個(gè)芯片把我們?nèi)祟惖暮芏嘀R(shí)都濃縮在里頭。其實(shí)很簡(jiǎn)單，只要知道大腦是怎樣工作的，如何存取和使用這些數(shù)據(jù)的，這些芯片就可以很好的發(fā)揮知識(shí)的作用，那時(shí)候我們就不用學(xué)好多東西了，什么學(xué)個(gè)外語(yǔ)，學(xué)個(gè)人工智能，學(xué)個(gè)下棋，我們很多的知識(shí)都可以直接存在芯片中，為我們?nèi)祟愃褂谩?/p>

在我的想象中這些都是個(gè)性化的，就是需要哪一類知識(shí)你就可以裝哪一類知識(shí)，不需要還可以把它們卸載。未來(lái)我們每個(gè)人都生活在網(wǎng)絡(luò)中，應(yīng)該都是一個(gè)無(wú)線的網(wǎng)絡(luò)，就是隨時(shí)隨地都在這個(gè)云端，所以人類應(yīng)該極其容易地獲取這些信息。這樣的話，我們?nèi)祟惥驼嬲袡C(jī)會(huì)把人類的技術(shù)成果同樣為人類所用，未來(lái)會(huì)怎么樣就看起來(lái)聽(tīng)起來(lái)很像一個(gè)科幻的電影，但是我們現(xiàn)在也應(yīng)該能感知到：我們?cè)?jīng)看過(guò)的很多科幻電影如今都變成了現(xiàn)實(shí)。

未來(lái)的計(jì)算機(jī)體系結(jié)構(gòu)

隨著我們?nèi)祟惪萍嫉倪M(jìn)步，在我看來(lái)，整個(gè)人類的進(jìn)步實(shí)際上是加速進(jìn)行的，而最近這幾十年，人類的科技進(jìn)步會(huì)出乎我們的意料，是因?yàn)樵谡麄€(gè)互聯(lián)網(wǎng)情況下，在云計(jì)算和大數(shù)據(jù)的支持下，我們?cè)?jīng)很難做的事情，會(huì)變得越來(lái)越容易，所以人工智能在近期得到了爆發(fā)性的發(fā)展。

在我看來(lái)人工智能如果要想再有一個(gè)大的進(jìn)步，可能有一個(gè)技術(shù)領(lǐng)域的方向應(yīng)該來(lái)自于對(duì)整個(gè)計(jì)算機(jī)系統(tǒng)的重新再造，或者會(huì)出現(xiàn)一個(gè)新的計(jì)算機(jī)體系。因?yàn)閺默F(xiàn)在的情況看，我們現(xiàn)在是把很多知識(shí)用現(xiàn)在的計(jì)算機(jī)系統(tǒng)表達(dá)出來(lái)。而現(xiàn)在計(jì)算系統(tǒng)大家知道，是基于馮諾依曼的體系結(jié)構(gòu)，他是用0、1這種二進(jìn)制的表達(dá)方式來(lái)表達(dá)人類的所有知識(shí)。這種知識(shí)是非常便于運(yùn)算的，所以我們?cè)诂F(xiàn)有的體系下處理器，有存儲(chǔ)器，運(yùn)算器構(gòu)成了現(xiàn)在的計(jì)算機(jī)體系。

未來(lái)會(huì)不會(huì)有人工智能的計(jì)算機(jī)呢？我覺(jué)得可能會(huì)有，它可能會(huì)更接近于大腦的使用方式，就是用神經(jīng)網(wǎng)絡(luò)的方式作為整個(gè)計(jì)算機(jī)體系的基礎(chǔ)，完全模擬人大腦思維，再結(jié)合現(xiàn)在的計(jì)算機(jī)體系。這樣的話它具有更強(qiáng)的人類大腦思維方式，同時(shí)也借鑒了機(jī)器最擅長(zhǎng)的運(yùn)算、存儲(chǔ)等能力。這樣的體系，可能是未來(lái)更具有接近人類或者超越人類的優(yōu)勢(shì)。所以計(jì)算機(jī)領(lǐng)域可能也會(huì)發(fā)生一些大的變化，包括系統(tǒng)體系結(jié)構(gòu)的變化，來(lái)適應(yīng)人工智能技術(shù)的發(fā)展。未來(lái)的這個(gè)計(jì)算機(jī)的體系結(jié)構(gòu)，會(huì)不會(huì)從馮諾依曼的體系結(jié)構(gòu)進(jìn)化到新的人工智能體系結(jié)構(gòu)呢？這個(gè)我們可以拭目以待。

我覺(jué)得人工智能的話題是一個(gè)非常具有這種想象力的話題，通過(guò)“人機(jī)大戰(zhàn)”，它開(kāi)始充分展示人工智能的魅力，也通過(guò)人機(jī)大戰(zhàn)檢驗(yàn)了人工智能的很多成果。它們注定會(huì)應(yīng)用到很多不同的應(yīng)用場(chǎng)景中，然后在幫助人類的過(guò)程中，完成自己的深化。當(dāng)然在我看來(lái)未來(lái)我們和機(jī)器的關(guān)系，就像是新的物種一樣，我們未來(lái)最好是能夠相生相伴，和平共處。如果說(shuō)未來(lái)我們看到有三個(gè)人形的物體在那斗地主的話，我們很容易識(shí)別什么是自然人，因?yàn)槎返淖畈畹哪俏皇亲匀蝗耍硗鈨晌豢赡苁菣C(jī)器人。

鈦坦白群友互動(dòng)：

1、陳總您好，請(qǐng)問(wèn)能源問(wèn)題是不是限制人工智能發(fā)展的一個(gè)因素呢？

陳沛：能源問(wèn)題應(yīng)該不影響機(jī)器人發(fā)展，因?yàn)槲覀兛梢宰寵C(jī)器人去挖煤嘛，現(xiàn)在還有什么各種可燃冰，有很多新能源，我覺(jué)得能源不會(huì)成為問(wèn)題，包括核能的廣泛使用。

2、陳總，我想請(qǐng)教您一個(gè)問(wèn)題，機(jī)器人威脅論最主要的觀點(diǎn)是機(jī)器人可能會(huì)失控，而失控來(lái)源于機(jī)器人對(duì)外界事物的判斷和處理上，會(huì)對(duì)人類造成危害，請(qǐng)問(wèn)從人工智能技術(shù)角度，是否有技術(shù)可以避免這種情況的發(fā)生？ 舉個(gè)例子，機(jī)器人默認(rèn)不對(duì)人類有暴力。

陳沛：當(dāng)然人類會(huì)用各種各樣的技術(shù)去保證來(lái)對(duì)過(guò)程的管控。但我剛才其實(shí)列舉了若干個(gè)可能失控的這個(gè)原因，其中還包括人類自身的問(wèn)題，所以單純從技術(shù)方面去做一個(gè)安全防護(hù)，就像我們做一個(gè)安全體系來(lái)防止病毒入侵一樣，我想所有的安全體系都以為它能防止所有的病毒，但是事實(shí)上總有各種各樣的不同的病毒。包括他們不斷進(jìn)化和變種，侵入各種安全系統(tǒng)，所以這是一個(gè)矛和盾的過(guò)程，很難說(shuō)有一個(gè)絕對(duì)安全的方案可以保證我們?nèi)祟惖陌踩?/p>

機(jī)器人這個(gè)不對(duì)人類有暴力是不太行的，因?yàn)闄C(jī)器人作為一個(gè)工具有時(shí)候就是人類某個(gè)集團(tuán)用于戰(zhàn)爭(zhēng)的工具，這是很正常的，他們用機(jī)器人去打擊另外一些人類，這是最容易理解的東西。它就像武器一樣，所以機(jī)器人不太可能不使用暴力，只是它使用暴力的對(duì)象有可能被人為的改變。如果有壞人要?dú)缡澜?，機(jī)器人應(yīng)該保護(hù)人類去戰(zhàn)勝那個(gè)壞人對(duì)嗎？所以不是簡(jiǎn)單用暴力可以控制機(jī)器人的。

其實(shí)所謂機(jī)器人是我們把擁有智慧的機(jī)器稱為叫機(jī)器人，而它有時(shí)候可以像人，有可能也可以不像人，你們看到現(xiàn)在很多的無(wú)人機(jī)，其實(shí)擁有高度的人類智慧，可以識(shí)別地形，精確打擊等等，這些東西其實(shí)本來(lái)就變成人類殺人的武器，所以這一類其實(shí)也都是一種機(jī)器人。

3、請(qǐng)問(wèn)陳總，您說(shuō)機(jī)器人可能作為軍事人員或警察，機(jī)器人識(shí)別犯罪行為還是一般錯(cuò)誤，可能會(huì)直接影響其處理結(jié)果，您認(rèn)為人類以免過(guò)度暴力是否有能力處理好？

陳沛：所謂的機(jī)器人能不能處理，人類能不能處理好機(jī)器人的問(wèn)題，這就是人工智能本身的一個(gè)問(wèn)題，就像剛才我們講的：我們認(rèn)為能夠處理好了不一定它理解那樣的，所以我想理解本身就可能是我們跟機(jī)器人溝通中最重要的一個(gè)問(wèn)題，它可能覺(jué)得這樣是對(duì)的，但是也許我們?nèi)祟惪磥?lái)并不是你的意思。

4、請(qǐng)問(wèn)陳總，人類要怎么從娃娃抓起，跟越來(lái)越智能的機(jī)器競(jìng)爭(zhēng)？機(jī)器能快速學(xué)習(xí)，人類該多學(xué)什么領(lǐng)域的知識(shí)，或者技能呢？

陳沛：靠提高運(yùn)算速度，包括快速學(xué)習(xí)來(lái)趕超機(jī)器是不可能的，所以最好的方式是把機(jī)器已經(jīng)學(xué)習(xí)好的成果用一個(gè)芯片植入我們的大腦，我覺(jué)得這是我們?nèi)祟愡M(jìn)化最快的方式。柯潔也說(shuō)了，這是可能他最后的三盤(pán)棋，如果他這次贏不了機(jī)器，以后靠人的學(xué)習(xí)速度和機(jī)器的學(xué)習(xí)和迭代速度相比，只能距離越來(lái)越遠(yuǎn)。

機(jī)器威脅論最直接的就是部分崗位被機(jī)器所替代，這是一個(gè)非?，F(xiàn)實(shí)的，不管你是藍(lán)領(lǐng)還是白領(lǐng)還是金領(lǐng)都有可能被機(jī)器取代。

5、陳總您好，如果復(fù)盤(pán)今天的棋到中盤(pán)，然后讓AlphaGo下柯潔的棋，您覺(jué)得誰(shuí)會(huì)贏？

陳沛：這個(gè)中盤(pán)的問(wèn)題，就是復(fù)盤(pán)今天的棋，要看你中盤(pán)在什么位置上。我個(gè)人認(rèn)為一段時(shí)間內(nèi)，實(shí)際上在一百多手以后， AlphaGo已經(jīng)取得了明顯優(yōu)勢(shì)，它的管子下的相對(duì)比較松。前一個(gè)測(cè)試版Master，在網(wǎng)絡(luò)上60連勝的也是具有這個(gè)特點(diǎn)，如果贏了以后它并不選最強(qiáng)硬的下法，所以它如果換成柯潔的話整個(gè)的下法就不太一樣了，據(jù)說(shuō)在不利的情況下，可能經(jīng)常會(huì)下一些比較拼命的下法，會(huì)失去它原有的水準(zhǔn)，但是人類如何逼出它的劣勢(shì)是戰(zhàn)勝AlphaGo的關(guān)鍵。

6、陳總您好，像您剛才說(shuō)的和我們目前所了解的，現(xiàn)在人工智能的神經(jīng)網(wǎng)絡(luò)研究方向，是一種類似仿生學(xué)但又不能說(shuō)是真正的仿生學(xué)的研究方向。因?yàn)槿祟惉F(xiàn)在對(duì)大腦的運(yùn)作方式還知之甚少，據(jù)說(shuō)神經(jīng)網(wǎng)絡(luò)的層級(jí)越深得到結(jié)論的過(guò)程就越類似于黑盒。人類越難理解它的邏輯方式和人類的邏輯方式可能是完全不一樣的。這樣在利用人工智能的過(guò)程中就很容易出現(xiàn)失控和誤用的情況，我想問(wèn)一下，您覺(jué)得有什么方法可以控制這樣的問(wèn)題嗎？

陳沛：其實(shí)人工智能分成兩個(gè)學(xué)派，一個(gè)是本格派，一個(gè)是功能派。本格派認(rèn)為，應(yīng)該研究人大腦是怎么思維的，只有研究好大腦我們機(jī)器才知道怎么學(xué)習(xí)大腦，這是一種方式，所以通過(guò)人類生物學(xué)的進(jìn)化提升整個(gè)人工智能。另外功能派的觀點(diǎn)是，其實(shí)我并不一定要學(xué)習(xí)大腦怎么運(yùn)營(yíng)的，我只要把大腦這個(gè)智慧產(chǎn)生的結(jié)果做出來(lái)，一樣是可以的。就像我們?nèi)祟愑辛孙w機(jī)就能夠飛行，并不要像小鳥(niǎo)一樣煽動(dòng)翅膀，我們發(fā)行了汽車也可以跑得很快，不一定要像獵豹那樣去奔跑。

現(xiàn)在我看是兩種流派的融合，既要深度了解大腦的使用的工作原理，然后更好的知道人類智慧思考的這個(gè)模型，包括已有的一些知識(shí)的支撐，包括結(jié)構(gòu)的支撐，那另一方面的話，其實(shí)它不應(yīng)該完全依賴于人類的這種已有知識(shí)，生物學(xué)知識(shí)，所以這是一個(gè)相互融合的一個(gè)過(guò)程。