計(jì)算機(jī)領(lǐng)域的下一次革命的標(biāo)志將是模擬系統(tǒng)的崛起，而數(shù)字化編程不再具有統(tǒng)治地位。

雷鋒網(wǎng) AI 科技評(píng)論按：在人工智能研究如火如荼的今天，似乎也是時(shí)候回過(guò)頭來(lái)思考一下模擬計(jì)算在未來(lái)所具有的意義。當(dāng)人類(lèi)已經(jīng)習(xí)慣于通過(guò)數(shù)字化編程控制機(jī)器，也許以神經(jīng)網(wǎng)絡(luò)為代表的模擬計(jì)算會(huì)把對(duì)于世界的控制權(quán)從人類(lèi)手中奪走。這是一個(gè)值得探究的技術(shù)問(wèn)題，同時(shí)也是一個(gè)不容忽視的倫理問(wèn)題！

計(jì)算機(jī)科學(xué)發(fā)展的歷史可以劃分為「舊約」（理論）和「新約」（實(shí)踐）兩部分：電子數(shù)字化計(jì)算機(jī)及其產(chǎn)生的代碼席卷全球之前和之后。舊約時(shí)代中，包括 Thomas Hobbes（托馬斯·霍布斯） 和 Gottfried Lribniz（戈特弗里德·萊布尼茨） 在內(nèi)的先知們?yōu)橛?jì)算機(jī)提供了底層的邏輯；而新約時(shí)代的先知們?nèi)?Alan Turing（阿蘭·圖靈），John von Neumann（約翰·馮·諾伊曼），Claude Shannon（克勞德·香農(nóng)），以及 Norbert Wiener（諾伯特·維納），則創(chuàng)造了實(shí)現(xiàn)這些邏輯的機(jī)器。

圖靈一直在思索如何才能使機(jī)器變得智能化；馮·諾伊曼在思考如何才能讓機(jī)器自我再生；香農(nóng)在思考的是，機(jī)器要怎樣在任意噪音的干擾下實(shí)現(xiàn)可靠的通信；維納則在探究機(jī)器何時(shí)能夠?qū)W會(huì)自行控制。

1949 年，就在第一代能夠存儲(chǔ)程序的電子數(shù)字計(jì)算機(jī)問(wèn)世之時(shí)，維納就對(duì)超出人類(lèi)控制范圍的控制系統(tǒng)發(fā)出了警示。不過(guò)彼時(shí)，這些系統(tǒng)仍然在人類(lèi)程序員的監(jiān)督下運(yùn)行，這無(wú)疑就減少了維納的擔(dān)憂(yōu)。只要程序員能夠控制機(jī)器，那還會(huì)出現(xiàn)什么問(wèn)題？從那時(shí)起，關(guān)于機(jī)器自動(dòng)控制的風(fēng)險(xiǎn)的爭(zhēng)論與關(guān)于數(shù)字化編程的機(jī)器的能力與局限性的爭(zhēng)論，就一直相伴相隨。他們認(rèn)為，盡管機(jī)器擁有驚人的能力，但實(shí)際上它們幾乎沒(méi)有真正的自主權(quán)。然而，這個(gè)假設(shè)是危險(xiǎn)的。一旦它們將這種能力用來(lái)做其他事情而不是進(jìn)行數(shù)字化計(jì)算，又將發(fā)生什么？

在過(guò)去的一百年中，電子科學(xué)經(jīng)歷了兩次根本性的轉(zhuǎn)變：從模擬到數(shù)字化，從真空管道到固態(tài)。這些轉(zhuǎn)變同時(shí)發(fā)生并不意味著它們之間就有必然的聯(lián)系。正如數(shù)字化計(jì)算使用使用真空管道元件實(shí)現(xiàn)一樣，模擬計(jì)算也可以在固態(tài)中實(shí)現(xiàn)。雖然商業(yè)應(yīng)用已不再使用真空管道，但模擬計(jì)算卻仍然在被使用并且發(fā)展勢(shì)頭良好。

模擬計(jì)算和數(shù)字計(jì)算二者間沒(méi)有切確的分別。一般來(lái)說(shuō)，數(shù)字計(jì)算處理的是整數(shù)、二進(jìn)制序列、確定性的邏輯以及在理想狀況下以離散增量形式存在的時(shí)間，而模擬計(jì)算處理的則是實(shí)數(shù)、非確定性邏輯以及連續(xù)函數(shù)，包括現(xiàn)實(shí)世界中作為「連續(xù)統(tǒng)」（ continuum）存在的時(shí)間。

想象一下，如果你需要找到一條路的中點(diǎn)。你可以使用任何可用的增量來(lái)測(cè)量它的寬度，然后用數(shù)字計(jì)算計(jì)算出中點(diǎn)到最近的增量的距離?；蛘吣憧梢园岩欢巫址?dāng)做模擬計(jì)算機(jī)使用，將路的寬度映射到字符串的長(zhǎng)度上，然后通過(guò)將字符串的長(zhǎng)度延長(zhǎng)一倍，從而在字符串自身上找到中點(diǎn)的位置，而無(wú)需受到增量的限制。

許多系統(tǒng)可以跨模擬和數(shù)字環(huán)境操作。一棵「樹(shù)」集成了各種各樣的連續(xù)函數(shù)形式的輸入，但是如果你深入剖析這棵樹(shù)，你會(huì)發(fā)現(xiàn)它一直在以數(shù)字計(jì)算年份。

在模擬計(jì)算中，復(fù)雜的是網(wǎng)絡(luò)拓?fù)洌皇谴a。信息被處理成連續(xù)值函數(shù)（如電壓和相對(duì)脈沖頻率），而不是通過(guò)對(duì)位的離散字符串做邏輯運(yùn)算進(jìn)行處理。數(shù)字計(jì)算不能出現(xiàn)錯(cuò)誤或歧義，因而它非常依賴(lài)于在每一個(gè)步驟中的錯(cuò)誤糾正（校驗(yàn)）機(jī)制。而模擬計(jì)算則允許出現(xiàn)錯(cuò)誤，計(jì)算可以與錯(cuò)誤并存。

不理解某樣?xùn)|西，也完全有可能構(gòu)建出它。

自然界萬(wàn)物使用數(shù)字編碼來(lái)存儲(chǔ)、復(fù)制和重組核苷酸序列，但是要想實(shí)現(xiàn)智能和控制，就需要依賴(lài)于在神經(jīng)系統(tǒng)上運(yùn)行的模擬計(jì)算。每個(gè)活細(xì)胞的基因系統(tǒng)就是一個(gè)存儲(chǔ)程序的計(jì)算機(jī)，而大腦卻不是。

數(shù)字計(jì)算機(jī)會(huì)在兩類(lèi)比特之間進(jìn)行轉(zhuǎn)換：表示空間差異的比特和表示時(shí)間差異的比特。序列和結(jié)構(gòu)這兩種信息形式之間的轉(zhuǎn)換是通過(guò)計(jì)算機(jī)編程控制的，只要計(jì)算機(jī)還需要人類(lèi)程序員來(lái)編程，我們就能保持對(duì)它們的控制權(quán)。

模擬計(jì)算機(jī)還可以在兩種信息形式之間進(jìn)行轉(zhuǎn)換：空間結(jié)構(gòu)和時(shí)間行為。這種轉(zhuǎn)換不需要代碼，也不需要編程。然而，我們并不完全理解自然界是如何進(jìn)化出被稱(chēng)為神經(jīng)系統(tǒng)的模擬計(jì)算機(jī)的，神經(jīng)系統(tǒng)包含了從現(xiàn)實(shí)世界汲取的信息，并對(duì)這些信息進(jìn)行學(xué)習(xí)。它們學(xué)到的東西之一就是控制。它們學(xué)著控制自己的行為，并盡可能地控制周?chē)軌蚩刂频降沫h(huán)境。

在實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)方面，計(jì)算機(jī)科學(xué)有著悠久的歷史（甚至可以追溯到計(jì)算機(jī)科學(xué)出現(xiàn)之前），但在很大程度上，這些工作都是通過(guò)數(shù)字計(jì)算機(jī)對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行的模擬，而不是自然界在原始環(huán)境下演化出來(lái)的神經(jīng)網(wǎng)絡(luò)。不過(guò)這種情況正開(kāi)始發(fā)生變化：自下往上來(lái)說(shuō)，無(wú)人機(jī)、自動(dòng)駕駛汽車(chē)和手機(jī)的三重驅(qū)動(dòng)力推動(dòng)了神經(jīng)形態(tài)微處理器的發(fā)展，這種微處理器實(shí)現(xiàn)了真正的神經(jīng)網(wǎng)絡(luò)，而不是直接在硅（和其它可能的基質(zhì)）上模擬神經(jīng)網(wǎng)絡(luò)；自上往下而言，我們最大和最成功的企業(yè)在滲透和控制環(huán)境的過(guò)程中，正越來(lái)越多地轉(zhuǎn)向使用模擬計(jì)算。

當(dāng)我們討論數(shù)字計(jì)算機(jī)的智能化時(shí)，模擬計(jì)算正悄然取代數(shù)字計(jì)算，方式就跟二戰(zhàn)后真空管等模擬元件被重新設(shè)計(jì)用以制造數(shù)字計(jì)算機(jī)如出一轍。在現(xiàn)實(shí)世界中，各個(gè)運(yùn)行有限代碼的確定性有限狀態(tài)處理器正在形成大規(guī)模的、不確定性的、非有限狀態(tài)的「多細(xì)胞動(dòng)物」生物體。就像電子流在真空管中被處理一樣，由此產(chǎn)生的混合模擬/數(shù)字系統(tǒng)會(huì)共同處理比特流，而不是由產(chǎn)生比特流的離散狀態(tài)的設(shè)備單獨(dú)處理比特。比特就是新型的電子。這樣的話(huà)，模擬又重新得以應(yīng)用，并且它的本質(zhì)屬性就是奪取控制權(quán)。

這些系統(tǒng)控制著從商品流到交通流再到思想流的一切事物，它們以統(tǒng)計(jì)的方式進(jìn)行操作，就像脈沖頻率編碼的信息在神經(jīng)元或大腦中進(jìn)行處理一樣。智能的出現(xiàn)引起了智人（人類(lèi)）的注意力，但是我們應(yīng)該擔(dān)心的是控制的出現(xiàn)。

想象一下，假如現(xiàn)在是 1958 年，你正試圖保衛(wèi)美國(guó)大陸免受空中襲擊。為了區(qū)分?jǐn)硻C(jī)，除了計(jì)算機(jī)網(wǎng)絡(luò)和預(yù)警雷達(dá)站，你還需要一張實(shí)時(shí)更新所有商業(yè)空中航線(xiàn)的交通地圖。當(dāng)時(shí)美國(guó)建立了一個(gè)這樣的系統(tǒng)，并將其命名為 SAGE（半自動(dòng)地面防空警備系統(tǒng)）。SAGE接著又催生了第一個(gè)用于實(shí)時(shí)預(yù)訂航空旅程的綜合預(yù)訂系統(tǒng) Sabre。Sabre 和它的后續(xù)產(chǎn)品很快就不僅僅是一張顯示可選擇的座位的地圖，而是開(kāi)始成為具有去中心化智能的自動(dòng)控制系統(tǒng)，能夠控制飛機(jī)將在何時(shí)飛往何處。

但這里是否仍然存在一個(gè)人為進(jìn)行控制的控制室呢？也許沒(méi)有。比如說(shuō)，你可以通過(guò)僅讓車(chē)輛訪(fǎng)問(wèn)地圖，并將其實(shí)時(shí)速度和位置反饋給地圖，來(lái)建立一個(gè)可以實(shí)時(shí)繪制高速公路交通路況的系統(tǒng)。最終，你可以得到的是一個(gè)完全去中心化的控制系統(tǒng)。而除了系統(tǒng)本身，不存在任何系統(tǒng)控制模型。

想象一下，在 21 世紀(jì)的第一個(gè)十年中，你想要實(shí)時(shí)跟蹤人際關(guān)系的復(fù)雜性。針對(duì)一所規(guī)模較小的學(xué)院里面的社交生活，你可以建立一個(gè)中心數(shù)據(jù)庫(kù)并使其保持更新，但如果學(xué)校擴(kuò)大規(guī)模，其維護(hù)工作就會(huì)超出你的控制能力。你最好能夠?qū)⒁粋€(gè)簡(jiǎn)單的半自動(dòng)化代碼的免費(fèi)副本分發(fā)出去，在本地托管這些副本，并讓社交網(wǎng)絡(luò)自行更新。該代碼將由數(shù)字計(jì)算機(jī)執(zhí)行，但是模擬計(jì)算要由系統(tǒng)執(zhí)行，因?yàn)樗恼麄€(gè)計(jì)算的復(fù)雜度要遠(yuǎn)超過(guò)底層代碼。由此產(chǎn)生社交網(wǎng)絡(luò)圖的脈沖頻率編碼模型最終會(huì)變成社交網(wǎng)絡(luò)圖。它會(huì)在校園里廣泛傳播，然后傳遍全世界。

計(jì)算機(jī)領(lǐng)域的下一次革命的標(biāo)志將是模擬系統(tǒng)的崛起，而數(shù)字化編程不再具有統(tǒng)治地位。

如果你想要開(kāi)發(fā)一臺(tái)機(jī)器來(lái)掌握人類(lèi)所已知的一切知識(shí)，這意味著什么？有了摩爾定律的支持，將世界上所有的信息數(shù)字化并不需要太長(zhǎng)的時(shí)間。你可以?huà)呙杳恳槐居∷⒑玫臅?shū)，收集每一封寫(xiě)好的電子郵件，每 24 小時(shí)就能收集 49 年間拍攝的視頻，同時(shí)實(shí)時(shí)跟蹤人們?cè)谀睦?，他們?cè)谧鍪裁础５?，你如何理解這一切的「意義」?

即使是在萬(wàn)物數(shù)字化的時(shí)代，這也不能以任何嚴(yán)格的邏輯意義來(lái)定義，因?yàn)閷?duì)于人類(lèi)來(lái)說(shuō)，「意義」從根本上來(lái)說(shuō)是不合邏輯的。一旦你收集了所有可能的答案，你能做的最好的事情，就是提出一些被很好地定義了的問(wèn)題，并編制一個(gè)描述所有事物之間聯(lián)系的脈沖頻率加權(quán)的映射。在你弄清楚問(wèn)題的答案之前，你的系統(tǒng)將不僅僅是觀(guān)察和映射事物的意義，它也將開(kāi)始「構(gòu)建」意義。隨著時(shí)間的推移，它將「控制」意義的定義，這就像是如果看上去沒(méi)有人在控制交通流，交通地圖系統(tǒng)就會(huì)開(kāi)始控制一樣。

人工智能領(lǐng)域有三條定律：

第一定律被稱(chēng)為阿什比定律（Ashby'slaw），該定律由《大腦的設(shè)計(jì)》（Design for a Brain）一書(shū)的作者、控制論科學(xué)家 W.Ross Ashby 提出，他認(rèn)為任何有效的控制系統(tǒng)都必須和它所控制的系統(tǒng)一樣復(fù)雜。

第二定律由馮諾依曼提出。它指出，一個(gè)復(fù)雜系統(tǒng)的定義特征是，它構(gòu)成了自身最簡(jiǎn)單的行為描述。有機(jī)體最簡(jiǎn)單的完整模型就是有機(jī)體本身。任何試圖將系統(tǒng)的行為簡(jiǎn)化為正式的描述的做法，都會(huì)使事情變得更復(fù)雜，而不是更簡(jiǎn)單。

第三條定律指出，任何足夠簡(jiǎn)單易懂的系統(tǒng)都不會(huì)復(fù)雜到能夠?qū)崿F(xiàn)智能化的行為，而任何足夠復(fù)雜到實(shí)現(xiàn)智能化行為的系統(tǒng)都會(huì)復(fù)雜到難以理解。

對(duì)于那些相信「在我們理解智能之前，我們不必?fù)?dān)心機(jī)器產(chǎn)生超人類(lèi)的智能」的人來(lái)說(shuō)，第三定律為他們帶來(lái)了慰藉。但是第三定律中存在一個(gè)漏洞，因?yàn)槟阃耆锌赡茉诓涣私饽承〇|西的情況下去創(chuàng)建它。你不需要完全了解大腦是如何工作的，就可以創(chuàng)建一個(gè)可以使用的大腦模型。這確實(shí)是一個(gè)程序員和他們的道德顧問(wèn)對(duì)算法進(jìn)行再多的監(jiān)管也無(wú)法彌補(bǔ)的漏洞。能夠被證明的「好的」人工智能還是一個(gè)神話(huà)。我們與真正的人工智能的關(guān)系將永遠(yuǎn)是一個(gè)信仰（唯心）的問(wèn)題，而不是證明（唯物）的問(wèn)題。

我們過(guò)于關(guān)注機(jī)器的智能，對(duì)自我再生、通信和控制等問(wèn)題卻不夠重視。計(jì)算機(jī)領(lǐng)域的下一次革命的標(biāo)志將是模擬系統(tǒng)的崛起，而數(shù)字化編程不再具有統(tǒng)治地位。對(duì)于那些相信自己可以制造出一臺(tái)能控制一切的機(jī)器的人來(lái)說(shuō)，自然界的反應(yīng)將會(huì)是：讓他們制造一臺(tái)機(jī)器來(lái)控制他們自己吧。

本文出自 John Brockman 編輯的《POSSIBLE MINDS: Twenty-Five Ways of Looking at AI 》 一書(shū)。