計(jì)算機(jī)的思考能力即將追上人類，而且我們很快就會(huì)見證這樣的未來。日益強(qiáng)大的機(jī)器學(xué)習(xí)算法，讓人類備感壓力。在接下來的幾十年內(nèi)，機(jī)器就會(huì)擁有與人類旗鼓相當(dāng)?shù)闹悄埽鼈兛梢哉f話和推理，并且會(huì)對(duì)經(jīng)濟(jì)和政治貢獻(xiàn)良多，無可避免也會(huì)涉及軍事戰(zhàn)略。人工智能（AI）的誕生將會(huì)深刻影響人類的未來，甚至包括人類究竟有沒有未來。

以下摘錄的文字，就是很好的例子：

“From the time the last great artificial intelligence breakthroughwas reached in the late 1940s, scientists around the world have looked for waysof harnessing this ‘a(chǎn)rtificial intelligence’ to improve technology beyond whateven the most sophisticated of today’s artificialintelligence programs can achieve.”（「自1940年代晚期人工智能發(fā)展的最后一次大突破之后，世界各地的科學(xué)家開始尋找方法來操控所謂的『人工智能』，以改善科技來達(dá)成目前最先進(jìn)的人工智能所做不到的事。」）

“Even now, research is ongoing to better understand what the new AIprograms will be able to do, while remaining within the bounds of today’sintelligence. Most AI programs currently programmed have been limited primarilyto making simple decisions or performing simple operations on relatively smallamounts of data.”（「即使是現(xiàn)在，科學(xué)研究仍在我們有限的智能范圍內(nèi)，試圖進(jìn)一步理解新型態(tài)人工智能的能力。目前大多數(shù)人工智能計(jì)劃只局限在使用相對(duì)少量的數(shù)據(jù)來提出簡(jiǎn)單的決策或執(zhí)行簡(jiǎn)易的動(dòng)作?！梗?/p>

上述兩段文字是2019年夏天我測(cè)試語言機(jī)器人GTP-2時(shí)，由它撰寫出來的。GTP-2由美國圣地亞哥的機(jī)構(gòu)OpenAI所研發(fā)，該機(jī)構(gòu)致力推廣對(duì)社會(huì)有益的人工智能。GTP-2采用機(jī)器學(xué)習(xí)去計(jì)算一個(gè)看似呆板的作業(yè)：當(dāng)它接收到某個(gè)隨意的起始句子時(shí)，必須預(yù)測(cè)下一個(gè)字是什么。GTP-2沒有被教導(dǎo)以人類的方式「理解」文字，相反地，它在訓(xùn)練時(shí)只是不斷改變仿真網(wǎng)絡(luò)中的內(nèi)部鏈接，以預(yù)測(cè)出下一個(gè)最可能出現(xiàn)的字（以及再下一個(gè)字等后續(xù)文字）。經(jīng)過來自800萬個(gè)網(wǎng)頁上的文字訓(xùn)練后，GTP-2總共產(chǎn)生了超過10億個(gè)類似突觸（連結(jié)神經(jīng)細(xì)胞的接觸點(diǎn)）的連結(jié)。當(dāng)我輸入上述兩段文字開頭的幾句話之后，GTP-2就輸出了這些內(nèi)容，看起來有點(diǎn)像大學(xué)部新生試圖回想，自己心不在焉修習(xí)機(jī)器學(xué)習(xí)基礎(chǔ)課程時(shí)給出的簡(jiǎn)述。這些內(nèi)容的用字遣詞都正確，的確相當(dāng)不錯(cuò)！而且當(dāng)我再次輸入相同的起始語句，GTP-2還會(huì)產(chǎn)生不一樣的內(nèi)容。

未來新一代的這類機(jī)器人將會(huì)產(chǎn)生許多「深度造假」（deep fake）的產(chǎn)品評(píng)論和新聞故事，讓因特網(wǎng)的信息更加混亂。于是，機(jī)器人除了能操控實(shí)時(shí)戰(zhàn)略游戲星海爭(zhēng)霸、進(jìn)行翻譯、為個(gè)人推薦書和電影，以及在照片和影片中辨識(shí)人們的身分，現(xiàn)在又有一項(xiàng)我們?cè)疽詾橹挥腥祟惒庞械哪芰?，機(jī)器人也具備了。

雖然機(jī)器學(xué)習(xí)仍需更加精進(jìn)才能寫出像普魯斯特（Marcel Proust）《追憶逝水年華》（In Search of Lost Time）那樣細(xì)膩連貫的巨作，但一切指日可待。還記得以前的計(jì)算機(jī)操控電玩、進(jìn)行翻譯和計(jì)算機(jī)語音都非常笨拙且遭人鄙視，因?yàn)樗鼈兠黠@缺乏技巧且功能粗糙。但是深度神經(jīng)網(wǎng)絡(luò)（deep neural network）的發(fā)明以及科技業(yè)大規(guī)模的計(jì)算基礎(chǔ)設(shè)施支持，讓計(jì)算機(jī)無止盡快速進(jìn)步，人類再也笑不出來。在圍棋、西洋棋和撲克牌，我們已看到這些算法擊敗人類，而當(dāng)下我們?cè)镜挠樞D(zhuǎn)變成驚愕。我們是否就像歌德（Goethe）筆下的魔法師學(xué)徒，已召喚出無法掌控的強(qiáng)大精靈？

人工意識(shí)誕生？

雖然專家對(duì)于智慧（無論是自然或人工）的定義尚有爭(zhēng)論，但是大多數(shù)人都認(rèn)為計(jì)算機(jī)遲早會(huì)具備所謂的通用人工智能（artificial general intelligence，和人類能力相當(dāng)?shù)娜斯ぶ悄埽ｊP(guān)于機(jī)器智慧（machine intelligence）的研究讓我們對(duì)一些問題充滿好奇：具有通用人工智能的機(jī)器人會(huì)不會(huì)有任何感受？可程序化的計(jì)算機(jī)究竟有沒有意識(shí)？

這里說的「意識(shí)」，我指的是任何一個(gè)經(jīng)驗(yàn)中的內(nèi)在質(zhì)感，例如巧克力榛果醬的可口味道、蛀牙時(shí)的尖銳刺痛、無聊時(shí)的緩慢時(shí)間感或是競(jìng)賽開始前的沖勁與焦躁。根據(jù)哲學(xué)家納格爾（Thomas Nagel）的說法，如果某個(gè)系統(tǒng)（事物）會(huì)有某種感受，那該系統(tǒng)（事物）就有意識(shí)。

比方說，當(dāng)你在社交場(chǎng)合失禮而覺得不好意思時(shí)，原本想要講笑話卻變成羞辱對(duì)方時(shí)，計(jì)算機(jī)能否經(jīng)驗(yàn)到這種不安的情緒？當(dāng)你在電話一端等了好幾分鐘，然后聽到了「抱歉讓您久等」的合成語音時(shí)，那個(gè)產(chǎn)生語音的軟件是否真的因?yàn)閷?duì)你服務(wù)不周而感到愧疚？

一般認(rèn)為人類的智慧與經(jīng)驗(yàn)是大腦自然的運(yùn)作結(jié)果，而不是什么超自然現(xiàn)象。這個(gè)假設(shè)在過去幾世紀(jì)來，對(duì)人類探索世界并推動(dòng)科學(xué)進(jìn)展大有幫助。重約1.4公斤、看似豆腐的人類大腦是目前已知宇宙中最復(fù)雜的生物組織，盡管如此，人類大腦仍然必須遵循物理定律，就像狗、樹和恒星等事物一樣，沒有任何事物是例外。目前仍不清楚大腦的因果力（causal power）從何而來，但是我們每天都會(huì)經(jīng)驗(yàn)到這些大腦活動(dòng)：當(dāng)你看見顏色，大腦皮質(zhì)中會(huì)有一群神經(jīng)細(xì)胞活化，當(dāng)你感到快樂，另一腦區(qū)的神經(jīng)細(xì)胞會(huì)激發(fā)。當(dāng)神經(jīng)外科醫(yī)生在這些神經(jīng)細(xì)胞植入電極并給予刺激，受試者就會(huì)看見顏色或發(fā)出笑聲。相反地，當(dāng)大腦因麻醉而關(guān)機(jī)時(shí)，這些經(jīng)驗(yàn)就會(huì)消失。

那么根據(jù)這些廣為接受的基本假設(shè)，真實(shí)的人工智能在演化之后，究竟是否會(huì)出現(xiàn)人工意識(shí)（artificial consciousness）？

思考這個(gè)問題之后，我們必然面臨一個(gè)岔路，分別通向兩個(gè)在本質(zhì)上迥異的終點(diǎn)。從《銀翼殺手》、「云端情人」和「人造意識(shí)」等科幻小說和電影中，我們可以看到這個(gè)時(shí)代的精神體現(xiàn)：真實(shí)的智慧機(jī)器將堅(jiān)決往具有意識(shí)的方向邁進(jìn)，它們能說話、推理、自我監(jiān)控并內(nèi)省，也因此它們將有意識(shí)。

「全腦工作平臺(tái)」（global neuronal workspace theory, GNW）是直接表明未來世界將通往此方向的最佳代表理論，也是目前受歡迎的意識(shí)科學(xué)理論之一。這個(gè)理論以大腦為出發(fā)點(diǎn)，主張腦中的某些特定結(jié)構(gòu)特征就是產(chǎn)生意識(shí)的基礎(chǔ)。

此理論可追溯至1970年代計(jì)算機(jī)科學(xué)中的「黑板架構(gòu)」（blackboard architecture）：有專門的程序會(huì)擷取「黑板」或「中央工作平臺(tái)」（一種共享信息庫）中的訊息。心理學(xué)家認(rèn)為，這種訊息處理方式也存在人腦中，而且是人類認(rèn)知的關(guān)鍵核心，它的容量很小，因此每個(gè)時(shí)刻只能容納單一知覺、思想或記憶，新訊息會(huì)和舊訊息競(jìng)爭(zhēng)并取而代之。

法國法蘭西公學(xué)院認(rèn)知神經(jīng)科學(xué)家狄昂（Stanislas Dehaene）和分子生物學(xué)家尚則（Jean-Pierre Changeux）認(rèn)為，GNW的神經(jīng)基礎(chǔ)可能就存在于大腦皮質(zhì)結(jié)構(gòu)中，也就是灰質(zhì)最外層。大腦皮質(zhì)是兩片被擠壓在頭顱中受到保護(hù)的高度皺褶組織，左右腦各有一片，體積和厚度就和14吋披薩差不多。狄昂和尚則主張，中央工作平臺(tái)是由一群錐體神經(jīng)元（pyramidal neuron）所形成的神經(jīng)網(wǎng)絡(luò)和遠(yuǎn)程的皮質(zhì)區(qū)相連而成，特別是前額葉、頂顳葉以及位于中線的扣帶聯(lián)合皮質(zhì)區(qū)。

有許多局部的大腦活動(dòng)并不經(jīng)由中央工作平臺(tái)，因此不會(huì)被意識(shí)察覺到，例如控制凝視方向的模塊（我們幾乎不會(huì)注意這項(xiàng)活動(dòng)），或是調(diào)控身體姿勢(shì)的模塊。但是當(dāng)一個(gè)或多個(gè)腦區(qū)中的活動(dòng)超過了門坎，例如當(dāng)我們看到一罐巧克力榛果醬的照片時(shí)，就會(huì)啟動(dòng)神經(jīng)反應(yīng)，然后一連串的神經(jīng)活動(dòng)會(huì)傳遞至中央工作平臺(tái)并傳遍整個(gè)大腦中的相關(guān)腦區(qū)。這樣的訊息處理結(jié)果會(huì)讓許多相關(guān)的認(rèn)知?dú)v程（包括語言、計(jì)劃、報(bào)償回饋、長期記憶提取以及短期記憶緩沖儲(chǔ)存）也能擷取其中的信息。這種全腦廣播的方式就是訊息進(jìn)入意識(shí)狀態(tài)的關(guān)鍵。巧克力榛果醬讓我們產(chǎn)生獨(dú)特意識(shí)經(jīng)驗(yàn)的歷程，就是訊息先由錐體神經(jīng)元傳向動(dòng)作計(jì)劃腦區(qū)，接著促使我們?nèi)ツ脺淄谌。瑫r(shí)其他的腦區(qū)模塊則送出訊息讓我們開始期待報(bào)償，因?yàn)槲覀兗磳⒊韵虑煽肆﹂还u的高脂肪和高糖份而產(chǎn)生大量的多巴胺。

意識(shí)經(jīng)驗(yàn)就是工作平臺(tái)算法在處理相關(guān)感官輸入、動(dòng)作輸出，以及各種與記憶、動(dòng)機(jī)和預(yù)期有關(guān)的內(nèi)在變因時(shí)產(chǎn)生的。全腦訊息處理就是產(chǎn)生意識(shí)的關(guān)鍵。GNW敞開雙手擁抱幾近無止盡運(yùn)算能力的當(dāng)代神話：只需在計(jì)算時(shí)加入某些巧妙設(shè)計(jì)，意識(shí)就會(huì)浮現(xiàn)。

遵循物理定律的內(nèi)在因果力

另一條路則是「整合訊息理論」（integrated information theory, IIT），透過一種較為基礎(chǔ)的方式來解釋意識(shí)。

美國威斯康辛大學(xué)麥迪遜分校的精神科醫(yī)師兼神經(jīng)科學(xué)家托諾尼（Giulio Tononi）是IIT的主要?jiǎng)?chuàng)建者，我和其他人也有一些貢獻(xiàn)。此理論從意識(shí)經(jīng)驗(yàn)出發(fā)，進(jìn)一步探討突觸回路的活動(dòng)如何決定一個(gè)意識(shí)經(jīng)驗(yàn)的「感受」。整合訊息是一種數(shù)學(xué)計(jì)算結(jié)果，可用來量化某一機(jī)制擁有多少「內(nèi)在因果力」。例如神經(jīng)細(xì)胞透過動(dòng)作電位來影響經(jīng)由突觸所連結(jié)的下游神經(jīng)細(xì)胞，這就是一種型式的機(jī)制；由晶體管、電容、電阻和電線所構(gòu)成的電子回路也是。

內(nèi)在因果力并非虛無縹緲的事物，任何一個(gè)系統(tǒng)的內(nèi)在因果力都可被精確計(jì)算出來。一個(gè)系統(tǒng)當(dāng)下狀態(tài)涉及越多因（輸入）與果（輸出）時(shí)，因果力就越高。

IIT主張，任何擁有內(nèi)在因果力（其狀態(tài)會(huì)受過去影響并可改變未來）的機(jī)制都有意識(shí)；而一個(gè)系統(tǒng)的整合訊息量越大，該系統(tǒng)的意識(shí)程度就越高。整合訊息量用希臘字母Φ來表示（念做fi，可以是零或正值），如果某個(gè)系統(tǒng)沒有內(nèi)在因果力，其Φ值就是零，就不會(huì)有任何感受。

由于大腦皮質(zhì)中的神經(jīng)細(xì)胞彼此差異大，而且輸入和輸出的鏈接高密度重合，因此整合訊息量很大。IIT已經(jīng)讓研究人員產(chǎn)生了「意識(shí)測(cè)量儀」的想法，并正在臨床上加以測(cè)試，這個(gè)方法將可用來判定植物人、處于最小意識(shí)狀態(tài)的病人、麻醉下的受試者或閉鎖（locked-in）癥候群的病人是否有意識(shí)但只是無法溝通，或只「剩下軀殼」。當(dāng)我們分析可程序化數(shù)字計(jì)算機(jī)的因果力時(shí)，發(fā)現(xiàn)其硬件部件（晶體管、電線和二極管等用來計(jì)算的物理組件）的內(nèi)在因果力和Φ值很低。此外，計(jì)算機(jī)的Φ值與處理器上正在執(zhí)行的軟件無關(guān)，不論是在計(jì)算稅金還是模擬大腦都沒有差別。

確實(shí)有證據(jù)支持IIT：就算兩個(gè)網(wǎng)絡(luò)擁有同樣的輸入和輸出，但只要兩個(gè)網(wǎng)絡(luò)的結(jié)構(gòu)不同，Φ值就會(huì)不同；其中一個(gè)網(wǎng)絡(luò)可能Φ值為零，另一個(gè)卻可能具有很高的Φ值，雖然表面看來兩個(gè)網(wǎng)絡(luò)的反應(yīng)都一樣，但是一個(gè)網(wǎng)絡(luò)有感覺，另一個(gè)卻像殭尸一樣沒有任何感覺，差別其實(shí)是隱藏在臺(tái)面下的，也就是存在于網(wǎng)絡(luò)的內(nèi)在鏈接中。簡(jiǎn)言之，意識(shí)和存在（being）的本質(zhì)有關(guān)，而與你做了什么（doing）無關(guān)。

這兩個(gè)理論的差異在于，GNW強(qiáng)調(diào)以人腦的功能來解釋意識(shí)，IIT則認(rèn)為大腦的內(nèi)在因果力才是真正的關(guān)鍵。

透過大腦中的神經(jīng)連結(jié)組（connectome），也就是整個(gè)神經(jīng)系統(tǒng)中確切的突觸連結(jié)方式，我們就可以進(jìn)一步發(fā)現(xiàn)兩個(gè)理論的預(yù)測(cè)差異。解剖學(xué)家已繪制了一些蠕蟲的神經(jīng)連結(jié)組，現(xiàn)正繪制果蠅的神經(jīng)連結(jié)組，未來10年內(nèi)將挑戰(zhàn)小鼠。或許未來將有機(jī)會(huì)，在一個(gè)人死后以極精細(xì)的方式掃描其腦中約千億個(gè)神經(jīng)細(xì)胞和千兆個(gè)突觸，然后利用量子機(jī)器等先進(jìn)計(jì)算機(jī)進(jìn)行仿真。如果模擬的真確度夠高，我們將看到它醒來，而且行為就像已故之人的數(shù)字活動(dòng)模型：它能說話、提取記憶、有欲望、恐懼以及其他各種特質(zhì)。

GNW主張，仿真大腦的功能就足以產(chǎn)生意識(shí)，若真如此，上述的模擬人類就有意識(shí)，等于是在計(jì)算機(jī)中重新轉(zhuǎn)生。在許多科幻題材中，我們都可以看到這種把神經(jīng)連結(jié)組上傳到云端，好讓人類能透過數(shù)字型式來延續(xù)生命。

IIT則對(duì)此情境提出了全然不同的詮釋：上述數(shù)字活動(dòng)模型的內(nèi)在感受，其實(shí)和花俏日式馬桶上的軟件程序差不多，兩者都不會(huì)有任何感受經(jīng)驗(yàn)。它的行動(dòng)和人類很像，但不會(huì)有任何內(nèi)在感受，它就是一個(gè)殭尸（但不會(huì)想吃人）。這是一種極致的深度造假。

若要產(chǎn)生意識(shí)，就需要有內(nèi)在因果力。這些因果力無法模擬，只能存在于物理系統(tǒng)的部件與機(jī)制中。

如果想知道為什么模擬仍不足以產(chǎn)生意識(shí)，你可以思考一下，為什么仿真暴雨天氣的計(jì)算機(jī)系統(tǒng)中不會(huì)下雨？或是為什么天文物理學(xué)家可以模擬強(qiáng)大的黑洞重力，卻不用擔(dān)心計(jì)算機(jī)周圍會(huì)出現(xiàn)時(shí)空扭曲并吞噬一切？答案就在于：模擬并不具有因果力，所以不會(huì)產(chǎn)生降雨，也不會(huì)造成時(shí)空扭曲。不過原則上來說，我們應(yīng)該可以超越仿真，并根據(jù)神經(jīng)系統(tǒng)的真實(shí)結(jié)構(gòu)來建造類神經(jīng)的硬件以產(chǎn)生意識(shí)。

關(guān)于上述的模擬爭(zhēng)論，兩個(gè)理論還有一些差異。對(duì)于大腦皮質(zhì)中究竟哪些區(qū)域會(huì)產(chǎn)生特定意識(shí)（例如意識(shí)的核心位置應(yīng)該在皮質(zhì)前方還是后方），兩個(gè)理論有不同預(yù)測(cè)。來自美國、歐洲和中國的六個(gè)實(shí)驗(yàn)室獲得鄧普頓世界慈善基金會(huì)500萬美元的資助，科學(xué)家將透過大型合作計(jì)劃來測(cè)試這些不同的理論預(yù)測(cè)。

機(jī)器究竟能否產(chǎn)生意識(shí)，將衍生重要的道德議題。如果計(jì)算機(jī)可以透過自己的感官來經(jīng)驗(yàn)世界和生命，那它們就不再只是人類眼中的實(shí)用工具。它們本身的存在就有意義。

GNW認(rèn)為，這些仿真機(jī)器人將從物體轉(zhuǎn)變成主體，每個(gè)主體都將以擁有自我觀點(diǎn)的「我」的方式存在。在電視影集「黑鏡」和「西方極樂園」中，我們看到了發(fā)人省思的兩難情境：當(dāng)計(jì)算機(jī)的認(rèn)知能力追上人類時(shí)，就會(huì)產(chǎn)生強(qiáng)大動(dòng)機(jī)去爭(zhēng)取法律和政治權(quán)利，包括數(shù)據(jù)不被刪除、記憶不被抹滅，以及不受苦和不受屈辱。相較之下IIT則認(rèn)為，計(jì)算機(jī)將只是極度精致的機(jī)器，宛如游蕩的空殼，永遠(yuǎn)不會(huì)擁有我們最重視的事物：對(duì)于生命的感受經(jīng)驗(yàn)。

審核編輯 ：李倩