來源：搜狐

本文作者亨利·基辛格（Henry Alfred Kissinger）為原美國國家安全顧問，先后擔(dān)任尼克松與福特政府的國務(wù)卿。他因?yàn)榇俪闪酥忻狸P(guān)系正?；癁橹袊嗣袷熘?。本文出自《大西洋月刊》（The Atlantic）。

基辛格從一位政治和歷史學(xué)者以及一位政治家的角度，從互聯(lián)網(wǎng)時代，數(shù)據(jù)對人類的影響談到社交媒體帶來的信息泛濫，大眾缺乏深度的思考，從而引申出對人工智能發(fā)展的擔(dān)憂。提出關(guān)注人工智能的價值觀、思維過程、意識形態(tài)的塑造等，呼吁關(guān)注技術(shù)與人文經(jīng)驗(yàn)相結(jié)合，共同應(yīng)對未來的發(fā)展。

無論從哲學(xué)上還是人類智慧發(fā)展上，我們真的準(zhǔn)備好迎接人工智能了么？

三年前，在一個有關(guān)跨大西洋問題的會議上，人工智能問題出現(xiàn)在議程中。我本來幾乎要跳過那次會議，因?yàn)樗隽宋移匠ＫP(guān)心的范圍。但演講已經(jīng)開始，我不得不在座位聽下去。

首先，演講者描述了一個計算機(jī)程序的工作原理，并表示這個程序很快將在圍棋比賽中挑戰(zhàn)國際冠軍。我很驚訝計算機(jī)竟然可以掌握比國際象棋更復(fù)雜的圍棋。

事實(shí)上，在演講結(jié)束后的幾個月里，一個名為AlphaGo的人工智能程序?qū)氐讚魯×耸澜缟献顐ゴ蟮膰暹x手。

當(dāng)我聽到演講者在慶祝這一技術(shù)進(jìn)步時，作為一名歷史學(xué)家和半個政治家，我陷入了沉思。

什么會影響機(jī)器學(xué)習(xí)的歷史呢？

機(jī)器通過特定的過程獲取知識，他們能將這些知識應(yīng)用于人類都不擅長的領(lǐng)域嗎？這些機(jī)器能學(xué)會彼此交流嗎? 如何在新興的選項中做出抉擇?人類歷史是否有可能走上印加人的道路？一系列的問題讓我懷疑我們是否處在人類歷史新階段的邊緣?

意識到自己在這一領(lǐng)域的技術(shù)能力不足，我組織在一些在技術(shù)和人文領(lǐng)域的老朋友進(jìn)行了一次非正式對話。很多觀點(diǎn)讓我對人工智能越來越感興趣。

迄今為止，最能體現(xiàn)出改變了現(xiàn)代歷史進(jìn)程的技術(shù)應(yīng)該是15世紀(jì)印刷機(jī)的發(fā)明了吧，它促進(jìn)了人類對經(jīng)驗(yàn)知識的探索取代了禮拜儀式的教條，理性的時代逐漸取代了宗教的時代。

個人見解和科學(xué)知識取代了信仰，成為人類意識覺醒的主要標(biāo)準(zhǔn)。知識在不斷拓展的信息庫中得以存儲和系統(tǒng)化。

理性時代便起源于這塑造當(dāng)時世界秩序的思想和行動之中。

但是，在一場新的、更為徹底的技術(shù)革命中，這種秩序正處于動蕩之中。

我們未能充分考慮到這場革命的后果，這場革命的高潮可能是一個依賴于數(shù)據(jù)和算法驅(qū)動的機(jī)器、不受道德或哲學(xué)規(guī)范約束的世界。

互聯(lián)網(wǎng)時代 數(shù)據(jù)的奴隸

在互聯(lián)網(wǎng)時代，人工智能只會讓一些問題變得更加尖銳。

啟蒙運(yùn)動試圖把傳統(tǒng)的真理交給解放的、善于分析的理性人。而互聯(lián)網(wǎng)則是通過不斷積累和被操控數(shù)據(jù)來傳播知識，人類的認(rèn)知失去了個性。

我們使用數(shù)據(jù)，卻變成了數(shù)據(jù)的奴隸。

互聯(lián)網(wǎng)用戶強(qiáng)調(diào)檢索和操縱信息，而不是將信息的意義進(jìn)行情境化或概念化。很少有人搜索歷史或哲學(xué)。

一般來說，大家搜索與實(shí)際需求相關(guān)的信息。在這個過程中，搜索引擎算法獲得了預(yù)測個人偏好的能力，從而使算法能夠?qū)Y(jié)果進(jìn)行個性化處理，并將結(jié)果提供給第三方用于政治或商業(yè)目的。

社交媒體信息泛濫，卻缺少深度的思考

許多技術(shù)愛好者只是使用互聯(lián)網(wǎng)來逃避他們所害怕的孤獨(dú)。逃避這些壓力削弱了培養(yǎng)和維持信念所需的毅力，而信念只有在孤獨(dú)的道路上才能實(shí)現(xiàn)，這才創(chuàng)造力的本質(zhì)。

互聯(lián)網(wǎng)技術(shù)對政治的影響尤為突出。小群體通過互聯(lián)網(wǎng)來訴諸他們的不滿，并被社交媒體迅速傳播，使得政府不得不把重心轉(zhuǎn)移到輿論處理上，打破了政府處理事物的優(yōu)先級順序。政府領(lǐng)導(dǎo)們忙于平息輿論不滿，卻很少有時間反思和思考政務(wù)，從而限制了職業(yè)發(fā)展的空間。

數(shù)字時代強(qiáng)調(diào)快速反應(yīng)卻抑制了反思，它的激勵機(jī)制使激進(jìn)分子凌駕于深思熟慮者之上。它的價值觀是由小群體的共識達(dá)成并傳播，而不是由內(nèi)省形成的。

人工智能的開始

隨著互聯(lián)網(wǎng)和計算能力的增強(qiáng)，海量數(shù)據(jù)的積累和分析變得越來越容易，人類對數(shù)據(jù)的理解出現(xiàn)了前所未有的前景。

或許最重要的是人工智能的產(chǎn)生項目——一種能夠發(fā)明和解決復(fù)雜的、看似抽象的問題的技術(shù)，其過程似乎復(fù)制了人類的思維。

這遠(yuǎn)遠(yuǎn)超出了我們所知道的自動化。

自動化處理手段，通過使實(shí)現(xiàn)這些目的的工具合理化或機(jī)械化，來達(dá)到規(guī)定的目標(biāo)。

相比之下，人工智能確立了自己的目標(biāo)來進(jìn)行處理。從某種程度上說，人工智能的成就有一部分是由其自身塑造的，因此它本質(zhì)上是不穩(wěn)定的。

人工智能系統(tǒng)，通過其自身的運(yùn)作，在獲取和即時分析新數(shù)據(jù)的過程中不斷變化，然后在分析的基礎(chǔ)上尋求改進(jìn)。通過這個過程，人工智能發(fā)展出了一種曾經(jīng)被認(rèn)為只有人類才能擁有的能力。

它可以對未來做出戰(zhàn)略判斷，有些基于被接收成為了代碼的數(shù)據(jù)（例如游戲規(guī)則），有些則基于它自己收集的數(shù)據(jù)（例如通過反復(fù)玩100萬次游戲）。

無人駕駛汽車展示了傳統(tǒng)的人工控制、軟件驅(qū)動的計算機(jī)與試圖導(dǎo)航的人工智能行為之間的不同。

駕駛汽車需要在許多無法預(yù)料的情況下做出判斷，因此需要提前編程。

舉一個著名的假設(shè)例子，如果這樣一輛車被環(huán)境逼著在殺死祖父母和殺死孩子之間做出選擇，會發(fā)生什么？它會選擇誰？為什么?它會嘗試優(yōu)化選項中的哪些因素？它能夠解釋它的基本原理嗎？

面對挑戰(zhàn)，它的真實(shí)答案很可能是（如果它能夠交流）：“我不知道（因?yàn)槲易裱氖菙?shù)學(xué)，而不是人類的原則），”或者“你不會理解（因?yàn)槲冶挥?xùn)練以某種方式行事，但不必解釋它）?！比欢?，這樣的無人駕駛汽車很可能在未來10年內(nèi)在道路上普及。

到目前為止，人工智能研究僅限于特定的活動領(lǐng)域，而現(xiàn)在，人工智能研究正試圖實(shí)現(xiàn)一種能夠在多個領(lǐng)域執(zhí)行任務(wù)的廣義上的人工智能。

在可測量的時間內(nèi)，越來越多的人類活動將由人工智能算法驅(qū)動。但是這些算法，作為對觀測數(shù)據(jù)的數(shù)學(xué)解釋，并不能解釋產(chǎn)生它們的潛在現(xiàn)實(shí)。

矛盾的是，隨著世界變得更加透明，它也將變得越來越神秘。這個新世界和我們已知的世界有什么不同？我們將如何生活在其中？我們應(yīng)該如何管理人工智能？如何改進(jìn)它，或者至少防止它造成傷害，阻止最令人擔(dān)憂的結(jié)果發(fā)生。人工智能，通過比人類更快速、更明確地掌握某些能力，隨著時間的推移，過度依賴數(shù)據(jù)可能會降低人類的能力。

對人工智能發(fā)展的三個擔(dān)憂

在醫(yī)藥科學(xué)、清潔能源供應(yīng)、環(huán)境問題等領(lǐng)域，人工智能為我們帶來更為廣闊的發(fā)展前景。但正因?yàn)閷θ斯ぶ悄茉u判是建立在一個不斷變化和發(fā)展的未來，它自身發(fā)展結(jié)果也就變得模糊不定。

有三個方面需要特別關(guān)注：

第一點(diǎn)，人工智能會創(chuàng)造意想不到的結(jié)果。像在科幻小說里就設(shè)想了人工智能攻擊創(chuàng)造者的場景。AI可能會因?yàn)槿鄙偃祟愃季S聯(lián)想能力而誤解人類的指令，從而變得危險可怕。比如說，近幾年有一款叫做Tay的人工智能機(jī)器人。

它會仿照一個19歲的女孩，用特別友好的口吻與人類聊天。但后來事實(shí)證明，Tay作為一臺機(jī)器，它沒法理解設(shè)計者給它編好的“友好”和“合理”語言偏好，反而它的語言里摻雜了種族主義、性別歧視和其他具有煽動性的回應(yīng)可能有些科學(xué)家會說這樣的實(shí)驗(yàn)計劃不周、考慮不足并導(dǎo)致了實(shí)驗(yàn)失敗。

但是正是因?yàn)檫@個實(shí)驗(yàn)說明了一個潛在的問題。比如：在什么范圍下，AI可以理解領(lǐng)會設(shè)計者給它發(fā)出的指令？有什么樣的途徑能讓Tay來理解它語言上的攻擊性？用什么樣的詞匯能讓都可以接受？又是否我們可以盡早的發(fā)現(xiàn)并改正這些人工智能在既定框架內(nèi)的缺陷？又或者讓人工智能自由發(fā)展，最終導(dǎo)致不可逆轉(zhuǎn)的結(jié)果？

第二點(diǎn)，在其發(fā)展的過程中，人工智能可能改變?nèi)祟愃季S過程和價值觀。

AlphaGo通過使用史無前例的走法從而戰(zhàn)勝了世界圍棋冠軍，更何況這些走法前人從未考慮，也未曾成功嘗試過。是否因?yàn)檫@些走法超過了人類大腦認(rèn)知？或者人類需要開始學(xué)習(xí)已經(jīng)被這位圍棋大師（AlphaGo）證明的下法？

在AI嘗試圍棋之前，人類圍棋玩家不僅僅要尋求游戲勝利，更是要從中領(lǐng)悟人生的方法論，就像我們所說的棋如人生。但是對于AI來說，只有贏得游戲這一個目的。

就因?yàn)檫@樣，AI不需要通過理論學(xué)習(xí)，只需要用數(shù)學(xué)的方式不斷優(yōu)化調(diào)整它的算法，從而判斷出一個可以勝利的最優(yōu)解。

所以AI跟人類在下棋的理念上就完全不同，并因此改變了游戲的本質(zhì)和所帶來的影響。是否所有AI都是這樣一根筋的處理方式？

其他的AI項目的貢獻(xiàn)方式是幫助人們解決實(shí)際問題。除了那些解決實(shí)際需求的問題（比如外面氣溫是多少？），AI是否能研究自然本質(zhì)和探索生命意義以及引發(fā)更深入的問題？

我們是否希望讓孩子通過無約束的算法來確定價值觀？我們是否應(yīng)該通過限制AI自主學(xué)習(xí)來保護(hù)我們個人隱私？如果是的話，我們應(yīng)該怎么做？

如果AI的學(xué)習(xí)速度成指數(shù)型遞增，那我們一定希望加快這種井噴式的學(xué)習(xí)速度，那么AI犯錯的概率也會比人類高。

正如AI領(lǐng)域的研究員所建議的那樣，這些錯誤將可能是不可調(diào)和的，除非在程序里加入“所得出的結(jié)果要合乎情理”的警告。

但是整個學(xué)術(shù)界都無法對這樣的描述達(dá)成一致觀點(diǎn)，難道要讓人工智能自己來決定，它們的意識是否合乎情理？

第三點(diǎn)，人工智能會想盡辦法達(dá)到目標(biāo)，但是不會對它做法的合理性進(jìn)行闡述。比如在圖像識別、大數(shù)據(jù)分析、博弈等領(lǐng)域，人工智能已經(jīng)逐漸超過人類所能做的。

如果它們的計算能力繼續(xù)快速增長，它們會形成一套與人類完全不同的思考方式。但到那時候，AI會用一種能讓人類理解的方式來向人們解釋為什么那些做法會得到最佳結(jié)果么？

縱觀人類歷史，文明締造了解釋周圍世界的方法，比如中世紀(jì)向我們解釋了宗教，啟蒙運(yùn)動向我們揭示了自然科學(xué)奧秘，20世紀(jì)給我們帶來了意識形態(tài)。

所以接下來我們將要直面這樣一個困難的問題，那就是：如果AI超越了人類意識所能理解的范疇，那它們是否將用自己的意識形態(tài)來取代我們解釋這個世界？

所以在機(jī)器的世界里，意識將是如何定義的，是否是把人類的經(jīng)驗(yàn)簡化為0、1一樣的數(shù)字，來形成它們自己的記憶，不斷學(xué)習(xí)、不斷傳承？

誰來對它們的行為負(fù)責(zé)，又有誰來為它們的錯誤買單？由人類設(shè)計的法律體系能否跟上人工智能思考和發(fā)展的步伐？

我們說人工智能應(yīng)該是不恰當(dāng)?shù)摹ｋm然這些機(jī)器可以處理那些原本是只有人類認(rèn)知才能解決的復(fù)雜、抽象的問題。但是，他們思考的獨(dú)特之處在于，可以跳出那些條條框框和所謂的經(jīng)驗(yàn)之談。而且，他們還具有史無前例的記憶力和計算能力，正因?yàn)檫@些內(nèi)在優(yōu)勢，才讓它們可以贏得各種游戲。

但對于人類來說，游戲的目的不僅僅是為了獲得勝利，更重要的是從中提煉出一種對事物的思考方式。如果把對于事物的思考方式當(dāng)做一個數(shù)學(xué)模型去看待，不斷模仿并且試圖接受這些結(jié)果，那我們將會失去我們的認(rèn)知能力。

AlphaZero項目向我們詮釋這場技術(shù)爆炸的威力，AlphaZero不僅技術(shù)所有棋師的水平之上，而且會用之前棋譜中從未有過的下法?？梢酝ㄟ^幾個小時自娛自樂，獲得人類曾經(jīng)1500年來所總結(jié)下來的經(jīng)驗(yàn)教訓(xùn)。

而我們只需要做的就是把游戲規(guī)則告訴它。在它自己學(xué)習(xí)的過程中，完全沒有進(jìn)行任何人工干預(yù)。AlphaZero可以如此快的精通掌握下棋的技巧，那未來五年人工智能將會發(fā)展成什么樣子？會對我們的下一代造成什么樣的影響？

這些問題就留給那些在科學(xué)領(lǐng)域的專家們吧。哲學(xué)家和其他人文領(lǐng)域的專家，因?yàn)槿鄙賹θ斯ぶ悄軝C(jī)制的了解、對它們能力感到害怕，所以塑造了一個不利于人工智能發(fā)展的觀念。

但相反的，科學(xué)家們卻一直嘗試推動人工智能的發(fā)展，并讓這些技術(shù)在商業(yè)領(lǐng)域推廣利用。所以這些人的動機(jī)都是挖掘其潛力而非理解人工智能。

同樣作為政府，最初也是投資于人工智能在安全和情報調(diào)查方面的應(yīng)用，而并未去考慮人工智能會導(dǎo)致人類意識的變化。

啟蒙運(yùn)動開始于對新技術(shù)的哲學(xué)探索，但我們正在朝著相反的方向前進(jìn)。

人工智能的發(fā)展?jié)撘颇刂敢宋覀兯伎嫉姆较颉Ｒ恍﹪野讶斯ぶ悄茏鳛閲野l(fā)展戰(zhàn)略計劃，開始研究人工智能的發(fā)展和應(yīng)用，這其中當(dāng)然也不例外地包括美國。人們把人工智能放在至高無上的發(fā)展地位上，但從未思考過這樣將會帶來的沖擊和后果。

雖然說我本人對人工智能的技術(shù)可能一竅不通，但在這里我想告誡那些一門心思鉆研技術(shù)，而沒有哲學(xué)思考和政治理念的人工智能開發(fā)人員，請認(rèn)真思考這篇文章里我提出來的這些問題，并把這些思考放入到你們的技術(shù)研究之中。

審核編輯黃昊宇