乘客看到了停車標(biāo)志，突然感到一陣恐慌，因?yàn)樗钠嚪炊_始加速。當(dāng)他看到前面的鐵軌上一列火車向他們疾馳而來時(shí)，他張開嘴對前面的司機(jī)大聲喊叫，但他突然意識到汽車前坐并沒有司機(jī)。列車以每小時(shí)125英里的速度撞上來，壓碎了這輛自動駕駛汽車，乘客當(dāng)場死亡。

這個(gè)場景是虛構(gòu)的，但是凸顯了當(dāng)前人工智能框架中一個(gè)非常真實(shí)的缺陷。在過去的幾年里，已經(jīng)有越來越多的例子表明，機(jī)器可以被誤導(dǎo)，看見或聽見根本不存在的東西。如果出現(xiàn)“噪音”會干擾到人工智能的識別系統(tǒng)，就可能產(chǎn)生誤覺。在最壞的情況下，他們可能會因“幻覺”導(dǎo)致上面一樣危險(xiǎn)的場景，盡管停車標(biāo)志在人眼中清晰可見，但機(jī)器卻未能識別出來。

人工智能時(shí)代下人類所剩的最后價(jià)值

人工智能的真正風(fēng)險(xiǎn)

人工智能面臨的最大挑戰(zhàn)不是技術(shù)？

Image caption“停止”標(biāo)志上一些簡單的貼紙就足以使機(jī)器視覺算法看不見這個(gè)告示，而在人類的眼中依然顯而易見。

人工智能領(lǐng)域工作者將這些小故障描述為“對抗性的例子”，或者有時(shí)更簡單地說是“怪異事件”。

美國麻省理工學(xué)院（Massachusetts Institute of Technology）的計(jì)算機(jī)科學(xué)家阿塔利（Anish Athalye）表示：“我們可以把這些東西看作是人工智能網(wǎng)絡(luò)會以某種方式處理的輸入信息，但機(jī)器在看到這些輸入信息后會做出一些意想不到的反應(yīng)?！?/p>

看物體

到目前為止，人們主要關(guān)注的是視覺識別系統(tǒng)。阿塔利自己已經(jīng)證明，將一張貓的圖像稍加改動，人眼看來仍是一只標(biāo)準(zhǔn)的貓，卻被所謂的神經(jīng)網(wǎng)絡(luò)誤解為是鱷梨醬。神經(jīng)網(wǎng)絡(luò)是一種機(jī)器學(xué)習(xí)算法，極大地推動了現(xiàn)代人工智能技術(shù)的發(fā)展。這類神經(jīng)網(wǎng)絡(luò)視覺識別系統(tǒng)已經(jīng)被用來增強(qiáng)你的智能手機(jī)的能力，讓手機(jī)在不被告知是誰的情況下對你的朋友照片進(jìn)行身份標(biāo)記，或者識別你手機(jī)照片中的其他物體。

最近，阿塔利和他的同事們把注意力轉(zhuǎn)向了實(shí)際物體。發(fā)現(xiàn)只要稍微調(diào)整一下它們的紋理和顏色，他的團(tuán)隊(duì)就可以騙過人工智能，把這些物體認(rèn)作別的東西。在一個(gè)案例中，棒球被誤認(rèn)為是一杯濃縮咖啡，而在另一個(gè)案例中，3D打印的海龜被誤認(rèn)為是步槍。還有其他例子，他們制造了約200個(gè)3D打印物體，這些物體以類似的方式欺騙了電腦。今天當(dāng)我們開始在家里使用機(jī)器人、在空中運(yùn)用自動駕駛無人機(jī)、在街道上行駛自動駕駛汽車時(shí)，機(jī)器人的這種誤覺開始拋出一些令人擔(dān)憂的可能性。

阿塔利說， “起初，這只是一種好奇，然而，隨著這些智能系統(tǒng)越來越多地部署在現(xiàn)實(shí)世界中，人們正將其視為一個(gè)潛在的安全問題?！?/p>

以目前正在進(jìn)行實(shí)地試驗(yàn)的無人駕駛汽車為例：這些汽車通常依靠復(fù)雜的深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)導(dǎo)航，并告訴它們該做什么。

但在去年，研究人員證明，僅僅只在路標(biāo)上粘一兩張小貼紙，神經(jīng)網(wǎng)絡(luò)就可能受騙，將道路上的“停車”標(biāo)志誤認(rèn)為限速標(biāo)志。

Image caption盡管對于機(jī)器學(xué)習(xí)算法，讓海龜看起來像步槍似乎是無害的，但研究人員擔(dān)心，隨著人工智能在現(xiàn)實(shí)世界中的應(yīng)用，可能會帶來一些危險(xiǎn)后果。

聽聲音

神經(jīng)網(wǎng)絡(luò)并不是唯一使用的機(jī)器學(xué)習(xí)框架，但其他的人工智能框架似乎也容易遭受這些怪異事件的影響。并且不限于視覺識別系統(tǒng)。

谷歌大腦（Google Brain）正在研發(fā)智能機(jī)器。谷歌大腦的研究科學(xué)家卡里尼（Nicholas Carlini）說，“在我見過的每一個(gè)領(lǐng)域，從圖像分類到自動語音識別，再到翻譯，神經(jīng)網(wǎng)絡(luò)都可能受到攻擊，導(dǎo)致輸入信號被錯(cuò)誤分類。”卡里尼作了展示，加上一些摩擦的背景噪音后，“沒有數(shù)據(jù)集的文章是無用的”這句話的讀音，機(jī)器會誤譯為“好，谷歌要瀏覽evil.com”。而且它不僅限于語音講話。在另一個(gè)例子中，巴赫（Bach）的第一號無伴奏大提琴組曲（Cello Suit 1）中的一段音樂節(jié)選被記錄為“語言可以嵌入音樂”。

在卡里尼看來，這些對抗性的例子“最終證明，哪怕在非常簡單的任務(wù)上，機(jī)器學(xué)習(xí)也沒有達(dá)到人類的能力”。

內(nèi)在原理

人工神經(jīng)網(wǎng)絡(luò)是大致模仿大腦（即生物神經(jīng)網(wǎng)絡(luò)）處理視覺信息的功能并從中學(xué)習(xí)方法。想象一個(gè)小孩正在學(xué)習(xí)認(rèn)識貓是什么東西：當(dāng)他們見到這種動物的次數(shù)越來越多時(shí)，就會開始注意到這種動物的一些固定模式，發(fā)現(xiàn)這團(tuán)叫做貓的東西有四條腿，有柔軟的皮毛、兩只尖耳朵、杏仁狀的眼睛和一條毛茸茸的長尾巴。在兒童的視覺皮層（大腦中處理視覺信息的區(qū)域）內(nèi)，多層神經(jīng)元會對視覺細(xì)節(jié)做出反應(yīng)，如水平和垂直的線條，使兒童能夠構(gòu)建一幅世界的神經(jīng)“圖畫”，并從中學(xué)習(xí)視覺識別。

神經(jīng)網(wǎng)絡(luò)的工作原理與此類似，獲取的數(shù)據(jù)通過多層人工神經(jīng)元網(wǎng)絡(luò)傳輸進(jìn)行信息處理，在接受到成百上千個(gè)相同物體的樣本（通常由人類標(biāo)記）的訓(xùn)練之后，神經(jīng)網(wǎng)絡(luò)開始建立此物體的視覺識別模式，從而能夠在其后認(rèn)得出正在觀看的東西是這種物體。其中最復(fù)雜的系統(tǒng)采用“深度學(xué)習(xí)”，這意味著需要擁有更多的信息處理層。

人工智能公司為什么要不停的砸玻璃？

人工智能受愚弄后也會犯"低級錯(cuò)誤"

機(jī)器人能否終結(jié)令人抓狂的客服電話？

Image caption稍微改變物體的紋理，研究人員能夠讓一個(gè)3D打印的棒球看起來像一杯濃縮咖啡。

然而，盡管計(jì)算機(jī)科學(xué)家了解人工神經(jīng)網(wǎng)絡(luò)如何工作，但他們并不一定知道在處理大數(shù)據(jù)時(shí)的具體細(xì)節(jié)。阿塔利說， “我們目前對神經(jīng)網(wǎng)絡(luò)的理解還不夠，比如說，無法準(zhǔn)確解釋為什么會存在對抗性例子，也不知道如何解決這個(gè)問題?！?/p>

部分問題可能與現(xiàn)有技術(shù)被設(shè)計(jì)用來解決的任務(wù)的性質(zhì)有關(guān)，例如區(qū)分貓和狗的圖像。為了做到這一點(diǎn)，神經(jīng)網(wǎng)絡(luò)技術(shù)將處理大量貓和狗的模樣信息，直到有足夠的數(shù)據(jù)點(diǎn)來區(qū)分兩者。

研究機(jī)器學(xué)習(xí)框架可靠性和安全性的麻省理工學(xué)院計(jì)算機(jī)科學(xué)家麥德里（Aleksander Madry）說，“我們機(jī)器學(xué)習(xí)框架的主要目標(biāo)是'就平均值而言'有良好的表現(xiàn)。當(dāng)機(jī)器識別大多數(shù)狗的圖像表現(xiàn)很好時(shí)，你感到鼓舞，但總會有一些狗的圖像讓機(jī)器困惑，無法識別。”

或許一種解決方案是用更有挑戰(zhàn)性的圖像來訓(xùn)練神經(jīng)網(wǎng)絡(luò)。這可以使人工神經(jīng)網(wǎng)絡(luò)免受異常值的影響。

麥德里說， “這無疑是朝著正確方向邁出的一步。”雖然這種方法看起來確實(shí)使框架更加強(qiáng)大，但也可能有一些限制，因?yàn)橛性S多方法可以改變圖像或物體的外觀從而產(chǎn)生混淆。

一個(gè)真正強(qiáng)大的圖像分類器會復(fù)制"相似性"對人類的作用，因而可以認(rèn)出一個(gè)孩子涂鴉的貓和一張貓的照片以及一只現(xiàn)實(shí)生活中移動的貓代表的是同一樣?xùn)|西。盡管深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)令人印象深刻，但在對物體進(jìn)行分類、感知周遭環(huán)境或處理突發(fā)事件方面，仍無法與人腦匹敵。

如果我們想要開發(fā)出能夠在現(xiàn)實(shí)世界中發(fā)揮作用的真正智能機(jī)器，或許我們應(yīng)該回到人腦上來，更好地理解人腦是如何解決這些問題的。

捆綁問題

雖然神經(jīng)網(wǎng)絡(luò)是受到人類視覺皮層的啟發(fā)，但越來越多的人認(rèn)識到這種相似性只是表面現(xiàn)象。一個(gè)關(guān)鍵的區(qū)別在于，除了識別物體邊緣的線條或物體本身等視覺特征外，我們的大腦還對這些特征之間的關(guān)系進(jìn)行編碼，因此，物體的邊緣就構(gòu)成了這個(gè)物體的一部分。這使我們能夠?qū)ξ覀兯吹降哪Ｊ劫x予意義。

“當(dāng)你或我看著一只貓時(shí)，我們看到了構(gòu)成貓的所有特征，以及它們之間的相互關(guān)系，” 牛津大學(xué)理論神經(jīng)科學(xué)和人工智能基金會（Oxford Foundation for theory Neuroscience and Artificial Intelligence）的斯特林格（Simon Stringer）如此說。“這種相互'捆綁的'信息是我們理解世界的能力和我們的一般智力的基礎(chǔ)?！?/p>

這個(gè)起關(guān)鍵作用的捆綁信息在當(dāng)代的人工神經(jīng)網(wǎng)絡(luò)中是缺失的。

斯特林格解釋說， “如果你還沒有解決捆綁問題，你可能會意識到場景中的某個(gè)地方有一只貓，但你不知道它在哪里，也不知道場景中的哪些特征是這只貓的一部分?！?/p>

Image caption對我們的耳朵來說，一段古典音樂聽起來就是樂器的交響樂，但這段音樂若稍作修改，人工智能可能會理解為是一個(gè)語音指令。

為了簡單易行，構(gòu)建當(dāng)代人工神經(jīng)框架的工程師忽略了真實(shí)人腦神經(jīng)元的一些特性，而科技界才剛剛開始明白這些特性非常重要。神經(jīng)元通過將動作電位（action potentials）或“峰電位”（spikes）信號發(fā)送到身體的各個(gè)部位來進(jìn)行交流，這就造成了神經(jīng)元傳輸?shù)臅r(shí)間延遲。個(gè)體神經(jīng)元之間在傳遞信息的速度上也有差異，有些快，有些慢。許多神經(jīng)元在決定是否放電時(shí)，似乎會密切關(guān)注它們接收到的脈沖的時(shí)機(jī)。

“人工神經(jīng)網(wǎng)絡(luò)有這個(gè)屬性，即所有神經(jīng)元完全相同，但大腦中的神經(jīng)元卻有不同形態(tài)，這讓我意識到，人腦神經(jīng)元的差異性不是無關(guān)緊要的，”布里斯托大學(xué)（University of Bristol）的神經(jīng)系統(tǒng)科學(xué)家鮑爾斯（Jeffrey Bowers）說。他正在調(diào)查大腦哪些方面的功能未被當(dāng)前人工神經(jīng)網(wǎng)絡(luò)所采用。

另一個(gè)不同之處在于，人工合成神經(jīng)網(wǎng)絡(luò)是通過一系列人工神經(jīng)元層向一個(gè)方向傳輸信號。但斯特林格說，“在人類大腦皮層中，自上而下的連接和自下而上的神經(jīng)元連接是一樣多?！?/p>

為了更好地理解人腦的工作原理，他的實(shí)驗(yàn)室對人腦進(jìn)行了計(jì)算機(jī)模擬。當(dāng)他們最近調(diào)整他們的模擬，將這些關(guān)于真實(shí)神經(jīng)元的時(shí)間和組織的信息整合到一起，然后用一系列的視覺圖像對計(jì)算機(jī)進(jìn)行訓(xùn)練時(shí)，他們發(fā)現(xiàn)計(jì)算機(jī)的模擬處理信息的方式發(fā)生了根本性的轉(zhuǎn)變。

他們開始看到更復(fù)雜的活動模式的出現(xiàn)，而不是所有神經(jīng)元同時(shí)放電。其中一個(gè)人工神經(jīng)元子群其作用似乎是信息守門人。這個(gè)神經(jīng)元子群只有在整個(gè)系統(tǒng)所接受的某個(gè)視覺場景的所有低級和高級特性信息同時(shí)到達(dá)時(shí)才會放電。

斯特林格認(rèn)為，這些“捆綁神經(jīng)元”的行為就像大腦中的結(jié)婚證，使神經(jīng)元之間的關(guān)系正式化，并提供了一種方法來驗(yàn)證兩個(gè)看似相關(guān)的信號是否真的相關(guān)。通過這種方式，大腦可以檢測出現(xiàn)在視覺場景中的兩條對角線和一條曲線是否真的代表了一個(gè)特征，比如貓的耳朵，或者是完全不相關(guān)的東西。

斯特林格說， “我們的假設(shè)是，視覺大腦中呈現(xiàn)的捆綁特征，以及在我們的生物強(qiáng)化神經(jīng)網(wǎng)絡(luò)中的復(fù)制，可能在增強(qiáng)生物視覺的穩(wěn)健性方面發(fā)揮重要作用，包括對物體、面孔和人類行為的識別?！?/p>

斯特林格的研究小組目前正在尋找證據(jù)，證明真實(shí)的人類大腦中存在這樣的神經(jīng)元。他們還在開發(fā)“混合”神經(jīng)網(wǎng)絡(luò)，將這些新信息結(jié)合進(jìn)人工神經(jīng)網(wǎng)絡(luò)，看看是否能產(chǎn)生一種更強(qiáng)大的機(jī)器學(xué)習(xí)形式。

鮑爾斯說， “目前還不清楚這是否在真的大腦中發(fā)生，但這確實(shí)很吸引人，并突出了一些有趣的可能性?！?/p>

斯特林格的團(tuán)隊(duì)將要測試的一件事是，他們受生物大腦啟發(fā)的神經(jīng)網(wǎng)絡(luò)是否能夠可靠地區(qū)分一個(gè)老人是在家中跌倒，或只是坐著不動，或者是正在放下購買的日用品。

斯特林格說，“對于今天的機(jī)器視覺算法來說，這仍然是一個(gè)非常困難的問題，然而對人腦則是輕而易舉之事?！彼€與位于英國威爾特郡（Wiltshire）波頓唐（Porton Down）的國防科技實(shí)驗(yàn)室（Defence Science and Technology Laboratory）合作，開發(fā)他神經(jīng)系統(tǒng)框架的下一代增強(qiáng)版。這個(gè)增強(qiáng)版可以用于軍事，比如從安裝在自動無人機(jī)上的智能攝像頭中發(fā)現(xiàn)敵方坦克。

斯特林格的目標(biāo)是在20年內(nèi)將老鼠等級的智能賦予一臺機(jī)器。不過他承認(rèn)創(chuàng)造人類水平的機(jī)器智能可能需要一生的時(shí)間，甚至更長。

麥德里同意，受神經(jīng)科學(xué)啟示是解決當(dāng)前機(jī)器學(xué)習(xí)算法問題的有趣方法。

他說，“越來越清楚的是，大腦的工作方式與我們現(xiàn)有的機(jī)器深度學(xué)習(xí)模式非常不同，因此，最終可能會走上一條完全不同的路才能成功。很難說可行性有多大，以及取得成功需要多長時(shí)間?！?/p>

與此同時(shí)，對于越來越多人工智能驅(qū)動的機(jī)器人、汽車和程序，我們可能需要避免對其過于信任。因?yàn)槟阌肋h(yuǎn)不知道人工智能是不是正在產(chǎn)生被誤導(dǎo)的視覺。