“人工智能（AI）叛亂”聽(tīng)起來(lái)像是科幻電影的情節(jié)，但這個(gè)概念是一項(xiàng)新研究課題。一個(gè)國(guó)際科研團(tuán)隊(duì)設(shè)計(jì)了一種理論上的“遏制算法”，通過(guò)模擬AI，確保其在任何情況都不能傷害人類，但結(jié)果發(fā)現(xiàn)無(wú)法做到。

AI多年來(lái)一直讓人類著迷，我們對(duì)控制汽車、譜寫(xiě)交響樂(lè)或在自己的游戲中擊敗世界上最好棋手的機(jī)器感到敬畏。然而，巨大的力量伴隨著巨大的責(zé)任，全世界的科學(xué)家都在擔(dān)心超級(jí)智能系統(tǒng)可能帶來(lái)的危險(xiǎn)。

據(jù)報(bào)道，包括馬克斯·普朗克人類發(fā)展研究所人類與機(jī)器中心的科學(xué)家在內(nèi)的一個(gè)國(guó)際團(tuán)隊(duì)研究表明，控制一個(gè)超級(jí)人工智能是不可能的。

該團(tuán)隊(duì)在分析過(guò)程中使用了阿蘭·圖靈（Alan Turning）于1936年提出的“停止”問(wèn)題，該問(wèn)題的重點(diǎn)在于計(jì)算機(jī)程序是否會(huì)得出結(jié)論并做出“停頓”的反應(yīng)。

據(jù)悉，在研究中，該團(tuán)隊(duì)設(shè)計(jì)了一種理論上的“遏制算法”，通過(guò)先模擬人工智能的行為，如果認(rèn)為有害，則停止人工智能的行為，從而確保超級(jí)人工智能在任何情況下都不能傷害人類。

但仔細(xì)分析后發(fā)現(xiàn)，在目前的計(jì)算模式下，這樣的算法是無(wú)法建立的。

也就是說(shuō)，目前的算法并不具備阻止人工智能的能力，因?yàn)槊預(yù)I不要?dú)缡澜纾瑫?huì)在無(wú)意中阻止“遏制算法”自身的運(yùn)行。

人類與機(jī)器中心主任伊亞德·拉赫萬(wàn)表示，如果發(fā)生這種情況，將不知道“遏制算法”是否還在分析威脅，或者它是否已經(jīng)停止遏制有害的AI。

基于這些計(jì)算結(jié)果，“遏制問(wèn)題”是無(wú)法計(jì)算的，沒(méi)有一種算法可以找到判斷人工智能是否會(huì)對(duì)世界產(chǎn)生危害的解決方案。

研究結(jié)果還證明，我們甚至可能不知道超級(jí)智能機(jī)器何時(shí)到來(lái)，因?yàn)闆Q定一臺(tái)機(jī)器是否表現(xiàn)出優(yōu)于人類的智能與“遏制問(wèn)題”屬于同一領(lǐng)域。

國(guó)際科研團(tuán)隊(duì)的論文警告說(shuō)，如果一臺(tái)超級(jí)智能機(jī)器想要控制世界，傷害人類，拔掉插頭也無(wú)濟(jì)于事。
責(zé)編AJX