人工智能機器可以從他們行動的結(jié)果中進行學(xué)習(xí)來提高自己的能力，但專家說這種特性可能會導(dǎo)致 AI “不能被阻止”。 現(xiàn)在, 一組人工智能研究人員已經(jīng)開發(fā)出了一個系統(tǒng)，他們將這個系統(tǒng)比作《黑衣人》(Men in Black)電影中的“記憶消除器”(neuralyzer)，通過刪除部分記憶來阻斷人工智能，同時又不影響它的學(xué)習(xí)方式。

具有人工智能的機器可以從自己的行為結(jié)果中學(xué)習(xí)，以提高自己的能力。但專家表示，這個特點可能會導(dǎo)致人工智能“無法被終止”?，F(xiàn)在，一組人工智能研究人員已經(jīng)開發(fā)了一個系統(tǒng)，他們把這個系統(tǒng)比作電影《黑衣人》中具有擦除記憶功能的“記憶消除器”，通過刪除部分記憶來從實質(zhì)上終止人工智能，但卻不會中斷其學(xué)習(xí)進程。

人類必須找到方法來防止AI繞過人的命令。相關(guān)研究人員、EPFL分布式程序設(shè)計實驗室的教授Rachid Guerraoui說：“人工智能總是試圖避免人為的干預(yù)，并創(chuàng)造一個不能被終止的情況。最大的挑戰(zhàn)不是讓機器人停止運行，而是通過編程讓外部干預(yù)不會改變其學(xué)習(xí)進程-并且不會導(dǎo)致機器人調(diào)整它的行為，以避免被終止?！?/p>

以前的努力試圖在較小規(guī)模上解決這個問題，聚焦于單個機器人。但是，隨著自動駕駛汽車和其他互聯(lián)設(shè)備的興起，研究人員認為這個問題已經(jīng)變得復(fù)雜得多。例如，對于自動駕駛汽車來說，人類需要能夠接管駕駛權(quán)-但這種中斷可能會影響汽車和其它學(xué)習(xí)者的行為。如果一個駕駛員經(jīng)常剎車，那么另一輛自動駕駛汽車就會調(diào)整自己的行為，并對何時進行剎車產(chǎn)生“困惑”。這將使人類能夠在必要時中斷AI的學(xué)習(xí)過程。而且，這種干預(yù)可以在不影響學(xué)習(xí)過程的情況下完成。

El Mhamdi說：“簡而言之，我們在學(xué)習(xí)算法中增加了“遺忘”機制，從本質(zhì)上刪除了機器內(nèi)存中的某些數(shù)據(jù)。這有點像電影《黑衣人》中的記憶消除器?！毖芯咳藛T表示，這種方法改變了機器的學(xué)習(xí)和獎勵系統(tǒng)，使過程不受中斷的影響。

到目前為止，該研究團隊表示，如果“犯錯的后果很輕微”，該系統(tǒng)運行良好。El Mhamdi稱，在系統(tǒng)進行學(xué)習(xí)時，通過運行一個加分和減分算法，可以用它來模擬AI公交車。根據(jù)這個團隊的說法，這可能會使自動駕駛車輛和無人駕駛飛機變得更加安全。El Mhamdi表示：“特斯拉正在進行此類模擬?！?/p>

一旦系統(tǒng)經(jīng)歷了足夠的這種學(xué)習(xí)，我們可以將這種預(yù)先訓(xùn)練好的算法安裝在具有較低探測率的自動駕駛汽車中，因為這樣可以擴大其應(yīng)用范圍。