機(jī)器學(xué)習(xí)系統(tǒng)在面部識(shí)別系統(tǒng)到自主車輛等所有領(lǐng)域的普及，伴隨著攻擊者想方設(shè)法欺騙算法的風(fēng)險(xiǎn)。簡單的技術(shù)已經(jīng)在測試條件下起了作用，研究人員有興趣找到減輕這些和其他攻擊的方法。國防部高級(jí)研究項(xiàng)目局（DARPA）已經(jīng)找來了英特爾和佐治亞理工學(xué)院（Georgia Tech），負(fù)責(zé)領(lǐng)導(dǎo)旨在防御機(jī)器學(xué)習(xí)算法對抗欺騙攻擊的研究。

欺騙攻擊在實(shí)驗(yàn)室測試之外很少見，但在實(shí)操環(huán)境下可能會(huì)造成重大問題。例如，McAfee早在2月份就曾報(bào)道，研究人員通過在限速標(biāo)志上貼上兩英寸的黑色電子膠帶，欺騙了特斯拉Model S中的速度輔助系統(tǒng)，使其超速行駛50英里/小時(shí)。還有其他的例子也不勝枚舉，這證明欺騙人工智能并不算困難，幾乎誰都能做到。

DARPA認(rèn)識(shí)到欺騙攻擊可能會(huì)對任何使用機(jī)器學(xué)習(xí)的系統(tǒng)構(gòu)成威脅，并希望主動(dòng)出擊，減輕這種企圖。因此，大約一年前，該機(jī)構(gòu)制定了一個(gè)名為GARD的計(jì)劃，即Garanging AI Robustness against Deception的縮寫。英特爾已經(jīng)同意成為與喬治亞理工學(xué)院合作的四年期GARD計(jì)劃的主要承包商。

"英特爾和佐治亞理工學(xué)院合作，共同推進(jìn)生態(tài)系統(tǒng)對人工智能和ML漏洞的集體理解和能力，"DARPA GARD計(jì)劃的首席工程師和研究人員Jason Martin說。"通過對相干技術(shù)的創(chuàng)新研究，我們正在合作研究一種方法，以增強(qiáng)對象檢測，提高AI和ML應(yīng)對對抗性攻擊的能力。"

目前的欺騙緩解的主要問題是基于規(guī)則的、靜態(tài)的設(shè)定。如果規(guī)則不被打破，欺騙就能成功。由于欺騙人工智能的方式幾乎有無數(shù)種，僅僅受限于攻擊者的想象力，因此需要開發(fā)出更好的系統(tǒng)。英特爾公司表示，該計(jì)劃的初始階段將著重于利用圖像和視頻中的空間、時(shí)間和語義的一致性來改進(jìn)物體檢測。

DARPA信息創(chuàng)新辦公室的項(xiàng)目經(jīng)理Hava Siegelmann博士設(shè)想的系統(tǒng)與人類的免疫系統(tǒng)并無不同，你可以把它稱為另一個(gè)機(jī)器學(xué)習(xí)系統(tǒng)中的機(jī)器學(xué)習(xí)系統(tǒng)。

"我們希望產(chǎn)生的那種基于廣泛場景的防御，可以在免疫系統(tǒng)中看到，比如說，免疫系統(tǒng)可以識(shí)別攻擊，成功攔截后記住本次攻擊的方式，以便在未來的交戰(zhàn)中創(chuàng)造出更有效的反應(yīng)。"Siegelmann博士說。"我們必須確保機(jī)器學(xué)習(xí)是安全的，不能被欺騙。"