機(jī)器學(xué)習(xí)（ML）系統(tǒng)不僅影響我們?nèi)粘Ｉ畹募夹g(shù)中得到普及，而且在包括人臉表情識(shí)別系統(tǒng)在內(nèi)的觀察技術(shù)中也變得越來越普遍。提供和使用這種廣泛部署的服務(wù)的公司依賴于所謂的隱私保護(hù)工具，這些工具通常使用生成對(duì)抗網(wǎng)絡(luò)（GAN），該網(wǎng)絡(luò)通常由第三方生產(chǎn)，以識(shí)別個(gè)人身份圖像。

紐約大學(xué)丹頓工程學(xué)院的研究人員探索了這些工具背后的機(jī)器學(xué)習(xí)框架，發(fā)現(xiàn)答案不是“非常正確”。在上個(gè)月于第35屆AAAI人工智能大會(huì)上發(fā)表的論文“顛覆保護(hù)隱私的GAN：隱藏經(jīng)過消毒的圖像中的秘密”中，由紐約大學(xué)丹登分校電氣與計(jì)算機(jī)工程學(xué)院副教授Siddharth Garg領(lǐng)導(dǎo)的團(tuán)隊(duì)探討了是否私人數(shù)據(jù)仍然可以從通過隱私保護(hù)GAN（PP-GAN）等深度學(xué)習(xí)識(shí)別器“消毒”過的圖像中恢復(fù)，甚至可以通過經(jīng)驗(yàn)測(cè)試。該團(tuán)隊(duì)的主要作者包括劉康博士。候選人和電氣與計(jì)算機(jī)工程研究助理教授本杰明·坦（Benjamin Tan）發(fā)現(xiàn)，PP-GAN設(shè)計(jì)實(shí)際上可以被顛覆以通過隱私檢查，同時(shí)仍然允許從經(jīng)過消毒的圖像中提取秘密信息。

基于機(jī)器學(xué)習(xí)的隱私工具具有廣泛的適用性，可能在任何對(duì)隱私敏感的領(lǐng)域中都可以使用，包括從車輛攝像頭數(shù)據(jù)中刪除與位置相關(guān)的信息，混淆產(chǎn)生手寫樣本的人的身份或從圖像中刪除條形碼。由于涉及的復(fù)雜性，基于GAN的工具的設(shè)計(jì)和培訓(xùn)已外包給供應(yīng)商。

Garg說：“許多用于保護(hù)可能出現(xiàn)在監(jiān)視或數(shù)據(jù)收集攝像頭中的人的隱私的第三方工具都使用這些PP-GAN來操縱圖像。” “這些系統(tǒng)的版本旨在清理面部和其他敏感數(shù)據(jù)的圖像，以便僅保留應(yīng)用程序關(guān)鍵信息。盡管我們的對(duì)手PP-GAN通過了所有現(xiàn)有的隱私檢查，但我們發(fā)現(xiàn)它實(shí)際上隱藏了與敏感數(shù)據(jù)有關(guān)的秘密數(shù)據(jù)屬性，甚至可以重建原始的私人圖片?！?/p>

該研究提供了PP-GAN和相關(guān)的經(jīng)驗(yàn)性隱私檢查的背景，制定了攻擊方案以詢問是否可以顛覆經(jīng)驗(yàn)性隱私檢查，并概述了規(guī)避經(jīng)驗(yàn)性隱私檢查的方法。該團(tuán)隊(duì)對(duì)保留隱私的GAN進(jìn)行了首次全面的安全性分析，并證明了現(xiàn)有的隱私檢查不足以檢測(cè)敏感信息的泄漏。

他們使用一種新穎的隱寫術(shù)方法，以對(duì)抗方式修改了最新的PP-GAN，以從據(jù)說經(jīng)過消毒的面部圖像中隱藏秘密（用戶ID）。

他們表明，他們提出的對(duì)抗性PP-GAN可以成功地在“經(jīng)過消毒”的輸出圖像中隱藏敏感屬性，這些圖像通過了隱私檢查，秘密恢復(fù)率達(dá)到了100％。

Garg和他的合作者注意到經(jīng)驗(yàn)指標(biāo)取決于歧視者的學(xué)習(xí)能力和培訓(xùn)預(yù)算，因此認(rèn)為這種隱私檢查缺乏必要的嚴(yán)格性來保證隱私。

Garg解釋說：“從實(shí)際的角度來看，我們的結(jié)果表明對(duì)使用數(shù)據(jù)清理工具（特別是第三方設(shè)計(jì)的PP-GAN）要謹(jǐn)慎?！?“我們的實(shí)驗(yàn)結(jié)果強(qiáng)調(diào)了現(xiàn)有基于DL的隱私檢查的不足以及使用不受信任的第三方PP-GAN工具的潛在風(fēng)險(xiǎn)?！?br /> 編輯：lyn