兩款新平臺(tái)：數(shù)據(jù)安全與算法安全

RealAI在這次發(fā)布會(huì)上共發(fā)布了兩款新品，還是從數(shù)據(jù)安全和算法安全兩方面入手。 首先是，隱私保護(hù)機(jī)器學(xué)習(xí)平臺(tái)RealSecure。隱私保護(hù)機(jī)器學(xué)習(xí)平臺(tái)：從“雕版印刷”到“活字印刷”數(shù)據(jù)安全主要涉及兩方面：一是要解決隱私保護(hù)的問題，二是解決數(shù)據(jù)所有權(quán)的問題。 從實(shí)現(xiàn)第三代人工智能的思路出發(fā)，企業(yè)需要用更好的方法打通數(shù)據(jù)，保證數(shù)據(jù)隱私安全前提下最大化的挖掘數(shù)據(jù)價(jià)值。

這個(gè)過程中，受保護(hù)的、可用不可見的數(shù)據(jù)交互非常重要。 在很多高價(jià)值商業(yè)場景，如金融、醫(yī)療、交通場景中，有價(jià)值的數(shù)據(jù)常常分散在不同的機(jī)構(gòu)和用戶手中，形成了大大小小的數(shù)據(jù)孤島，明顯制約了AI能力的提升。 早在2016年，谷歌就提出了聯(lián)邦學(xué)習(xí)的概念，可以實(shí)現(xiàn)“數(shù)據(jù)可用不可見”。 近幾年，在產(chǎn)學(xué)研的聯(lián)合推動(dòng)下，國內(nèi)外諸多科技巨頭，均已開始搭建聯(lián)邦學(xué)習(xí)的研究與應(yīng)用團(tuán)隊(duì)。 國內(nèi)也出現(xiàn)聯(lián)邦學(xué)習(xí)、共享智能、知識(shí)聯(lián)邦、聯(lián)邦智能和異步聯(lián)邦學(xué)習(xí)等多個(gè)相關(guān)研究方向，RealAI所提出隱私保護(hù)機(jī)器學(xué)習(xí)與其同屬一類技術(shù)范疇，但更強(qiáng)調(diào)隱私保護(hù)屬性。

不同于傳統(tǒng)機(jī)器學(xué)習(xí)，隱私保護(hù)機(jī)器學(xué)習(xí)是分布式、密碼學(xué)、人工智能三個(gè)領(lǐng)域的結(jié)合，這就意味著，企業(yè)想要做隱私保護(hù)機(jī)器學(xué)習(xí)，之前搭建起來的人工智能團(tuán)隊(duì)、經(jīng)驗(yàn)等方法論不能直接拿來復(fù)用，需要重新搭建隱私保護(hù)機(jī)器學(xué)習(xí)體系下的團(tuán)隊(duì)與方法論。田天表示，重新堆人力將原有機(jī)器學(xué)習(xí)代碼一點(diǎn)點(diǎn)的改寫成聯(lián)邦學(xué)習(xí)代碼，這種方式顯然并不落地，可落地的聯(lián)邦學(xué)習(xí)平臺(tái)，必須是與原有機(jī)器學(xué)習(xí)生態(tài)一脈相承的。 而“一脈相承”有兩層含義：一是算法的一脈相承，指機(jī)器學(xué)習(xí)算法與隱私保護(hù)機(jī)器學(xué)習(xí)算法應(yīng)是繼承關(guān)系，而非完全重構(gòu)的關(guān)系，原有的AI算法積累，可以通過平臺(tái)自動(dòng)實(shí)現(xiàn)隱私保護(hù)化，實(shí)現(xiàn)兩大生態(tài)的統(tǒng)一。

二是應(yīng)用的一脈相承，建模使用上需要符合原有數(shù)據(jù)科學(xué)家的建模流程，交互方式上既能支持UI的業(yè)務(wù)級(jí)一鍵建模，還可以支持以jupyter的形式建模，大幅度提高應(yīng)用靈活度，讓數(shù)據(jù)科學(xué)家能夠以最熟悉的方式使用聯(lián)邦學(xué)習(xí)。 田天說到，數(shù)據(jù)科學(xué)家還是數(shù)據(jù)科學(xué)家，本地怎么建模、隱私保護(hù)就怎樣建模，分布式、加密的工作全部一鍵自動(dòng)完成。

這也是RealAI推出隱私保護(hù)機(jī)器學(xué)習(xí)平臺(tái)RealSecure（RSC）的兩點(diǎn)考慮， 據(jù)《醫(yī)健AI掘金志》了解，這款平臺(tái)是業(yè)內(nèi)首款隱私保護(hù)AI編譯器。 以底層數(shù)據(jù)流圖的視角揭示機(jī)器學(xué)習(xí)算法與對(duì)應(yīng)分布式隱私保護(hù)機(jī)器學(xué)習(xí)算法的聯(lián)系，通過“算子”組合將兩端的生態(tài)打通，解決企業(yè)搭建隱私保護(hù)生態(tài)面臨著的性能差、易用性差、黑盒協(xié)議等諸多難題。如何理解這里定位的“編譯器”？田天解釋道，在與傳統(tǒng)處理方式相比，RSC能夠?qū)C(jī)器學(xué)習(xí)算法一鍵編譯成隱私保護(hù)機(jī)器學(xué)習(xí)算法。

“如果說此前的改寫方式像‘雕版印刷’一樣，RSC則實(shí)現(xiàn)了‘活字印刷’，將模型代碼解構(gòu)到‘算子’級(jí)別，通過算子的靈活組合來適配各種各樣的機(jī)器學(xué)習(xí)算法，擺脫重復(fù)改寫的繁瑣工作，實(shí)現(xiàn)靈活‘制版’?！?據(jù)《醫(yī)健AI掘金志》了解，在底層編譯的加持，以及融合密碼技術(shù)與算法的優(yōu)化，RSC能夠?qū)崿F(xiàn)性能的大幅提升。 比如，在某實(shí)際風(fēng)控場景中，RSC模型訓(xùn)練相比某主流國產(chǎn)開源框架性能提升40倍，耗時(shí)從4小時(shí)40分鐘縮減至6分鐘。

人工智能安全平臺(tái)：AI算法的“殺毒軟件”現(xiàn)在，AI應(yīng)用隨處可見。目前市面上的手機(jī)均不同程度地配備了人臉識(shí)別方案；在公共場所，地方政府也已經(jīng)部署了人臉識(shí)別攝像頭，用于嫌疑犯追蹤。 最出名的莫過于“張學(xué)友的演唱會(huì)”，在2018年，張學(xué)友演唱會(huì)上就累計(jì)拿下了近80名違法犯罪分子。 但是，隨著人工智能規(guī)?；瘧?yīng)用加速，其面臨的安全風(fēng)險(xiǎn)也日益凸顯出來。

去年，RealAI就實(shí)現(xiàn)了通過一副印有特殊紋理圖案的眼鏡，解鎖了他人的手機(jī)；針對(duì)安防監(jiān)控的場景，通過穿上印有特殊紋理圖案的衣服，就能逃過人體檢測算法實(shí)現(xiàn)隱身。 田天表示，目前，最廣泛使用的深度學(xué)習(xí)技術(shù)，是通過查看數(shù)據(jù)集中許多的示例進(jìn)行學(xué)習(xí)從而建立出模型的。與人類不同，深度學(xué)習(xí)模型沒有可以利用的基礎(chǔ)知識(shí)，它們的全部知識(shí)完全取決于訓(xùn)練的數(shù)據(jù)。

當(dāng)數(shù)據(jù)集中的數(shù)據(jù)被攻擊者有意的操縱，植入秘密的后門時(shí)，模型就會(huì)學(xué)習(xí)到后門中的特征，比如圖片中的向日葵。那么在實(shí)際運(yùn)行中時(shí)，這個(gè)向日葵就會(huì)觸發(fā)模型出錯(cuò)。 解決人工智能安全問題的核心，在于理解為什么人工智能模型學(xué)習(xí)的模式如此脆弱。 然而，對(duì)于廣泛使用的最新機(jī)器學(xué)習(xí)算法（例如深度神經(jīng)網(wǎng)絡(luò)）是如何學(xué)習(xí)和工作的，人們了解得很少，即使在今天，它們?nèi)匀辉谠S多方面仍是黑盒的。

因此，RealAI推出了首個(gè)針對(duì)人工智能模型的“殺毒軟件”和“防火墻”——RealSafe平臺(tái)，一方面能夠?qū)δＰ偷陌踩赃M(jìn)行全面檢測，另一方面提供多種增強(qiáng)安全性的方案。在本次發(fā)布會(huì)上，RealSafe平臺(tái)迎來2.0升級(jí)，在模型安全性檢測方面，能針對(duì)對(duì)抗樣本攻擊，給出安全評(píng)分以及將檢測場景從人臉識(shí)別拓展到了目標(biāo)檢測、圖像分類外。 此外，RealSafe 2.0還增加了模型后門檢測功能，能夠在不獲取模型結(jié)構(gòu)及參數(shù)等具體信息的情況下，分辨出僅在特定輸入情況才會(huì)識(shí)別出錯(cuò)平時(shí)表現(xiàn)正常的被植入后門的模型。 除了能夠?qū)Π踩詸z測以外，平臺(tái)也提供了安全性提升方案。

通過內(nèi)置的對(duì)抗樣本去噪方法，可以幫助用戶在人工智能應(yīng)用中，破壞掉攻擊者惡意添加的圖像噪聲，使模型能夠正常運(yùn)作。

通過內(nèi)置的對(duì)抗樣本檢測方法，可以幫助用戶檢測輸入數(shù)據(jù)是否存在惡意添加的圖像噪聲，避免其進(jìn)入人工智能系統(tǒng)的業(yè)務(wù)流程。

通過提供平臺(tái)自動(dòng)化生成的、能夠使被測模型出錯(cuò)的對(duì)抗樣本，幫助用戶進(jìn)行對(duì)抗訓(xùn)練，訓(xùn)練出更加魯棒的算法模型。

目前，RealSafe平臺(tái)已在工信部重大建設(shè)項(xiàng)目以及某電網(wǎng)公司落地應(yīng)用。 RealAI產(chǎn)品副總裁唐家渝表示，未來還將在RealSafe平臺(tái)中集成更多安全風(fēng)險(xiǎn)的檢測能力，包括數(shù)據(jù)逆向還原風(fēng)險(xiǎn)、成員推理風(fēng)險(xiǎn)、模型竊取等安全風(fēng)險(xiǎn)。

雖然，AI算法界的“殺毒軟件”這一說法由RealAI最早提出，但滿足類似功能的產(chǎn)品在市面上也并非獨(dú)此一家。 比如，行業(yè)內(nèi)早有一些人工智能對(duì)抗技術(shù)的工具包，例如foolbox、IBM的ART以及谷歌的CleverHans。 田天認(rèn)為，這些公司推出的技術(shù)，更多還是停留在學(xué)術(shù)研究階段，還沒有進(jìn)入到商業(yè)應(yīng)用的階段。 “很多學(xué)術(shù)機(jī)構(gòu)發(fā)布的工具，是一種白盒的算法，如果要商用，要去檢測某款A(yù)I系統(tǒng)的安全性，我們不可能要求對(duì)方把所有的源代碼都給我們，他們會(huì)覺得更不安全?！?br />
因此，人工智能安全平臺(tái)在提供檢測方案的時(shí)候必須要具備“黑盒”的檢測能力。 據(jù)雷鋒網(wǎng)《醫(yī)健AI掘金志》了解，RealAI目前在金融、工業(yè)、公共服務(wù)三大領(lǐng)域中進(jìn)行布局。田天也向我們表示，這幾大領(lǐng)域都有很好的機(jī)會(huì)，基本處于同步推進(jìn)的狀態(tài)。但是在落地速度上，金融領(lǐng)域會(huì)相對(duì)快一些。 這也取決于金融業(yè)本身已有的信息化基礎(chǔ)、金融問題的定義更加清晰。

而在工業(yè)領(lǐng)域，由于這個(gè)行業(yè)的改造周期更長，項(xiàng)目推進(jìn)的周期也更長。 以金融場景為例，風(fēng)控場景中數(shù)據(jù)有偏問題尤其突出，如何評(píng)估沒有貸后表現(xiàn)的拒絕客群、挖掘其中的優(yōu)質(zhì)客戶一向是行業(yè)難題。 RealAI利用自研的半監(jiān)督回?fù)颇Ｐ?，提高?duì)拒絕客群質(zhì)量的識(shí)別能力，實(shí)現(xiàn)撈回客群與原風(fēng)控放款客群風(fēng)險(xiǎn)一致下，幫助金融機(jī)構(gòu)無成本提升20%的資產(chǎn)規(guī)模。

劉荔園也向雷鋒網(wǎng)透露，很多金融機(jī)構(gòu)已經(jīng)在使用黑盒模型，但是金融機(jī)構(gòu)還是希望在可解釋性上更進(jìn)一步?！斑@個(gè)機(jī)會(huì)不僅僅是留給第一波吃到螃蟹的人，而是讓更多的用戶能夠更安心、更大面積的使用這些模型?！?田天說到，“短期內(nèi)，我們需要做出一些效果突出的行業(yè)解決方案；長期來看，我們希望逐步把生態(tài)體系打造出來，對(duì)AI賦能所需要的各方面能力（算法、數(shù)據(jù)）進(jìn)行集成，讓解決方案提供商完成一系列AI應(yīng)用的搭建，這個(gè)能體現(xiàn)出我們作為一家平臺(tái)型公司的價(jià)值?！?/p>

責(zé)任編輯：xj

原文標(biāo)題：瑞萊智慧的“長期主義”：走出清華，給AI產(chǎn)業(yè)畫一條新的“增長曲線”

文章出處：【微信公眾號(hào)：IoT科技評(píng)論】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。