一段包含多個(gè)人臉的視頻中，攻擊者只對一個(gè)或者幾個(gè)人的人臉進(jìn)行偽造，這種“半真半假”的偽造情況能否被檢測識(shí)別？近日，阿里安全圖靈實(shí)驗(yàn)室宣布，其已成功打造出針對這種換臉視頻的DeepFake檢測技術(shù)，闡述該技術(shù)的論文被國際學(xué)術(shù)頂會(huì)ACM MM2020收錄。

DeepFake檢測技術(shù)具有許多現(xiàn)實(shí)應(yīng)用場景的價(jià)值，比如攻擊者將不雅視頻主角人臉換成目標(biāo)人臉進(jìn)行傳播等場景時(shí)，DeepFake檢測技術(shù)可“鑒偽求真”，追溯真相。

目前業(yè)界針對DeepFake換臉視頻的檢測方案主要分兩類：幀級(jí)檢測和視頻級(jí)檢測。幀級(jí)檢測方法標(biāo)注成本高，還要將幀級(jí)預(yù)測轉(zhuǎn)化為視頻級(jí)預(yù)測，對融合技術(shù)要求高，極易導(dǎo)致漏檢或誤檢，視頻級(jí)檢測研究過多專注于按照時(shí)序構(gòu)建的檢測模型，導(dǎo)致檢測效果受到一定限制。

阿里安全圖靈實(shí)驗(yàn)室算法工程師向溪介紹，為更好地檢測部分篡改的DeepFake視頻，阿里安全圖靈實(shí)驗(yàn)室提出了一種全新的檢測方法，這種方法標(biāo)注簡單，并能幫助神經(jīng)網(wǎng)絡(luò)更好地學(xué)習(xí)人臉特征，實(shí)現(xiàn)更好的檢測效果。

阿里安全圖靈實(shí)驗(yàn)室還發(fā)現(xiàn)了攻擊者篡改視頻時(shí)露出的馬腳，由于攻擊者對視頻實(shí)行單幀篡改，導(dǎo)致同一人臉在相鄰幀上會(huì)有一些抖動(dòng)，因此研究人員設(shè)計(jì)了新檢測模塊來發(fā)現(xiàn)這些抖動(dòng)，輔助識(shí)別。

此外，此前業(yè)界提出的檢測方法多適用于針對單人視頻臉部篡改或多人視頻所有人臉篡改，阿里安全構(gòu)建了一個(gè)部分攻擊數(shù)據(jù)集，彌補(bǔ)了DeepFake檢測數(shù)據(jù)集在多人臉視頻中只對一個(gè)人臉或者幾個(gè)人臉篡改場景里的空白。

通過技術(shù)革新，阿里安全圖靈實(shí)驗(yàn)室DeepFake檢測技術(shù)在視頻級(jí)檢測和幀級(jí)檢測領(lǐng)域均名列前茅。該技術(shù)的共同研究者、中科院計(jì)算所副研究員王樹徽認(rèn)為，該研究成果對于一般性視頻多實(shí)例學(xué)習(xí)與標(biāo)注技術(shù)研究也具有重要啟發(fā)意義。

今年3月，阿里發(fā)布新一代安全架構(gòu)，致力于從源頭防范安全威脅，構(gòu)建安全體系，并打造數(shù)字基建安全樣板間，阿里安全研發(fā)的DeepFake檢測技術(shù)作為新一代安全架構(gòu)的核心AI技術(shù)，為數(shù)字基建的安全建設(shè)起到重要作用，并成功實(shí)現(xiàn)落地應(yīng)用。

阿里安全圖靈實(shí)驗(yàn)室資深算法專家華棠介紹稱，截止目前，阿里已經(jīng)將該檢測技術(shù)使用在內(nèi)容安全場景中，后續(xù)也會(huì)在直播場景中進(jìn)行布局。

責(zé)任編輯：gt