Facebook，微軟，人工智能合作伙伴關(guān)系以及來自幾所大學(xué)的研究人員發(fā)起了Deepfake檢測挑戰(zhàn)賽（DDC），該競賽旨在生產(chǎn)可以檢測由AI產(chǎn)生的誤導(dǎo)性圖像和視頻的AI。挑戰(zhàn)包括使用DDC的真實(shí)視頻和虛假視頻數(shù)據(jù)集，為創(chuàng)建最佳AI解決方案的團(tuán)隊(duì)提供數(shù)個(gè)獎(jiǎng)項(xiàng)和獎(jiǎng)勵(lì)。

在最近的博客文章中，F(xiàn)acebook的首席技術(shù)官M(fèi)ike Schroepfer宣布，F(xiàn)acebook將為這項(xiàng)工作以及包含付費(fèi)演員視頻的精選數(shù)據(jù)集捐款1000萬美元。該數(shù)據(jù)集將“免費(fèi)提供給社區(qū)”，這筆錢將用于為產(chǎn)生獲獎(jiǎng)解決方案的開發(fā)商提供研究經(jīng)費(fèi)和現(xiàn)金獎(jiǎng)勵(lì)。

Deepfakes是“基于人工智能的人類圖像合成技術(shù)”。簡而言之，它們是由深度學(xué)習(xí)模型創(chuàng)建的“虛假”圖像和視頻。圖像處理當(dāng)然不是什么新鮮事，但是創(chuàng)建逼真的假視頻直到最近才需要好萊塢電影的巨額預(yù)算。隨著無處不在的云計(jì)算，深度學(xué)習(xí)框架以及“面子交換”技術(shù)的開源實(shí)現(xiàn)的出現(xiàn)，門檻大大降低了。盡管該技術(shù)確實(shí)僅具有娛樂性的應(yīng)用，例如用一個(gè)演員的臉代替另一個(gè)演員的臉，但許多人擔(dān)心，深造假冒可能被惡意使用，以***輿論或作為“社會(huì)工程”。對可能濫用其深度學(xué)習(xí)結(jié)果的類似擔(dān)憂促使OpenAI不發(fā)布其完整的GPT-2文本生成模型。

Facebook和DDC的其他合作伙伴希望通過建立現(xiàn)金獎(jiǎng)勵(lì)的“ Kaggle風(fēng)格”競賽來設(shè)置AI以趕上AI 。參賽者將下載DDC數(shù)據(jù)集，該數(shù)據(jù)集將包含真實(shí)視頻和偽造視頻，并使用這些數(shù)據(jù)訓(xùn)練可以成功識(shí)別偽造品的機(jī)器學(xué)習(xí)模型。挑戰(zhàn)包括“測試機(jī)制”，該機(jī)制將在不公開的數(shù)據(jù)集子集上對競爭對手的模型評分，而僅將其保留以進(jìn)行測試。

Deepfake檢測已經(jīng)是參與挑戰(zhàn)的大學(xué)之間積極研究的領(lǐng)域。例如，成思危教授呂 在 大學(xué)奧爾巴尼分校，紐約州立大學(xué) 發(fā)表了一份關(guān)于該主題的幾篇論文。Lyu指出，偽造視頻中的人通常不會(huì)眨眼。圖像生成算法還留下了其他更細(xì)微的“指紋”，這些指紋可以由深度學(xué)習(xí)系統(tǒng)檢測到。

有人擔(dān)心DDC本身可能導(dǎo)致更有說服力的假貨。大多數(shù)Deepfake模型都基于生成對抗網(wǎng)絡(luò) （GAN）架構(gòu)，該架構(gòu)由兩個(gè)相互競爭的神經(jīng)網(wǎng)絡(luò)組成：學(xué)習(xí)生成令人信服的圖像的生成網(wǎng)絡(luò)，以及判斷圖像質(zhì)量的判別網(wǎng)絡(luò)。在AI“軍備競賽”中同時(shí)訓(xùn)練兩個(gè)網(wǎng)絡(luò)，直到生成的網(wǎng)絡(luò)可以產(chǎn)生逼真的圖像。