曾幾何時(shí)，我們對(duì)視頻里的內(nèi)容深信不疑，而現(xiàn)在，有了Deepfake，再也不敢相信自己的眼睛了。如果Deepfake用在大選中會(huì)怎樣呢？聽聽美國(guó)國(guó)會(huì)和AI專家的見解。

近日，美國(guó)國(guó)會(huì)眾議院情報(bào)常設(shè)委員會(huì)與一個(gè)法律和人工智能專家小組進(jìn)行了交談，討論了人工智能操縱媒體的潛力，如利用Deepfake削弱對(duì)民主機(jī)構(gòu)和新聞媒體的公信力，以及外國(guó)對(duì)手用它干擾人們對(duì)于真實(shí)內(nèi)容的感知。

參會(huì)者們很想知道，在即將到來的選舉年，如果民主黨總統(tǒng)候選人Joe Biden等深陷deepfake誹謗，或者媒體、情報(bào)機(jī)構(gòu)或軍事組織再也不能核實(shí)視頻中所看到事件的真實(shí)性，會(huì)發(fā)生什么。

在商業(yè)領(lǐng)域，聽證會(huì)上考慮的一個(gè)Deepfake情景是在IPO前發(fā)布的一段模仿CEO的惡意視頻，導(dǎo)致公司交易的第一天股票大跌。

攻擊性網(wǎng)絡(luò)時(shí)代已經(jīng)到來

委員會(huì)主席、眾議員Adam Schiff (D-CA)說：“即使后來確定他們所看到的是假的，那種負(fù)面印象也會(huì)揮之不去?！?/p>

Schiff和國(guó)會(huì)其他多名議員去年秋天呼吁聯(lián)邦政府對(duì)Deepfake采取行動(dòng)。

“如果一個(gè)信息消費(fèi)者不知道該相信什么，他們不能從虛構(gòu)中辨別事實(shí)，那么他們要么相信一切，要么什么都不相信。如果他們什么都不相信，那就會(huì)導(dǎo)致長(zhǎng)期的冷漠，這對(duì)美國(guó)是有害的，”外交政策研究所研究員Clint Watts告訴委員會(huì)。

Watts表示，社交媒體公司、州和國(guó)家選舉官員必須做好Deepfake視頻將在2020年選舉出現(xiàn)卻聲稱是聲稱投票機(jī)出現(xiàn)故障的準(zhǔn)備。他說：“我認(rèn)為攻擊性網(wǎng)絡(luò)時(shí)代已經(jīng)到來?！?/p>

在情報(bào)委員會(huì)聽證會(huì)之前，特朗普總統(tǒng)發(fā)布了一段由Facebook支持的眾議院發(fā)言人Nancy Pelosi的篡改視頻，以及Facebook首席執(zhí)行官馬克·扎克伯格本周早些時(shí)候發(fā)布在Instagram上的一段Deepfake視頻，這兩個(gè)視頻都經(jīng)過了詳細(xì)討論。

美聯(lián)社報(bào)道，電腦生成的圖片被用來偽造與美國(guó)公共政策和外交官員有關(guān)的LinkedIn檔案。新智元對(duì)此也進(jìn)行了報(bào)道：《AI版007恐怖上演！間諜用GAN生成假頭像，大肆網(wǎng)釣政客大V》。

皮尤研究中心美國(guó)趨勢(shì)小組在2月至3月進(jìn)行的一項(xiàng)調(diào)查發(fā)現(xiàn)，假新聞被視為比暴力犯罪、種族主義、非法移民或恐怖主義更大的問題。

對(duì)抗Deepfake不僅是政府的事

與委員會(huì)交談的專家一致提出了共同標(biāo)準(zhǔn)，并在Facebook和Twitter等社交媒體公司之間分享信息，以對(duì)抗Deepfake。University of Maryland Francis King Carey School of Law教授Danielle Citron也希望修改《通信規(guī)范法案》（Communications Decency Act）第230條（現(xiàn)在大意為“互聯(lián)網(wǎng)服務(wù)不必為其用戶的行為負(fù)責(zé)”），使社交媒體平臺(tái)必須采取“合理的內(nèi)容節(jié)制”（Rational Content Moderation），以保留誹謗訴訟的法律豁免權(quán)。

Citron說：“我們不想進(jìn)入一個(gè)思想市場(chǎng)失靈的地方。”當(dāng)大法官Oliver Wendell Holmes提出思想市場(chǎng)（marketplace of ideas）的概念時(shí)，他是一個(gè)憤世嫉俗的人。他并不是在暗示真相總是會(huì)消失，他擔(dān)心人性，但在我們民主基礎(chǔ)上的更廣泛的努力是，我們可以有一套公認(rèn)的真理，這樣我們就可以進(jìn)行真正有意義的政策對(duì)話。我們不能放棄這個(gè)項(xiàng)目。”

研究工作正在各種環(huán)境下進(jìn)行，以打擊Deepfake。作為DARPA媒體取證小組的負(fù)責(zé)人，去年，人工智能研究所主任David Doermann博士和研究人員，通過追蹤不規(guī)則眼球運(yùn)動(dòng)等方式開始創(chuàng)造AI系統(tǒng)，艾倫人工智能研究所（Allen Institute for Manificial Intelligence）還分享了Grover，一種聲稱達(dá)到92%準(zhǔn)確率的Deepfake檢測(cè)算法。

Deepfake檢測(cè)研討會(huì)將在國(guó)際機(jī)器學(xué)習(xí)大會(huì)（ICML）和國(guó)際計(jì)算機(jī)視覺與模式識(shí)別會(huì)議（CVPR）上舉行，這兩個(gè)年度人工智能大會(huì)將在加利福尼亞長(zhǎng)灘舉行。

盡管如此，Doormann表示，能夠操縱的生成模型（比如Facebook聽起來像比爾·蓋茨的MelNet或英偉達(dá)的StyleGAN制造假人臉）遠(yuǎn)遠(yuǎn)比能夠檢測(cè)操縱的多。Doermann同意社交媒體公司之間的共同標(biāo)準(zhǔn)是必要的，但個(gè)人標(biāo)準(zhǔn)才是最重要的。

“我們需要把工具和過程掌握在個(gè)人手中，而不是完全依賴政府或社交媒體平臺(tái)來監(jiān)管內(nèi)容，”他說：“事實(shí)上，分享這些東西的人是問題的一部分，即使他們不知道。”

為此，Doermann支持教育公眾的努力，但也提出了一種可能性，即最終，對(duì)抗Deepfake“可能是一場(chǎng)永遠(yuǎn)無法取勝的戰(zhàn)爭(zhēng)”。

與該小組交談的專家包括OpenAI政策主管Jack Clark。OpenAI是一家創(chuàng)建于2015年的非盈利組織，擁有超過10億美元的支持，2月份由于擔(dān)心GPT-2語言理解模型可能被誤用而拒絕共享代碼。

Clark認(rèn)為大型技術(shù)平臺(tái)應(yīng)該在個(gè)人賬戶和平臺(tái)層面上開發(fā)和共享用于檢測(cè)惡意合成媒體的工具，就像他們今天在網(wǎng)絡(luò)安全方面所做的那樣。標(biāo)準(zhǔn)化可以幫助那些似乎在“黑暗中摸索”政策以解決難題的社交媒體公司。

“我們將繼續(xù)對(duì)這一領(lǐng)域的技術(shù)進(jìn)步感到驚訝，因?yàn)楹芏噙@方面的知識(shí)都是因?yàn)檫@些人（人工智能從業(yè)者）認(rèn)為他們是萊特兄弟，你知道他們覺得，他們都在忙著創(chuàng)造東西，弄清楚他們建造的東西的二階效應(yīng)是困難的，”Clark說：“因此，我認(rèn)為我們確實(shí)需要構(gòu)建基礎(chǔ)設(shè)施，這樣就有了一些第三方來衡量這些技術(shù)的進(jìn)展，這樣就可以預(yù)測(cè)其他事情了。”

Deepfake并非一無是處，但需要謹(jǐn)慎使用

專家組幾乎一致同意，除了錯(cuò)誤信息外，生成模型有積極的應(yīng)用。用于模仿其他視覺訓(xùn)練數(shù)據(jù)的合成數(shù)據(jù)正被Landing.ai和Element AI等公司用于改進(jìn)具有少量數(shù)據(jù)的訓(xùn)練AI系統(tǒng)。用于訓(xùn)練AI系統(tǒng)的合成數(shù)據(jù)比實(shí)際數(shù)據(jù)更便宜且更容易收集。

該小組還提醒委員會(huì)，基本上任何擁有體面計(jì)算機(jī)的新手都可以訪問免費(fèi)提供的開源軟件來生成Deepfake。 “deepfake”一詞源于2017年提供的軟件，用于將名人的臉放在色情明星的身上。

Citron還敦促政治候選人在即將到來的選舉年進(jìn)行政治斗爭(zhēng)時(shí)，避免使用Deepfake。