人工智能（AI）算法對Facebook較為成熟的內(nèi)容安全系統(tǒng)貢獻(xiàn)巨大，然而隨著Facebook業(yè)務(wù)的擴(kuò)張，不斷進(jìn)步的AI也不免尷尬 – Facebook開放的直播功能，被謀殺、自殺等暴力視頻困擾，而AI未能幫助Facebook及時阻止這些視頻，這將Facebook推到風(fēng)口浪尖。這家擁有無數(shù)AI大神、貢獻(xiàn)大量開源工具及優(yōu)質(zhì)論文的互聯(lián)網(wǎng)巨頭，不得不宣布招募3000多名內(nèi)容審核人員，用最傳統(tǒng)的辦法對抗這類暴力視頻。

AI技術(shù)在暴力視頻面前究竟能發(fā)揮多大的用處？Facebook針對AI失效的狀況啟動了哪些應(yīng)對措施？對抗暴力視頻，真的只能靠人海戰(zhàn)術(shù)嗎？

對抗暴力視頻，F(xiàn)acebook的兩難選擇

時間退回到美國東部時間4月16日（周日），從美國男子史蒂芬·史蒂芬斯（Steve Stephens）上傳一段57秒他拍攝的自己殺人視頻到Facebook上，到Facebook接到舉報并關(guān)閉他的Facebook主頁，這個視頻在他的Facebook主頁上停留了2個多小時。如此長的一段時間，足以讓成千上萬的Facebook用戶觀看和分享這段殺人視頻，讓第三方網(wǎng)站將視頻下載并重新上傳到自己的服務(wù)器。由此，以Facebook為代表的社交媒體公司面臨一個重大難題：如何才能讓這些令人毛骨悚然的內(nèi)容遠(yuǎn)離網(wǎng)站？應(yīng)該如何刪除這些有害的內(nèi)容？這起謀殺案還提醒我們，一旦這類東西被傳上網(wǎng)和分享出去，它們將很難被從網(wǎng)絡(luò)中完全刪除。那么，企業(yè)應(yīng)該為預(yù)防這些內(nèi)容出現(xiàn)付出多少？

防止視頻被人看到的最好辦法，是讓它永無上傳之地。Facebook可以采取這樣的措施：堅持讓某人（或某物）先審查用戶嘗試發(fā)布的每個視頻，并且只允許通過審核的視頻能夠被上傳。然而，如果用戶想要發(fā)布一個關(guān)于吸塵器上的貓的視頻，也不得不等待Facebook的批準(zhǔn)，他很可能就會在其他網(wǎng)站上發(fā)布這個視頻。這等于放棄一大批渴望立即、輕松分享生活的用戶，這是Facebook難以承受的。

另外一個建議是，F(xiàn)acebook在令人反感的視頻被發(fā)布后立即將其刪除，但問題是這不具備可操作性- 算法自動刪除這類視頻的技術(shù)還不成熟，而雇傭足夠的員工手動執(zhí)行也不切實(shí)際。如果Facebook允許算法刪除視頻，出錯將是不可避免的。退一萬步說，即便Facebook的服務(wù)條款把這項(xiàng)權(quán)力給算法，F(xiàn)acebook也將被指控。那會有一個令人沮喪的結(jié)果，因?yàn)闆]有人會接受算法錯誤地刪除他們的視頻的可能性。這也是Facebook不能承受的。

因此，F(xiàn)acebook現(xiàn)在采用多管齊下的應(yīng)對方式。前端是用戶，F(xiàn)acebook依賴觀看視頻的用戶標(biāo)記出像斯蒂芬斯上傳那樣的暴力視頻。用戶的背后是人工智能算法，它可以找出與已知兒童色情相關(guān)的ID的視頻。當(dāng)視頻被標(biāo)記后，它們被發(fā)送給Facebook的內(nèi)容審核人員，他們的工作是觀看這些視頻并確定是否應(yīng)該刪除。這個系統(tǒng)是不完美的，但是現(xiàn)在人類審核人員比AI更為聰明。

然而，最終，AI將能夠有效地標(biāo)記史蒂芬斯上傳的那類視頻，屆時，AI將可協(xié)助人類，增強(qiáng)人類的技能。Facebook的AI研究院主管Yann LeCun表示：“坦率地說，我相信這是一項(xiàng)可以完成的任務(wù)，如果有足夠的追蹤數(shù)據(jù)。”雖然LeCun拒絕回答如何應(yīng)對這類特定視頻的問題，但他表示AI很快就能做到更多。毫無疑問Facebook將能夠使用AI來實(shí)時監(jiān)控視頻并標(biāo)記謀殺視頻，問題是什么時候?qū)崿F(xiàn)。

AI黃金時期尚遠(yuǎn)

理想狀態(tài)下，F(xiàn)acebook如此處理斯蒂芬斯的視頻：當(dāng)他第一次上傳自稱打算殺人的視頻時，AI賦能的軟件會立即“觀看”該視頻，并將其標(biāo)記為高優(yōu)先級。這個標(biāo)記會提醒Facebook人工審核團(tuán)隊(duì)，看到直接和可怕的威脅，刪除視頻，關(guān)閉斯蒂芬斯的帳戶，并通報當(dāng)局。

這并未發(fā)生。根據(jù)Facebook全球業(yè)務(wù)副總裁Justin Osofsky的聲明，根本沒有人標(biāo)記第一個預(yù)告殺人的視頻，而第二個謀殺視頻在斯蒂芬斯上傳超過一個半小時之后才被標(biāo)記。Osofsky還表示，從該視頻用戶標(biāo)記出來，F(xiàn)acebook審核人員花了23分鐘就把它拿下。

但問題仍然是當(dāng)前的工作流程。AI還不夠聰明，無法識別第一個視頻中的危險因素，甚至第二個視頻顯示的謀殺案。AI需要處理斯蒂芬斯的語言，解析其言論和語調(diào)，以區(qū)別于玩笑或表演，并認(rèn)真對待威脅。“有這方面的技術(shù)，但不清楚它們整合深度學(xué)習(xí)框架并能高效運(yùn)行。而且由于缺乏常識，系統(tǒng)還犯一些愚蠢的錯誤，”LeCun說，“所有人和動物都在都學(xué)習(xí)常識，但機(jī)器現(xiàn)在還搞不懂。”

Facebook知道他們需要AI學(xué)習(xí)這些，他們在這方面投入巨資，并已在計算機(jī)視覺更適合的領(lǐng)域- 即兒童色情、裸露和版權(quán)侵犯，采用算法來幫助他們標(biāo)記可疑的內(nèi)容。Facebook CEO馬克·扎克伯格（Mark Zuckerberg）表示，現(xiàn)在Facebook上有一半的標(biāo)記來自AI而不是人，F(xiàn)acebook正在開發(fā)新技術(shù)，增加社區(qū)的能力。

但扎克伯格也意識到，審核人員現(xiàn)在必須繼續(xù)與AI合作，斯蒂芬斯上傳的視頻就是一個很好的警示。扎克伯格在舊金山F8開發(fā)者大會上直接提到了這一爭議。“我們還有更多的事要做。我們被克利夫蘭的悲劇提醒了這一點(diǎn)，”他告訴參會者，“我們有很多的工作，我們將繼續(xù)竭盡全力防止這樣的悲劇發(fā)生?！?/p>

訓(xùn)練一臺電腦識別此類暴力比要求它發(fā)現(xiàn)一個赤裸裸的身體要困難得多。這很像假消息的鑒別：它需要對上下文暗示和格式的復(fù)雜理解。

當(dāng)前實(shí)用選項(xiàng)

由于訓(xùn)練能夠簡化流程的神經(jīng)網(wǎng)絡(luò)尚需時日，F(xiàn)acebook需要立即對其審核流程進(jìn)行調(diào)整，否則公司在近期與暴力視頻的對抗中仍將被動。Osofsky在斯蒂芬斯事件后發(fā)表聲明說：

由于這一可怕的系列事件，我們正在審查我們的舉報流程，以確保人們能夠盡可能容易地、快速地舉報違反我們標(biāo)準(zhǔn)的視頻或其他內(nèi)容。

這意味著更容易地標(biāo)記高優(yōu)先級的內(nèi)容，增加更多的審核人力，和更快的工作節(jié)奏。而這些人的審核人員將不得不繼續(xù)訓(xùn)練AI，這本身就需要很長時間。訓(xùn)練AI有效識別令人反感的內(nèi)容，需要大量的樣本來學(xué)習(xí)。所以Facebook首先需要給機(jī)器提供足夠的打標(biāo)簽的數(shù)據(jù)，而這需要很多審核人員觀看無數(shù)次的暴力畫面和威脅語言，這個艱巨的工作也需要時間。事實(shí)上，扎克伯格已經(jīng)宣布計劃明年雇傭超過3000人來審核和刪除Facebook上包含殺人、自殺以及其他暴力行為在內(nèi)的內(nèi)容。并且Facebook設(shè)立了黑名單，4500個違反Facebook反暴力規(guī)則的用戶，將不能進(jìn)入這個招聘流程。

當(dāng)考慮到Facebook Live時，挑戰(zhàn)會更大。直播視頻很難控制，這就是為什么有些人要求Facebook徹底放棄其Live功能。但這不現(xiàn)實(shí)，該公司去年推出此功能的本意就是與其他直播服務(wù)競爭。此外，這項(xiàng)服務(wù)已經(jīng)具有對抗暴力事件的另一面。去年，在美國警方槍殺黑人菲蘭多·卡斯蒂利亞（Philando Castile）之后，后者的女朋友用Facebook Live來捕捉射殺的后果，本質(zhì)上是使用流媒體服務(wù)作為發(fā)送全球SOS的一種方式。

利哈伊大學(xué)新聞與傳播助理教授杰里米·萊托（Jeremy Littau）表示，不管出于好的或是不好的原因，即時視頻和直播視頻已被廣泛接受。

Facebook必須與這個現(xiàn)實(shí)競爭。

除了放棄Live之外，F(xiàn)acebook可以像對待其他功能如廣播網(wǎng)絡(luò)一樣對待Live，堅持所有視頻都要延遲。然而由于上述原因，除非有人或某些東西來監(jiān)控每個視頻，否則這種延遲將不會有太大的用處，而這目前還不可能。

Facebook可以做的一件事是使得從Facebook下載視頻變得更加困難，類似于Instagram（已被Facebook收購）的機(jī)制。這能阻止第三方網(wǎng)站抓取并重新分發(fā)像斯蒂芬斯4月16日上傳的視頻。這樣一個小小的調(diào)整，不會影響Facebook成為網(wǎng)友首選的上傳視頻平臺，但可以防止視頻被上傳到其他地方，并成為互聯(lián)網(wǎng)上永遠(yuǎn)難以消除的記憶。

總結(jié)

社交媒體公司和用戶在收獲視頻尤其是直播功能帶來愉悅的同時，也面臨不守規(guī)則的用戶濫用平臺功能傳播暴力內(nèi)容的嚴(yán)重威脅。由于問題的復(fù)雜性，以及缺乏足夠的樣本數(shù)據(jù)，目前先進(jìn)的人工智能技術(shù)水平也還不能很好地幫助社交平臺自動發(fā)現(xiàn)和移除暴力內(nèi)容，F(xiàn)acebook除了優(yōu)化舉報流程，限制視頻內(nèi)容的二次分發(fā)，必須采用人肉的方式對抗這種威脅。這也意味著數(shù)目龐大的運(yùn)營成本。毫無疑問企業(yè)未來需要訓(xùn)練人工智能算法來配合審核團(tuán)隊(duì)更高效地完成這項(xiàng)工作，F(xiàn)acebook正在為此努力。人工智能確實(shí)具有這樣的潛力，然而沒有人能預(yù)測這會發(fā)生在什么時間。為了讓這一天早日來臨，人工審核團(tuán)隊(duì)還需要盡快喂給機(jī)器足夠多的標(biāo)記數(shù)據(jù)。