“如果一臺機器能夠與人類展開對話（通過電傳設(shè)備）而不能被辨別出其機器身份，那么稱這臺機器具有智能”——1950年，艾倫·圖靈提出了著名的圖靈測試。

圖靈測試不僅首次從行為的角度對“智能”做出了清晰定義，也直接引申出了科技發(fā)展所具有的兩面性，一方面機器智能會越發(fā)接近或超過人類，而另一方面更強的AI也不可避免會帶來更多人類無法辨別的風險。

2023年以來，伴隨各類生成式超大模型爆發(fā)，“通過AI換臉和擬聲技術(shù)佯裝熟人實施詐騙”等AI新型騙局頻繁登上新聞頭條，引發(fā)廣泛社會關(guān)注。

除了提高全民反詐意識，還有哪些方法可以預(yù)防“新科技”騙局？

推動AI可信，強化新技術(shù)安全治理。針對“AI深度偽造（DeepFake）內(nèi)容”在全球范圍內(nèi)病毒式傳播，商湯科技從技術(shù)源頭出發(fā)，針對性打造兩把技術(shù)盾牌，并快速應(yīng)用于各類AI產(chǎn)品中。 ▎深偽檢測+數(shù)字水印，讓AI詐騙顯行

商湯在涉及隱私保護、數(shù)字取證及偽造檢測等領(lǐng)域的人像合成技術(shù)有著廣泛積累，并逐步開發(fā)了基于生成、鑒偽和溯源三位一體的綜合鑒偽解決方案。

為在偽造鑒別這場“攻防戰(zhàn)”中奪得先機，商湯打造了高效的對抗體系。

包括自建囊括數(shù)十種先進攻擊手段的偽造生成平臺，為鑒偽檢測和溯源提供豐富多樣的攻擊案例和海量數(shù)據(jù)支持。并可通過持續(xù)集成先進偽造算法，在zero/few-shot場景下快速響應(yīng)難例樣本和長尾類型，幫助提升鑒偽算法的泛化性。

“防”的層面，商湯訓(xùn)練的偽造檢測大模型，可充分利用面部表情一致性、動作序列連貫性，并結(jié)合頻譜、聲音和文字等多模態(tài)信息，準確鑒別包括PS、換臉、活化以及各種先進擴散模型（如：Stable Diffusion）合成的高清人像。主流評測數(shù)據(jù)集上算法檢測精度可達到99%以上，在應(yīng)對新技術(shù)復(fù)合偽造方法上（如：通過MidJourney），檢測能力也高出行業(yè)同類產(chǎn)品20%以上。

作為偽造鑒別中的最后一環(huán)，溯源可追蹤偽造數(shù)據(jù)的數(shù)據(jù)物料源頭、偽造過程以及核心偽造方法。商湯通過自研基于解耦-重建的偽造檢測算法，能夠從偽造數(shù)據(jù)中分離出真實內(nèi)容及偽影痕跡。在針對10余種主流偽造算法溯源上，準確率超過90%，同時還可給出數(shù)據(jù)中的相關(guān)偽造痕跡，提高檢測算法的可解釋性和可信度。這一技術(shù)為行業(yè)首創(chuàng)，并作為數(shù)字取證技術(shù)成功落地司法領(lǐng)域。目前，商湯綜合鑒偽解決方案已投入實戰(zhàn)，為十余家銀行的安全系統(tǒng)提供服務(wù)，對各類灰黑產(chǎn)攻擊攔截成功率超行業(yè)同類產(chǎn)品20%以上，有效防范了灰黑產(chǎn)身份盜取、支付盜刷等網(wǎng)絡(luò)詐騙。

在AIGC技術(shù)大爆發(fā)時代，每天都會出現(xiàn)新的生成方法，僅僅依靠深偽檢測技術(shù)存在一定漏檢風險，從生成平臺源頭加入數(shù)字水印技術(shù)可以構(gòu)成強力雙保險。

商湯數(shù)字水印結(jié)合頻域分析、深度學(xué)習、擴散模型等技術(shù)，將特定信息嵌入到數(shù)字載體中，同時不影響載體的使用價值，也不易被人的知覺系統(tǒng)察覺，只有通過特定的解碼器和專屬密鑰才能提取，可實現(xiàn)篡改內(nèi)容的檢測且水印不可竊取。 數(shù)字水印技術(shù)可在AIGC相關(guān)產(chǎn)品發(fā)布時加入，能夠有效增強深偽檢測的可靠性，甚至進一步影響生成效果，從源頭上遏制深度偽造，實現(xiàn)主動防御。具體應(yīng)用中，商湯數(shù)字水印技術(shù)可用于版權(quán)保護，防偽溯源等場景，支持圖像、視頻、音頻、文本等各種模態(tài)的數(shù)字載體，在不同程度的干擾下(裁剪、壓縮等)能保證99%+的水印提取精度，且不影響數(shù)據(jù)本身質(zhì)量(如高清圖畫質(zhì))，在保證水印信息容量大(256位)以及安全性(通過密鑰加密)的同時具備足夠的隱蔽性以及魯棒性。此外，數(shù)字水印技術(shù)也響應(yīng)了《生成式人工智能服務(wù)管理辦法（征求意見稿）》監(jiān)管要求。

目前，商湯數(shù)字水印技術(shù)已服務(wù)于“商湯秒畫SenseMirage”、 “商湯如影SenseAvatar”等多個產(chǎn)品，以及內(nèi)容創(chuàng)作、大數(shù)據(jù)客戶。

▎持續(xù)推進可信AI體系化建設(shè)

提升AI安全治理水平、推動AI可持續(xù)發(fā)展，是行業(yè)健康成長的根基，也是商湯科技的責任。

多年來，商湯積極釋放在可信AI領(lǐng)域的技術(shù)沉淀和實踐經(jīng)驗，產(chǎn)生一系列成果：

構(gòu)建“商湯AI安全治理開放平臺”，提供可持續(xù)發(fā)展的AI安全公益平臺；
參與國家人工智能標準化總體組和全國信標委人工智能分委會組織編寫的《人工智能倫理治理標準化指南（2023版）》，助力人工智能研發(fā)及應(yīng)用更健康發(fā)展；
成為新加坡“人工智能驗證基金會”（AI Verify Foundation）一員，促進新加坡可信AI建設(shè)，樹立具有積極社會影響力的國際實踐標桿；
榮獲隱私信息管理體系認證全部三項認證，并獲評中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）頒發(fā)的“可信AI 2022年突出貢獻企業(yè)”；

波瀾壯闊的人工智能發(fā)展浪潮中，AI技術(shù)將不斷帶來巨大的創(chuàng)新和改變，但只有可信、符合倫理的AI產(chǎn)品才能造福人類。

相關(guān)閱讀，戳這里

《商湯獲評“可信AI 2022年突出貢獻企業(yè)”》

《多維度打造可信AI，商湯斬獲三項權(quán)威獎項》

原文標題：強化AI安全應(yīng)用，商湯打造“深偽檢測+數(shù)字水印”防火墻

文章出處：【微信公眾號：商湯科技SenseTime】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。

聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。舉報投訴