3月10日報道，據(jù)《法治日報》最近報道，網(wǎng)絡(luò)電商平臺涌現(xiàn)出大量AI“復(fù)活”業(yè)務(wù)的商戶，價格從低至幾塊錢至上千元不等。伴隨著近年來AI換聲、AI換臉等詐騙手法不斷升級，威脅著消費者感情和財產(chǎn)安全。

受訪專家表示，AI“復(fù)活”技術(shù)提供者在提供服務(wù)前應(yīng)該明確要求用戶提供相關(guān)證據(jù)，并加強技術(shù)防范措施，防止產(chǎn)品侵害他人權(quán)利或被用于欺詐活動。同時，政府部門需強化對該行業(yè)的監(jiān)管，推動制定統(tǒng)一行業(yè)規(guī)范，確?？萍紕?chuàng)新與維護人類尊嚴相兼容。

據(jù)悉，多家媒體曾報道過一名網(wǎng)友通過AI換臉技術(shù)恢復(fù)其已逝去的父親形象的事件。這段視頻中，男子剃掉胡須，借鑒AI換臉技術(shù)制作視頻，并附與其父聲音向祖母報平安。此外，音樂人包小柏為紀念去世女兒，亦采用相似方法，利用AI技術(shù)制作“虛擬女兒”，成功再現(xiàn)她的嗓音。

據(jù)包小柏在采訪中所述，他于2021年失去年僅22歲的女兒。自那以后，他選擇攻讀博士學位，研究AI技術(shù)，希望借助該技術(shù)使女兒在數(shù)字空間得以“復(fù)活”。盡管由于他女兒生前只留下三段與母親視頻通話中的英文對話而面臨巨大挑戰(zhàn)，但經(jīng)過長達10個月的努力，他最終完成了兩個小時的聲紋制作。

然而值得注意的是，并非每位民眾都將此項技術(shù)應(yīng)用于懷念親人。例如，2023年全美老年人因電信詐騙共損失16億美元（相當于約115.2億元人民幣），而這些詐騙案多涉及假冒熟人聲音及其他AI偽造的手法。