核心閱讀

2020年，中共中央印發《法治社會建設實施綱要（2020—2025年）》。綱要提出，制定完善對“算法推薦、深度偽造等新技術應用的規范管理辦法”。作為一項互聯網新技術應用，深度偽造技術正越來越廣泛地應用于現實場景，也出現被濫用錯用的情況。推動技術的健康成長和使用，需構建更完善的法律和技術保護體系。

有一種技術，能對聲音、影像進行篡改、偽造，從而實現“變聲”“換臉”，并且高度逼真、很難甄別——這項互聯網新技術叫做深度偽造技術。

借助人工智能技術可實現“換臉”“變聲”

日常生活中，深度偽造技術的應用并不少見：智能客服的擬人回答、影視劇對角色的換臉處理……這些應用場景通過對圖像、聲音、視頻的篡改、偽造和自動生成，產生高度逼真的效果。

深度偽造技術本質上是一種人工智能合成內容技術。據奇安信集團反金融犯罪專家盧維清介紹，起初，研究者使用自編碼器實現對原始人臉的圖像分解再還原。隨著深度學習和先進算法的出現，深度偽造技術變得更加復雜成熟，除了圖像，聲音、視頻都能被更精細地偽造或自動合成。以生成對抗網絡算法為例，其同時搭載了生成器和鑒別器兩個神經網絡，前者基于一個數據庫自動生成模擬該庫中數據的樣本，后者評估生成器生成數據的真偽，兩者在互相博弈學習中產生大規模和高精確度的輸出，實現真假難辨的效果。

技術是一把雙刃劍。深度偽造這項人工智能技術起初僅限于學術研究，后來廣泛應用于多個現實場景，發揮著一定正面效應。

盧維清舉例說，在教育場景中出現的虛擬教師和虛擬歷史人物，能讓數字教學更具互動性和代入感；影視制作通過還原或者修改角色鏡頭，降低修復成本，提高制作效率；虛擬新聞主播和客服，無需真人出現，可以降低人力投入；安防領域借此技術生成更加逼真的圖像、視頻，測試現有安全系統，尋找技術漏洞，助力更新迭代；娛樂休閑應用程序則可以對圖片和視頻做特效處理，增加趣味性……

但是，隨著技術的發展及應用門檻的降低，許多個人用戶也能輕松實現“換臉”“變聲”，還有一些人將深度偽造技術應用于安全漏洞攻擊、虛假音視頻詐騙等，技術濫用帶來的風險逐漸為人們所知。

可能被詐騙、網絡攻擊等非法行為利用

此前，有國外網民利用換臉技術偽造藝人的影像資料并發布了視頻，引發爭議。

深度偽造技術被濫用的隱患，簡單來說就是盜用他人的身份，讓人“言”所未言、“行”所未行，以假亂真，混淆真相。

據專家介紹，若無有效的監管措施，任由深度偽造技術被濫用錯用，社會生活中的每個人都存在被這項技術侵害的可能性。

例如，面部識別、聲紋認證等生物特征識別機制有可能面臨失效；公司企業可能被虛假消息欺詐，內部資料可能因為偽裝登錄而面臨丟失、篡改、刪除；有關部門在司法認證、證據收集、識別環節將面臨真假難題；金融機構管理的賬戶可能遭遇偽裝竊取，轉移資金；電信詐騙里偽裝公檢法、銀行、通信人員的手段會更加復雜，令人防不勝防……這些場景有可能帶來一系列更深層次的社會問題。

構建更完善的法律和技術保護體系

2020年，中共中央印發《法治社會建設實施綱要（2020—2025年）》。綱要提出，制定完善對“算法推薦、深度偽造等新技術應用的規范管理辦法”。今年3月，國家互聯網信息辦公室、公安部指導各地網信部門、公安機關加強對語音社交軟件和涉“深度偽造”技術的互聯網新技術新應用安全評估工作，并對未履行安全評估程序的11家企業進行約談，引發社會關注。

面對深度偽造技術被濫用錯用引發的犯罪和不良社會影響，專家建議，需盡快制定應對措施，防范化解風險。

宜鼓勵研發鑒偽和溯源技術。盧維清認為，目前學術界和商業界的防偽開發項目多針對特定產品而非通用的音視頻，還沒有構建通用性的視頻鑒偽網絡。要加大對通用且高效鑒偽技術的研發投入和支持力度，鼓勵科研院所和企業研究檢測算法、主動防御算法、深度偽造圖像和偽造語音的融合檢測技術等。

宜加強對社會各界的科普。通過培訓等方式讓人們意識到深度偽造技術被濫用錯用帶來的危害，逐步提高用戶的防范意識和鑒別能力，為相關鑒別技術的發展提供機會，促進深度偽造技術的合法利用。

宜加強相關司法體系的建立。專家建議，建立更加完整的法律法規體系，對惡意制作或傳播的用戶進行懲戒。2019年，國家互聯網信息辦公室發布《網絡信息內容生態治理規定》，網絡信息內容服務使用者和網絡信息內容生產者、網絡信息內容服務平臺不得利用深度學習、虛擬現實等新技術新應用從事法律、行政法規禁止的活動。盡管已出臺了相關法律法規遏制深度偽造技術的濫用，但還需要相關部門建立更加完整細致的法律體系，在區分偽造視頻是屬于娛樂還是惡性傳播等問題上厘清邊界，為新技術的應用劃好紅線。

對一般用戶而言，由于不具有專業知識，很難識別出偽造的信息。尤其在技術發展迅速的背景下，專業人士也很難鑒別深度偽造的音視頻。

盧維清建議，在有關財產、信用、安全等敏感問題的處理上，用戶要更加謹慎，做好數據備份以便取證，對于不確定的情形及時聯系官方客服或報警求助。

日常使用手機時，最好設置安全等級高的訪問密碼，拒絕打開陌生的網站和應用軟件，尤其是系統提示有安全隱患的訪問要及時停止，并定期對電腦系統殺毒，盡量減少在網上發布帶有個人信息的圖像、音視頻等。如果身份證、駕駛證等有關個人安全和信息的物件丟失，要第一時間掛失。平時多學習法律知識，關鍵時刻采用法律武器維護個人的合法權益。

防范深度偽造技術被濫用錯用，僅依靠個人的力量還不夠，國家、企業都要肩負起重任，保護公民隱私，依據社會職能構建更完善的法律和技術保護體系。

關鍵詞： 偽造 技術 深度 濫用 視頻 算法 音視頻 2020

責任編輯：Rex_07