深度偽造危害加劇 技術檢測為防范治理基礎

作為引領第四次科技革命的戰(zhàn)略性技術，人工智能給社會建設和經濟發(fā)展帶來了重大而深遠的影響。但作為前沿創(chuàng)新技術，數(shù)據(jù)隱私、技術濫用等伴生安全問題也正給社會公共治理帶來嚴峻挑戰(zhàn)，其中圍繞“深度偽造”的倫理和法律爭議一直是公眾高度關注的熱點話題。

“深度偽造”是指利用深度學習算法實現(xiàn)音頻和視頻的模擬和偽造，包括語音模擬、換臉、表情操縱等。2019年國內紅極一時的換臉軟件“ZAO”就是公眾最為熟知的應用，用戶只需上傳一張照片，就能秒變“戲精”，甚至還能與偶像同臺飆戲，效果極其逼真。不久前，短視頻領域出現(xiàn)的“螞蟻呀嘿”熱潮，其基礎也是深度偽造技術。

憑借極強的娛樂性與傳播性，“深度偽造”技術一路走紅。但同時，其“低門檻、高效率、高質量”的特性，使其被大規(guī)模濫用于偽造身份、混淆視聽，以實現(xiàn)網絡欺詐、虛假宣傳與操縱輿論等目的。

針對這一威脅與挑戰(zhàn)，7月9日，北京瑞萊智慧科技有限公司首席執(zhí)行官田天在上海世界人工智能大會演講時明確指出，人工智能產業(yè)正進入高質量發(fā)展階段，以深度偽造為代表各類安全問題層出不窮，亟待解決。這次大會期間，瑞萊智慧也發(fā)布了基于第三代人工智能的DeepReal深度偽造內容檢測平臺，具備工業(yè)級檢測性能，能夠快速、精準地對多種格式與質量的圖像進行真?zhèn)舞b別，為遏制和防范深度偽造技術的大規(guī)模濫用提供有效技術支撐。

一、低門檻高效率放大了潛在威脅

與傳統(tǒng)圖像視頻處理技術相比，深度偽造技術具有“門檻低、效率高、質量好”的特點，所以它也被探索用于影視、醫(yī)療、虛擬現(xiàn)實等商業(yè)，比如在影視后期制作中，表情操縱、全臉替換等深度合成技術可以被用于影視劇本地化嘴型修改、虛擬IP打造等場景中。

然而，與正面效應相比，這些特性也同步放大了潛在威脅和安全隱患。

當前，深度偽造的技術門檻正大幅降低，網絡上充斥著大量偽造教程和開源可用的計算機程序，即便是不具備專業(yè)算法能力的普通用戶，也可以在很短時間內輕松上手。尤其依托深度學習算法特性，在海量圖像和視頻數(shù)據(jù)的驅動下，深度合成技術不斷演進迭代，仿真精度不斷得到提升。所以，制作一段高逼真度的虛假音視頻成本極低，卻可以借助社交媒體等平臺短時間風靡互聯(lián)網。對于這樣一種技術，如果不進行規(guī)制，無疑將產生可怕的后果。

二、危害社會利益乃至國家安全

深度偽造技術的大規(guī)模濫用正侵害到社會公眾的合法權益。比如深度偽造技術最常見的非法運用方式，將一些知名歌星、影星等公眾人物的臉“移花接木”到色情明星身上，偽造色情片非法牟利，或者是偽造惡搞視頻，這對個人名譽權與肖像權構成嚴重侵害。

其次是公眾財產安全，不法分子可以利用漏洞劫持手機識別攝像頭，利用照片活化、表情操縱等深度偽造技術冒充機主，進而對機主的微信好友實行轉賬詐騙。同樣的，電信詐騙中也有類似利用“語音偽造”技術的案例。

不僅如此，深度偽造還將會對社會安全和國家安全造成威脅。例如，借助互聯(lián)網平臺捏造虛假新聞、炮制政治謠言，深度偽造技術大大增加了網絡內容監(jiān)管的復雜性，也帶來了社會信任危機與網絡政治安全風險。在病毒式傳播的深度偽造視背后，可能蘊藏著操縱社會輿論、激化社會矛盾與擾亂正常社會經濟秩序等系統(tǒng)性的危害。

“比如公安機關、司法機關的圖像鑒別工作，深度偽造技術的出現(xiàn)將導致舉證工作存在風險。”田天補充道，“深度偽造技術也可能成為國家之間發(fā)起虛假信息戰(zhàn)爭的最新武器，抹黑政治人物、偽造政治制度和破壞國家間關系，甚至在未來軍事戰(zhàn)場上損毀特定軍事或情報行動。在這種背景下，國內外政府高度重視，都出臺了相關的監(jiān)管制度。”

三、國內外政府相繼出臺監(jiān)管政策

為防范深度偽造技術所造成的危害，全球各國政府積極推進立法管制。比如美國的《2019年深度偽造報告法案》，歐盟的《通用數(shù)據(jù)保護條例》、《反虛假信息行為準則》和德國出臺的《社交媒體管理法》等都對相關的內容進行了規(guī)制。

我國也針對深度偽造的問題出臺了相關監(jiān)管辦法。2019年11月，網信辦發(fā)布《網絡音視頻信息服務管理規(guī)定》，指出自2020年1月1日起，AI造假視頻不得隨意發(fā)布。其中相關規(guī)定主要有四條:“按照國家有關規(guī)定開展安全評估”、“以顯著方式予以標識”非真實音頻信息、不得利用AI造假技術發(fā)布虛假新聞、部署AI偽造音視頻鑒別技術和健全辟謠機制等。

2020年5月，《中華人民共和國民法典》通過，其中人格權編明確界定“禁止利用信息技術手段偽造等方式侵害他人的肖像權和聲音”，這一系列的政策措施為深度偽造技術劃定了應用邊界。

值得注意的是，2021年3月，針對部分語音社交軟件和涉“深度偽造”技術的應用未履行安全評估程序，國家網信辦、公安部指導各地網信部門、公安機關依法約談了11家企業(yè)，督促其認真開展安全評估，完善風險防控機制和措施。不同于以往的事后監(jiān)管，此次安全評估工作和約談給有關的互聯(lián)網新技術新應用提前劃“紅線”，“事前規(guī)制”有利于企業(yè)及時發(fā)現(xiàn)安全隱患，整改安全問題。

四、AI存在天然的“局限性”

關于人工智能安全性的擔憂，一方面需要依靠法律法規(guī)和政府監(jiān)管來約束，另一方面，需要從源頭加強安全評估，提升鑒別技術等能力，借助技術手段提前布局。

田天表示，以深度偽造為代表的安全問題，正是目前人工智能產業(yè)當前所面臨的瓶頸。人工智能產業(yè)正經歷從高速增長向高質量發(fā)展的轉變，一方面產業(yè)期待進一步提升，金融、醫(yī)療等更復雜的高價值場景的應用需求不斷增加，智能化場景從單一感知向多元認知發(fā)展；另一方面，各種安全問題的爆發(fā)，要求在追求性能效率的同時關注安全性的提升與保障。

針對于此，中科院院士、清華大學人工智能研究院院長、北京瑞萊智慧科技有限公司首席科學家張鈸教授提出了“第三代人工智能”的概念，也就是安全、可靠、可信的人工智能。安全性將成為下一階段人工智能發(fā)展必須的基礎。

瑞萊智慧在此次大會上發(fā)布的DeepReal深度偽造內容檢測平臺，就是基于第三代人工智能所研發(fā)的能夠高效、快速鑒別深度偽造內容的平臺，將成為遏制深度偽造作惡的重要手段。

五、技術防范是深偽治理的基礎

北京瑞萊智慧科技有限公司副總裁唐家渝認為，深度偽造技術持續(xù)進化，網絡數(shù)字內容多變、隱匿性強，監(jiān)管難度大，因此開展主動技術防范與檢測工作是必要的。

但他也表示，深度偽造技術檢測工作當前面臨兩大難點，一是肉眼難以辨別，傳統(tǒng)人工內容審核團隊無法應對，二是深度偽造檢測面臨“強對抗性”，新型偽造方法層出不窮、網絡傳播環(huán)境復雜、算法模型存在結構性缺陷等。因此他建議，首先監(jiān)管部門需要設立專業(yè)技術檢測團隊，其次檢測工作需遵守動態(tài)平衡機制，技術能力需不斷升級迭代。

瑞萊智慧RealAI基于第三代AI技術研發(fā)的DeepReal深度偽造內容檢測平臺，具備工業(yè)級檢測性能，能夠快速、精準地對多種格式與質量的圖像進行真?zhèn)舞b別，實現(xiàn)輸出判斷結果、生成檢測圖像、提供檢測報告等功能，具有響應快速、準確率高、算力節(jié)約等特點。

據(jù)唐家渝透露，在結果準確度方面，DeepReal在學術數(shù)據(jù)集和ZAO等主流方式生成的網絡數(shù)據(jù)集中，已達到99%以上的準確率。而在實際應用中，DeepReal的檢測準確率也已達到業(yè)界頂尖水平，遠超F(xiàn)acebook此前舉辦的Deepfake檢測挑戰(zhàn)賽所公布的最好成績。在檢測速度方面，DeepReal可實現(xiàn)每幀畫面的檢測時間僅用時30毫秒。

此前，瑞萊智慧RealAI團隊在國際安全極客大賽 GeekPwn 2020 首屆 CAAD 虛假人臉 AI 識別大賽上，以絕對比分優(yōu)勢奪得冠軍；在網信辦與公安部共同指導的第二屆“中國人工智能·多媒體信息識別技術大賽”中，斬獲“創(chuàng)新之星”獎以及深偽檢測競賽A類獎。此外，DeepReal在深偽相關領域也已發(fā)表頂級會議和期刊論文十余篇。

針對深度偽造技術的防范，瑞萊智慧RealAI還在持續(xù)發(fā)力，并且與工信部、公安部、國家互聯(lián)網應急中心、工信安全中心、中國信通院、公安三所等多家機構展開了深入的項目合作。瑞萊智慧RealAI還與國家工信安全中心聯(lián)合制定了我國人臉模型算法自身安全相關的第一個標準《信息安全技術人臉比對模型安全技術規(guī)范 》，作為第二編寫單位與信通院在工信部網安局指導下聯(lián)合編制了《人工智能安全框架（2020年）》藍皮書。

唐家渝表示，開展主動技術防范與檢測評估工作是防范深度偽造技術作惡的必由之路。未來，DeepReal檢測平臺將在網絡虛假內容甄別、人臉資料審核以及影像物證真實性檢驗等實際應用場景中發(fā)揮強大作用，瑞萊智慧RealAI也將持續(xù)迭代技術、打磨產品，和相關單位一起，全力以赴，確保在這場深度偽造的“攻防戰(zhàn)”中保持始終立于不敗之地。

生成海報

免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現(xiàn)的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。