深度偽造(Deepfake)不僅是社工釣魚攻擊、BEC商務郵件攻擊的下一個“熱點”，同時也對業務欺詐檢測、生物特征身份認證等安全技術構成嚴重威脅，更是未來“毫秒級”數字化現代戰爭的重大隱患。

而對抗“深度偽造”最好的方法就是“深度檢測”，用AI來檢測惡意AI。

[[400173]]

近日，陸軍研究人員宣布開發出一種深度偽造檢測方法，可以開發出先進的軍用技術來幫助士兵快速檢測和識別深度偽造相關威脅。

這項研究工作的目標是開發出輕量化的、低訓練成本、高性能的面部生物特征識別技術，可以滿足士兵在戰斗中對隨身設備的尺寸、重量和功率要求。

美國陸軍作戰能力發展指揮部(DEVCOM)、陸軍研究實驗室(ARL)與南加州大學教授c-c Jay Kuo的研究小組著手解決深度偽造對社會和國家安全構成的重大威脅。研究成果就是一個稱為DefakeHop的創新技術解決方案。

深度檢測：用DefakeHop檢測Deepfake

ARL研究人員Suya You博士和Shuowen(Sean)Hu博士指出，深度偽造是人工智能合成的、超現實的視頻內容，偽造某人的言行。大多數最新的深度偽造視頻檢測和媒體取證方法都是基于深度學習的，而深度學習在健壯性、可伸縮性和可移植性方面具有許多固有的弱點。

You博士表示：“由于生成神經網絡的發展，AI驅動的深度偽造迅速地發展，以至于缺乏可靠的技術來檢測和防御。”“我們迫切需要另辟蹊徑，找到新的方法來理解深度偽造驚人性能背后的機制，并在堅實的理論支持下開發出有效的防御解決方案。”

通過將團隊成員的經驗與機器學習，信號分析和計算機視覺相結合，研究人員開發了一種創新的理論和數學框架——連續子空間學習(SSL)，這是一種創新的神經網絡體系結構。研究人員指出，SSL是DefakeHop的關鍵創新。

Kuo指出：“SSL是從信號轉換理論發展而來的用于神經網絡架構的全新數學框架。”“它與傳統方法完全不同，它提供了一種新的信號表示和過程，其中涉及級聯的多個變換矩陣。它非常適合具有短、中和遠程協方差結構的高維數據。SSL在其設計中就融合了這種特性。它是一個完整的數據驅動的無監督框架，為圖像處理和理解諸如面部生物特征識別等任務提供了全新的工具。”

You指出，目前大多數用于深度偽造視頻檢測和媒體取證的最新技術都是基于深度學習機制的。

DefakeHop大幅領先業界先進水平

研究人員認為，DefakeHop的性能大幅領先目前業界最先進的技術，主要表現為以下四點：

• DefakeHop基于全新的SSL信號表示和轉換理論。它在數學上是透明的，其內部模塊和處理都是可以解釋的。
• DefakeHop是一種弱監督的方法，它提供了一種通過(無需反向傳播)的學習機制，從而節省了(數據)標注成本，并且大大降低了培訓的復雜性。
• 生成的模型尺寸和參數要小得多。復雜度遠低于最新技術，并且可以在戰術邊緣設備和平臺上有效實現。
• 具有對抗攻擊性的強大功能。基于深度學習的方法很容易受到對抗性攻擊。這項研究提供了魯棒的空間光譜表示來純化對抗性輸入，因此可以有效地防御對抗性擾動。

You教授指出：

解決了數個面部生物識別的難題

研究人員成功地將SSL原理應用到解決多種面部生物識別以及通用的場景理解問題上。結合DefakeHop的工作，他們開發了一種新穎的方法，即基于SSL原理的FaceFop，以解決在低圖像質量和低分辨率的具有挑戰性的環境下進行問題識別和面部分類的難題。

據悉，該團隊將繼續為面部生物特征識別和通用場景理解(例如目標檢測、識別和語義場景理解)開發創新的解決方案。

Hu教授表示：“我們都看到了人工智能對社會的重大影響，有好的一面也有陰暗的一面，但不可否認的是人工智能正在改變很多事情。”“深度偽造就是一個負面的例子。過去數十年中，娛樂業已經為我們展示了計算機可以生成以假亂真的，高度復雜的視覺效果，如今人工智能和機器學習的最新技術極大地降低了內容偽造的技術門檻，相關工具也極容易獲取。”

最后，研究團隊認為，深度偽造技術對軍事和日常生活都有影響(威脅)，而在對抗深度偽造的研究領域，DefakeHop方案相比現有技術有著顯著優勢，為人工智能、計算機視覺、智能場景理解和面部生物特征識別等人工智能領域的研究提供了全新的范型和知識。

【本文是51CTO專欄作者“安全牛”的原創文章，轉載請通過安全牛（微信公眾號id:gooann-sectv）獲取授權】

戳這里，看該作者更多好文