行業專家Mike Elgan對于人工智能在偽造方面起到的作用進行了闡述。他舉例說，“在我小時候，我和弟弟用紙碟、錫紙和大理石制成一個UFO(不明飛行物)。然后，我們將UFO懸掛在魚線上，并登上樓頂采用家里攝像機拍攝UFO飛來的樣子，并獲得證明外星人的存在的確鑿證據，這種游戲就是一種深度偽造。”

[[316363]]

偽造和假冒事物一直存在。但是，當這一切都變得數字化時，其創建和分發都變得更加容易、更快以及更加廣泛。人工智能(AI)會將其提升到一個全新的水平，使任何人都能創建完美的多媒體(如視頻和音頻)偽造品。

偽造者創建偽造品，然而采用檢測器進行檢測，從而向偽造者提供有關檢測到的信息。偽造者然后調整他們的方法，并創造更好的偽造品。但是在充滿偽造的世界中，人們將如何應對?

假新聞(或有關偽造的新聞)

很多人擔心深度偽造(Deepfake)視頻會被用于政治。例如近日發生的這樣事情，印度人民黨主席Manoj Tiwari以不同的語言對其支持者的講話就是一個Deepfake視頻，好在沒有用來偽造對手的評論。不過，Deepfake現在已經用于政治領域，這是一個里程碑。

另一個采用人工智能偽造的例子是說唱歌手和詞曲作者Travis Scott創作的一首新歌，這首歌名為Jack Park Canny Dope Man，采用人工智能生成的音樂和歌詞，由Scott本人在一段音樂視頻中演唱。

OpenAI GPT-2是一種語言創建人工智能技術，幾乎可以使用任何樣式編寫文章。它可以模仿《紐約客》雜志的寫作風格，甚至可以寫詩。OpenAI是一家由特斯拉首席執行官埃隆•馬斯克等創立的非盈利研究機構。

很多人擔心人工智能創造的偽造品用于犯罪，但這已經發生了。

安全廠商賽門鐵克公司已經通過模仿首席執行官的聲音，驗證了三個針對企業員工的Deepfake音頻的案例。Deepfake技術可以從YouTube演講和企業財務收益電話中獲取首席執行官聲音樣本，詐騙者在電話中模擬其聲音，欺騙員工給他緊急匯款。

人工智能將如何制造完美的Deepfake視頻

目前有兩種創建Deepfake視頻的通用方法。第一個是換臉技術，它使用編碼器和解碼器來逐幀匹配和替換視頻中的人臉。

第二種方法稱為生成對抗網絡或GAN。這種方法可用于創建各種令人信服卻是偽造的數據，它使用兩種人工智能算法。一個算法用來創建虛假數據;另一個算法進行判斷，為創建者算法提供反饋。并大規模重復這種做法，兩種算法都提高了它們的能力。最終，創建者算法變得如此出色，它可以產生視頻、音頻、文本、指紋等假數據。

偽造視頻的制作變得越來越復雜。總部位于香港的一家名為SenseTime的初創公司與南洋理工大學和中國科學院自動化研究所合作，開發了一個名為SenseTIme的框架，該框架可以根據語音自動編輯視頻。

韓國Hyperconnect公司構建了一個名為MarioNETte的工具，該工具可以實時將某人的臉部動作映射到其他任何人(例如政客或名人)的臉部。

與此同時，Deepfake技術變得越來越強大，并且也變得更加民主化，現在出現在消費者應用程序中。任何人都可以創建令人信服的Deepfake視頻和音頻，而這只是時間問題。

這就是為什么必須弄清楚如何檢測偽造文件的原因。

偽造技術即將上線

科技孵化器Jigsaw公司最初是谷歌公司的一個部門，后來轉到Alphabet公司的旗下，如今重新回到谷歌公司。Jigsaw公司創建了一個名為Assembler的平臺，幫助核查人員核實圖像。該工具結合了美國7所大學開發的不同技術和算法，加上Jigsaw公司自己創建的一個算法，通過發現由偽造照片的已知方法生成的證據來處理圖像。

谷歌公司還利用人工智能技術和人類智慧相合，在Google Maps上查找并刪除虛假、不道德或惡意的評論。該公司本月宣稱，他們已經刪除了超過7500萬條違反政策的評論和400萬份虛假的業務資料。人工智能會首先審核所有評論和業務概況，并自動刪除明確的違規者。然后將難以處理的問題交給工作人員處理。

華盛頓大學和艾倫人工智能研究所的研究人員開發了一種名為Grover的算法，該算法可以識別出深度偽造的簽名，其準確率高達92%。

Facebook公司最近讓獨立研究人員通過一個名為Social Science One的程序訪問有關用戶活動的某些信息。

哈佛大學和麻省理工學院的IBM Watson人工智能實驗室的科學家發布了一個“巨型語言模型測試室”的軟件，它是基于網絡空間，用于確定給定的文本是否由人工智能編寫。

由滑鐵盧大學的研究人員創建的一家加拿大初創廠商DarwinAI公司開發了他們稱之為DarwinAI的技術，該技術使用深度學習來檢測虛假新聞。他們的技術將標題與文章內容進行比較。在以后的迭代中，DarwinAI會將文章的文字與其他文章進行比較。

采用假新聞推動政治進程的最瘋狂的想法之一是，利用大量的著作和演講資料，通過模擬他們在人工智能中的思維來“復活”美國開國元勛亞當斯、漢密爾頓、杰伊、杰斐遜、麥迪遜和華盛頓。

一些人提出將區塊鏈作為驗證內容的解決方案，但這可能讓人難以接受。正如這些早期的產品、技術和試驗所證明的那樣，檢測偽造事物的未來技術顯然是人工智能。

人工智能應用在偽造與反偽造之間的競爭

有人估計，四分之一的新社交媒體賬戶將是偽造或欺詐的賬戶。假賬戶聽起來無害，但它們往往與假新聞、垃圾郵件和網絡犯罪密切相關。據報道，目前用于檢測假賬戶的系統功能并不強大。北約的一項調查發現，他們創建的假冒個人資料中有95%在發布調查報告幾周后仍然在使用。

這是一個驚人的事實，因為Twitter、Facebook和其他社交網站為此已經投資數十億美元，并且多年來一直致力于開發檢測假賬戶的系統。每次他們在檢測方面取得新進展時，偽造者都會丟棄數百萬個偽造帳戶，這意味著偽造者將始終領先于檢測。

在某種程度上，偽造者與檢測者之間在進行貓捉老鼠的游戲。偽造者創建偽造品，而檢測器對其進行檢測，從而向偽造者提供有關檢測到的信息。然后，偽造者調整他們的方法，并創建更好的偽造品。這種競爭很可能會無限期地繼續下去。人類的感知能力將被完全拋在后面，而這種競爭將完全存在于人工智能系統之間。

真相就在那里，但是現在需要人工智能的幫助才能獲得真相。