近日，一張由AI生成的假照片在推特上瘋傳，照片上顯示的是華盛頓五角大樓發生劇烈爆炸的畫面。這個事件暴露出了馬斯克的Twitter Blue付費認證的真正問題。

周一上午晚些時候，這張假照片在社交信息平臺上一經發布后不久就在網上瘋傳，直到美國政府官員出面，證實并譴責該照片只是個騙局才得以平息。

俄羅斯國家媒體和一個虛假的彭博新聞賬戶的個人資料名稱旁邊出現了藍色對勾認證標記，此事備受爭議。

美國東部時間上午10點左右，一張五角大樓草坪上熊熊燃燒的照片開始被大量轉發，并快速傳播，該照片的標題為“華盛頓特區五角大樓附近發生大爆炸的初步報告”。

據《福布斯》報道，美國國防部發言人已經聲明這張照片是個“錯誤信息”。

到美國東部時間上午10點27分，阿靈頓消防和急救中心也在推特上譴責這是張假照片。該部門的推特賬號發布內容稱：@PFPAOfficial和ACFD注意到網上流傳的有關五角大樓附近發生爆炸的社交媒體報道，但在五角大樓保留區或附近并未發生任何爆炸事件，對公眾不會造成直接的危險或危害。

OSINT專家在幾分鐘內就對圖像進行了全面檢查，并指出了差異，證明圖像確實是由AI生成的假圖像。

Bellingcat的數字調查員Nick Walters表示，想偽造這樣一個事件非常困難，甚至可以說根本不可能。這通過觀察圖像中的建筑物的正面，以及圍欄融入人群屏障的方式就能輕松判斷真偽。

Nick Walters稱，對于這樣一個重大的新聞報道，沒有其他第一手目擊者的照片或視頻發布在網上就沒那么可信。

此外，Nick Walters還在推特上寫道：人口稠密地區發生的大多數極端物理事件(爆炸、恐怖襲擊、大規模打斗)都會產生可識別的數字漣漪。

虛假的人工智能圖像雖然對創作者和觀眾來說很有趣，但自去年11月ChatGPT發布以來，這一直是治理實體和人工智能專家關注的最大問題之一。

本月早些時候，一名男子因利用深度技術在網上傳播虛假新聞而在中國被捕，面臨最高10年的監禁。這名男子被指控使用ChatGPT制作了一個虛假的人工智能新聞視頻，該視頻描述了一場致命的火車相撞事故，然后將其發布在多個社交媒體網站上。

專家表示，隨著人工智能模型近年來不斷發展，社交媒體上的虛假信息非常令人擔憂，尤其是在2024年美國總統大選周期剛剛開始的情況下。

《赫芬頓郵報》的高級編輯Andy Campbell提到了去年秋天，推特首席執行官馬斯克接管該公司時，他與推特用戶就其Twitter Blue認證展開的斗爭。

以前是某家社交媒體公司能夠證明某個組織或個人的合法性后，其賬戶才會被授予推特的藍勾認證，但現在是只要有人愿意每月支付8美元，都可免費授予該標記。

3月份，這個問題的爭議情況達到了頂峰，很多曾經認證過的名人和記者拒絕為曾經免費的服務付費，并表示可以將這個認證過的藍色標記從他們的賬戶中移除掉。

Andy Campbell稱，這個藍色標記付費驗證系統危險就在于，如果某個賬戶在推特上發布了一張AI生成的關于五角大樓爆炸的假新聞照片，但有了認證，乍一看該賬戶像是一個合法的彭博新聞推送。

那個虛假的彭博新聞賬戶已經被推特停用，但目前仍不知道這張偽造的五角大樓圖片是從哪里來的。雖然，這次的虛假五角大樓爆炸新聞的病毒式傳播很短暫，但這個謠言仍然導致周一紐約證券交易所出現了大跌的情況。

參考鏈接：https://cybernews.com/news/ai-fake-pentagon-explosion-viral-twitter-blue/