網絡威脅聯盟 (CTA) 的最新報告得出結論，GenAI幫助降低了惡意行為者的入門門檻，并提高了他們的效率，即更快地創建令人信服的深度偽造內容、發起網絡釣魚攻擊和投資詐騙。

不過，就目前而言，它并沒有讓攻擊者變得“更聰明”，也沒有徹底改變網絡威脅。

惡意行為者如何使用GenAI

該報告基于 CTA 成員可獲得的數據和實證案例研究，解釋了攻擊者目前使用GenAI的幾個方面：

• 創建深度偽造視頻和欺騙性圖像、克隆特定聲音的錄音、編寫高度逼真的電子郵件、信息和網站內容
• 輔助創建惡意軟件(但無法在沒有額外人為輸入和調整的情況下創建惡意軟件)
• 優化命令和控制操作(例如，用于管理僵尸網絡)
• 傳播錯誤信息和虛假信息(例如，以推動網絡陰謀論、影響選舉活動)
• 創建由AI控制的虛假社交媒體賬戶網絡(機器人農場)

分析人員發現，“雖然AI創新無疑具有強大功能，但到目前為止，它們只是逐步提升了對手的能力，并沒有創造出全新的威脅。”

挫敗AI增強的威脅

迄今為止，基礎的網絡安全實踐——定期軟件更新、多因素身份驗證、離線數據備份、終端監控、行為分析等——對于抵御所有威脅(包括那些由AI增強的威脅)仍然至關重要。

但對抗后者還需要結合技術解決方案(如深度偽造檢測器)以及更為重要的持續教育、獲取特定技能(如知道如何進行事實核查、反向圖像搜索、驗證元數據等)和鼓勵批判性思維。

CTA 分析師切爾西·康納德指出：“企業應強調以內容分析為重點的培訓，并培養一種健康懷疑的文化。應鼓勵員工提出諸如‘是我發起的這個請求嗎?’或‘這次通信與之前的交流一致嗎?’等問題。”

“其他防御措施可以依賴于技術和流程相結合的措施。技術工具可以分析內容是否被篡改，例如音頻不匹配。當這些工具不足時，企業可以依賴基于流程的措施，包括多渠道驗證、雙重審批或預先安排的認證短語，以提供關鍵保障。”

好消息是，對手對GenAI的使用尚未達到炒作的程度，如果企業和機構行動迅速，他們可以部署防御措施來阻止大多數由AI增強的威脅。