[[250514]]

【51CTO.com快譯】人工智能(AI)正迅速成為政府、企業和公民防御網絡攻擊的一個重要組成部分。從最初只是自動執行特定手工任務的技術，到使用日益復雜的系統來解讀分析數據的機器學習，深度學習能力方面的突破將成為安全議程中一個不可或缺的部分。人們對這些能力如何有助于打造防御態勢給予了極大的關注。但是敵人如何利用AI帶來新一代攻擊途徑、安全界如何應對卻往往被忽視。最終，AI的真正危險在于它會成為攻擊者的幫兇。

挑戰

敵對式AI是指惡意開發和使用先進的數字技術和系統，它們擁有通常與人類行為相關的智力過程。這包括從過去的經驗中學習以及從復雜數據中推理或發現含意的能力。

威脅領域的變化已經很明顯。犯罪分子已經在利用自動化偵察、鉆目標空子和網絡滲透。很快，技術將使它們能夠自動執行攻擊周期的每個環節，包括目前非常手動的流程，比如學習欺詐控制的能力以及使套現和洗錢策略實現工業化的能力。

基于核心的大數據原則，敵對式AI將從三大方面影響威脅領域。

1. 對更廣泛的攻擊周期實行更大規模的攻擊

通過引入新的可擴展系統(通常需要人力和專長來實施攻擊)，犯罪分子能夠投入資源和能力，針對一批目標來構建和改動新的基礎設施。

2. 新的攻擊步伐和速度，可以針對具體環境來改動

技術將使犯罪團伙能夠變得越來越有效且高效。技術將讓他們得以實時微調攻擊，適應具體的環境，并更快地學習防御態勢。這在所有攻擊場景、行業和技術平臺上將得到體現。

3. 新的攻擊種類，以前依賴人類互動時是不可能實現的

最后但最重要的是，下一代技術系統將實現以前不可行的攻擊方法。這將在一系列轉變中改變威脅領域，繞過為抵御攻擊而實施到位的整整一代控制。

網絡安全界需要采取的5種應對方式

可供攻擊者使用的新一代系統方面的進步需要我們基于堅實的安全基礎，采用一種整體的、多層次的方案。攻擊途徑的改動和增加需要當前的防御框架有所演變和適應。新一代攻擊方法需要繞過傳統的檢測和響應態勢才有可能得逞。

1. 了解我們當前的威脅環境

不可能始終保護企業免受來自所有渠道的攻擊。了解和防御敵對式AI將需要深入了解威脅在哪個環節會挑戰當前的安全態勢、應將有限的資源集中投入到哪個環節。

2. 投入于技能和分析

為了適應這種新的安全環境，政府、企業和教育系統需要確保它們擁有必要的技能基礎和人才管道。吸引和招募人才的能力，以及對人才進行多學科(包括高級計算、數學和統一分析)方面的再培訓的能力很快會至關重要。

3. 投入于供應商和第三方

全面的深度防御基于一整套服務和第三方，它們在運營和戰略層面積極管理和完善防御，順應不斷變化的威脅領域。安全界要有明確的路線圖、戰略和必要的技能，以適應敵對式AI帶來的新型攻擊。投入于集成式的集群和機器學習分析以實現基于主機的檢測和網絡監控，這越來越成為行業標準，但很快需要這種先進技術，應用于企業的全部攻擊面。

4. 投入于新的政企伙伴關系

引入新的AI驅動系統將挑戰傳統的防御態勢，需要更深入和更廣泛的合作伙伴基礎以保護企業。想應對可在全球范圍內實施的大規模攻擊，需要傳統結構之外積極的伙伴關系和聯盟。這方面的關鍵是與跨行業合作伙伴、監管部門和政府積極制定戰略，它們可以共同制定戰略，積極應對新的安全挑戰。這會更需要協調針對合作伙伴之間認證和溝通的規則。

5. 繼續融合關鍵業務流程和能力

新一代攻擊針對整個企業的全部攻擊面，并鉆缺乏整體防御機制的空子，會給結構性運營孤島帶來越來越大的壓力。

為什么現在行動起來很重要?

網絡安全將繼續成為21世紀的安全挑戰。它已經從根本上改變了企業、政府和公民如何合作打擊犯罪。但這只是一個開始。

原文標題：What is adversarial artificial intelligence and why does it matter?，作者：William Dixon

【51CTO譯稿，合作站點轉載請注明原文譯者和出處為51CTO.com】