人工智能和機器學習在網絡安全中的七種積極和消極影響
人工智能(AI)和機器學習(ML)技術如今已經成為人們日常生活的一部分，其中包括網絡安全。在網絡安全人員的手中，人工智能/機器學習(ML)可以識別漏洞并縮短事件響應時間。但在網絡罪犯手中，人工智能/機器學習(ML)則可能會造成重大傷害。
以下是人工智能/機器學習影響網絡安全的七種積極方式和七種消極方式。
人工智能/機器學習對網絡安全的7個積極影響
(1) 欺詐和異常檢測：這是人工智能工具在網絡安全領域進行救援的最常見方式。復合人工智能欺詐檢測引擎在識別復雜的騙局模式方面表現出色。欺詐檢測系統的高級分析儀表板提供有關攻擊事件的全面詳細信息。這是異常檢測的一般領域中極其重要的領域。
(2) 電子郵件垃圾郵件過濾器：防御性規則過濾掉帶有可疑詞語的郵件，以識別危險的電子郵件。此外，垃圾郵件過濾器可以保護電子郵件用戶，并減少處理不需要的通信所需的時間。
(3) 僵尸網絡檢測：有監督和無監督的機器學習算法不僅有助于檢測，還能防止復雜的機器人攻擊。它們還有助于識別用戶行為模式，以極低的誤報率識別未檢測到的網絡攻擊。
(4) 漏洞管理：管理漏洞(人工管理或使用工具)可能很困難，但人工智能系統使其變得更容易。人工智能工具通過分析用戶行為、端點、服務器甚至暗網上的討論來尋找潛在漏洞，以識別代碼漏洞并預測攻擊。
(5) 防惡意軟件：人工智能技術幫助防病毒軟件檢測正常文件和不良文件，從而可以識別新形式的惡意軟件，即使以前從未見過。雖然用基于人工智能的技術完全替代傳統技術可以加快檢測速度，但也會增加誤報率。結合傳統方法和人工智能可以檢測100%的惡意軟件。
(6) 數據泄漏預防：人工智能幫助識別文本和非文本文檔中的特定數據類型。可以訓練可訓練的分類器來檢測不同的敏感信息類型。這些人工智能方法可以使用適當的識別算法搜索圖像、語音記錄或視頻中的數據。
(7) SIEM和SOAR：機器學習可以使用安全信息和事件管理(SIEM)以及安全編排、自動化和響應(SOAR)工具來改進數據自動化和情報收集、檢測可疑行為模式，以及根據輸入自動響應。
人工智能/機器學習用于網絡流量分析、入侵檢測系統、入侵防御系統、安全訪問服務邊緣、用戶和實體行為分析以及Gartner公司所描述的大多數技術領域。事實上，很難想象現代安全工具沒有采用某種人工智能/機器學習技術。
人工智能/機器學習對網絡安全的7個消極影響
(1) 數據收集：通過社會工程和其他技術，采用機器學習技術用于更好地分析受害者，網絡犯罪分子利用這些信息加速攻擊。例如，在2018年，WordPress網站經歷了大規模的基于機器學習的僵尸網絡感染，黑客可以訪問用戶的個人信息。
(2) 勒索軟件：勒索軟件正在快速增長。犯罪成功案例很多;最嚴重的事件之一導致Colonial 輸油管道中斷6天，并不得不支付了440萬美元的勒索贖金。
(3) 垃圾郵件、網絡釣魚和魚叉式網絡釣魚：機器學習算法可以創建看起來像真實消息的虛假消息，旨在竊取用戶憑據。在BlackHat會議的一次演講中，John Seymour和Philip Tully詳細介紹了機器學習算法如何生成帶有虛假網絡釣魚鏈接的病毒式推文，其攻擊效果是人工創建的網絡釣魚消息的四倍。
(4) Deepfakes：在語音網絡釣魚中，詐騙者使用機器學習生成的Deepfake音頻技術來制造更成功的網絡攻擊。例如深度語音等現代算法只需要幾秒鐘的語音就可以模仿受害者的語音、口音和語調。
(5) 惡意軟件：機器學習可以隱藏跟蹤節點和端點行為的惡意軟件，并構建模仿受害者網絡上合法網絡流量的模式。它還可以在惡意軟件中加入一種自毀機制，以放大網絡攻擊速度。人工智能算法經過訓練可以比人類更快地提取數據，這使得它更難預防。
(6) 密碼和驗證碼：采用神經網絡驅動的軟件聲稱可以輕松破解人類識別系統。機器學習技術使網絡犯罪分子能夠分析大量密碼數據集，以更好地定位密碼猜測。例如，PassGAN使用機器學習算法比使用傳統技術的流行密碼破解工具更準確地猜測密碼。
(7) 攻擊人工智能/機器學習本身：濫用在醫療保健、軍事和其他高價值部門核心工作的算法可能會導致災難。Berryville機器學習研究所的機器學習系統架構風險分析有助于分析已知的機器學習攻擊分類法，并對機器學習算法進行架構風險分析。安全工程師必須學習如何在其生命周期的每個階段保護機器學習算法。
人們很容易理解為什么人工智能/機器學習受到如此多的關注。而對抗復雜的網絡攻擊的唯一方法是利用人工智能的防御潛力。業界人士必須注意到機器學習在檢測異常(例如，流量模式或人為錯誤)方面的強大功能。通過采用適當的對策和措施，可以防止或顯著減少可能的損害。
總體而言，人工智能/機器學習在防范網絡威脅方面具有巨大價值。一些政府和企業正在使用或討論使用人工智能/機器學習來打擊網絡犯罪分子。雖然圍繞人工智能/機器學習的隱私和道德問題是合理的，但政府部門必須確保人工智能/機器學習法規不會阻止企業使用人工智能/機器學習進行保護。因為眾所周知，網絡犯罪分子并不會遵守這些法規。
