了解攻擊者和防御者之間不斷變化的動態的方法之一是通過外部因素的視角。在進行此類分析時，我們通常將主要因素縮寫為“PESTLE”，這是政治、經濟、社會、技術、法律和環境力量的首字母縮寫詞。毫無疑問，我們看到在網絡威脅領域引起最大波瀾的技術因素是人工智能的快速發展。

網絡犯罪分子越來越多地使用人工智能來提高攻擊的有效性和效率。同時，對于防御者來說，人工智能被證明是安全團隊的強大盟友，可以改善威脅檢測和補救。人工智能自動化安全任務的需求來得正是時候。

預計今年人工智能在網絡安全領域的影響將顯著增長。它將推動網絡釣魚技術的發展，加速系統中漏洞的發現。人工智能還將加速網絡入侵的發展和應對。為了領先于已經開始采用人工智能的對手，安全團隊必須了解人工智能帶來的威脅，以及它有望改善網絡防御的機會。

2024年，各組織應重點關注人工智能有望改變網絡安全的三個領域：

1.人工智能增強的社會工程攻擊

2024年，人工智能將進一步擴大社交工程攻擊的規模和有效性，在短短幾分鐘內就能創建極具說服力的網絡釣魚誘餌。網絡犯罪分子將利用人工智能，利用社交媒體和被入侵的電子郵件賬戶中的數據，制作個性化的網絡釣魚信息。這些復雜的誘餌將很難被發現，即使是訓練有素的員工也難以發現。

此外，生成式人工智能將使網絡犯罪分子成為更厲害的騙子。人工智能將幫助攻擊者用不同的語言編寫出文筆流暢、令人信服的網絡釣魚電子郵件和網站，使他們能夠將攻擊范圍擴大到各個地區。我們期望看到社會工程攻擊的質量得到提高，使目標和安全團隊更難發現誘餌。因此，我們可能會看到與社會工程相關的風險和危害有所增加——從欺詐到網絡入侵。

隨著人工智能生成的電子郵件與合法電子郵件幾乎難以區分，僅依靠員工培訓來保護用戶是不夠的。相反，安全團隊應該考慮隔離技術，如微虛擬化，它不依賴檢測來保護員工。這項技術在隔離的虛擬環境中打開危險文件和鏈接，防止惡意軟件和軟件漏洞(甚至零日威脅)感染設備。

2.本地大型語言模型(LLM)

隨著計算能力的提升，新一代計算機將能夠運行本地LLM，而無需依賴強大的外部服務器。這將使計算機和用戶能夠充分受益于AI，重新定義人們與設備的交互方式。

這些本地LLM承諾提高效率和生產力，同時通過獨立于互聯網工作提供安全和隱私優勢。然而，如果沒有得到妥善保護，本地模型及其處理的敏感數據可能會使端點成為攻擊者更大的目標。

此外，許多企業正在部署基于LLM的聊天機器人，以提升和擴展其客戶服務。但底層的人工智能技術可能會帶來新的信息安全和隱私風險，例如可能泄露敏感數據。今年，我們可能會看到網絡犯罪分子試圖操縱聊天機器人繞過安全措施來獲取機密信息。

3.高級固件和硬件攻擊

人工智能正在推動技術民主化，幫助技能水平較低的用戶更高效地執行更復雜的任務。然而，盡管人工智能提高了組織的防御能力，但它也有可能幫助惡意行為者對較低系統層(即固件和硬件)進行攻擊，而近年來，對固件和硬件的攻擊力度一直在增加。

從歷史上看，此類攻擊需要大量的技術專長，但人工智能開始有望降低這些障礙。這可能會導致更多人努力利用較低級別的系統，讓攻擊者在操作系統和業界最好的軟件安全防御之下立足。

隨著時間的推移，我們預計針對系統固件的惡意軟件的頻率會增加。這些攻擊依賴于利用操作系統下的弱點。專注于關閉硬件和固件攻擊面對于應對這些威脅至關重要。

網絡安全的新前沿

人工智能將改變網絡安全，為安全團隊提供大量機會來改善其威脅檢測和響應。例如，人工智能將通過自動檢測有針對性的網絡釣魚嘗試來幫助保護用戶。

2024年推出的計算機也將帶來安全優勢，讓用戶可以在設備上安全地使用AI，而無需承擔將數據存儲在云端的風險。這些設備還將通過自動鎖定和隱私屏幕等功能增強數據隱私。

然而，要有效使用人工智能，企業應該首先考慮安全性。這意味著了解數據和環境，建立威脅模型以了解風險，選擇預防和檢測技術的平衡，并實施零信任原則以確保數據安全。最后，組織應考慮與值得信賴的人工智能安全提供商合作，以充分利用人工智能，同時最大限度地降低其安全和隱私風險。