譯者 | 晶顏

審校 | 重樓

人工智能的變革力量正在重塑眾多行業的業務運營。通過機器人流程自動化（RPA），人工智能正在將人力資源從重復的、基于規則的任務中解放出來，并將其重點放在戰略性的、復雜的操作上。此外，人工智能和機器學習算法可以以前所未有的速度和準確性破譯大量數據，為企業提供曾經遙不可及的見解。就客戶關系而言，人工智能作為個人接觸點，通過個性化互動提高了參與度。

盡管人工智能對企業有利，但它也帶來了非常獨特的安全挑戰。例如，對抗性攻擊巧妙地操縱AI模型的輸入數據，使其行為異常，同時規避檢測。同樣令人擔憂的是數據中毒現象，即攻擊者在訓練階段通過注入誤導性數據來污染AI模型，從而破壞其最終結果。

正是在這種情況下，“永不信任，始終驗證”的零信任安全模式，被認為是對抗基于人工智能的威脅的有力手段。零信任脫離了安全邊界的傳統概念，它假定任何設備或用戶，無論其位于網絡內部還是外部，都應被視為威脅。

這種思想上的轉變要求嚴格的訪問控制、全面的可見性和跨IT生態系統的持續監控。隨著人工智能技術不斷提高運營效率和決策能力，如果保護不當，它們也可能成為攻擊的渠道。網絡犯罪分子已經試圖通過數據中毒和對抗性攻擊來利用人工智能系統，這使得零信任模型在保護這些系統方面的作用變得日益突出。

了解人工智能威脅

減輕人工智能威脅風險需要全面的人工智能安全方法，包括仔細設計和測試人工智能模型、強大的數據保護措施、持續地監測可疑活動，以及使用安全可靠的基礎設施。企業在實施人工智能時需要重點考慮以下風險：

• 對抗性攻擊：這些攻擊涉及操縱AI模型的輸入數據，使模型按照攻擊者希望的方式運行，而不會觸發警報。例如，攻擊者可以操縱面部識別系統來錯誤識別個人，從而允許未經授權的訪問。
• 數據中毒：這種類型的攻擊包括在人工智能模型的訓練階段引入虛假或誤導性數據，目的是破壞模型的結果。由于人工智能系統嚴重依賴其訓練數據，有毒的數據會嚴重影響它們的性能和可靠性。
• 模型盜竊和逆向攻擊：攻擊者可能會試圖竊取專有的AI模型，或者根據它們的輸出重新創建它們。對于作為服務提供的模型來說，這種風險尤其高。此外，攻擊者可以嘗試從人工智能模型的輸出中推斷出敏感信息，比如學習訓練數據集中的個人信息。
• 人工智能增強的網絡攻擊：惡意行為者可以利用人工智能來自動化和增強他們的網絡攻擊。這包括使用人工智能執行更復雜的網絡釣魚攻擊，自動發現漏洞，或進行更快、更有效的暴力破解攻擊。
• 缺乏透明度（黑箱問題）：通常很難理解復雜的AI模型是如何做出決策的。這種透明度的缺乏可能會造成安全風險，因為它可能會隱藏有偏見或惡意的行為。
• 對人工智能系統的依賴：隨著企業越來越依賴人工智能系統，對這些系統的任何破壞都可能產生嚴重后果。這可能是由于技術問題、對人工智能系統本身的攻擊或對底層基礎設施的攻擊而造成的。

人工智能的零信任模型

零信任提供了一種有效的策略來消除基于人工智能的威脅。零信任的核心是一個簡單的概念：永不信任，始終驗證。它脫離了安全邊界的傳統概念，并假設任何設備或用戶，無論是在網絡內部還是外部，都可能是潛在的威脅。因此，它要求嚴格的訪問控制、全面的可見性和跨IT環境的持續監視。零信任是應對人工智能威脅的有效策略，原因如下：

• 零信任架構：基于最小特權原則設計粒度訪問控制。每個AI模型、數據源和用戶都是單獨考慮的，具有嚴格的權限，僅限對必要內容的訪問。這種方法大大減少了攻擊者可以利用的威脅面。
• 零信任可見性：強調所有數字資產的深度可見性，包括人工智能算法和數據集。這種透明度使組織能夠快速監控和檢測異常活動，幫助迅速減輕AI特定的威脅，如模型漂移或數據操縱。
• 零信任持續安全監測和評估：在快速發展的人工智能環境中，靜態安全立場是遠遠不夠的。零信任促進了安全控制的持續評估和實時適應，幫助組織在人工智能威脅面前保持領先。

將零信任應用于人工智能

零信任原則可以應用于保護企業的敏感數據不被無意中發送到ChatGPT等人工智能服務或任何其他外部系統。以下是零信任中可以幫助降低風險的一些功能：

• 身份和訪問管理（IAM）：IAM需要實現健壯的身份驗證機制，例如多因素身份驗證，以及針對用戶行為和風險級別評估的自適應身份驗證技術。部署粒度訪問控制，遵循最小權限原則，確保用戶只有執行任務所需的訪問權限。
• 網絡分段：這包括根據信任級別和數據敏感性將網絡劃分為更小的隔離區域，并部署嚴格的網絡訪問控制和防火墻來限制段間通信。它還需要使用安全連接，以遠程訪問敏感數據或系統。
• 數據加密：使用穩健的加密算法和安全的密鑰管理實踐對靜態和傳輸中的敏感數據進行加密至關重要。對通信通道應用端到端加密對于保護與外部系統交換的數據也是必要的。
• 數據丟失預防（DLP）：這包括部署DLP解決方案來監控和防止潛在的數據泄露，使用內容檢查和上下文分析來識別和阻止未經授權的數據傳輸，以及定義DLP策略來檢測和防止敏感信息傳輸到外部系統，包括人工智能模型。
• 用戶和實體行為分析（UEBA）：UEBA解決方案的實現有助于監控用戶行為并識別異常活動。分析模式和正常行為的偏差可以檢測到潛在的數據泄露企圖。還應該設置實時警報或觸發器，以通知安全團隊任何可疑活動。
• 持續監視和審計：部署健壯的監視和日志記錄機制對于跟蹤和審計數據訪問和使用情況至關重要。利用安全信息和事件管理（SIEM）系統可以幫助聚合和關聯安全事件。定期檢查日志和主動分析對于識別未經授權的數據傳輸或潛在的安全漏洞也是必要的。
• 事件響應和補救：為數據泄漏或未經授權的數據傳輸制定專門的事件響應計劃至關重要。應該明確事件響應團隊成員的角色和職責，并定期進行演練和演習，以測試計劃的有效性。
• 安全分析和威脅情報：利用安全分析和威脅情報平臺是識別和減輕潛在風險的關鍵。及時了解與人工智能系統相關的新威脅和漏洞，并相應地調整安全措施也至關重要。

零信任原則為保護敏感數據提供了堅實的基礎。然而，隨著人工智能越來越多地融入企業，不斷評估和調整安全措施以應對不斷變化的威脅和行業最佳實踐也很重要。

案例研究

一家大型金融機構利用人工智能來增強客戶支持并簡化業務流程。然而，由于內部威脅或濫用等因素，對敏感客戶或專有財務數據可能暴露的擔憂日益加劇。為了解決這個問題，該機構承諾實施零信任架構，整合各種安全措施，以確保其運營中的數據隱私和機密性。

這個零信任架構包含多個策略。第一個是身份和訪問管理（IAM）系統，它執行訪問控制和身份驗證機制。該計劃還優先考慮與人工智能的所有交互的數據匿名化和強加密措施。部署數據丟失防護（DLP）解決方案和用戶和實體行為分析（UEBA）工具來監控對話、檢測潛在的數據泄漏和發現異常行為。此外，基于角色的訪問控制（RBAC）限制用戶只能訪問與其角色相關的數據，并實現了對活動的持續監視和審計方案。

此外，該機構還強調用戶意識和培訓，讓員工接受有關數據隱私、內部威脅和濫用風險以及處理敏感數據的指導方針的培訓。由于該機構的零信任架構在與人工智能的交互過程中不斷驗證信任，因此大大降低了導致數據隱私和機密性丟失的違規風險，保護了敏感數據并維護了機構業務運營的完整性。

人工智能與零信任的未來

人工智能威脅的演變是由人工智能系統日益增長的復雜性和普遍性，以及不斷尋找新方法來利用它們的網絡犯罪分子的復雜程度所驅動的。以下是人工智能威脅的一些持續演變，以及零信任模型適應這些挑戰的方式：

• 高級對抗性攻擊：隨著AI模型變得越來越復雜，針對它們的對抗性攻擊也越來越復雜。惡意行為者正在從簡單的數據操縱轉向高度復雜的技術，旨在以難以檢測和防御的方式欺騙人工智能系統。為了解決這個問題，零信任架構必須實施更先進的檢測和預防系統，將人工智能本身結合起來，實時識別和響應對抗性輸入。
• 人工智能支持的網絡攻擊：隨著網絡犯罪分子開始使用人工智能來自動化和強化他們的攻擊，企業面臨著更快、更頻繁、更復雜的威脅。作為回應，零信任模型應結合人工智能驅動的威脅檢測和響應工具，使它們能夠更快、更準確地識別和應對人工智能驅動的攻擊。
• 利用AI的“黑箱”問題：某些AI系統固有的復雜性使得我們很難理解它們是如何做出決策的。這種缺乏透明度的情況可能會被攻擊者利用。零信任可以通過要求人工智能系統更加透明，并實施能夠檢測人工智能行為異常的監控工具來適應。
• 數據隱私風險：由于人工智能系統需要大量數據，與數據隱私和保護相關的風險越來越大。零信任通過確保對所有數據進行加密、嚴格控制訪問以及立即檢測和調查任何異常數據訪問模式來解決這個問題。
• 物聯網設備中的AI：隨著AI嵌入物聯網設備，攻擊面正在擴大。零信任可以將“永不信任，始終驗證”的原則擴展到網絡中的每個物聯網設備，無論其性質或位置如何。

零信任模型的適應性和穩健性使其尤為適合應對人工智能領域不斷變化的威脅。通過基于最新威脅情報不斷更新其策略和工具，零信任可以跟上快速發展的人工智能威脅領域的步伐。

結語

隨著人工智能的不斷發展，針對這些技術的威脅也將不斷發展。零信任模型提供了一種有效的方法來消除這些威脅，它假定沒有隱含信任，并驗證整個IT環境中的一切。它應用粒度訪問控制，提供全面的可見性，并促進持續的安全監控，使其成為對抗基于人工智能的威脅的重要工具。

作為IT專業人員，我們必須在保護組織安全方面具有前瞻性和創新性。人工智能正在重塑我們的運營，使我們能夠簡化工作，做出更好的決策，并提供更好的客戶體驗。然而，這些好處也帶來了獨特的安全挑戰，需要全面和前瞻性的網絡安全方法。

考慮到這一點，是時候采取行動了！首先，對組織進行零信任準備評估，以了解組織當前的安全環境并確定任何缺口。了解組織的缺口之后，便可以開始制定戰略計劃，以實現強大的零信任框架，最終保護組織的人工智能計劃，并確保系統和數據的完整性。

原文標題：Understanding AI risks and how to secure using Zero Trust，作者：Keith Thomas