自主式AI安全漏洞來襲:確保企業無憂的七道防線
智能體是專為執行特定任務而設計的模型,可在指令下自主或半自主地運行,目前已在各企業中廣泛應用(普華永道今年早些時候的一份報告顯示,在所有接受調查的企業中,這一比例高達79%)。但這些智能體也帶來了新的安全風險。
當發生智能體安全漏洞事件時,企業可能會迅速解雇員工并歸咎于他們,但卻遲遲無法識別和修復導致漏洞出現的系統性故障。
Forrester發布的《2026年預測:網絡安全與風險》報告預測,首次智能體漏洞事件將導致人員被解雇。報告還指出,地緣政治動蕩以及CISO和CIO在快速部署智能體的同時將風險降至最低的壓力與日俱增。
2026年,CISO將面臨重重挑戰
對于那些在全球范圍內開展競爭的企業而言,未來十二個月將尤為艱難,因為各國政府正加強對關鍵通信基礎設施的監管和控制。
Forrester還預測,歐盟將建立自己的已知被利用漏洞數據庫,這意味著對區域化安全專業人員的需求將立即增加。如果這一預測成真,CISO也需要迅速找到、招募并聘用這些人才。
Forrester還預測,量子安全支出將占整體IT安全預算的5%以上。考慮到研究人員在抗量子密碼學方面取得的穩步進展,以及企業為預防“先收集數據,后解密數據”威脅的迫切需求,這一預測結果合乎情理。
在2026年,CISO將面臨的五大挑戰中,智能體漏洞和下一代武器化AI的威脅最為致命,且有可能徹底改變威脅格局。
CISO如何正面應對智能體威脅
“智能體的采用帶來了全新的安全威脅,這些威脅繞過了傳統控制手段。這些風險包括數據泄露、API的自主濫用以及智能體間的隱蔽勾結,所有這些都可能擾亂企業運營或違反監管要求。”沃爾瑪公司執行副總裁兼CISO Jerry R. Geisler III最近在接受VentureBeat采訪時表示。
Geisler繼續闡述了沃爾瑪的戰略方向:“我們的策略是利用先進的AI安全態勢管理(AI-SPM)構建強大、主動的安全控制,確保持續的風險監控、數據保護、合規性和運營信任。”
智能體存在潛在風險,比如智能體之間不兼容、爭奪資源,或者更糟糕的是,缺乏確保最低可行安全(MVS)的基本架構。Forrester將最低可行安全定義為一種集成安全的方法,并指出“在概念測試的早期階段,這種方法不會減緩產品團隊的速度。隨著產品從早期概念測試發展到Alpha版本、Beta版本,最低可行安全活動也會不斷演變,直到最終摒棄這種方法。”
Clearwater Analytics的CISO Sam Evans在最近接受VentureBeat采訪時,分享了他應對這一挑戰的見解。“我記得在我參加的第一次董事會會議上,他們問我,‘你對ChatGPT有什么看法?’我說,‘這是一款令人難以置信的生產力工具。但是,我不知道如何讓員工使用它,因為我最大的擔憂是有人會將客戶數據或我們的源代碼(即我們的知識產權)復制粘貼到其中。’”
Evans所在的公司管理著8.8萬億美元的資產。“最糟糕的情況是,我們的員工將客戶數據輸入到我們無法管理的AI引擎中,”Evans告訴記者,“員工可能并不知情,或者只是想為客戶解決問題,而這些數據有助于訓練模型。”
Evans進一步闡述道:“我并沒有只帶著擔憂和問題去見董事會。我說,‘這是我的解決方案。我不想阻止員工提高生產力,但我也想保護數據安全。’當我向董事會解釋這些企業瀏覽器的工作原理時,他們說,‘好吧,這很有道理,但你真的能做到嗎?’”
董事會會議結束后,Evans和他的團隊開始了深入而全面的盡職調查流程,最終Clearwater選擇了Island。
董事會向CISO下達了明確而緊迫的任務:確保最新的AI和智能體應用、工具和平臺的安全,以便企業能夠立即實現生產力提升,同時不犧牲安全性或減緩創新速度。
企業在各領域部署智能體的速度空前,使得以極快的速度交付價值所帶來的壓力達到了前所未有的高度。正如CrowdStrike的首席執行官兼創始人George Kurtz在最近的一次采訪中所說:“如今的網絡攻擊速度要求安全團隊迅速分析大量數據,以便更快地檢測、調查和響應。對手正在創造紀錄,突破時間僅略超過兩分鐘,因此不容有任何延誤。”
生產力和安全性不再是兩條獨立的軌道,而是同一條道路。董事會向CISO傳達的信息是:要么快速前進,要么被競爭對手和對手超越。
沃爾瑪的CISO持續推動創新
Geisler高度重視在沃爾瑪持續推動創新想法的落實。
“在我們這樣規模的環境中,需要采用定制化的方法,而且有趣的是,還需要具備初創企業的思維模式。我們的團隊經常退一步思考,‘如果我們是一家新公司,從零開始建設,我們會打造什么?’”Geisler繼續說道,“身份與訪問管理(IAM)在過去30多年里經歷了多次迭代,我們的主要關注點是如何實現IAM架構的現代化以簡化其流程。雖然與零信任相關但又有所不同,我們的最小權限原則不會改變。”
沃爾瑪已將創新轉化為一種實用、務實的策略,既不斷加強防御又降低風險,同時為業務增長做出重大貢獻。在智能體時代,沃爾瑪創建了一個能夠大規模實現這一目標的流程,這是網絡安全為公司帶來商業價值的眾多方式之一。
包括Clearwater Analytics、沃爾瑪在內的許多公司正在部署網絡防御措施,以抵御智能體的網絡攻擊。
在與CISO和企業安全團隊的多次訪談中,我們總結出了企業防范潛在智能體攻擊的七種行之有效的方法。
CISO保障企業安全的七種方法
通過與CISO和安全領導者的深入交流,我們總結出了七種行之有效的策略,幫助企業抵御迫在眉睫的智能體威脅:
1. 可視性是第一道防線。“多智能體系統的日益普及將引入新的攻擊媒介和漏洞,如果這些系統從一開始就沒有得到妥善保護,就可能被利用。”Darktrace負責戰略網絡AI的副總裁Nicole Carignan今年早些時候告訴記者。如今,準確、實時的清單對于企業韌性至關重要,該清單能夠識別每個已部署的系統,跟蹤決策和系統間的相互依賴關系直至智能體層面,同時還能映射智能體層面的意外交互。
2. 立即加強API安全,并在企業內部形成持續保護API安全的慣性。一位不愿透露姓名的金融服務、零售和銀行業安全與風險管理專業人士在接受匿名采訪時強調了持續監控API層風險的重要性。他們表示,其策略是利用先進的AI安全態勢管理(AI-SPM)來保持可視性,在復雜環境中確保合規性和運營信任。API是智能體風險的前沿陣地,加強其安全性可以將它們從集成點轉變為戰略執行層。
3. 將自主身份管理作為戰略重點。“身份現在已成為AI安全的控制平面。當AI智能體突然訪問其既定模式之外的系統時,我們將其視為與員工憑證被泄露相同的情形。”CrowdStrike負責反敵手行動的主管Adam Meyers在最近接受采訪時表示。在智能體時代,傳統的IAM策略已過時。企業必須部署能夠擴展至數百萬動態身份的IAM框架,持續執行最小權限原則,集成針對機器和人類的行為分析,并實時撤銷訪問權限。只有將身份管理從運營成本中心提升為戰略控制平面,企業才能駕馭自主系統的速度、復雜性和風險。
4. 升級至實時可觀測性,以便快速檢測威脅。靜態日志記錄已屬于另一個網絡安全時代。在智能體環境中,可觀測性必須演變為一個實時、連續流動的情報層,能夠捕捉系統行為的全部范圍。那些將遙測、分析和自動化響應融合為一個單一、自適應反饋循環的企業,能夠在幾秒內(而非幾小時內)發現并遏制異常,從而最有可能挫敗智能體攻擊。
5. 嵌入主動監督,以平衡創新與控制。沒有哪家企業能夠通過忽視所使用最新技術的限制而實現增長目標。對于智能體這一未來價值的核心技術而言,更是如此。在這一新領域中有效發揮領導作用的CISO確保從一開始就設計好人機交互的工作流程。在人類層面的監督也有助于在問題升級之前及早發現。其結果如何?創新能夠全力推進,因為主動監督會及時踩下剎車,確保企業安全前行。
6. 使治理具有適應性,以匹配AI的快速部署。靜態、僵化的治理模式就像過時的報紙,一旦印刷就已過時。在機器速度運行的智能體世界中,合規政策必須持續適應,嵌入到實時運營工作流程中,而非存放在積滿灰塵的架子上。最具影響力的CISO明白,治理不僅僅是文書工作,它是代碼、是文化,直接融入企業的核心,以跟上每一次新部署的步伐。
7. 提前設計應對機器速度威脅的事件響應機制。規劃事件響應的最糟糕時機是什么時候?當你的活動目錄和其他核心系統因智能體漏洞而遭到破壞時。有遠見的CISO在智能體威脅出現之前就構建、測試并完善其響應預案,集成能夠以攻擊速度響應的自動化流程。事件準備不僅僅是一場消防演習,它需要成為一種本能反應或一種始終在線的紀律,融入企業的運營結構中,以確保當威脅不可避免地出現時,團隊能夠保持冷靜、協調,并已經領先一步。
智能體正在實時重塑威脅格局
正如Forrester所預測的,首次重大智能體漏洞事件不僅將導致人員失業,還將暴露出所有選擇被動而非主動應對的企業,凸顯出它們在治理、API安全、身份管理和實時可觀測性方面被忽視的漏洞。與此同時,量子威脅正推動預算分配增加,迫使安全領導者在防御措施迅速過時之前采取緊急行動。
在這場競賽中獲勝的CISO已經在實時繪制系統圖、將治理嵌入運營核心,并將主動事件響應融入日常運營中。那些采取積極姿態的企業將把風險管理轉化為戰略優勢,始終領先于競爭對手和對手一步。
























