今年在舊金山舉行的RSAC大會上有一個熱門話題：人工智能工具。生成式人工智能在網絡安全工具中的潛力引發了網絡安全專業人士的興趣。但是人們對人工智能在網絡安全中的實際應用，以及用于建立人工智能模型的數據的可靠性提出了質疑。

網絡安全戰略顧問、GoogleCloud和Cyversity的董事會成員M.K. Palmore在采訪中表示：我們目前正處于與人工智能交手的第一局，我們還不知道人工智能對網絡安全行業的影響會有多大，也不知道我們最終能看到什么結果。但我們心存希望，整個公司目前也正朝著一個方向努力，這也表明我們看到了人工智能對行業產生積極影響的價值和用途。

不過Palmore也承認，目前我們在人工智能的發展方面確實還有更多的事情要做。他認為隨著事物的變化發展，我們都必須轉向適應這種新的模式，讓這些大型語言模型(llm)和人工智能可供我們使用。Presidio首席信息安全官Dan Lohrmann認為，人工智能在網絡安全領域還處于早期階段。在RSAC大會上提及人工智能工具的話題時，他認為這將是一場變革，人工智能將改變很大一部分產品。這可能會改變進攻方和防守方，就像我們如何組建紅隊和藍隊那樣。

此外他還指出，在精簡安全團隊使用的工具方面，還有很長的路要走。他說:“我認為我們永遠無法實現單一的窗格的資源監控和管理，但目前已經是我見過最精簡的程度了。

將AI添加到安全工具

在2023年RSAC大會期間，不少公司都講述了他們是如何在安全工具中使用生成性人工智能的，例如，谷歌推出了其生成式人工智能工具和安全LLM、Sec-PaLM。Sec-PaLM是基于Mandiant在漏洞、惡意軟件、威脅指標和行為威脅參與者概況方面的前沿情報而構建的。

谷歌Cloud的用戶體驗總監斯蒂芬?海(stephen Hay)表示，LLMs現在達到了一個臨界點，它可以以一種以前無法做到的方式將信息語境化。這代表我們現在有了真正的生成式人工智能。

與此同時，亞馬遜網絡服務(Amazon Web Services)首席信息安全官辦公室主任Mark Ryland強調了如何用生成式人工智能檢測威脅活動。日常中多關注有意義的數據，盡量減少誤報。且唯一能有效做到這一點的方法就是多多訓練機器學習，這也是我們安全服務的核心。

該公司最近宣布了一種名為Amazon Bedrock的新工具，用于在AWS上進行構建，其中包含了生成式人工智能。Amazon Bedrock是一項新服務，可以通過API訪問來自AI21 Labs、Anthropic、Stability AI和Amazon的基礎模型(fm)。此外，Tenable還推出了專門為研究界設計的生成式人工智能安全工具。另外，一份名為《生成式人工智能如何改變安全研究》的報告最近也發布了，該報告探討了LLMs如何在逆向工程、調試代碼、提高web應用程序安全性和云工具可見性等研究領域降低復雜性和提高效率。

該報告指出，ChatGPT正在以“驚人的速度”發展。關于網絡安全平臺中的人工智能工具，Tenable首席安全官Bob Huber表示，這些工具允許你建立一個數據庫，例如，如果你正在尋找滲透測試，目標是X，可能存在哪些漏洞，通常這是一個手動過程，你必須進入并進行搜索，但人工智能可以幫助你更快地獲取這些東西。

另外，他補充說目前已經看到一些公司開始使用LLMs。同時他也指出，LLMs所基于的數據并不一定是經過驗證的或準確的，因此需要對此設置護欄。因此用自己的數據構建的LLMs，更值得信賴。

有人擔心與GPT這樣的LLMs掛鉤可能會影響安全性。作為安全從業者，了解風險是很重要的。但Huber指出，人們目前還沒有足夠的時間去了解生成式人工智能的風險。這些工具都旨在簡化防御者的工作，但黑莓威脅研究與情報副總裁伊斯梅爾·巴倫蘇埃拉指出了生成式人工智能的局限性。

和其他任何工具一樣，我們作為防御者會使用，其他攻擊者也會使用它。所以說這些生成式人工智能工具的最佳使用方式就是將其作為助手來使用。很明顯，它的確可以促進我們的發展。但如果是期望它能徹底改變一切，那答案是否定的。