GenAI的迅速出現已經改變了網絡安全的天平，促使各國政府采取行動，美國總統喬·拜登在10月份發布了一項全面的行政命令(EO)。

關于安全、有保障和值得信賴的AI開發和使用的行政命令就如何確保這項新興技術的安全提供了指導——這是以前的訂單所缺乏的，它還概述了與AI快速加速相關的挑戰。雖然CEO尋求讓國內使用AI安全、可靠，但也許最高的任務是競相為好人利用AI的潛力，并防止將其用于壞人。這就提出了一個問題：在接下來的五年里，誰將受益更多——捍衛者還是攻擊者?答案是：目前還不清楚。

有一點是肯定的，防御者和攻擊者都希望獲得生成性AI的優勢。在這一點上，我們無法預測的是，是否會有一方占上風，這是一場需要雙方投入時間、精力和費用的比賽，雙方都將看到爆發式的成功。

它不一定要完全混亂。公司、安全從業者和政府機構現在可以采取措施，確保他們跟上攻擊者的步伐，甚至可以通過更多的協作、持續的立法框架和安全的創新空間來發揮帶頭作用。

AI為威脅參與者和安全團隊提供力量

對于攻擊者來說，AI為社會攻擊和模仿攻擊增加了前所未有的速度和力量，特別是在規模上。如果沒有AI，針對CFO電子郵件的網絡釣魚攻擊對攻擊者來說是耗時的，因為他們必須首先篩選舊電子郵件，以獲得溝通風格的感覺，然后才能在釣魚電子郵件中模仿它。GenAI模型已經證明了熟練的寫作能力，它們很快就能做到這一點，從而實現了更多的威脅戰役。在攻擊者目前可以一次發起十次釣魚或電子郵件泄露攻擊的地方，AI將使他們能夠在幾秒鐘內點擊一個按鈕執行一千次攻擊。

這些類型的攻擊之所以成功，是因為攻擊者一次可以瞄準更多的潛在受害者，這無疑與AI的火力成倍增加。當被用于邪惡時，GenAI已被證明會加劇攻擊強度和后果的嚴重性。

當然，攻擊者的這些炮轟不會被忽視。該行業將用AI支持的技術進行反擊，該技術可以檢測并響應這些類型的攻擊，但這些對策可能需要六個月的時間才能制定出來，在此期間會讓許多公司變得脆弱不堪。

軍備競賽就是這樣進行的，例如，有報道稱，惡意AI聊天機器人的開發者正在開發更復雜的工具，其中一個工具使用整個黑暗網絡作為其大型語言模型的知識庫。

與此同時，網絡安全行業也在響應這一號召，并利用AI進行積極的改進，一個明顯的例子是修復現有的安全漏洞，這主要是一個手動的、耗時的過程，這一點，再加上緊張的資源，使傳統產品變得脆弱不堪。隨著自動攻擊的持續增加，手動修復缺陷不再站得住腳。我們現在可以使用AI在軟件開發過程中左移，并在一開始就消除漏洞，優先進行自動修復。

AI將在未來幾年內在網絡安全的每一個類別中實現這種創新，AI模型將作為安全運營中心(SOC)團隊的初級助理運行。人們希望，隨著更少的漏洞進入開發過程，就越容易緩解和防御威脅。

同一戰線：行業和政府應該在AI軍備競賽中結成伙伴

GenAI發展如此之快，以至于很難預測網絡軍備競賽的結果。我們所知道的是，協作是關鍵。雖然《雇傭條例》中規定的監管是重要的一步，但它不會解決所有問題。

隨著科技公司不斷推出AI產品，它們在競爭中扮演著關鍵的合作伙伴角色。雖然他們繞過了賽道的角落，但他們從客戶那里獲得的反饋對于塑造未來的AI法規至關重要，這些法規將促進創新、保護數據并解決社會關切。公私合作伙伴關系在各個行業已經使用了幾十年，對AI的需求也沒有什么不同。政府和科技行業之間的合作是為AI創新和安全蓬勃發展創造一個安全空間的關鍵。

至關重要的是，行業和政府應不斷評估為保護公眾不受限制地使用AI而設置的護欄，無論是網絡罪犯還是老牌公司。首席運營官承諾制定標準，確保AI系統是安全的，并針對一系列嚴格的資格進行測試，這些資格和標準將需要隨著時間的推移而完善，才能真正標準化。

美國商務部還將制定水印和內容認證指南，以明確標記AI生成的內容，而Alphabet、Meta和OpenAI等公司已經承諾實施此類措施，這種做法與美國特勤局(US Secret Service)在彩色復印機和打印機制造商變得足夠先進、可以偽造貨幣后，讓制造商在打印頁面上添加數字水印的做法產生了共鳴，然而，它確實給不良演員帶來了一系列獨特的挑戰，以供濫用。

為了確保負責任地開發和部署AI技術，我們的立法框架必須繼續演變，以透明度、可見性和理解為基石，科技行業和政府可以共同努力，降低風險，對抗威脅。

采用積極主動的方法來實現GenAI

我們正在進入網絡安全軍備競賽的新階段，AI占據了主導地位。任何新技術都是一把雙刃劍，GenAI的力量和潛力讓它的鋒芒格外鋒利。

貓捉老鼠的游戲才剛剛開始。軍備競賽將如何發展還不確定，但至關重要的是，行業和政府的捍衛者都要積極主動。好消息是：AI以前所未有的速度推出了具有里程碑意義的法規。當我們擁抱這片未知領域時，改進我們的防御性AI戰略必須是一項全力以赴的努力。