人工智能顛覆性應用的增加、危機時期網絡作用的擴大、政策與技術之間依賴關系的增長，是網絡領域出現混合威脅的三大趨勢。報告從相關技術發展的角度和可能產生的級聯效應評估了這些趨勢，指出這些趨勢反映出人工智能為顛覆性應用創造了新的工具。未來，當人工智能以顛覆性的方式被使用時，可能會出現更多意想不到的事件和級聯效應。報告指出，無人機、大數據、深度造假等也在改變人們對戰爭、隱私和影響力的理解。

[[394810]]

趨勢一：人工智能顛覆性使用的增加

當前，人工智能是影響網絡領域的主要技術趨勢之一。人工智能和機器學習正在以驚人的速度發展，越來越多的應用程序將人工智能作為其解決方案的一部分。人工智能賦能的攻擊性網絡行動將具有高效、精確、難以歸類等特征。

①網絡物理領域的級聯效應。

物理領域中的大部分操作都依賴網絡，在后勤和運輸領域，陸地(公路和鐵路)、海洋和空中交通控制在許多方面依賴于數字系統。關鍵基礎設施(系統、工廠、流程、網絡和設備)的中斷或破壞將對民眾健康、安全、經濟和社會福利以及治理結構產生嚴重影響。網絡信息在提高效率和效力的同時，也為攻擊者提供了新的漏洞。惡意行為體可對關鍵基礎設施發動具有連鎖效應的攻擊。人工智能解決方案可以探測目標并運送爆炸物以消除恐怖主義目標。無人機為惡意攻擊者提供了部署或重新利用這些系統的條件，以達到有害目的，如撞毀自動駕駛汽車車隊，將商用無人機變成面向目標的導彈等。

②人工智能在國家支持的信息行動中具有重要作用。

人工智能在政治領域的作用主要表現為，虛假信息對公眾輿論的導向功能。利用人工智能大規模收集、分析公民信息并對其采取行動的能力，可以使監控和侵犯隱私的行為達到新的水平。日益增長的視覺信息文化以及人工智能技術的進步，將為欺騙和造假行動提供便利。預計，用于信息行動的人工智能支持技術將最易被沖突閾值以下的惡意行為體所采用。

需關注的問題：

1. 人工智能支持的首次網絡攻擊發生的時間、原因。

2. 在信息物理系統中，關鍵基礎設施之間的聯系。

3. 如何預測可能產生的級聯效應，以及有能力、動機和意愿使用級聯效應的行動體。

4. 非西方政府將如何利用人工智能，人工智能將對西方國家構成怎樣的威脅，這些技術是否會出口到其他民主程度較弱的國家，從而促進進一步的反民主化。

5. 西方國家將如何在利用技術保障國家安全與保護公民隱私之間取得平衡。

趨勢二：危機時期網絡作用的擴大

危機來臨時，社會通常會忽略打擊外部惡意活動，因此網絡和信息行動的數量都會增加。世衛組織報告稱，新冠疫情期間的網絡攻擊數量增加了5倍。

①新冠疫情期間網絡的使用。

惡意行為體通過攻擊連網設備、滲透網絡、傳播惡意軟件或發動拒止服務攻擊來實現其目標。通過這些行動，行為體能夠進行間諜活動、在戰場上為可能發生的沖突或戰爭做準備，并破壞社會的重要功能以影響政治決策。新冠疫情期間的部分襲擊針對醫院和醫療研究中心，試圖收集有關治療、測試和疫苗的情報;另一部分襲擊則針對終端用戶。

關于網絡威脅活動是否堪比戰略武器，以及其在常規戰爭中具備的潛在破壞性一直沒有定論。目前為止，網絡威脅活動在法律和政策領域中都被視為在實際戰爭閾值下進行的行為。但這一問題在新冠疫情期間再次浮出水面，一些針對醫院等關鍵衛生基礎設施的攻擊已經引發了對網絡行動法律閾值的質疑。

②新冠疫情期間的操縱性信息干擾

操縱性信息干擾指行為體利用社交媒體等網絡服務傳播虛假信息等方式，增加民眾對政府、醫療保健系統和其他公民的不信任。流入內部信息系統的虛假信息也容易受到尋求政治或經濟利益的國內行為體的推動。虛假信息在危機期間也可用于煽動對基礎設施的物理攻擊，如5G基站。

混合威脅中的任何犯罪活動都是相關的。首先，犯罪活動大規模發生時會模糊態勢感知，參與者和動機越多，就越難區分相關的混合威脅活動和具有升級潛力的戰略行為。其次，假借世衛組織等知名機構的名義實施的騙局會制造可能被混合威脅行為體利用的漏洞。對抗混合威脅的一種方法是提高民眾對官方機構的信任，從而提高整體社會彈性。

需要注意的問題

1. 從新冠疫情期間網絡空間惡意行為中吸取的教訓。

2. 操縱性信息干擾是否會影響民眾對官方機構的信任。

3. 各國如何改變其對惡意網絡和信息活動的歸因和反應方式，特別是在危機時期中。

4. 網絡領域中國際合作方面的缺口。

5. 對基礎設施的物理攻擊是否會被其他國家利用，甚至被復制。

趨勢三：政策與技術之間依賴關系的增長

當前，政策制定者和技術開發商正在越來越多地影響網絡領域的發展，兩者之間的依賴關系也在增長。為實現經濟增長、社會發展和國家安全，政策制定者和技術開發商之間需要進行建設性的對話。

①5G技術

隨著5G技術的擴散，技術人員和政策制定者應該思考，能否相信從另一個國家制造商獲得的技術不會對國家安全構成風險。一方面，部署5G技術在經濟和功能方面非常重要;另一方面，部署可能不可靠的技術會對國家安全構成風險。

②操縱性信息干擾活動

2018年，為響應歐盟委員會處理虛假信息的目標，網絡平臺、領先社交網絡、廣告商和廣告行業代表自發達成行為守則，以應對在線虛假信息和虛假新聞的傳播;2020年，歐盟提出《數字服務法》和《數字市場法》兩項立法以保護網絡平臺用戶。

③人工智能技術

歐盟發布的人工智能白皮書呼吁平衡政策和技術發展。一份關于人工智能軍民兩用的報告也呼吁決策者和技術專家合作，為人工智能的惡意使用做好準備，并積極擴大參與預防和減輕人工智能惡意使用風險的利益相關者的范圍。各國和國際組織應努力建立更有組織的對話形式，以便在技術變革由私營公司領導的環境下，在政策和技術之間取得平衡。

需要注意的問題

1. 決策者和技術公司之間對話的主要驅動因素。

2. 如何遵循歐盟委員會的虛假信息實踐守則，以及如何將新平臺納入其中。

3. 圍繞5G的討論還可能出現在什么領域。

4. 有哪些結構性形式可用于討論政策和技術之間的平衡。