[[439966]]

人工智能是計算機科學的一個新的分支，可以對人的意識、思維的信息過程進行模擬。在信息時代背景下，人工智能受到關注，其理論研究、應用技術日益成熟，應用范圍、市場規模持續擴大，但隨之而來的安全問題也在不斷增多。在“新基建”等政策的推動下，我國進入人工智能領域布局的資本不斷增加，人工智能與眾多行業結合速度加快，因此人工智能安全行業發展極為重要。 

學習是人工智能在實際應用中應具有的功能，可以提高和擴展其能力，在學習的同時，人工智能采集到的數據不斷增多，由于不同機構提供的數據存在不同的規范標準，這些數據構成極為復雜。而人工智能自身算法存在不足，無法依靠自身來能力識別攻擊，疊加新型攻擊手段不斷增多，對人工智能安全造成威脅。

人工智能被廣泛應用到互聯網、電子、通信、醫療、交通、金融、工業、農業等各個領域，一旦遭受攻擊，應用在醫療設備、自動駕駛等領域的產品將對人身安全造成危害，應用在金融等領域的產品將造成財產安全損失，應用在通信等領域的產品將造成信息泄露，應用在工業領域的產品將造成生產事故、危險品泄露事故、廢棄物污染事故等，因此人工智能安全技術進步極為重要。 

2014年，人工智能受攻擊被證實之后，人工智能安全相關研究迅速增多。根據中國信息通信研究院公布的數據顯示，2014年，全球人工智能安全風險論文發表數量為6600篇，人工智能安全防御論文數量為3090篇，到2019年這一數據增長至28700篇、12600篇;由論文發表量來看，對抗樣本攻擊和防御是人工智能安全領域最受關注的研究方向。

根據新思界產業研究中心發布的《2021-2025年中國人工智能安全市場可行性研究報告》顯示，2020年，全球人工智能市場規模約為13萬億元，預計到2030年將達到100萬億元以上，年均復合增長率達到23%左右，呈現高速增長態勢。全球人工智能市場高速增長必將帶動人工智能安全需求高速上升，預計2020-2030年，全球人工智能安全市場規模將以26%左右的增速迅速攀升，發展前景極為廣闊。 

新思界行業分析人士表示，人工智能可引領諸多產業變革，提升產業競爭優勢，已經成為全球多個國家的發展戰略，給予人工智能安全市場巨大發展空間。受市場前景吸引，以及為自有產品提供安全服務，全球進入人工智能安全領域布局的企業數量不斷增多，例如谷歌、百度、京東、字節跳動、瑞萊智慧、Horizon3.ai、Cylance、Obsidian等。我國“十四五”國家重點研發計劃“網絡空間安全治理”重點專項中，人工智能安全防御及評估技術被納入，將推動我國人工智能安全行業快速發展。