信息技術不斷進步，閃存、磁盤、數據中心、DNA等各種新的存儲技術不斷出現?？杉幢闳绱耍噪y以滿足日漸龐大的數據體量的存儲需求，加之IoT(物聯網)行業的發展，致使數據的體量更為驚人。不可否認，這些數據中許多都蘊含著價值，但也不能忽視數據的驚人體量。難道到2020年，我們要將44ZB的數據全部記錄并存儲下來嗎?因此，我們需要用云計算技術對數據進行智能分析。今天就來探討2017年監控系統云計算核心技術。

大規?；旌嫌嬎慵夹g

監控系統產生的大量視頻圖像數據如果只靠人工來進行處理，效率會非常低，借助于視頻智能化處理算法，已經可以從視頻圖像數據中獲取一些簡單的特征進行比對，或者進行模式匹配產生報警事件，提高了處理的效率。這種方式能夠處理的數據量，數據組合的程度，數據的類型等等都還處于較低的水平，無法應對海量數據和日益增長的需求。大規模計算技術的目的就是為了提供一種統一的數據處理平臺，上面可以集成各種智能化算法和計算模型，綜合處理海量監控數據，以更快的速度得到更有價值的數據。

[[190445]] 

統一資源管理技術

監控系統產生的主要數據就是視頻和圖像數據，原始數據經過處理后，會產生更豐富的數據，處理的方式也會有很大不同。比如對于歷史視頻數據可以在后臺處理的視頻數據檢索，對于卡口的車牌和人臉特征數據需要實時布控，對歷史卡口信息需要做到實時檢索。這些數據都需要不同的計算框架進行處理，通過引入統一的資源管理平臺，可以在同一個資源池里運行不同的計算框架，大幅提高資源的利用率，同時在資源被某種業務獨占時，又能最大限度的發揮系統的性能。

實時檢索技術

傳統的結構化數據都采用關系型數據庫進行保存，通過RAC等技術形成數據庫集群，通過索引方式進行加速，但是核心還是基于行存儲和關系運算，面對海量記錄時在各個方面都已經遇到了瓶頸。實時檢索技術通過引入分布式數據庫，列式存儲，內存計算，索引引擎等技術，能應對100億級別的結構化數據，在存儲容量，可擴展性，檢索速度等多個方面都可以得到大幅提升。該系統在智能交通、刑事偵查等視頻監控領域具備重要的研究價值和廣闊的應用前景。

復雜事件處理技術

隨著安防監控行業的發展，業務變的也來越復雜，比如智能交通領域，出現了車輛積分研判、套牌車分析、同行車分析等需求。這些需求存在產生結果所依賴的條件多、處理過程實時性的要求高、需要處理的數據量巨大等特點。傳統的方式是采用關系數據庫，通過復雜的SQL語句組合，不斷查詢比對的方式，很難滿足實時性的要求。復雜事件處理通過引入流式計算等技術，動態地對輸入數據進行實時的分析，處理速度可以大幅提供。不符合條件的數據都被丟棄掉，系統中只存在處理的結果或者可能有用的中間數據，這樣對存儲的要求也變小了，完全在內存中進行全過程的分析，實時性得到了保證。

人臉檢索技術

人臉檢索的技術在單臺服務器上的應用已經比較成熟，可以應用在身份鑒別、在逃人員抓捕、可疑人員排查、身份證查重等領域。人臉檢測過程可以分為以下幾個階段：視頻或圖像解碼、人臉檢測、特征提取、特征比對，前三個步驟都是每次請求對應一次計算，計算量相對可控，而最后一個步驟特征比每次請求則需要和達億級的人臉特征進行比對，是運算量最大的一個階段。

一些實時應用的請求數每秒鐘可達請求數達到數百次，每次人臉比對次數可達百萬級別時，則整個系統需要支持每秒億級的人臉特征比對計算。如此大規模的計算，單機上是無法完成的，必須采用集群完成。特征庫本身規模不大，但是比對次數很大，屬于典型的計算密集型集群，特征庫可以全部倒入到內存，在內存中完成計算。

海量視頻檢索技術

圖像傳感器采集到的視頻數據保存到后端存儲后，用戶可以隨時選擇目標區域的多個攝像頭，提交給視頻檢索集群，檢索集群按照目標物體的特征快速檢索的所有對應攝像頭產生視頻數據，找到目標物體特征所出現的視頻，并定位到準確的時間點。其中主要使用了智能化技術實現視頻數據到物體特征結構化數據的轉換，支持車輛顏色，車牌，衣著顏色，人臉等特征。基于統一的計算資源池，實現智能化算法的并行運算，線性提高檢索效率。

結構化之后的數據可以保存到數據庫，下次檢索可以直接通過結構化數據進行二次檢索，大幅提高檢索效率。

分布式對象存儲技術

安防云在系統架構和設計上，充分考慮大規模集群環境下軟硬件發生故障的現實，采用先進的管理思想和軟件系統，實現對大量普通存儲服務器存儲空間資源進行虛擬化整合，實現軟硬件故障高度容錯，搭建高度穩定可靠的存儲集群。

系統將控制流與數據流分離，以及充分優化元數據節點控制系統，使得系統具備極高的性能和良好的線性擴展能力。系統整體為應用提供統一命名空間，使得系統具備極好的數據共享能力。系統將負載均衡到集群內的各節點上，充分利用集群各節點性能，以獲得很好的性能聚合能力以保證系統的穩定。集群采用高度靈活自組網技術，提供簡易部署和維護功能。系統在數據可靠方面，采用智能冗余重建技術，保證較高磁盤利用率的前提下，提供最佳冗余策略。另外，系統在節點軟硬件故障容錯方面，也進行充分考慮，具備屏蔽所有可屏蔽錯誤能力。

快速文件索引技術

云存儲系統可以支持上億級的文件，同時還需要支持上千個用戶同時訪問。這么大規模的元數據和并發訪問量，采用傳統的內存加磁盤多級存儲，以及多級索引方式，尋址的開銷將非常大，直接影響到系統的可用性。

為了提高系統的響應速度，云存儲采用粗粒度的管理方式，以64M作為典型的塊大小進行索引，大幅減小元數據的數量，即使如此，系統的元數據規模還是會達到GB級別?；谶@種情況，系統采用全內存態的元數據訪問模式，可以將文件尋址時間降到毫秒級別。

為了保證元數據的可靠性，需要對元數據的訪問做日志記錄，并定期將元數據持久化到硬盤。

高速并發訪問技術

客戶端在訪問云存儲時，首先訪問元數據服務器，獲取將要與之進行交互的數據節點信息，然后直接訪問這些數據節點完成數據存取。

客戶端與元數據服務器之間只有控制流，而無數據流，這樣就極大地降低了元數據服務器的負載，使之不成為系統性能的一個瓶頸。客戶端與數據節點之間直接傳輸數據流，同時由于文件被分成多個節點進行分布式存儲，客戶端可以同時訪問多個節點服務器，從而使得整個系統的I/O高度并行，系統整體性能得到提高。

通常情況下，系統的整體吞吐率與節點服務器的數量呈正比。