運維是一個融合多學科(網絡、系統、開發、安全、應用架構、存儲等)的綜合性技術崗位，從最初的網絡管理(網管)發展到現在的系統運維工程師、網絡運維工程師、安全運維工程師、運維開發工程師等，可以看出，運維的分工一直在細化，并且對綜合技能要求越來越高，而且 ，未來運維的發展趨勢是高、精、尖，也就是運維職場一定要站在一定的技術高度，在多個技術領域中，要精通某項技能，同時對技術一定要能掌控趨勢。

運維職位的發展和趨勢

根據不同的運維領域和技術面以及分工流程三個方面來了解下2019年運維職位的發展趨勢。

按領域來劃分

• 基礎設施運維：IDC/網絡運維、服務器/存儲設備運維
• 系統運維：系統中間件運維、云計算平臺運維
• 數據運維：數據庫運維、大數據技術平臺運維
• 應用運維：應用軟件系統
• 云平臺運維：公有云平臺運維
• 容器運維：基于容器服務的運維

按技術切面來分

• 安全運維
• 性能運維
• 數據運維
• 集成運維

按流程來劃分

• 構建/持續集成、發布
• 安裝部署、升級、遷移、合并、擴展
• 配置、初始化、配置變更
• 備份、傳輸、恢復
• 日志、監控、預警
• 診斷排查、優化

系統運維技能圖譜

系統運維是運維的基礎，新的一年中，對基礎運維技能要求也在提高，打好系統運維基礎，才能深入學習后面的各種運維技能。

下圖列出了系統運維要掌握的必備技能：

Web運維技能圖譜

Web運維是運維崗位中崗位最多的一個，薪資也相對較高，但需要掌握的知識點也比較多，新的技能要掌握，老的運維技能也不能丟，下圖列出了Web運維要掌握的各種必備技能。

大數據運維技能圖譜

大數據從2017年開始逐漸走到生活的各個角落，2018年在逐漸落地，而在2019年，大數據依然火熱，加上國家對大數據產業的扶持，大數據產業在新的一年崗位需求一定會更加大，因此掌握大數據運維技能，就走在了運維的前沿，下圖列出了大數據運維要掌握的各種必備技能。

容器運維技能圖譜

容器的產生，是一次IT行業的革命，2015 年到 2016 年，是業界普遍認為的容器技術爆發的一年，短短一年多時間里，容器技術在中國大陸完成了從零星概念到烽火燎原的壯舉。

時至今日，容器技術在國內大多數企業中落地已成為一種共識，而國內的生態系統，也呈現出了企業產品、開源社區和公有云齊頭并進的良好局面。因此，2019年也是容器繼續快速落地的一年，下圖列出了大數據運維要掌握的各種必備技能。

數據為王的時代

萬丈高樓平地起，高樓穩不穩取決于地基是否扎實。運維數據便是運維管理這座高樓的地基。運維數據大致分為CMDB、日志、生產DB、知識庫四個方面。

• CMDB中文是配置管理數據庫，存儲與管理企業IT架構中設備的各種配置信息，主要是IT資產管理信息。
• 日志數據保護了企業服務器上運行的各種系統產生的應用日志，系統日志、設備日志、數據庫日志等數據，這部分數據是企業數據的核心。
• DB數據主要是所有IT系統的數據庫信息，包括運維管理系統本身的數據庫，數據庫包含生產數據庫、測試數據庫、開發數據庫三種類型。
• 知識庫主要存儲日常開發、測試、運維管理中發生的事件、問題以及一些經典問題的解決和常用的解決方案，主要起到運維管理輔助的功能。

對數據的維護和管理只管重要，特別是日志數據，對運維來說，通過日志可以比較準確全面地知道系統或是設備的運行情況，可以返查問題產生的原因，還原問題發生的整個過程。通過日志也可以提前預測系統可能要發生的問題或是故障，如系統安全日志，如果網絡威脅會在系統安全日志中有一定的體現。

下面簡單介紹下，運維重點收集的日志數據有哪些部分以及用途。

系統日志

系統日志主要指的是操作系統的日志，主要在/var/log下的各種日志信息。包含系統操作日志、系統安全日志、定時任務日志等。系統日志是運維管理安全模塊中審計的重要依據。一般默認的操作系統日志不能滿足要求，需要對系統的參數進行修改，如為history命令加上時間戳、IP，并且長久保留歷史等功能。并且對日志文件進行處理，不允許用戶進行清空命令，只能追加。

應用日志

應用日志主要記錄應用服務的健康運行情況以及業務操作的具體日志兩部分。應用監控運行情況反應應用服務的健康狀態，如果應用占用CPU或是內存過高或是忽高忽低不定，都可以通過分析應用日志結合業務操作日志得出結論。業務操作日志可以為業務審計提供主要依據。有一些系統喜歡把業務操作日志寫到數據庫中，這個也是需要注意的。不過不管在哪個地方，要求是不可缺少的，它為以后業務審計和問題返查提供依據。

數據庫日志

數據庫日志主要反饋數據庫的運行情況。通過監控和管理數據庫的日志，及時了解數據庫的運行情況，遇到問題及時解決等。可以通過數據庫日志結合數據庫系統自帶的數據庫如Oracle的系統視圖v$開頭，MySQL的performance_schema等。雖然數據庫的一些信息不是存在日志中而是在數據庫里面，但是也可以作為數據庫日志的一部分進行管理和監控，已便我們及時知道數據庫的監控狀況，從而預防可能出現的問題。

設備日志

設備日志一般是一個比較容易忽略的地方，但設備日志往往可以反映設備的運行情況。交換機故障，防火墻故障等設備故障都可能引起大面積的系統和服務故障。所以設備日志一定要收集，分析和監控預警。常用的設備日志有交換機日志、防火墻日志、網絡安全設備日志等。

這么多的日志，運維要通過各種手段完成日志的收集、過濾分析、可視化展示，那么如何實現這些功能呢，方法很多，例如ELK集成套件(Elasticsearch，Logstash，Kibana)就可以輕松實現日志數據的實時收集、分析傳輸以及圖形化展示。

Elasticsearch是個開源分布式搜索引擎，提供搜集、分析、存儲數據三大功能。它的特點有：分布式，零配置，自動發現，索引自動分片，索引副本機制，restful風格接口，多數據源，自動搜索負載等。

Logstash主要是用來日志的搜集、分析、過濾日志的工具，支持大量的數據獲取方式。一般工作方式為c/s架構，client端安裝在需要收集日志的主機上，Server端負責將收到的各節點日志進行過濾、修改等操作在一并發往Elasticsearch上去。

Kibana也是一個開源和免費的工具，Kibana可以為Logstash和ElasticSearch提供的日志分析友好的Web界面，可以幫助匯總、分析和搜索重要數據日志。

另外，還有Filebeat可以替換Logstash作為日志收集工具，Filebeat隸屬于Beats。目前Beats包含四種工具：

• Packetbeat(搜集網絡流量數據)
• Topbeat(搜集系統、進程和文件系統級別的CPU和內存使用情況等數據)
• Filebeat(搜集文件數據)
• Winlogbeat(搜集Windows事件日志數據)

可以看到，Beats涵蓋了所有收集日志數據的各個方面。

那么要如何使用ELK呢，根據日志量的不同，對應的ELK架構也不盡相同，看下面幾個常見架構：

此架構主要是將Logstash部署在各個節點上搜集相關日志、數據，并經過分析、過濾后發送給遠端服務器上的Elasticsearch進行存儲。Elasticsearch再將數據以分片的形式壓縮存儲，并提供多種API供用戶查詢、操作。用戶可以通過Kibana Web直觀的對日志進行查詢，并根據需求生成數據報表。

此架構的優點是搭建簡單，易于上手。缺點是Logstash消耗系統資源比較大，運行時占用CPU和內存資源較高。另外，由于沒有消息隊列緩存，可能存在數據丟失的風險。此架構建議供初學者或數據量小的環境使用。

由此衍生出來了第二種架構：

此架構主要特點是引入了消息隊列機制，位于各個節點上的Logstash Agent(一級Logstash，主要用來傳輸數據)先將數據傳遞給消息隊列(常見的有Kafka、Redis等)，接著，Logstash Server(二級Logstash，主要用來拉取消息隊列數據，過濾并分析數據)將格式化的數據傳遞給Elasticsearch進行存儲。由Kibana將日志和數據呈現給用戶。由于引入了Kafka(或者Redis)緩存機制，即使遠端Logstash Server因故障停止運行，數據也不會丟失，因為數據已經被存儲下來了。

這種架構適合于較大集群、數據量一般的應用環境，但由于二級Logstash要分析處理大量數據，同時Elasticsearch也要存儲和索引大量數據，因此它們的負荷會比較重，解決的方法是將它們配置為集群模式，以分擔負載。

此架構的優點在于引入了消息隊列機制，均衡了網絡傳輸，從而降低了網絡閉塞尤其是丟失數據的可能性，但依然存在Logstash占用系統資源過多的問題，在海量數據應用場景下，可能會出現性能瓶頸。

還有第三種架構：

這個架構是在上面第二個架構基礎上改進而來的，主要是將前端收集數據的Logstash Agent換成了Filebeat，消息隊列使用了Kafka集群，然后將Logstash和Elasticsearch都通過集群模式進行構建，此架構適合大型集群、海量數據的業務場景，它通過將前端Logstash Agent替換成Filebeat，有效降低了收集日志對業務系統資源的消耗。同時，消息隊列使用Kafka集群架構，有效保障了收集數據的安全性和穩定性，而后端Logstash和Elasticsearch均采用集群模式搭建，從整體上提高了ELK系統的高效性、擴展性和吞吐量。

用大數據思維做運維監控

大數據分析最早就來源于運維人的日志分析，到逐漸發展對各種業務的分析，人們發現這些數據蘊涵著非常大的價值，通過實時監測、跟蹤研究對象在互聯網上產生的海量行為數據，進行挖掘分析，揭示出規律性的東西，提出研究結論和對策。這就是大數據的用途。

同樣，通過大數據分析，我們可以得到各種指標，例如：

• 在業務層面，如團購業務每秒訪問數，團購券每秒驗券數，每分鐘支付、創建訂單等
• 在應用層面，每個應用的錯誤數，調用過程，訪問的平均耗時，95線等
• 在系統資源層面：如CPU、內存、Swap、磁盤、Load、主進程存活等
• 在網絡層面： 如丟包、ping存活、流量、TCP連接數等

而這些指標，剛好是運維特別需要的東西。通過大數據分析出的這些指標，可以解決如下方面的問題：

• 系統健康狀況監控
• 查找故障根源
• 系統瓶頸診斷和調優
• 追蹤安全相關問題

那么如何用大數據思維做運維呢，大數據架構上的一個思維就是：提供一個平臺讓運維方便解決這些問題， 而不是，讓大數據平臺去解決出現的問題。

基本的一個大數據運維架構是這樣的：

對于運維的監控，利用大數據思維，需要分三步走：

• 獲取需要的數據
• 過濾出異常數據并設置告警閥值
• 通過第三方監控平臺進行告警

所有系統最可靠的就是日志輸出，系統是不是正常，發生了什么情況，我們以前是出了問題去查日志，或者自己寫個腳本定時去分析。現在這些事情都可以整合到一個已有的平臺上，我們要做的就是定義分析日志的的邏輯。

好啦，這就是今天要給大家介紹的2019核心運維技能啦，抓住時機，開始全新學習吧!2019，你的全新開始!!!