Spring Cloud構建微服務架構：服務容錯保護（Hystrix依賴隔離）
前言
在上一篇《Spring Cloud構建微服務架構：服務容錯保護(Hystrix服務降級)》中，我們已經體驗了如何使用@HystrixCommand來為一個依賴資源定義服務降級邏輯。實現方式非常簡單，同時對于降級邏輯還能實現一些更加復雜的級聯降級等策略。之前對于使用Hystrix來實現服務容錯保護時，除了服務降級之外，我們還提到過線程隔離、斷路器等功能。那么在本篇中我們就來具體說說線程隔離。
依賴隔離
“艙壁模式”對于熟悉Docker的讀者一定不陌生，Docker通過“艙壁模式”實現進程的隔離，使得容器與容器之間不會互相影響。而Hystrix則使用該模式實現線程池的隔離，它會為每一個Hystrix命令創建一個獨立的線程池，這樣就算某個在Hystrix命令包裝下的依賴服務出現延遲過高的情況，也只是對該依賴服務的調用產生影響，而不會拖慢其他的服務。
通過對依賴服務的線程池隔離實現，可以帶來如下優勢：
- 應用自身得到完全的保護，不會受不可控的依賴服務影響。即便給依賴服務分配的線程池被填滿，也不會影響應用自身的額其余部分。
- 可以有效的降低接入新服務的風險。如果新服務接入后運行不穩定或存在問題，完全不會影響到應用其他的請求。
- 當依賴的服務從失效恢復正常后，它的線程池會被清理并且能夠馬上恢復健康的服務，相比之下容器級別的清理恢復速度要慢得多。
- 當依賴的服務出現配置錯誤的時候，線程池會快速的反應出此問題(通過失敗次數、延遲、超時、拒絕等指標的增加情況)。同時，我們可以在不影響應用功能的情況下通過實時的動態屬性刷新(后續會通過Spring Cloud Config與Spring Cloud Bus的聯合使用來介紹)來處理它。
- 當依賴的服務因實現機制調整等原因造成其性能出現很大變化的時候，此時線程池的監控指標信息會反映出這樣的變化。同時，我們也可以通過實時動態刷新自身應用對依賴服務的閾值進行調整以適應依賴方的改變。
- 除了上面通過線程池隔離服務發揮的優點之外，每個專有線程池都提供了內置的并發實現，可以利用它為同步的依賴服務構建異步的訪問。
總之，通過對依賴服務實現線程池隔離，讓我們的應用更加健壯，不會因為個別依賴服務出現問題而引起非相關服務的異常。同時，也使得我們的應用變得更加靈活，可以在不停止服務的情況下，配合動態配置刷新實現性能配置上的調整。
雖然線程池隔離的方案帶了如此多的好處，但是很多使用者可能會擔心為每一個依賴服務都分配一個線程池是否會過多地增加系統的負載和開銷。對于這一點，使用者不用過于擔心，因為這些顧慮也是大部分工程師們會考慮到的，Netflix在設計Hystrix的時候，認為線程池上的開銷相對于隔離所帶來的好處是無法比擬的。同時，Netflix也針對線程池的開銷做了相關的測試，以證明和打消Hystrix實現對性能影響的顧慮。
下圖是Netflix Hystrix官方提供的一個Hystrix命令的性能監控，該命令以每秒60個請求的速度(QPS)向一個單服務實例進行訪問，該服務實例每秒運行的線程數峰值為350個。
從圖中的統計我們可以看到，使用線程池隔離與不使用線程池隔離的耗時差異如下表所示：
在99%的情況下，使用線程池隔離的延遲有9ms，對于大多數需求來說這樣的消耗是微乎其微的，更何況為系統在穩定性和靈活性上所帶來的巨大提升。雖然對于大部分的請求我們可以忽略線程池的額外開銷，而對于小部分延遲本身就非常小的請求(可能只需要1ms)，那么9ms的延遲開銷還是非常昂貴的。實際上Hystrix也為此設計了另外的一個解決方案：信號量。
Hystrix中除了使用線程池之外，還可以使用信號量來控制單個依賴服務的并發度，信號量的開銷要遠比線程池的開銷小得多，但是它不能設置超時和實現異步訪問。所以，只有在依賴服務是足夠可靠的情況下才使用信號量。在HystrixCommand和HystrixObservableCommand中2處支持信號量的使用：
- 命令執行：如果隔離策略參數execution.isolation.strategy設置為SEMAPHORE，Hystrix會使用信號量替代線程池來控制依賴服務的并發控制。
- 降級邏輯：當Hystrix嘗試降級邏輯時候，它會在調用線程中使用信號量。
信號量的默認值為10，我們也可以通過動態刷新配置的方式來控制并發線程的數量。對于信號量大小的估算方法與線程池并發度的估算類似。僅訪問內存數據的請求一般耗時在1ms以內，性能可以達到5000rps，這樣級別的請求我們可以將信號量設置為1或者2，我們可以按此標準并根據實際請求耗時來設置信號量。
如何使用
說了那么多依賴隔離的好處，那么我們如何使用Hystrix來實現依賴隔離呢?其實，我們在上一篇定義服務降級的時候，已經自動的實現了依賴隔離。
在上一篇的示例中，我們使用了@HystrixCommand來將某個函數包裝成了Hystrix命令，這里除了定義服務降級之外，Hystrix框架就會自動的為這個函數實現調用的隔離。所以，依賴隔離、服務降級在使用時候都是一體化實現的，這樣利用Hystrix來實現服務容錯保護在編程模型上就非常方便的，并且考慮更為全面。除了依賴隔離、服務降級之外，還有一個重要元素：斷路器。我們將在下一篇做詳細的介紹，這三個重要利器構成了Hystrix實現服務容錯保護的強力組合拳。
更多Spring Cloud內容請持續關注我的博客更新或在《Spring Cloud微服務實戰》中獲取。
代碼示例
樣例工程將沿用之前在碼云和GitHub上創建的SpringCloud-Learning項目，重新做了一下整理。通過不同目錄來區分Brixton和Dalston的示例。
碼云：點擊查看
GitHub：點擊查看
【本文為51CTO專欄作者“翟永超”的原創稿件，轉載請通過51CTO聯系作者獲取授權】
