SpringCloud Alibaba Sentinel 限流詳解

作者：牧小農 2022-05-29 21:38:11

什么是熱點規(guī)則？熱點我們很好理解，就是很火的東西在程序中可以理解成頻繁訪問的數據，那么有時候我們系統(tǒng)通緝你某個熱點數據中訪問頻次最高的前幾個數據對其進行限制訪問。

熔斷規(guī)則

在上一篇文章中我們講解了流控規(guī)則的使用和介紹??Sentinel流控規(guī)則??，今天我們給大家講解sentinel更多樣化的講解以及流量控制。

官方文檔：https://sentinelguard.io/zh-cn/docs/circuit-breaking.html

在面對調用鏈路中不穩(wěn)定的資源如何保證高可用?在微服務中一個服務通常會調用其他的模塊，可能是服務內的某個應用也有可能是另外的一個遠程服務，數據庫或者其他API調用。比如我們在支付的時候會調用(某付寶、某信、某聯(lián))提供的API，在查詢訂單我們會調用數據庫連接，這些依賴的服務有可能會存在系統(tǒng)不穩(wěn)定的情況，如果依賴的服務出現(xiàn)了不穩(wěn)定的情況，請求響應時間過長，線程資源產生堆積，可能最終會耗盡服務的資源，導致服務變的不可用，這個時候熔斷降級是保證服務高可用的重要措施之一。

如今的微服務都是分布式，有很多服務組成，不同服務之間互相調用，有著比較復雜的調用鏈路，在上面我們只是模擬繪畫了支付操作，在實際的鏈路調用過程中會有著放大效果，如果某一環(huán)不穩(wěn)定，可能會形成蝴蝶效應最終導致整個鏈路響應時間過長，甚至不可用，所以如果當我們的服務出現(xiàn) 不穩(wěn)定且沒有強依賴服務調用的時，可以進行熔斷降級，暫時限制不穩(wěn)定的調用，避免影響整體服務。

熔斷策略：

sentinel提供了三種熔斷策略：

慢調用比例: 選擇以慢調用比例作為閾值，需要設置允許的慢調用RT(最大響應時間)，如果請求響應時間大于該值則認為慢調用，當統(tǒng)計時長內請求數大于最小請求數，且慢調用比例大于閾值，在熔斷時長內的請求會被自動熔斷，超過熔斷時長進入半恢復狀態(tài)(HALF_OPEN)，如果下一個請求響應時間小于慢調用比例RT結束熔斷，否則再次熔斷。
異常比例：當統(tǒng)計時長內請求數大于最小請求數，且異常比例大于設定的閾值，在熔斷時間內請求自動熔斷，超過熔斷時長進入半恢復狀態(tài)(HALF_OPEN)，如果下一個請求成功，結束熔斷，否則再次熔斷，異常比例閾值范圍(0.0-1.0)代表百分比。
異常數：當統(tǒng)計時長內異常數大于閾值，自動進行熔斷，超過熔斷時長進入半恢復狀態(tài)(HALF_OPEN)，如果下一個請求成功，結束熔斷，否則再次熔斷。

熔斷狀態(tài)：

熔斷狀態(tài)	說明
OPEN	熔斷開啟，拒絕所有請求
HALF_OPEN	熔斷半開啟（恢復狀態(tài)），如果接下來請求成功結束熔斷，否則繼續(xù)熔斷
CLOSE	熔斷關閉，請求通過

熱點參數規(guī)則的核心屬性：

屬性(Field)	說明	默認值
resource	資源名(規(guī)則的作用對象 ) 必填
grade	熔斷策略(支持慢調用比例/異常比例/異常數策略) 必填	慢調用比例
count	慢調用比例模式下為慢調用臨界 RT（超出該值計為慢調用）；異常比例/異常數模式下為對應的閾值
timeWindow	熔斷時長，單位為 s
minRequestAmount	熔斷觸發(fā)的最小請求數，請求數小于該值時即使異常比率超出閾值也不會熔斷（1.7.0 引入）	5
statIntervalMs	統(tǒng)計時長（單位為 ms），如 60*1000 代表分鐘級（1.8.0 引入）	1000 ms
slowRatioThreshold	慢調用比例閾值，僅慢調用比例模式有效（1.8.0 引入）

熔斷策略 - 慢調用比例

選擇以慢調用比例作為閾值，需要設置允許的慢調用RT(最大響應時間)，如果請求響應時間大于該值則認為慢調用，當統(tǒng)計時長內請求數大于最小請求數，且慢調用比例大于閾值，在熔斷時長內的請求會被自動熔斷，超過熔斷時長進入半恢復狀態(tài)(HALF_OPEN)，如果下一個請求響應時間小于慢調用比例RT結束熔斷，否則再次熔斷。

如果我們一秒鐘請求的數量大于5且RT(最大響應時間)大于我們設置的比例閾值的時候，觸發(fā)熔斷策略，比如我們有8個請求在一秒中進來，有5個慢調用，比例閾值設置為0.1，這個時候我們滿足(QPS > 5 且 RT > 比例閾值)，進入下一步熔斷策略，觸發(fā)熔斷器。

熔斷器的內部使用的是斷路器，這個好比我們做核酸，本來一棟一棟下去做，如果服務或者檢測機器蹦了，通知你暫時不要下來，當機器恢復了，再通知你下來做，這個就類似我們的斷路器。

案例演示：

@GetMapping("/fuse")
    public String fuse(){
        try {
            TimeUnit.SECONDS.sleep(3);
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
        return "hello fuse";
    }

設置我們的熔斷策略，如果QPS>5請求RT>250且大于比例閾值觸發(fā)熔斷。

通過JMeter測試，1秒鐘發(fā)起10個線程請求，此時就會觸發(fā)熔斷效果，停止測試以后，10秒鐘恢復正常。

當我們啟動線程之后，再去訪問fuse接口，可以看到被熔斷了，那么當我們停止線程之后，十秒之后去訪問，就可以正常訪問。

熔斷策略 - 異常比例

當統(tǒng)計時長內請求數大于最小請求數，且異常比例大于設定的閾值，在熔斷時間內請求自動熔斷，超過熔斷時長進入半恢復狀態(tài)(HALF_OPEN)，如果下一個請求成功，結束熔斷，否則再次熔斷，異常比例閾值范圍(0.0-1.0)代表百分比。異常降級僅僅只針對業(yè)務異常，對于sentinel本身的異常不生效。

測試：

@GetMapping("/exptoin")
    public String exptoin(Integer id){
        if(id != null && id > 1){
            throw new RuntimeException("異常比例測試");
        }
        return "exptoin test";
    }

接下來我們用JMeter進行測試，設置Http請求地址:http://localhost:8006/exptoin?id=5當啟動JMeter的時候，會觸發(fā)熔斷，這個時候我們1秒鐘發(fā)送10個請求超過了最小請求數，同事超過了閾值，滿足兩個條件，當熔斷時間結束以后恢復正常。

熔斷策略 - 異常數

當統(tǒng)計時長內異常數大于閾值，自動進行熔斷，超過熔斷時長進入半恢復狀態(tài)(HALF_OPEN)，如果下一個請求成功，結束熔斷，否則再次熔斷。

測試代碼：

@GetMapping("/exptoin/num")
    public String exptoinNum(Integer id){
        if(id != null && id > 1){
            throw new RuntimeException("異常數測試");
        }
        return "exptoinNum test";
    }

設置異常數策略，當1秒鐘內請求超過5并且異常數大約5個的時候觸發(fā)熔斷。

熱點規(guī)則

官網文檔：https://sentinelguard.io/zh-cn/docs/parameter-flow-control.html

什么是熱點規(guī)則?熱點我們很好理解，就是很火的東西在程序中可以理解成頻繁訪問的數據，那么有時候我們系統(tǒng)通緝你某個熱點數據中訪問頻次最高的前幾個數據對其進行限制訪問。

例如在秒殺系統(tǒng)中，某一款商品或者某幾款商品，要定點秒殺，我們可以以商品ID為參數，在一定時間內對其進行限流。

又或者如果某一個用戶頻繁的去訪問我們系統(tǒng)，我們也可以針對于用戶ID或者IP進行限制。

熱點規(guī)則會統(tǒng)計入參參數中的熱點數據，根據配置的限流閾值和模式，對啟動的熱點數據進行限流也就是流量控制。

在上圖中我們攜帶了是三個參數(axb\abc\xs)等，我們在sentinel中設置熱點限流，我們設置的QPS為5，注意：該模式只支持QPS限制，如果我們的axb參數，命中了我們的規(guī)則，那么該請求攜帶的參數就會被限流。

在使用熱點規(guī)則的時候，我們需要配合對應的@SentinelResource注解進行使用，才能夠達到更加細粒度的流控規(guī)則。

@SentinelResource

value：代表資源名稱，必填，通過name找到對應的規(guī)則。
blockHandler：blockHandler 對應處理 BlockException 的方法名稱，可選項，訪問范圍為public，返回類型需要和原方法匹配，并且在最后一需要添加BlockException類型的參數。

測試代碼：

@GetMapping("/hotTest")
    @SentinelResource(value = "hotTest")
    public String testHotKey(@RequestParam(value = "v1",required = false) String v1,
                             @RequestParam(value = "v2",required = false)String v2){
        return "熱點規(guī)則 -  熱點：";
    }

在這里我們要注意，我們需要配置的是不帶斜杠的資源名稱，這個才是我們需要配置的項目。

這個時候我們傳入參數 http://localhost:8006/hotTest?v1，不停的刷新瀏覽器，這個時候會超過閾值，那么下面就會出現(xiàn)限流。

但是，這個報錯信息不是很友好，一般人根本不知道啥意思，我們可以使用@SentinelResource注解提供的另外一個參數blockHandler，這個參數是可以指定當出現(xiàn)異常時的處理方法，操作如下：

@GetMapping("/hotTest")
    @SentinelResource(value = "hotTest",blockHandler = "handler_hot")
    public String testHotKey(@RequestParam(value = "v1",required = false) String v1,
                             @RequestParam(value = "v2",required = false)String v2){

        if("5".equals(v1)){
            throw new RuntimeException("報告有bug!!!");
        }
        return "熱點規(guī)則 -  熱點：";
    }
    
     //處理異常方法，方法簽名要和對應的接口方法保持一致
    public String handler_hot(String v1, String v2, BlockException exception){
        return "請求過于頻繁，請稍后再試.....";
    }

重新添加熱點規(guī)則后，再去頻繁的去訪問，效果如下：

例外項數目：

熱點規(guī)則除了上述的基礎使用外，還有例外項的操作，例外項參數可以達到更加細粒度的控制，比如我們在當前的案例中，目前v1參數在訪問時超過閾值則會被限流，當時如果我們想通過參數v1等于具體的值的時候，來出發(fā)不同的流控效果時，改怎么操作呢?

比如我想要讓v1等于2的時候，閾值達到50，其他的規(guī)則走上面的規(guī)則。

如果當前v1的值為2的時候，會走例外項里面的設置，也就是50的閾值，如果不是2會走普通的閾值規(guī)則，通過下圖我們可以看到如果為2的值，無論我們點擊多少次，都不會提示我們請求過于頻繁。

系統(tǒng)規(guī)則

sentinel系統(tǒng)自適應限流是從整體維度對應用入口流量進行控制，結合應用的load、CPU使用率、總體平均RT、入口QPS和并發(fā)線程數等幾個維度的監(jiān)控指標，通過自適應的流控策略，來讓系統(tǒng)入口流量和系統(tǒng)的負載達到一個平衡，讓系統(tǒng)盡可能的在面對高并發(fā)訪問的同時保證系統(tǒng)整體的穩(wěn)定。

系統(tǒng)保護是應用整體，所以不具備更細粒度的操作，只針對于入口流量有效。