服務(wù)治理怎么做：降級(jí)、熔斷、全鏈路壓測(cè)

作者：greencoatman 2024-06-26 08:55:29

在高峰期或者流量激增的情況下，為了防止系統(tǒng)崩潰，可以暫時(shí)關(guān)閉或降低某些非關(guān)鍵服務(wù)的質(zhì)量。

圖片

系統(tǒng)負(fù)載過(guò)高：在高峰期或者流量激增的情況下，為了防止系統(tǒng)崩潰，可以暫時(shí)關(guān)閉或降低某些非關(guān)鍵服務(wù)的質(zhì)量。
依賴服務(wù)故障：當(dāng)某個(gè)依賴服務(wù)不可用時(shí)，通過(guò)服務(wù)降級(jí)可以提供替代方案或者簡(jiǎn)化的功能，以確保系統(tǒng)核心功能的正常運(yùn)作。
網(wǎng)絡(luò)問(wèn)題：在網(wǎng)絡(luò)延遲或不穩(wěn)定的情況下，降低某些服務(wù)的請(qǐng)求頻率或數(shù)據(jù)量，以減輕系統(tǒng)負(fù)擔(dān)。
資源不足：當(dāng)系統(tǒng)資源（如 CPU、內(nèi)存）不足時(shí)，通過(guò)服務(wù)降級(jí)減少資源消耗。

功能降級(jí)：暫時(shí)關(guān)閉或簡(jiǎn)化某些非關(guān)鍵功能。例如，關(guān)閉推薦系統(tǒng)、日志記錄等不影響核心功能的服務(wù)。
數(shù)據(jù)降級(jí)：降低數(shù)據(jù)返回的粒度或數(shù)量。例如，從詳細(xì)數(shù)據(jù)切換為概要數(shù)據(jù)。
延遲處理：將非緊急的任務(wù)延遲處理或批量處理。例如，將某些后臺(tái)任務(wù)延遲執(zhí)行，減輕當(dāng)前系統(tǒng)負(fù)擔(dān)。
限流：限制部分用戶的訪問(wèn)，優(yōu)先保證核心用戶或付費(fèi)用戶的服務(wù)質(zhì)量。

熔斷器模式（Circuit Breaker Pattern）：當(dāng)檢測(cè)到某個(gè)服務(wù)不可用時(shí)，主動(dòng)切斷對(duì)該服務(wù)的調(diào)用，避免影響其他服務(wù)。
限流器（Rate Limiter）：限制單位時(shí)間內(nèi)的請(qǐng)求數(shù)量，防止系統(tǒng)過(guò)載。
降級(jí)開關(guān)：通過(guò)配置中心動(dòng)態(tài)調(diào)整服務(wù)降級(jí)策略，靈活應(yīng)對(duì)不同場(chǎng)景。
緩存：使用緩存減輕數(shù)據(jù)庫(kù)或其他后端服務(wù)的壓力，提供快速響應(yīng)。

圖片

請(qǐng)求通過(guò)熔斷器：

監(jiān)控和評(píng)估：

Hystrix 會(huì)監(jiān)控一段時(shí)間內(nèi)（例如 10 秒）的請(qǐng)求數(shù)量和失敗率。
如果在這段時(shí)間內(nèi)請(qǐng)求數(shù)量超過(guò)設(shè)定的最小請(qǐng)求數(shù)，并且失敗率超過(guò)設(shè)定的閾值，熔斷器將跳到打開狀態(tài)。

短路請(qǐng)求：

在打開狀態(tài)下，所有請(qǐng)求都會(huì)被短路，不會(huì)真正調(diào)用下游服務(wù)，而是立即返回一個(gè)預(yù)設(shè)的降級(jí)響應(yīng)。
這樣可以防止下游服務(wù)的故障影響到整個(gè)系統(tǒng)，并減輕下游服務(wù)的負(fù)載。

嘗試恢復(fù)：

服務(wù)灰度發(fā)布設(shè)計(jì)與實(shí)踐

圖片

優(yōu)點(diǎn)：

降低風(fēng)險(xiǎn)：通過(guò)逐步發(fā)布新版本，團(tuán)隊(duì)可以在小范圍內(nèi)驗(yàn)證新功能的有效性，降低全量發(fā)布帶來(lái)的風(fēng)險(xiǎn)。
快速反饋：在發(fā)布過(guò)程中，可以迅速收集用戶反饋和監(jiān)控?cái)?shù)據(jù)，及時(shí)發(fā)現(xiàn)和解決問(wèn)題。
持續(xù)交付：灰度發(fā)布與持續(xù)交付和持續(xù)部署實(shí)踐相結(jié)合，可以實(shí)現(xiàn)快速、頻繁和穩(wěn)定的發(fā)布。
平滑過(guò)渡：避免了大規(guī)模發(fā)布帶來(lái)的潛在問(wèn)題，確保系統(tǒng)平穩(wěn)運(yùn)行。