2015 年 5 月，杭州市蕭山區某地光纜被挖斷，某公司支付軟件受到影響，用戶反復登錄卻無法使用，一時間#XXX炸了#成為微博熱詞；2021 年 7 月 ，某視頻網站深夜宕機，各系產品所有功能似乎全崩，直至次日凌晨才恢復服務。這兩個故事，導致吃瓜群眾對企業技術實力產生了質疑和誤解，影響頗深……

從兩個故事可以看出，對于失敗場景考慮不充分對于企業聲譽的打擊有多大。站在程序員個體角度，面向失敗設計對于個人的影響也同樣巨大，企業的事故責任終究要落到程序員個人頭上，而事故也往往會消耗組織對于個人的信任，直接或者間接地影響個人的發展。在字節跳動，事故對個人的影響不算太大，但在其他一些公司，一次事故往往意味著程序員“一年白干”。

不同年限的程序員差異到底在哪里？這個問題，我的理解是，除了架構設計能力、項目管理能力、技術規劃能力、技術領導力之外，面向失敗設計能力也是極其重要的一環。

業務開發的新同學有時候可能會有迷之自信，覺得自己寫的代碼與老鳥們沒有什么不同。實際上，編寫正常流程的業務代碼大家的差異不會太大，但是針對異常、邊界、不確定性的處理才真正體現一個程序員的功力。老鳥們往往在長期的訓練下已經形成多種肌肉記憶，遇到具體問題就會舉一反三腦海里冒出諸多面向失敗的設計點，從而寫出高可用的業務代碼。如何去學習面向失敗設計的方法論，并慢慢形成自己獨有的肌肉記憶，才是新手向老鳥蛻變的康莊大道。

基于這樣的考量，我寫了這篇文章，對自己這些年來的一些經驗和教訓做了一些總結，希望能夠拋磚引玉，讓更多的老鳥們把自己的經驗 share 出來，相互學習共同進步。

一、道

道的層面，我想講講面向失敗設計的世界觀。

1、失敗無處不在

理想中，機器硬件永不老化、系統軟件永不過期、流量總在預期范圍內、自己寫的代碼沒有 bug、產品經理永不改需求，但現實往往給你飽以老拳，給你社會的毒打：硬件一定會在某個時間點故障、軟件總在一個時間節點跟不上時代潮流、流量總在你意想不到的時候突增——即使你在婚禮上、沒有程序員不寫 bug、產品經理不但天天改需求，甚至還給你提自相矛盾或者存在邏輯漏洞的需求。

無論是在傳統軟件時代還是在互聯網、云時代，系統終究會在某個時間點失敗。面向失敗設計不是消除失敗，而是減少乃至消除失敗造成的影響，守著企業和個人的錢袋子。

2、唯一不變的是變化

不但失敗無處不在，變化也無處不在。

1）不要寫死——你的 PM 為改需求而生

“不要寫死，你的 PM 為改需求而生”，這句話是我對口的一個產品經理的飛書個性簽名，它深得我心。永遠對代碼寫死保持不安，根據墨菲定律，你越是認為不會改變的字段或功能，就越會發生改變。所以，多配置、少寫死，讓你在產品改需求時快速響應從而令別人刮目相看，也能讓你在發生故障時有更多的手段做快速恢復。

2）隔離可變性——程序員應軟件變化而生

如果系統軟件永不變化，我們還需要設計模式么？還需要面向對象么？面向過程一把梭不是又快又好么？但是，永不變化的系統軟件，要程序員何用？抖音已經如此強大，什么都不改也能給字節掙很多錢，那抖音的程序員都可以下崗了么？好像并非如此。

設計模式，是前輩們總結的應對變化的利器。23 種設計模式，一言以蔽之，曰：隔離可變性。無論是創建型模式，還是結構性模型，又或者是行為型模式，設計的目的都是為了把變化關進設計模式的籠子里。

3）定期回歸——功能在演化中變質

定期回歸，也是應對失敗的重要原則?；ヂ摼W的迭代實在是太快了，傳統軟件往往以年月為維度迭代，而互聯網往往以周乃至日迭代。每一天，系統的功能都可能在演化中變質，快速的迭代不但讓業務代碼迅速腐化變成屎山，也讓內部邏輯日益臃腫，乃至相互沖突。終有一天，原本運行良好無 bug 的代碼，會變成事故的導火索。

3、對代碼的世界保持警惕

對代碼的世界保持警惕吧，不然總有一天你會經歷血淚教訓。

1）不要相信合作方的“鬼話”

對合作方給你的所有接口、方案保持懷疑，也不要相信合作方任何一個未經你親身驗證的論斷。實踐才是檢驗真理的唯一標準，對世界始終保持懷疑是工程師的核心素質。不要在出現故障之后跟合作方相互甩鍋時才追悔莫及，前期多做些驗證，保護了你也保護了他，更是保護了你們之間的塑料友情。

2）不要相信代碼注釋

一行錯誤的代碼注釋，把我從阿里帶到了字節，親身經歷的血淚教訓。錯誤的代碼注釋不如沒有注釋，不要再用錯誤的注釋給后來人埋坑了，救救孩子吧。

3）不要相信函數輸入

NPE（NullPointerException 空指針異常）也許是程序員職業生涯中遇到過的最多的錯誤，這一點頗令人困惑，因為程序員從刷 LeetCode 第一道題開始，就知道需要對函數參數做檢查。

之所以出現這樣的結果，是因為線上生產環境所能遭遇的場景遠比一道代碼題復雜，這其實也是工業界與學術界的區別，學術界的問題是確定的，工業界的問題是不確定的。即使上游傳遞參數的是一個你認為極為可靠的系統，即使你遍覽程序上下文確定不會出現空參數，也最好去做一些防御性的設計，因為可靠的系統也會給你返回不合規范的參數，當前不存在空參數的代碼在未來的某一天也會被改得面目全非。

4）不要相信基礎設施

即使是支付寶也會崩潰，即使是可用性 6 個 9 的系統，全年也有 31 秒中斷。不要相信基礎設施，做好災備，搞好混沌工程，才能讓你每個晚上睡得安穩，避免被報警電話打醒。

4、設計原則

1）簡潔的方案最優雅

如果你設計的技術方案沒有太多的花里胡哨，整體透露著一種大道至簡的美感，也許你就離成功很近了。簡潔的方案代表著更小的理解成本、更小的維護成本、更好的擴展性。

如果你的方案里面到處都是花里胡哨的炫技，看起來復雜而嚴謹，那么也許你離讓自己頭疼也讓別人頭疼不遠了，一頓操作猛如虎，一看月薪兩千五。

當然，并不是最簡潔的方案就是最合適的方案，舉個例子，核心交易鏈路的服務必然會比數據展示的服務穩定性要求更高，因而做了較多高可用設計之后方案會更加復雜，因而在滿足穩定性的前提下選用盡可能簡潔的方案才是推薦的做法。

2）開閉原則是設計模式的總綱

開閉原則是設計模式的總綱，大部分設計模式里面都有開閉原則的影子，軟件實體應當對擴展開放，對修改關閉，可以通過“抽象約束、封裝變化”來實現開閉原則。開閉原則可以使軟件實體擁有一定的適應性和靈活性的同時具備穩定性和延續性。

基于開閉原則，很多常見的設計問題都有了答案：

① 大量 if-else 的屎山代碼問題

大量的 if-else 肯定是不符合開閉原則的，每一個 if-else 的代碼支路都是對原有代碼結構的破壞，這里就可以應用工廠+策略設計模式對 if-else 進行剝離，把邏輯的新增和修改限制在工廠模式子類的內部。

② 冗長的業務工作流處理問題 

業務流程代碼往往非常冗長，封裝得不好的話閱讀和維護代碼都非常困難，可以考慮用命令+職責鏈設計模式對工作流做封裝。封裝的好處在于，整體的工作流讀起來將非常清晰，主流程代碼往往能從數百行精簡到十行以內，并且，對流程的修改僅僅是簡單的斷鏈或者增加鏈節點的操作，從而把修改的影響減到最低。

③ 歷史字段類型修改問題

互聯網開發過程中經常需要修改歷史字段的類型，根據開閉原則，我們不該去修改原有字段的類型，而應該新增一個字段，這樣才能保證對上下游鏈路的影響最小。

④ 對象屬性中途篡改問題

舉個實際的業務場景，在某些業務請求中，抖音極速版需要做與抖音相同的處理，把抖音極速版的 APPID 改成抖音的 APPID 是最簡單的方法，但是這種做法是不符合開閉原則的，對對象屬性中途的篡改，會改變對象在程序中的語義，總有一天它會有不符合預期的表現，很多事故因此而起。正確的做法是，在上下文中傳遞一個新的字段，下游的每一步處理都可以選擇正確的字段做正確的處理，而不會被中途篡改的字段蒙蔽。

3）懶惰是程序員最大的美德

懶惰是程序員最大的美德，好的程序員往往是默默無聞的，越是在團隊里面滋哇亂叫到處救火刷存在感的程序員越可能是團隊的慢性毒藥。

為了讓自己懶惰，安安穩穩躺平就把業務做好，程序員必須掌握平臺化、工具化、自動化三板斧。平臺化，把程序員從無窮盡的重復勞動中解救出來；工具化，把程序員從水深火熱的人肉運維和 oncall 中解救出來；自動化，讓程序如流水線般順滑，從而提升程序員的人效。能將這三板斧揮舞到什么層次，也體現了程序員能力到達了什么層次。有了平臺化、工具化、自動化，就可以做標準化、規?；?，助力公司和業務持續往上走。

二、術

術的層面，我想講講在組織和流程角度如何面向失敗設計。

1、組織

1）面向失敗設計的工種

測試工程師、測試開發工程師、風控&安全合規工程師都是開發工程師最可靠的合作伙伴，也是企業為了面向失敗設計而設置的工種。

測試工程師是軟件質量的把關者，他們是線上質量的衛士，對開發工程師代碼的質量和性能負責。測試開發工程師是一個技術型的軟件測試工種，除了做常規的測試工作之外，還會寫一些測試工具和自動化腳本，用自動化的手段來提高測試的質量和效率。風控和反作弊工程師對業務的生態負責，監測業務的異常問題，提高業務風控的效果。安全合規工程師則是對信息安全負責，能夠對于項目提供合規咨詢、信息安全風險評估。

2）面向失敗設計的組織形式

安全生產小組是一種面向失敗設計的組織形式。安全生產小組往往是橫向的技術團隊，對多個業務團隊提供規范制定和推行、生產過程管控、事故復盤組織等技術支持，為線上質量負責，通常還會在每個業務團隊設置系統穩定性負責人，作為接口人來有效推行他們制定的制度。

結對編程，也是一種面向失敗設計的組織形式。嚴格意義的結對編程，要求兩個程序員在一個計算機上共同工作。一個人輸入代碼，而另一個人審查他輸入的每一行代碼。結對編程可以讓程序員寫出更短的程序，更好的設計，以及更少的缺陷，同時，結對編程也可以促進知識的傳播，讓新人快速進步，也讓老人在帶新的過程中總結自己的知識和經驗，還可以規避在相應開發人員請假或者離職帶來的工作交接的問題。

嚴格意義的結對編程，在互聯網行業極為罕見，很少有團隊會真正這樣實操，也許是因為在管理者看來，兩個人干同一件事情大大增加了人力的成本。但是，結對編程的一些思想和理念，也值得我們借鑒，比如我們可以讓兩個程序員結對做業務 owner，互為 backup，相互 code review，從而在一定程度上獲得結對編程的好處。

2、流程

假設不做面向失敗設計，那么軟件開發流程也許可以簡化為編碼+發布兩步。但是成熟企業的開發流程大致如下：

• 需求提出階段

需要先期做一些合規評估、反作弊評估、安全評估，在前期就把一些潛在的安全合規風險排除。

• 編碼階段

在設計技術方案時需要考慮止血/降級/回滾措施，并組織技術評審和安全技術評審，針對技術方案中的安全風險做一些評估。除此之外，最好做一些單元測試，可以大大提高代碼的質量。

• 測試階段

需要開發人員先做自測，再讓測試工程師參與功能測試、安全工程師做安全檢查，針對代碼改動可能造成的額外影響，做好做一次更大范圍的回歸測試，以排除一些預期外的影響。

• 發布階段

需要采用灰度發布的機制，先發布小部分機器，或者僅針對部分地區用戶灰度，在灰度發布之后做灰度測試驗證功能正常，再繼續分批發布、全量發布。

• 驗證階段

可以讓測試同學在發布完成之后做一次線上回歸，保證功能在線上環境穩定可用。對于大型活動，往往還需要組織內部用戶線上預演或眾測。針對非預期內流量可能把系統打掛的風險，可以做單鏈路壓測和全鏈路壓測。在大型活動開始前，如果條件允許，或者在小范圍做一次線上試玩，提前暴露一些風險。

• 運行階段

需要開發人員做好監控報警和離在線數據對賬。對于項目的效果，可以用 AB 測試來量化收益。

• 故障發生時

第一時間必須做好故障快速恢復，盡可能減少線上損失，之后再考慮定位故障原因。

在項目結束或者故障處理結束之后，需要組織一次有效的復盤，并對過程中的問題做一些總結，形成有效的改進方案，并持續跟進改進方案的落地

3、一些觀點

1）測試同學的重要性，怎么吹都不為過

測試工程師是線上質量最重要的衛士，他們的重要性，怎么吹都不為過。一個優秀的測試同學，可以做到以下事情：

• 非黑盒測試，具備讀懂開發代碼的能力，根據代碼針對性地設計測試用例；
• 設計完備的測試用例，覆蓋所有測試場景；
• 編寫數據對賬腳本，能夠做離線數據對賬和實時數據對賬；
• 編寫自動化測試工具；
• 編寫數據一致性監控腳本、資損防控工具。

2）單元測試最省時間

編寫單元測試用例，看似費時間，實則是最省時間的做法。單元測試保證了代碼的行為與我們期望一致，從而省下了大量的發布、自測、聯調、修改代碼的返工時間，另外，可以做單元測試的代碼往往職責更加清晰、分層分塊更加合理、穩定性更好。

3）復盤是對齊做事高標準的一個必要方式

復盤是不斷優化組織，對齊做事高標準的一個必要方式。通過 PDCA（Plan-Do-Check-Action，戴明環）這樣的一個循環，工作在不斷的改善后，最終形成知識沉淀，作用于下一次計劃執行，團隊于是變得越來越有執行力，個人則成為 Better Me。

4）研發紅線是程序員的保護傘

研發紅線是企業面向失敗設計行之有效的暴力機器，它由無數零件（規范和條目）組成、冰冷、機械、運行起來無法阻擋，不以個人意志為轉移。研發紅線強制要求程序員遵守企業的流程和規范，警告程序員不犯低級錯誤，看似冰冷無情，實則是程序員的保護傘。

三、技

在技的層面，我想談談面向失敗設計的具體技術細節。但是技術細節實在太多，限于篇幅，此處只列舉一些經典技術問題的解法。

1、將面向失敗當做系統設計的一部分

• 針對非預期流量，可以做系統限流、系統過載保護、自適應擴縮容；
• 針對依賴服務超時或錯誤，需要對依賴系統設置超時時間，并對所有依賴做強弱依賴梳理，關鍵時刻降級非核心依賴；
• 針對預期外的情況，可以提前準備好緊急預案，并做好預案演練；
• 針對瞬時高流量，需要敏銳地判斷系統的極限，做好流量打散，并避免 DB 和緩存熱 key；
• 針對可能出現的機房問題，做好同城雙（多）活和異地多活；
• 針對人為失誤，可以使用平臺化、工具化、自動化的方法減少人肉操作；
• 避免出現單點問題，做冗余設計來降低局部失敗對系統的影響；
• 失敗重試時需謹慎，避免踩踏雪崩；
• 故障只能減少，不能消除，做好監控報警、故障演練、攻防演練，錘煉風險應急能力。

2、分布式鎖的六個層次

你只看到了第二層，你把我想成了第一層。實際上，我在第五層。

——蕪湖大司馬

Redis 實現分布式鎖有六個層次，看看大家平常用的分布式鎖處在第幾個層次。

分布式鎖設計原則：

• 互斥性

在任意時刻，只有一個客戶端持有鎖。

• 不死鎖

分布式鎖本質上是一個基于租約（Lease）的租借鎖，如果客戶端獲得鎖后自身出現異常，鎖能夠在一段時間后自動釋放，資源不會被鎖死。

• 一致性

硬件故障或網絡異常等外部問題，以及慢查詢、自身缺陷等內部因素都可能導致 Redis 發生高可用切換，replica 提升為新的 master。此時，如果業務對互斥性的要求非常高，鎖需要在切換到新的 master 后保持原狀態。

1）層次一

redis.SetNX(ctx, key, "1")
defer redis.del(ctx, key)

使用 SetNx 命令，可以解決互斥性的問題，但不能做到不死鎖。

2）層次二

redis.SetNX(ctx, key, "1", expiration)
defer redis.del(ctx, key)

使用 lua 腳本保證 SetNX 與 Expire 的原子性，做到了不死鎖，但是做不到一致性。

3）層次三

redis.SetNX(ctx, key, randomValue, expiration)
defer redis.del(ctx, key, randomValue)


// 以下為del的lua腳本
if redis.call("get",KEYS[1]) == ARGV[1] then
   return redis.call("del",KEYS[1])
else
   return 0
end

分布式鎖的值設定一個隨機數，刪除時只刪除

func myFunc() (errCode *constant.ErrorCode) {
    errCode := DistributedLock(ctx, key, randomValue, LockTime)
    defer DelDistributedLock(ctx, key, randomValue)
    if errCode != nil {
       return errCode
    }
    // doSomeThing
}


func DistributedLock(ctx context.Context, key, value string, expiration time.Duration) (errCode *constant.ErrorCode) {


   ok, err := redis.SetNX(ctx, key, value, expiration)
   if err == nil {
      if !ok {
         return constant.ERR_MISSION_GOT_LOCK
      }
      return nil
   }
   // 應對超時且成功場景，先get一下看看情況
   time.Sleep(DistributedRetryTime)
   v, err := redis.Get(ctx, key)
   if err != nil {
      return constant.ERR_CACHE
   }
   if v == value {
      // 說明超時且成功
      return nil
   } else if v != "" {
      // 說明被別人搶了
      return constant.ERR_MISSION_GOT_LOCK
   }
   // 說明鎖還沒被別人搶，那就再搶一次
   ok, err = redis.SetNX(ctx, key, value, expiration)
   if err != nil {
      return constant.ERR_CACHE
   }
   if !ok {
      return constant.ERR_MISSION_GOT_LOCK
   }
   return nil
}
// 以下為del的lua腳本
if redis.call("get",KEYS[1]) == ARGV[1] then
   return redis.call("del",KEYS[1])
else
   return 0
end


// 如果你的Redis版本已經支持CAD命令，那么以上lua腳本可以改為以下代碼
func DelDistributedLock(ctx context.Context, key, value string) (errCode *constant.ErrorCode) {
   v, err := redis.Cad(ctx, key, value)
   if err != nil {
      return constant.ERR_CACHE
   }
   return nil
}

解決超時且成功的問題，寫入超時且成功是偶現的、災難性的經典問題。

還存在的問題是：

• 單點問題，單 master 有問題，如果有主從，那主從復制過程有問題時，也存在問題；
• 鎖過期然后沒完成流程怎么辦。

5）層次五

啟動定時器，在鎖過期卻沒完成流程時續租，只能續租當前線程/協程搶占的鎖。

// 以下為續租的lua腳本，實現CAS（compare and set）
if redis.call("get",KEYS[1]) == ARGV[1] then
    return redis.call("expire",KEYS[1], ARGV[2])
else
    return 0
end


// 如果你的Redis版本已經支持CAS命令，那么以上lua腳本可以改為以下代碼
redis.Cas(ctx, key, value, value)

能保障鎖過期的一致性，但是解決不了單點問題。

同時，可以發散思考一下，如果續租的方法失敗怎么辦？我們如何解決“為了保證高可用而使用的高可用方法的高可用問題”這種套娃問題？開源類庫 Redisson 使用了看門狗的方式一定程度上解決了鎖續租的問題，但是這里，個人建議不要做鎖續租，更簡潔優雅的方式是延長過期時間，由于我們分布式鎖鎖住代碼塊的最大執行時長是可控的（依賴于 RPC、DB、中間件等調用都設定超時時間），因而我們可以把超時時間設得大于最大執行時長即可簡潔優雅地保障鎖過期的一致性。

6）層次六

Redis 的主從同步（replication）是異步進行的，如果向 master 發送請求修改了數據后 master 突然出現異常，發生高可用切換，緩沖區的數據可能無法同步到新的 master（原 replica）上，導致數據不一致。如果丟失的數據跟分布式鎖有關，則會導致鎖的機制出現問題，從而引起業務異常。針對這個問題介紹兩種解法：

① 使用紅鎖（RedLock）

紅鎖是 Redis 作者提出的一致性解決方案。紅鎖的本質是一個概率問題：如果一個主從架構的 Redis 在高可用切換期間丟失鎖的概率是 k%，那么相互獨立的 N 個 Redis 同時丟失鎖的概率是多少？如果用紅鎖來實現分布式鎖，那么丟鎖的概率是(k%)^N。鑒于 Redis 極高的穩定性，此時的概率已經完全能滿足產品的需求。

紅鎖的問題在于：

• 加鎖和解鎖的延遲較大。
• 難以在集群版或者標準版（主從架構）的 Redis 實例中實現。
• 占用的資源過多，為了實現紅鎖，需要創建多個互不相關的云 Redis 實例或者自建 Redis。

② 使用 WAIT 命令

Redis 的 WAIT 命令會阻塞當前客戶端，直到這條命令之前的所有寫入命令都成功從 master 同步到指定數量的 replica，命令中可以設置單位為毫秒的等待超時時間?？蛻舳嗽诩渔i后會等待數據成功同步到 replica 才繼續進行其它操作。執行 WAIT 命令后如果返回結果是 1 則表示同步成功，無需擔心數據不一致。相比紅鎖，這種實現方法極大地降低了成本。

3、熱點庫存扣減

秒殺是非常常見的面試題，很多面試官上來就讓面試者設計一個秒殺系統，面試者當然也是“身經百戰”，很快可以給出熟背的“標準答案”。

但是，秒殺還是相對簡單的熱點庫存扣減問題，因為扣減的庫存量不大。更加典型的熱點庫存扣減問題是春節紅包雨，同一個資金池數億人搶紅包。對于春節紅包雨介紹兩種方案：

1）方案一

存在問題：

• 不同分桶之間，庫存消耗不均，可能導致部分用戶無法扣減庫存，但其他用戶可扣減庫存，從而引發用戶投訴。

2）方案二

小量多次地分派庫存，從而緩解分桶庫存消耗不均問題。

2021 年抖音春節紅包，將用戶進入的時間打散，減少瞬時請求峰值，也是一個很好的技術思路。

3）如何體現面向失敗設計

① 為何用定時任務調度主動分配庫存，而不是在分桶庫存不足時被動拉庫存？

答：因為主動分配庫存 QPS 比被動拉庫存低幾個量級。

② 如何應對超大流量？

答：流量不觸達 DB、分桶、打散。

③ Redis 庫存總池為何不用某個 master 機器維護，而用定時任務調度隨機挑選機器？

答：防單點。

編程之美，蔚為大觀。好的代碼，往往結構清晰，表意明確，設計精巧，無論是讀代碼還是寫代碼都可以給程序員一種直擊心靈的美感，甚至讓讀者愛不釋手，讓作者引以為傲，引之為自己的代表作。但是，為了留住這種美，我們還需要去做面向失敗的設計，充分考慮失敗場景，才能減少失敗的概率，向死而得生。

本文對面向失敗設計做了一些淺顯的思考，歡迎探討、補充和指正。