阿里終面：業務主表海量數據，讀寫緩慢有什么優化方案？
無論多么復雜的業務場景，一條數據的一生都體現在CRUD操作上，正是創建、查詢、修改、刪除。正如人的生死輪回，數據亦是如此，一條數據隨著時間的流逝，其價值也是在逐漸變小。
數據存在的價值則是在于它被使用的程度，在不同的系統中，人們對于不同時期的數據有著不同的需求。
比如12306、攜程上的火車、機票訂單，人們往往只關注30天之內的訂單，而攜程正是默認只保留30天的訂單信息，超過30天的訂單需要通過手機號查找。
攜程訂單
攜程為什么要這么做？
其實仔細想想不難明白，作為全國購票平臺，每年數以億計的訂單，如果全部能夠開放操作（CRUD），那么系統將會瞬間崩潰。
一個訂單走到終態的標志則是這筆訂單的完成，也就意味著這筆訂單除了查詢的需求，不再任由用戶修改、刪除。
其實攜程所用的架構方法正是：冷熱分離。
什么是冷熱分離？
冷熱分離則是在處理數據時將數據庫分為熱庫和冷庫兩個庫。冷庫存放的是走到終態的數據，熱庫存放的是還需要修改的數據。
比如30天之內的機票、火車票訂單，用戶可能需要對這期間的訂單做出退票、開發票的操作，但是30天之前訂單卻只有查詢的需求，因此可以將30天之內的訂單放到熱庫中，之前的訂單存放到冷庫中。
那么這里又引出了兩個概念，分別是：
- 熱數據：被頻繁更新；響應時間有要求
- 冷數據：不允許更新（具體業務系統具體分析），偶爾被查詢；響應時間無要求。
什么情況下需要使用冷熱分離？
在大型的互聯網系統中，如果出現了以下場景則應該考慮冷熱分離：
- 主業務響應延遲太大，比如12306下訂單太慢了。
- 數據走到終態后，沒有更新需求，只有讀的需求，比如訂單的完成狀態。
- 用戶能夠接受新舊數據分開查詢，比如攜程的訂單查詢30天之前的需要用手機號查詢。
“
補充：當然現在有些系統不像攜程那樣將往期訂單分開查詢，但是其實內部也是做了冷熱分離，只不過是在你無感知的情況下完成的。
”
如何判斷一個數據是冷數據還是熱數據？
這個就要根據自己業務系統來區分了，一般而言是根據主表中的一個或者多個字段進行標識區分，比如訂單的時間，這個是時間維度，可以將3個月之前的數據定義為冷數據，最近3個月的數據定義為熱數據。
當然也可以是狀態維度，比如訂單的狀態，已完結的訂單定義為冷數據，未完結的訂單定義為熱數據。
同樣的也可以將時間維度和狀態維度組合起來，比如下單時間大于3個月且訂單狀態為已完結的定義為冷數據，反則為熱數據。
總之：根據自己業務需求，具體問題具體分析。
但是需要注意以下兩點：
- 如果一個數據被標識為冷數據，業務代碼不會再對它進行寫操作
- 不會同時存在讀冷/熱數據的需求。
如何實現冷熱數據分離？
一切的理論知識都要經過實戰的檢驗，基礎知識了解了，那么如何實現冷熱數據的分離呢？下面介紹三種常見的方法。
1、業務代碼修改
這種方案是直接修改業務代碼，對代碼的侵入性比較高，無法按照時間進行區分，在數據修改時觸發冷熱分離。
圖片
該種方案需要在業務代碼層面判斷是否需要冷熱分離，比如訂單的狀態修改，一旦狀態為終態則將這條數據標記為冷數據，然后觸發冷熱處理，將其寫入冷庫，同時刪除熱庫中的這筆數據。
2、監聽數據庫日志
該種方案需要監聽binlog日志的方式進行觸發，比如訂單狀態修改了，則觸發冷熱分離。
同樣的這里無法按照時間區分，但是對代碼無侵入。
監聽binlog日志的工具有很多，前面介紹過，比如阿里的canal，還有其他的開源中間件可供選擇，如下：
圖片
對于MySQL數據庫建議選擇canal，使用方式看：實戰！Spring Boot 整合 阿里開源中間件 Canal 實現數據增量同步！
整個流程如下圖：
圖片
3、定時任務掃描
該種方案可以按照時間區分，與業務代碼解耦，是個不錯的選擇。
流程如下：
圖片
總結
解決讀寫緩慢的問題冷熱分離是個不錯的選擇，上述介紹了三種方案實現冷熱分離，雖說都能實現，但是仍然要考慮諸多問題，最棘手的問題就是數據一致性的問題。
在冷熱分離的處理邏輯中一定要保證熱庫、冷庫中的數據一致性問題，手段很多，這里就不再過多介紹了
