聊一聊SDS如何抗各種故障

作者：UMCloud 2018-11-30 12:48:36

為了滿足存儲系統(tǒng)兩地三中心、多站點(diǎn)多活的需求，目前部分SDS產(chǎn)品的對象存儲服務(wù)支持多站點(diǎn)多副本技術(shù)，數(shù)據(jù)三個副本同時存儲在三個站點(diǎn)上，可以多站點(diǎn)同時訪問，支持多活技術(shù)。

1 軟件定義“抗造”

我們知道軟件定義存儲SDS有很多優(yōu)勢，比如：

軟硬件分離，無硬件廠商鎖定。
高擴(kuò)展性，在線按需擴(kuò)容，無需中斷業(yè)務(wù)。
標(biāo)準(zhǔn)控制API接口，秒級操作，無縫對接其他系統(tǒng)。
標(biāo)準(zhǔn)數(shù)據(jù)訪問接口，支持塊、文件、對象存儲等。
性能和容量可配置，滿足當(dāng)前和未來場景的需求。

除此之外，SDS還可以靈活定義可靠性、可用性，因此SDS特別抗造。

[[251150]]

我們先了解可靠性和可用性的含義，再對故障進(jìn)行分類，***對比各種抗造技術(shù)，方便大家在做SDS選型和架構(gòu)設(shè)計時進(jìn)行“軟件定義”。

2可靠性與可用性

可靠性(durability)：表示數(shù)據(jù)是否丟失。比如硬盤發(fā)生介質(zhì)故障，導(dǎo)致硬盤里面的數(shù)據(jù)丟失。

可用性(availability)：表示數(shù)據(jù)是否可以訪問。比如因為服務(wù)器掉電原因，導(dǎo)致暫時不能訪問服務(wù)器硬盤中的數(shù)據(jù)。

3故障分類

總體分類為：硬件、軟件、天災(zāi)、人禍。具體分類如下表所示。

其中硬盤發(fā)生故障非常頻繁，下面云備份服務(wù)商blackblaze的硬盤年平均故障率統(tǒng)計，一共統(tǒng)計了82516塊硬盤在2013年~2017年間的故障率。

在實(shí)際經(jīng)驗中，我們也會經(jīng)常碰到服務(wù)器、機(jī)柜、交換機(jī)、站點(diǎn)的故障。那么多故障，我們需要不同的技術(shù)來應(yīng)對，下面我們來看不同技術(shù)的優(yōu)缺點(diǎn)。

4抗造技術(shù)

4.1 單機(jī)RAID

一般服務(wù)器上都會自帶RAID卡，支持RAID1、10、5、6等。RAID技術(shù)通過數(shù)據(jù)冗余保證在1~N塊硬盤故障時，數(shù)據(jù)不丟失，并且同時可以訪問到數(shù)據(jù)。

比如RAID5支持同時壞1塊硬盤，RAID6支持同時壞2塊硬盤。

但是RAID的缺點(diǎn)是：

●僅支持單機(jī)。假如服務(wù)器宕機(jī)，RAID技術(shù)也無力回天。

●數(shù)據(jù)恢復(fù)速度慢，受限于單個硬盤的寫速度，導(dǎo)致RAID組要恢復(fù)健康狀態(tài)需要10個小時以上，特別在越來越大的硬盤容量的情況下。在數(shù)據(jù)恢復(fù)過程中，容易發(fā)生二次故障，導(dǎo)致數(shù)據(jù)丟失。

● RAID組所包含的硬盤數(shù)量太少，不能并行發(fā)揮所有硬盤的性能。

●需要單獨(dú)的Spare熱備盤，平時會造成資源浪費(fèi)。

4.2 多機(jī)網(wǎng)絡(luò)多副本

因為單機(jī)RAID的缺點(diǎn)，隨著萬兆以太網(wǎng)的普及，多機(jī)網(wǎng)絡(luò)多副本技術(shù)隨之產(chǎn)生，廣泛被各種分布式存儲軟件使用。

多機(jī)網(wǎng)絡(luò)多副本的優(yōu)點(diǎn)是恢復(fù)速度快，并行發(fā)揮所有硬盤的性能，另外當(dāng)單臺服務(wù)器宕機(jī)了，不影響數(shù)據(jù)的可用性和可靠性，其他服務(wù)器繼續(xù)提供服務(wù)。缺點(diǎn)是存儲容量利用率低，可用容量和裸容量比例是1：3。

4.3 多機(jī)網(wǎng)絡(luò)EC糾刪碼

為了解決多副本的存儲容量利用率低的問題，大家開發(fā)了網(wǎng)絡(luò)EC糾刪碼，也被廣泛應(yīng)用在分布式存儲上，比如HDFS的EC糾刪碼。

它優(yōu)點(diǎn)是可用容量和裸容量比例是1：1.3~1.5，大文件寫吞吐量高，缺點(diǎn)是寫操作延遲高。

4.4 機(jī)架柜列故障域隔離

SDS還可以定義數(shù)據(jù)分布策略，這樣可以防止機(jī)架柜列掉電造成的影響。

假如多副本分布在不同的機(jī)架上，則任一機(jī)架掉電，不影響數(shù)據(jù)可靠性和可用性。

假如多副本分布在不同的柜列上，則任一柜列掉電，不影響數(shù)據(jù)可靠性和可用性。

4.5 網(wǎng)絡(luò)冗余

SDS通過網(wǎng)口鏈路聚合和交換機(jī)堆疊技術(shù)，提供網(wǎng)絡(luò)冗余度，避免單個網(wǎng)口和交換機(jī)的故障造成數(shù)據(jù)不可訪問的影響，提高數(shù)據(jù)可用性。

4.6 多站點(diǎn)多副本

為了滿足存儲系統(tǒng)兩地三中心、多站點(diǎn)多活的需求，目前部分SDS產(chǎn)品的對象存儲服務(wù)支持多站點(diǎn)多副本技術(shù)，數(shù)據(jù)三個副本同時存儲在三個站點(diǎn)上，可以多站點(diǎn)同時訪問，支持多活技術(shù)。當(dāng)任意一個站點(diǎn)發(fā)生故障時，不影響其他站點(diǎn)的數(shù)據(jù)訪問和寫入。

4.7 多站點(diǎn)EC糾刪碼

多站點(diǎn)EC糾刪碼技術(shù)可以提高存儲容量利用率，支持在1個站點(diǎn)故障的情況下，數(shù)據(jù)能夠正常訪問和讀寫，適用于冷數(shù)據(jù)和歸檔場景。

4.8 Cloud Sync(云備份)

不是所有場景都有條件建設(shè)多站點(diǎn)，因此SDS的Cloud Sync(云備份)功能應(yīng)運(yùn)而生，可以把數(shù)據(jù)異步復(fù)制到公有云和異地私有云上，避免額外建設(shè)，降低成本。當(dāng)本地存儲集群發(fā)生故障時，數(shù)據(jù)可以快速恢復(fù)和訪問。

[[251157]]

具體應(yīng)用場景如下所示：

4.9 智能故障自愈

SDS可以采用先進(jìn)的數(shù)據(jù)分布算法，在出現(xiàn)硬盤故障和服務(wù)器故障時可以進(jìn)行數(shù)據(jù)遷移和重平衡，故障硬盤會被踢出存儲集群，不再工作。數(shù)據(jù)遷移完成后，SDS存儲集群恢復(fù)正常，無須人工干預(yù)。因當(dāng)出現(xiàn)硬盤故障時，可以不用處理，后期再批量更換硬盤，減少運(yùn)維成本。

4.10 對象存儲超時刪除

對于特定場景，數(shù)據(jù)保存一定周期之后需要刪除，以便釋放空間，SDS的對象存儲服務(wù)具有超時刪除功能。下圖是10天后刪除數(shù)據(jù)的設(shè)置。