業(yè)務(wù)服務(wù)器的操作系統(tǒng)作為存儲(chǔ)的用戶只能看到disk(存儲(chǔ)層面的LUN)，而存儲(chǔ)管理員才知道存儲(chǔ)內(nèi)部的具體RAID方式、條帶化方式等等，在關(guān)注系統(tǒng)性能的活動(dòng)(性能測(cè)試、性能調(diào)優(yōu))中，一般很少直接關(guān)注磁盤IO的指標(biāo)，而是遇到性能問(wèn)題(比如業(yè)務(wù)的響應(yīng)時(shí)間非常慢)，并且逐步排查到磁盤時(shí)，才重點(diǎn)關(guān)注磁盤IO的性能指標(biāo)。這是因?yàn)椋疟PIO的性能的確是不好拿一個(gè)指標(biāo)說(shuō)清楚的事。

[[265908]]

當(dāng)磁盤IO有性能問(wèn)題，需要分析IOPS、MBPS、服務(wù)時(shí)間、平均每次寫入的block大小、隊(duì)列等待時(shí)間等指標(biāo)，分析IO路徑、驅(qū)動(dòng)、光纖卡、光纖交換機(jī)、后臺(tái)存儲(chǔ)的規(guī)劃、硬盤域和存儲(chǔ)池劃分、thin LUN還是thick LUN、存儲(chǔ)的緩存設(shè)置、IO的Qos、磁盤類型、存儲(chǔ)接口模塊數(shù)量、RAID劃分、是否配置快照、克隆、遠(yuǎn)程復(fù)制等增值功能、存儲(chǔ)控制器的CPU利用率，甚至數(shù)據(jù)在盤片的中心還是邊緣等等。

本節(jié)并不主要從存儲(chǔ)的角度介紹，而是從存儲(chǔ)的用戶(業(yè)務(wù)服務(wù)器的操作系統(tǒng))的角度介紹磁盤IO的性能指標(biāo)，以及相關(guān)分析。

主要關(guān)注指標(biāo)

雖然每類物理資源都有N個(gè)性能指標(biāo)來(lái)體現(xiàn)，但CPU、內(nèi)存資源最主要的指標(biāo)只有一個(gè)，即利用率，但磁盤IO的主要指標(biāo)卻有三個(gè)(IOPS、帶寬、響應(yīng)時(shí)間)。這是因?yàn)榇鎯?chǔ)的能力會(huì)根據(jù)IO模型的不同而差異較大，IO模型可以理解為讀IO和寫IO的比例、順序的還是隨機(jī)的、每個(gè)IO的大小等等。例如：當(dāng)測(cè)試IOPS***能力的時(shí)候，采用隨機(jī)小IO進(jìn)行測(cè)試，此時(shí)占用的帶寬是非常低的，響應(yīng)時(shí)間也會(huì)比順序的IO要長(zhǎng)很多。而測(cè)試順序大IO時(shí)，此時(shí)帶寬占用非常高，但I(xiàn)OPS卻很低。

從業(yè)務(wù)服務(wù)器、存儲(chǔ)控制器、前端主機(jī)端口、磁盤、LUN、存儲(chǔ)池等角度，都有以下三個(gè)主要指標(biāo)，本文重點(diǎn)從業(yè)務(wù)服務(wù)器角度介紹。

IOPS

I/O per second，即每秒鐘可以處理的I/O個(gè)數(shù)，用來(lái)衡量存儲(chǔ)系統(tǒng)的I/O處理能力。在數(shù)據(jù)庫(kù)OLTP(Online Transaction Processing)業(yè)務(wù)場(chǎng)景，通常以IOPS衡量系統(tǒng)的性能。測(cè)量存儲(chǔ)的***IOPS往往是以隨機(jī)讀寫小IO來(lái)評(píng)估。

1. 獲取來(lái)源

總IOPS：Nmon DISK_SUMM Sheet：IO/Sec

每個(gè)盤對(duì)應(yīng)的讀IOPS ：Nmon DISKRIO Sheet

每個(gè)盤對(duì)應(yīng)的寫IOPS ：Nmon DISKWIO Sheet

總IOPS：命令行iostat -Dl：tps

每個(gè)盤對(duì)應(yīng)的讀IOPS ：命令行iostat -Dl：rps

每個(gè)盤對(duì)應(yīng)的寫IOPS ：命令行iostat -Dl：wps

2. 適用場(chǎng)景

對(duì)于I/O小于64KB的應(yīng)用場(chǎng)景，存儲(chǔ)性能主要關(guān)注IOPS指標(biāo)。

OLTP(聯(lián)機(jī)事務(wù)處理)系統(tǒng)是大量用戶在線進(jìn)行事務(wù)操作的數(shù)據(jù)庫(kù)業(yè)務(wù)的一種應(yīng)用類型。

OLTP應(yīng)用的負(fù)載特征如下：

從數(shù)據(jù)庫(kù)角度看：

– 每個(gè)事務(wù)的讀、寫、更改涉及的數(shù)據(jù)量非常小。

– 數(shù)據(jù)庫(kù)的數(shù)據(jù)必須是***的，所以對(duì)數(shù)據(jù)庫(kù)的可用性要求很高。

– 同時(shí)有很多用戶訪問(wèn)。

– 要求數(shù)據(jù)庫(kù)快速響應(yīng)，通常一個(gè)事務(wù)需要在幾秒內(nèi)完成。

從存儲(chǔ)角度看：

– 每個(gè)I/O非常小，通常為2KB～8KB。

– 訪問(wèn)硬盤數(shù)據(jù)的位置非常隨機(jī)。

– 至少30%的數(shù)據(jù)是隨機(jī)寫操作。

– REDO日志(重做日志文件)寫入非常頻繁

帶寬

每秒鐘可以處理的數(shù)據(jù)量，常以KB/S或MB/s或GB/s為單位，表示為KBPS/MBPS/GBPS，用于衡量存儲(chǔ)系統(tǒng)的吞吐量。在數(shù)據(jù)庫(kù)OLAP(Online Analytical Processing)業(yè)務(wù)、媒資業(yè)務(wù)、視頻監(jiān)控業(yè)務(wù)等應(yīng)用場(chǎng)景，通常以帶寬衡量系統(tǒng)性能。

1. 獲取來(lái)源

總帶寬：Nmon DISK_SUMM Sheet：Disk Read KB/s，Disk Write KB/s

每個(gè)盤對(duì)應(yīng)的讀帶寬：Nmon DISKREAD Sheet

每個(gè)盤對(duì)應(yīng)的寫帶寬：Nmon DISKWRITE Sheet

總帶寬：命令行iostat -Dl：bps

每個(gè)盤對(duì)應(yīng)的讀帶寬：命令行iostat -Dl：bread

每個(gè)盤對(duì)應(yīng)的寫帶寬：命令行iostat -Dl：bwrtn

2. 適用場(chǎng)景

對(duì)于I/O大于等于64KB的應(yīng)用場(chǎng)景，存儲(chǔ)性能主要關(guān)注帶寬指標(biāo)。

OLAP業(yè)務(wù)是用戶長(zhǎng)時(shí)間在線對(duì)數(shù)據(jù)庫(kù)執(zhí)行復(fù)雜的統(tǒng)計(jì)查詢操作的一種應(yīng)用類型。

OLAP應(yīng)用的負(fù)載特征如下：

從數(shù)據(jù)庫(kù)管理員角度看：

– 數(shù)據(jù)修改量小或無(wú)數(shù)據(jù)修改。

– 數(shù)據(jù)查詢過(guò)程復(fù)雜。

– 數(shù)據(jù)的使用頻率逐漸減小。

– 查詢結(jié)果以統(tǒng)計(jì)值呈現(xiàn)，方便查看。

從存儲(chǔ)采樣看：

– 單個(gè)I/O數(shù)據(jù)量大，通常為64KB～1MB。

– 讀取操作通常順序讀取。

– 當(dāng)進(jìn)行讀取操作進(jìn)行時(shí)，寫操作的數(shù)據(jù)存放在臨時(shí)表空間內(nèi)。

– 對(duì)在線日志寫入少。只有在批量加載數(shù)據(jù)時(shí)，寫入操作增多。

響應(yīng)時(shí)間

也稱為時(shí)延或者服務(wù)時(shí)間，發(fā)起I/O請(qǐng)求到I/O處理完成的時(shí)間間隔，常以毫秒(ms)為單位。

1. 獲取來(lái)源

每個(gè)盤對(duì)應(yīng)的讀響應(yīng)時(shí)間：命令行iostat -Dl：read - avg serv，max serv

每個(gè)盤對(duì)應(yīng)的寫響應(yīng)時(shí)間：命令行iostat -Dl：write - avg serv，max serv

2. ***實(shí)踐

數(shù)據(jù)庫(kù)OLTP業(yè)務(wù)一般時(shí)延要求10ms以下，事實(shí)上大多數(shù)情況下不足1ms;VDI(Virtual Desktop Infrastructure)場(chǎng)景一般時(shí)延要求30ms以下;視頻點(diǎn)播和視頻監(jiān)控的時(shí)延要求隨碼率的不同而不同。

從業(yè)務(wù)系統(tǒng)用戶的角度，響應(yīng)時(shí)間是這三個(gè)指標(biāo)中最重要的指標(biāo)。因?yàn)椋绻鸌OPS或帶寬達(dá)到了存儲(chǔ)的瓶頸，那么一定會(huì)體現(xiàn)在IO響應(yīng)時(shí)間上。

其他關(guān)注指標(biāo)

用戶從業(yè)務(wù)系統(tǒng)經(jīng)常關(guān)注的其他指標(biāo)有：磁盤繁忙程度、隊(duì)列滿等等，這里簡(jiǎn)單介紹一下。

磁盤繁忙程度

Diskbusy體現(xiàn)了磁盤驅(qū)動(dòng)的利用率，即磁盤驅(qū)動(dòng)有百分之多少時(shí)間是活動(dòng)的。

1. 獲取來(lái)源

Nmon DISKBUSY Sheet

命令行iostat -Dl：% tm_act

2. 詳細(xì)解釋

但這個(gè)指標(biāo)的高低與IOPS、帶寬并不是線性關(guān)系。例如當(dāng)diskbusy=80%的時(shí)候IOPS=500，當(dāng)diskbusy=90%的時(shí)候IOPS可能可以達(dá)到800。

可以把驅(qū)動(dòng)理解為道路，每個(gè)IO的數(shù)據(jù)塊理解為道路上行使的汽車。當(dāng)?shù)缆飞蠜]有車的時(shí)候，認(rèn)為是不活動(dòng)的;當(dāng)?shù)缆飞嫌熊嚨臅r(shí)候，認(rèn)為是活動(dòng)的，但有1輛車也是活動(dòng)，有10輛車也是活動(dòng)。因此diskbusy并不能作為磁盤IO的重要性能指標(biāo)。但在日常情況下，可以從這個(gè)值的高低對(duì)磁盤使用情況有個(gè)大概的判斷。

服務(wù)隊(duì)列滿

服務(wù)隊(duì)列每秒變滿(磁盤不再接受服務(wù)請(qǐng)求)的次數(shù)。

1. 獲取來(lái)源

命令行iostat -Dl：sqfull

2. 詳細(xì)解釋

通常情況下這個(gè)sqfull的值為0，如果經(jīng)常不為0，可能是IO隊(duì)列深度太小或者磁盤/存儲(chǔ)能力不足。

queue_depth 是IO隊(duì)列深度，即AIX 一次可以傳送到磁盤設(shè)備的命令的數(shù)量，把命令放在隊(duì)列中再傳送給磁盤可以提高 I/O 性能。這個(gè)屬性限制了 AIX 可以傳送到設(shè)備的***命令的數(shù)量。可以通過(guò)命令查看lsattr -El hdiskxxx|grep queue_depth，queue_depth 默認(rèn)數(shù)值為 4，可以調(diào)整。但調(diào)整queue_depth這種方法對(duì)于提高磁盤IO能力來(lái)說(shuō)很有限。

文件系統(tǒng)使用率

文件系統(tǒng)和inode的利用率其實(shí)已經(jīng)不在磁盤IO的討論范圍，但仍然屬于磁盤的范圍，需要業(yè)務(wù)系統(tǒng)用戶關(guān)注。

1. 獲取來(lái)源

NMON：JFSFILE SHEET

命令行df- g

2. ***實(shí)踐

當(dāng)使用率超過(guò)80%的時(shí)候，系統(tǒng)的性能可能會(huì)被拖慢。

同時(shí)，統(tǒng)計(jì)業(yè)務(wù)量與文件系統(tǒng)利用率的增長(zhǎng)情況，可以推測(cè)該文件系統(tǒng)可以支撐的***業(yè)務(wù)量，管理員可以根據(jù)日常業(yè)務(wù)量和文件系統(tǒng)的空間，設(shè)定備份刪除策略。

Inode使用率

Inode：索引節(jié)點(diǎn)，它用來(lái)存放文件及目錄的基本信息，inode數(shù)量即文件系統(tǒng)的節(jié)點(diǎn)的***數(shù)量。

Inode使用率容易被忽略。對(duì)于一些文件大小很小，文件數(shù)量卻很大的系統(tǒng)，若采用默認(rèn)參數(shù)生成文件系統(tǒng)，可能導(dǎo)致inode數(shù)量不足。當(dāng)inode使用率達(dá)到100%后就不能再創(chuàng)建新的文件或目錄。

1. 獲取來(lái)源

NMON：JFSINODE SHEET

命令行df- g：%Iused