[[379639]]

作者個人研發的在高并發場景下，提供的簡單、穩定、可擴展的延遲消息隊列框架，具有精準的定時任務和延遲隊列處理功能。自開源半年多以來，已成功為十幾家中小型企業提供了精準定時調度方案，經受住了生產環境的考驗。為使更多童鞋受益，現給出開源框架地址：https://github.com/sunshinelyz/mykit-delay

寫在前面

流水線技術是計算機中的一種相當重要的技術。簡單的說，流水線技術的出現使得計算機能夠支持并行計算，能夠并行執行任務。盡管流水線技術非常重要，但是很多小伙伴對流水線技術還是一知半解，甚至很多小伙伴根本不知道什么是流水線技術，今天，我們就一起來說說什么是流水線技術。

文章已收錄到：

https://github.com/sunshinelyz/technology-binghe

https://gitee.com/binghe001/technology-binghe

流水線概念

流水線是指在程序執行時，多條指令重疊進行操作的一種準并行處理的實現技術。各種部件同時處理是針對不同指令而言的，它們同時為多條指令的不同部分進行工作，以提高各部件的利用率和指令的平均執行速度。

流水線的相關參數計算包括：流水線執行時間計算、流水線吞吐率、流水線加速比、流水線效率。

在計算機中，對于指令的操作主要分為三個部分：取指、分析和執行。如下所示。

如果執行取值、分析和執行各需要1ms的話，則串行執行三條指令的時間總共需要9ms。這是因為一條執行的操作需要經過取指、分析和執行三個步驟，每個步驟需要1ms，執行一條指令的時間為3ms，則串行執行三條指令的時間為9ms。我們可以用下圖來表示這個過程。

在上圖的表示中，貌似執行三條指令使用9ms是沒啥問題的。但是，如果我們把圖形改造一下，我們就會發現相應的問題。我們使用下面的圖形來表示執行三條指令的情況。

此時，我們發現，在上圖執行指令操作的過程中，有很多空白的格子，而空白的格子表示在執行執行的過程中有空余的時間片資源沒有利用起來。很顯然，沒有必要等待指令1完全執行完畢后再執行指令2，同樣的，沒有必要等待指令2完全執行完畢后再執行指令3。而且，我們發現按照上圖執行完三條指令需要9ms時間。

此時，如果將空余的時間片利用起來，則可以使用下圖來表示。

此時，在執行三條指令的過程中，取指操作對指令1執行完取指后，馬上對指令2進行取指，然后又馬上對指令3進行取指;分析操作同樣是對指令1執行完分析后，馬上對指令2進行分析，然后又馬上對指令3進行分析;執行操作也是對指令1執行完畢后，馬上對指令2進行執行操作，然后又馬上對指令3進行執行操作。期間，將空余的時間片資源充分的利用起來了。而且，我們發現，充分利用空余的時間片后，執行三條指令的時間由原來的9ms變為現在的5ms。

從另一個角度，我們發現執行完第一條指令時，需要3ms，執行完第二條指令時，只需要在執行完第一條指令的基礎上增加1ms。同樣的，執行完第三條指令時，只需要在執行完第二條指令的基礎上增加1ms。以后每增加一條指令，只需要增加1ms的時間便可以執行完此條指令。

這就是計算機中的流水線技術。接下來，我們就說說流水線技術的相關計算問題。

流水線計算

關于流水線計算，我們先來看一個圖。

在上圖中，我們可以看出，執行完第一條指令時，需要3ms時間，執行完第二條指令時，只需要在執行完第一條指令的基礎上增加1ms;執行完第三條指令時，只需要在執行完第二條指令的基礎上增加1ms。以此類推，執行完第n條指令時，只需要在執行第n-1條指令的基礎上增加1ms。說到這里，不知道小伙伴們有沒有思考這樣一個問題，流水線技術的這種規律就涉及到一個非常重要的概念，叫作 流水線周期。

流水線周期為執行時間最長的一段，上圖中的流水線周期為1ms

流水線的計算公式為：

1條指令執行時間 + (指令條數 -1)* 流水線周期 

流水線的理論公式如下所示。

(t1 + t2 + ... + tk) + (n-1) * △t 

其中t1,t2...tk表示執行一條指令的每個步驟分別需要的時間，n為指令的條數，△t為流水線周期。

流水線的實踐公式如下所示。

k*△t + (n-1) * △t 

其中，k為執行一條指令的步驟數，n為指令的條數，△t為流水線周期。

這里，給小伙伴們舉一個例子。

例如，一條執行的執行過程可以分解為取指，分析和執行三步，在取指時間t取指=3△t，分析時間分析=2△t，執行時間t執行=4△t的情況下，若按照串行方式執行，則10條指令全部執行完需要多少△t?若按照流水線方式執行，流水線周期為多少△t?使用流水線方式時，執行完10條指令需要多少△t?

(1)串行方式比較簡單，就是將每條指令的執行時間進行累加。

(3△t + 2△t + 4△t) * 10 = 90△t。

(2)在執行一條指令的過程中，取指為3△t，分析為2△t，執行為4△t。根據流水線中對于流水線周期的定義：流水線周期為執行時間最長的一段，所以，流水線周期為4△t。

(3)使用流水線方式時，執行完10條指令需要的時間可以使用如下方式進行計算。

這里，我們分別計算下理論時間和實踐時間。

• 理論時間

(3△t + 2△t + 4△t) + (10-1) * 4△t = 45△t。

• 實踐時間

3 * 4△t + (10-1) * 4△t = 48△t。

超標量流水線

關于超標量流水線，我們可以使用下圖來表示。

在超標量流水線中，有一個概念叫作度。度表示在超標量流水線中，由幾條流水線組成。例如上面的圖中，超標量流水線由兩條流水線組成，所以，度為2。此時的超標量流水線可以同時進行2個操作。也就是說，可以同時執行兩個取指操作，可以同時執行兩個分析操作，也可以同時執行兩個執行操作。

如果此時有10條指令需要執行，使用以上超標量流水線的話，只需要10 / 2 = 5 條指令的時間。

流水線吞吐率計算

流水線的吞吐率(TP)是指在單位時間內流水線所完成的任務數量或輸出的結果數量。計算流水線吞吐流程的最基本的公式如下所示。

流水線最大吞吐率計算公式如下所示。

流水線的吞吐率計算問題相對來說還是比較簡單的。

本文轉載自微信公眾號「冰河技術」，可以通過以下二維碼關注。轉載本文請聯系冰河技術公眾號。