?[[377684]]?

什么是時(shí)延?在電信系統(tǒng)中，不同應(yīng)用對(duì)時(shí)延的要求是怎樣的?如何通過(guò)部署架構(gòu)降低網(wǎng)絡(luò)傳輸時(shí)延?本文通過(guò)介紹云網(wǎng)絡(luò)時(shí)延的構(gòu)成，并對(duì)其進(jìn)行量化分析，分享在不同云網(wǎng)絡(luò)時(shí)延要求下，不同應(yīng)用對(duì)應(yīng)的部署架構(gòu)，并簡(jiǎn)單分析了5G時(shí)代對(duì)應(yīng)用部署架構(gòu)的影響和度量云網(wǎng)絡(luò)時(shí)延的工具。

在討論云網(wǎng)絡(luò)時(shí)延這個(gè)看起來(lái)比較專業(yè)的話題前，先看幾個(gè)比較有意思的問(wèn)題：

• 人的最快反應(yīng)速度是多少毫秒?
• 機(jī)器人最快反應(yīng)速度是多少毫秒?

這樣能在介紹云網(wǎng)絡(luò)時(shí)延時(shí)讓大家有一個(gè)時(shí)間量級(jí)上的感知。

一 什么是時(shí)延

1 人體能感知的時(shí)延量級(jí)

• 搶紅包時(shí)，為什么總是別人能搶到?
• 搶爆品好貨時(shí)，為什么別人扣的1總在你前面?
• 游戲?qū)?zhàn)時(shí)，為什么總感覺(jué)比對(duì)手慢了半拍?

這些是人能明顯感知到的時(shí)延，這些時(shí)延量級(jí)在毫秒級(jí)(1秒=1000毫秒)。

應(yīng)激反應(yīng)

確切的說(shuō)是人接受到外部刺激而做出反應(yīng)，這個(gè)時(shí)延一般公認(rèn)的極限是100ms。

?[[377685]]?

大家可以在humanbenchmark這個(gè)網(wǎng)站測(cè)試一下自己的反應(yīng)時(shí)間是多少ms，快的能到200ms左右，慢一點(diǎn)的就到三四百毫秒了。

?[[377686]]?

機(jī)械反應(yīng)

人體連續(xù)機(jī)械反應(yīng)的極限，一般公認(rèn)的極限是50ms。

游戲玩家“高橋名人”一秒點(diǎn)擊按鍵16次，是當(dāng)前無(wú)法超越的奇跡，折合每次反應(yīng)的平均時(shí)間是62.5毫秒。中國(guó)玩家熟悉的冒險(xiǎn)島游戲的主角就是高橋名人。

?[[377687]]?

2 機(jī)器能感知的時(shí)延量級(jí)

自動(dòng)駕駛

特斯拉的完全自動(dòng)駕駛芯片，每秒可完成144萬(wàn)億次的計(jì)算，能同時(shí)處理每秒2,300幀的圖像，結(jié)合本地的車載的神經(jīng)網(wǎng)絡(luò)系統(tǒng)，發(fā)現(xiàn)異常并處理的時(shí)延可以做在0.5ms左右，是人類識(shí)別外界異常并做出反應(yīng)的速度的200倍。

工業(yè)制造

對(duì)于純機(jī)械的反應(yīng)，機(jī)器的速度就更快了，ABB的機(jī)器人在50秒以內(nèi)可以裝配出一量有5千多個(gè)零部件的汽車，是100年前福特流水線手工裝配速度的1000倍。

?[[377688]]?

整體上看，在機(jī)器的世界里時(shí)延和速度的單位是零點(diǎn)幾毫秒，在人的世界里時(shí)延和速度的單位是零點(diǎn)幾秒。

二 不同應(yīng)用對(duì)時(shí)延的要求

1 面向用戶的應(yīng)用時(shí)延

下面這個(gè)表是電信系統(tǒng)中對(duì)不同應(yīng)用業(yè)務(wù)的分類以及不同應(yīng)用對(duì)時(shí)延和丟包的需求。

??

總結(jié)下來(lái)：

• 實(shí)時(shí)競(jìng)技類游戲的時(shí)延要求是50ms
• 實(shí)時(shí)交互類游戲的時(shí)延要求是100ms
• 實(shí)時(shí)交互語(yǔ)音類的時(shí)延要求是100ms
• 實(shí)時(shí)交互視頻類的時(shí)延要求是150ms
• 非實(shí)時(shí)大部分互聯(lián)網(wǎng)應(yīng)用時(shí)延要求是300ms

上面的標(biāo)準(zhǔn)是優(yōu)秀的標(biāo)準(zhǔn)，如果時(shí)延增加50ms，則是及格線。

2 面向機(jī)器的應(yīng)用的時(shí)延

5G場(chǎng)景下有對(duì)超低時(shí)延應(yīng)用場(chǎng)景的劃分。5G的超低時(shí)延場(chǎng)景，主要是面向車聯(lián)網(wǎng)，物聯(lián)網(wǎng)和工業(yè)互聯(lián)網(wǎng)。

• 工業(yè)自動(dòng)化控制的時(shí)延要求是小于10ms
• 遠(yuǎn)程/遙控駕駛的時(shí)延要求是小于10ms
• 遠(yuǎn)程超聲波檢測(cè)的時(shí)延要求是小于10ms

整體上看，如果滿足面向機(jī)器的超低時(shí)延應(yīng)用，需要將雙向時(shí)延控制在10ms以內(nèi)。

對(duì)于僅涉及到數(shù)據(jù)中心內(nèi)部或數(shù)據(jù)中心間的機(jī)器之間的通信，比證券和期貨行業(yè)的高頻交易，這種網(wǎng)絡(luò)延遲甚至要求小于1ms。

三 端到端的時(shí)延構(gòu)成

上面提到的不同應(yīng)用的時(shí)延要求都是端到端的雙向時(shí)延，根據(jù)應(yīng)用的不同這個(gè)端到端可能是用戶端和服務(wù)器端，也可能是用戶端和用戶端之間。

端到端的時(shí)延包括應(yīng)用處理時(shí)延和網(wǎng)絡(luò)傳輸時(shí)延。

1 網(wǎng)絡(luò)層傳輸時(shí)延

網(wǎng)絡(luò)層傳輸時(shí)延指的是數(shù)據(jù)包的傳輸時(shí)延，比如數(shù)據(jù)包從手機(jī)發(fā)出到服務(wù)器接收，再?gòu)姆?wù)器發(fā)送到被終端接收。

網(wǎng)絡(luò)傳輸時(shí)延包括網(wǎng)絡(luò)接入時(shí)延、固網(wǎng)傳輸時(shí)延和數(shù)據(jù)中心內(nèi)部網(wǎng)絡(luò)時(shí)延。

對(duì)于用戶從家庭寬帶的固定網(wǎng)絡(luò)訪問(wèn)云端的應(yīng)用來(lái)說(shuō)，整個(gè)端到端的時(shí)延構(gòu)成如下：

??

• 用戶終端接入到家庭路由器，如果通過(guò)WiFi方式，在WiFi接入用戶較少，輕負(fù)載的情況下時(shí)延一般在5-15ms左右，通過(guò)網(wǎng)線方式一般小于1ms。
• 家庭路由器的WAN口連接到運(yùn)營(yíng)商的本地固網(wǎng)，從本地固網(wǎng)到運(yùn)營(yíng)商骨干網(wǎng)再到阿里云數(shù)據(jù)中心，視距離的長(zhǎng)短，國(guó)內(nèi)的網(wǎng)絡(luò)時(shí)延在1到100ms不等。
• 到阿里云數(shù)據(jù)中心后，數(shù)據(jù)中心內(nèi)部的時(shí)延一般小于2ms。

如果用戶的終端通過(guò)4G或5G接入網(wǎng)絡(luò)，整個(gè)端到端的時(shí)延構(gòu)成會(huì)稍微復(fù)雜一些。

??

• 4G的終端到基站的空口時(shí)延一般在10到20ms左右。
• 5G的終端到基站的空口時(shí)延降低到了1ms。
• 基站到核心網(wǎng)的時(shí)延和物理距離強(qiáng)相關(guān)，時(shí)延在1到15ms不等。
• 核心網(wǎng)的互聯(lián)網(wǎng)出口會(huì)連接到本地固網(wǎng)。
• 從本地固網(wǎng)到運(yùn)營(yíng)商骨干網(wǎng)再到阿里云數(shù)據(jù)中心，視距離的長(zhǎng)短，網(wǎng)絡(luò)時(shí)延在1到100ms不等。
• 到阿里云數(shù)據(jù)中心后，數(shù)據(jù)中心內(nèi)部的時(shí)延一般小于2ms。

2 應(yīng)用層處理時(shí)延

應(yīng)用層時(shí)延包含用戶前端的終端上的應(yīng)用處理時(shí)延和后端的服務(wù)器上的應(yīng)用處理時(shí)延。

應(yīng)用層處理時(shí)延根據(jù)不同的應(yīng)用差異比較大，有的在10ms以內(nèi)，有的則大于100 ms。比如說(shuō)搶紅包，買商品之類的簡(jiǎn)單交互類應(yīng)用，主要是一些數(shù)據(jù)包的交互，這種的應(yīng)用層處理時(shí)延先對(duì)較少，很多在10ms以內(nèi)。

??

• 對(duì)于工業(yè)互聯(lián)網(wǎng)類的應(yīng)用，主要也時(shí)控制類的報(bào)文的交互，應(yīng)用層處理時(shí)延會(huì)更小，很多在5ms以內(nèi)。
• 對(duì)于游戲類的應(yīng)用，主要是終端向游戲服務(wù)器發(fā)送各種指令，另外一個(gè)方向是終端收到服務(wù)的數(shù)據(jù)后展示給用戶。這種類型的應(yīng)用的應(yīng)用層處理時(shí)間比較適中，一般在30ms以內(nèi)。終端發(fā)送指令時(shí)延很短，很多時(shí)候可以小于1ms，在服務(wù)器側(cè)的游戲處理邏輯情況下也很快，一般在5ms內(nèi)都能處理完，用戶終端收到游戲服務(wù)器的數(shù)據(jù)后通過(guò)渲染將畫(huà)面呈現(xiàn)給用戶，這個(gè)應(yīng)用層的渲染過(guò)程會(huì)稍微耗時(shí)一些，根據(jù)用戶終端的處理性能，游戲的炫酷程度，處理時(shí)延在5到30ms之間不等。整體上游戲場(chǎng)景下的應(yīng)用層處理時(shí)延在10到30ms。
• 而涉及到音視頻領(lǐng)域的應(yīng)用層處理時(shí)延一般會(huì)比較高，主要是涉及到外設(shè)的音視頻采集，音視頻編解碼，降噪和渲染等信號(hào)處理。業(yè)界比較成熟的音視頻平臺(tái)的應(yīng)用層端到端時(shí)延一般可以控制在100ms以內(nèi)。

四 從時(shí)延角度看應(yīng)用部署架構(gòu)

1 工業(yè)互聯(lián)網(wǎng)類的應(yīng)用部署架構(gòu)

工業(yè)互聯(lián)網(wǎng)類的應(yīng)用的實(shí)時(shí)性要求一般都比較高，很多要求端到端時(shí)延在10ms左右。

??

減去應(yīng)用層的5ms左右的處理時(shí)延，留給網(wǎng)絡(luò)層的處理時(shí)延也就5ms了。

前面提到了網(wǎng)絡(luò)層的時(shí)延包括網(wǎng)絡(luò)接入時(shí)延、固網(wǎng)傳輸時(shí)延和數(shù)據(jù)中心內(nèi)部網(wǎng)絡(luò)時(shí)延：

• 4G網(wǎng)絡(luò)的網(wǎng)絡(luò)接入時(shí)延一般在20ms左右，這種顯然滿足不了工業(yè)互聯(lián)網(wǎng)的需求。
• 固網(wǎng)網(wǎng)線接入時(shí)延一般小于1ms，所以很多工業(yè)互聯(lián)網(wǎng)場(chǎng)景的設(shè)備時(shí)通過(guò)固網(wǎng)網(wǎng)線連接的。在5G時(shí)代，網(wǎng)絡(luò)接入時(shí)延可以在1ms以內(nèi)，可以把之前固定的設(shè)備無(wú)線化。
• 對(duì)于數(shù)據(jù)中心內(nèi)部處理時(shí)延，一般小型數(shù)據(jù)中心內(nèi)部時(shí)延都小于1ms，超大型數(shù)據(jù)中心內(nèi)部會(huì)大于1ms，但一般也會(huì)小于2ms。

如果按網(wǎng)絡(luò)接入時(shí)延1ms，數(shù)據(jù)中心內(nèi)部時(shí)延1ms，留給固網(wǎng)傳輸時(shí)延就3ms了。固網(wǎng)的1ms雙向傳輸時(shí)延，代表光纖距離是100km。

這就要求在工業(yè)互聯(lián)網(wǎng)場(chǎng)景下云數(shù)據(jù)中心要盡可能的靠近工業(yè)園區(qū)，基本上不能跨城。

在這種場(chǎng)景下用戶可以選擇的應(yīng)用部署架構(gòu)包括阿里云云盒本地部署，阿里云混合云本地部署。

2 實(shí)時(shí)音視頻類應(yīng)用部署架構(gòu)

實(shí)時(shí)音視頻類應(yīng)用的特點(diǎn)是應(yīng)用層處理時(shí)延較多，業(yè)界先進(jìn)的音視頻平臺(tái)可以做到100ms以內(nèi)。

實(shí)時(shí)音視頻類的端到端的時(shí)延如前文所述端到端時(shí)延最好能控制在150ms以內(nèi)，如果是在200ms以內(nèi)也可以接受。

此時(shí)留給網(wǎng)絡(luò)層的時(shí)延最多也就100ms。

而實(shí)時(shí)音視頻應(yīng)用的特點(diǎn)是兩個(gè)用戶終端通信，在這種場(chǎng)景下實(shí)際上是兩個(gè)用戶的流量是通過(guò)音視頻服務(wù)器連接起來(lái)的，所以實(shí)際路徑是：用戶1 <—> 音視頻服務(wù)器 <-> 用戶2。

??

所以在音視頻場(chǎng)景下，服務(wù)器到用戶的網(wǎng)絡(luò)傳輸時(shí)延應(yīng)該控制在50ms以內(nèi)。

音視頻場(chǎng)景下大部分用戶都使用移動(dòng)端，對(duì)于4G網(wǎng)絡(luò)網(wǎng)絡(luò)接入時(shí)延一般在20ms左右。此時(shí)留給固網(wǎng)傳輸時(shí)延的時(shí)間在30ms以內(nèi)。

下面是阿里云不同地域服務(wù)器到覆國(guó)內(nèi)不同省份的固網(wǎng)時(shí)延圖。

??

在音視頻場(chǎng)景下，在4G時(shí)代，要想給用戶提供很好的用戶體驗(yàn)，要考慮音視頻服務(wù)器多地域部署。比如用阿里云北京Region覆蓋京津冀經(jīng)濟(jì)區(qū)，用阿里云上海Region覆蓋長(zhǎng)三角地區(qū)，用阿里云深圳Region覆蓋珠三角經(jīng)濟(jì)區(qū)，用阿里云成都Region覆蓋西三角經(jīng)濟(jì)區(qū)。

在5G場(chǎng)景下，可以將網(wǎng)絡(luò)接入時(shí)延從20ms降低到1ms。此時(shí)留給固網(wǎng)的傳輸時(shí)延可以從30ms變?yōu)?0ms。這將很大程度上簡(jiǎn)化應(yīng)用的部署架構(gòu)，從理論上可以實(shí)現(xiàn)音視頻服務(wù)器從多地域部署變?yōu)閱蔚赜虿渴稹?/p>

??

3 實(shí)時(shí)競(jìng)技游戲類應(yīng)用部署架構(gòu)

實(shí)時(shí)競(jìng)技類游戲的端到端時(shí)延最好能控制在50ms以內(nèi)，如果是在100ms以內(nèi)也可以接受。

如果按端到端時(shí)延100ms來(lái)考慮，給游戲的前端和后端的應(yīng)用層時(shí)延分配50ms。此時(shí)留給網(wǎng)絡(luò)層的時(shí)延也變成了50ms。游戲場(chǎng)景下主要是用戶和游戲服務(wù)器進(jìn)行交互。此時(shí)要求游戲服務(wù)器到用戶的網(wǎng)絡(luò)層時(shí)延在50ms以內(nèi)。

??

考慮到當(dāng)前4G場(chǎng)景下，網(wǎng)絡(luò)接入時(shí)延約20ms，此時(shí)留給固網(wǎng)傳輸時(shí)延的時(shí)間在30ms以內(nèi)。在這種場(chǎng)景下和上面的實(shí)時(shí)音視頻的應(yīng)用部署架構(gòu)要求基本一致了。

所以在4G場(chǎng)景下，對(duì)于實(shí)時(shí)競(jìng)技類游戲，需要多地域部署。可以考慮用阿里云北京Region覆蓋京津冀經(jīng)濟(jì)區(qū)，用阿里云上海Region覆蓋長(zhǎng)三角地區(qū)，用阿里云深圳Region覆蓋珠三角經(jīng)濟(jì)區(qū)，用阿里云成都Region覆蓋西三角經(jīng)濟(jì)區(qū)。

在5G大規(guī)模部署的場(chǎng)景下，可以考慮單個(gè)地域部署。

4 實(shí)時(shí)交互類應(yīng)用部署架構(gòu)

實(shí)時(shí)競(jìng)技類游戲的端到端時(shí)延最好能控制在100ms以內(nèi)，如果是在150ms以內(nèi)也可以接受。

如果按端到端時(shí)延150ms來(lái)考慮，給游戲的前端和后端的應(yīng)用層時(shí)延分配50ms。此時(shí)留給網(wǎng)絡(luò)層的時(shí)延也變成了100ms。游戲場(chǎng)景下主要是用戶和游戲服務(wù)器進(jìn)行交互。此時(shí)要求游戲服務(wù)器到用戶的網(wǎng)絡(luò)層時(shí)延在100ms以內(nèi)。

100ms的網(wǎng)絡(luò)層傳輸時(shí)延是一個(gè)很寬松的要求，基本上用阿里云一個(gè)地域的服務(wù)器即可達(dá)到很好的覆蓋效果。

??

所以對(duì)于實(shí)時(shí)交互類游戲應(yīng)用，選擇阿里云的一個(gè)地域部署應(yīng)用即可。

5 電商類應(yīng)用部署架構(gòu)

電商類的應(yīng)用的實(shí)時(shí)交互相對(duì)來(lái)講不是太多，對(duì)端到端的時(shí)延能控制在300ms以內(nèi)就能滿足要求了。而電商應(yīng)用后端和前端處理邏輯也相對(duì)來(lái)講時(shí)延消耗也不是太多，給應(yīng)用層處理時(shí)延分配100ms的話，網(wǎng)絡(luò)層的時(shí)延還有200ms。

200ms的網(wǎng)絡(luò)層傳輸時(shí)延是一個(gè)更寬松的指標(biāo)。

??

所以對(duì)于電商類的應(yīng)用，單純從時(shí)延的角度考慮，選擇阿里云的一個(gè)地域部署應(yīng)用即可。不過(guò)電商類的應(yīng)用一般情況下對(duì)可靠性要求都比較高，綜合考慮容災(zāi)和高可靠，還是建議多地域高靠部署。

五 如何度量時(shí)延

時(shí)延是一個(gè)影響用戶體驗(yàn)的關(guān)鍵指標(biāo)，在一定程度上也能比較好的反應(yīng)網(wǎng)絡(luò)質(zhì)量，如何有效的度量時(shí)延也變得很關(guān)鍵。

下面簡(jiǎn)單介紹幾種比較有效的度量時(shí)延的工具和產(chǎn)品。

1 Ping

如果想進(jìn)行點(diǎn)到點(diǎn)的時(shí)延測(cè)量，那么最簡(jiǎn)單最使用的就是ICMP Ping了。

??

通過(guò)ICMP Ping可以獲取點(diǎn)到點(diǎn)的雙向時(shí)延數(shù)據(jù)。

如果要想進(jìn)行點(diǎn)到多點(diǎn)的時(shí)延測(cè)量，這種業(yè)界一般叫網(wǎng)絡(luò)撥測(cè)。對(duì)于網(wǎng)絡(luò)撥測(cè)阿里云也有比較成熟的產(chǎn)品化工具。

2 實(shí)時(shí)撥測(cè)

當(dāng)前阿里云比較好用的網(wǎng)絡(luò)實(shí)時(shí)撥測(cè)工具的鏈接如下：https://zijian.aliyun.com/detect/ping

當(dāng)前這個(gè)撥測(cè)工具是免費(fèi)的。

通過(guò)阿里云的實(shí)時(shí)撥測(cè)工具，只需要輸入IP或域名，就可以直接發(fā)起全國(guó)的探針對(duì)目標(biāo)域名或IP的實(shí)時(shí)探測(cè)，2分鐘就會(huì)出現(xiàn)全量的結(jié)果并以圖形化方式呈現(xiàn)。

3 持續(xù)撥測(cè)

如果希望對(duì)應(yīng)用持續(xù)進(jìn)行網(wǎng)絡(luò)質(zhì)量的監(jiān)控，如果出現(xiàn)故障后能否發(fā)送告警到具體的負(fù)責(zé)人，這種場(chǎng)景下阿里云對(duì)應(yīng)的工具是云監(jiān)控的站點(diǎn)監(jiān)控，地址：https://cloudmonitor.console.aliyun.com/index.htm#/newSite/list/

??

站點(diǎn)監(jiān)控支持自定義探針和告警規(guī)則。

當(dāng)前站點(diǎn)監(jiān)控的探針基本上已經(jīng)覆蓋了中國(guó)內(nèi)地的90%以上的省份和運(yùn)營(yíng)商。

告警規(guī)則的定義也比較靈活，而且可以將告警以郵件，電話，短信，釘釘機(jī)器人的方式發(fā)送。

??

六 總結(jié)

• 不同的應(yīng)用對(duì)于端到端的時(shí)延要求不同，對(duì)應(yīng)的應(yīng)用的部署架構(gòu)也不一樣。
• 端到端的時(shí)延包含應(yīng)用層處理時(shí)延和網(wǎng)絡(luò)層傳輸時(shí)延。
• 應(yīng)用層處理時(shí)延一般情況下不太好優(yōu)化，網(wǎng)絡(luò)層傳輸時(shí)延可以通過(guò)部署架構(gòu)優(yōu)化的方式降低。
• 網(wǎng)絡(luò)層傳輸時(shí)延包括網(wǎng)絡(luò)接入時(shí)延、固網(wǎng)傳輸時(shí)延和云數(shù)據(jù)中心內(nèi)網(wǎng)絡(luò)時(shí)延。
• 通過(guò)將應(yīng)用部署到靠近用戶的位置，可以有效的降低固網(wǎng)傳輸時(shí)延。
• 5G主要優(yōu)化的是網(wǎng)絡(luò)接入時(shí)延，在5G普及后對(duì)實(shí)時(shí)音視頻、實(shí)時(shí)競(jìng)技游戲類應(yīng)用部署架構(gòu)的簡(jiǎn)化會(huì)比較有幫助。
• 度量固網(wǎng)傳輸時(shí)延可以使用比較成熟的實(shí)時(shí)撥測(cè)和持續(xù)撥測(cè)工具。