池化技術(shù)到達(dá)有多牛？看了線(xiàn)程和線(xiàn)程池的對(duì)比嚇我一跳！

作者：磊哥 2020-07-28 08:00:48

尼采曾經(jīng)說(shuō)過(guò)：人們無(wú)法理解他沒(méi)有經(jīng)歷過(guò)的事情。因此我會(huì)試著把技術(shù)文章寫(xiě)的盡量具象化一些，力求讓所有人都能看懂，所以在正式開(kāi)始之前，我們先從兩個(gè)生活事例說(shuō)起。

[[335212]]

本文轉(zhuǎn)載自微信公眾號(hào)「Java中文社群」，作者磊哥。轉(zhuǎn)載本文請(qǐng)聯(lián)系Java中文社群公眾號(hào)。

情商高的人是能洞察并照顧到身邊所有人的情緒，而好的文章應(yīng)該讓所有人都能看懂。

尼采帥照：

[[335213]]

嘮嗑：之前一直以為尼采是中國(guó)的某位圣人，大體和莊子差不多，后來(lái)才知道原來(lái)是一位老外，驚了個(gè)呆。

生活案例 1

早些年間，某寶雙“11”突然爆火，然后無(wú)數(shù)個(gè)男男女女瘋狂“剁手”，然而最痛苦的并不是“剁手”之后吃“灰”的日子，而是漫長(zhǎng)而又揪心的等待快遞小哥的日子。

[[335214]]

為了緩解彼此的“痛苦”(快遞公司的電話(huà)被打爆，用戶(hù)等得不耐煩)，快遞公司后面就變“聰明”了，每當(dāng)購(gòu)物節(jié)將要來(lái)臨之前，快遞公司會(huì)預(yù)先準(zhǔn)備好充足的人和車(chē)，以迎接撲面而來(lái)的訂單。

至此，當(dāng)我們?cè)儆龅礁鞣N購(gòu)物節(jié)，就再也不用每天盯著手機(jī)煎熬的等待快遞小哥了。

生活案例 2

小美是一家公司的 HR，每年年初是小美最頭疼的日子了。因?yàn)槟瓿跤写罅康膯T工離職，因此小美需要一邊辦理離職員工的手續(xù)，一邊瘋狂的招人，除了這些工作之外，小美還要忍受來(lái)自各部門(mén)和大 BOSS 的間歇性催促，這些都讓小美痛苦不已。

于是為了應(yīng)對(duì)每年年初的這種囧境，小美也變聰明了，她每年年末的時(shí)候都會(huì)預(yù)先招聘一些員工，以備來(lái)年的不時(shí)之需。

自從用了這招之后(提前招人)，小美從此過(guò)上了幸福的生活。

[[335215]]

概念

池化技術(shù)指的是提前準(zhǔn)備一些資源，在需要時(shí)可以重復(fù)使用這些預(yù)先準(zhǔn)備的資源。

也就是說(shuō)池化技術(shù)有兩個(gè)優(yōu)點(diǎn)：

提前創(chuàng)建;
重復(fù)利用。

池化技術(shù)優(yōu)點(diǎn)分析

以 Java 中的對(duì)象創(chuàng)建來(lái)說(shuō)，在對(duì)象創(chuàng)建時(shí)要經(jīng)歷以下步驟：

根據(jù) new 標(biāo)識(shí)符后面的參數(shù)，在常量池查找類(lèi)的符號(hào)引用;
如果沒(méi)找到符號(hào)應(yīng)用(類(lèi)并未加載)，進(jìn)行類(lèi)的加載、解析、初始化等;
虛擬機(jī)為對(duì)象在堆中分配內(nèi)存，并將分配的內(nèi)存初始化為 0，針對(duì)對(duì)象頭，建立相應(yīng)的描述結(jié)構(gòu)(耗時(shí)操作：需要查找堆中的空閑區(qū)域，修改內(nèi)存分配狀態(tài)等);
調(diào)用對(duì)象的初始化方法(耗時(shí)操作：用戶(hù)的復(fù)雜的邏輯驗(yàn)證等操作，如IO、數(shù)值計(jì)算是否符合規(guī)定等)。

從上述的流程中可以看出，創(chuàng)建一個(gè)類(lèi)需要經(jīng)歷復(fù)雜且耗時(shí)的操作，因此我們應(yīng)該盡量復(fù)用已有的類(lèi)，以確保程序的高效運(yùn)行，當(dāng)然如果能夠提前創(chuàng)建這些類(lèi)就再好不過(guò)了，而這些功能都可以用池化技術(shù)來(lái)實(shí)現(xiàn)。

池化技術(shù)常見(jiàn)應(yīng)用

常見(jiàn)的池化技術(shù)的使用有：線(xiàn)程池、內(nèi)存池、數(shù)據(jù)庫(kù)連接池、HttpClient 連接池等，下面分別來(lái)看。

1.線(xiàn)程池

線(xiàn)程池的原理很簡(jiǎn)單，類(lèi)似于操作系統(tǒng)中的緩沖區(qū)的概念。線(xiàn)程池中會(huì)先啟動(dòng)若干數(shù)量的線(xiàn)程，這些線(xiàn)程都處于睡眠狀態(tài)。當(dāng)客戶(hù)端有一個(gè)新的請(qǐng)求時(shí)，就會(huì)喚醒線(xiàn)程池中的某一個(gè)睡眠的線(xiàn)程，讓它來(lái)處理客戶(hù)端的這個(gè)請(qǐng)求，當(dāng)處理完這個(gè)請(qǐng)求之后，線(xiàn)程又處于睡眠的狀態(tài)。

線(xiàn)程池能很高地提升程序的性能。比如有一個(gè)省級(jí)數(shù)據(jù)大集中的銀行網(wǎng)絡(luò)中心，高峰期每秒的客戶(hù)端請(qǐng)求并發(fā)數(shù)超過(guò)100，如果為每個(gè)客戶(hù)端請(qǐng)求創(chuàng)建一個(gè)新的線(xiàn)程的話(huà)，那耗費(fèi)的 CPU 時(shí)間和內(nèi)存都是十分驚人的，如果采用一個(gè)擁有 200 個(gè)線(xiàn)程的線(xiàn)程池，那將會(huì)節(jié)約大量的系統(tǒng)資源，使得更多的 CPU 時(shí)間和內(nèi)存用來(lái)處理實(shí)際的商業(yè)應(yīng)用，而不是頻繁的線(xiàn)程創(chuàng)建和銷(xiāo)毀。

2.內(nèi)存池

如何更好地管理應(yīng)用程序內(nèi)存的使用，同時(shí)提高內(nèi)存使用的頻率，這時(shí)值得每一個(gè)開(kāi)發(fā)人員深思的問(wèn)題。內(nèi)存池(Memory Pool)就提供了一個(gè)比較可行的解決方案。

內(nèi)存池在創(chuàng)建的過(guò)程中，會(huì)預(yù)先分配足夠大的內(nèi)存，形成一個(gè)初步的內(nèi)存池。然后每次用戶(hù)請(qǐng)求內(nèi)存的時(shí)候，就會(huì)返回內(nèi)存池中的一塊空閑的內(nèi)存，并將這塊內(nèi)存的標(biāo)志置為已使用。當(dāng)內(nèi)存使用完畢釋放內(nèi)存的時(shí)候，也不是真正地調(diào)用 free 或 delete 的過(guò)程，而是把內(nèi)存放回內(nèi)存池的過(guò)程，且放回的過(guò)程要把標(biāo)志置為空閑。最后，應(yīng)用程序結(jié)束就會(huì)將內(nèi)存池銷(xiāo)毀，將內(nèi)存池中的每一塊內(nèi)存釋放。

內(nèi)存池的優(yōu)點(diǎn)：

減少內(nèi)存碎片的產(chǎn)生，這個(gè)優(yōu)點(diǎn)可以從創(chuàng)建內(nèi)存池的過(guò)程中看出，當(dāng)我們?cè)趧?chuàng)建內(nèi)存池的時(shí)候，分配的都是一塊塊比較規(guī)整的內(nèi)存塊，減少內(nèi)存碎片的產(chǎn)生。
提高了內(nèi)存的使用頻率。這個(gè)可以從分配內(nèi)存和釋放內(nèi)存的過(guò)程中看出。每次的分配和釋放并不是去調(diào)用系統(tǒng)提供的函數(shù)或操作符去操作實(shí)際的內(nèi)存，而是在復(fù)用內(nèi)存池中的內(nèi)存。

內(nèi)存池的缺點(diǎn)：會(huì)造成內(nèi)存的浪費(fèi)，因?yàn)橐褂脙?nèi)存池需要在一開(kāi)始分配一大塊閑置的內(nèi)存，而這些內(nèi)存不一定全部被用到。

3.數(shù)據(jù)庫(kù)連接池

數(shù)據(jù)庫(kù)連接池的基本思想是在系統(tǒng)初始化的時(shí)候?qū)?shù)據(jù)庫(kù)連接作為對(duì)象存儲(chǔ)在內(nèi)存中，當(dāng)用戶(hù)需要訪(fǎng)問(wèn)數(shù)據(jù)庫(kù)的時(shí)候，并非建立一個(gè)新的連接，而是從連接池中取出一個(gè)已建立的空閑連接對(duì)象。在使用完畢后，用戶(hù)也不是將連接關(guān)閉，而是將連接放回到連接池中，以供下一個(gè)請(qǐng)求訪(fǎng)問(wèn)使用，而這些連接的建立、斷開(kāi)都是由連接池自身來(lái)管理的。

同時(shí)，還可以設(shè)置連接池的參數(shù)來(lái)控制連接池中的初始連接數(shù)、連接的上下限數(shù)和每個(gè)連接的最大使用次數(shù)、最大空閑時(shí)間等。當(dāng)然，也可以通過(guò)連接池自身的管理機(jī)制來(lái)監(jiān)視連接的數(shù)量、使用情況等。

4.HttpClient 連接池

HttpClient 我們經(jīng)常用來(lái)進(jìn)行 HTTP 服務(wù)訪(fǎng)問(wèn)。我們的項(xiàng)目中會(huì)有一個(gè)獲取任務(wù)執(zhí)行狀態(tài)的功能使用 HttpClient，一秒鐘請(qǐng)求一次，經(jīng)常會(huì)出現(xiàn) Conection Reset 異常。經(jīng)過(guò)分析發(fā)現(xiàn)，問(wèn)題是出在 HttpClient 的每次請(qǐng)求都會(huì)新建一個(gè)連接，當(dāng)創(chuàng)建連接的頻率比關(guān)閉連接的頻率大的時(shí)候，就會(huì)導(dǎo)致系統(tǒng)中產(chǎn)生大量處于 TIME_CLOSED 狀態(tài)的連接，這個(gè)時(shí)候使用連接池復(fù)用連接就能解決這個(gè)問(wèn)題。

實(shí)戰(zhàn)：線(xiàn)程 VS 線(xiàn)程

來(lái)測(cè)試一下線(xiàn)程和線(xiàn)程池執(zhí)行的時(shí)間差距有多大，測(cè)試代碼如下：

import java.util.concurrent.LinkedBlockingDeque; 
import java.util.concurrent.ThreadPoolExecutor; 
import java.util.concurrent.TimeUnit; 
 
/** 
 * 線(xiàn)程池 vs 線(xiàn)程 性能對(duì)比 
 */ 
public class ThreadPoolPerformance { 
 // 最大執(zhí)行次數(shù) 
    public static final int maxCount = 1000; 
 
    public static void main(String[] args) throws InterruptedException { 
        // 線(xiàn)程測(cè)試代碼 
        ThreadPerformanceTest(); 
 
        // 線(xiàn)程池測(cè)試代碼 
        ThreadPoolPerformanceTest(); 
    } 
 
    /** 
     * 線(xiàn)程池性能測(cè)試 
     */ 
    private static void ThreadPoolPerformanceTest() throws InterruptedException { 
        // 開(kāi)始時(shí)間 
        long stime = System.currentTimeMillis(); 
        // 業(yè)務(wù)代碼 
        ThreadPoolExecutor tp = new ThreadPoolExecutor(10, 10, 0, 
                TimeUnit.SECONDS, new LinkedBlockingDeque<>()); 
        for (int i = 0; i < maxCount; i++) { 
            tp.execute(new PerformanceRunnable()); 
        } 
        tp.shutdown(); 
        tp.awaitTermination(1, TimeUnit.SECONDS);  // 等待線(xiàn)程池執(zhí)行完成 
        // 結(jié)束時(shí)間 
        long etime = System.currentTimeMillis(); 
        // 計(jì)算執(zhí)行時(shí)間 
        System.out.printf("線(xiàn)程池執(zhí)行時(shí)長(zhǎng)：%d 毫秒.", (etime - stime)); 
        System.out.println(); 
    } 
 
    /** 
     * 線(xiàn)程性能測(cè)試 
     */ 
    private static void ThreadPerformanceTest() { 
        // 開(kāi)始時(shí)間 
        long stime = System.currentTimeMillis(); 
        // 執(zhí)行業(yè)務(wù)代碼 
        for (int i = 0; i < maxCount; i++) { 
            Thread td = new Thread(new PerformanceRunnable()); 
            td.start(); 
            try { 
                td.join(); // 確保線(xiàn)程執(zhí)行完成 
            } catch (InterruptedException e) { 
                e.printStackTrace(); 
            } 
        } 
        // 結(jié)束時(shí)間 
        long etime = System.currentTimeMillis(); 
        // 計(jì)算執(zhí)行時(shí)間 
        System.out.printf("線(xiàn)程執(zhí)行時(shí)長(zhǎng)：%d 毫秒.", (etime - stime)); 
        System.out.println(); 
    } 
 
 // 業(yè)務(wù)執(zhí)行類(lèi) 
    static class PerformanceRunnable implements Runnable { 
        @Override 
        public void run() { 
            for (int i = 0; i < maxCount; i++) { 
                long num = i * i + i; 
            } 
        } 
    } 
}

以上程序的執(zhí)行結(jié)果如下圖所示：

為了防止執(zhí)行的先后順序影響測(cè)試結(jié)果，下面我將線(xiàn)程池和線(xiàn)程調(diào)用方法打個(gè)顛倒，執(zhí)行結(jié)果如下圖所示：

總結(jié)從線(xiàn)程和線(xiàn)程池的測(cè)試結(jié)果來(lái)看，當(dāng)我們使用池化技術(shù)時(shí)，程序的性能可以提升 10 倍。此測(cè)試結(jié)果并不代表池化技術(shù)的性能量化結(jié)果，因?yàn)闇y(cè)試結(jié)果受執(zhí)行方法和循環(huán)次數(shù)的影響，但巨大的性能差異足以說(shuō)明池化技術(shù)的優(yōu)勢(shì)所在。

無(wú)獨(dú)有偶，阿里巴巴的《Java開(kāi)發(fā)手冊(cè)》中也強(qiáng)制規(guī)定「線(xiàn)程資源必須通過(guò)線(xiàn)程池提供，不允許在應(yīng)用中自行顯式創(chuàng)建線(xiàn)程」規(guī)定如下：