一、如何通過連接訪問下游

工程架構中有很多訪問下游的需求，下游包括但不限于服務/數據庫/緩存，其通訊步驟是為：

(1)與下游建立一個連接

(2)通過這個連接，收發請求

(3)交互結束，關閉連接，釋放資源

這個連接是什么呢，通過連接怎么調用下游接口?服務/數據庫/緩存，官方會提供不同語言的Driver、Document、DemoCode來教使用方建立連接與調用接口，以MongoDB的C++官方Driver API為例(偽代碼)：

MongoDB的C++官方Driver API為例（偽代碼）： 
DBClientConnection* c = new DBClientConnection(); 
c->connect(“127.0.0.1:8888”); 
c->insert(“db.s”, BSON(”shenjian”)); 
c->close(); 

 

這個DBClientConnection就是一個與MongoDB的連接，官方Driver通過它提供了若干API，讓用戶可以對MongoDB進行連接，增刪查改，關閉的操作，從而實現不同的業務邏輯。

[[180745]]

二、為什么需要連接池

當并發量很低的時候，上述偽代碼沒有任何問題，但當服務單機QPS達到幾百、幾千的時候，建立連接connect和銷毀連接close就會成為瓶頸，此時該如何優化?

結論也很簡單，服務啟動的時候，先建立好若干連接Array[DBClientConnection]，當有請求過來的時候，從Array中取出一個，執行下游操作，執行完再放回，從而避免反復的建立和銷毀連接，以提升性能。

而這個對Array[DBClientConnection]進行維護的數據結構，就是連接池。有了連接池之后，數據庫操作的偽代碼變為：

DBClientConnection* c = ConnectionPool::GetConnection(); 
c->insert(“db.s”, BSON(”shenjian”)); 
ConnectionPool::FreeConnection(c); 

三、連接池核心接口與實現

通過上面的討論，可以看到連接池ConnectionPool主要有三個核心接口：

(1)Init：初始化好Array[DBClientConnection]，這個接口只在服務啟動時調用一次

(2)GetConnection：請求每次需要訪問數據庫時，不是connect一個連接，而是通過連接池的這個接口來拿

(3)FreeConnection：請求每次訪問完數據庫時，不是close一個連接，而是把這個連接放回連接池

連接池核心數據結構：

(1)連接數組Array DBClientConnection [N]

(2)互斥鎖數組Array lock[N]

連接池核心接口實現：

Init(){ 
 for i = 1 to N { 
  Array DBClientConnection [i] = new(); 
  Array DBClientConnection [i]->connect(); 
  Array lock[i] = 0; 
 } 
} 

說明：把所有連接和互斥鎖初始化

GetConnection() 
 for i = 1 to N { 
  if(Array lock[i] == 0){ 
   Array lock[i] = 1; 
   return Array DBClientConnection[i]; 
   } 
 } 
} 

說明：找一個可用的連接，鎖住，并返回連接

FreeConnection(c) 
 for i = 1 to N { 
 if(Array DBClientConnection [i] == c){ 
   Array lock[i] = 0; 
   } 
  } 
} 

說明：找到連接，把鎖釋放

可以發現，簡單的連接池管理并不是很復雜，基本原理即如上所述。

四、未盡事宜

上述偽代碼忽略了一些細節，在實現連接池中是需要考慮的：

(1)如果連接全部被占用，是返回失敗，還是讓上游等待

(2)需要實施連接可用性檢測

(3)為了讓調用方更友好，可能還需要包裝一層DAO層，讓“連接”這個東西對調用方都是黑盒的

(4)通過freeArray，connectionMap可以讓取連接和放回連接都達到O(1)時間復雜度

(5)可以通過hash實現id串行化

(6)負載均衡、故障轉移、服務自動擴容都可以在這一層實現

【本文為51CTO專欄作者“58沈劍”原創稿件，轉載請聯系原作者】

戳這里，看該作者更多好文