API網關選型：我用OpenResty！
今天跟大家聊一下關于網關選型的話題，為什么我最后選擇了 OpenResty?
圖片來自 包圖網
互聯網公司，不論體量大小如何，其內部的技術架構基本都是相似的，體現在以下幾個方面：
- 數據量過大，如何定制化存儲
- 訪問量高了，如何集群化部署，流量負載均衡
- 響應速度慢了，如何提高處理速度，引入多級緩存
- 如果機器多了，如何保證某臺服務器突然抽風，不影響業務集群的服務穩定性
麻雀雖小五臟俱全，今天要講的網關，就是其中的關鍵一環，不論公司規模大小如何，基本都要有這個系統。那么網關是干什么用的?
什么是網關
網關是連接客戶端與服務端的中間橋梁，將很多通用地、非業務邏輯抽離，前置到網關系統，減少了很多重復性開發工作，是整個網站的唯一流量入口。
為了提高系統的擴展性，網關通常采用組件式架構，高內聚低耦合。
常用的組件功能：
- 黑名單攔截
- 日志
- 參數校驗
- 鑒權
- 限流
- 負載均衡
- 路由轉發
- 監控
- 灰度分流
- 多協議支持
- 熔斷、降級、重試、數據聚合等
系統設計上一般采用責任鏈設計模式，定義好抽象接口，每個組件實現自己的專屬功能，職責單一。
并且根據不同的業務請求 API，添加、刪除一些節點，動態構建新的節點鏈，從而滿足多樣化的業務需求。
網關選型
目前比較常見的網關如下：
- Tomcat/Jetty+NIO+Servlet3
- Nginx
- Spring WebFlux
- Soul
- Spring cloud Gateway
- Zuul
- OpenResty
- Kong
- Netty 自建
各個框架的資料網上基本都有，考慮到篇幅限制，這里就不展開分析每個框架的優缺點。
我們計劃選型 OpenResty，主要有以下幾個原因：
- 能實現跨網絡的 gRPC 請求轉發，底層采用 HTTP/2 協議。
- 支持 SSL/TLS 證書加密，通訊安全。
- 性能方面，支持較高的并發請求。
- 性能開銷低，延遲少。
翻牌 OpenResty
下圖是 Netcraft 最新統計的 2021年10月 Web 服務器排行榜：
Netcraft 是一家總部位于英國巴斯始于 1995 年的互聯網服務公司。該公司官網每月發布的調研數據報告：Web Server Survey 系列，已成為當今人們了解全球網站的服務器市場份額。
OpenResty 現在全球排名第三，由于將 Nginx 擴展成動態服務器，發展勢頭很猛。
我們常用的 12306 的余票查詢功能，京東的商品詳情頁，這些高流量的背后，其實都是 OpenResty 在提供服務。
OpenResty 最擅長的是部署在流量入口處，處理各種高并發流量。接下來，我們來深入了解下這個框架。
OpenResty 誕生起因
Nginx 采用 master-worker 進程模型，分工明確，職責單一，也是其具備高性能的原因之一。
①master 進程
管理進程，處理指令如：-s reload、-s stop，通過進程間通信，將管理指令發送給 worker 進程，從而實現對 worker 進程的控制。
②worker 進程
工作進程，不斷接收客戶端的連接請求，處理請求。數量通常設置為與 CPU 核數一致，Nginx 也會將每個進程與每個 CPU 進行綁定，充分利用其多核特性。
多個 worker 進程會競爭一個共享鎖，只有搶到鎖的進程才能處理客戶端的請求。
如果請求是 accept 事件，則會將其添加到 accept 隊列中;如果是 read 或者 write 事件，則會將其添加到 read-write 隊列。
可能有人問，OpenResty 為什么要基于 Nginx 框架?
主要還是看重了 Nginx 的高并發能力，反向代理服務器通常流量很大，本身不涉及復雜計算，屬于 I/O 密集型服務。
Nginx 采用基于 epoll 機制的事件驅動，異步非阻塞，大大提高并發處理能力。
但是 Nginx 采用 C 語言開發，二次開發門檻較高。市場應用廣泛，更多是基于 nginx.conf 預留配置參數，如：反向代理、負載均衡、靜態 web 服務器等。
如果想讓 Nginx 訪問 MySQL ，定制化開發一些業務邏輯，難度很高。
OpenResty 通過嫁接方式，將 Nginx 和 Lua 腳本相結合，既保留 Nginx 高并發優勢，也擁有腳本語言的開發效率，也大大降低了開發門檻。
Lua 是最快的、動態腳本語言，接近 C 語言運行速度。LuaJIT 將一些常用的 lua 函數和工具庫預編譯并緩存，下次調用時直接使用緩存的字節碼，速度很快。
另外，Lua 支持協程，這個很重要。協程是用戶態的操作，上下文切換不用涉及內核態，系統資源開銷小;另外協程占用內存很小，初始 2KB。
OpenResty 核心架構
OpenResty 是一個基于 Nginx 的 Web 平臺，內部嵌入 LuaJIT 虛擬機運行 Lua 腳本。使用 Lua 編程語言對 Nginx 核心以及各種 Nginx C 模塊進行腳本編程。
如上圖：
- 每接到一個客戶端請求，通過搶占鎖，由一個 worker 進程來跟進處理。
- worker 內部會創建一個 lua 協程，綁定請求，也就是說一個請求對應一個 lua 協程。
- lua 協程將請求通過網絡發出，并添加一個 event 事件到 nginx。然后，當前協程就處于 yield，讓出 CPU 控制權。
- 當服務端響應數據后，網絡流程會創建一個新的 event 事件，將之前的協程喚醒，將結果返回。
注意：不同的 lua 協程之間數據隔離，從而保證了不同的客戶端請求不會相互影響。另外，一個 worker 中同一時刻，只會有一個協程在運行。
cosocket 將 Lua 協程 + Nginx 事件通知兩個重要特性組合。cosocket 是 OpenResty 世界中技術、實用價值最高部分。
讓我們可以用非常低廉的成本，優雅的姿勢，比傳統 socket 編程效率高好幾倍的方式進行網絡編程。無論資源占用、執行效率、并發能力都非常出色。
為了方便開發，OpenResty 將一個 HTTP 請求劃分為 11 個階段，每個階段有自己的專屬職責。
函數功能說明：
- set_by_lua，用于設置變量。
- rewrite_by_lua，用于轉發、重定向等。
- access_by_lua，用于準入、權限等。
- content_by_lua，用于生成返回內容。
- balancer_by_lua，負載均衡，路由轉發。
- header_filter_by_lua，用于響應頭過濾處理。
- body_filter_by_lua，用于響應體過濾處理。
- log_by_lua，日志記錄。
OpenResty 提供了大量的 Lua API 接口，用于操作 Nginx 。只要熟悉 lua 語法，同時對 Nginx 的運行流程有較清楚理解，那么就可以輕松的在 Nginx 上做二次開發。
無論是作為應用網關，還是高性能的 web 應用，支持連接各種豐富的后端存儲，如：MySQL、Redis、Memcache、PostgreSQL 等，周邊生態非常豐富。
- https://github.com/openresty/lua-nginx-module/#accessbylua
注意：OpenResty 的 API 有使用范圍限制，每個 API 都有與之對應的使用階段列表，如果你超范圍使用就會報錯。
①部署安裝
本文以 CentOS 系統中為例。
添加 openresty 倉庫，這樣以后可以通過 yum updata 命令安裝或更新我們的軟件包：
- yum install yum-utils -y
- yum-config-manager --add-repo https://openresty.org/package/centos/openresty.repo
安裝軟件：
- yum install openresty -y
安裝命令行工具 resty：
- yum install openresty-resty -y
②項目實戰
修改 nginx.conf 配置文件：
- worker_processes auto;
- worker_rlimit_nofile 1000000;
- events {
- use epoll;
- worker_connections 150000;
- }
- http {
- include mime.types;
- default_type application/octet-stream;
- log_format main '$remote_addr - $remote_user [$time_local] "$request" '
- '$status $content_length $body_bytes_sent "$http_referer" '
- '"$http_user_agent" "$http_x_forwarded_for" "$upstream_response_time" "$request_time"';
- access_log logs/access.log main;
- server {
- listen 8080;
- location / {
- access_by_lua_block {
- local headers = ngx.req.get_headers(0)
- local trace_id= headers["X-Trace-Id"]
- ngx.log(ngx.ERR, trace_id)
- }
- # ngx.say("<p>hello !</p>")
- proxy_pass http://168.12.8.10:8080;
- }
- }
- server {
- listen 8082;
- location / {
- default_type text/html;
- content_by_lua_block {
- ngx.say("<p>Hello Openresty!</p>")
- }
- }
- }
- }
nginx.conf 內部分為三層嵌套：
- 最外層的 http，表示處理 HTTP 協議。
- http 內部 的 server 監聽端口，會啟動一個 LuaJIT 虛擬機，執行lua代碼
- 同一個端口內部，區分不同的業務功能，采用 location 配置，通過不同的 path 路徑，處理不同的業務邏輯。
添加環境變量：
- echo "export PATH=$PATH:/usr/local/openresty/nginx/sbin" >> /etc/profile
- source /etc/profile
啟動 openresty，啟動命令和 nginx 一致：
- nginx -c /usr/local/openresty/nginx/conf/nginx.conf
訪問 Web 服務：
- curl http://localhost:8082/
如果正常，瀏覽器頁面會輸出 Hello Openresty!
如果 nginx.conf 配置項做了修改，我們可以重新啟動：
- nginx -s reload
作者：Tom哥
編輯：陶家龍
來源：轉載自公眾號微觀技術(ID：weiguanjishu)
