騰訊女后端設(shè)計(jì)了一套短鏈系統(tǒng)，當(dāng)場就想給她 offer！
Hi，你好，我是猿java
如下圖，對于這種客評短信，相信大家并不陌生，通過點(diǎn)擊短信里“藍(lán)色字體”跳轉(zhuǎn)到一個(gè)具體的網(wǎng)頁。
其實(shí)，上圖中那串藍(lán)色字符，有個(gè)美麗的專業(yè)術(shù)語：短鏈。它可以是一個(gè) URL地址，也可以是一個(gè)二維碼。而整個(gè)跳轉(zhuǎn)流程的背后是一套完整的短鏈系統(tǒng)，因此，今天我們來一起分析：如何設(shè)計(jì)一套高性能短鏈系統(tǒng)。
一、為什么需要短鏈？
存在即合理，這里列舉三個(gè)主要原因。
(1) 相對安全
短鏈不容易暴露訪問參數(shù)，生成方式可以完全迎合短信平臺的規(guī)則，能夠有效地規(guī)避關(guān)鍵詞、域名屏蔽等風(fēng)險(xiǎn)，而原始 URL地址，很可能因?yàn)榘厥庾址欢绦畔到y(tǒng)誤判，導(dǎo)致鏈接無法跳轉(zhuǎn)。
(2) 美觀
對于精簡的文字，似乎更符合美學(xué)觀念，不太讓人產(chǎn)生反感。
(3) 平臺限制
短信發(fā)送平臺有字?jǐn)?shù)限制，在整條短信字?jǐn)?shù)不變的前提下，把鏈接縮短，其他部分的文字描述就能增加，這樣似乎更能達(dá)到該短信的實(shí)際目的（比如，營銷）。
二、短鏈的組成
如下圖，短鏈的組成通常包含兩個(gè)部分：域名 + 隨機(jī)碼
短鏈的域名最好和其他業(yè)務(wù)域名分開，而且要盡量簡短，可以不具備業(yè)務(wù)含義（比如：xyz.com），因?yàn)槎替湸蟛糠质怯糜跔I銷，可能會(huì)被三方平臺屏蔽。
短鏈的隨機(jī)碼需要全局唯一，建議 10位以下。
三、短鏈的跳轉(zhuǎn)原理
首先，我們先看一個(gè)短鏈跳轉(zhuǎn)的簡單例子，如下代碼，定義了一個(gè) 302重定向的代碼示例：
import org.springframework.stereotype.Controller;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.servlet.view.RedirectView;
@Controller
publicclass RedirectController {
@GetMapping("/{shortCode}")
public RedirectView redirect(@PathVariable String shortCode) {
String destUrl = "https://yuanjava.com";
// destUrl = getDestUrlByShortCode(shortCode); //真實(shí)的業(yè)務(wù)邏輯
returnnew RedirectView(destUrl);
}接著，在瀏覽器訪問短鏈”http://127.0.0.1:8080/s2TYdWd” 后，請求會(huì)被重定向到 https://yuanjava.com ，下圖為瀏覽器控制臺信息：
從上圖，我們看到了 302狀態(tài)碼并且請求被 Location到另外一個(gè) URL，整個(gè)交互流程圖如下：
是不是有一種偷梁換柱的感覺？？？
最后，總結(jié)下短鏈跳轉(zhuǎn)的核心思想：
- 生成隨機(jī)碼，將隨機(jī)碼和目標(biāo) URL（長鏈）的映射關(guān)系存入數(shù)據(jù)庫；
- 用域名+隨機(jī)碼生成短鏈，并推送給目標(biāo)用戶；
- 當(dāng)用戶點(diǎn)擊短鏈后，請求會(huì)先到達(dá)短鏈系統(tǒng)，短鏈系統(tǒng)根據(jù)隨機(jī)碼查找出對應(yīng)的目標(biāo) URL，接著將請求 302重定向到目標(biāo) URL（長鏈）；
關(guān)于重定向有 301 和 302兩種，如何選擇？
- 302，代表臨時(shí)重定向：每次請求短鏈，請求都會(huì)先到達(dá)短鏈系統(tǒng)，然后重定向到目標(biāo) URL（長鏈），這樣，方便短鏈系統(tǒng)做一些統(tǒng)計(jì)點(diǎn)擊數(shù)等操作；通常采用 302
- 301，代表永久重定向：第一次請求拿到目標(biāo)長鏈接后，下次再次請求短鏈，請求不會(huì)到達(dá)短鏈系統(tǒng)，而是直接跳轉(zhuǎn)到瀏覽器緩存的目標(biāo) URL（長鏈），短鏈系統(tǒng)只能統(tǒng)計(jì)到第一次訪問的數(shù)據(jù)；一般不采用 301。
四、如何生成短鏈？
從短鏈組成章節(jié)可知：短鏈=域名+隨機(jī)碼，因此，如何生成短鏈的問題變成了如何生成一個(gè)全局唯一的隨機(jī)碼，通常會(huì)有 3種做法：
1. Base62
Base62 表示法是一種基數(shù)為62的數(shù)制系統(tǒng)，包含26個(gè)英文大寫字母（A-Z），26個(gè)英文小寫字母（a-z）和10個(gè)數(shù)字（0-9）。這樣，共有62個(gè)字符可以用來表示數(shù)值。如下代碼：
import java.security.SecureRandom;
publicclass RandomCodeGenerator {
privatestaticfinal String CHAR_62 = "0123456789abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ";
privatestaticfinal SecureRandom random = new SecureRandom();
public static String generateRandomCode(int length) {
StringBuilder sb = new StringBuilder(length);
for (int i = 0; i < length; i++) {
int rndCharAt = random.nextInt(CHAR_62.length());
char rndChar = CHAR_62.charAt(rndCharAt);
sb.append(rndChar);
}
return sb.toString();
}
}對于 Base62算法，如果是生成 6位隨機(jī)數(shù)有 62^6 - 1 = 56800235583（568億多），如果是生成 7位隨機(jī)數(shù)有 62^7 - 1 = 3521614606208（3.5萬億多），足夠使用。
2. Hash算法
Hash算法是我們最容易想到的辦法，比如 MD5, SHA-1, SHA-256, MurmurHash, 但是這種算法生成的 Hash值還是比較長，常用的做法是把這個(gè) Hash值進(jìn)行 62/64進(jìn)行壓縮。
如下代碼，通過 Google的 MurmurHash算法把長鏈 Hash成一個(gè) 32位的 10進(jìn)制正數(shù)，然后再轉(zhuǎn)換成62進(jìn)制（壓縮），這樣就可以得到一個(gè) 6位隨機(jī)數(shù)，
import com.google.common.hash.HashFunction;
import com.google.common.hash.Hashing;
import java.nio.charset.StandardCharsets;
publicclass MurmurHashToBase62 {
privatestaticfinal String BASE62 = "0123456789abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ";
public static String toBase62(int value) {
StringBuilder sb = new StringBuilder();
while (value > 0) {
sb.insert(0, BASE62.charAt(value % 62));
value /= 62;
}
return sb.toString();
}
public static void main(String[] args) {
// 長鏈
String input = "https://yuanjava.cnposts/short-link-system/design?code=xsd&page=1";
// 長鏈利用 MurmurHash算法生成 32位 10進(jìn)制數(shù)
HashFunction hashFunction = Hashing.murmur3_32();
int hash = hashFunction.hashString(input, StandardCharsets.UTF_8).asInt();
if (hash < 0) {
hash = hash & 0x7fffffff; // Convert to positive by dropping the sign bit
}
// 將 32位 10進(jìn)制數(shù) 轉(zhuǎn)換成 62進(jìn)制
String base62Hash = toBase62(hash);
System.out.println("base62Hash:" + base62Hash);
}
}3. 全局唯一 ID
比如，很多大中型公司都會(huì)有自己全局唯一 ID 的生成服務(wù)器，可以使用這些服務(wù)器生成的 ID來保證全局唯一，也可以使用雪花算法生成全局唯一的ID，再經(jīng)過 62/64進(jìn)制壓縮。
五、如何解決沖突？
對于上述 3種方法的前 2種：Base62 或者 Hash算法，因?yàn)楸举|(zhì)上都是哈希函數(shù)，所以，不可避免地會(huì)產(chǎn)生哈希沖突，盡管沖突的概率已經(jīng)很低很低了，so，萬一沖突了，該如何解決呢？
要解決沖突，首先需要檢測 Hash沖突，通常來說有 2種檢測方法。
1. 數(shù)據(jù)庫鎖
這里以 MySQL數(shù)據(jù)庫為例，表結(jié)構(gòu)如下：
CREATE TABLE`short_url_map` (
`id`int(11) unsignedNOTNULL AUTO_INCREMENT,
`long_url`varchar(160) DEFAULTNULLCOMMENT'長鏈',
`short_url`varchar(10) DEFAULTNULLCOMMENT'短鏈',
`gmt_create`int(11) DEFAULTNULLCOMMENT'創(chuàng)建時(shí)間',
PRIMARY KEY (`id`),
UNIQUEINDEX'short_url' ('short_url')
) ENGINE=InnoDBDEFAULTCHARSET=utf8;首先創(chuàng)建一張長鏈和短鏈的關(guān)系映射表，然后通過給 short_url字段添加唯一鎖，這樣，當(dāng)數(shù)據(jù)插入時(shí)，如果存在 Hash沖突（short_url值相等），數(shù)據(jù)庫就會(huì)拋錯(cuò)，插入失敗，因此，可以在業(yè)務(wù)代碼里捕獲對應(yīng)的錯(cuò)誤，這樣就能檢測出沖突。
也可以先用 short_url去查詢，如果能查到數(shù)據(jù)，說明 short_url存在 Hash沖突了。
對于這種通過查詢數(shù)據(jù)庫或者依賴于數(shù)據(jù)庫唯一鎖的機(jī)制，因?yàn)槎忌婕癉B操作，對數(shù)據(jù)庫是一個(gè)額外的開銷，如果流量比較大的話，需要保證數(shù)據(jù)庫的性能。
2. 布隆過濾器
在 DB操作的上游增加一個(gè)布隆過濾器，在長鏈生成短鏈后， 先用短鏈在布隆過濾器中進(jìn)行查找，如果存在就代表沖突了，如果不存在，說明 DB里不存在此短鏈，可以插入。對于布隆過濾器的選擇，單機(jī)可以采用 Google的布隆過濾器，分布式可以使用 RedisBloom。
整體流程可以抽象成下圖：
檢測出了沖突，需要如何解決沖突？
再 Hash，可以在長鏈后面拼接一個(gè) UUID之類的隨機(jī)字符串，然后再次進(jìn)行 Hash，用得出的新值再進(jìn)行上述檢測，這樣 Hash沖突的概率又大大大降低了。
六、高并發(fā)場景的架構(gòu)
在流量不大的情況，上述方法怎么折騰似乎都合理，但是，為了架構(gòu)的健壯性，很多時(shí)候需要考慮高并發(fā)，大流量的場景，因此架構(gòu)需要支持水平擴(kuò)展，比如：
- 采用微服務(wù)
- 功能模塊分離，比如，短鏈生成服務(wù)和長鏈查詢服務(wù)分離
- 功能模塊需要支持水平擴(kuò)容，比如：短鏈生成服務(wù)和長鏈查詢服務(wù)能支持動(dòng)態(tài)擴(kuò)容
- 緩解數(shù)據(jù)庫壓力，比如，分區(qū)，分庫分表，主從，讀寫分離等機(jī)制
- 服務(wù)的限流，自保機(jī)制
- 完善的監(jiān)控和預(yù)警機(jī)制
這里給出一套比較完整的設(shè)計(jì)思路圖：
七、總結(jié)
本文通過一個(gè)客服評價(jià)的短信開始，分析了短鏈的構(gòu)成，短鏈跳轉(zhuǎn)的原理，同時(shí)也給出了業(yè)內(nèi)的一些實(shí)現(xiàn)算法，以及一些架構(gòu)上的建議。
對于業(yè)務(wù)體量小的公司，可以根據(jù)成本來搭建服務(wù)（單機(jī)或者少量服務(wù)器做負(fù)載），對于業(yè)務(wù)體量比較大的公司，更多需要考慮到高并發(fā)的場景，如何保證服務(wù)的穩(wěn)定性，如何支持水平擴(kuò)展，當(dāng)服務(wù)出現(xiàn)問題時(shí)如何具備一套完善的監(jiān)控和預(yù)警服務(wù)器。
其實(shí)，很多系統(tǒng)都是在一次又一次的業(yè)務(wù)流量挑戰(zhàn)下成長起來的，我們需要不斷打磨自己宏觀看架構(gòu)，微觀看代碼的能力，這樣自己也就跟著業(yè)務(wù)，系統(tǒng)一起成長起來了。
