面試官：談?wù)勀銓?duì)零拷貝的理解？
零拷貝（Zero-copy）技術(shù)是一種計(jì)算機(jī)操作系統(tǒng)中用于提高數(shù)據(jù)傳輸效率的優(yōu)化策略。在傳統(tǒng)的數(shù)據(jù)傳輸過(guò)程中，需要將數(shù)據(jù)從一個(gè)緩沖區(qū)拷貝到另一個(gè)緩沖區(qū)，然后再傳輸給目標(biāo)。這涉及到多次的 CPU 和內(nèi)存之間的數(shù)據(jù)拷貝操作，會(huì)消耗 CPU 的時(shí)間和內(nèi)存帶寬。
而零拷貝技術(shù)通過(guò)直接共享數(shù)據(jù)的內(nèi)存地址，避免了中間的拷貝過(guò)程，從而提高了數(shù)據(jù)傳輸?shù)男省?/span>
1.傳統(tǒng) IO 執(zhí)行流程
要搞明白零拷貝技術(shù)就要先搞清楚傳統(tǒng) IO 的執(zhí)行流程，傳統(tǒng)的 IO 的執(zhí)行流程如下：
1.1 用戶(hù)態(tài)和內(nèi)核態(tài)
操作系統(tǒng)有用戶(hù)態(tài)和內(nèi)核態(tài)之分，這是因?yàn)橛?jì)算機(jī)體系結(jié)構(gòu)中的操作系統(tǒng)設(shè)計(jì)了兩個(gè)不同的執(zhí)行環(huán)境，以提供不同的功能和特權(quán)級(jí)別。
- 用戶(hù)態(tài)（User Mode）是指應(yīng)用程序運(yùn)行時(shí)的執(zhí)行環(huán)境。在用戶(hù)態(tài)下，應(yīng)用程序只能訪問(wèn)受限資源，如應(yīng)用程序自身的內(nèi)存空間、CPU 寄存器等，并且不能直接訪問(wèn)操作系統(tǒng)的底層資源和硬件設(shè)備。
- 內(nèi)核態(tài)（Kernel Mode）是指操作系統(tǒng)內(nèi)核運(yùn)行時(shí)的執(zhí)行環(huán)境。在內(nèi)核態(tài)下，操作系統(tǒng)具有更高的權(quán)限，可以直接訪問(wèn)系統(tǒng)的硬件和底層資源，如 CPU、內(nèi)存、設(shè)備驅(qū)動(dòng)程序等。
1.2 DMA
DMA（Direct Memory Access，直接內(nèi)存訪問(wèn)）技術(shù)，繞過(guò) CPU，直接在內(nèi)存和外設(shè)之間進(jìn)行數(shù)據(jù)傳輸。這樣可以減少 CPU 的參與，提高數(shù)據(jù)傳輸?shù)男省?/span>
2.零拷貝技術(shù)的實(shí)現(xiàn)
零拷貝技術(shù)可以利用 Linux 下的 MMap、sendFile 等手段來(lái)實(shí)現(xiàn)，使得數(shù)據(jù)能夠直接從磁盤(pán)映射到內(nèi)核緩沖區(qū)，然后通過(guò) DMA 傳輸?shù)骄W(wǎng)卡緩存，整個(gè)過(guò)程中 CPU 只負(fù)責(zé)管理和調(diào)度，而無(wú)需執(zhí)行實(shí)際的數(shù)據(jù)復(fù)制指令。
2.1 MMap
MMap（Memory Map）是 Linux 操作系統(tǒng)中提供的一種將文件映射到進(jìn)程地址空間的一種機(jī)制，通過(guò) MMap 進(jìn)程可以像訪問(wèn)內(nèi)存一樣訪問(wèn)文件，而無(wú)需顯式的復(fù)制操作。
使用 MMap 可以把 IO 執(zhí)行流程優(yōu)化成以下執(zhí)行步驟：
傳統(tǒng)的 IO 需要四次拷貝和四次上下文（用戶(hù)態(tài)和內(nèi)核態(tài)）切換，而 MMap 只需要三次拷貝和四次上下文切換，從而能夠提升程序整體的執(zhí)行效率，并且節(jié)省了程序的內(nèi)存空間。
2.2 senFile 方法
在 Linux 操作系統(tǒng)中 sendFile() 是一個(gè)系統(tǒng)調(diào)用函數(shù)，用于高效地將文件數(shù)據(jù)從內(nèi)核空間直接傳輸?shù)骄W(wǎng)絡(luò)套接字（Socket）上，從而實(shí)現(xiàn)零拷貝技術(shù)。這個(gè)函數(shù)的主要目的是減少 CPU 上下文切換以及內(nèi)存復(fù)制操作，提高文件傳輸性能。
使用 sendFile() 可以把 IO 執(zhí)行流程優(yōu)化成以下執(zhí)行步驟：
3.哪些地方用到了零拷貝技術(shù)？
在 Java 中，以下幾個(gè)地方使用了零拷貝技術(shù)：
- NIO（New I/O）通道：java.nio.channels.FileChannel 提供了 transferTo() 和 transferFrom() 方法，可以直接將數(shù)據(jù)從一個(gè)通道傳輸?shù)搅硪粋€(gè)通道，例如從文件通道直接傳輸?shù)?Socket 通道，整個(gè)過(guò)程無(wú)需將數(shù)據(jù)復(fù)制到用戶(hù)空間緩沖區(qū)，從而實(shí)現(xiàn)了零拷貝。
- Socket Direct Buffer：在 JDK 1.4 及更高版本中，Java NIO 支持使用直接緩沖區(qū)（DirectBuffer），這類(lèi)緩沖區(qū)是在系統(tǒng)堆外分配的，可以直接由網(wǎng)卡硬件進(jìn)行 DMA 操作，減少數(shù)據(jù)在用戶(hù)態(tài)與內(nèi)核態(tài)之間復(fù)制次數(shù) ，提高網(wǎng)絡(luò)數(shù)據(jù)發(fā)送效率。
- Apache Kafka 或者 Netty 等高性能框架：這些框架在底層實(shí)現(xiàn)上通常會(huì)利用 Java NIO 的上述特性來(lái)優(yōu)化數(shù)據(jù)傳輸，如 Kafka 生產(chǎn)者和消費(fèi)者在傳輸消息時(shí)會(huì)用到零拷貝技術(shù)以提升性能。
小結(jié)
使用零拷貝技術(shù)可以減少 CPU 拷貝，及減少了上下文的切換帶來(lái)的性能開(kāi)銷(xiāo)，提高了程序的整體執(zhí)行效率，它們的區(qū)別對(duì)比如下表格所示：
CPU 拷貝/次數(shù) | DMA 拷貝/次數(shù) | 上下文切換/次數(shù) | |
傳統(tǒng) IO | 2 | 2 | 4 |
MMap | 1 | 2 | 4 |
sendFile() | 1 | 2 | 2 |
課后思考
無(wú)論是傳統(tǒng) IO，還是零拷貝，其中兩次 DMA 拷貝都不能省略，這是為什么？零拷貝技術(shù)除了 MMap 和 sendFile() 之外，還有沒(méi)有其他的技術(shù)實(shí)現(xiàn)？
