GPU架構(gòu)與渲染性能優(yōu)化

作者：移動(dòng)Labs 2023-11-18 19:46:07

本文結(jié)合現(xiàn)代GPU架構(gòu)及邏輯管線執(zhí)行，簡(jiǎn)單闡述這些性能優(yōu)化背后的原理。

Labs 導(dǎo)讀

在開(kāi)發(fā)圖形渲染應(yīng)用時(shí)，渲染性能優(yōu)化是一個(gè)繞不開(kāi)的主題，開(kāi)發(fā)者往往遵循一些優(yōu)化準(zhǔn)則來(lái)構(gòu)建自己的應(yīng)用程序，包括數(shù)據(jù)合并、模型減面、減少采樣次數(shù)、減少不必要渲染等。本文結(jié)合現(xiàn)代GPU架構(gòu)及邏輯管線執(zhí)行，簡(jiǎn)單闡述這些性能優(yōu)化背后的原理。

Part 01、現(xiàn)代GPU架構(gòu)

早期GPU設(shè)計(jì)遵循硬件渲染管線理念，管線的每個(gè)功能階段都有對(duì)應(yīng)的硬件單元實(shí)現(xiàn)，這種設(shè)計(jì)導(dǎo)致整個(gè)渲染管線是固定功能的，開(kāi)發(fā)人員無(wú)法做更多地更改，只能通過(guò)圖形API實(shí)現(xiàn)相應(yīng)的功能，例如早期OpenGL提供圖形接口實(shí)現(xiàn)光照的設(shè)置。為服務(wù)更廣泛的科技業(yè)務(wù)需求，現(xiàn)代GPU設(shè)計(jì)則更加靈活，遵循邏輯渲染管線的理念，引入可編程部分，硬件單元得以復(fù)用以實(shí)現(xiàn)管線的每個(gè)功能階段。本文以抽象的Fermi架構(gòu)來(lái)闡述現(xiàn)代GPU結(jié)構(gòu)，如下圖所示。

主機(jī)接口（Host Interface）是GPU與CPU溝通的橋梁，用于進(jìn)行數(shù)據(jù)和指令的交換。大規(guī)模線程引擎（Giga Thread Engin）扮演大管家的角色，管理GPU中執(zhí)行的所有工作，包括線程塊與線程束調(diào)用，并行度調(diào)整等。核心工作部分則是圖形處理集群（Graphics Processing Cluster），即GPC，負(fù)載執(zhí)行圖形渲染任務(wù)，一個(gè)GPU的內(nèi)部可以有多個(gè)GPC，單個(gè)GPC內(nèi)部抽象結(jié)構(gòu)如下圖所示。

GPC中主要包含一個(gè)光柵化引擎（Raster Engine）和多個(gè)流式多處理器（Streaming Multiprocess, 即SM）。Raster Engine主要負(fù)責(zé)將圖元數(shù)據(jù)轉(zhuǎn)換為屏幕上的像素，SM主要用于執(zhí)行開(kāi)發(fā)人員編寫(xiě)的著色器代碼，內(nèi)部包含多個(gè)數(shù)學(xué)運(yùn)算核心。SM的抽象結(jié)構(gòu)如下圖所示。

幾何處理引擎（Poly Morph Engine）主要進(jìn)行幾何處理和數(shù)據(jù)準(zhǔn)備工作，在下述邏輯管線執(zhí)行部分將介紹其部分功能。SM中緩存主要包括：

1??指令緩存（Instruction Cache），用于存儲(chǔ)指令及指令所需的數(shù)據(jù)。

2??共享內(nèi)存（Shared Memory），用于管線不同功能階段數(shù)據(jù)的存儲(chǔ)與傳遞。

3??Uniform變量緩存（Unifrom Cache），用于存儲(chǔ)共享的Uniform變量數(shù)據(jù)，以便多個(gè)執(zhí)行線程高效訪問(wèn)這些數(shù)據(jù)。

4??紋理緩存（Texture Cache），用于緩存紋理數(shù)據(jù)，提高訪問(wèn)紋理數(shù)據(jù)的速度。

SM中的計(jì)算執(zhí)行部分主要包含線程束調(diào)度（Wrap Scheduler），分發(fā)單元（Dispatch Unit）以及32個(gè)計(jì)算核心（Core）。Wrap Scheduler負(fù)責(zé)線程束（wrap）的調(diào)度，一個(gè)wrap包含32個(gè)線程，這些線程的指令被提交給分發(fā)單元（Dispatch Unit），由Dispatch Unit分發(fā)給各個(gè)Core執(zhí)行，指令以鎖步（lock-step）方式執(zhí)行，即一個(gè)wrap中所有線程按照相同的控制流路徑同時(shí)執(zhí)行一個(gè)指令（單指令多線程）。

Part 02、邏輯管線執(zhí)行

上圖是簡(jiǎn)化的邏輯管線執(zhí)行過(guò)程，可分為CPU和GPU階段。在CPU部分，開(kāi)發(fā)者利用圖形API構(gòu)建應(yīng)用程序，通過(guò)drawcall發(fā)出指令，這些指令會(huì)被推送給驅(qū)動(dòng)，驅(qū)動(dòng)程序首先會(huì)進(jìn)行指令合法性檢測(cè)，然后將其存儲(chǔ)到Push Buffer中。

在GPU部分，接受到繪制請(qǐng)求后，GPU中的Host Interface會(huì)接受到這些指令數(shù)據(jù)，并交由Front End進(jìn)行分析處理，處理后的數(shù)據(jù)會(huì)發(fā)送給圖元分發(fā)器（Primitive Distributor），Primitive Distributor會(huì)把頂點(diǎn)數(shù)據(jù)組織成圖元數(shù)據(jù)形式，并將這些數(shù)據(jù)按批次發(fā)送給各個(gè)GPC。

數(shù)據(jù)和指令的轉(zhuǎn)送則是通過(guò)交叉柵（Cross Bar）進(jìn)行的。首先進(jìn)行幾何階段任務(wù)，上述SM中的Poly Morph Engine會(huì)執(zhí)行Vertex Fetch功能，即獲取頂點(diǎn)數(shù)據(jù)，然后依次執(zhí)行頂點(diǎn)著色器代碼（Vertex Shader）和幾何著色器代碼（Geometry Shader），這一過(guò)程則是上述提到線程指令在計(jì)算核心中以lock-step方式進(jìn)行，最后Poly Morph Engine會(huì)進(jìn)行視口變化（View Transform），為光柵化做準(zhǔn)備，丟棄不在視口范圍內(nèi)的頂點(diǎn)。

光柵化階段主要進(jìn)行光柵化、片段著色器（Fragment Shader）執(zhí)行以及逐片元處理。Raster Engine完成對(duì)視口內(nèi)頂點(diǎn)數(shù)據(jù)的光柵化，Poly Morph Engine會(huì)負(fù)責(zé)屬性設(shè)置（Attribute Setup），以方便光柵化時(shí)屬性數(shù)據(jù)的插值采用片段著色器友好格式。Fragment Shader執(zhí)行與上述Vertex Shader執(zhí)行一樣，唯一不同是Vertex Shader是按頂點(diǎn)并行進(jìn)行的，而Fragment Shader是按像素并行進(jìn)行的。Fragment Shader產(chǎn)生的結(jié)果通過(guò)Cross Bar傳給渲染輸出單元（Render Output Unit），Render Output Unit會(huì)以原子方式進(jìn)行逐片元處理，包括模版測(cè)試、深度測(cè)試、像素混合等。最終生成的結(jié)果被存儲(chǔ)在幀緩沖（Framebuffer）中。

Part 03、性能優(yōu)化

在開(kāi)發(fā)圖形應(yīng)用時(shí)，開(kāi)發(fā)者往往需要遵從一些渲染性能優(yōu)化原則編寫(xiě)自己的程序。結(jié)合上述GPU架構(gòu)與邏輯管線執(zhí)行流程，依次闡述其中的原理。

減少drawcall

從上述的流程執(zhí)行可以看出，渲染的過(guò)程是復(fù)雜的，渲一個(gè)三角行與渲染多個(gè)三角行執(zhí)行的過(guò)程是一致的，為了發(fā)揮GPU強(qiáng)大的并行能力，需要開(kāi)發(fā)者在每次繪制時(shí)，向GPU發(fā)送足夠的渲染數(shù)據(jù)，以便最大限度的利用GPU。其次，drawcall并不是直接繪制，而是將指令與數(shù)據(jù)發(fā)送給GPU，過(guò)多的drawcall會(huì)增加CPU與GPU的通信開(kāi)銷。上述PushBuffer可以減少CPU與GPU的通信開(kāi)銷，CPU寫(xiě)入指令，當(dāng)PushBuffer中填充完成，CPU將整個(gè)PushBuffer一次性發(fā)送給GPU，減少CPU與GPU間的通信次數(shù)。實(shí)踐中，可以采用網(wǎng)格數(shù)據(jù)合并、實(shí)例繪制等方式減少drawcall調(diào)用。

減少紋理采樣次數(shù)

采樣是指從紋理中獲取像素顏色的過(guò)程。紋理采樣需要從GPU內(nèi)存中讀取紋理數(shù)據(jù)，這是一個(gè)相對(duì)較慢的過(guò)程，讀取跟不上運(yùn)算速度從而導(dǎo)致延遲。在GPU中，為了處理由于數(shù)據(jù)沒(méi)準(zhǔn)備好而引起的線程執(zhí)行延遲，Wrap調(diào)度器會(huì)掛起當(dāng)前延遲的Wrap，選擇可立即執(zhí)行的Wrap執(zhí)行。在SM中存在Texture Cache，以緩存紋理數(shù)據(jù)，提高采樣效率。在實(shí)踐中，可通過(guò)多重采樣（multisample）實(shí)現(xiàn)反走樣，但由于采樣次數(shù)的增加，渲染性能也會(huì)下降。

減少模型頂點(diǎn)數(shù)

頂點(diǎn)數(shù)據(jù)的處理主要在幾何階段，Vertex Shader的執(zhí)行是按照頂點(diǎn)并行的，計(jì)算核心的個(gè)數(shù)是固定，頂點(diǎn)越少，所需執(zhí)行線程的越少，完成所有線程執(zhí)行花費(fèi)的時(shí)間也就越少。在實(shí)踐中，可以采用低精度模型結(jié)合法向貼圖的模型替代高精度模型，也可使用LOD技術(shù)動(dòng)態(tài)切換不同精度的模型。

避免著色器中的分支語(yǔ)句

著色器代碼指令是按照l(shuí)ock-step方式執(zhí)行的，假設(shè)著色器代碼中存在if-else語(yǔ)句，在一個(gè)Wrap中有32個(gè)線程，其中只有1個(gè)線程條件為真執(zhí)行if語(yǔ)句，剩下31個(gè)線程均執(zhí)行else語(yǔ)句，在執(zhí)行if語(yǔ)句時(shí)，剩下31個(gè)線程會(huì)等待，當(dāng)31個(gè)線程執(zhí)行else語(yǔ)句時(shí)，執(zhí)行if的線程會(huì)等待，即相當(dāng)于每個(gè)線程if與else語(yǔ)句均執(zhí)行了一次，整體執(zhí)行流程如下圖所示。在實(shí)踐中，可以利用著色器提供的step函數(shù)來(lái)規(guī)避分支語(yǔ)句的編寫(xiě)。

減少不必要渲染

實(shí)踐中運(yùn)用較多的技術(shù)是遮擋剔除與Early z。遮擋剔除一般是在CPU端判斷物體是否在場(chǎng)景的虛擬視線范圍內(nèi)，以剔除不在視線范圍內(nèi)的物體，減少不必要的渲染。Early z則是現(xiàn)代GPU硬件所支持的優(yōu)化技術(shù)，當(dāng)光柵化結(jié)束，Raster Engine會(huì)進(jìn)行Early z，比較片元深度值，剔除那些在深度方向被遮擋的片元，以減少后續(xù)片元著色器的工作量，Early z類似于提前進(jìn)行了ROP階段的深度測(cè)試。