背景介紹

卡塔爾世界杯已經結束，29 天賽程，64 場比賽，最終梅西帶領阿根廷時隔三十六年再次捧杯。世界杯期間，抖音提供的穩定高質直播畫面為觀眾帶來了完美的觀賽體驗，決賽的 PCU 高達 3700W+。

世界杯賽事涉及鏈路眾多，如何保障各鏈路的畫質穩定并進一步提升畫質，是一個巨大的挑戰。本文主要介紹火山引擎多媒體實驗室在世界杯期間畫質的相關工作。

畫質優化鏈路

世界杯涉及鏈路較長，可簡化為下圖流程，FIFA 現場信號首先傳到央視端進行合規安全處理，然后經過演播室的制作傳輸給 CDN 再進一步分發到用戶側。從畫質角度來看整個鏈路可分為畫質檢測與畫質優化兩個部分，對于 CDN 之前的鏈路以畫質監測為主，以發現問題/定位問題/推動對應鏈路人員解決問題為目的。畫質優化在 CDN 和客戶端兩側進行，下面的內容主要介紹畫質優化部分。

本次世界杯直播使用支持 HDR（高動態范圍）設備錄制，團隊對支持 HDR 的設備增加了 HDR 檔位，同時提供了多種不同分辨率/幀率的檔位。為了使得觀眾獲得更好的畫質體驗，團隊通過自研的自適應 ToneMapping，視頻降噪，ROI，端上超分等算法有效地提升了賽事畫質。

卡塔爾世界杯采用 HDR 拍攝方式，HDR 拍攝的片源擁有更廣的色域，更大的動態范圍。但對很多終端顯示設備而言，并不支持 HDR 信號播放，所以通過 ToneMapping 算法將 HDR 信號轉換為 SDR（標準動態范圍）信號是十分必要的。

相比 SDR 信號，HDR 信號擁有更廣的色域和更大的動態范圍，在轉換到 SDR 信號的過程中不可避免會產生一些信息損失。常用的一些 ToneMapping 方法，不論是 Reinhard，Filmic 或者 Hable，其本質都是設計固定的映射曲線實現從 HDR 到 SDR 的轉換，同時盡量保持對 HDR 效果的還原。但對于世界杯等大型賽事，現場動態范圍跨度極大，場館的燈光/草地/球員亮度差異明顯，觀眾感興趣的球員信息實際集中在暗部區域，這就導致 ToneMapping 之后的 SDR 信號過暗的問題，為了解決這一問題，團隊提出了內容自適應 ToneMapping 算法，通過統計視頻內容的實際光照情況動態地進行 ToneMapping，從而得到更優效果。

左: Hable 算法，右: 內容自適應 ToneMapping

為了兼顧視頻碼率和主觀畫質，團隊使用了基于 LSTM（長短期記憶網絡）的時域 ROI 技術，通過人眼顯著性區域檢測和編碼相結合的方式，讓碼率在畫面上的分配更加合理。目前市面上沒有專門針對足球場景的 saliency(顯著性物體檢測)數據集，通用的 saliency 數據集在世界杯這類特定場景中表現并不理想。針對這一問題，團隊專門制作了足球場景的 saliency 數據集，通過眼動儀追蹤球迷觀看球賽時的關注區域得到足球比賽的專用 saliency 數據集，從而極大增加了模型的準確性。針對足球場景中顯著性物體較多，顯著性區域分散的特點，團隊對檢測模型進行了專門的優化，在保證檢測速度的前提下，提高了模型的召回率和不同場景的魯棒性，從而實現更優的主觀質量。

注：紅色框內表示 ROI 區域，左邊為通用方案結果，右邊為優化結果

同時團隊使用了視頻降噪算法，根據視頻信息對其進行空域、時域噪聲的去除，將帶有噪聲的視頻處理成干凈、沒有噪聲的視頻。由于去除了視頻的噪聲，在提升視頻質量的基礎上同時降低了傳輸的碼率。由于用戶側網速的限制，端上存在多個檔位，當看播端網速較慢時，可能會切換到 480P/720P 等低分辨檔位，此時會觸發端上超分算法提升畫面清晰度。超分辨率技術指的是，基于機器學習/深度學習方法，根據視頻信息對其進行空域、時域建模重構出缺失的細節，將低分辨率的視頻重建出高分辨率視頻的技術。這樣即使是在低分辨檔位也能體驗到更清晰的畫質。

左：視頻降噪前，右：視頻降噪后

左：視頻超分前，右：視頻超分后

除此之外團隊還提供大分辨率、高幀率、廣色域，并使用色彩增強、自適應銳化等多種畫質增強技術，呈現更加沉浸感的超高清畫面。