本文經計算機視覺研究院公眾號授權轉載，轉載請聯系出處。

一、前言

目標檢測被認為是計算機視覺領域中最具挑戰性的問題之一，因為它涉及場景中對象分類和對象定位的組合。最近，與其他方法相比，深度神經網絡 (DNN) 已被證明可以實現卓越的目標檢測性能，其中YOLOv2是基于DNN的最先進技術之一。

目標檢測方法在速度和準確性方面。盡管YOLOv2可以在強大的GPU上實現實時性能，但在計算能力和內存有限的嵌入式計算設備上利用這種方法進行視頻中的實時目標檢測仍然非常具有挑戰性。

二、概要

在今天分享中，有研究者提出了一個名為Fast YOLO的新框架，這是一個快速的You Only Look Once框架，它可以加速YOLOv2以便能夠以實時方式在嵌入式設備上執行視頻中的目標檢測。

首先，利用進化深度智能框架來進化YOLOv2網絡架構，并產生一個優化的架構（這里稱為O-YOLOv2），其參數減少了2.8倍，IOU下降了約2%。為了在保持性能的同時進一步降低嵌入式設備的功耗，在提出的Fast YOLO框架中引入了一種運動自適應推理方法，以降低基于時間運動特性的O-YOLOv2深度推理的頻率。實驗結果表明，與原始YOLOv2相比，所提出的Fast YOLO框架可以將深度推理的數量平均減少38.13%，視頻中目標檢測的平均加速約為3.3倍，導致Fast YOLO運行在Nvidia Jetson TX1嵌入式系統上平均約為18FPS。

三、新框架

提出的Fast YOLO框架分為兩個主要部分：i）優化的YOLOv2架構，以及ii運動自適應推理（見上圖）。對于每個視頻幀，由帶有參考幀的視頻幀組成的圖像堆棧被傳遞到1×1卷積層。卷積層的結果是一個運動概率圖，然后將其送入運動自適應推理模塊以確定是否需要深度推理來計算更新的類概率圖。正如介紹中提到的，主要目標是引入一個視頻中的目標檢測框架，該框架可以在嵌入式設備上更快地執行，同時減少資源使用，從而顯著降低功耗。通過利用這種運動自適應推理方法，深度推理的頻率大大降低，并且僅在必要時執行。

深度神經網絡的主要挑戰之一，尤其是在將它們用于嵌入式場景時，是網絡架構設計。設計過程通常由人類專家執行，他探索大量網絡配置，以在建模精度和參數數量方面為特定任務找到最佳架構。尋找優化的網絡架構目前通常作為超參數優化問題來解決，但這種解決問題的方法非常耗時，而且大多數方法對于大型網絡架構來說要么在計算上難以處理，要么導致次優解決方案不夠嵌入式使用。

例如，超參數優化的一種常用方法是網格搜索，其中檢查大量不同的網絡配置，然后選擇最佳配置作為最終的網絡架構。然而，為視頻中的目標檢測而設計的深度神經網絡（如YOLOv2）具有大量參數，因此在計算上難以搜索整個參數空間以找到最佳解決方案。

因此，研究者沒有利用超參數優化方法來獲得基于YOLOv2的最佳網絡架構，而是利用專為提高網絡效率而設計的網絡優化策略。特別是，研究者利用進化深度智能框架來優化網絡架構，以合成滿足嵌入式設備內存和計算能力限制的深度神經網絡。

為了進一步降低處理器單元的功耗，用于視頻中的嵌入式目標檢測，研究者利用了這樣一個事實，即并非所有捕獲的視頻幀都包含唯一信息，因此不需要對所有幀進行深度推理。因此，研究者引入了一種運動自適應推理方法來確定特定視頻幀是否需要深度推理。通過在必要時使用前面介紹的O-YOLOv2網絡進行深度推理，這種運動自適應推理技術可以幫助框架減少對計算資源的需求，從而顯著降低功耗系統以及處理速度的提高。

四、實驗

原始YOLOv2網絡架構與優化后的YOLOv2之間的架構和性能比較

提出的Fast YOLO、O-YOLOv2和原始YOLOv2在Nvidia Jetson TX1嵌入式系統上運行的平均運行時性能和深度推理頻率。